มาตรการความปลอดภัยใหม่ของ Meta อาจเป็นดาบสองคมสำหรับวัยรุ่น

Meta ประกาศเมื่อวันที่ 9 มกราคม 2024 ว่าจะปกป้องผู้ใช้วัยรุ่นด้วยการบล็อกพวกเขาจากการดูเนื้อหาบน Instagram และ Facebook ที่บริษัทเห็นว่าเป็นอันตราย รวมถึงเนื้อหาที่เกี่ยวข้องกับการฆ่าตัวตายและความผิดปกติในการรับประทานอาหาร

ความเคลื่อนไหวดังกล่าวเกิดขึ้นในขณะที่รัฐบาลกลางและรัฐบาลของรัฐเพิ่มแรงกดดันต่อบริษัทโซเชียลมีเดียในการจัดเตรียมมาตรการด้านความปลอดภัยสำหรับวัยรุ่น

ในขณะเดียวกัน วัยรุ่นหันไปหาเพื่อนฝูงบนโซเชียลมีเดียเพื่อรับการสนับสนุนที่พวกเขาไม่สามารถหาได้จากที่อื่น ความพยายามในการปกป้องวัยรุ่นอาจทำให้พวกเขาได้รับความช่วยเหลือได้ยากขึ้นโดยไม่ได้ตั้งใจ

สภาคองเกรสจัดให้มีการพิจารณาคดีหลายครั้งในช่วงไม่กี่ปีที่ผ่านมาเกี่ยวกับโซเชียลมีเดียและความเสี่ยงต่อคนหนุ่มสาว

CEO ของ Meta, X ซึ่งเดิมชื่อ Twitter – TikTok, Snap และ Discord มีกำหนดจะให้การเป็นพยานต่อคณะกรรมการตุลาการของวุฒิสภาในวันที่ 31 มกราคม 2024 เกี่ยวกับความพยายามของพวกเขาในการปกป้องผู้เยาว์จากการแสวงหาประโยชน์ทางเพศ

บริษัทเทคโนโลยี “ในที่สุดก็ถูกบังคับให้ยอมรับความล้มเหลวของพวกเขาในการปกป้องเด็กๆ” ตามคำแถลงล่วงหน้าของการไต่สวนจากประธานคณะกรรมการและสมาชิกระดับสูง วุฒิสมาชิก Dick Durbin (D-Ill.) และ Lindsey Graham ( RS.C.) ตามลำดับ

ฉันเป็นนักวิจัยที่ศึกษาเรื่องความปลอดภัยทางออนไลน์ เพื่อนร่วมงานของฉันและฉันได้ศึกษาปฏิสัมพันธ์บนโซเชียลมีเดียของวัยรุ่นและประสิทธิผลของความพยายามของแพลตฟอร์มในการปกป้องผู้ใช้

การวิจัยแสดงให้เห็นว่าแม้วัยรุ่นต้องเผชิญกับอันตรายบนโซเชียลมีเดีย แต่พวกเขายังได้รับการสนับสนุนจากเพื่อน โดยเฉพาะผ่านการส่งข้อความโดยตรง

เราได้ระบุชุดขั้นตอนที่แพลตฟอร์มโซเชียลมีเดียสามารถทำได้เพื่อปกป้องผู้ใช้ในขณะเดียวกันก็ปกป้องความเป็นส่วนตัวและความเป็นอิสระทางออนไลน์ด้วย

สิ่งที่เด็กกำลังเผชิญอยู่

ความชุกของความเสี่ยงสำหรับวัยรุ่นบนโซเชียลมีเดียเป็นที่ยอมรับกันดี ความเสี่ยงเหล่านี้มีตั้งแต่การคุกคามและการกลั่นแกล้งไปจนถึงสุขภาพจิตที่ไม่ดีและการแสวงหาประโยชน์ทางเพศ

การสืบสวนได้แสดงให้เห็นว่าบริษัทต่างๆ เช่น Meta ทราบดีว่าแพลตฟอร์มของตนทำให้ปัญหาสุขภาพจิตรุนแรงขึ้น โดยช่วยให้สุขภาพจิตของเยาวชนเป็นหนึ่งในลำดับความสำคัญของศัลยแพทย์ทั่วไปแห่งสหรัฐอเมริกา

การวิจัยด้านความปลอดภัยออนไลน์ของวัยรุ่นส่วนใหญ่มาจากข้อมูลที่รายงานด้วยตนเอง เช่น แบบสำรวจ

จำเป็นต้องมีการสอบสวนเพิ่มเติมเกี่ยวกับการโต้ตอบส่วนตัวในโลกแห่งความเป็นจริงของคนหนุ่มสาวและมุมมองของพวกเขาเกี่ยวกับความเสี่ยงทางออนไลน์

เพื่อตอบสนองความต้องการนี้ ฉันและเพื่อนร่วมงานได้รวบรวมชุดข้อมูลขนาดใหญ่ของกิจกรรม Instagram ของคนหนุ่มสาว ซึ่งรวมถึงข้อความโดยตรงมากกว่า 7 ล้านข้อความ

เราขอให้คนหนุ่มสาวอธิบายการสนทนาของตนเองและระบุข้อความที่ทำให้พวกเขารู้สึกไม่สบายใจหรือไม่ปลอดภัย

เมื่อใช้ชุดข้อมูลนี้ เราพบว่าการมีปฏิสัมพันธ์โดยตรงอาจมีความสำคัญสำหรับคนหนุ่มสาวที่ต้องการความช่วยเหลือในประเด็นต่างๆ ตั้งแต่ชีวิตประจำวันไปจนถึงปัญหาสุขภาพจิต

การค้นพบของเราชี้ให้เห็นว่าคนหนุ่มสาวใช้ช่องทางเหล่านี้เพื่อหารือเกี่ยวกับปฏิสัมพันธ์สาธารณะของพวกเขาในเชิงลึกมากขึ้น จากความไว้วางใจซึ่งกันและกันในสภาพแวดล้อม วัยรุ่นจึงรู้สึกปลอดภัยที่จะขอความช่วยเหลือ

การวิจัยชี้ให้เห็นว่าความเป็นส่วนตัวของวาทกรรมออนไลน์มีบทบาทสำคัญในความปลอดภัยทางออนไลน์ของเยาวชน และในขณะเดียวกัน การโต้ตอบที่เป็นอันตรายจำนวนมากบนแพลตฟอร์มเหล่านี้ก็มาในรูปแบบของข้อความส่วนตัว

ข้อความที่ไม่ปลอดภัยที่ผู้ใช้ตั้งค่าสถานะไว้ในชุดข้อมูลของเรา ได้แก่ การล่วงละเมิด ข้อความทางเพศ การชักชวนทางเพศ ภาพเปลือย ภาพอนาจาร คำพูดแสดงความเกลียดชัง และการขายหรือส่งเสริมกิจกรรมที่ผิดกฎหมาย

อย่างไรก็ตาม กลายเป็นเรื่องยากมากขึ้นสำหรับแพลตฟอร์มที่จะใช้เทคโนโลยีอัตโนมัติเพื่อตรวจจับและป้องกันความเสี่ยงออนไลน์สำหรับวัยรุ่น เนื่องจากแพลตฟอร์มดังกล่าวได้รับแรงกดดันให้ปกป้องความเป็นส่วนตัวของผู้ใช้

ตัวอย่างเช่น Meta ได้ใช้การเข้ารหัสจากต้นทางถึงปลายทางสำหรับข้อความทั้งหมดบนแพลตฟอร์มเพื่อให้แน่ใจว่าเนื้อหาข้อความมีความปลอดภัยและมีเพียงผู้เข้าร่วมในการสนทนาเท่านั้นที่เข้าถึงได้

นอกจากนี้ ขั้นตอนที่ Meta ได้ดำเนินการเพื่อป้องกันเนื้อหาเกี่ยวกับการฆ่าตัวตายและการกินที่ผิดปกติ จะเก็บเนื้อหานั้นจากโพสต์สาธารณะและค้นหา แม้ว่าเพื่อนของวัยรุ่นจะโพสต์ก็ตาม

ซึ่งหมายความว่าวัยรุ่นที่แชร์เนื้อหานั้นจะถูกทิ้งให้อยู่ตามลำพังโดยไม่ได้รับการสนับสนุนจากเพื่อนฝูง

นอกจากนี้ กลยุทธ์เนื้อหาของ Meta ไม่ได้จัดการกับการโต้ตอบที่ไม่ปลอดภัยในการสนทนาส่วนตัวที่วัยรุ่นมีทางออนไลน์

โดดเด่นด้วยความสมดุล

ความท้าทายก็คือการปกป้องผู้ใช้ที่อายุน้อยกว่าโดยไม่ละเมิดความเป็นส่วนตัวของพวกเขา ด้วยเหตุนี้ เราได้ทำการศึกษาเพื่อค้นหาว่าเราจะใช้ข้อมูลขั้นต่ำเพื่อตรวจจับข้อความที่ไม่ปลอดภัยได้อย่างไร

เราต้องการทำความเข้าใจว่าฟีเจอร์หรือข้อมูลเมตาต่างๆ ของการสนทนาที่มีความเสี่ยง เช่น ความยาวของการสนทนา เวลาตอบสนองโดยเฉลี่ย และความสัมพันธ์ของผู้เข้าร่วมการสนทนา สามารถส่งผลต่อโปรแกรมการเรียนรู้ของเครื่องที่ตรวจจับความเสี่ยงเหล่านี้ได้อย่างไร

ตัวอย่างเช่น การวิจัยก่อนหน้านี้แสดงให้เห็นว่าการสนทนาที่มีความเสี่ยงมักจะสั้นและอยู่ฝ่ายเดียว เช่น เมื่อคนแปลกหน้ารุกล้ำหน้าโดยไม่ต้องการ

เราพบว่าโปรแกรมการเรียนรู้ของเครื่องของเราสามารถระบุการสนทนาที่ไม่ปลอดภัยได้ 87% โดยใช้เพียงข้อมูลเมตาสำหรับการสนทนาเท่านั้น

อย่างไรก็ตาม การวิเคราะห์ข้อความ รูปภาพ และวิดีโอของการสนทนาเป็นวิธีที่มีประสิทธิภาพที่สุดในการระบุประเภทและความรุนแรงของความเสี่ยง

ผลลัพธ์เหล่านี้เน้นย้ำถึงความสำคัญของเมตาดาต้าในการแยกแยะการสนทนาที่ไม่ปลอดภัย และสามารถใช้เป็นแนวทางสำหรับแพลตฟอร์มในการออกแบบการระบุความเสี่ยงด้านปัญญาประดิษฐ์

แพลตฟอร์มสามารถใช้คุณสมบัติระดับสูง เช่น ข้อมูลเมตา เพื่อบล็อกเนื้อหาที่เป็นอันตรายโดยไม่ต้องสแกนเนื้อหานั้น และด้วยเหตุนี้จึงละเมิดความเป็นส่วนตัวของผู้ใช้

ตัวอย่างเช่น ผู้คุกคามอย่างต่อเนื่องซึ่งเยาวชนต้องการหลีกเลี่ยงจะสร้างข้อมูลเมตา ซึ่งเป็นการสื่อสารด้านเดียวซ้ำๆ สั้นๆ ระหว่างผู้ใช้ที่ไม่ได้เชื่อมต่อกัน ซึ่งระบบ AI สามารถใช้บล็อกผู้คุกคามได้

ตามหลักการแล้ว คนหนุ่มสาวและผู้ดูแลจะได้รับตัวเลือกตามการออกแบบเพื่อให้สามารถเปิดการเข้ารหัส การตรวจจับความเสี่ยง หรือทั้งสองอย่าง เพื่อให้พวกเขาสามารถตัดสินใจเลือกการแลกเปลี่ยนระหว่างความเป็นส่วนตัวและความปลอดภัยสำหรับตนเอง

คำแนะนำของบรรณาธิการ:

• ความท้าทายด้าน AI ในปี 2024: ข้อมูลเชิงลึกจาก 3 นักวิจัย AI ชั้นนำ
• Humans และ ChatGPT สะท้อนรูปแบบภาษาซึ่งกันและกัน – มีวิธีดังนี้
• เทรดเดอร์ ChatGPT AI: เร็วเกินไป โมโหเกินไป เสี่ยงเกินไปใช่ไหม
• ChatGPT และ AI ภาษาอื่นๆ ก็ไร้เหตุผลพอๆ กับเรา

หมายเหตุบรรณาธิการ: บทความนี้เขียนโดย Afsaneh Razi ผู้ช่วยศาสตราจารย์ด้านวิทยาการสารสนเทศ มหาวิทยาลัย Drexel และตีพิมพ์ซ้ำจาก The Conversation ภายใต้ใบอนุญาต Creative Commons อ่านบทความต้นฉบับ