Meta'nın yeni güvenlik önlemleri gençler için iki ucu keskin bir kılıç olabilir

Meta, 9 Ocak 2024'te genç kullanıcıları, intihar ve yeme bozukluklarıyla ilgili içerikler de dahil olmak üzere şirketin zararlı olduğunu düşündüğü Instagram ve Facebook'taki içerikleri görüntülemelerini engelleyerek koruyacağını duyurdu.

Hareket, federal ve eyalet hükümetlerinin sosyal medya şirketlerine gençler için güvenlik önlemleri sağlama yönündeki baskıyı artırmasının ardından geldi.

Aynı zamanda gençler, başka yerde alamayacakları bir destek için sosyal medyadaki akranlarına başvuruyorlar. Gençleri koruma çabaları, istemeden de olsa onların yardım almasını da zorlaştırabilir.

Kongre son yıllarda sosyal medya ve gençlere yönelik riskler hakkında çok sayıda oturum düzenledi.

Eski adıyla Twitter olan Meta, X, TikTok, Snap ve Discord'un CEO'larının, küçükleri cinsel istismardan korumaya yönelik çabaları hakkında 31 Ocak 2024'te Senato Yargı Komitesi önünde ifade vermesi planlanıyor.

Komite başkanı ve kıdemli üye Senatörler Dick Durbin (D-Ill.) ve Lindsey Graham'ın (D-Ill.) duruşması öncesinde yaptıkları açıklamaya göre, teknoloji şirketleri "en sonunda çocukları korumaya gelince başarısızlıklarını kabul etmek zorunda kalıyorlar". RS.C.), sırasıyla.

Çevrimiçi güvenlik üzerine çalışan bir araştırmacıyım. Meslektaşlarım ve ben gençlerin sosyal medya etkileşimlerini ve platformların kullanıcıları koruma çabalarının etkinliğini araştırıyoruz.

Araştırmalar, gençlerin sosyal medyada tehlikelerle karşı karşıya kalsalar da, özellikle doğrudan mesajlaşma yoluyla akran desteği de bulduklarını gösteriyor.

Sosyal medya platformlarının, kullanıcıları korurken aynı zamanda çevrimiçi mahremiyetlerini ve özerkliklerini de korumak için atabileceği bir dizi adım belirledik.

Çocuklar neyle karşı karşıya

Gençlere yönelik sosyal medyadaki risklerin yaygınlığı iyi bilinmektedir. Bu riskler taciz ve zorbalıktan zihinsel sağlığın bozulmasına ve cinsel istismara kadar uzanmaktadır.

Araştırmalar, Meta gibi şirketlerin platformlarının akıl sağlığı sorunlarını daha da kötüleştirdiğini ve gençlerin ruh sağlığını ABD Genel Cerrahının önceliklerinden biri haline getirmeye yardımcı olduğunu bildiklerini gösterdi.

Ergenlerin çevrimiçi güvenlik araştırmalarının çoğu, anketler gibi kişisel olarak bildirilen verilerden elde edilmektedir.

Gençlerin gerçek dünyadaki özel etkileşimleri ve çevrimiçi risklere ilişkin bakış açıları hakkında daha fazla araştırmaya ihtiyaç var.

Bu ihtiyacı karşılamak için meslektaşlarım ve ben, 7 milyondan fazla doğrudan mesajın da dahil olduğu, gençlerin Instagram etkinliklerine ilişkin geniş bir veri kümesi topladık.

Gençlerden kendi konuşmalarına açıklama yazmalarını ve kendilerini rahatsız veya güvensiz hissetmelerine neden olan mesajları belirlemelerini istedik.

Bu veri setini kullanarak, günlük yaşamdan zihinsel sağlık sorunlarına kadar çeşitli konularda destek arayan gençler için doğrudan etkileşimlerin çok önemli olabileceğini bulduk.

Bulgumuz, bu kanalların gençler tarafından kamusal etkileşimlerini daha derinlemesine tartışmak için kullanıldığını gösteriyor. Ortamlardaki karşılıklı güvene dayalı olarak gençler, yardım isterken kendilerini güvende hissettiler.

Araştırmalar, çevrimiçi söylemin mahremiyetinin gençlerin çevrimiçi güvenliğinde önemli bir rol oynadığını ve aynı zamanda bu platformlarda önemli miktarda zararlı etkileşimin özel mesajlar şeklinde gerçekleştiğini öne sürüyor.

Veri kümemizde kullanıcılar tarafından işaretlenen güvenli olmayan mesajlar arasında taciz, cinsel mesajlar, cinsel taciz, çıplaklık, pornografi, nefret söylemi ve yasa dışı faaliyetlerin satışı veya tanıtımı yer alıyordu.

Ancak platformlara kullanıcı gizliliğini koruma konusunda baskı uygulandığından, platformların gençlere yönelik çevrimiçi riskleri tespit etmek ve önlemek için otomatik teknolojiyi kullanması daha zor hale geldi.

Örneğin Meta, mesaj içeriğinin güvenli olduğundan ve yalnızca konuşma katılımcılarının erişebildiğinden emin olmak için platformlarındaki tüm mesajlara uçtan uca şifreleme uyguladı.

Ayrıca Meta'nın intihar ve yeme bozukluğu içeriklerini engellemek için attığı adımlar, bu içeriğin herkese açık gönderilerden uzak tutulmasını ve bir gencin arkadaşı paylaşmış olsa bile arama yapılmasını engelliyor.

Bu, söz konusu içeriği paylaşan gencin, arkadaşlarının ve akranlarının desteği olmadan yalnız kalacağı anlamına geliyor.

Ayrıca Meta'nın içerik stratejisi, gençlerin çevrimiçi özel konuşmalarındaki güvenli olmayan etkileşimleri ele almıyor.

Dengeyi sağlamak

O halde asıl zorluk, genç kullanıcıları gizliliklerini ihlal etmeden korumaktır. Bu amaçla, güvenli olmayan mesajları tespit etmek için minimum veriyi nasıl kullanabileceğimizi öğrenmek üzere bir çalışma yaptık.

Riskli konuşmaların konuşmanın uzunluğu, ortalama yanıt süresi ve konuşmadaki katılımcıların ilişkileri gibi çeşitli özelliklerinin veya meta verilerinin, bu riskleri tespit eden makine öğrenimi programlarına nasıl katkıda bulunabileceğini anlamak istedik.

Örneğin, önceki araştırmalar, yabancıların istenmeyen ilerlemeler kaydetmesi gibi riskli konuşmaların kısa ve tek taraflı olma eğiliminde olduğunu göstermiştir.

Makine öğrenimi programımızın, yalnızca konuşmalara ilişkin meta verileri kullanarak güvenli olmayan konuşmaları %87 oranında tespit edebildiğini gördük.

Ancak konuşmaların metin, resim ve videolarını analiz etmek, riskin türünü ve ciddiyetini belirlemek için en etkili yaklaşımdır.

Bu sonuçlar, güvenli olmayan konuşmaları ayırt etmede meta verilerin önemini vurguluyor ve yapay zeka risk tanımlamasını tasarlayacak platformlar için bir kılavuz olarak kullanılabilir.

Platformlar, zararlı içeriği taramadan engellemek ve dolayısıyla kullanıcıların gizliliğini ihlal etmek için meta veriler gibi üst düzey özellikleri kullanabilir.

Örneğin, gencin kaçınmak istediği ısrarcı bir tacizci, bir yapay zeka sisteminin tacizciyi engellemek için kullanabileceği meta veriler (bağlantısız kullanıcılar arasında tekrarlanan, kısa, tek taraflı iletişimler) üretecektir.

İdeal durumda, gençlere ve onlara bakım sağlayan kişilere tasarım gereği şifrelemeyi, risk tespitini veya her ikisini birden açma seçeneği sunulur, böylece gizlilik ve güvenlik arasındaki dengeyi kendileri belirleyebilirler.

Editörlerin Önerileri:

• 2024'te yapay zeka zorlukları: Önde gelen 3 yapay zeka araştırmacısından bilgiler
• İnsanlar ve ChatGPT ortak dil kalıplarını yansıtır - işte böyle
• ChatGPT yapay zeka yatırımcıları: Çok hızlı, çok öfkeli, çok riskli mi?
• ChatGPT ve diğer dil yapay zekaları da bizim kadar mantıksız

Editörün Notu: Bu makale, Drexel Üniversitesi Bilgi Bilimi Yardımcı Doçenti Afsaneh Razi tarafından yazılmış ve Creative Commons lisansı altında The Conversation'dan yeniden yayınlanmıştır . Orijinal makaleyi okuyun.