AI Ses Klonlama Dolandırıcılığı: 4 Yetişkinden 1'i Halihazırda Hedefleniyor

Sevdiğiniz birinden gelen sesli mesaj ile yapay zeka tarafından oluşturulan bir sesli mesaj arasındaki farkı anlayabileceğinizi düşünüyor musunuz? Şüphelenmeyen kurbanları dolandırmak için AI ses klonlama teknolojisini kullanan dolandırıcılar kesinlikle bunu yapamayacağınızı umarlar - ve şimdi, her zamankinden daha aktifler.

Yakın zamanda McAfee tarafından yürütülen bir anket, yetişkinlerin dörtte birinin zaten yapay zeka ses dolandırıcılıkları tarafından hedef alındığını ve bunun sonucunda ezici çoğunluğun zor kazanılan parayı kaybettiğini ortaya çıkardı. Ayrıca, yetişkinlerin çoğunluğunun haftada en az bir kez sosyal medya platformlarında ve diğer çevrimiçi alanlarda seslerini paylaştığını ortaya çıkardı - bu da tehdit aktörlerine bu tür dolandırıcılıkları tekrar tekrar gerçekleştirmek için tam olarak ihtiyaç duydukları şeyi veriyor.

Peki, AI ses klonlama dolandırıcılıkları gerçekte nasıl çalışır, ne kadar yaygındır ve bir AI ses klonlama dolandırıcılığını nasıl tespit edebilirsiniz? Daha yakından bakıyoruz.

• AI Ses Klonlama Dolandırıcılığı Nedir?
• Yapay Zeka Ses Klonlaması Gerçekte Nasıl Çalışır?
• Yapay Zeka Ses Klonu Dolandırıcılıkları Ne Kadar Yaygındır?
• Bir Mesajın Yapay Zeka Ses Klonu Dolandırıcılığı Olduğu Nasıl Anlaşılır

AI Ses Klonlama Dolandırıcılığı Nedir?

AI ses klonlama dolandırıcılığı, mağdurları sevdiklerinin tehlikede olduğunu veya acil mali yardıma ihtiyacı olduğunu ve yardım için onlarla iletişime geçtiğini düşünmeye ikna etmek için yapay olarak oluşturulmuş ses dosyalarını kullanan herhangi bir dolandırıcılıktır.

Bu tür bir dolandırıcılıkta, bir dolandırıcı, bir AI ses üreteci aracılığıyla - genellikle sosyal medyadan alıntılanan - konuşan bir öznenin bir klibini çalıştıracaktır. Oluşturucu, makine öğrenimini kullanarak ilk klibin kadansını, tonunu ve perdesini analiz edecek ve ardından dolandırıcının, öznenin sesini neredeyse mükemmel şekilde taklit eden benzersiz, orijinal ses üretmesine izin verecektir.

Dolandırıcı daha sonra bu kayıtları, sevdikleri kişi ile seslerinin yapay zeka tarafından oluşturulmuş bir versiyonu arasında ayrım yapamayacaklarını umarak WhatsApp gibi uygulamalar aracılığıyla konunun arkadaşlarına ve akrabalarına gönderecek.

Diğer çevrimiçi dolandırıcılıklarda yaygın olduğu gibi , dolandırıcı, hedefi düşüncesizce veya kararsız davranmaya itmek için yazışmalarına bir aciliyet ve sıkıntı duygusu enjekte etmeye çalışacak.

Yakın tarihli bir vakada, bir AI ses dolandırıcısı, ABD'deki bir anneyi, çocuğunun sesini klonlayarak kızının kaçırıldığına ikna etmeye çalıştı.

Bununla ilgili olarak, tomurcuklanan bir dolandırıcı, bir kurbanı hedeflemek için ihtiyaç duyacağı ses dosyalarını ortaya çıkarmakta zorlanmaz - aslında, muhtemelen seçim yapmakta zorlanırlar.

McAfee tarafından yedi farklı ülkeden 7.000'den fazla kişinin katıldığı Mayıs 2023'te yapılan bir ankette, ankete katılanların %53'ünün seslerini haftada en az bir kez çevrimiçi olarak paylaştıklarını söylediği ortaya çıktı. Hindistan'da bu rakam %86 idi.

Ses Klonlama Aslında Nasıl Çalışır?

AI ses klonlama, yalnızca AI ses üreteci adı verilen bir AI aracıyla mümkündür. Özetle, AI ses üreteçleri metin dosyalarını konuşmaya dönüştürür (genellikle "metinden konuşmaya" veya "TTS" aracı olarak adlandırılır).

Yapay zeka ses üreteçleri, konuşan kişilerin ses dosyalarından gelen bilgileri analiz ederek kendilerine belirli şekillerde konuşmayı öğretmek için makine öğrenimini kullanır. Oluşturucular daha sonra, kullanıcılar tarafından sağlanan metin dosyalarını okumak ve orijinal ses içeriği oluşturmak için öğrendiklerini uygular.

Bu jeneratörlerin çoğu, metninizi okumak için seçebileceğiniz özel seslere ve aralarından seçim yapabileceğiniz ünlü seslere sahiptir - ancak diğerleri kendi sesinizi kaydetmenize ve ardından ses içeriği oluşturmanıza izin verir.

Metinden konuşmaya aracı Descript.com, "kendi sesinizin ultra gerçekçi bir klonunu yaratan son teknoloji ürünü bir ses üreteci" sunuyor.

AI ses üreteçleri artık her tür cihaz için yaygın olarak mevcuttur. Bu programlar, okuma güçlüğü çeken veya yazılı kelimeyi okumak yerine sadece ses dinleyerek daha iyi öğrenen insanlara çok fazla değer katar.

Ayrıca, pazarlama içerikleri için pahalı bir seslendirme sanatçısı tutacak bütçesi olmayan reklam şirketleri tarafından da kullanılırlar.

ChatGPT'nin başarısı ve yaygın kullanımı, ses klonlama için kullanılabilecekler de dahil olmak üzere tüm şekil ve boyutlardaki yapay zeka araçlarına yeniden odaklanılmasını sağladı. Asil kullanımlarına rağmen, artık ne yazık ki insanları dolandırmak da dahil olmak üzere hain amaçlar için kötüye kullanılabilen küçük bir TTS AI araçları ekosistemi var.

Yapay Zeka Ses Klonu Dolandırıcılıkları Ne Kadar Yaygındır?

Yakın zamanda yayınlanan McAfee anketinde, siber güvenlik devi, ankete katılan her 4 yetişkinden 1'inin yapay zeka ses dolandırıcılığı yaşadığını tespit etti.

Hedeflenenlerin %77'si dolandırıcılık nedeniyle para kaybettiklerini bildirdi. McAfee, bu %77'nin "üçte birinden fazlasının 1.000 ABD dolarının üzerinde kaybettiğini, %7'sinin ise 5.000 ila 15.000 ABD doları arasında aldatıldığını" bildirdi.

Ankete göre en çok ABD'deki kurbanlar kaybediyor. AI ses klonlama dolandırıcılığı yoluyla para kaybeden ABD'li kurbanların %11'i 5.000 ila 15.000 dolar arasında kaybetti.

Bir Mesajın Yapay Zeka Ses Klonu Dolandırıcılığı Olup Olmadığı Nasıl Anlaşılır

McAfee anketi ayrıca, insanların %70'inin yapay zeka sesi ile insan sesi arasındaki farkı anlayıp anlayamayacaklarından "emin olmadıklarını" söyledi.

ABD'de yanıt verenlerin neredeyse üçte biri (%28), McAfee'nin ifadesiyle bir “Yapay Sahtekar” tarafından bırakılan sesli mesaj ile sevilen bir sesli mesaj arasındaki farkı anlayamayacaklarını söyledi.

Dolandırıcıların sevdiğiniz birinin sesini taklit edebileceğini unutmayın, ancak sevdiğiniz kişinin numarasını veya WhatsApp hesabını ele geçirmek çok daha zordur.

Akrabalarınızdan veya arkadaşlarınızdan biri sıkıntı içindeymiş gibi göründüğünde sakince hareket etmek zor olabilir. Ancak yapay zeka ses dolandırıcılığının giderek yaygınlaşmasıyla bunu yapmanız önemlidir. Bir AI sesli mesajının bir aldatmaca olabileceğine dair bazı işaretler vardır:

• Alışılmadık bir iletişim yöntemi (örn. bilinmeyen bir numara)
• Büyük miktarlarda para için acil talepler
• Alışılmadık yollarla transfer edilecek para talepleri (ör. hediye kartları veya kripto)
• Aramadan/olaydan kimseye bahsetmemeniz yönünde bir talep

Bunu göz önünde bulundurarak, FTC'nin yapmanızı tavsiye ettiği şey şudur:

• Kim olduğunu doğrulamak için size mesaj bırakan numarayı arayın
• Sevdiğiniz kişiyi veya arkadaşınızı kişisel numarasından arayın
• Söz konusu kişinin ailesine ve yakın arkadaşlarına mesaj gönderin

İrtibat kuramazsanız, derhal kolluk kuvvetlerine haber vermeniz önemlidir. Henüz bu dolandırıcılıkların hedefi olmayan ama birinin kurbanı olmadığından emin olmak isteyenler için, aileniz ve arkadaşlarınızla bir güvenlik kelimesi oluşturun .

Bu, sizin ve sevdiklerinizin birbirinize kendinizi tanıtabileceği anlamına gelen bir koddur ve AI ses dolandırıcılığına kurban gitmemenizi sağlamanın en iyi yollarından biridir. Bu özellikle yaşlı aile üyeleri için yararlı olacaktır ve asla yazılmayacaksa oldukça basit tutulabilir.

Yapay zeka ses dolandırıcılarının kurbanlardan şantaj yapmak için kullandıkları en son yöntemlere, tekniklere ve biçimlere ayak uydurmak da önemlidir. Tetikte olmanın ve bilinmeyen numaralardan gelen aramaları son derece dikkatli bir şekilde ele almanın yanı sıra, kulağınızı yere dayamak genellikle yapabileceğiniz en iyi şeydir.