Yapay zeka tarafından üretilen spam, yakında gelen kutunuzu dolandırıcılıkla doldurabilir

Her gün Nijeryalı prenslerden, harika uyuşturucu satıcıları ve kaçırılmaması gereken yatırımları destekleyenlerden gelen mesajlar e-posta gelen kutularını tıkıyor.

İstenmeyen e-posta filtrelerindeki iyileştirmeler, yalnızca korumaları aşmak için yeni tekniklere ilham veriyor gibi görünüyor.

Şimdi, spam engelleyiciler ve spam gönderenler arasındaki silahlanma yarışı, yeni bir silahın ortaya çıkmasıyla kızışmak üzere: üretken yapay zeka.

ChatGPT tarafından ünlenen AI'daki son gelişmelerle, spam gönderenler filtrelerden kaçmak, insanların dikkatini çekmek ve onları tıklamaya, satın almaya veya kişisel bilgileri vermeye ikna etmek için yeni araçlara sahip olabilir.

Güney Florida Üniversitesi'ndeki Advancing Human and Machine Reasoning laboratuvarının yöneticisi olarak yapay zeka, doğal dil işleme ve insan muhakemesinin kesişimini araştırıyorum.

Yapay zekanın insanların bireysel tercihlerini, inançlarını ve kişilik özelliklerini nasıl öğrenebileceğini inceledim.

Bu, insanlarla nasıl etkileşime geçileceğini daha iyi anlamak, öğrenmelerine yardımcı olmak veya faydalı önerilerde bulunmak için kullanılabilir.

Ancak bu aynı zamanda, zayıf noktalarınızı bilen ve bunları size karşı kullanabilen daha akıllı istenmeyen e-postalara hazır olmanız gerektiği anlamına da gelir.

Spam, spam, spam

Peki spam nedir? Spam, bilinmeyen bir varlık tarafından gönderilen istenmeyen ticari e-postalar olarak tanımlanır. Terim bazen metin mesajlarını, sosyal medyadaki doğrudan mesajları ve ürünlerle ilgili sahte incelemeleri içerecek şekilde genişletilir.

İstenmeyen e-posta gönderenler sizi harekete geçmeye teşvik etmek ister: bir şey satın almak, kimlik avı bağlantılarına tıklamak, kötü amaçlı yazılım yüklemek veya görünümleri değiştirmek.

Spam karlı. Bir e-posta patlaması yalnızca birkaç saat içinde 1.000 ABD Doları kazanabilir ve spam göndericilere yalnızca birkaç dolara mal olur - ilk kurulum hariç. Çevrimiçi bir farmasötik spam kampanyası günde yaklaşık 7.000 ABD doları getirebilir.

Meşru reklamcılar ayrıca, ürünlerini satın almak, anketlerine katılmak ve haber bültenlerine kaydolmak gibi sizi harekete geçirmek istiyor.

Yine de, bir pazarlamacı e-postası yerleşik bir şirket web sitesine bağlantı verebilir ve federal düzenlemelere uygun olarak bir abonelikten çıkma seçeneği içerebilirken, bir spam e-postası böyle olmayabilir.

Spam gönderenler, kullanıcıların kaydolduğu posta listelerine de erişemez. Bunun yerine spam gönderenler, "Nijeryalı prens" dolandırıcılığı gibi sezgilere aykırı stratejiler kullanır.

Nijeryalı bir prens, saçma sapan miktarda paranın kilidini açmak için yardımınıza ihtiyacı olduğunu iddia ediyor ve sizi güzel bir şekilde ödüllendireceğine söz veriyor.

Bilgili dijital yerliler bu tür ricaları hemen reddeder, ancak talebin saçmalığı aslında saflığı veya ileri yaşı seçebilir ve dolandırıcılığa düşme olasılığı en yüksek olanları filtreleyebilir.

Bununla birlikte, AI'daki ilerlemeler, spam gönderenlerin bu tür vur ya da ıskalama yaklaşımlarına güvenmek zorunda kalmayabileceği anlamına gelir.

AI, bireyleri hedeflemelerine ve sosyal medya gönderileri gibi kolay erişilebilir bilgilere dayanarak mesajlarını daha ikna edici hale getirmelerine izin verebilir.

Spam'in geleceği

Muhtemelen ChatGPT gibi üretken büyük dil modellerindeki gelişmeleri duymuşsunuzdur.

Bu üretken LLM'lerin gerçekleştirdiği görev aldatıcı bir şekilde basittir: bir metin dizisi verildiğinde, hangi simgenin - bunu bir kelimenin parçası olarak düşünün - sonra geleceğini tahmin edin.

Ardından, bundan sonra hangi jetonun geleceğini tahmin edin. Ve böylece, tekrar tekrar.

Her nasılsa, tek başına bu görevle ilgili eğitim, yeterince büyük bir LLM'de yeterli metinle yapıldığında, bu modellere başka birçok görevde şaşırtıcı derecede iyi performans gösterme yeteneği aşılamak için yeterli görünüyor.

Teknolojiyi kullanmanın birden çok yolu şimdiden ortaya çıktı ve teknolojinin bireylere hızlı bir şekilde uyum sağlama ve bireyler hakkında bilgi edinme becerisini gözler önüne seriyor.

Örneğin, LLM'ler, nasıl yazdığınıza dair yalnızca birkaç örnek verildiğinde, tam e-postaları yazma stilinizde yazabilir. Ve Target'ın bir müşterinin hamile olduğunu babasından önce öğrenmesinin klasik örneği - şimdi on yılı aşkın bir süredir - var.

Hem spam gönderenler hem de pazarlamacılar, daha az veriyle bireyler hakkında daha fazla tahminde bulunabilmekten faydalanabilir.

LinkedIn sayfanız, birkaç gönderi ve bir veya iki profil resmi göz önüne alındığında, LLM silahlı spam gönderenler, siyasi eğilimleriniz, medeni durumunuz veya yaşam öncelikleriniz hakkında oldukça doğru tahminler yapabilir.

Araştırmamız, LLM'lerin, anlamsal akıcılık görevi adı verilen bir kelime oluşturma görevinde diğer yapay zeka yaklaşımlarını çok aşan bir doğruluk derecesi ile bir bireyin bir sonraki kelimeyi söyleyeceğini tahmin etmek için kullanılabileceğini gösterdi.

Ayrıca LLM'lerin muhakeme becerileri testlerinden belirli soru türlerini alabildiğini ve insanların bu soruya nasıl yanıt vereceğini tahmin edebildiğini de gösterdik.

Bu, LLM'lerin tipik insan muhakeme yeteneğinin neye benzediği hakkında zaten bazı bilgilere sahip olduğunu göstermektedir.

İstenmeyen e-posta gönderenler ilk filtreleri aşar ve bir e-postayı okumanızı, bir bağlantıyı tıklamanızı ve hatta sohbet etmenizi sağlarsa, özelleştirilmiş ikna uygulama becerileri önemli ölçüde artar.

Burada yine LLM'ler oyunu değiştirebilir. Erken sonuçlar, LLM'lerin siyasetten halk sağlığı politikasına kadar uzanan konularda ikna edici bir şekilde tartışmak için kullanılabileceğini göstermektedir.

Gander için iyi

Ancak AI, bir tarafı veya diğerini desteklemiyor. İstenmeyen e-posta filtreleri, istenmeyen e-postalara karşı yeni engeller oluşturmalarına olanak tanıyan yapay zeka spam ilerlemelerinden de faydalanmalıdır.

İstenmeyen e-posta gönderenler, insanların küçük metin anormalliklerini affetme eğilimine güvenerek - örneğin, "c1ick h.ere n0w."

Ancak yapay zeka spam mesajlarını daha iyi anladığından, filtreler istenmeyen spam mesajlarını daha iyi tanımlayabilir ve engelleyebilir. Ve hatta açıkça kaydolduğunuz pazarlama e-postası gibi istenmeyen istenmeyen e-postaların geçmesine bile izin verebilirsiniz.

Bir e-postayı daha okumadan okumak isteyip istemediğinizi tahmin eden bir filtre hayal edin.

Tesla, SpaceX ve Twitter CEO'su Elon Musk, Apple'ın kurucusu Steve Wozniak ve diğer teknoloji liderlerinin AI gelişimine ara verilmesi çağrısında bulunduğu gibi, AI ile ilgili artan endişelere rağmen, teknolojideki ilerlemelerden pek çok fayda gelebilir.

Yapay zeka, insan muhakemesindeki zayıflıkların kötü aktörler tarafından nasıl istismar edilebileceğini anlamamıza ve kötü niyetli faaliyetlere karşı koymanın yollarını geliştirmemize yardımcı olabilir.

Tüm yeni teknolojiler hem merak hem de tehlike ile sonuçlanabilir. Aradaki fark, araçları kimin yarattığı ve kontrol ettiği ve bunların nasıl kullanıldığıdır.

Bu makale, bir gencin babası olduğunu belirtmek için güncellendi .

Bu konuda herhangi bir fikriniz var mı? Yorumlarda bize bir satır bırakın veya tartışmayı Twitter veya Facebook'umuza taşıyın.

Editörlerin Önerileri:

• Gmail'in spam ayarları nasıl değiştirilir ve filtre nasıl özelleştirilir?
• WhatsApp spam'ı nasıl belirlenir ve önlenir?
• Doğrulanmış Facebook sayfaları saldırıya uğradı ve kötü amaçlı yazılım yaydı
• Teknoloji liderleri yapay zeka eğitiminde duraklatma düğmesine basmak istiyor

Editörün Notu: Bu makale Bilgisayar Bilimi Yardımcı Doçenti ve Güney Florida Üniversitesi AMHR Laboratuvarı Direktörü John Licato tarafından yazılmıştır ve Creative Commons lisansı altında The Conversation'dan yeniden yayınlanmıştır. Orijinal makaleyi okuyun.