Spam-ul generat de inteligența artificială vă poate inunda în curând căsuța de e-mail cu escrocherii

În fiecare zi, mesaje de la prinți nigerieni, vânzători ambulanți de medicamente minune și promotori ai investițiilor de nelipsit sufocă căsuțele de e-mail.

Îmbunătățirile aduse filtrelor de spam par doar să inspire noi tehnici de a depăși protecțiile.

Acum, cursa înarmărilor dintre blocanții de spam și expeditorii de spam este pe cale să escaladeze odată cu apariția unei noi arme: inteligența artificială generativă.

Odată cu progresele recente în AI făcute celebre de ChatGPT, spammerii ar putea avea noi instrumente pentru a evita filtrele, a atrage atenția oamenilor și a-i convinge să facă clic, să cumpere sau să renunțe la informații personale.

În calitate de director al laboratorului Advancing Human and Machine Reasoning de la Universitatea din Florida de Sud, cercetez intersecția dintre inteligența artificială, procesarea limbajului natural și raționamentul uman.

Am studiat modul în care AI poate învăța preferințele individuale, convingerile și ciudateniile de personalitate ale oamenilor.

Acest lucru poate fi folosit pentru a înțelege mai bine cum să interacționați cu oamenii, să îi ajutați să învețe sau să oferiți sugestii utile.

Dar acest lucru înseamnă, de asemenea, că ar trebui să vă pregătiți pentru spam mai inteligent, care vă cunoaște punctele slabe - și le poate folosi împotriva dvs.

Spam, spam, spam

Deci, ce este spamul? Spamul este definit ca e-mailuri comerciale nesolicitate trimise de o entitate necunoscută. Termenul este uneori extins la mesaje text, mesaje directe pe rețelele sociale și recenzii false despre produse.

Spammerii vor să te îndeamnă către acțiune: să cumperi ceva, să dai clic pe linkuri de phishing, să instalezi programe malware sau să schimbi vizualizările.

Spamul este profitabil. O explozie de e-mail poate câștiga 1.000 USD în doar câteva ore, costându-i pe spammeri doar câțiva dolari – excluzând configurarea inițială. O campanie de spam farmaceutică online poate genera aproximativ 7.000 USD pe zi.

Agenții de publicitate legitimi doresc, de asemenea, să vă determine să treceți la acțiune – cumpărându-și produsele, participând la sondaje și înscrierea pentru buletine informative.

Totuși, în timp ce un e-mail de marketing poate fi conectat la un site web al unei companii consacrate și poate conține o opțiune de dezabonare în conformitate cu reglementările federale, un e-mail de spam nu poate.

De asemenea, spammerii nu au acces la listele de corespondență la care s-au înscris utilizatorii. În schimb, spammerii folosesc strategii contra-intuitive, cum ar fi înșelătoria „prințului nigerian”.

Un prinț nigerian pretinde că are nevoie de ajutorul tău pentru a debloca o sumă absurdă de bani, promițând că te va răsplăti frumos.

Nativii digitali înțelepți resping imediat astfel de cereri, dar absurditatea solicitării poate alege de fapt naivitatea sau vârsta înaintată, filtrul pentru cei mai susceptibili de a cădea în escrocherii.

Cu toate acestea, progresele în inteligența artificială înseamnă că spammerii ar putea să nu fie nevoiți să se bazeze pe astfel de abordări „hit-or-miss”.

AI le-ar putea permite să vizeze indivizi și să le facă mesajele mai persuasive pe baza unor informații ușor accesibile, cum ar fi postările pe rețelele sociale.

Viitorul spam-ului

Sunt șanse să fi auzit despre progresele modelelor generative de limbi mari precum ChatGPT.

Sarcina pe care o îndeplinesc aceste LLM-uri generative este înșelător de simplă: având în vedere o secvență de text, preziceți ce simbol - gândiți-vă la asta ca parte a unui cuvânt - urmează.

Apoi, preziceți ce simbol urmează după aceea. Și așa mai departe, iar și iar.

Într-un fel, antrenamentul numai pentru acea sarcină, atunci când este făcut cu suficient text pe un LLM suficient de mare, pare să fie suficient pentru a impregna aceste modele cu capacitatea de a funcționa surprinzător de bine la o mulțime de alte sarcini.

Au apărut deja mai multe moduri de a utiliza tehnologia, care demonstrează capacitatea tehnologiei de a se adapta rapid la indivizi și de a învăța despre acestea.

De exemplu, LLM-urile pot scrie e-mailuri complete în stilul dvs. de scriere, având doar câteva exemple de modul în care scrieți. Și există exemplul clasic – acum vechi de peste un deceniu – în care Target și-a dat seama că o clientă era însărcinată înainte ca tatăl ei să știe.

Spammerii și agenții de marketing deopotrivă ar beneficia de posibilitatea de a prezice mai multe despre persoanele cu mai puține date.

Având în vedere pagina dvs. LinkedIn, câteva postări și o imagine de profil sau două, spammerii înarmați cu LLM ar putea face ipoteze destul de precise despre înclinațiile dvs. politice, starea civilă sau prioritățile de viață.

Cercetarea noastră a arătat că LLM-urile ar putea fi folosite pentru a prezice ce cuvânt va spune un individ în continuare, cu un grad de acuratețe care depășește cu mult alte abordări AI într-o sarcină de generare de cuvinte numită sarcina de fluență semantică.

De asemenea, am arătat că LLM-urile pot prelua anumite tipuri de întrebări din testele de abilități de raționament și pot prezice modul în care oamenii vor răspunde la acea întrebare.

Acest lucru sugerează că LLM-urile au deja unele cunoștințe despre cum arată capacitatea de raționament uman tipic.

Dacă spammerii trec de filtrele inițiale și te fac să citești un e-mail, să dai clic pe un link sau chiar să te angajezi într-o conversație, capacitatea lor de a aplica persuasiune personalizată crește dramatic.

Din nou, LLM-urile pot schimba jocul. Rezultatele timpurii sugerează că LLM-urile pot fi folosite pentru a argumenta în mod persuasiv pe subiecte variind de la politică la politica de sănătate publică.

Bun pentru gander

AI, însă, nu favorizează nici o parte sau cealaltă. Filtrele de spam ar trebui să beneficieze, de asemenea, de avansurile de spam AI, permițându-le să ridice noi bariere pentru e-mailurile nedorite.

Spammerii încearcă adesea să păcălească filtrele cu caractere speciale, cuvinte scrise greșit sau text ascuns, bazându-se pe tendința umană de a ierta micile anomalii ale textului – de exemplu, „c1ick h.ere n0w”.

Dar, pe măsură ce AI înțelege mai bine mesajele spam, filtrele ar putea identifica și bloca mai bine spam-ul nedorit. Și poate chiar să treacă prin spam dorit, cum ar fi e-mailul de marketing la care v-ați înscris în mod explicit.

Imaginați-vă un filtru care prezice dacă doriți să citiți un e-mail chiar înainte de a-l citi.

În ciuda preocupărilor tot mai mari cu privire la AI – așa cum demonstrează Tesla, SpaceX și CEO-ul Twitter, Elon Musk, fondatorul Apple Steve Wozniak și alți lideri tehnologici care cer o pauză în dezvoltarea AI – o mulțime de bine ar putea veni din progresele tehnologiei.

Inteligența artificială ne poate ajuta să înțelegem cum slăbiciunile raționamentului uman ar putea fi exploatate de actori răi și să dezvoltăm modalități de a contracara activitățile răuvoitoare.

Toate noile tehnologii pot duce atât la mirare, cât și la pericol. Diferența constă în cine creează și controlează instrumentele și cum sunt utilizate.

Acest articol a fost actualizat pentru a indica faptul că era tatăl unui adolescent .

Ai vreo părere despre asta? Trimiteți-ne un rând mai jos în comentarii sau transmiteți discuția pe Twitter sau Facebook.

Recomandările editorilor:

• Cum să modificați setările de spam ale Gmail și să personalizați filtrul
• Cum să identifici și să previi spam-ul WhatsApp
• Paginile Facebook verificate au fost sparte și au răspândit malware
• Liderii tehnologiei vor să apese butonul de pauză la antrenamentul AI

Nota editorului: Acest articol a fost scris de John Licato , profesor asistent de informatică și director al AMHR Lab, Universitatea din Florida de Sud și republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.