Lo spam generato dall'intelligenza artificiale potrebbe presto inondare la tua casella di posta di truffe

Ogni giorno, messaggi di principi nigeriani, venditori ambulanti di droghe miracolose e promotori di investimenti da non perdere soffocano le caselle di posta elettronica.

I miglioramenti ai filtri antispam sembrano solo ispirare nuove tecniche per sfondare le protezioni.

Ora, la corsa agli armamenti tra bloccanti e mittenti di spam sta per intensificarsi con l'emergere di una nuova arma: l'intelligenza artificiale generativa.

Con i recenti progressi nell'intelligenza artificiale resi famosi da ChatGPT, gli spammer potrebbero disporre di nuovi strumenti per eludere i filtri, attirare l'attenzione delle persone e convincerle a fare clic, acquistare o fornire informazioni personali.

In qualità di direttore del laboratorio Advancing Human and Machine Reasoning presso la University of South Florida, mi occupo dell'intersezione tra intelligenza artificiale, elaborazione del linguaggio naturale e ragionamento umano.

Ho studiato come l'intelligenza artificiale può apprendere le preferenze individuali, le convinzioni e le stranezze della personalità delle persone.

Questo può essere utilizzato per capire meglio come interagire con le persone, aiutarle a imparare o fornire suggerimenti utili.

Ma questo significa anche che dovresti prepararti a uno spam più intelligente che conosca i tuoi punti deboli e possa usarli contro di te.

Spam, spam, spam

Allora, cos'è lo spam? Lo spam è definito come e-mail commerciali non richieste inviate da un'entità sconosciuta. Il termine è talvolta esteso a messaggi di testo, messaggi diretti sui social media e false recensioni sui prodotti.

Gli spammer vogliono spingerti all'azione: acquistare qualcosa, fare clic su collegamenti di phishing, installare malware o cambiare visualizzazione.

Lo spam è redditizio. Un'esplosione di e-mail può guadagnare $ 1.000 in poche ore, costando agli spammer solo pochi dollari, esclusa la configurazione iniziale. Una campagna di spam farmaceutico online potrebbe generare circa $ 7.000 al giorno.

Gli inserzionisti legittimi vogliono anche spingerti all'azione, acquistando i loro prodotti, partecipando ai loro sondaggi e iscrivendoti alle newsletter.

Tuttavia, mentre un'e-mail di marketing può collegarsi a un sito Web aziendale consolidato e contenere un'opzione di annullamento dell'iscrizione in conformità con le normative federali, un'e-mail di spam potrebbe non esserlo.

Gli spammer inoltre non hanno accesso alle mailing list a cui gli utenti si sono iscritti. Invece, gli spammer utilizzano strategie controintuitive come la truffa del "principe nigeriano".

Un principe nigeriano afferma di aver bisogno del tuo aiuto per sbloccare un'assurda somma di denaro, promettendoti di ricompensarti bene.

I nativi digitali esperti respingono immediatamente tali suppliche, ma l'assurdità della richiesta può effettivamente selezionare per ingenuità o età avanzata, filtrando per coloro che hanno maggiori probabilità di cadere nelle truffe.

I progressi nell'intelligenza artificiale, tuttavia, significano che gli spammer potrebbero non dover fare affidamento su tali approcci incostante.

L'intelligenza artificiale potrebbe consentire loro di prendere di mira le persone e rendere i loro messaggi più persuasivi sulla base di informazioni facilmente accessibili, come i post sui social media.

Il futuro dello spam

È probabile che tu abbia sentito parlare dei progressi nei modelli generativi di linguaggi di grandi dimensioni come ChatGPT.

Il compito svolto da questi LLM generativi è ingannevolmente semplice: data una sequenza di testo, prevedere quale token - pensalo come parte di una parola - verrà dopo.

Quindi, prevedi quale gettone verrà dopo. E così via, ancora e ancora.

In qualche modo, l'addestramento su quell'attività da solo, se svolto con testo sufficiente su un LLM sufficientemente ampio, sembra essere sufficiente per infondere a questi modelli la capacità di eseguire sorprendentemente bene molte altre attività.

Sono già emersi diversi modi per utilizzare la tecnologia, dimostrando la capacità della tecnologia di adattarsi e conoscere rapidamente le persone.

Ad esempio, gli LLM possono scrivere e-mail complete nel tuo stile di scrittura, dati solo alcuni esempi di come scrivi. E c'è il classico esempio - ormai vecchio di oltre un decennio - di Target che scopre che una cliente era incinta prima che suo padre lo sapesse.

Sia gli spammer che gli operatori di marketing trarrebbero vantaggio dalla possibilità di prevedere di più sugli individui con meno dati.

Data la tua pagina LinkedIn, alcuni post e un'immagine del profilo o due, gli spammer armati di LLM potrebbero fare ipotesi ragionevolmente accurate sulle tue inclinazioni politiche, stato civile o priorità di vita.

La nostra ricerca ha dimostrato che gli LLM potrebbero essere utilizzati per prevedere quale parola un individuo dirà successivamente con un grado di accuratezza che supera di gran lunga altri approcci di intelligenza artificiale in un compito di generazione di parole chiamato compito di fluidità semantica.

Abbiamo anche dimostrato che i LLM possono prendere determinati tipi di domande dai test delle capacità di ragionamento e prevedere come le persone risponderanno a quella domanda.

Ciò suggerisce che gli LLM hanno già una certa conoscenza di come si presenta la tipica capacità di ragionamento umano.

Se gli spammer riescono a superare i filtri iniziali e ti fanno leggere un'e-mail, fare clic su un collegamento o persino impegnarsi in una conversazione, la loro capacità di applicare la persuasione personalizzata aumenta notevolmente.

Anche in questo caso, gli LLM possono cambiare il gioco. I primi risultati suggeriscono che gli LLM possono essere utilizzati per argomentare in modo persuasivo su argomenti che vanno dalla politica alla politica della salute pubblica.

Buono per il papero

L'intelligenza artificiale, tuttavia, non favorisce una parte o l'altra. Anche i filtri antispam dovrebbero beneficiare dei progressi dell'intelligenza artificiale, consentendo loro di erigere nuove barriere alle e-mail indesiderate.

Gli spammer spesso cercano di ingannare i filtri con caratteri speciali, parole errate o testo nascosto, basandosi sulla propensione umana a perdonare piccole anomalie di testo, ad esempio "c1ick h.ere n0w".

Ma poiché l'intelligenza artificiale comprende meglio i messaggi di spam, i filtri potrebbero identificare e bloccare meglio lo spam indesiderato. E forse anche far passare lo spam ricercato, come l'e-mail di marketing a cui ti sei esplicitamente iscritto.

Immagina un filtro che preveda se vorresti leggere un'e-mail prima ancora di leggerla.

Nonostante le crescenti preoccupazioni sull'intelligenza artificiale - come evidenziato dal CEO di Tesla, SpaceX e Twitter Elon Musk, dal fondatore di Apple Steve Wozniak e da altri leader tecnologici che chiedono una pausa nello sviluppo dell'IA - molto bene potrebbe venire dai progressi della tecnologia.

L'intelligenza artificiale può aiutarci a capire come le debolezze nel ragionamento umano potrebbero essere sfruttate da cattivi attori e sviluppare modi per contrastare le attività malevole.

Tutte le nuove tecnologie possono provocare sia meraviglia che pericolo. La differenza sta in chi crea e controlla gli strumenti e come vengono utilizzati.

Questo articolo è stato aggiornato per indicare che si trattava del padre di un adolescente .

Hai qualche idea su questo? Scrivici una riga qui sotto nei commenti o trasferisci la discussione sul nostro Twitter o Facebook.

Raccomandazioni della redazione:

• Come modificare le impostazioni antispam di Gmail e personalizzare il filtro
• Come identificare e prevenire lo spam di WhatsApp
• Le pagine Facebook verificate sono state violate e hanno diffuso malware
• I leader tecnologici vogliono premere il pulsante di pausa sulla formazione AI

Nota del redattore: questo articolo è stato scritto da John Licato , Assistant Professor of Computer Science e Director of AMHR Lab, University of South Florida e ripubblicato da The Conversation con una licenza Creative Commons. Leggi l'articolo originale.