KI-generierter Spam könnte Ihren Posteingang bald mit Betrügereien überschwemmen

Jeden Tag verstopfen Nachrichten von nigerianischen Prinzen, Händlern von Wundermitteln und Förderern von Investitionen, die man sich nicht entgehen lassen sollte, die E-Mail-Postfächer.

Verbesserungen an Spamfiltern scheinen nur neue Techniken zum Durchbrechen der Schutzmaßnahmen anzuregen.

Nun droht das Wettrüsten zwischen Spam-Blockern und Spam-Versendern mit dem Aufkommen einer neuen Waffe zu eskalieren: der generativen künstlichen Intelligenz.

Mit den jüngsten Fortschritten in der KI, die durch ChatGPT bekannt geworden sind, könnten Spammer über neue Tools verfügen, um Filter zu umgehen, die Aufmerksamkeit der Menschen zu erregen und sie zum Klicken, Kaufen oder zur Preisgabe persönlicher Informationen zu bewegen.

Als Leiter des Advancing Human and Machine Reasoning-Labors an der University of South Florida erforsche ich die Schnittstelle zwischen künstlicher Intelligenz, natürlicher Sprachverarbeitung und menschlichem Denken.

Ich habe untersucht, wie KI die individuellen Vorlieben, Überzeugungen und Persönlichkeitsmerkmale von Menschen lernen kann.

Dies kann genutzt werden, um besser zu verstehen, wie man mit Menschen interagiert, ihnen beim Lernen zu helfen oder hilfreiche Vorschläge zu machen.

Das bedeutet aber auch, dass Sie sich auf intelligenteren Spam gefasst machen sollten, der Ihre Schwachstellen kennt – und diese gegen Sie nutzen kann.

Spam, Spam, Spam

Was ist also Spam? Unter Spam versteht man unerwünschte kommerzielle E-Mails, die von einem unbekannten Unternehmen gesendet werden. Der Begriff wird manchmal auf Textnachrichten, Direktnachrichten in sozialen Medien und gefälschte Produktbewertungen ausgeweitet.

Spammer möchten Sie zum Handeln bewegen: etwas kaufen, auf Phishing-Links klicken, Malware installieren oder Ihre Meinung ändern.

Spam ist profitabel. Eine E-Mail-Explosion kann in nur wenigen Stunden 1.000 US-Dollar einbringen, was Spammer nur ein paar US-Dollar kostet – die Ersteinrichtung ausgenommen. Eine Online-Pharma-Spam-Kampagne könnte etwa 7.000 US-Dollar pro Tag einbringen.

Seriöse Werbetreibende möchten Sie auch zum Handeln bewegen – zum Kauf ihrer Produkte, zur Teilnahme an Umfragen und zur Anmeldung für Newsletter.

Während eine Vermarkter-E-Mail möglicherweise auf eine etablierte Unternehmenswebsite verweist und eine Abmeldeoption gemäß den Bundesvorschriften enthält, ist dies bei einer Spam-E-Mail möglicherweise nicht der Fall.

Spammer haben außerdem keinen Zugriff auf Mailinglisten, für die sich Benutzer angemeldet haben. Stattdessen nutzen Spammer kontraintuitive Strategien wie den „Nigerian Prince“-Betrug.

Ein nigerianischer Prinz behauptet, Ihre Hilfe zu brauchen, um eine absurde Geldsumme freizuschalten, und verspricht, Sie gut zu belohnen.

Versierte Digital Natives lehnen solche Bitten sofort ab, aber die Absurdität der Anfrage könnte tatsächlich zu Naivität oder fortgeschrittenem Alter führen und diejenigen herausfiltern, die am wahrscheinlichsten auf die Betrügereien hereinfallen.

Fortschritte in der KI bedeuten jedoch, dass Spammer möglicherweise nicht mehr auf solche Hit-or-Miss-Ansätze angewiesen sind.

KI könnte es ihnen ermöglichen, Einzelpersonen anzusprechen und ihre Botschaften auf der Grundlage leicht zugänglicher Informationen, wie etwa Social-Media-Beiträge, überzeugender zu gestalten.

Zukunft des Spams

Wahrscheinlich haben Sie schon von den Fortschritten bei generativen großen Sprachmodellen wie ChatGPT gehört.

Die Aufgabe, die diese generativen LLMs erfüllen, ist täuschend einfach: Sie müssen anhand einer gegebenen Textsequenz vorhersagen, welches Token – stellen Sie sich dies als Teil eines Wortes vor – als nächstes kommt.

Sagen Sie dann voraus, welches Token danach kommt. Und so weiter, immer und immer wieder.

Irgendwie scheint das Training allein für diese Aufgabe, wenn es mit genügend Text auf einem ausreichend großen LLM durchgeführt wird, auszureichen, um diesen Modellen die Fähigkeit zu verleihen, bei vielen anderen Aufgaben überraschend gute Leistungen zu erbringen.

Es sind bereits mehrere Möglichkeiten zur Nutzung der Technologie entstanden, die die Fähigkeit der Technologie unter Beweis stellen, sich schnell an Einzelpersonen anzupassen und etwas über sie zu lernen.

LLMs können beispielsweise vollständige E-Mails in Ihrem Schreibstil verfassen, wenn sie nur einige Beispiele dafür geben, wie Sie schreiben. Und es gibt das klassische Beispiel – mittlerweile über ein Jahrzehnt alt –, wie Target herausfand, dass eine Kundin schwanger war, bevor ihr Vater davon wusste.

Sowohl Spammer als auch Vermarkter würden davon profitieren, wenn sie mit weniger Daten mehr über Personen vorhersagen könnten.

Anhand Ihrer LinkedIn-Seite, ein paar Beiträge und ein oder zwei Profilbilder können LLM-bewaffnete Spammer einigermaßen genaue Vermutungen über Ihre politischen Neigungen, Ihren Familienstand oder Ihre Lebensprioritäten anstellen.

Unsere Forschung hat gezeigt, dass LLMs verwendet werden können, um vorherzusagen, welches Wort eine Person als nächstes sagen wird, und zwar mit einer Genauigkeit, die andere KI-Ansätze bei einer Wortgenerierungsaufgabe, die als semantische Fluenzaufgabe bezeichnet wird, weit übertrifft.

Wir haben auch gezeigt, dass LLMs bestimmte Arten von Fragen aus Tests zum logischen Denken übernehmen und vorhersagen können, wie Menschen auf diese Frage reagieren werden.

Dies deutet darauf hin, dass LLMs bereits über gewisse Kenntnisse darüber verfügen, wie typische menschliche Denkfähigkeiten aussehen.

Wenn Spammer es schaffen, die anfänglichen Filter zu überwinden und Sie dazu zu bringen, eine E-Mail zu lesen, auf einen Link zu klicken oder sich sogar an einer Konversation zu beteiligen, erhöht sich ihre Fähigkeit, individuelle Überzeugungsarbeit zu leisten, erheblich.

Auch hier können LLMs das Spiel verändern. Erste Ergebnisse deuten darauf hin, dass LLMs genutzt werden können, um zu Themen von der Politik bis zur öffentlichen Gesundheitspolitik überzeugend zu argumentieren.

Gut für den Betrachter

KI bevorzugt jedoch weder die eine noch die andere Seite. Auch Spam-Filter sollten von den Fortschritten im KI-Spam profitieren, die es ihnen ermöglichen, neue Barrieren für unerwünschte E-Mails zu errichten.

Spammer versuchen oft, Filter mit Sonderzeichen, falsch geschriebenen Wörtern oder verstecktem Text auszutricksen, und verlassen sich dabei auf die menschliche Neigung, kleine Textanomalien zu verzeihen – zum Beispiel „Jetzt hier klicken“.

Aber da KI Spam-Nachrichten besser versteht, könnten Filter unerwünschten Spam besser identifizieren und blockieren. Und lassen Sie vielleicht sogar unerwünschten Spam durch, etwa Marketing-E-Mails, für die Sie sich ausdrücklich angemeldet haben.

Stellen Sie sich einen Filter vor, der vorhersagt, ob Sie eine E-Mail lesen möchten, bevor Sie sie überhaupt lesen.

Trotz wachsender Besorgnis über KI – wie Tesla-, SpaceX- und Twitter-CEO Elon Musk, Apple-Gründer Steve Wozniak und andere Technologieführer zeigen, die eine Pause in der KI-Entwicklung fordern – könnten Fortschritte in der Technologie viel Gutes bringen.

KI kann uns helfen zu verstehen, wie Schwächen im menschlichen Denken von böswilligen Akteuren ausgenutzt werden können, und Wege entwickeln, um böswilligen Aktivitäten entgegenzuwirken.

Alle neuen Technologien können sowohl Wunder als auch Gefahren mit sich bringen. Der Unterschied liegt darin, wer die Werkzeuge erstellt und kontrolliert und wie sie verwendet werden.

Dieser Artikel wurde aktualisiert, um darauf hinzuweisen, dass es sich um den Vater eines Teenagers handelte .

Haben Sie irgendwelche Gedanken dazu? Schreiben Sie uns unten in die Kommentare oder übertragen Sie die Diskussion auf Twitter oder Facebook.

Empfehlungen der Redaktion:

• So ändern Sie die Spam-Einstellungen von Gmail und passen den Filter an
• So erkennen und verhindern Sie WhatsApp-Spam
• Verifizierte Facebook-Seiten wurden gehackt und verbreiteten Malware
• Technologieführer wollen beim KI-Training die Pause-Taste drücken

Anmerkung des Herausgebers: Dieser Artikel wurde von John Licato , Assistenzprofessor für Informatik und Direktor des AMHR Lab der University of South Florida, verfasst und von The Conversation unter einer Creative Commons-Lizenz erneut veröffentlicht. Lesen Sie den Originalartikel.