人工智能生成的垃圾郵件可能很快就會讓你的收件箱充滿詐騙

每天，來自尼日利亞王子、奇藥販子和不容錯過的投資發起人的郵件擠滿了電子郵件收件箱。

垃圾郵件過濾器的改進似乎只會激發新技術來突破保護。

現在，隨著一種新武器的出現：生成式人工智能，垃圾郵件攔截器和垃圾郵件發送者之間的軍備競賽即將升級。

隨著以 ChatGPT 聞名的 AI 的最新進展，垃圾郵件發送者可以使用新工具來逃避過濾器、吸引人們的注意力並說服他們點擊、購買或放棄個人信息。

作為南佛羅里達大學高級人機推理實驗室的主任，我研究人工智能、自然語言處理和人類推理的交叉領域。

我研究了人工智能如何學習人們的個人偏好、信仰和性格怪癖。

這可用於更好地了解如何與人互動、幫助他們學習或提供有用的建議。

但這也意味著您應該為知道您的弱點並可以利用它們對付您的更智能的垃圾郵件做好準備。

垃圾郵件，垃圾郵件，垃圾郵件

那麼，什麼是垃圾郵件？ 垃圾郵件被定義為由未知實體發送的未經請求的商業電子郵件。 該術語有時會擴展到短信、社交媒體上的直接消息以及對​​產品的虛假評論。

垃圾郵件發送者希望促使您採取行動：購買東西、點擊網絡釣魚鏈接、安裝惡意軟件或更改視圖。

垃圾郵件是有利可圖的。 一封電子郵件群發僅需幾個小時即可賺取 1,000 美元，而垃圾郵件發送者只需花費幾美元——不包括初始設置。 在線藥品垃圾郵件活動每天可能產生大約 7,000 美元的收入。

合法的廣告商也想促使您採取行動——購買他們的產品、參加他們的調查並註冊時事通訊。

儘管如此，根據聯邦法規，營銷電子郵件可能會鏈接到已建立的公司網站並包含取消訂閱選項，但垃圾郵件可能不會。

垃圾郵件發送者也無法訪問用戶註冊的郵件列表。 相反，垃圾郵件發送者利用反直覺的策略，例如“尼日利亞王子”騙局。

一位尼日利亞王子聲稱需要你的幫助才能解鎖一筆數額驚人的金錢，並承諾會給你豐厚的回報。

精明的數字原住民會立即駁回此類請求，但請求的荒謬性實際上可能會選擇幼稚或高齡，過濾掉最有可能上當受騙的人。

然而，人工智能的進步意味著垃圾郵件發送者可能不必依賴這種命中註定的方法。

人工智能可以讓他們以個人為目標，並根據易於獲取的信息（例如社交媒體帖子）使他們的信息更具說服力。

垃圾郵件的未來

您可能聽說過生成式大型語言模型（如 ChatGPT）的進步。

這些生成式 LLM 執行的任務看似簡單：給定一個文本序列，預測下一個標記（將其視為單詞的一部分）。

然後，預測在那之後是哪個令牌。 等等，一遍又一遍。

不知何故，僅在該任務上進行訓練，在足夠大的 LLM 上完成足夠多的文本，似乎就足以使這些模型具備在許多其他任務上表現出色的能力。

已經出現了多種使用該技術的方法，展示了該技術快速適應和了解個人的能力。

例如，法學碩士可以用你的寫作風格寫出完整的電子郵件，只給出幾個你如何寫作的例子。 還有一個經典的例子——現在已有十多年曆史了——塔吉特在她父親知道之前就發現一位顧客懷孕了。

垃圾郵件發送者和營銷人員都將受益於能夠用更少的數據預測更多關於個人的信息。

鑑於你的 LinkedIn 頁面、一些帖子和一兩張個人資料圖片，擁有 LLM 的垃圾郵件發送者可能會對你的政治傾向、婚姻狀況或生活優先事項做出相當準確的猜測。

我們的研究表明，在稱為語義流暢性任務的單詞生成任務中，LLM 可用於預測一個人接下來會說哪個單詞，其準確度遠遠超過其他 AI 方法。

我們還表明，LLM 可以從推理能力測試中提取某些類型的問題，並預測人們將如何回答該問題。

這表明法學碩士已經對典型的人類推理能力有一些了解。

如果垃圾郵件發送者通過了初始過濾器並讓您閱讀電子郵件、單擊鏈接甚至參與對話，那麼他們應用定制說服的能力就會顯著提高。

同樣，法學碩士可以改變遊戲規則。 早期結果表明，LLM 可用於就從政治到公共衛生政策等主題進行有說服力的辯論。

對公鵝有好處

然而，人工智能不偏袒一方或另一方。 垃圾郵件過濾器還應該受益於 AI 垃圾郵件的進步，使他們能夠為不需要的電子郵件設置新的障礙。

垃圾郵件發送者經常嘗試使用特殊字符、拼寫錯誤的單詞或隱藏文本來欺騙過濾器，這依賴於人類原諒小文本異常的傾向——例如，“c1ick h.ere n0w”。

但隨著 AI 更好地理解垃圾郵件，過濾器可以更好地識別和阻止不需要的垃圾郵件。 甚至可能讓需要的垃圾郵件通過，例如您已明確註冊的營銷電子郵件。

想像一個過濾器，它可以在您閱讀電子郵件之前預測您是否想要閱讀它。

儘管人們對人工智能的擔憂日益增加——正如特斯拉、SpaceX 和 Twitter 首席執行官埃隆·馬斯克、蘋果創始人史蒂夫·沃茲尼亞克和其他科技領袖呼籲暫停人工智能開發所證明的那樣——技術的進步可能會帶來很多好處。

人工智能可以幫助我們了解人類推理的弱點如何被不良行為者利用，並開發出應對惡意活動的方法。

所有新技術都會帶來驚奇和危險。 區別在於誰創建和控制工具以及如何使用它們。

這篇文章更新後表明是一個少年的父親。

對此有什麼想法嗎？ 在評論下方給我們留言，或將討論轉移到我們的 Twitter 或 Facebook。

編輯推薦：

• 如何更改 Gmail 的垃圾郵件設置和自定義過濾器
• 如何識別和防止 WhatsApp 垃圾郵件
• 經過驗證的 Facebook 頁面遭到黑客攻擊並傳播惡意軟件
• 技術領導者希望按下 AI 培訓的暫停鍵

編者註：本文由南佛羅里達大學計算機科學助理教授兼 AMHR 實驗室主任 John Licato 撰寫，並根據知識共享許可從 The Conversation 重新發布。 閱讀原文。