要提防和避免的 ChatGPT 和 AI 詐騙

自去年 11 月推出 ChatGPT 以來，事實證明它的用處無窮無盡，全世界的員工每天都在尋找創新的方法來應用該技術。 然而， AI 工具的強大之處在於它們也可以用於陰險的目的，例如編寫惡意軟件腳本和網絡釣魚電子郵件。

除了利用人工智能來策劃詐騙外，在過去六到八個月中，還發現黑客利用這一熱門話題通過虛假投資機會和詐騙應用程序勒索人們的錢財並竊取他們的信息。

AI 詐騙是最難識別的，而且很多人不會投資Surfshark 防病毒軟件等工具，該工具會在用戶即將前往可疑網站或下載可疑應用程序時發出警告。 因此，我們將最近在野外觀察到的所有常見策略匯總在一起。 總而言之，在本文中，我們涵蓋：

• 人工智能詐騙：它們有多普遍？
• 人工智能輔助的網絡釣魚詐騙
• 人工智能語音克隆詐騙
• 虛假 ChatGPT 應用程序
• 虛假 ChatGPT 網站
• 人工智能投資詐騙
• 人工智能詐騙：他們只會變得更糟

AI 騙局：它們是什麼，它們有多普遍？

正如我們在本文介紹中提到的，“AI 詐騙”可以指代兩種不同類型的詐騙，此類詐騙的例子在 2023 年經常出現。

在AI 輔助詐騙中，人工智能幫助詐騙者實際實施詐騙，例如編寫網絡釣魚電子郵件的文本。 在一般的 AI 詐騙中，黑客利用AI 的流行性和時代精神作為主題來吸引好奇的目標，例如虛假的 ChatGPT 應用程序詐騙。

加州 DFPI 已經繪製出人工智能投資詐騙案的上升趨勢，而 McAfee 等網絡安全公司觀察到近幾個月人工智能語音克隆詐騙案有所上升。

ChatGPT 的爆炸性發布也導致了一波惡意域的創建，本文也將對此進行討論。

最近，Apple 聯合創始人史蒂夫沃茲尼亞克——最近簽署了一封呼籲暫停人工智能開發的信件——警告說，人工智能將使詐騙更難被發現，並讓惡意行為者聽起來越來越有說服力。 人工智能輔助詐騙的時代已經到來。

就像勒索軟件即服務降低了攻擊公司所需的技術能力水平一樣，像 ChatGPT 這樣的人工智能工具意味著幾乎任何人都可以聽起來很有說服力，因此從理論上講，現在更大的人群可以有效地協調它們。

人工智能輔助的網絡釣魚詐騙

網絡釣魚詐騙已存在多年 - 詐騙者會發送電子郵件或短信，偽裝成合法公司，例如 Microsoft，試圖讓您點擊鏈接，這會將您帶到惡意網站。

從那裡，威脅者可以將惡意軟件注入您的設備或竊取密碼等個人信息。 從歷史上看，發現它們的最簡單方法之一是拼寫和語法錯誤，像微軟這樣享有盛譽的公司根本不會在給客戶的官方電子郵件中犯這些錯誤。

然而，在 2023 年，通過簡單的提示，ChatGPT 可以生成乾淨、流暢的副本，不包含任何拼寫錯誤。 這使得區分合法通信和網絡釣魚攻擊變得更加困難。

如果您明確要求 ChatGPT 創建用於網絡釣魚目的的電子郵件，聊天機器人會拒絕這樣做。 然而，我們要求 ChatGPT 生成兩種不同類型的電子郵件，它們可以用作網絡釣魚詐騙的模板，令人驚訝的是，這些請求似乎沒有根據其內容規則被阻止：

保護自己免受 AI 網絡釣魚詐騙

如果您收到一封看似來自合法公司的電子郵件，但它試圖在您的決策中註入緊迫感（例如要求您支付罰款或登錄您的帳戶以避免被刪除），請對待它要格外小心。 這是典型的網絡釣魚策略。

請記住，如果您認為電子郵件很可能是真實的，您可以隨時與此人或公司建立新的溝通渠道。

例如，如果您從銀行收到一封看似可疑的電子郵件，稱您的帳戶已被未經授權的第三方訪問，請不要回复該電子郵件 - 只需使用上面列出的號碼或地址自行聯繫銀行的客戶服務團隊他們的網站。

人工智能語音克隆詐騙

人工智能語音詐騙是一種人工智能輔助詐騙，近幾個月來一直是頭條新聞。 McAfee 最近的一項全球調查發現，10% 的受訪者已經成為 AI 語音詐騙的個人目標。 另有 15% 的人報告說，他們認識成為攻擊目標的人。

在 AI 語音克隆詐騙中損失金錢的美國受害者中，有 11% 被騙了 5,000 至 15,000 美元。

在 AI 語音詐騙中，惡意行為者會從目標的社交媒體帳戶中抓取音頻數據，然後通過文本轉語音應用程序運行它，該應用程序可以生成原始音頻風格的新內容。 這些類型的應用程序可以免費在線訪問，並且具有合法的非惡意用途。

詐騙者會創建一個語音郵件或語音留言，描述他們的目標處於困境中並且急需資金。 然後將其發送給他們的家人，希望他們無法區分親人的聲音和 AI 生成的聲音。

保護自己免受 AI 語音詐騙

聯邦貿易委員會 (FTC) 建議消費者在收到聲稱來自遇險親人的信件時保持冷靜，並嘗試撥打他們接聽電話的號碼以確認其真實性。

如果您認為自己處於這種情況而無法撥通電話號碼，請嘗試撥打對方的正常電話號碼。 如果您沒有得到答复，請嘗試通過聯繫與他們關係密切的人來驗證他們的行踪——如果您使用“查找我的朋友”等應用程序，看看他們是否在安全的地方。

如果您無法核實他們的下落，請務必立即聯繫執法部門。 如果您發現這是一個騙局，請確保您直接向聯邦貿易委員會報告。

欺詐性 ChatGPT 應用詐騙

就像任何其他主要的技術熱潮一樣，如果人們在談論它——更重要的是，在搜索它——騙子就會利用它進行邪惡的手段。 ChatGPT 就是一個很好的例子。

Sophos 最近的一份報告發現了大量與 ChatGPT 相鄰的應用程序，它們被稱為“fleeceware”。 Fleeceware 應用程序提供功能有限的免費程序，然後用應用程序內廣告轟炸用戶，直到他們註冊定價過高的訂閱。

據這家網絡安全公司稱，“結合使用應用商店內外的廣告和利用商店評級系統的虛假評論，這些誤導性應用的開發者能夠引誘毫無戒心的設備用戶下載它們”。

據 SensorTower 稱，一款名為 Genie 的虛假 ChatGPT 應用程序提供每週 7 美元或每年 70 美元的訂閱服務，每月賺取 100 萬美元。 其他人賺了數万英鎊。 另一個在 Android 商店中稱為“Chat GBT”的軟件在 Sophos 的報告中被特別提及：

（圖片來源：Sophos）

根據這家網絡安全公司的說法，用戶最終支付大筆費用的“專業”功能與免費版本“基本相同”。 他們還報告說，在該應用程序被下架之前，評論部分充斥著“下載該應用程序並發現它不起作用的人的評論——要么它只顯示廣告，要么在解鎖時無法回答問題。”

保護自己免受虛假 ChatGPT 應用詐騙

確保您不會產生此類訂閱費用或下載不需要的惡意軟件的最簡單方法就是不下載應用程序。 iPhone 用戶現在可以下載最近推出的官方 ChatGPT 應用程序。 看看這是否標誌著目前充斥 App Store 的假冒 ChatGPT 應用程序的消亡將是一件有趣的事情。

或者，iOS 和 Android 用戶都可以將 ChatGPT 網絡鏈接添加到他們的主屏幕，如果您是 iPhone 用戶，則可以創建一個 Siri 快捷方式，直接將您帶到網絡上的 ChatGPT。 在這種情況下，主屏幕快捷方式和本機應用程序之間幾乎沒有實際區別。

虛假 ChatGPT 網站

除了偽造的 ChatGPT 應用程序，還有許多偽造的 ChatGPT 網站，利用圍繞該術語的巨大搜索量。

2023 年 2 月，Twitter 用戶 Alvosec 確定了四個域，它們都以與 ChatGPT 相關的名稱分發惡意軟件：

️ 提防這些傳播惡意軟件的#ChatGPT 域

聊天-gpt-windows[.]com
chat-gpt-online-pc[.]com
chat-gpt-pc[.]在線
chat-gpt[.]run@OpenAI #cybersecurity #infosec pic.twitter.com/hOZIVGN4Wi

- Alvosec ️ (@alvosec) 2023 年 2 月 23 日

一些報告指出，虛假的 ChatGPT 網站一直將 OpenAI 的聊天機器人呈現為可下載的 Windows 應用程序，而不是瀏覽器內的應用程序，從而允許他們將惡意軟件加載到設備上。

如何保護自己免受虛假 ChatGPT 網站的侵害

請記住，ChatGPT 是一個 OpenAI 產品，訪問聊天機器人的唯一方法是通過移動應用程序，或者專門通過他們的域。 例如，“ChatGPT[.]com”與真正合法的ChatGPT 沒有任何關係，您不能像軟件客戶端一樣下載ChatGPT。

奇怪的是，合法的 ChatGPT 註冊/登錄登錄頁面的 URL 中甚至沒有“ChatGPT”一詞：https://chat.openai.com/auth/login。

您也可以通過 OpenAI 的博客 (https://openai.com/blog/chatgpt) 註冊，但同樣，這是 OpenAI 域的一部分。 如果有人向您發送的 ChatGPT 網站鏈接未指向上述地址之一，我們建議您不要點擊它，而是通過 Google 導航至合法網站。

人工智能投資詐騙

就像加密貨幣一樣，詐騙者正在利用圍繞人工智能的炒作——以及技術本身——來創造看似真實的虛假投資機會。

“TeslaCoin”和“TruthGPT Coin”都被用於詐騙，利用媒體圍繞 Elon Musk 和 ChatGPT 的熱議，並將自己描繪成時髦的投資機會。

加利福尼亞州金融保護與創新部聲稱，一家名為 Maxpread Technologies 的公司創建了一個由人工智能生成的假 CEO，並用鼓勵賭徒投資的腳本對其進行了編程（如下圖所示）。 該公司已被下達禁止令。

（圖片來源：coinstats.app）

福布斯報導稱，另一家投資公司 Harvest Keeper（DFPI 稱該公司已於 3 月倒閉）聘請了一名演員假扮成其 CEO，以吸引熱情的客戶。 這說明了一些詐騙者會不遺餘力地確保他們的宣傳足夠真實。

保護自己免受 AI 投資詐騙

如果您不認識的人直接通過投資機會與您聯繫，請極其謹慎地對待他們的建議。 有價值的投資機會往往不會以這種方式落入人們的懷抱。

如果聽起來好得令人難以置信，並且有人向您提供有保證的回報，請不要相信他們。 永遠無法保証投資回報，您的資本始終處於風險之中。

如果您是定期投資於公司的人，那麼您就會知道在放棄辛苦賺來的現金之前進行盡職調查的重要性。 考慮到相關產品的熱度和詐騙的盛行，我們建議對未來的 AI 投資進行更高級別的審查。

人工智能詐騙：他們只會變得更糟

2022 年，美國消費者因詐騙損失了 88 億美元——2023 年也不大可能有任何不同。 金融不穩定時期通常也與欺詐增加有關，在全球範圍內，許多國家都在苦苦掙扎。

目前，人工智能是騙子的金礦。 每個人都在談論它，但很少有人真正了解它是什麼，各種類型和規模的公司都在將 AI 產品推向市場。

現在，圍繞 AI 的炒作使其成為互聯網上最可下載、可投資和可點擊的主題。 它為騙子提供了完美的掩護。

及時了解最新的騙局很重要，而 AI 使它們更難被發現，這一點尤為重要。 FTC、FBI 和其他聯邦機構會定期發出警告，因此強烈建議在社交媒體上關注它們以獲取最新更新。

但是，我們還建議購買具有惡意軟件檢測功能的 VPN，例如NordVPN或Surfshark 。 它們既會像標準 VPN 一樣隱藏您的 IP 地址，還會提醒您注意潛伏在 Google 搜索結果頁面上的可疑網站。 為自己配備這樣的技術是確保自己上網安全的重要組成部分。