人工智能語音克隆詐騙：四分之一的成年人已成為目標

你認為你能分辨出你愛的人的語音郵件和人工智能生成的語音郵件之間的區別嗎？ 好吧，詐騙者使用 AI 語音克隆技術來欺騙毫無戒心的受害者當然希望你不能——現在，他們比以往任何時候都更加活躍。

McAfee 最近進行的一項調查發現，四分之一的成年人已經成為 AI 語音詐騙的目標，絕大多數人因此失去了辛苦賺來的錢。 它還顯示，大多數成年人每周至少在社交媒體平台和其他在線空間上分享一次他們的聲音——這為威脅行為者提供了他們一遍又一遍地進行此類騙局所需要的東西。

那麼，AI 語音克隆騙局實際上是如何運作的，它有多普遍，以及您如何發現 AI 語音克隆騙局？ 我們仔細看看。

• 什麼是人工智能語音克隆騙局？
• 人工智能語音克隆的實際工作原理
• 人工智能語音克隆騙局有多普遍？
• 如何判斷一條消息是否是 AI 語音克隆騙局

什麼是人工智能語音克隆騙局？

AI 語音克隆騙局是指使用人工生成的音頻文件來欺騙受害者以為他們的親人處於危險之中，或者需要緊急經濟援助並聯繫他們尋求幫助的任何騙局。

在此類騙局中，欺詐者會通過 AI 語音生成器播放一段主題演講片段（通常是從社交媒體上截取的）。 使用機器學習，生成器將分析初始剪輯的節奏、音調和音調，然後允許欺詐者製作獨特的原始音頻，近乎完美地模仿對象的聲音。

然後，騙子會通過 WhatsApp 等應用程序將這些錄音發送給受害者的朋友和親戚，希望他們無法區分他們所愛的人和人工智能生成的聲音版本。

與其他在線詐騙一樣，詐騙者會嘗試在他們的通信中註入緊迫感和痛苦感，以促使目標輕率或反复無常。

在最近的一個案例中，一名人工智能語音騙子試圖通過克隆孩子的聲音讓一位美國母親相信她的女兒被綁架了。

令人擔憂的是，初出茅廬的詐騙者不會發現挖掘他們需要的音頻文件來攻擊受害者並不困難——事實上，他們很可能被寵壞了。

McAfee 於 2023 年 5 月發布的一項調查涉及來自七個不同國家/地區的 7,000 多人，發現 53% 的調查受訪者表示他們每周至少在線分享一次自己的聲音。 在印度，這個數字是 86%。

語音克隆的實際工作原理

AI 語音克隆只能使用稱為 AI 語音生成器的 AI 工具。 簡而言之，AI 語音生成器將文本文件轉換為語音（通常稱為“文本轉語音”或“TTS”工具）。

人工智能語音生成器使用機器學習通過分析人們說話的音頻文件中的信息來教自己以特定方式說話。 然後，生成器應用他們學到的知識來讀取用戶提供的文本文件並生成原始音頻內容。

這些生成器中有許多都有自定義聲音，您可以選擇這些聲音來閱讀您的文本，還有名人聲音可供選擇——但其他生成器會讓您錄製自己的聲音並創建後續的音頻內容。

文本轉語音工具 Descript.com 提供了一種自稱“最先進的語音生成器，可以創建您自己聲音的超逼真克隆”。

AI 語音發生器現在已廣泛用於各種設備。 這些程序為閱讀有困難的人提供了很多價值，或者只是在聽音頻而不是閱讀書面文字時學得更好。

它們也被沒有預算聘請昂貴的畫外音藝術家來為其營銷內容製作的廣告公司使用。

ChatGPT的成功和廣泛使用使人們重新關注各種形狀和大小的 AI 工具，包括可用於音頻克隆的工具。 儘管它們用途廣泛，但現在有一個小型 TTS AI 工俱生態系統，不幸的是，這些工具可能會被濫用於惡意目的，包括詐騙人員。

人工智能語音克隆騙局有多普遍？

在最近發布的 McAfee 調查中，這家網絡安全巨頭髮現，四分之一的受訪成年人都經歷過 AI 語音詐騙。

77% 的目標客戶報告說他們因詐騙而損失了錢。 McAfee 報告說，在這 77% 的人中，“超過三分之一的人損失了超過 1,000 美元，而 7% 的人被騙了 5,000 到 15,000 美元。”

調查顯示，美國的受害者損失最大。 通過 AI 語音克隆詐騙而蒙受損失的美國受害者中，有 11% 損失了 5,000 至 15,000 美元。

如何判斷一條消息是否是 AI 語音克隆騙局

McAfee 調查還發現，70% 的人表示他們“不確定”他們是否能夠分辨人工智能語音和人類語音之間的區別。

將近三分之一 (28%) 的美國受訪者表示，他們無法區分“人工冒名頂替者”留下的語音郵件和親人留下的語音郵件，正如 McAfee 所說。

請記住，詐騙者可能能夠複製親人的聲音——但控制親人的電話號碼或 WhatsApp 帳戶要困難得多。

當您的親戚或朋友聽起來很痛苦時，您可能很難冷靜地採取行動。 但隨著 AI 語音詐騙變得越來越普遍，你必須這樣做。 有一些跡象表明 AI 語音消息可能是騙局：

• 不尋常的聯繫方式（例如未知號碼）
• 立即要求大筆資金
• 要求通過不尋常的方式（例如禮品卡或加密貨幣）轉移資金
• 要求您不要將電話/事件告訴任何人

考慮到這一點，FTC 建議您應該這樣做：

• 撥打給您留言的號碼以驗證其身份
• 撥打您所愛的人或朋友的個人電話號碼
• 給當事人的家人和密友留言

如果您無法取得聯繫，請務必立即通知執法部門。 對於那些尚未成為其中一種騙局的目標但想確保自己不成為其中一種騙局受害者的人，請與您的家人和朋友建立一個安全詞。

這是一個代碼，意味著您和您所愛的人可以相互識別自己的身份，這是確保您不會成為 AI 語音詐騙受害者的最佳方式之一。 這對年長的家庭成員特別有用，如果從未寫下來，可以保持非常簡單。

跟上人工智能語音詐騙者用來勒索受害者的最新方法、技術和格式也很重要。 除了保持警惕並極其謹慎地處理來自未知號碼的電話外，保持警惕通常是您能做的最好的事情。