人工智能语音克隆诈骗：四分之一的成年人已成为目标

你认为你能分辨出你爱的人的语音邮件和人工智能生成的语音邮件之间的区别吗？ 好吧，诈骗者使用 AI 语音克隆技术来欺骗毫无戒心的受害者当然希望你不能——现在，他们比以往任何时候都更加活跃。

McAfee 最近进行的一项调查发现，四分之一的成年人已经成为 AI 语音诈骗的目标，绝大多数人因此失去了辛苦赚来的钱。 它还显示，大多数成年人每周至少在社交媒体平台和其他在线空间上分享一次他们的声音——这为威胁行为者提供了他们一遍又一遍地进行此类骗局所需要的东西。

那么，AI 语音克隆骗局实际上是如何运作的，它有多普遍，以及您如何发现 AI 语音克隆骗局？ 我们仔细看看。

• 什么是人工智能语音克隆骗局？
• 人工智能语音克隆的实际工作原理
• 人工智能语音克隆骗局有多普遍？
• 如何判断一条消息是否是 AI 语音克隆骗局

什么是人工智能语音克隆骗局？

AI 语音克隆骗局是指使用人工生成的音频文件来欺骗受害者以为他们的亲人处于危险之中，或者需要紧急经济援助并联系他们寻求帮助的任何骗局。

在此类骗局中，欺诈者会通过 AI 语音生成器播放一段主题演讲片段（通常是从社交媒体上截取的）。 使用机器学习，生成器将分析初始剪辑的节奏、音调和音调，然后允许欺诈者制作独特的原始音频，近乎完美地模仿对象的声音。

然后，骗子会通过 WhatsApp 等应用程序将这些录音发送给受害者的朋友和亲戚，希望他们无法区分他们所爱的人和人工智能生成的声音版本。

与其他在线诈骗一样，诈骗者会尝试在他们的通信中注入紧迫感和痛苦感，以促使目标轻率或反复无常。

在最近的一个案例中，一名人工智能语音骗子试图通过克隆孩子的声音让一位美国母亲相信她的女儿被绑架了。

令人担忧的是，初出茅庐的诈骗者不会发现挖掘他们需要的音频文件来攻击受害者并不困难——事实上，他们很可能被宠坏了。

McAfee 于 2023 年 5 月发布的一项调查涉及来自七个不同国家/地区的 7,000 多人，发现 53% 的调查受访者表示他们每周至少在线分享一次自己的声音。 在印度，这个数字是 86%。

语音克隆的实际工作原理

AI 语音克隆只能使用称为 AI 语音生成器的 AI 工具。 简而言之，AI 语音生成器将文本文件转换为语音（通常称为“文本转语音”或“TTS”工具）。

人工智能语音生成器使用机器学习通过分析人们说话的音频文件中的信息来教自己以特定方式说话。 然后，生成器应用他们学到的知识来读取用户提供的文本文件并生成原始音频内容。

这些生成器中有许多都有自定义声音，您可以选择这些声音来阅读您的文本，还有名人声音可供选择——但其他生成器会让您录制自己的声音并创建后续的音频内容。

文本转语音工具 Descript.com 提供了一种自称“最先进的语音生成器，可以创建您自己声音的超逼真克隆”。

AI 语音发生器现在已广泛用于各种设备。 这些程序为阅读有困难的人提供了很多价值，或者只是在听音频而不是阅读书面文字时学得更好。

它们也被没有预算聘请昂贵的画外音艺术家来为其营销内容制作的广告公司使用。

ChatGPT的成功和广泛使用使人们重新关注各种形状和大小的 AI 工具，包括可用于音频克隆的工具。 尽管它们用途广泛，但现在有一个小型 TTS AI 工具生态系统，不幸的是，这些工具可能会被滥用于恶意目的，包括诈骗人员。

人工智能语音克隆骗局有多普遍？

在最近发布的 McAfee 调查中，这家网络安全巨头发现，四分之一的受访成年人都经历过 AI 语音诈骗。

77% 的目标客户报告说他们因诈骗而损失了钱。 McAfee 报告说，在这 77% 的人中，“超过三分之一的人损失了超过 1,000 美元，而 7% 的人被骗了 5,000 到 15,000 美元。”

调查显示，美国的受害者损失最大。 通过 AI 语音克隆诈骗而蒙受损失的美国受害者中，有 11% 损失了 5,000 至 15,000 美元。

如何判断一条消息是否是 AI 语音克隆骗局

McAfee 调查还发现，70% 的人表示他们“不确定”他们是否能够分辨人工智能语音和人类语音之间的区别。

将近三分之一 (28%) 的美国受访者表示，他们无法区分“人工冒名顶替者”留下的语音邮件和亲人留下的语音邮件，正如 McAfee 所说。

请记住，诈骗者可能能够复制亲人的声音——但控制亲人的电话号码或 WhatsApp 帐户要困难得多。

当您的亲戚或朋友听起来很痛苦时，您可能很难冷静地采取行动。 但随着 AI 语音诈骗变得越来越普遍，你必须这样做。 有一些迹象表明 AI 语音消息可能是骗局：

• 不寻常的联系方式（例如未知号码）
• 立即要求大笔资金
• 要求通过不寻常的方式（例如礼品卡或加密货币）转移资金
• 要求您不要将电话/事件告诉任何人

考虑到这一点，FTC 建议您应该这样做：

• 拨打给您留言的号码以验证其身份
• 拨打您所爱的人或朋友的个人电话号码
• 给当事人的家人和密友留言

如果您无法取得联系，请务必立即通知执法部门。 对于那些尚未成为其中一种骗局的目标但想确保自己不成为其中一种骗局受害者的人，请与您的家人和朋友建立一个安全词。

这是一个代码，意味着您和您所爱的人可以相互识别自己的身份，这是确保您不会成为 AI 语音诈骗受害者的最佳方式之一。 这对年长的家庭成员特别有用，如果从未写下来，可以保持非常简单。

跟上人工智能语音诈骗者用来勒索受害者的最新方法、技术和格式也很重要。 除了保持警惕并极其谨慎地处理来自未知号码的电话外，保持警惕通常是您能做的最好的事情。