人工智能生成的垃圾邮件可能很快就会让你的收件箱充满诈骗

每天，来自尼日利亚王子、奇药贩子和不容错过的投资发起人的邮件挤满了电子邮件收件箱。

垃圾邮件过滤器的改进似乎只会激发新技术来突破保护。

现在，随着一种新武器的出现：生成式人工智能，垃圾邮件拦截器和垃圾邮件发送者之间的军备竞赛即将升级。

随着以 ChatGPT 闻名的 AI 的最新进展，垃圾邮件发送者可以使用新工具来逃避过滤器、吸引人们的注意力并说服他们点击、购买或放弃个人信息。

作为南佛罗里达大学高级人机推理实验室的主任，我研究人工智能、自然语言处理和人类推理的交叉领域。

我研究了人工智能如何学习人们的个人偏好、信仰和性格怪癖。

这可用于更好地了解如何与人互动、帮助他们学习或提供有用的建议。

但这也意味着您应该为知道您的弱点并可以利用它们对付您的更智能的垃圾邮件做好准备。

垃圾邮件，垃圾邮件，垃圾邮件

那么，什么是垃圾邮件？ 垃圾邮件被定义为由未知实体发送的未经请求的商业电子邮件。 该术语有时会扩展到短信、社交媒体上的直接消息以及对产品的虚假评论。

垃圾邮件发送者希望促使您采取行动：购买东西、点击网络钓鱼链接、安装恶意软件或更改视图。

垃圾邮件是有利可图的。 一封电子邮件群发仅需几个小时即可赚取 1,000 美元，而垃圾邮件发送者只需花费几美元——不包括初始设置。 在线药品垃圾邮件活动每天可能产生大约 7,000 美元的收入。

合法的广告商也想促使您采取行动——购买他们的产品、参加他们的调查并注册时事通讯。

尽管如此，根据联邦法规，营销电子邮件可能会链接到已建立的公司网站并包含取消订阅选项，但垃圾邮件可能不会。

垃圾邮件发送者也无法访问用户注册的邮件列表。 相反，垃圾邮件发送者利用反直觉的策略，例如“尼日利亚王子”骗局。

一位尼日利亚王子声称需要你的帮助才能解锁一笔数额惊人的金钱，并承诺会给你丰厚的回报。

精明的数字原住民会立即驳回此类请求，但请求的荒谬性实际上可能会选择幼稚或高龄，过滤掉最有可能上当受骗的人。

然而，人工智能的进步意味着垃圾邮件发送者可能不必依赖这种命中注定的方法。

人工智能可以让他们以个人为目标，并根据易于获取的信息（例如社交媒体帖子）使他们的信息更具说服力。

垃圾邮件的未来

您可能听说过生成式大型语言模型（如 ChatGPT）的进步。

这些生成式 LLM 执行的任务看似简单：给定一个文本序列，预测下一个标记（将其视为单词的一部分）。

然后，预测在那之后是哪个令牌。 等等，一遍又一遍。

不知何故，仅在该任务上进行训练，在足够大的 LLM 上完成足够多的文本，似乎就足以使这些模型具备在许多其他任务上表现出色的能力。

已经出现了多种使用该技术的方法，展示了该技术快速适应和了解个人的能力。

例如，法学硕士可以用你的写作风格写出完整的电子邮件，只给出几个你如何写作的例子。 还有一个经典的例子——现在已有十多年历史了——塔吉特在她父亲知道之前就发现一位顾客怀孕了。

垃圾邮件发送者和营销人员都将受益于能够用更少的数据预测更多关于个人的信息。

鉴于你的 LinkedIn 页面、一些帖子和一两张个人资料图片，拥有 LLM 的垃圾邮件发送者可能会对你的政治倾向、婚姻状况或生活优先事项做出相当准确的猜测。

我们的研究表明，在称为语义流畅性任务的单词生成任务中，LLM 可用于预测一个人接下来会说哪个单词，其准确度远远超过其他 AI 方法。

我们还表明，LLM 可以从推理能力测试中提取某些类型的问题，并预测人们将如何回答该问题。

这表明法学硕士已经对典型的人类推理能力有一些了解。

如果垃圾邮件发送者通过了初始过滤器并让您阅读电子邮件、单击链接甚至参与对话，那么他们应用定制说服的能力就会显着提高。

同样，法学硕士可以改变游戏规则。 早期结果表明，LLM 可用于就从政治到公共卫生政策等主题进行有说服力的辩论。

对公鹅有好处

然而，人工智能不偏袒一方或另一方。 垃圾邮件过滤器还应该受益于 AI 垃圾邮件的进步，使他们能够为不需要的电子邮件设置新的障碍。

垃圾邮件发送者经常尝试使用特殊字符、拼写错误的单词或隐藏文本来欺骗过滤器，这依赖于人类原谅小文本异常的倾向——例如，“c1ick h.ere n0w”。

但随着 AI 更好地理解垃圾邮件，过滤器可以更好地识别和阻止不需要的垃圾邮件。 甚至可能让需要的垃圾邮件通过，例如您已明确注册的营销电子邮件。

想象一个过滤器，它可以在您阅读电子邮件之前预测您是否想要阅读它。

尽管人们对人工智能的担忧日益增加——正如特斯拉、SpaceX 和 Twitter 首席执行官埃隆·马斯克、苹果创始人史蒂夫·沃兹尼亚克和其他科技领袖呼吁暂停人工智能开发所证明的那样——技术的进步可能会带来很多好处。

人工智能可以帮助我们了解人类推理的弱点如何被不良行为者利用，并开发出应对恶意活动的方法。

所有新技术都会带来惊奇和危险。 区别在于谁创建和控制工具以及如何使用它们。

这篇文章更新后表明是一个少年的父亲。

对此有什么想法吗？ 在评论下方给我们留言，或将讨论转移到我们的 Twitter 或 Facebook。

编辑推荐：

• 如何更改 Gmail 的垃圾邮件设置和自定义过滤器
• 如何识别和防止 WhatsApp 垃圾邮件
• 经过验证的 Facebook 页面遭到黑客攻击并传播恶意软件
• 技术领导者希望按下 AI 培训的暂停键

编者注：本文由南佛罗里达大学计算机科学助理教授兼 AMHR 实验室主任 John Licato 撰写，并根据知识共享许可从 The Conversation 重新发布。 阅读原文。