Windows 11 的 AI Recall 功能被安全专家抨击为“我见过的最荒谬的安全缺陷之一”

已发表: 2024-06-04

微软已经因其 Windows 11 的 Recall 功能而受到安全研究人员和隐私监管机构的严厉批评,并且它需要一套阻燃服来应对最新针对人工智能功能的激烈攻击。

正如 The Verge 所强调的那样,这一点来自安全专家 Kevin Beaumont。 该网站指出,博蒙特几年前曾在微软短暂工作过。

回顾一下——以防万一您错过了——Recall 是 Copilot+ PC 的一项人工智能功能,将于本月晚些时候推出,并充当摄影时间线——本质上是您在 PC 上所做的一切的历史记录,通过截图记录下来定期在 Windows 11 后台运行。

Beaumont 让 Recall 在普通(非 Copilot+)PC 上运行——虽然不推荐从性能角度考虑,但这是可以做到的——并且已经摆弄了一周了。

他得出的结论是,微软在这里犯了一个巨大的错误,至少从目前实现的功能来看是这样——当然,它即将发布。 事实上,博蒙特断言,微软“可能会烧毁整个 Copilot 品牌,因为它的实施和推广非常糟糕”。

那么,最大的问题是什么? 嗯,主要是缺乏对安全性的思考,以及微软对 Recall 明显保持无懈可击的方式的描述与博蒙特的发现之间存在重大差异。

正如您在 X(以前称为 Twitter)上的上述帖子中看到的,安全专家对 Microsoft 的主要不满之一是,它告知媒体,黑客不可能远程获取 Copilot+ Recall 数据。 换句话说,攻击者需要亲自物理访问设备,但事实并非如此。

在一篇关于这个主题的长篇博客文章中,博蒙特解释道:“这是错误的。 可以远程访问数据。” 请注意,正如微软所说,Recall 确实完全在本地工作,只是按照建议远程访问数据并非不可能(当然,如果您可以访问 PC)。

正如 Beaumont 所阐述的那样,这里的另一个大问题是 Recall 数据库本身,它包含来自这些屏幕截图的所有数据以及您的 PC 使用历史记录 - 因为所有这些都以纯文本形式存储(在 SQLite 数据库中)。

这使得您可以非常轻松地窃取有关您如何使用 Windows 11 PC 的所有与 Recall 相关的信息 - 假设攻击者可以访问该设备(远程或亲自)。


分析:召回召回功能,否则后悔莫及

这里还有很多进一步的担忧。 正如微软在透露 Recall 时指出的那样,在你的 PC 上由人工智能驱动的活动历史记录中可以捕获的内容是没有限制的(除了一些轻微的例外,例如 Microsoft Edge 的隐私浏览模式,但 Chrome Incognito 则不然) )。

例如,敏感的财务信息不会被排除在外,博蒙特进一步指出,消息应用程序中自动删除的消息也将被截屏,这样就可以通过被盗的 Recall 数据库来访问它们。 事实上,您从 WhatsApp、Signal 等应用程序中删除的任何消息都可以通过 Recall 妥协来读取。

但等一下,您可能会想,如果您的 PC 被黑客远程访问,您岂不是陷入了大麻烦吗? 嗯,是的,确实如此 - 除非您的 PC 被主动利用,否则不可能访问这些 Recall 详细信息(尽管 Beaumont 的部分问题是 Microsoft 明显错误的声明,即根本不可能对 Recall 数据进行任何类型的远程访问,因为上文提到的)。

黑客

(图片来源:Milan_Jovic)

这里真正的问题是,如果有人确实访问了您的电脑,Recall 似乎可以让攻击者很容易地获取有关您的使用历史记录的所有这些潜在的非常敏感的详细信息。

虽然信息窃取木马已经存在并持续大规模地窃取受害者,但 Recall 可以使这种个人数据收集变得异常快速和轻松。

正如博蒙特所解释的那样,这是批评的症结所在:“Recall 使威胁行为者能够在几秒钟内自动抓取你曾经看过的所有内容。 在使用现成的信息窃取程序进行测试期间,我使用了 Microsoft Defender for Endpoint – 它检测到了现成的信息窃取程序 – 但当自动修复启动时(花费了十多分钟),我的召回数据早已消失。”

这就是博蒙特称 Recall 为“我见过的最荒谬的安全失败之一”的主要原因。

如果微软不在发货前采取行动,请注意 - 因为理论上仍然有时间,尽管 Copilot+ PC 的发布现在已经非常接近了。 (然而,在进一步研究的过程中,召回仍然可能会被暂时踢去触摸——也许)。

如果 Recall 确实按照目前的实施方式发布,博蒙特建议将其关闭:“另外,要非常明确的是,你可以在发布时在“设置”中禁用它,我强烈建议你这样做,除非他们重新设计功能和体验。”

这里还有另一个棘手的问题:人工智能驱动的功能默认处于开启状态。 在 Copilot+ PC 设置体验过程中,Recall 会突出显示,您可以将其关闭,但其实现方式意味着您必须勾选一个框才能在设置后输入设置,然后在那里关闭 Recall - 否则,它只会仍然开着。 一些 Windows 11 用户可能会陷入安装过程中不理解复选框选项含义的陷阱,最终导致默认启用“Recall”。

这不是这样的功能应该运行的方式——特别是考虑到这里强调的隐私问题——而且我们之前已经明确表达过我们对此的感受。 当然,任何具有广泛功能(例如“召回”)的功能都应该默认关闭,或者用户应该在设置过程中看到一个非常明确的选择。 不是某种奇怪的“勾选此框,稍后跳过此圈”之类的恶作剧。