眼见为实：人工智能时代重建信任
已发表: 2024-06-16古老的口头禅是“亲眼所见，我会相信” ，而今天的技术让每个人都在问一个非常不同的问题。 我能相信我所看到的吗？
改变图像和深度伪造比以往任何时候都更容易实现。 在某些情况下，风险很低。 教皇方济各穿着一件蓬松的外套？ 这只是一些无害的人工智能诡计。
凯特·米德尔顿这张明显被篡改的照片引发了一波谣言和长期的错误信息，但造成的危害相对较小，除了英国王室之外，几乎没有影响到其他人。
据《连线》杂志报道，印度的风险要高得多，印度选民被强制灌输来自政治候选人的经批准的深度造假——在最近的选举之前，有超过 5000 万候选人被强迫灌输这些信息。
今年，全球近一半的人口将前往投票站投票，视觉媒体将在他们的决策中发挥巨大作用。
区分真假图像的挑战非常重要。
篡改或伪造的竞选照片、演讲、采访和政治广告有可能削弱公众对真相的辨别力，从而破坏民主进程本身。
公众在选择政治领导时依赖于事实信息的获取。
然而，一场完美的风暴正在酝酿之中——技术的快速进步，加上错误信息的病毒式传播和对机构的不信任感不断上升。 这是一种危险的组合，会危及知情的公民参与。
随着公众对人工智能处理图像的认识不断增强，他们对辨别事实与虚构越来越困难的担忧也随之增强。 将两者分开需要具备很少有人具备的技术能力。
像素深度视图
15 年来，我一直在研究数码相机——从开发固件到设计用于查看它们的软件。 不存在“未改变”的图像。
无论是相机中的传感器、后处理软件还是人工智能引擎，某些东西都在改变图像的某个地方。
人类不擅长掩盖自己的踪迹——他们在手动后期处理图像时总是留下证据。
将杂志封面放大得足够近，就可以轻松看出图像在何处以及如何“增强”。 人工智能引擎仍然处于初级阶段，它们的编辑是可以检测到的，但这种情况不会持续太久。
我们已经非常接近“真实”和“假”图像将无法区分的地步，因为后期处理更改和相机图像处理看起来太相似了。
无论专家放大多远，他们都无法发现图像离开相机后已被更改的任何迹象。
到那时，区分真假图像的唯一方法就是通过整个监管链追踪图像，追溯到捕捉它的相机。 分析图像本身将不再有帮助。
验证真伪
技术解决方案可以帮助管理深度伪造和人工智能合成媒体的扩散，一些大型科技公司已经采取措施实施这些解决方案。
OpenAI 承诺将内容来源和真实性联盟 (C2PA) 元数据纳入 DALL·E 3 生成的图像中，这是相机制造商也使用的开放技术标准。
Meta 还致力于使用 C2PA 的标准来标记人工智能生成的图像。
数码相机还可以编程为在每个图像的元数据中包含此代码，使其可验证。
例如，图像的校验和可以使用只有相机制造商拥有的私钥进行加密，公众中的任何人都可以验证该私钥（或通过 Content Credentials verify 等第三方网站，据报道 TikTok 打算使用该网站） 。
每个数码相机制造商都需要将其代码提交给审核，以验证其没有执行任何被认为不可接受的更改。
每个执行后处理编辑的人都需要向图像添加额外的元数据，以显示确切的更改。 原始图像需要包含在文件中。
任何不符合这些标准的图像都可以被认为是假的。 这包括打印在纸上的图像和屏幕截图。
随着时间的推移，社会将了解到大多数图像就像绘画——有时，它们描绘真实事件，但大多数时候，除非有额外的证据来证实其真实性，否则它们不会。
质疑我们的信仰
这并不容易，但技术发展如此之快，以至于需要额外的步骤来证明真实性。 那些有兴趣寻找真相的人，比如记者和法官，在检查证据时需要格外小心。
一个世纪前，目击者的证词在法庭上具有至高无上的地位。 然后，录音、指纹和照片证据等创新保证了可信度，尽管指纹分析仍然需要验证监管链。
美国国家科学院现在对这些标准提出了挑战——指纹和弹道学的准确性再次受到质疑。
随着人工智能的进步，照片和视频也失去了可靠性。 前进的道路需要技术创新者、真理探索者和公众之间的合作。
实施标准化身份验证框架、强调透明度以及重新考虑图像真实性假设都是至关重要的。
凭借警惕和集体责任，我们可以努力保持眼见为实的信心。
编者注：本文由 Otherweb 首席执行官兼创始人 Alex Fink 撰写。 Alex 是一名技术主管，也是 Otherweb 的创始人兼首席执行官，Otherweb 是一家公益公司，利用人工智能帮助人们阅读新闻和评论、收听播客以及搜索网络，而无需付费墙、点击诱饵、广告或任何其他“垃圾”内容。 Otherweb 可作为 iOS 或 Android 应用程序、网站、新闻通讯或独立的浏览器扩展使用。 在加入 Otherweb 之前，Alex 是 Panopteo 的创始人兼首席执行官以及 Swarmer 的联合创始人兼董事长。
您对这项技术有何看法？ 请在下面的评论中给我们留言，或者将讨论转移到我们的 Twitter 或 Facebook。
编辑推荐：
- AI Deepfakes 通过拜登机器人电话首次亮相政治
- 谷歌的搜索算法将深度伪造色情内容视为有用的内容
- 什么是深度伪造色情片？
- 布鲁斯·威利斯是否把他的肖像权卖给了一家深度造假公司？