什么是世界末日时钟以及人工智能如何影响它？

科学家本周证实，世界末日时钟将连续第二年保持在距午夜 90 秒的位置。

世界末日时钟象征着人类距离毁灭世界有多近，由于气候问题和乌克兰战争，末日时钟最后一次被推迟到午夜（其象征性的终点）。

每年设定时间的《原子科学家公报》表示，尽管加沙战争爆发，又是有记录以来最热的一年，而且有趣的是，人们对人工智能的担忧日益加剧，但该时间仍将保持在 90 秒。

让我们来看看世界末日时钟到底是什么，以及人工智能如何让它越来越接近毁灭。

什么是世界末日时钟？

世界末日时钟最初由 J. 罗伯特·奥本海默 (J. Robert Oppenheimer) 和他的科学家同事于 1947 年研制出原子弹，它描绘了人类距离彻底毁灭有多近。 它的创建是为了向全球领导人施加压力，以确保在第二次世界大战造成毁灭性影响后不再使用核武器。

从距离午夜 7 分钟开始，时钟的指针总共移动了 25 次，甚至在 1991 年冷战结束后回落到距离午夜 17 分钟。

战争是时钟大部分计算背后的关键驱动因素。 周二，该公报指出，中国、俄罗斯和美国扩大和现代化其核武器增加了“因错误或误判而引发核战争的始终存在的危险”。 同样，乌克兰战争也造成了“始终存在的核升级风险”。

然而，人工智能工具也被认为是时钟仍然最接近世界末日的一个原因。

人工智能如何影响倒计时？

自 2007 年以来，《原子科学家公报》的成员已将人工智能等人为风险纳入其时钟计算中。

然而，由于生成式人工智能技术取得了巨大而快速的进步， OpenAI 的 ChatGPT等聊天机器人似乎每隔一天就会成为头条新闻，因此它在今年的榜单中被大量提及也就不足为奇了。

该公报写道：“我们强调一个特别值得关注的问题：新兴人工智能工具和生物技术的融合可能会从根本上使个人滥用生物学。”

由于人工智能和大型语言模型有助于提高生产力和最大限度地减少错误，企业和组织正在获得回报。 甚至医疗保健行业也看到了人工智能的积极作用，提高了诊断效率。 那么到底是什么让原子科学家们感到担忧呢？

根据世界末日时钟的声明：

“令人担忧的是，大型语言模型使缺乏足够专业知识的个人能够识别、获取和部署会伤害大量人类、动物、植物和其他环境要素的生物制剂。”

更重要的是，生成式人工智能的不可预测性，加上其破坏信息和放大虚假信息的潜力，都是对民主的威胁，这反过来又会严重影响我们管理核风险、流行病和气候变化的方式。

从特定技术的角度来看，人工智能对行业的影响也有很大的变化。

以DPD 在线聊天机器人为例，该机器人虽然对企业不利，但最终无害，它很容易被操纵来批评自己和公司。 虽然破坏性不大，但这是一个令人尴尬的错误，可能意味着公司的金钱损失。

天平的另一端是生命危险。 去年，由于自动驾驶仪故障，特斯拉被迫召回超过 200 万辆汽车。 这是由于一系列事故造成的，其中包括两辆独立的汽车撞上停放的消防车和警车的后部。

原子科学家表示，“例如，人工智能和基因工程的进步具有巨大的潜力，但也存在相当大的风险，具体取决于这些技术的使用方式”。

人工智能法规有帮助吗？

世界末日时钟的主要目的是提高人们的认识，并希望突出全球问题，以激发政治家、世界领导人和公民采取行动。

《原子科学家公报》总裁兼首席执行官雷切尔·布朗森 (Rachel Bronson) 解释道：“我们的声明中有两个关键信息，一是：距午夜 90 秒的时间非常不稳定，绝不能自满；二：技术的进步正在加速并超出了我们治理它们的能力”。

这意味着人工智能等“新的颠覆性技术”应该通过适当的立法和法规来处理。

早在十月，美国总统乔·拜登就签署了一项关于“安全、可靠和值得信赖的人工智能”的行政命令，呼吁“通过制定强有力的生物合成筛选新标准来防范使用人工智能设计危险生物材料的风险”。 尽管不具有法律约束力，但此举是朝着正确方向迈出的一步。

同样，世界上许多国家都认识到人工智能的潜在危害，并制定了缓解法规。 这包括欧盟拟议的监管框架、解决人工智能风险的国际宣言以及成立新的联合国咨询机构。

为了确保您以最有效、最安全的方式使用人工智能，请务必充分了解您使用的每个生成人工智能工具的局限性和风险。 这将使您能够更好地控制它们的使用，并希望有助于避免滴答作响的时钟。