終末時計とは何ですか?AI は終末時計にどのような影響を与えますか?
公開: 2024-01-24科学者たちは今週、終末時計が2年連続で真夜中まで90秒を維持することを確認した。
終末時計は、人類が世界の破滅にどれだけ近づいているかを表す比喩であり、最後に気候変動への懸念とウクライナ戦争のため、その象徴的な終点である真夜中に近づいたのは2023年でした。
毎年時間を設定している原子力科学者会報は、今年も記録上最も暑い年となったガザ戦争にもかかわらず、そして興味深いことに人工知能を巡る懸念が高まっているにもかかわらず、その時間を90秒に維持すると述べている。
終末時計とは具体的に何なのか、そしてAIがどのように終末時計を滅亡に近づけているのかを見てみましょう。
終末時計とは何ですか?
1947 年に原子爆弾を開発した J. ロバート オッペンハイマーと彼の仲間の科学者によって初めて開発された終末時計は、人類が完全な滅亡にどれほど近づいているかを示しています。 第二次世界大戦の壊滅的な影響を受け、核兵器が二度と使用されないよう世界の指導者に圧力をかけるために創設された。
時計の針は午前 0 時までの 7 分から始まり、合計 25 回動きましたが、1991 年の冷戦終結後は午前 0 時までの 17 分に戻りました。
戦争は、時計の計算の多くの背後にある主要な推進力です。 同紙は火曜日、中国、ロシア、米国が核兵器を拡大し近代化していることで、「誤りや誤算による核戦争の常在する危険」が増大していると述べた。 同様に、ウクライナ戦争も「核エスカレーションの常に存在するリスク」を生み出しました。
しかし、時計がこれまでで最もハルマゲドンに近づいている理由として、人工知能ツールも挙げられている。
ウェブをプライベートに閲覧したいですか? それとも別の国にいるかのように見えますか？
この特別な tech.co オファーを利用して、Surfshark を 86% オフで手に入れましょう。 
AI はカウントダウンにどのような影響を与えますか?
Bulletin of Atomic Scientists のメンバーは 2007 年以来、時計の計算に AI などの人為的リスクを含めてきました。
しかし、生成 AI テクノロジーの劇的な急速な進歩のおかげで、 OpenAI の ChatGPTなどのチャットボットが毎日のように見出しを飾っているため、今年のリスト内でその重要な言及がなされたことは驚くことではありません。
速報には次のように書かれている。「私たちは特別に懸念される問題の一つに焦点を当てます。それは、個人が生物学を悪用することを根本的に可能にする可能性のある、新たな人工知能ツールと生物学的テクノロジーの融合です。」
企業や組織は、生産性の向上とエラーの最小化に役立つ人工知能と大規模な言語モデルの恩恵を享受しています。 ヘルスケア業界でも、診断効率の向上による AI のプラスの効果が見られています。 それでは、一体何が原子科学者に懸念を与えているのでしょうか?
終末時計の声明によると:
「懸念されるのは、大規模な言語モデルを使用することで、十分なノウハウを持たない個人が、多数の人間、動物、植物、その他の環境要素に害を及ぼす可能性のある生物学的因子を特定、入手、配備できるようになるということです。」
それ以上に、生成型 AI の予測不可能性に加え、情報を腐敗させ、偽情報を拡大する可能性はすべて民主主義に対する脅威であり、ひいては核リスク、パンデミック、気候変動への対処方法に大きな影響を与える可能性があります。
テクノロジー特有の観点から言えば、AI が業界に与える影響も非常に緩やかです。
ビジネスには悪影響を及ぼしますが、最終的には無害なDPD のオンライン チャットボットの例を考えてみましょう。これは簡単に操作されて、自分自身と会社を批判するように仕向けられました。 これは大規模な壊滅的な被害ではありませんが、企業にとって金銭的損失を意味する可能性のある恥ずかしい間違いです。
スケールの対極には、生命の危険が伴います。 昨年、テスラは自動操縦装置の故障により、200 万台を超える車両のリコールを余儀なくされました。 これは、駐車中の消防車とパトカーの後部に2台の別々の車が突っ込むなど、一連の衝突事故が発生したためだった。
原子科学者らは、「例えば、人工知能や遺伝子工学の進歩には大きな可能性があるが、これらの技術の使用方法によってはかなりのリスクも伴う」と述べています。
AI規制は役立つでしょうか?
終末時計の主な目的は、意識を高め、できれば地球規模の問題に焦点を当て、政治家、世界の指導者、国民の行動を促すことです。
Bulletin of the Atomic Scientists の社長兼 CEO であるレイチェル・ブロンソンは次のように説明しました。「私たちの声明には 2 つの重要なメッセージがあり、その 1 つは、真夜中までの 90 秒は非常に不安定であり、自己満足を招いてはいけないということ、もう 1 つはテクノロジーの進歩が加速しているということです」そして彼らを統治する私たちの能力を上回っています。」
これは、AIなどの「新たな破壊的技術」には適切な法規制が必要であることを意味する。
10月に遡ると、米国のジョー・バイデン大統領は「安全、安心、信頼できるAI」に関する大統領令に署名し、「生合成スクリーニングのための強力な新しい基準を開発することによって、AIを使用して危険な生物材料を操作するリスクから保護する」ことを求めた。 法的拘束力はありませんが、この動きは正しい方向への一歩です。
同様に、世界中の多くの国が AI の潜在的な危害を認識し、緩和規制を導入しています。 これには、欧州連合による提案された規制枠組み、AI リスクに対処するための国際宣言、新しい国連諮問機関の設立が含まれます。
個人的に最も効果的かつ安全な方法で人工知能を確実に使用するには、使用する各生成 AI ツールの制限とリスクを十分に理解する必要があります。 これにより、使用状況をより適切に制御できるようになり、時間の経過を防ぐのに役立つことが期待されます。