OpenAI は GPT-5 で動作していますか?

現代の AI システムは現在、一般的なタスクで人間と競争できるようになってきており、私たちは自問する必要があります。マシンが私たちの情報チャネルをプロパガンダや虚偽で溢れさせてはならないのでしょうか? 充実した仕事を含め、すべての仕事を自動化する必要がありますか? 私たちは、最終的に数を上回り、賢く、時代遅れになり、私たちに取って代わる可能性のある非人間的な心を開発する必要がありますか? 私たちの文明の制御を失う危険を冒すべきですか? そのような決定は、選出されていない技術リーダーに委任してはなりません。

強力な AI システムは、その効果が肯定的であり、リスクが管理可能であると確信した場合にのみ開発する必要があります。 この信頼は十分に正当化され、システムの潜在的な影響の大きさに応じて増加する必要があります。 汎用人工知能に関する OpenAI の最近の声明では、次のように述べられています。モデル。 私達は同意します。 その点は今です。

したがって、すべての AI ラボに対して、GPT-4 よりも強力な AI システムのトレーニングを少なくとも 6 か月間直ちに一時停止するよう求めます。 この一時停止は公開され、検証可能であり、すべての主要な関係者が含まれている必要があります。 そのような一時停止を迅速に制定できない場合、政府は介入してモラトリアムを設定する必要があります。

AI ラボと独立した専門家は、この一時停止を利用して、独立した外部の専門家によって厳密に監査および監督される、高度な AI の設計と開発のための一連の共有安全プロトコルを共同で開発および実装する必要があります。 これらのプロトコルは、それに準拠するシステムが合理的な疑いを超えて安全であることを保証する必要があります。 これは、一般的な AI 開発の一時停止を意味するものではありません。危険な競争から、新たな機能を備えたこれまで以上に大規模で予測不可能なブラックボックス モデルへの後退を意味するだけです。

AI の研究開発は、今日の強力で最先端のシステムをより正確で、安全で、解釈可能で、透明性があり、堅牢で、整合性があり、信頼でき、忠実なものにすることに再び焦点を当てる必要があります。

並行して、AI 開発者は政策立案者と協力して、堅牢な AI ガバナンス システムの開発を劇的に加速する必要があります。 これらには、少なくとも次のものが含まれる必要があります。AI に特化した新しい有能な規制当局。 高度な能力を持つ AI システムと大規模な計算能力プールの監視と追跡。 本物と合成を区別し、モデルのリークを追跡するのに役立つ来歴および透かしシステム。 堅牢な監査および認証エコシステム。 AI によって引き起こされた損害に対する責任。 技術的な AI の安全性研究に対する強力な公的資金提供。 そして、AI が引き起こす劇的な経済的および政治的混乱 (特に民主主義) に対処するための十分なリソースを備えた機関。

人類は AI によって豊かな未来を享受できます。 強力な AI システムの作成に成功した今、私たちは「AI サマー」を楽しむことができます。そこでは、報酬を獲得し、これらのシステムを設計して、すべての人に明らかに利益をもたらし、社会に適応する機会を与えることができます。 社会は、社会に壊滅的な影響を与える可能性のある他のテクノロジーの使用を一時停止しています。 ここでそれを行うことができます。 不用意に秋に突入するのではなく、長い AI の夏を楽しみましょう。