ChatGPT は選挙について尋ねられるとユーザーを投票ページに誘導します

OpenAIは、米国や英国を含む今年世界中で行われる選挙においてChatGPTが破壊的な影響力を持たないようにする計画を発表した。

米国のユーザーに正当な投票情報を確実に提供するために同社が講じている措置の 1 つは、ユーザーを CanIVote.Org と呼ばれる「権威ある」投票サイトに誘導することであり、ユーザーはそこで選挙手続き、投票場所、および選挙に関する情報を見つけることができます。期日前投票と不在者投票。

このスタートアップはまた、企業が使用する最も人気のある AI ツールであるプラットフォーム上の政治的コンテンツと不正行為防止に関連する他の多くの重要な明確化と変更も発表しました。

ChatGPT がユーザーを投票情報を含むページに誘導

「米国では、国内最古の超党派の公務員専門職組織である全米国務長官協会（NASS）と協力している」とOpenAIは今週のブログ投稿で明らかにした。

2024 年の米国選挙へのアプローチの一環として、ChatGPT は、投票の問題に関する特定の質問をされると、ユーザーを直接 CanIVote.org に送信します。

CanIVote.org は、米国の有権者全員が自分の有権者登録状況、最寄りの投票所の場所、投票に必要な有効な身分証明書に関する情報を確認できる Web ページです。

このサイトでは、州ベースの選挙当局へのリンクを通じて、不在者投票や期日前投票に関する情報も入手できます。

OpenAIによれば、この種の取り組みが米国で成功すれば、選挙サイクル中に他の地域でも同様の取り組みを繰り返すだろうという。

ChatGPT が選挙年中に講じるその他の措置

OpenAIは、有権者を投票情報の正当な情報源に誘導することに加えて、選挙年中にChatGPTが悪用されないようにするために他にもいくつかの措置を講じると述べている。

たとえば、政治家や政治団体を模倣したGPT (カスタム チャットボット) を構築し、彼らに代わって発言するふりをすることはできません。 人々の参加を阻止しようとする「アプリケーション」もメニューから除外されます。

「私たちは、誤解を招く「ディープフェイク」、大規模な影響力操作、候補者になりすましたチャットボットなど、関連する不正行為を予測し、防止するよう努めています」とオープン AI は述べています。

「新しいシステムをリリースする前に、私たちはシステムをレッドチーム化し、ユーザーや外部パートナーにフィードバックを求め、危害の可能性を減らすために安全性の緩和策を構築します」と同社は付け加えた。

画像生成に関しては、今年初めに ChatGPT がコンテンツ来歴と信頼性のための連合のデジタル認証情報を実装しています。これには、 DALL-E を使用して生成されたすべての画像に暗号マーカーを添付することが含まれます。

OpenAIはまた、同社が実験中の新しい来歴分類器からいくつかの「有望な」結果が得られたとも述べている。 この技術は、画像が何らかの方法で変更されている場合でも、DALL-E で作成された画像かどうかを検出するように設計されています。

ChatGPT は選挙に良い影響を与えるのでしょうか、それとも悪い影響を与えるのでしょうか?

ChatGPT は全米の企業で広く使用されており、選挙が近づくにつれてチャットボットは雪崩のように政治的および法律的な質問に丁寧に対応することが期待されています。

ChatGPT および他の AI ツールが偽情報の拡散に使用される可能性については長々と語られてきましたが、ChatGPT が具体的に選挙に特に悪影響を与えるかどうかは完全にはわかりません。

もちろん、ChatGPT が誤った政治情報を意図せず提供するリスクはありますが、OpenAI はそのアプローチでこの可能性に正面から取り組んでいるようです。

実際、有権者を正当な投票情報を掲載するサイトに誘導し、ChatGPT が民主主義のプロセスを偽らないようにするという計画は、少なくとも表面的には、OpenAI が私たちが使用している他の多くのチャネルよりも厳しい規制を自らに課している可能性があることを示唆しています。偽情報が蔓延することが多い情報源。

偽情報は、他の説得力のある政治コンテンツと同様に、すでにソーシャル メディア サイト、検索エンジン、さらには一部の従来のメディア チャネルを通じて急速に流れています。

さらに、OpenAI は、ソーシャル メディアサイトのように人間が作成したコンテンツを際限なく生成する何百万人ものユーザーを管理しているわけではなく、憲法修正第 1 条に相当する考慮事項はありません。 ChatGPT の出力は、まったく同じように「制御されていない」わけではなく、保護されていません。

理論的には、OpenAI が本当に望めば、「政治の禁止」ルールを強制することもできます。 この種の大まかな原則はすでに GPT に適用されており、数字や制度を模倣することはできません。

AIが国内の民主的選挙にもたらす脅威は、そしてそれが非常に現実的なものであるが、2024年に行われる選挙への「アプローチ」を公表するという同レベルの社会的圧力を受けていない生成型AIツールから来る可能性が高い。 、または悪意のある AI ツールを構築した誰かからのものであるため、ガードレールは実装されません。

もちろん、国民国家の主体は偽情報を広めるためにすでに AI ツールを使用しており、ここ数年の選挙介入が今後も続いた場合、民主主義プロセスを混乱させるために AI が使用されるのを目にする可能性が最も高いのはこれでしょう。

これは私たちを驚かせ続ける AI システムであることを覚えておくことも重要です。また、間違いが起こりやすく、改ざんされやすいということを証明し続けています。 そして、OpenAI が ChatGPT に何らかの変更を加えるとすぐに、それを論理的な限界まで押し上げようと待っている人々の軍隊が現れます。 選挙が繰り返されると、これを行うための政治的動機がさらに高まるだけです。

何が起こっても、ChatGPT やその他の AI ツールが有権者によってどのように使用されているかは、年間を通して見出しを占める話題となるでしょう。