百聞は一見にしかず: AI 時代の信頼を回復する

古い信条は「それを見たら信じます」ですが、今日のテクノロジーでは、誰もがまったく異なる質問をしています。 私が見ているものを信じてもいいでしょうか？

改ざんされた画像やディープフェイクは、かつてないほど簡単に実行できるようになりました。 場合によっては、賭け金が低い場合もあります。 フランシスコ法王はふわふわのコートを着ている？ それは単なる無害な AI の策略です。

キャサリン妃の明らかに加工された写真は噂の波を引き起こし、誤った情報を永続させたが、被害は比較的軽微で、英国王室以外の人々に影響を与えた人はほとんどいなかった。

『WIRED』によると、インドでは有権者が政治的候補者からの公認ディープフェイクを強制的に供給されており、そのうち5,000万件以上が最近の選挙までに提供されたという。

今年は世界人口のほぼ半数が選挙に投票するために投票所に向かうことになり、彼らの意思決定において映像メディアが大きな役割を果たすことになる。

本物の画像と偽物の画像を区別するという課題は非常に重要です。

加工または偽造された選挙写真、演説、インタビュー、政治広告は、真実に対する国民の認識を損ない、民主主義のプロセス自体を損なう恐れがあります。

国民は政治的リーダーシップを選択する際、事実情報へのアクセスに依存しています。

しかし、テクノロジーの急速な進歩と、誤った情報のウイルスによる蔓延、そして制度に対する不信感の高まりという完璧な嵐が起きつつあります。 これは、情報に基づいた市民の参加を危険にさらす危険な組み合わせです。

AIによって操作された画像に対する一般の人々の意識が高まり続けるにつれて、フィクションと事実を区別することがますます困難になっているという懸念も高まっています。 この 2 つを分離するには、技術的な能力が必要ですが、それを備えている人はほとんどいません。

ピクセル単位の深さのビュー

私は 15 年間、ファームウェアの開発からデジタル カメラを表示するためのソフトウェアの設計まで、デジタル カメラに携わってきました。 「変化のない」画像などというものは存在しません。

カメラのセンサーであれ、後処理ソフトウェアであれ、AI エンジンであれ、何かがどこかで画像を変えています。

人間は自分の足跡を隠すのが苦手です。手動で画像を後処理する場合、必ず証拠を残します。

雑誌の表紙を十分に拡大すると、画像のどこがどのように「強化」されたのかが簡単にわかります。 AI エンジンはまだ初期段階にあり、編集内容を検出できるほどですが、そう長くは続かないでしょう。

後処理の変更とカメラ上の画像処理があまりにも似ているため、「本物」の画像と「偽物」の画像が区別できなくなる段階に非常に近づいています。

専門家がどれほどズームインしても、カメラから出た後に画像が変更された兆候を見つけることはできません。

その時点で、本物の画像と偽物の画像を見分ける唯一の方法は、画像を撮影したカメラに至るまで、その保管過程全体を追跡することです。 画像自体を分析しても役に立ちません。

信頼性の検証

技術的なソリューションは、ディープフェイクや AI 合成メディアの蔓延を管理するのに役立つ可能性があり、いくつかの大手テクノロジー企業がすでにそれらの実装に向けた措置を講じています。

OpenAIは、DALL・E 3で生成された画像に、カメラメーカーでも使用されているオープン技術標準であるCoalition for Content Provenance and Authenticity (C2PA)メタデータを含めることを誓った。

Meta は、C2PA の標準を使用して AI 生成画像にラベルを付けることにも取り組んでいます。

デジタル カメラは、このコードをすべての画像のメタデータに含めるようにプログラムして、検証可能にすることもできます。

たとえば、画像のチェックサムは、カメラのメーカーのみが持つ秘密キーを使用して暗号化でき、公衆の誰もが検証できます（または、TikTokが使用する予定であると伝えられているContent Credentials Verifyのようなサードパーティのサイトを通じて）。 。

すべてのデジタル カメラ メーカーは、そのコードを監査に提出して、許容できないとみなされる変更が行われていないことを確認する必要があります。

後処理編集を実行するすべての人は、正確な変更を示す追加のメタデータを画像に追加する必要があります。 元の画像をファイルに含める必要があります。

これらの基準に準拠していない画像は、偽物であると推定される可能性があります。 これには、紙に印刷された画像やスクリーンショットが含まれます。

時間が経つにつれて、社会は、ほとんどの画像が絵画のようなものであることを知ることになります。実際の出来事を描いている場合もありますが、ほとんどの場合、その信憑性を裏付ける追加の証拠がない限り、そうではありません。

私たちが信じていることに疑問を抱く

それは簡単ではありませんが、テクノロジーの進歩は非常に速いため、信頼性を証明するには追加の手順が必要です。 ジャーナリストや裁判官など、真実の発見に関心のある人は、証拠を調べる際に特に注意する必要があるでしょう。

1世紀前、法廷では目撃証言が最優先されていた。 その後、音声録音、指紋、証拠写真などの技術革新によって信頼性が保証されましたが、それでも指紋分析には保管過程の検証が必要でした。

米国科学アカデミーは現在、これらの基準に異議を唱えています。指紋と弾道は精度に関して新たな疑問に直面しています。

AIの進歩に伴い、写真や動画も信頼性を失いつつあります。 前進するには、テクノロジーの革新者、真実の探求者、そして一般の人々の協力が必要です。

標準化された認証フレームワークの実装、透明性の強調、画像の信頼性の前提の再考はすべて不可欠です。

警戒と集団的な責任を持って、私たちは百聞は一見に如かずという自信を保つよう努めることができます。

編集者注:この記事は、Otherweb の CEO 兼創設者である Alex Fink によって書かれました。 アレックスはテクノロジー企業幹部であり、ペイウォール、クリックベイト、広告、その他の「ジャンク」なしで人々がニュースや解説を読み、ポッドキャストを聴き、ウェブ検索できるように AI を利用する公益法人である Otherweb の創設者兼 CEO です。コンテンツ。 Otherweb は、iOS または Android アプリ、Web サイト、ニュースレター、またはスタンドアロンのブラウザ拡張機能として利用できます。 Otherweb に入社する前は、Alex は Panopteo の創設者兼 CEO、Swarmer の共同創設者兼会長を務めていました。

このテクノロジーについてどう思いますか? 以下のコメント欄に記入するか、Twitter または Facebook にディスカッションを送ってください。

編集者のおすすめ:

• AIディープフェイクがバイデンロボコールで政治デビュー
• Googleの検索アルゴリズムはディープフェイクポルノを有益なコンテンツとみなしている
• ディープフェイクポルノとは何ですか?
• ブルース・ウィリスは自分の肖像権をディープフェイク会社に売ったのでしょうか?