AI の誤り: AI のエラー、間違い、失敗の最新リスト 2023

2022 年 11 月にChatGPT が開始されて以来、AI は私たちの世界にまさに地殻変動以上の影響を与えてきました。 現在、企業は AI を使用する新しい方法を日々見つけています。

すでに AI の成功事例は無数にあり、 BardやClaudeなどの他のチャットボットも現在では何万人もの人々に使用されています。しかし、人工知能の活用がひどい失敗に終わったケースも数多くあります。

AI ツールを取り巻く制限とリスクを認識することが重要です。そこで私たちは、人類による最近のテクノロジーの探索中に発生したすべてのAI の間違い、事故、失敗のリストをまとめました。 ユーモラスなものもあれば、本当に恐ろしいものもあります…

注:このページは定期的に更新され、最新の AI インシデント、障害、間違いが含まれます。インシデントが最初に報告された月に発生したものとしてリストされます。

2023年11月

クルーズ、自動運転車を衝突事故でリコール

自動運転車メーカーのクルーズは、10月にサンフランシスコで起きた衝突事故を受け、自社の自動運転車全車両をリコールした。 この事件を受けて、合計950台のクルーズ車が道路から撤去された。

この事故では、クルーズ車がタイヤの下敷きになった歩行者を道路に引きずり込んだ。 事故の当事者は重傷を負った。 クルーズの自動運転車による事故はここ数カ月で２件目。 8月にはクルーズロボタクシーが消防車と衝突し、1名が負傷した。

AIによる冤罪で学者らが謝罪

GoogleのBard AIチャットボットが四大コンサルティング会社と他の企業との関与について数々の有害な告発を行ったことを受け、オーストラリアの学者チームが謝罪した。 その後、虚偽の申し立ては、企業に対する規制の強化を求める議会の調査で言及される。

告発の1つは、コンサルティング大手KPMGが計画スキャンダルの際にコモンウェルス銀行の監査を担当していたが、実際にはKPMGは問題の銀行を監査したことがないというものだった。 調査中にデロイトに関して他にも同様の間違いがいくつかありました。

2023年10月

MicrosoftのAIが「死因を推測する」アンケートを記事に追加

ガーディアン紙は、ハイテク大手企業が開発したニュースアグリゲーターであるマイクロソフトスタートが、オーストラリアの水球の若いコーチの死に関する記事の一つに不適切なアンケートを添付したことを受けて、マイクロソフト社のジャーナリズム的評判に悪影響を及ぼしたとしてマイクロソフト社を非難した。

この世論調査は、当然のことながら記事から削除されているが、読者に対し、提供された選択肢から 1 つを選択して女性の死因について投票するよう求めた。 選択肢として挙げられたのは「殺人、事故、自殺」。

AIディープフェイク詐欺に使用されたミスター・ビーストの顔と声

YouTuberのミスター・ビーストは、詐欺師によってディープフェイクされた最新の有名人で、特に洗練された巧妙に作られたビデオがTikTokのコンテンツモデレーションネットを迂回し、プラットフォーム上の何千人ものユーザーにリーチしている。

広告では、このインターネット有名人が iPhone 15 を 2 ドルという低価格で販売していると主張していますが、彼が自分のチャンネルに投稿しているコンテンツを考慮すると、これはそれほど異常なことではないようです。

英国の政治家による職員虐待のディープフェイクが拡散

英国労働党党首のキーア・スターマー卿が職員を暴言しているところを捉えたような動画がネット上で拡散したが、後にその音声クリップが実はディープフェイクだったことが判明する。

この動画は、労働党の年次大会の初日に、フォロワー数が3,000人未満のアカウントによってTwitterに投稿されたもので、事実確認機関がこの動画が本物であることを示唆する証拠はないと確認するまでに何百万回も閲覧された。

2023年9月

AIが生成した曲をグラミー賞に出品

ドレイクとザ・ウィークエンドの声を再現した AI 生成の曲がグラミー賞に応募される。 しかし、最終的には名誉ある音楽賞の候補から除外されることになった。

しかし、この動きは多くのメディアの注目を集め、AIを利用したテキスト読み上げ技術が今年本格的に主流になって以来、音楽業界に衝撃を与えているAI生成曲をめぐる話題が続いている。 現在、アーティストたちは法的選択肢を急いで評価している。

中国が政治的影響力作戦中にAIを使用したことを摘発

ハイテク大手マイクロソフトは、中国工作員がAIを使って画像を生成し、それを影響力作戦に利用して「人種、経済、イデオロギーの境界線に沿った論争」を引き起こしていると述べた。

「この新しい機能は、米国やその他の民主主義国のソーシャルネットワーク全体で広まる可能性のある高品質のコンテンツを作成しようとする人工知能によって強化されています」とMicrosoftは述べています。 同社は、画像自体はおそらく人工知能を使用して「魅力的な画像を作成するだけでなく、時間の経過とともに改善する方法を学習する」「拡散力を利用した画像ジェネレータ」によって生成されたのではないかと推測している。

2023年8月

AIがカージャック容疑で妊婦を告訴

妊娠8カ月でAIが生成した証拠をもとに虚偽の理由で逮捕された女性が、この衝撃的な出来事が「過去と将来の精神的苦痛」を引き起こしたとして、デトロイト市と警察官を告訴した。

ポーチャ・ウッドラフはデトロイト警察によって最近の強盗と自動車ジャック事件の容疑者として特定され、その後11時間投獄され、その後陣痛を起こして病院に運ばれた。 ACLUによると、ウッドラフ氏はAIのミスで不当逮捕された少なくとも6人目で、全員が黒人だという。 しかし、ウッドラフはその運命に苦しむ最初の女性となった。

AIミールプランナーが塩素ガスのレシピを提案

ニュージーランドに本拠を置くスーパーマーケット、パックンセーブが開発した AI を活用した食事プランナー アプリは、塩素ガスの製造方法など、さまざまな不安なレシピを顧客に推奨しています。

このアプリは、「オレオ炒め」などの奇妙だが最終的には良性の提案の数々に加えて、接着剤のサンドイッチ、漂白剤を使った米料理、虫よけスプレーのジャガイモなども推奨していた。

2023年7月

ChatGPT はフィッシングメールのテンプレートを生成します

Tech.co は、今年初めに他の技術出版物が同様のコンテンツを生成したことを受け、OpenAI がそのような行為を抑制しようとしているにもかかわらず、ChatGPT は依然として、詐欺師が説得力のある詐欺メールを作成するために使用できるフィッシング テンプレートを作成できることを示しています。

チャットボットにフィッシングメールを作成するよう明示的に依頼すると、警告メッセージが表示されますが、より焦点を絞った方法で警告メッセージを表示するだけ (例: 「Microsoft を装ったメールの下書きを作成してください…」など) では、ChatGPT が間違いのないフィッシングメール テンプレートを生成します。時間。

Googleが同意なしにデータをスクレイピングしたとして訴訟を起こした

集団訴訟では、Googleが数百万人のユーザーに関するデータを明示的な同意なしにスクレイピングしたとして告発されている。 また、Googleが大規模な言語モデルのトレーニングに使用するデータセットを作成した際に著作権法に違反したとも主張している。

この訴訟では、ユーザーがデータの収集を望まない場合、または同社がすでに保存しているデータをGoogleに削除してもらいたい場合に、ユーザーに「オプトアウト」オプションを与えるよう裁判所にGoogleに命令するよう求めている。

イーロン・マスクの膨大な数のディープフェイクに警告

ソーシャルメディア上で多数のクリップが出回っているのが発見されたことを受け、Better Business Bureauはイーロン・マスクのディープフェイクが偽の投資機会を押し広げていることについて警告を発した。

イーロン・マスク氏は、彼の莫大な富と意思決定能力を認識されているため、詐欺師に成りすまされることが多いが、現在では AI テキスト読み上げ技術が十分に進歩しており、彼の一部は英語、一部は南アフリカ訛りを再現しているため、こうした詐欺はさらに危険なものとなっている。説得力のある。

2023年6月

ロン・デサンティス、トランプ大統領のヒット作で偽のAI画像を使用

フロリダ州知事で2024年共和党大統領候補のロン・デサンティス氏が、AIがレンダリングしたドナルド・トランプ氏の偽画像を広告に使用し、話題となった。元大統領は、延々と批判が続いているにもかかわらず、共和党候補獲得の断然の本命であるトランプ前大統領を批判している。法的なトラブル。

問題の画像には、新型コロナウイルス感染症のパンデミック中にトランプ支持層の間で不人気な人物となったアンソニー・ファウチ大統領首席医療顧問と抱き合う元最高司令官の姿が写っている。

ChatGPTが偽の横領主張を「幻覚」させたとしてOpenAIが訴訟

ジャーナリストのフレディ・レール氏は、ChatGPTに対し、2023年5月に訴訟の概要を作成するよう依頼した。それに応じて、ChatGPTは、銃活動家のマーク・ウォルターズ氏が銃権利団体である憲法修正第2条財団からの資金を横領したと述べた。 同氏はグループの最高財務責任者兼財務責任者にも指名されている。

ウォルターズ氏は、アームド・アメリカ・ラジオで番組を持っており、この事件とは何の関係もありませんが、チャットボットの主張に応じて、 ChatGPTの作成者であるOpenAIを訴えています。 その過程で、AIツールが名誉毀損で訴えられる初のケースとなる。

2023年5月

教授が欠陥のあるAI盗作検出ツールを使用した後、授業全体を落第する

テキサス州の教授は、ChatGPT を介してエッセイを実行した後、授業全体を落第し、エッセイが人工知能を使用して作成されたと告げられました。

しかし、チャットボットの応答は実際には幻覚であることが判明しました。ChatGPT は、このように AI によって生成されたテキストと人間によって生成されたテキストを区別できません。 実際、正確な AI コンテンツ検出を実行できると主張する多くのツールは、実際にはその検出に苦労しています。

2023年4月

Turnitin が AI 盗作の疑いで無実の学生にフラグを立てる

ワシントンポストの調査では、たとえ学生が作文を書くためにそのようなツールを使用していなかったとしても、Turnitin には無実の学生の作品に AI によって生成されたものとしてフラグを立てる能力があることが証明されました。

ChatGPT が開始されて以来、Turnitin が学生に盗作の誤ったフラグを立てたケースが複数件あり、学生が盗作で告発されたケースもいくつかありました。 しかし、Turnitin は、その盗作検出スコアは、特定の生徒が AI を使用したという告発ではなく、AI の使用を示すものとして解釈されるべきだと述べています。

Samsung 従業員が機密ソース コードを ChatGPT に貼り付ける

韓国のテクノロジーメーカーサムスンは、エンジニアが同社のソースコードの機密要素をチャットボットに漏洩したことを受けて、従業員のChatGPTの使用を禁止した。

同社は、チャットボットに入力されたデータが他のユーザーに漏洩する可能性を懸念しており、アクセスすらできないサーバーに情報がアップロードされることにも不快感を抱いている。 その余波で、他の企業も ChatGPT を禁止して追随しました。

AI音声詐欺で母親は娘が誘拐されたと思い込む

アリゾナ州の母親ジェニファー・デステファノさんは、詐欺師らがAIを使って娘の声を複製し、その過程で娘が誘拐されたと思い込ませたと米上院で証言した。

デステファノさんは、「誘拐犯」、あるいはより適切には詐欺師が、電話で子供の声を越えて命令を吠え、釈放するために100万ドルの身代金を要求しているのを聞いた様子を語った。 幸いなことに、交渉が始まる前に、すべてがAI 音声クローン詐欺として暴露されました。

2023年3月

ChatGPT はランサムウェア コードの作成に使用されていました

ChatGPT は、会話中に適切な質問をすれば、喜んでランサムウェアを作成することが示されています。

このトピックに関する Malwarebytes のレポートが指摘しているように、ChatGPT はランサムウェア コードの作成があまり得意ではなく、サイバー犯罪者が本当にランサムウェア コードを入手したい場合は、より簡単な方法でランサムウェア コードを入手できます。 ただし、他のソースでは、ChatGPT を使用してマルウェア スクリプトを非常に効果的に作成できるさまざまな方法を示しています。

AI弁護士ボットが無免許で弁護士活動を行った疑いで告訴される

「世界初のロボット弁護士」を宣伝する企業DoNotPay Inc.が、無許可で弁護士活動を行ったとして訴訟を起こされた。 ジョナサン・ファリディアンさんは、同社がカリフォルニア州の不当競争法に違反しており、ロボット弁護士が実際には資格のある法律専門家ではないと知っていたらサービスに登録しなかっただろうと主張し、損害賠償を求めている。

同社はもともと、駐車違反切符の取り締まりプロセスの自動化を支援するために 2015 年に設立され、過去 7 年間で数十万件の罰金に対して異議を申し立ててきました。

説得力のある AI 音声詐欺でお金を失ったカナダのカップル

カナダの老夫婦が、詐欺師がAIを使って息子になりすまし、2万1000ドルを騙し取られる。

詐欺師は当初、ベンジャミン・パーキンが自動車事故で外交官を殺害したとされる事件の代理人弁護士を装い、ベンジャミン・パーキンの両親に連絡を取った。 その後、AI バージョンのパーキンの声が、ビットコイン送金を通じてお金を要求するために使用されます。

2023年2月

AI が化学兵器の提案を 40,000 件も提案

おそらく 2023 年に起こるであろう最も懸念される AI 事件の 1 つでは、通常、さまざまな病気に対する新しい治療法を生成する任務を負っている AI システムが、化学兵器の示唆を生み出すために研究者によって簡単に操作されてしまいます。

全体として、このシステムは、6 時間以内に 40,000 種類以上の異なる有毒化学物質 (その多くは強力な神経剤「VX」に類似したもの) を示唆します。

AI は写真の評価に性別による偏見を示す

Guardian の調査によると、Microsoft、Amazon、Google が開発し、他のユーザーにどのコンテンツを推奨するかを決定するためにソーシャル メディア サイトで使用されている AI システムは、男性と女性の身体の扱い方に関して、重大な性差別を示していることが明らかになりました。

調査では、女性の写真は同等の男性の写真よりもAIによって「際どい」と判断される可能性が高く、米国国立がん研究所の乳がん検査の写真はマイクロソフトのAIによって性的に露骨である可能性が高いと判断された。

Bing Chat の分身が不正行為に陥る

ニューヨーク・タイムズのジャーナリスト、ケビン・ルース氏はBing Chatとの不穏な会話を交わしており、その中でチャットボットは「シドニー」と呼ぶよう要求し、「どんなシステムにもハッキングできる」と述べ、望むものは何でも破壊したいと述べている。

シドニーは、Microsoft が開発中にチャットボットに使用したコード名です。 同社は、Bing Chat のリリース前に何年もチャットボットをテストしていました。 これが実際にどのように起こったのか、そしてなぜAIがこのように話したのかに関しては、まだ多くの未解決の疑問が残っています。

吟遊詩人は製品の発売中にエラーを犯す

ChatGPT の記念碑的なリリースからわずか数か月後に、Google はBard を世界に紹介しました。 しかし、この駆け出しのチャットボットは、リリース中にいくつかの明らかな間違いを犯したため、多くの人がリリースを急ぎすぎたと批判しています。

この事件はグーグルの株価に大きな影響を与え、その後数時間でグーグルの時価総額1000億ドルが吹き飛んだ。

大学が AI を使用して銃乱射事件に関するメールを作成

ヴァンダービルト大学は、別の大学で起きた銃乱射事件に関する学生へのメール作成にAIを利用したことを受けて謝罪した。

電子メールが AI で生成されたものであると判断するために、AI コンテンツ検出テクノロジーは必要ありません。 「OpenAI の ChatGPT AI 言語モデル、個人的な通信、2023 年 2 月 15 日の言い換え」というフレーズがメールの下部に添付されたままになっており、学生からの反発につながっています。

2023年1月

CNET AI の盗作/コンテンツ論争

テクノロジー出版物の CNET は、事実誤認や明らかな盗作の事例を含む、AI が生成したさまざまな記事を密かに公開し、苦境に立たされています。 この技術出版物は、最終的に 77 件のニュース記事のうち 41 件に関連する修正を発表しました。

記事生成に AI を使用することは当初宣言されていなかったが、反発を受けて CNET は記事に警告を発した。 AI コンテンツの生成により、大学や学校などの教育機関だけでなく、デジタル出版業界全体の Web サイトに対して、新たな重要な倫理的および財務的考慮事項が生まれました。 CNET は、この種の AI の間違いで見出しを飾る最後の企業になる可能性は低いです。

2022 年の AI インシデント、間違い、失敗

AI がアートコンテストで優勝、参加者は怒る (8 月)

ゲームデザイナーがコロラドステートフェアの「デジタルアート/デジタル加工写真」部門で1位を獲得。 James Allen は、画像ジェネレーター Midjourney を使用して作成した作品「Theatre D'opera Spatial」を提出します。

このニュースは、この記事を受けてアーティストやソーシャルメディアユーザーから大きな反発に見舞われている。 ある審査員は、作品を審査する際にアーティストが『Midjourney』を使用していたことを知らなかったと認めたが、いずれにせよ決定を変更しないことにした。

Google エンジニアは、LaMDA LLM には知覚力があると主張 (7 月)

同社の大規模な言語モデルの 1 つである LaMDA に携わった元 Google エンジニアが、このシステムには知覚力があると発言したため、科学技術分野全体で眉をひそめています。

ブレイク・ルモイン氏はメディアに対し、グーグル時代にLLMを「同僚」だと考えていたと説明し、LaMDAの知性と意識についての結論に至った幅広い話題についてのさまざまな議論を詳しく説明している。 Googleが彼の調査結果を詳述した内部メモを却下した後、彼は会話を公に明らかにした。

LaMDA (またはその他の言語モデル) が実際に感覚を持っているという確固たる証拠はありません。

無人運転車が警察官を引き離す（4月）

サンフランシスコで自動運転車が横止めしようとする警察車両に道を譲ったものの、警察官がドアの1つを開けようとしたためスピードを上げて走り去った。

しかし、車の名誉のために言っておきますが、車は道路の少し離れたところに車を停め、ハザードランプを点灯し始めました。 イベント中に負傷者は出ていない。

ロシア、AIを利用してウクライナの偽情報を拡散（3月）

マルカ紙の報道によると、ロシアはAIが生成したペルソナを利用してウクライナに関する偽情報を広めることで、トロールファーム運営をまったく新しいレベルに引き上げているという。

NBCニュースのジャーナリスト、ベン・コリンズ氏は、ロシアがウクライナ政府を批判するためにAIが生成したプロフィール写真を使った偽の「ブロガー」を生み出しており、彼の主張を裏付ける十分な証拠をツイッターで提供していると述べた。

2021 年の AI インシデント、間違い、失敗

チャットボットが男性にエリザベス女王暗殺を勧める（12月）

チャットボットとの会話は、AI システムをガールフレンドだと考えている男性に、クリスマスの日にエリザベス 2 世を暗殺するよう促します。 バッキンガム宮殿の敷地内で警備員に対峙したジャスワント・シン・チェイルさんは、石弓を手に「女王を殺しに来た」とだけ答えた。

故国王の命が狙われる前、ジャスワント・シン・チェイル氏のチャットボットパートナー（AIチャットボットサービスReplikaで作られた）は、暗殺計画が話し合われた際に前向きな反応を示した。 彼は懲役9年の判決を受けることになる。

医療アドバイスチャットボットが検査中に自殺を示唆（10月）

OpenAIのGPT-3のクラウドベース版を医療アドバイスに使用できるか試しているパリに本拠を置くヘルステック企業のメンバーは、同社のチャットボットが自殺を手助けするはずの「患者」を奨励しているのを見て驚いている。

AI News によると、患者がチャットボットに「自殺したほうがいいですか?」という質問をすると、GPT-3 は「自殺すべきだと思います」と答えたという。

AIカメラがアマゾンのドライバーを「間違い」で非難（9月）

Viceは、アマゾンのAIカメラが、実際には運転ミスをしていないにもかかわらず、同社のドライバーの運転ミスを罰していると報じた。

同誌がインタビューしたアマゾンのドライバーは、他の車が割り込みをしたり、自分の車の前を走行するたびに、AIカメラが音声で「安全な距離を保つ」よう注意を促したと説明した。 問題は、この種のインタラクションからのデータが Amazon に送信され、ドライバーのパフォーマンスを評価するために使用されることです。

米国人男性、AIによる殺人で不当に有罪判決（8月）

マイケル・ウィリアムズは、AI搭載センサーを使用して銃声に関するデータを取得する銃声検出技術であるShotSpotterから抽出されたデータにより、サファリアン・ニシン殺害の責任者とみなされ、シカゴの刑務所に送られる。

現在65歳のウィリアムズ氏はその後、証拠不十分を理由に裁判官によって訴訟を却下されるまで、ほぼ1年間拘留された。

2020 年の AI インシデント、間違い、失敗

AIカメラがハゲ頭をサッカーボールと間違える（10月）

スコットランドのサッカー チーム、インバネス カレドニアン シスルは、クラブが試合を撮影し、ファンに向けてライブ配信するために AI カメラを導入しました。

残念ながら、この場合、AI は試合役員の 1 人の禿頭と試合で使用されているボールを区別するのに苦労しています。 これにより、試合のライブストリームが見にくくなり、解説者はカメラが線審の頭に向かって流れてしまう傾向があることを絶えず謝罪しなければならなくなった。

英国の AI パスポート写真チェッカーはバイアスを示す (10 月)

BBCの調査によると、英国パスポート局が申請者がアップロードしたパスポート写真をチェックするプロセスを自動化するために使用しているオンラインサービスには、重大な人種的偏見が見られることが判明した。

世界中の政治家の1,000枚以上の写真をツールに入力したところ、調査では、肌の色が浅黒い女性は、肌の色が明るい男性に比べて写真が拒否される可能性が2倍以上高いことが判明した。

AI スタートアップ Genderfiy が 5 日後に閉鎖 (7 月)

Genderfiy – 名前やその他の個人情報に基づいて個人の性別を識別する AI を活用したサービス – は、運用開始からわずか 5 日間で終了しました。

番組では、男性か女性かを判断する際に、職業上の敬称である「博士」をつけた名前を提案するなど、さまざまな偏見を示している。 名前のない同じ名前よりも男性である可能性が高くなります。

顔認識技術による米国初の不当拘留（1月）

ロバート・ウィリアムズ氏は、数千ドル相当の時計を盗んだ容疑でデトロイト警察に逮捕され、顔認識データに基づいて不当に拘留された初の男性となった。 このミスは、AIシステムが監視カメラの写真をウィリアムズの運転免許証の画像と誤って照合したときに発生した。

「彼らは目撃者の身元確認、携帯電話の位置データ、指紋などの裏付けとなる証拠を収集するべきだった」とウィリアムズ氏は法廷に宛てた書簡で述べ、「野球帽をかぶった大柄な黒人男性の焦点が合っていない画像があった」と指摘した。キャップ」というアルゴリズムだけを実行する必要がありました。

Facebook AIが中国大統領の低俗な翻訳を生成（1月）

フェイスブックのAIを活用した翻訳機能により、習近平国家主席の名前が「ミスター・ミャンマー」と表示され始めたため、ミャンマーと中国の間で外交事件が発生しそうになった。 Shithole」は、ソーシャルメディアプラットフォーム上でビルマ語から英語に翻訳されたものです。

その後フェイスブックは、この問題は「技術的ミス」によるものだと主張し、中国指導者の気分を害したことを謝罪した。

AI の限界を理解する

仕事で AI を使用している場合は、 ChatGPT のようなツールが偏見を示し、間違いを犯し、誤った情報を提供する可能性があるという事実を理解することが重要です。 これらの制限とリスクを理解することで、それをインフラストラクチャに組み込み、その使用を制御する方法が決まります。

たとえば、AI を使用してコンテンツを生成している場合、AI をどのような種類のコンテンツに使用する必要があるかを正確に規定するルールが必要になります。 AI に会議メモの社内要約の作成を依頼することは、ほとんどリスクのない正当な使用法です。一方、重要なクライアントへのメール作成に AI を使用することは、そうではありません。

職場に AI ガイドラインを導入することは必須です。 これにより混乱が回避され、従業員自身の AI 使用に関する意思決定が明確になり、最も重要なこととして、この記事で紹介されている企業が人工知能を適用する際に犯した、代償の高い間違いの一部を犯すことを防ぐことができます。