注意し回避すべき ChatGPT および AI 詐欺

ChatGPT は昨年 11 月に発表されて以来、世界中の従業員がこのテクノロジーを適用する革新的な方法を毎日見つけており、その有用性が際限なく証明されています。 ただし、 AI ツールの威力は非常に強力であるため、マルウェア スクリプトの作成やフィッシング メールなどの狡猾な目的にも使用できます。

人工知能を利用して詐欺を組織することに加えて、過去 6 ～ 8 か月間、ハッカーがこの注目の話題を利用して、偽の投資機会や詐欺アプリケーションを通じて人々からお金を脅し、情報を盗んでいるのが目撃されています。

AI 詐欺は特定するのが最も困難な詐欺の 1 つであり、多くの人は、ユーザーが不審な Web サイトにアクセスしたり、怪しいアプリをダウンロードしようとしたときに警告を発するSurfshark アンチウイルスのようなツールに投資しません。 そこで、最近実際に観察されたすべての一般的な戦術をこのガイドにまとめました。 全体として、この記事では次のことについて説明します。

• AI 詐欺: どのくらい一般的ですか?
• AIを利用したフィッシング詐欺
• AI音声クローン詐欺
• 偽のChatGPTアプリ
• 偽のChatGPT Webサイト
• AI投資詐欺
• AI詐欺: 悪くなるばかり

AI 詐欺: それは何ですか? どのくらい一般的ですか?

この記事の冒頭で触れたように、「AI 詐欺」とは 2 つの異なるジャンルの詐欺を指すことがあり、その例は 2023 年中に定期的に発生しています。

AI 支援詐欺では、フィッシングメールの本文を書くなど、詐欺師が実際に詐欺を行うのを人工知能が支援します。 一般的な AI 詐欺では、ハッカーは、偽の ChatGPT アプリ詐欺など、興味深いターゲットの興味をそそるトピックとして AIの人気と時代性を利用します。

カリフォルニア州 DFPI は AI 投資詐欺の増加をグラフで示しており、マカフィーなどのサイバーセキュリティ企業はここ数カ月で AI 音声クローン詐欺の増加を観察しています。

ChatGPT の爆発的なリリースにより、悪意のあるドメインが大量に作成されるようになりましたが、これについてもこの記事で説明します。

最近、Apple の共同創設者スティーブ ウォズニアック氏 ( AI 開発の一時停止を求める書簡に署名したばかり) は、人工知能によって詐欺を見分けるのがはるかに難しくなり、悪意のある行為者がますます説得力を持って聞こえるようになると警告しました。 AIを利用した詐欺の時代が到来しました。

サービスとしてのランサムウェアが企業を攻撃するために必要な技術的能力のレベルを低下させたのと同様に、ChatGPT のような AI ツールは、ほぼ誰でも説得力があるように聞こえることを意味するため、理論的には、より多くの人口がそれらを効果的に調整できるようになりました。

AIを利用したフィッシング詐欺

フィッシング詐欺は何年も前から存在しています。詐欺師は、Microsoft などの正規の企業を装った電子メールやテキスト メッセージを送信して、リンクをクリックさせ、悪意のある Web サイトに誘導しようとします。

そこから、脅威アクターはデバイスにマルウェアを注入したり、パスワードなどの個人情報を盗んだりする可能性があります。 歴史的に、それらを見つける最も簡単な方法の 1 つは、Microsoft のような名門企業が顧客に宛てた公式メールでは絶対に犯さないスペルや文法の間違いでした。

しかし 2023 年には、ChatGPT は簡単なプロンプトを使用して、スペルミスを含まないクリーンで滑らかなコピーを生成できるようになりました。 これにより、正規の通信とフィッシング攻撃を区別することが非常に困難になります。

ChatGPT にフィッシング目的の電子メールの作成を明示的に要求した場合、チャットボットはこれを拒否します。 ただし、私たちは ChatGPT に、フィッシング詐欺のテンプレートとして使用できる可能性のある 2 つの異なるタイプの電子メールを作成するよう依頼しました。驚くべきことに、この種のリクエストはそのコンテンツ ルールではブロックされないようです。

AI フィッシング詐欺から身を守る

正当な会社からのものであるかのように見える電子メールを受信したが、それがあなたの意思決定に緊迫感を与えようとしている場合 (罰金の支払いを求める、またはアカウントが削除されないようにするためにアカウントにログインするよう求めるなど)、対処してください。細心の注意を払ってください。 これは典型的なフィッシング手口です。

メールが本物である可能性が高いと思われる場合は、いつでもその人または会社と新たなコミュニケーションを開始できることを覚えておいてください。

たとえば、銀行から、あなたの口座が不正な第三者によってアクセスされたという不審なメールを受け取った場合は、そのメールに返信せず、メールに記載されている番号または住所を使用して、自分で銀行のカスタマー サービス チームに連絡してください。彼らのウェブサイト。

AI音声クローン詐欺

AI 音声詐欺は、ここ数カ月で話題になっている AI を利用した詐欺の一種です。 最近行われたMcAfee の世界的な調査では、回答者の 10% がすでに AI 音声詐欺の個人的な標的になっていることが判明しました。 さらに 15% が、標的となった人物を知っていると回答しました。

AI 音声クローン詐欺で金銭を失った米国の被害者の 11% は、5,000 ～ 15,000 ドルを騙し取られました。

AI 音声詐欺では、悪意のある攻撃者がターゲットのソーシャル メディア アカウントから音声データをスクラップし、元の音声のスタイルで新しいコンテンツを生成できるテキスト読み上げアプリを通じてそれを実行します。 この種のアプリはオンラインで無料でアクセスでき、悪意のない正当な用途に使用できます。

詐欺師は、ターゲットが苦しみ、必死にお金を必要としている様子を描写したボイスメールまたは音声メモを作成します。 これはその後、家族に送信され、愛する人の声と AI が生成したバージョンを区別できなくなることを願っています。

AI 音声詐欺から身を守る

米連邦取引委員会（FTC）は消費者に対し、苦しんでいる愛する人からの連絡を装った連絡を受け取った場合は冷静になり、電話を受け取った番号に電話をかけてその電話が本当に本物であることを確認するようアドバイスしている。

自分がこの状況にいて、その番号に電話をかけることができないと思われる場合は、問題の人の通常の電話番号を試してください。 答えが得られない場合は、近くの人に連絡して居場所を確認してください。また、「友達を探す」などのアプリを使用している場合は、そのアプリをチェックして、安全な場所にいるかどうかを確認してください。

居場所を確認できない場合は、直ちに法執行機関に連絡することが重要です。 それが詐欺であると判明した場合は、必ず FTC に直接報告してください。

不正な ChatGPT アプリ詐欺

他の主要なテクノロジーの流行と同様に、人々がそれについて話している場合、そしてさらに重要なことに、それを検索している場合、詐欺師はそれを不正な手段に利用しようとします。 ChatGPT はその代表的な例です。

ソフォスの最近のレポートでは、「フリースウェア」と呼ばれる ChatGPT に隣接するアプリが大量に発見されました。 フリースウェア アプリは、機能が制限された無料プログラムを提供し、ユーザーが高額なサブスクリプションにサインアップするまでアプリ内広告を大量に表示します。

サイバーセキュリティ会社によると、「アプリストア内外の広告と、ストアの評価システムを騙す偽のレビューを組み合わせて、こうした誤解を招くアプリの開発者は、疑いを持たないデバイスユーザーを誘導してダウンロードさせることができる」という。

SensorTower によると、Genie と呼ばれる偽の ChatGPT アプリは、週 7 ドルまたは年間 70 ドルのサブスクリプションを提供しており、月間で 100 万ドルを稼いでいました。 数万ポンドを稼いだ人もいます。 Android ストアで「Chat GBT」と呼ばれるもう 1 つは、ソフォスのレポートで具体的に名前が挙げられています。

(画像提供: ソフォス)

サイバーセキュリティ会社によると、ユーザーが最終的に高額を支払うことになる「プロ」機能は、無料版と「本質的に同じ」だという。 彼らはまた、アプリが削除される前に、レビューセクションには「アプリをダウンロードしたが、広告が表示されるだけだった、またはロックを解除しても質問に応答しなかったなど、アプリが機能しなかったと感じた人々からのコメント」が散乱していたと報告している。

偽の ChatGPT アプリ詐欺から身を守る

このような種類のサブスクリプション料金が発生したり、不要なマルウェアをダウンロードしたりしないようにする最も簡単な方法は、アプリをダウンロードしないことです。 iPhone ユーザーは、最近リリースされた公式 ChatGPT アプリをダウンロードできるようになりました。 これが現在 App Store に存在する偽 ChatGPT アプリの終焉を示すものとなるかどうかは興味深いところです。

あるいは、iOS ユーザーと Android ユーザーの両方が ChatGPT Web リンクをホーム画面に追加することもできます。iPhone ユーザーの場合は、Web 上の ChatGPT に直接アクセスできる Siri ショートカットを作成できます。 この文脈では、ホーム画面のショートカットとネイティブ アプリケーションの間に実質的な違いはほとんどありません。

偽のChatGPT Webサイト

偽の ChatGPT アプリに加えて、この用語に関する膨大な検索ボリュームを利用して、偽の ChatGPT Web サイトも多数出回っています。

2023 年 2 月、Twitter ユーザー Alvosec は、ChatGPT 関連の名前でマルウェアを配布していた 4 つのドメインを特定しました。

️ マルウェアを配布する #ChatGPT ドメインに注意してください

chat-gpt-windows[.]com
chat-gpt-online-pc[.]com
チャット-gpt-pc[.]オンライン
chat-gpt[.]run@OpenAI #サイバーセキュリティ #infosec pic.twitter.com/hOZIVGN4Wi

— アルボセック ️ (@alvosec) 2023年2月23日

一部の報告では、偽の ChatGPT Web サイトが OpenAI のチャットボットをブラウザー内アプリケーションではなく、ダウンロード可能な Windows アプリケーションとして提示し、デバイスにマルウェアをロードできるようにしていると指摘しています。

偽の ChatGPT Web サイトから身を守る方法

ChatGPT は OpenAI 製品であり、チャットボットにアクセスする唯一の方法はモバイル アプリを経由するか、具体的にはそのドメインを経由することであることに注意してください。 たとえば、「ChatGPT[.]com」は、実際の正規の ChatGPT とは何の関係もなく、ソフトウェア クライアントのように ChatGPT をダウンロードすることはできません。

奇妙なことに、正規の ChatGPT サインアップ/ログイン ランディング ページの URL (https://chat.openai.com/auth/login) には「ChatGPT」という単語さえ含まれていません。

OpenAI のブログ (https://openai.com/blog/chatgpt) からサインアップすることもできますが、これも OpenAI ドメインの一部です。 誰かが上記のアドレスのいずれにもリンクしない ChatGPT サイトへのリンクを送信した場合は、そのリンクをクリックせず、代わりに Google 経由で正規のサイトに移動することをお勧めします。

AI投資詐欺

暗号通貨と同様に、詐欺師は AI やテクノロジー自体に関する誇大宣伝を利用して、本物のように見える偽の投資機会を作り出しています。

「TeslaCoin」と「TruthGPT Coin」はどちらも詐欺に使用されており、イーロン・マスク氏とChatGPTに関するメディアの話題に便乗し、自分たちを流行の投資機会であるかのように見せかけています。

カリフォルニア州金融保護・イノベーション局は、Maxpread Technologiesという会社がAIで生成した偽のCEOを作成し、投資家に投資を促すスクリプトをプログラムしたと主張している（下の写真）。 同社には外出禁止令が出されている。

(画像クレジット: Coinstats.app)

フォーブスは、別の投資会社ハーベスト・キーパー（DFPIによれば3月に経営破綻した）が、熱狂的な顧客を取り込むためにCEOになりすます俳優を雇ったと報じている。 これは、一部の詐欺師が自分の売り込みが十分に現実的であることを確認するために、どれほどの努力をするかを示しています。

AI 投資詐欺から身を守る

知らない人が投資の機会をあなたに直接連絡してきた場合、そのヒントは細心の注意を払って扱ってください。 価値のある投資機会は、このように人々の手に渡らない傾向があります。

あまりにもうますぎる話で、誰かが返品保証を提供しているとしても、信じないでください。 投資ではリターンが保証されることはなく、資本は常にリスクにさらされています。

あなたが定期的に企業に投資している人なら、苦労して稼いだ現金を手放す前にデューデリジェンスを行うことの重要性を知っているでしょう。 関連製品に関する話題や詐欺の蔓延を考慮して、将来の AI 投資に対してさらに高いレベルの精査を適用することをお勧めします。

AI詐欺: 悪くなるばかり

2022 年、米国の消費者は詐欺により 88 億ドルもの巨額の損失を被りましたが、2023 年も状況が変わる可能性は低いです。 金融不安の時期は詐欺行為の増加と相関関係にあることが多く、世界的には多くの国が困難に直面しています。

現在、人工知能は詐欺師にとって宝の山です。 誰もがそれについて話していますが、それが何なのかを実際に理解している人はほとんどおらず、あらゆる形態や規模の企業が AI 製品の市場投入を急いでいます。

現在、AI に関する誇大宣伝により、AI はインターネット上で最もダウンロードしやすく、投資しやすく、クリックしやすいテーマになっています。 詐欺師にとって完璧な隠れ蓑となります。

出回っている最新の詐欺について常に最新の情報を把握しておくことが重要ですが、AI によって詐欺を発見することがはるかに困難になっているため、これはさらに重要です。 FTC、FBI、その他の連邦機関は定期的に警告を発しているため、ソーシャルメディアで警告をフォローして最新情報を入手することを強くお勧めします。

ただし、 NordVPNやSurfsharkなどのマルウェア検出機能を備えた VPN を購入することもお勧めします。 どちらも標準の VPN と同様に IP アドレスを隠しますが、Google 検索結果ページに潜む不審な Web サイトについても警告します。 このようなテクノロジーを身につけることは、オンラインで自分の安全を守るために重要です。