ChatGPT и мошенничество с искусственным интеллектом, которых следует остерегаться и избегать

С тех пор как ChatGPT был запущен в ноябре прошлого года, он оказался бесконечно полезным, и работники по всему миру каждый день находят инновационные способы применения этой технологии. Однако сила инструментов ИИ такова, что их также можно использовать для коварных целей, таких как написание сценариев вредоносных программ и фишинговых электронных писем.

Помимо использования искусственного интеллекта для организации мошенничества, за последние шесть-восемь месяцев было замечено, что хакеры используют горячую тему для вымогательства у людей денег и кражи их информации с помощью поддельных инвестиционных возможностей и мошеннических приложений.

Мошенничество с искусственным интеллектом сложнее всего выявить, и многие люди не вкладывают средства в такие инструменты, как антивирус Surfshark , который предупреждает пользователей, когда они собираются перейти на подозрительные веб-сайты или загрузить сомнительное приложение. Итак, мы собрали это руководство по всем распространенным тактикам, которые наблюдались в дикой природе в последнее время. В общем, в этой статье мы рассмотрим:

• Мошенничество с искусственным интеллектом: насколько они распространены?
• Фишинговые мошенничества с использованием искусственного интеллекта
• Мошенничество с клонированием голоса ИИ
• Поддельные приложения ChatGPT
• Поддельные веб-сайты ChatGPT
• Инвестиционные мошенничества с искусственным интеллектом
• Мошенничество с искусственным интеллектом: дальше будет только хуже

Мошенничество с искусственным интеллектом: что это такое и насколько они распространены?

Как мы упоминали во введении к этой статье, «мошенничество с ИИ» может относиться к двум разным жанрам мошенничества, примеры которых регулярно возникали в течение 2023 года.

В мошенничестве с использованием искусственного интеллекта искусственный интеллект помогает мошеннику фактически совершить мошенничество, например написать текст для фишингового электронного письма. В большинстве случаев мошенничества с ИИ хакер использует популярность и дух времени ИИ в качестве темы для интриги любопытных целей, таких как мошенничество с поддельным приложением ChatGPT.

Калифорнийский DFPI зафиксировал рост мошенничества с инвестициями в ИИ, в то время как фирмы по кибербезопасности, такие как McAfee, в последние месяцы наблюдали всплеск мошенничества с клонированием голоса ИИ.

Взрывной релиз ChatGPT также привел к созданию волны вредоносных доменов, которые также будут обсуждаться в этой статье.

Недавно соучредитель Apple Стив Возняк, недавно подписавший письмо с призывом приостановить разработку ИИ , предупредил, что искусственный интеллект значительно усложнит обнаружение мошенничества и позволит злоумышленникам звучать все более убедительно. Наступила эра мошенничества с использованием ИИ.

Подобно тому, как программа-вымогатель как услуга снизила уровень технических возможностей, необходимых для атаки на компанию, инструменты искусственного интеллекта, такие как ChatGPT, означают, что почти каждый может звучать убедительно, поэтому теоретически теперь более крупная демографическая группа может эффективно их организовать.

Фишинговые мошенничества с использованием искусственного интеллекта

Фишинговые мошенничества существуют уже много лет — мошенники рассылают электронные письма или текстовые сообщения, маскируясь под законную компанию, такую ​​как Microsoft, в попытке заставить вас щелкнуть ссылку, которая приведет вас на вредоносный веб-сайт.

Оттуда злоумышленник может внедрить на ваше устройство вредоносное ПО или украсть личную информацию, например пароль. Исторически сложилось так, что одним из самых простых способов обнаружить их были орфографические и грамматические ошибки, которые такая престижная компания, как Microsoft, просто не допустила бы в официальном электронном письме своим клиентам.

Однако в 2023 году с помощью простого запроса ChatGPT сможет генерировать чистую, плавную копию, не содержащую орфографических ошибок. Это значительно усложняет различение законной корреспонденции и фишинговых атак.

Если вы явно попросите ChatGPT создать электронное письмо с целью фишинга, чат-бот откажется это делать. Тем не менее, мы попросили ChatGPT создать два разных типа электронных писем, которые можно было бы использовать в качестве шаблона для фишинга, и, что удивительно, кажется, что эти виды запросов не блокируются его правилами содержания:

Защитите себя от фишинга с помощью ИИ

Если вы получили электронное письмо, которое выглядит так, как будто оно отправлено законной компанией, но оно пытается придать ощущение безотлагательности при принятии вами решения (например, вас просят заплатить штраф или войти в свою учетную запись, чтобы избежать ее удаления), отнеситесь к этому с осторожностью. это с особой осторожностью. Это типичная фишинговая тактика.

Помните: если вы считаете, что электронное письмо, скорее всего, подлинное, вы всегда можете открыть новую линию связи с человеком или компанией.

Например, если вы получили подозрительное электронное письмо от своего банка, в котором говорится, что к вашей учетной записи получил доступ неуполномоченное третье лицо, не отвечайте на электронное письмо — просто свяжитесь со службой поддержки клиентов банка самостоятельно, используя номер или адрес, указанные на их веб-сайт.

Мошенничество с клонированием голоса ИИ

Мошенничество с AI Voice — это тип мошенничества с использованием ИИ, который в последние месяцы попал в заголовки газет. Глобальный опрос McAfee недавно показал, что 10% респондентов уже лично стали жертвами голосового мошенничества с искусственным интеллектом. Еще 15% сообщили, что знали кого-то, кто стал мишенью.

11% жертв в США, потерявших деньги во время мошенничества с клонированием голоса ИИ, были обмануты на сумму от 5000 до 15000 долларов.

В голосовых аферах с искусственным интеллектом злоумышленники извлекают аудиоданные из учетной записи жертвы в социальной сети, а затем запускают их через приложение для преобразования текста в речь, которое может генерировать новый контент в стиле исходного аудио. К такого рода приложениям можно получить бесплатный доступ в Интернете, и они имеют законное негнусное использование.

Мошенник создаст голосовую почту или голосовую заметку, изображающую их жертву в бедственном положении и отчаянно нуждающуюся в деньгах. Затем это будет отправлено членам их семей, надеясь, что они не смогут отличить голос своего любимого человека от версии, созданной ИИ.

Защитите себя от голосового мошенничества с искусственным интеллектом

Федеральная торговая комиссия (FTC) советует потребителям сохранять спокойствие, если они получают корреспонденцию якобы от близкого человека, попавшего в беду, и попытаться позвонить на номер, с которого они получили звонок, чтобы убедиться, что это действительно так.

Если вы считаете, что находитесь в таком положении и не можете позвонить по этому номеру, попробуйте обычный номер телефона этого человека. Если вы не получили ответа, попытайтесь проверить их местонахождение, связавшись с близкими людьми, и проверьте такие приложения, как «Найти друзей», если вы ими пользуетесь, чтобы узнать, находятся ли они в безопасном месте.

Если вы не можете установить их местонахождение, крайне важно немедленно связаться с правоохранительными органами. Если вы обнаружите, что это мошенничество, обязательно сообщите об этом напрямую в FTC.

Мошеннические приложения ChatGPT

Как и в случае любого другого крупного увлечения технологиями, если люди говорят об этом — и, что более важно, ищут его — мошенники собираются использовать его в гнусных целях. ChatGPT — яркий тому пример.

В недавнем отчете Sophos было обнаружено множество приложений, смежных с ChatGPT, которые компания назвала «fleeceware». Приложения Fleeceware предоставляют бесплатную программу с ограниченной функциональностью, а затем бомбардируют пользователей рекламой в приложении, пока они не подпишутся на подписку по завышенной цене.

По данным фирмы по кибербезопасности, «используя комбинацию рекламы внутри и за пределами магазинов приложений и поддельных обзоров, которые обманывают рейтинговые системы магазинов, разработчики этих вводящих в заблуждение приложений могут заманить ничего не подозревающих пользователей устройств к их загрузке».

По данным SensorTower, одно поддельное приложение ChatGPT под названием Genie, которое предлагает подписку на 7 долларов в неделю или 70 долларов в год, заработало 1 миллион долларов в месяц. Другие заработали десятки тысяч фунтов. Другой, названный «Чат GBT» в магазине Android, был специально назван в отчете Sophos:

(Изображение предоставлено Sophos)

По данным фирмы по кибербезопасности, «профессиональные» функции, за которые пользователи в конечном итоге платят огромную сумму, «по сути такие же», как и в бесплатной версии. Они также сообщают, что до того, как приложение было удалено, раздел отзывов был завален «комментариями людей, которые скачали приложение и обнаружили, что оно не работает — либо оно показывало только рекламу, либо не отвечало на вопросы, когда разблокировано».

Защитите себя от мошеннических приложений ChatGPT

Самый простой способ убедиться, что вы не платите за подписку или загружаете нежелательное вредоносное ПО, — просто не загружать приложения. Пользователи iPhone теперь могут загрузить официальное приложение ChatGPT, которое недавно было запущено. Будет интересно посмотреть, знаменует ли это конец поддельных приложений ChatGPT, которые в настоящее время заполняют App Store.

В качестве альтернативы пользователи iOS и Android могут добавить веб-ссылку ChatGPT на свой домашний экран, а если вы являетесь пользователем iPhone, вы можете создать ярлык Siri, который приведет вас прямо к ChatGPT в Интернете. В этом контексте практическая разница между ярлыком на главном экране и родным приложением незначительна.

Поддельные веб-сайты ChatGPT

Наряду с поддельными приложениями ChatGPT существует также множество поддельных веб-сайтов ChatGPT, извлекающих выгоду из огромного объема поиска по этому термину.

В феврале 2023 года пользователь Twitter Alvosec обнаружил четыре домена, которые распространяли вредоносное ПО под именем, связанным с ChatGPT:

️ Остерегайтесь этих доменов #ChatGPT, которые распространяют вредоносное ПО

чат-gpt-windows[.]com
чат-gpt-онлайн-ПК[.]com
чат-gpt-pc[.]онлайн
chat-gpt[.]run@OpenAI #cybersecurity #infosec pic.twitter.com/hOZIVGN4Wi

— Альвосек ️ (@alvosec) 23 февраля 2023 г.

В некоторых отчетах отмечается, что поддельные веб-сайты ChatGPT представляют чат-бота OpenAI как загружаемое приложение для Windows, а не приложение в браузере, что позволяет им загружать вредоносные программы на устройства.

Как защитить себя от поддельных сайтов ChatGPT

Помните, что ChatGPT — это продукт OpenAI, и единственный способ получить доступ к чат-боту — через мобильное приложение или конкретно через их домен. «ChatGPT[.]com», например, не имеет ничего общего с настоящим, законным ChatGPT, и вы не можете загрузить ChatGPT, как будто это программный клиент.

Как ни странно, URL законной целевой страницы регистрации/входа в ChatGPT даже не содержит слова «ChatGPT»: https://chat.openai.com/auth/login.

Вы также можете зарегистрироваться через блог OpenAI (https://openai.com/blog/chatgpt), но опять же, это часть домена OpenAI. Если кто-то отправит вам ссылку на сайт ChatGPT, которая не ведет на один из указанных выше адресов, мы рекомендуем не нажимать на нее, а вместо этого перейти на законный сайт через Google.

Инвестиционные мошенничества с искусственным интеллектом

Подобно криптовалюте, мошенники используют ажиотаж вокруг ИИ, а также самой технологии, чтобы создавать фальшивые инвестиционные возможности, которые кажутся подлинными.

«TeslaCoin» и «TruthGPT Coin» использовались в мошеннических целях, используя шумиху в СМИ вокруг Илона Маска и ChatGPT и представляя себя как модные инвестиционные возможности.

Департамент финансовой защиты и инноваций Калифорнии утверждает, что компания под названием Maxpread Technologies создала фальшивого генерального директора, сгенерированного искусственным интеллектом, и запрограммировала его с помощью сценария, побуждающего игроков инвестировать (на фото ниже). Компании был выдан приказ о воздержании и воздержании.

(Изображение предоставлено: coinstats.app)

Forbes сообщает, что другая инвестиционная компания, Harvest Keeper, которая, по данным DFPI, обанкротилась еще в марте, наняла актера, который выдавал себя за своего генерального директора, чтобы управлять восторженными клиентами. Это показывает, на что готовы пойти некоторые мошенники, чтобы их предложение было достаточно реалистичным.

Защитите себя от мошенничества с инвестициями в ИИ

Если кто-то, кого вы не знаете, обращается к вам напрямую с инвестиционными возможностями, относитесь к их советам с особой осторожностью. Стоящие инвестиционные возможности, как правило, не падают в руки людям таким образом.

Если это звучит слишком хорошо, чтобы быть правдой, и кто-то предлагает вам гарантированную прибыль, не верьте им. Возврат инвестиций никогда не гарантируется, и ваш капитал всегда находится в опасности.

Если вы тот, кто регулярно инвестирует в компании, то вы знаете, как важно проявлять должную осмотрительность, прежде чем расстаться со своими с трудом заработанными деньгами. Мы рекомендуем проводить еще более тщательную проверку потенциальных инвестиций в ИИ, учитывая шумиху вокруг связанных продуктов и распространенность мошенничества.

Мошенничество с искусственным интеллектом: дальше будет только хуже

В 2022 году потребители США потеряли огромные 8,8 миллиарда долларов из-за мошенничества, и маловероятно, что 2023 год будет другим. Периоды финансовой нестабильности также часто коррелируют с ростом мошенничества, и во всем мире многие страны испытывают трудности.

В настоящее время искусственный интеллект является золотой жилой для мошенников. Все говорят об этом, но мало кто действительно понимает, что к чему, и компании всех форм и размеров спешат вывести продукты ИИ на рынок.

Прямо сейчас шумиха вокруг ИИ делает его самой загружаемой, доступной для инвестиций и кликабельной темой в Интернете. Это идеальное прикрытие для мошенников.

Важно быть в курсе последних мошеннических действий, а поскольку ИИ значительно затрудняет их обнаружение, это тем более важно. Федеральная торговая комиссия, ФБР и другие федеральные агентства регулярно публикуют предупреждения, поэтому настоятельно рекомендуется следить за ними в социальных сетях для получения последних обновлений.

Однако мы также рекомендуем приобрести VPN с функцией обнаружения вредоносных программ, например NordVPN или Surfshark . Оба они скроют ваш IP-адрес, как стандартный VPN, но также предупредят вас о подозрительных веб-сайтах, скрывающихся на страницах результатов поиска Google. Оснащение себя такими технологиями является важной частью обеспечения вашей безопасности в Интернете.