ChatGPT используется северокорейскими хакерами для мошенничества с пользователями LinkedIn

Microsoft подтвердила, что северокорейские хакерские группы используют инструменты искусственного интеллекта, такие как ChatGPT, чтобы выманивать у людей конфиденциальную информацию на таких платформах, как LinkedIn , поскольку страна пытается привлечь больше средств в свою программу создания ядерного оружия.

Согласно недавним отчетам, в которых Facebook и WhatsApp также упоминаются как охотничьи площадки для мошенников, Северная Корея, которая запрещает использование Интернета своим обычным гражданам, также может использовать большие языковые модели (LLM) для разработки новых сложных типов вредоносных программ .

Однако мошенничества с искусственным интеллектом в Пхеньяне не всегда убедительны. Читайте дальше, чтобы узнать больше о последних кибератаках этой страны-изгоя и получить практические советы о том, как их перехитрить.

Северокорейские хакеры выдают себя за рекрутеров LinkedIn

Хотя вы, возможно, не ассоциируете Корейскую Народно-Демократическую Республику (КНДР) с высоким уровнем технической грамотности, Microsoft недавно подтвердила FT, что хакерские группы в стране совершают все более изощренные киберпреступления против американских служащих с использованием ChatGPT.

В отчете, недавно опубликованном Microsoft, которая в настоящее время сотрудничает с создателем ChaGPT OpenAI , выяснилось, что северокорейские хакеры используют большие языковые модели (LLM) для создания контента, «который, вероятно, будет использоваться в целевых фишинговых кампаниях». обвинения были выдвинуты против таких стран, как Иран, Россия и Китай.

Хотя Северная Корея, как известно, не раскрывает своих внутренних операций, понятно, что деньги, полученные от ее преступной деятельности, используются для финансирования ее баллистических ракет и ядерных программ, по мнению группы экспертов ООН.

Эти атаки, которые, по-видимому, в первую очередь нацелены на сотрудников компаний, занимающихся глобальной кибербезопасностью, глобальной обороной и криптовалютами, происходят на ряде социальных сетей, таких как Facebook, WhatsApp, Discord и Telegram. Однако большинство фишинговых атак, судя по всему, нацелены на пользователей профессионального сетевого сайта LinkedIn.

По словам Эрин Планте, вице-президента компании по кибербезопасности Chainaанализ, северокорейские хакерские группы используют инструмент искусственного интеллекта для создания безупречных и заслуживающих доверия профилей рекрутеров в LinkedIn. Генеративный ИИ помогает общаться, отправлять сообщения, создавать изображения и новые личности — все, что вам нужно для построения тесных отношений с вашей целью», — объяснил Планте.

«Атаки становятся очень изощренными — мы не говорим о плохо сформулированном электронном письме с надписью «нажмите на эту ссылку», — Эрин Планте, вице-президент компании по кибербезопасности Chainaанализ.

В фишинговых кампаниях Северной Кореи нет ничего нового: Lazurus – известная кибербанда, поддерживаемая государством и действующая с 2009 года – в прошлом году попала в заголовки газет за то, что выдавала себя за мета-рекрутера, нацеливаясь на испанскую аэрокосмическую компанию. Однако Планте считает, что мошенничество становится все более убедительным из-за быстрого развития моделей LLM.

Планте рассказал об одном случае, когда фальшивый рекрутер LinkedIn обманом заставил старшего инженера японской криптовалютной биржи провести «технические упражнения», в результате чего система его компании была заражена северокорейским шпионским ПО.

Хакерские группы также тратят много времени на эти кампании, чтобы их запросы выглядели как можно более законными. «Это подробные профили в LinkedIn и других социальных сетях, которые они используют для построения отношений в течение недель и месяцев», — объясняет она.

Северная Корея также может использовать ИИ для разработки вредоносного ПО

Но северокорейские группы не просто используют ИИ для организации попыток фишинга.

По словам Шрейаса Редди, аналитика сеульской информационной службы NK Pro, поддерживаемые государством субъекты могут также использовать инструменты искусственного интеллекта, такие как ChatGPT, для разработки еще более сложных вредоносных программ для проникновения в сети своих жертв.

«В этих сервисах предусмотрены меры безопасности, предотвращающие их использование в злонамеренных целях», — рассказал Редди Financial Times, добавив, «но люди смогли их обойти».

Хотя доступ в Интернет строго запрещен для среднестатистического гражданина Северной Кореи, использование искусственного интеллекта в стране значительно предшествует появлению таких известных хакерских групп, как Lazarus. Прозванное «Королевством-отшельником» начало активизировать свои киберпроекты в 1980-х и 1990-х годах, когда Ким Ир Сен впервые разработал в стране баллистические ракеты и ядерную программу.

С тех пор северокорейские издатели опубликовали сотни исследовательских работ по искусственному интеллекту, а недавние исследования 2022 года исследовали метод машинного обучения, называемый «обучение с подкреплением», в игровой ситуации.

Однако, несмотря на давнюю приверженность страны использованию ИИ, его приложения не являются надежными, и существует ряд способов, с помощью которых сотрудники могут отличить фиктивные аферы с набором персонала от реальных, о чем мы поговорим дальше.

Как распознать поддельные северокорейские мошеннические рекрутеры LinkedIn

Северная Корея, возможно, вкладывает много средств в свои кибератаки с использованием искусственного интеллекта, но это не значит, что они всегда успешны. Хакерские группы сталкиваются с серьезными языковыми барьерами при проведении операций социальной инженерии и часто попадают в ловушку своей неспособности понять разговорную речь на иностранных языках.

Подобные мошенничества, в которых северокорейцы выдавали себя за заявителей, были сорваны по аналогичным причинам. Несколько американских компаний привели необычные случаи, когда северокорейские актеры, маскирующиеся под американских кандидатов на работу, поднимали тревожные сигналы, отказываясь включать камеры, писать ответы по сценарию и не отвечать на хорошем английском языке.

Из-за этих проблем главными признаками, на которые следует обратить внимание пользователям LinkedIn, являются плохой английский, культурные недопонимания и нерешительность при включении камеры. В целом, рекомендуется внимательно изучить профиль рекрутера и провести предварительное исследование компании.