Что такое теневой ИИ? Последняя угроза безопасности корпоративных ИТ-инфраструктуры

Рост популярности искусственного интеллекта за последние несколько лет потряс всю технологическую индустрию, и индустрия корпоративной кибербезопасности не является исключением: они внезапно столкнулись с теневым ИИ.

Термин «Теневой ИИ» относится к любому несанкционированному использованию ИИ внутри организации. Поскольку ИТ-отдел об этом не знает, у них нет возможности отслеживать или контролировать использование ИИ.

Это делает компанию открытой для потенциальной эксплуатации или других проблем. Вот почему теневой ИИ может стать растущей проблемой и что ваша компания может с этим сделать.

Что такое теневой ИИ?

Теневой ИИ описывает сотрудников, использующих ИИ для помощи им в выполнении задач без ведома и согласия компании. Когда сотрудники не объясняют своей компании такое использование, эта компания не знает о теневом использовании ИИ, которое происходит в ее рядах. Возьми? Потому что использование ИИ происходит… в тени.

Задачи могут выполняться быстрее, но без прозрачности и рекомендаций по использованию ИИ невозможно полностью контролировать результаты. И для любого бизнес-менеджера отсутствие контроля является красным флагом дальнейшего успеха бизнеса.

Существует множество свидетельств того, что теневой ИИ уже является большой проблемой во многих отраслях, даже если он еще не привел к каким-либо катастрофическим сбоям в безопасности. По крайней мере, ничего из того, о чем мы слышали: в конце концов, значительное меньшинство технологических компаний не сообщает о хакерских атаках постфактум.

Вот еще один важный факт, который придает дополнительный контекст потенциальной угрозе теневого ИИ.

Только 4,39% компаний полностью интегрировали инструменты искусственного интеллекта во всей своей организации.

Согласно данным отчета Tech.co о влиянии технологий на рабочее место за 2024 год, это всего лишь одна из 25 компаний, у которых есть четкие рекомендации по искусственному интеллекту.

Напротив, 44% респондентов другого опроса заявили, что используют ИИ как в профессиональных, так и в личных целях. По оценкам этого опроса, в котором рассматривались конкретно французские компании, 28% сотрудников использовали ИИ без контроля со стороны компании.

Другими словами, несмотря на ажиотаж вокруг инструментов генерации текста и изображений в последние несколько лет, компании не спешат разрабатывать правила для ИИ.

Почему теневой ИИ опасен

Это сложная задача — выявить опасности практики, которая по определению не контролируется и не до конца понимается. Вот самые большие проблемы.

Внутренняя или внешняя дезинформация

Наш отчет показал, что 49% высшего руководства обеспокоены риском того, что большие языковые модели ИИ генерируют ложную информацию . Мы уже видели сообщения о неправильных юридических заключениях , составленных с помощью искусственного интеллекта, а также о других грубых ошибках , поэтому легко представить, что то же самое произойдет с внутренним бизнес-отчетом или электронным письмом важному клиенту.

Риск кибербезопасности

Развертывание ИИ для целей кодирования — один из популярных вариантов использования, но если он используется командой ИТ-поддержки, этот код может содержать сгенерированные ИИ ошибки или возможности, позволяющие хакерам пропустить логическую бомбу вредоносного ПО мимо ваших протоколов безопасности.

Открытые данные

Кроме того, многие пользователи ИИ не знают, что их подсказки будут записываться компанией, создавшей бесплатный инструмент ИИ. Если для подсказки используются данные частной компании , они будут раскрыты. Вот почему вам никогда не следует, среди прочего , передавать конфиденциальные данные компании платформе искусственного интеллекта.

Нарушения соответствия

Правительства по всему миру вводят собственные ограничения и рекомендации по использованию ИИ. Без представителя, который будет отслеживать федеральное или государственное регулирование внутри вашей компании, вы не можете быть уверены, что сотрудники не откроют ваш бизнес для расследования со стороны контролирующего органа в будущем.

Как ваша компания может бороться с использованием теневого ИИ

В конечном счете, угроза теневого ИИ вызвана отсутствием или ограниченностью бизнес-политики, касающейся использования ИИ на рабочем месте. Итак, ответ относительно прост: вам нужно будет создать рекомендации, ограничивающие использование ИИ конкретными задачами в рамках определенных ролей .

И поскольку 50% американских компаний заявляют, что в настоящее время они «обновляют свою внутреннюю политику, регулирующую использование ChatGPT и прекращающую использование Shadow GPT», это решение, похоже, уже внедряется, хотя и медленно.

Самый безопасный вариант — полный запрет на использование ИИ: Apple, Amazon, Samsung и Goldman Sachs входят в число немногих компаний, которые запретили круглосуточное использование хотя бы некоторых версий ИИ . Однако это также означает, что вы также не сможете извлечь выгоду из технических инструментов.

Вероятно, вы захотите включить в свои рекомендации предостережение относительно будущего использования ИИ : в ожидании одобрения работники должны иметь возможность расширять использование ИИ за пределами ваших первоначальных рекомендаций, поскольку инструменты ИИ будут продолжать развиваться в будущем.

Лучшие практики использования искусственного интеллекта в компаниях

Использование ИИ в вашей компании не обязательно должно быть плохим. Отчет Tech.co о технологиях на рабочем месте за 2024 год показал, что те, кто использовал больше инструментов для совместной работы и ИИ, сообщили о более высокой производительности , в то время как впечатляющие 59% пользователей ИИ испытывают большее удовлетворение от работы.

Вот несколько советов, как получить максимальную отдачу от ИИ:

• Ознакомьтесь с обучающими курсами . Многие учебные материалы по искусственному интеллекту доступны бесплатно в Интернете .
• Не пытайтесь заменить работу . ИИ предстоит пройти долгий путь, прежде чем он сможет полностью заменить человека. Наш отчет показал, что 63% руководителей высшего звена, чьи организации используют ИИ для написания задач, утверждают, что инструменты ИИ не повлияли на увольнение должностей.
• Ограничьте ИИ конкретными ботами и конкретными задачами . ChatGPT или Claude 3 могут быть лучшими вариантами на данный момент.
• Прочтите подсказки . Лучшие подсказки дают наилучшие результаты, поэтому мы составили руководство , предлагающее, как следует думать о написании подсказок.

ChatGPT был самым популярным инструментом искусственного интеллекта, используемым в бизнесе в нашем опросе 2024 года, но другие могут работать так же хорошо или даже лучше: одно из наших недавних тестов показало, что Claude 3 выдает лучшие и более простые для анализа текстовые результаты по сравнению с ChatGPT.

Наконец, важно помнить, что генерирующие текстовые или графические боты на самом деле не являются «интеллектуальными» — вам всегда понадобится человек-проводник, который дважды проверит галлюцинации или другую ложь, прежде чем вы штампуете все, что может предложить ИИ.