섀도우 AI란 무엇인가? 엔터프라이즈 IT의 최신 보안 위협

지난 몇 년 동안 인공 지능 의 부상은 전체 기술 산업을 뒤흔들었고 기업 사이버 보안 산업도 예외는 아닙니다. 그들은 갑자기 섀도우 AI를 다루고 있습니다.

"Shadow AI"라는 용어는 조직 내에서 AI를 무단으로 사용하는 것을 의미합니다. IT 부서에서는 이를 모르기 때문에 AI 사용을 추적하거나 제어할 방법이 없습니다.

이로 인해 회사는 잠재적인 착취 또는 기타 문제에 노출됩니다. Shadow AI가 점점 더 큰 문제가 될 수 있는 이유와 이에 대해 회사에서 할 수 있는 조치는 다음과 같습니다.

섀도우 AI란 무엇인가?

Shadow AI는 직원이 회사 지식이나 동의 없이 업무를 돕기 위해 AI를 사용하는 것을 말합니다. 직원이 이러한 용도를 회사에 설명하지 않으면 해당 회사는 직급 내에서 진행되는 섀도우 AI 사용을 인식하지 못합니다. 알겠어요? AI 사용이... 그림자 속에서 일어나고 있기 때문입니다.

작업은 더 빨리 완료될 수 있지만 AI 사용에 대한 가시성과 지침이 없으면 결과를 완전히 제어하는 ​​것이 불가능합니다. 그리고 모든 비즈니스 관리자에게 이러한 통제력 부족은 비즈니스의 지속적인 성공에 대한 위험 신호입니다.

섀도우 AI가 아직까지 심각한 보안 실패로 이어지지는 않았음에도 불구하고 섀도우 AI가 이미 여러 산업에서 큰 문제라는 점을 시사하는 많은 증거가 있습니다. 적어도 우리가 들어본 바는 없습니다. 결국 상당수의 기술 회사가 해킹 사실을 보고하지 않습니다.

Shadow AI의 잠재적인 위협에 대한 추가적인 맥락을 제공하는 한 가지 큰 추가 사실은 다음과 같습니다.

기업의 4.39%만이 조직 전체에 완전히 통합된 AI 도구를 보유하고 있습니다.

기술이 직장에 미치는 영향 에 관한 Tech.co의 2024년 보고서 데이터에 따르면 이는 확고한 AI 지침을 보유한 기업 25개 중 1개에 불과합니다.

이와 대조적으로, 또 다른 설문조사 응답자의 44% 는 개인 설정뿐만 아니라 전문적인 설정에서도 AI를 사용한다고 답했습니다. 구체적으로 프랑스 기업을 대상으로 한 이 설문조사에서는 직원의 28% 가 회사 감독 없이 AI를 사용하고 있는 것으로 추정했습니다.

즉, 지난 몇 년 동안 생성 텍스트 및 이미지 도구를 둘러싼 소문에도 불구하고 기업은 AI에 대한 규정을 마련하는 데 더디었습니다.

Shadow AI가 위험한 이유

정의에 따라 모니터링되거나 완전히 이해되지 않는 관행의 위험성을 파악하는 것은 어려운 일입니다. 가장 우려되는 부분은 다음과 같습니다.

내부 또는 외부의 잘못된 정보

우리 보고서에 따르면 고위 경영진의 49%가 대규모 언어 AI 모델이 잘못된 정보를 생성할 위험을 우려하고 있는 것으로 나타났습니다. 우리는 이미 잘못된 AI 기반 법적 서류 및 기타 실수 에 대한 보고서를 보았으므로 내부 비즈니스 보고서나 중요한 고객에게 보내는 이메일에서도 같은 일이 발생하는 것을 쉽게 상상할 수 있습니다.

사이버 보안 위험

코딩 목적으로 AI를 배포하는 것은 널리 사용되는 사용 사례 중 하나이지만, IT 지원 팀에서 사용하는 경우 해당 코드에는 AI에서 생성된 버그 나 해커가 보안 프로토콜을 통과하여 맬웨어 논리 폭탄을 밀어낼 수 있는 구멍이 포함될 수 있습니다.

노출된 데이터

또한 많은 AI 사용자는 무료 AI 도구 뒤에 있는 회사에서 프롬프트를 녹음한다는 사실을 인식하지 못합니다. 프롬프트에 개인 회사 데이터가 사용되는 경우 해당 데이터가 노출됩니다. 그렇기 때문에 무엇보다도 중요한 회사 데이터를 AI 플랫폼과 공유해서는 안 됩니다.

규정 준수 실패

전 세계 정부는 AI 제한 사항과 자체 지침을 발표하고 있습니다. 회사 내에서 연방 또는 주 규정을 추적하는 담당자가 없으면 직원이 향후 규제 감시 기관의 조사에 귀하의 사업을 개시하지 않을 것이라고 확신할 수 없습니다.

회사가 Shadow AI 사용에 대처할 수 있는 방법

궁극적으로 섀도우 AI의 위협은 직장 내 AI 사용과 관련된 존재하지 않거나 제한적인 비즈니스 정책으로 인해 발생합니다. 따라서 대답은 비교적 간단합니다. AI 사용을 특정 역할 내의 특정 작업으로 제한하는 지침을 만들어야 합니다.

그리고 미국 기업의 50%가 현재 "ChatGPT 사용을 관리하고 Shadow GPT를 종료하기 위해 내부 정책을 업데이트하고 있다"고 말하면서 이 솔루션은 비록 느리기는 하지만 이미 출시되고 있는 것으로 보입니다.

가장 안전한 선택은 AI 사용을 완전히 금지하는 것입니다. Apple, Amazon, Samsung 및 Goldman Sachs는 적어도 일부 버전의 AI를 시계 사용에서 금지한 몇몇 회사 중 하나입니다. 그러나 이는 또한 기술 도구의 이점을 누릴 수 없음을 의미합니다.

지침 내에 향후 AI 사용에 대한 주의 사항을 포함하고 싶을 것입니다. AI 도구는 앞으로도 계속 발전할 것이므로 승인을 기다리는 동안 작업자는 초기 지침 외부에서 AI 사용을 확장할 수 있어야 합니다.

회사 AI 사용 모범 사례

회사 내에서 AI 사용이 모두 나쁜 것은 아닙니다. 직장 내 기술에 대한 Tech.co의 2024년 보고서에 따르면 협업 도구와 AI를 더 많이 사용하는 사람들은 생산성이 더 높다고 스스로 보고했으며 , AI 사용자 중 무려 59%가 직업 만족도가 더 높은 것으로 나타났습니다.

AI를 최대한 활용하기 위한 몇 가지 팁은 다음과 같습니다.

• 교육 과정을 확인하세요 . 많은 AI 교육 자료가 온라인에서 무료로 제공됩니다 .
• 일자리를 대체하려고 하지 마십시오 . AI가 인간을 완전히 대체하려면 아직 갈 길이 멀다. 우리 보고서에 따르면 조직에서 작문 작업에 AI를 사용하는 고위 리더십 전문가의 63%는 AI 도구가 직무 제거에 영향을 미치지 않았다고 밝혔습니다.
• AI를 특정 봇과 특정 작업으로 제한합니다 . ChatGPT 또는 Claude 3가 현재 가장 좋은 옵션일 수 있습니다.
• 프롬프트를 읽어보세요 . 최고의 프롬프트가 최고의 결과를 가져오므로 프롬프트 작성에 대해 어떻게 생각해야 하는지 제안하는 가이드를 정리했습니다.

ChatGPT는 2024년 설문조사에서 기업 내에서 사용되는 가장 인기 있는 AI 도구였지만 다른 도구도 그와 비슷하거나 더 잘 작동할 수 있습니다. 최근 테스트 중 하나에서는 ChatGPT와 비교할 때 Claude 3가 더 좋고 구문 분석하기 쉬운 텍스트 결과를 작성한 것으로 나타났습니다.

마지막으로, 생성 텍스트 또는 이미지 봇은 실제로 "지능적"이지 않다는 점을 기억하는 것이 중요합니다. AI가 제공하는 모든 것을 고무 스탬프로 표시하기 전에 항상 인간 가이드가 환각 이나 기타 거짓말을 다시 확인하기를 원할 것입니다.