O que é Shadow AI? A mais recente ameaça à segurança da TI empresarial

A ascensão da inteligência artificial nos últimos anos abalou toda a indústria de tecnologia, e a indústria de segurança cibernética empresarial não é exceção: de repente, eles estão lidando com a IA sombria.

O termo “Shadow AI” refere-se a qualquer uso não autorizado de IA dentro de uma organização. Como o departamento de TI não sabe disso, eles não têm como rastrear ou controlar o uso da IA.

Isso deixa a empresa aberta a possíveis explorações ou outros problemas. Veja por que a IA sombra pode ser um problema crescente e o que sua empresa pode fazer a respeito.

O que é Shadow AI?

Shadow AI descreve funcionários que usam IA para ajudá-los em tarefas sem o conhecimento ou consentimento da empresa. Quando os funcionários não explicam esse uso à sua empresa, esta não tem conhecimento do uso da IA ​​oculta que está acontecendo dentro de suas fileiras. Pegue? Porque o uso da IA ​​está acontecendo… nas sombras.

As tarefas podem ser realizadas mais rapidamente, mas sem visibilidade e diretrizes relativas ao uso da IA, é impossível controlar totalmente os resultados. E para qualquer gestor de negócios, essa falta de controle é um sinal de alerta para o sucesso contínuo do negócio.

Há muitas evidências que sugerem que a IA sombra já é um grande problema em muitos setores, mesmo que ainda não tenha levado a falhas catastróficas de segurança. Pelo menos, nenhum de que tenhamos ouvido falar: afinal, uma minoria considerável de empresas de tecnologia deixa de relatar hacks após o fato.

Aqui está um grande fato adicional que fornece contexto extra em torno da ameaça potencial da IA ​​sombria.

Apenas 4,39% das empresas integraram ferramentas de IA totalmente em toda a sua organização

Isso representa apenas 1 em cada 25 empresas que possuem diretrizes firmes de IA, de acordo com dados do relatório de 2024 da Tech.co sobre o impacto da tecnologia no local de trabalho .

Em contraste, 44% dos entrevistados em outra pesquisa disseram que usaram IA em ambientes profissionais, bem como em ambientes pessoais. Essa pesquisa, que analisou especificamente empresas francesas, estimou que 28% dos funcionários usavam IA sem supervisão da empresa.

Em outras palavras, apesar do burburinho em torno das ferramentas generativas de texto e imagem nos últimos anos, as empresas têm demorado a criar regulamentações para IA.

Por que Shadow AI é perigoso

É um desafio identificar os perigos de uma prática que, por definição, não é monitorizada ou totalmente compreendida. Aqui estão as maiores áreas de preocupação.

Desinformação interna ou externa

Nosso relatório descobriu que 49% dos líderes seniores estão preocupados com o risco de modelos de IA em grandes linguagens gerarem informações falsas . Já vimos relatos de relatórios jurídicos defeituosos baseados em IA, bem como outros erros crassos , por isso é fácil imaginar o mesmo acontecendo com um relatório comercial interno ou um e-mail para um cliente importante.

Risco de segurança cibernética

A implantação de IA para fins de codificação é um caso de uso popular, mas se usado por uma equipe de suporte de TI, esse código pode conter bugs gerados por IA ou aberturas para hackers deslizarem uma bomba lógica de malware através de seus protocolos de segurança.

Dados expostos

Além disso, muitos usuários de IA não sabem que suas solicitações serão registradas pela empresa por trás de sua ferramenta gratuita de IA. Se dados privados da empresa forem usados ​​para uma solicitação, eles serão expostos. É por isso que você nunca deve compartilhar dados confidenciais da empresa com uma plataforma de IA, entre outras coisas .

Falhas de conformidade

Governos de todo o mundo estão implementando suas próprias restrições e diretrizes de IA. Sem um representante para monitorar a regulamentação federal ou estadual dentro de sua empresa, você não pode ter certeza de que os funcionários não estarão abrindo seu negócio para uma investigação de um órgão regulador no futuro.

Como sua empresa pode combater o uso da Shadow AI

Em última análise, a ameaça da IA ​​sombra é causada por políticas empresariais inexistentes ou limitadas em torno do uso da IA ​​no local de trabalho. Portanto, a resposta é relativamente simples: você precisará criar diretrizes que limitem o uso da IA ​​a tarefas específicas dentro de funções específicas .

E, com 50% das empresas dos EUA a dizer que estão atualmente a “atualizar as suas políticas internas para governar a utilização do ChatGPT e acabar com o Shadow GPT”, esta solução parece já estar a ser implementada, embora lentamente.

A opção mais segura é a proibição total do uso de IA: Apple, Amazon, Samsung e Goldman Sachs estão entre algumas empresas que proibiram pelo menos algumas versões de IA do uso ininterrupto. No entanto, isso também significa que você também não pode se beneficiar das ferramentas tecnológicas.

Provavelmente, você desejará incluir uma advertência sobre o uso futuro de IA em suas diretrizes: enquanto se aguarda a aprovação, os trabalhadores deverão ser capazes de expandir o uso de IA fora de suas diretrizes iniciais, uma vez que as ferramentas de IA continuarão evoluindo no futuro.

Melhores práticas para uso de IA na empresa

O uso de IA na sua empresa não precisa ser de todo ruim. O relatório de 2024 da Tech.co sobre tecnologia no local de trabalho descobriu que aqueles que usaram mais ferramentas de colaboração e IA relataram maior produtividade , enquanto impressionantes 59% dos usuários de IA têm maior satisfação no trabalho.

Aqui estão algumas dicas para aproveitar ao máximo a IA:

• Confira cursos de treinamento . Muitos materiais de treinamento em IA estão disponíveis gratuitamente online .
• Não tente substituir empregos . A IA ainda tem um longo caminho a percorrer antes de poder substituir totalmente um ser humano. Nosso relatório descobriu que 63% dos profissionais de liderança sênior cujas organizações usam IA para escrever tarefas afirmam que as ferramentas de IA não tiveram impacto na remoção de cargos.
• Limite a IA a bots e tarefas específicas . ChatGPT ou Claude 3 podem ser as melhores opções atualmente.
• Leia as instruções . Os melhores prompts obtêm os melhores resultados, por isso elaboramos um guia para sugerir como pensar sobre a redação de prompts.

ChatGPT foi a ferramenta de IA mais popular usada nas empresas em nossa pesquisa de 2024, mas outras podem funcionar tão bem ou melhor: um de nossos testes recentes descobriu que Claude 3 escreveu resultados de texto melhores e mais fáceis de analisar quando comparado com ChatGPT.

Finalmente, é importante lembrar que os bots geradores de texto ou imagem não são realmente “inteligentes” – você sempre vai querer um guia humano para verificar se há alucinações ou outras mentiras antes de carimbar qualquer coisa que uma IA tenha a oferecer.