Qu’est-ce que l’IA fantôme ? Dernière menace de sécurité pour l'informatique d'entreprise

L’essor de l’intelligence artificielle au cours des dernières années a bouleversé l’ensemble du secteur technologique, et celui de la cybersécurité des entreprises ne fait pas exception : ils sont soudainement confrontés à l’IA fantôme.

Le terme « Shadow AI » fait référence à toute utilisation non autorisée de l’IA au sein d’une organisation. Comme le service informatique n’en est pas informé, il n’a aucun moyen de suivre ou de contrôler l’utilisation de l’IA.

Cela laisse l’entreprise ouverte à une exploitation potentielle ou à d’autres problèmes. Voici pourquoi l’IA fantôme pourrait constituer un problème croissant et ce que votre entreprise peut faire pour y remédier.

Qu’est-ce que l’IA fantôme ?

Shadow AI décrit les employés qui utilisent l'IA pour les aider dans leurs tâches à l'insu ou sans le consentement de l'entreprise. Lorsque les employés n’expliquent pas cette utilisation à leur entreprise, celle-ci n’est pas consciente de l’utilisation de l’IA fantôme qui se déroule dans ses rangs. L'obtenir? Parce que l’utilisation de l’IA se fait… dans l’ombre.

Les tâches peuvent être accomplies plus rapidement, mais sans visibilité et sans directives concernant l’utilisation de l’IA, il est impossible de contrôler totalement les résultats. Et pour tout chef d’entreprise, ce manque de contrôle est un signal d’alarme pour le succès continu de l’entreprise.

De nombreuses preuves suggèrent que l’IA fantôme constitue déjà un gros problème dans de nombreux secteurs, même si elle n’a pas encore conduit à des défaillances de sécurité catastrophiques. Du moins, aucun dont nous ayons entendu parler : après tout, une minorité importante d'entreprises technologiques ne signalent pas les piratages après coup.

Voici un fait supplémentaire important qui donne un contexte supplémentaire autour de la menace potentielle de l’IA fantôme.

Seules 4,39 % des entreprises ont pleinement intégré les outils d'IA dans toute leur organisation.

Cela ne représente qu'une entreprise sur 25 qui a des directives fermes en matière d'IA, selon les données du rapport 2024 de Tech.co sur l' impact de la technologie sur le lieu de travail .

En revanche, 44 % des personnes interrogées dans le cadre d’une autre enquête ont déclaré utiliser l’IA dans un cadre professionnel ainsi que personnel. Cette enquête, qui portait spécifiquement sur les entreprises françaises, estimait que 28 % des salariés utilisaient l’IA sans la supervision de l’entreprise.

En d’autres termes, malgré le buzz autour des outils génératifs de texte et d’images au cours des dernières années, les entreprises ont mis du temps à élaborer des réglementations pour l’IA.

Pourquoi Shadow AI est dangereux

C'est un défi de cerner les dangers d'une pratique qui, par définition, n'est pas surveillée ou entièrement comprise. Voici les plus grands sujets de préoccupation.

Désinformation interne ou externe

Notre rapport révèle que 49 % des hauts dirigeants s'inquiètent du risque que des modèles d'IA en grand langage génèrent de fausses informations . Nous avons déjà vu des rapports faisant état de dossiers juridiques défectueux alimentés par l'IA, ainsi que d'autres erreurs , il est donc facile d'imaginer que la même chose se produise avec un rapport commercial interne ou un e-mail adressé à un client important.

Risque de cybersécurité

Le déploiement de l'IA à des fins de codage est un cas d'utilisation populaire, mais s'il est utilisé par une équipe de support informatique, ce code peut contenir des bogues générés par l'IA ou des ouvertures permettant aux pirates informatiques de glisser une bombe logique de malware au-delà de vos protocoles de sécurité.

Données exposées

De plus, de nombreux utilisateurs d’IA ignorent que leurs invites seront enregistrées par l’entreprise derrière leur outil d’IA gratuit. Si les données d’une entreprise privée sont utilisées pour une invite, elles seront exposées. C'est pourquoi vous ne devez jamais partager de données sensibles d'entreprise avec une plateforme d'IA, entre autres .

Échecs de conformité

Les gouvernements du monde entier mettent en place leurs propres restrictions et directives en matière d’IA. Sans un représentant pour suivre la réglementation fédérale ou étatique au sein de votre entreprise, vous ne pouvez pas être sûr que les employés n'exposeront pas votre entreprise à une enquête d'un organisme de surveillance réglementaire à l'avenir.

Comment votre entreprise peut lutter contre l’utilisation de l’IA fantôme

En fin de compte, la menace de l’IA fantôme est causée par des politiques commerciales inexistantes ou limitées concernant l’utilisation de l’IA sur le lieu de travail. La réponse est donc relativement simple : vous devrez créer des lignes directrices qui limitent l’utilisation de l’IA à des tâches spécifiques au sein de rôles spécifiques .

Et, avec 50 % des entreprises américaines déclarant qu'elles « mettent actuellement à jour leurs politiques internes pour régir l'utilisation de ChatGPT et mettre fin au Shadow GPT », cette solution semble déjà être déployée, quoique lentement.

L’option la plus sûre est une interdiction totale de l’utilisation de l’IA : Apple, Amazon, Samsung et Goldman Sachs font partie des quelques entreprises qui ont interdit l’utilisation continue d’au moins certaines versions de l’IA . Cependant, cela signifie également que vous ne pouvez pas non plus bénéficier des outils technologiques.

Vous souhaiterez probablement inclure une mise en garde concernant l'utilisation future de l'IA dans vos directives : en attendant l'approbation, les travailleurs devraient pouvoir étendre l'utilisation de l'IA en dehors de vos directives initiales, car les outils d'IA continueront d'évoluer à l'avenir.

Meilleures pratiques pour l’utilisation de l’IA en entreprise

L’utilisation de l’IA au sein de votre entreprise ne doit pas nécessairement être mauvaise. Le rapport 2024 de Tech.co sur la technologie sur le lieu de travail a révélé que ceux qui utilisaient davantage d'outils de collaboration et d'IA déclaraient une productivité plus élevée , tandis qu'un nombre impressionnant de 59 % des utilisateurs d'IA étaient plus satisfaits de leur travail.

Voici quelques conseils pour tirer le meilleur parti de l’IA :

• Consultez les formations . De nombreux supports de formation sur l'IA sont disponibles gratuitement en ligne .
• N'essayez pas de remplacer les emplois . L’IA a encore un long chemin à parcourir avant de pouvoir remplacer complètement l’être humain. Notre rapport révèle que 63 % des cadres supérieurs dont les organisations utilisent l'IA pour rédiger des tâches déclarent que les outils d'IA n'ont eu aucun impact sur la suppression de postes.
• Limitez l'IA à des robots et à des tâches spécifiques . ChatGPT ou Claude 3 peuvent être les meilleures options actuellement.
• Lisez les invites . Les meilleures invites donnent les meilleurs résultats, c'est pourquoi nous avons élaboré un guide pour suggérer comment réfléchir à la rédaction d'invites.

ChatGPT était l'outil d'IA le plus populaire utilisé au sein des entreprises dans notre enquête de 2024, mais d'autres peuvent fonctionner tout aussi bien, voire mieux : l'un de nos tests récents a révélé que Claude 3 écrivait des résultats de texte meilleurs et plus faciles à analyser par rapport à ChatGPT.

Enfin, il est important de se rappeler que les robots génératifs de texte ou d'images ne sont pas réellement « intelligents » : vous aurez toujours besoin d'un guide humain pour vérifier les hallucinations ou autres mensonges avant d'approuver tout ce qu'une IA a à offrir.