¿Qué es la IA en las sombras? La última amenaza a la seguridad de la TI empresarial

El auge de la inteligencia artificial en los últimos años ha sacudido a toda la industria tecnológica, y la industria de la ciberseguridad empresarial no es una excepción: de repente se enfrentan a la IA en la sombra.

El término "IA en la sombra" se refiere a cualquier uso no autorizado de IA dentro de una organización. Como el departamento de TI no lo sabe, no tienen forma de rastrear o controlar el uso de la IA.

Esto deja a la empresa abierta a una posible explotación u otros problemas. He aquí por qué la IA en la sombra podría ser un problema creciente y qué puede hacer su empresa al respecto.

¿Qué es la IA en las sombras?

Shadow AI describe a los empleados que utilizan IA para ayudarlos con tareas sin el conocimiento o consentimiento de la empresa. Cuando los empleados no explican este uso a su empresa, esa empresa desconoce el uso de la IA en la sombra que se produce dentro de sus filas. ¿Consíguelo? Porque el uso de la IA está ocurriendo... en las sombras.

Las tareas pueden realizarse más rápido, pero sin visibilidad y pautas sobre el uso de la IA, es imposible controlar completamente los resultados. Y para cualquier gerente de negocios, esa falta de control es una señal de alerta para el éxito continuo del negocio.

Hay mucha evidencia que sugiere que la IA en la sombra ya es un gran problema en muchas industrias, incluso si todavía no ha provocado fallas de seguridad catastróficas. Al menos, ninguno que hayamos oído hablar: después de todo, una minoría considerable de empresas de tecnología no informan los ataques después de los hechos.

Aquí hay un hecho adicional importante que brinda contexto adicional sobre la amenaza potencial de la IA en la sombra.

Sólo el 4,39% de las empresas tienen herramientas de IA totalmente integradas en toda su organización

Eso es solo 1 de cada 25 empresas que tienen directrices firmes sobre IA, según datos del informe de 2024 de Tech.co sobre el impacto de la tecnología en el lugar de trabajo .

Por el contrario, el 44% de los encuestados en otra encuesta dijeron que utilizaban IA tanto en entornos profesionales como personales. Esa encuesta, que analizó específicamente a las empresas francesas, estimó que el 28% de los empleados utilizaban IA sin la supervisión de la empresa.

En otras palabras, a pesar de los rumores que rodean a las herramientas generativas de texto e imágenes en los últimos años, las empresas han tardado en elaborar regulaciones para la IA.

Por qué la IA en las sombras es peligrosa

Es un desafío precisar los peligros de una práctica que, por definición, no se monitorea ni se comprende completamente. Estas son las mayores áreas de preocupación.

Desinformación interna o externa

Nuestro informe encontró que el 49% de los altos directivos están preocupados por el riesgo de que los modelos de IA en lenguajes grandes generen información falsa . Ya hemos visto informes de informes legales defectuosos basados ​​en IA, así como otros errores garrafales , por lo que es fácil imaginar que suceda lo mismo con un informe comercial interno o un correo electrónico enviado a un cliente importante.

Riesgo de ciberseguridad

La implementación de IA con fines de codificación es un caso de uso popular, pero si lo utiliza un equipo de soporte de TI, ese código puede contener errores generados por IA o oportunidades para que los piratas informáticos introduzcan una bomba lógica de malware más allá de sus protocolos de seguridad.

Datos expuestos

Además, muchos usuarios de IA no saben que la empresa detrás de su herramienta de IA gratuita registrará sus indicaciones. Si se utilizan datos de una empresa privada para un mensaje, quedarán expuestos. Es por eso que nunca debes compartir datos confidenciales de la empresa con una plataforma de inteligencia artificial, entre otras cosas .

Fallos de cumplimiento

Los gobiernos de todo el mundo están implementando sus propias restricciones y directrices sobre la IA. Sin un representante que realice un seguimiento de las regulaciones federales o estatales dentro de su empresa, no puede estar seguro de que los empleados no expongan su negocio a una investigación por parte de un organismo de control regulatorio en el futuro.

Cómo su empresa puede combatir el uso de la IA en la sombra

En última instancia, la amenaza de la IA en la sombra es causada por políticas comerciales limitadas o inexistentes en torno al uso de la IA en el lugar de trabajo. Entonces, la respuesta es relativamente simple: necesitarás crear pautas que limiten el uso de la IA a tareas específicas dentro de roles específicos .

Y, dado que el 50% de las empresas estadounidenses dicen que actualmente están “actualizando sus políticas internas para regular el uso de ChatGPT y poner fin a Shadow GPT”, esta solución parece estar ya implementándose, aunque lentamente.

La opción más segura es una prohibición total del uso de la IA: Apple, Amazon, Samsung y Goldman Sachs se encuentran entre las pocas empresas que han prohibido el uso de al menos algunas versiones de la IA durante las horas de trabajo. Sin embargo, esto también significa que tampoco podrás beneficiarte de las herramientas tecnológicas.

Es probable que desee incluir una advertencia sobre el uso futuro de la IA dentro de sus pautas: a la espera de la aprobación, los trabajadores deberían poder ampliar el uso de la IA fuera de sus pautas iniciales, ya que las herramientas de IA seguirán evolucionando en el futuro.

Mejores prácticas para el uso de la IA en la empresa

El uso de la IA dentro de su empresa no tiene por qué ser del todo malo. El informe de Tech.co de 2024 sobre tecnología en el lugar de trabajo encontró que aquellos que utilizaron más herramientas de colaboración e IA informaron una mayor productividad , mientras que un impresionante 59% de los usuarios de IA tienen una mayor satisfacción laboral.

A continuación se ofrecen algunos consejos para aprovechar al máximo la IA:

• Consulta cursos de formación . Muchos materiales de formación sobre IA están disponibles de forma gratuita en línea .
• No intentes reemplazar puestos de trabajo . La IA tiene un largo camino por recorrer antes de que pueda reemplazar completamente al ser humano. Nuestro informe encontró que el 63% de los profesionales de liderazgo senior cuyas organizaciones utilizan IA para tareas de redacción afirman que las herramientas de IA no han tenido ningún impacto en la eliminación de puestos de trabajo.
• Limite la IA a bots específicos y tareas específicas . ChatGPT o Claude 3 pueden ser las mejores opciones actualmente.
• Lea las indicaciones . Las mejores indicaciones obtienen los mejores resultados, por lo que elaboramos una guía para sugerir cómo pensar en la escritura de indicaciones.

ChatGPT fue la herramienta de inteligencia artificial más popular utilizada en las empresas en nuestra encuesta de 2024, pero otras pueden funcionar igual de bien o mejor: una de nuestras pruebas recientes encontró que Claude 3 escribió resultados de texto mejores y más fáciles de analizar en comparación con ChatGPT.

Finalmente, es importante recordar que los robots generativos de texto o imágenes no son en realidad "inteligentes": siempre querrás un guía humano para verificar si hay alucinaciones u otras mentiras antes de aprobar cualquier cosa que una IA tenga para ofrecer.