Shadow AI: la IA que nadie autorizó y que ya puede acceder a tus datos
El auge del Shadow AI está creando nuevos riesgos sobre datos, identidades, proveedores y cumplimiento normativo.
La inteligencia artificial ha pasado en muy poco tiempo de utilizar en iniciativas controladas y proyectos piloto a formar parte de las herramientas de trabajo habituales de los empleados. Asistentes generativos, copilotos de programación, aplicaciones de productividad, herramientas de análisis o soluciones SaaS incorporan ya capacidades de IA que pueden ser utilizadas prácticamente sin barreras.
Esta rápida adopción tiene, sin embargo, una consecuencia desde el punto de vista de la ciberseguridad: las organizaciones pueden estar utilizando inteligencia artificial sin tener una visibilidad completa de dónde, cómo y con qué información se está utilizando.
Es lo que conocemos como Shadow AI, una evolución natural del tradicional Shadow IT que introduce nuevos riesgos relacionados con la protección de la información, la identidad, el cumplimiento normativo y el gobierno de la tecnología.
La cuestión ya no es si los empleados utilizan inteligencia artificial, sino cómo permitir su uso sin perder el control sobre la información corporativa.
¿Qué es el Shadow AI y por qué supone un riesgo?
El concepto no implica necesariamente un uso malicioso de la tecnología. En muchos casos ocurre precisamente lo contrario: un empleado encuentra una herramienta que le permite preparar documentación, analizar información, desarrollar código o automatizar una tarea con mayor rapidez.
El problema aparece cuando esa utilización se produce fuera de los mecanismos corporativos de evaluación, aprobación y supervisión.
A diferencia del Shadow IT, donde el riesgo podía controlarse con inventarios y políticas sobre aplicaciones, Shadow AI introduce un factor difícil de detectar: la manera en que los modelos procesan, relacionan y retienen la información.
La utilización de IA fuera de control corporativo puede convertir información legítimamente accesible por un empleado en información procesada por un tercero que la organización ni siquiera ha evaluado.
¿Cuáles son los principales riesgos del Shadow AI?
1) Fuga y sobreexposición de información
Uno de los escenarios más evidentes se produce cuando los empleados introducen información corporativa dentro de un prompt. Documentación interna, información financiera, datos personales, código fuente o información de clientes pueden acabar siendo procesados por servicios externos.
2) Pérdida de visibilidad y trazabilidad
Si el área de seguridad desconoce qué herramientas de IA utilizan los empleados, tampoco puede determinar qué proveedores procesan la información, qué datos se comparten o qué condiciones de retención y uso aplica cada servicio.
3) Riesgo sobre identidades y permisos
La llegada de los agentes de IA añade una nueva dimensión: ya no solo importa qué información puede consultar una IA, sino también qué acciones puede ejecutar utilizando los permisos que se le han concedido.
De Shadow IT a Shadow AI: ¿qué ha cambiado?
Una aplicación tradicional recibe y almacena información. Una herramienta de IA puede además analizarla, transformarla, relacionarla con otra información y utilizarla dentro de procesos automatizados. La evolución hacia agentes amplía aún más ese alcance.
¿Cómo controlar el Shadow AI?
Bloquear cualquier herramienta de inteligencia artificial puede parecer la solución más sencilla, pero difícilmente será sostenible. El objetivo debe ser diferente, conseguir visibilidad, establecer reglas de utilización y ofrecer alternativas corporativas que permitan adoptar IA de forma segura.
Shadow AI en un nuevo contexto regulatorio
La necesidad de gobernar la inteligencia artificial adquiere además una importancia especial en Europa. El AI ACT europeo refuerza la necesidad de inventario, trazabilidad y asignación de responsabilidades como parte de un modelo más amplio de gobierno de la IA.
Recomendaciones para las organizaciones
- Inventario actualizado de aplicaciones y servicios de IA.
- Política corporativa clara sobre la utilización de inteligencia artificial.
- Reglas específicas para el tratamiento de información sensible.
- Evaluación de proveedores y servicios externos.
- Controles sobre identidades, permisos e integraciones.
- Formación y concienciación de los empleados.
- Un modelo de gobierno con responsabilidades claramente asignadas.
El verdadero reto no consiste en impedir que la organización utilice inteligencia artificial, sino en conseguir que pueda hacerlo manteniendo el control sobre sus datos, sus identidades y sus procesos.
Brayan Carrión, Head of Cybersecurity GRC
