Shadow AI

Resume este artículo con tu IA

Uso de herramientas de inteligencia artificial generativa (ChatGPT, Copilot, Gemini, Claude, traductores, generadores de imágenes, asistentes integrados en extensiones del navegador) por parte de los empleados fuera del control y del conocimiento del departamento de IT.

Qué es

Shadow AI es el uso de herramientas de inteligencia artificial generativa (ChatGPT, Copilot, Gemini, Claude, traductores, generadores de imágenes, asistentes integrados en extensiones del navegador) por parte de los empleados fuera del control y del conocimiento del departamento de IT. Es la versión actual del Shadow IT, con una diferencia: aquí lo que sale de la empresa es información, pegada en un cuadro de texto.

Funciona de forma espontánea. Alguien de finanzas pega un extracto para que la IA lo resuma. Un desarrollador pega código con credenciales para que se lo depure. Un comercial sube un contrato para que le haga una tabla de hitos. Cada uno lo hace para trabajar mejor, con cuentas personales gratuitas cuyas condiciones de uso permiten al proveedor conservar los datos y usarlos para entrenar modelos.

Se distingue del uso corporativo de la IA en tres aspectos: identidad (cuenta personal frente a cuenta de empresa), contrato (condiciones de consumidor frente a acuerdo de tratamiento de datos) y visibilidad (lo enviado queda fuera de cualquier registro).

Por qué importa en una empresa de 100 a 1.000 empleados

En una empresa de 300 personas es habitual descubrir, al revisar el tráfico del proxy, más de 40 servicios de IA distintos en uso. El problema aparece cuando un cliente pregunta en su cuestionario qué política tienes sobre IA generativa y qué controles aplicas, o cuando el delegado de protección de datos descubre que datos personales de empleados han salido a un servicio de un tercero fuera de la Unión Europea. Cuando la empresa ofrece una herramienta aprobada, publica una política de uso y mide lo que entra y sale, la gente sigue ganando productividad y la información sensible permanece bajo contrato.

Cómo lo aborda Cylum

CyLens realiza un análisis de uso de la IA y Shadow AI: descubre qué servicios usa la plantilla, con qué cuentas y qué tipo de información envía, y lo compara con el AI Act y con ISO 42001 para identificar el gap. CyOps aplica la protección frente a Shadow AI: filtrado y clasificación de los servicios de IA en el proxy, reglas de DLP para datos sensibles pegados en navegadores, cuentas corporativas con contrato de tratamiento y formación específica a la plantilla. Tu Security Manager te entrega el inventario, la política de uso de IA propuesta y el plan de adopción, y en el Cylum Hub ves qué servicios están permitidos, cuáles en revisión y los intentos de envío de datos clasificados.

Resumen de privacidad
cylum-dark

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.

Cookies estrictamente necesarias

Las cookies estrictamente necesarias tiene que activarse siempre para que podamos guardar tus preferencias de ajustes de cookies.

Cookies de terceros

Esta web utiliza Google Analytics para recopilar información anónima tal como el número de visitantes del sitio, o las páginas más populares.

Dejar esta cookie activa nos permite mejorar nuestra web.