Fuga de datos vía IA generativa

Resume este artículo con tu IA

Salida de información confidencial de la empresa a través de herramientas de inteligencia artificial, ya sea porque un empleado la pega en un chat, porque un asistente la incluye en una respuesta a quien tiene prohibido verla o porque el proveedor del modelo la conserva y la reutiliza.

Qué es

Fuga de datos vía IA generativa es la salida de información confidencial de la empresa a través de herramientas de inteligencia artificial, ya sea porque un empleado la pega en un chat, porque un asistente la incluye en una respuesta a quien tiene prohibido verla o porque el proveedor del modelo la conserva y la reutiliza. Es la consecuencia más frecuente del Shadow AI.

Funciona por tres vías. La primera es la entrada: alguien sube un contrato, una nómina, un listado de clientes o un fragmento de código con claves a un servicio con cuenta personal, y esa información pasa a los servidores del proveedor bajo unas condiciones de consumidor. La segunda es la salida: un asistente corporativo conectado al SharePoint responde a un empleado de almacén con datos de un documento de dirección, porque los permisos de la fuente estaban mal definidos. La tercera es la memoria: el modelo entrenado o ajustado con datos internos los repite ante una pregunta hábil.

Se distingue de una brecha clásica en que suele ser involuntaria y en que la información sale por un canal que la empresa percibe como productivo.

Por qué importa en una empresa de 100 a 1.000 empleados

Un responsable de RRHH de una empresa de 250 personas pega en un chat gratuito la tabla salarial completa para que le calcule la subida del convenio. Un desarrollador pega el fichero de configuración con la clave de la base de datos de producción para que le explique un error. Los dos creen que están trabajando, y en realidad están exportando datos. Cuando la empresa facilita una herramienta de IA con contrato de tratamiento, clasifica la información y aplica DLP sobre lo que se pega en el navegador, la misma productividad se consigue con la información bajo control, y el delegado de protección de datos tiene respuesta cuando la AEPD o un cliente preguntan.

Cómo lo aborda Cylum

CyLens analiza el uso de la IA y el Shadow AI en tu empresa: qué servicios, qué cuentas y qué tipo de datos salen, con un gap frente al AI Act, ISO 42001 y el RGPD. CyOps aplica la protección frente a Shadow AI con filtrado de servicios en el proxy, reglas de DLP para datos clasificados en formularios y chats, revisión de permisos de las fuentes conectadas a asistentes corporativos y formación específica a la plantilla. El SOC 24×7 recibe las alertas de DLP y las trata dentro del SLA. Tu Security Manager te entrega el inventario, la política de uso y el plan de adopción segura, y en el Cylum Hub ves los intentos de envío de datos clasificados y su resolución.

Resumen de privacidad
cylum-dark

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.

Cookies estrictamente necesarias

Las cookies estrictamente necesarias tiene que activarse siempre para que podamos guardar tus preferencias de ajustes de cookies.

Cookies de terceros

Esta web utiliza Google Analytics para recopilar información anónima tal como el número de visitantes del sitio, o las páginas más populares.

Dejar esta cookie activa nos permite mejorar nuestra web.