Gobierno de la IA
Resume este artículo con tu IA
Conjunto de políticas, roles, procesos y controles con los que una empresa decide qué usos de la inteligencia artificial permite, bajo qué condiciones, quién responde de cada sistema y cómo se verifica que cumple la ley y los valores de la organización.
Qué es
Gobierno de la IA (AI governance) es el conjunto de políticas, roles, procesos y controles con los que una empresa decide qué usos de la inteligencia artificial permite, bajo qué condiciones, quién responde de cada sistema y cómo se verifica que cumple la ley y los valores de la organización. Es a la IA lo que el SGSI es a la seguridad de la información.
Funciona sobre cuatro piezas. Un inventario de los sistemas de IA en uso, tanto los contratados como los desarrollados y los que la plantilla usa por su cuenta. Una política de uso que indica qué datos pueden entrar en cada herramienta y qué decisiones pueden delegarse. Un análisis de riesgos por sistema, que clasifica cada uso según el impacto en personas y negocio, como pide el AI Act. Y un comité o responsable que aprueba nuevos usos, revisa incidentes y rinde cuentas a dirección.
Se apoya en dos referencias: la norma ISO 42001, certificable, que describe un sistema de gestión de la IA, y el Reglamento Europeo de IA, que fija obligaciones según el nivel de riesgo de cada sistema.
Por qué importa en una empresa de 100 a 1.000 empleados
El director de una empresa de 400 personas recibe en el mismo mes tres peticiones: marketing quiere un generador de contenidos, RRHH quiere una herramienta que filtre currículos y atención al cliente quiere un asistente. Las tres tocan datos personales, la de RRHH entra en la categoría de alto riesgo del AI Act y las tres llegan huérfanas de responsable. Cuando existe un gobierno de la IA, cada petición pasa por el mismo circuito: inventario, clasificación de riesgo, condiciones de uso y aprobación. El negocio avanza con las tres y la empresa tiene respuesta para el cuestionario del cliente, la aseguradora y el delegado de protección de datos.
Cómo lo aborda Cylum
CyLens realiza el análisis de uso de la IA y Shadow AI, construye el inventario de sistemas, clasifica cada uno según el AI Act y mide el gap frente a ISO 42001 con un plan de adecuación priorizado. Tu Security Manager actúa como CISO de referencia en el comité de IA, propone la política de uso y evalúa a los proveedores de IA antes de contratarlos. CyOps aplica la protección frente a Shadow AI y la formación a la plantilla, y Cycomply mantiene las evidencias de cumplimiento. En el Cylum Hub ves el inventario de sistemas, el nivel de riesgo de cada uno, las políticas vigentes y el avance del plan.