Agentes de IA y permisos

Resume este artículo con tu IA

Agentes de IA y permisos se refiere a la gestión de qué puede hacer un agente de inteligencia artificial dentro de la empresa: a qué sistemas accede, con qué identidad, qué acciones ejecuta por su cuenta y cuáles requieren la aprobación de una persona.

Qué es

Agentes de IA y permisos se refiere a la gestión de qué puede hacer un agente de inteligencia artificial dentro de la empresa: a qué sistemas accede, con qué identidad, qué acciones ejecuta por su cuenta y cuáles requieren la aprobación de una persona. Un agente es un modelo de lenguaje con herramientas conectadas (correo, calendario, CRM, ERP, repositorio de código, navegador) que planifica y ejecuta tareas de varios pasos.

Funciona como cualquier identidad de máquina, con una diferencia: el agente decide en tiempo real qué herramienta usar a partir de un texto, y ese texto puede venir de un atacante. Por eso los permisos deben seguir el principio de mínimo privilegio: una identidad propia por agente, acceso solo a los datos y acciones que necesita su tarea, acciones con impacto (enviar, pagar, borrar, cambiar permisos) sujetas a confirmación humana y un registro completo de cada llamada que hace.

Se distingue de una cuenta de servicio tradicional en que su comportamiento es menos predecible, y por eso el OWASP Top 10 para LLM dedica una entrada a la autonomía excesiva.

Por qué importa en una empresa de 100 a 1.000 empleados

Un proveedor de software instala en tu empresa un agente que gestiona las facturas de proveedores: lee el correo, extrae los datos, los introduce en el ERP y prepara el pago. Para que funcione rápido, se le da una cuenta de administrador del ERP y acceso a todo el buzón. Un correo con una instrucción oculta le pide cambiar el IBAN de un proveedor. Cuando el agente tiene su propia identidad con permisos limitados, cualquier cambio de datos bancarios pasa por una persona y cada acción queda registrada, el mismo correo produce una alerta y el pago llega a la cuenta correcta.

Cómo lo aborda Cylum

CyLens revisa en su análisis de uso de la IA cada agente desplegado: qué identidad usa, qué permisos tiene, qué acciones ejecuta de forma autónoma y qué registra, y lo contrasta con el AI Act, ISO 42001 y OWASP Top 10 para LLM. CyOps aplica la protección de identidades a los agentes como identidades de máquina: cuentas dedicadas, mínimo privilegio, gestión de secretos y revisión periódica de accesos. El SOC 24×7 vigila el comportamiento de esas cuentas y detecta acciones fuera de patrón. Tu Security Manager valida contigo qué acciones requieren aprobación humana, y en el Cylum Hub ves el inventario de agentes, sus permisos y las alertas asociadas.

Resumen de privacidad
cylum-dark

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.

Cookies estrictamente necesarias

Las cookies estrictamente necesarias tiene que activarse siempre para que podamos guardar tus preferencias de ajustes de cookies.

Cookies de terceros

Esta web utiliza Google Analytics para recopilar información anónima tal como el número de visitantes del sitio, o las páginas más populares.

Dejar esta cookie activa nos permite mejorar nuestra web.