OWASP Top 10 para LLM
Resume este artículo con tu IA
Lista de los diez riesgos de seguridad más relevantes en aplicaciones que usan modelos de lenguaje, publicada por la fundación OWASP, la misma organización que mantiene el OWASP Top 10 de aplicaciones web.
Qué es
OWASP Top 10 para LLM es la lista de los diez riesgos de seguridad más relevantes en aplicaciones que usan modelos de lenguaje, publicada por la fundación OWASP, la misma organización que mantiene el OWASP Top 10 de aplicaciones web. Sirve como referencia común para desarrolladores, auditores y compradores a la hora de preguntar qué controles tiene un asistente o un agente de IA.
La versión 2025 recoge, entre otros, la inyección de prompts, la revelación de información sensible, los riesgos de la cadena de suministro de modelos y datos, el envenenamiento de datos, el manejo inseguro de las salidas del modelo, la autonomía excesiva de los agentes, la fuga del prompt de sistema, las debilidades de los sistemas de recuperación (RAG), la desinformación y el consumo descontrolado de recursos. Cada entrada describe el riesgo, ejemplos de ataque y medidas de prevención.
Se distingue del OWASP Top 10 clásico en que los riesgos nacen de la forma en que el modelo interpreta el lenguaje, y se complementa con marcos como ISO 42001 y el AI Act para la parte de gobierno.
Por qué importa en una empresa de 100 a 1.000 empleados
Cuando una empresa mediana contrata un asistente de IA para atención al cliente o para su intranet, el proveedor suele presentarlo como seguro por defecto. El cuestionario de tu cliente grande, en cambio, ya pregunta si tu aplicación ha sido evaluada frente al OWASP Top 10 para LLM. Tener la lista como guía te permite hacer las preguntas correctas al proveedor (¿qué permisos tiene el agente?, ¿cómo trata el contenido externo?, ¿qué registra?) y pedir evidencia. Y si desarrollas en casa, da a tu equipo diez puntos concretos que revisar antes de salir a producción, con un lenguaje que el auditor reconoce.
Cómo lo aborda Cylum
CyLens usa el OWASP Top 10 para LLM como marco en su análisis de uso de la IA: revisa cada asistente o agente desplegado frente a los diez riesgos, prueba inyecciones, revisa permisos y fuentes, y entrega un informe con hallazgos priorizados y el gap frente al AI Act e ISO 42001. Para las aplicaciones que desarrolla tu equipo, incluye análisis SAST y formación a desarrolladores en desarrollo seguro con IA. CyOps aplica después las medidas de protección y el SOC 24×7 vigila las cuentas de servicio de los asistentes. Tu Security Manager coordina las correcciones con tu proveedor o tu equipo, y en el Cylum Hub ves el estado de cada uno de los diez puntos.