OWASP Top 10 para LLM

Resume este artículo con tu IA

Lista de los diez riesgos de seguridad más relevantes en aplicaciones que usan modelos de lenguaje, publicada por la fundación OWASP, la misma organización que mantiene el OWASP Top 10 de aplicaciones web.

Qué es

OWASP Top 10 para LLM es la lista de los diez riesgos de seguridad más relevantes en aplicaciones que usan modelos de lenguaje, publicada por la fundación OWASP, la misma organización que mantiene el OWASP Top 10 de aplicaciones web. Sirve como referencia común para desarrolladores, auditores y compradores a la hora de preguntar qué controles tiene un asistente o un agente de IA.

La versión 2025 recoge, entre otros, la inyección de prompts, la revelación de información sensible, los riesgos de la cadena de suministro de modelos y datos, el envenenamiento de datos, el manejo inseguro de las salidas del modelo, la autonomía excesiva de los agentes, la fuga del prompt de sistema, las debilidades de los sistemas de recuperación (RAG), la desinformación y el consumo descontrolado de recursos. Cada entrada describe el riesgo, ejemplos de ataque y medidas de prevención.

Se distingue del OWASP Top 10 clásico en que los riesgos nacen de la forma en que el modelo interpreta el lenguaje, y se complementa con marcos como ISO 42001 y el AI Act para la parte de gobierno.

Por qué importa en una empresa de 100 a 1.000 empleados

Cuando una empresa mediana contrata un asistente de IA para atención al cliente o para su intranet, el proveedor suele presentarlo como seguro por defecto. El cuestionario de tu cliente grande, en cambio, ya pregunta si tu aplicación ha sido evaluada frente al OWASP Top 10 para LLM. Tener la lista como guía te permite hacer las preguntas correctas al proveedor (¿qué permisos tiene el agente?, ¿cómo trata el contenido externo?, ¿qué registra?) y pedir evidencia. Y si desarrollas en casa, da a tu equipo diez puntos concretos que revisar antes de salir a producción, con un lenguaje que el auditor reconoce.

Cómo lo aborda Cylum

CyLens usa el OWASP Top 10 para LLM como marco en su análisis de uso de la IA: revisa cada asistente o agente desplegado frente a los diez riesgos, prueba inyecciones, revisa permisos y fuentes, y entrega un informe con hallazgos priorizados y el gap frente al AI Act e ISO 42001. Para las aplicaciones que desarrolla tu equipo, incluye análisis SAST y formación a desarrolladores en desarrollo seguro con IA. CyOps aplica después las medidas de protección y el SOC 24×7 vigila las cuentas de servicio de los asistentes. Tu Security Manager coordina las correcciones con tu proveedor o tu equipo, y en el Cylum Hub ves el estado de cada uno de los diez puntos.

Resumen de privacidad
cylum-dark

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.

Cookies estrictamente necesarias

Las cookies estrictamente necesarias tiene que activarse siempre para que podamos guardar tus preferencias de ajustes de cookies.

Cookies de terceros

Esta web utiliza Google Analytics para recopilar información anónima tal como el número de visitantes del sitio, o las páginas más populares.

Dejar esta cookie activa nos permite mejorar nuestra web.