Más de 200 páginas prácticas ya están marcando el camino en estándares como el ISO/IEC 27090 y el futuro reglamento europeo de IA

La comunidad global de ciberseguridad ha recibido con entusiasmo la consolidación de OWASP AI Exchange como el principal recurso abierto y colaborativo para la protección de sistemas basados en inteligencia artificial y datos. Este proyecto, que cuenta con más de 200 páginas de contenido técnico actualizado, se ha convertido en una piedra angular para gobiernos, empresas tecnológicas y expertos en ciberseguridad que buscan abordar los nuevos desafíos de la era de la IA.

La plataforma, mantenida por más de 70 expertos y editada de forma continua desde un repositorio abierto en GitHub, agrupa de forma coherente amenazas, controles, buenas prácticas y modelos de riesgo para todo tipo de sistemas de IA —incluidos los modelos generativos, discriminativos, analíticos y heurísticos—. OWASP AI Exchange ha sido distinguido como proyecto insignia de OWASP desde marzo de 2025, y su impacto es ya visible en el contenido técnico de estándares internacionales como el ISO/IEC 27090, el ISO/IEC 27091, y el propio AI Act de la Unión Europea, al que ha contribuido con más de 50 páginas.

Una guía técnica viva para un reto global

La misión del proyecto es clara: ofrecer un recurso neutral, seguro y accesible que ayude a proteger tanto a los sistemas de IA como a sus usuarios. A través de una estructura modular, los contenidos del AI Exchange abarcan desde la gobernanza y desarrollo seguro de modelos, hasta la protección contra amenazas en tiempo de ejecución como ataques de evasión, inyecciones en los prompts o filtración de datos sensibles.

Uno de sus elementos más valorados es la tabla periódica de amenazas y controles en IA, que permite navegar entre los distintos vectores de ataque y seleccionar las medidas de mitigación más adecuadas en función del riesgo, la arquitectura del sistema y las responsabilidades entre proveedores y usuarios.

Riesgos concretos, soluciones específicas

Entre los ataques más destacados en los entornos de IA se encuentran:

• Envenenamiento de datos y modelos durante el entrenamiento o fine-tuning.
• Inyecciones de prompt directas o indirectas en modelos generativos.
• Fugas de datos de entrenamiento o entrada por medio de ataques de inversión de modelo o inferencia de pertenencia.
• Robo del modelo durante su uso o almacenamiento, considerado un riesgo crítico para la propiedad intelectual.
• Manipulación del comportamiento del modelo con fines de sabotaje, desinformación o fraude.

Para cada una de estas amenazas, el OWASP AI Exchange ofrece controles específicos, desde técnicas como la validación de entradas y la minimización de datos, hasta métodos avanzados como el aprendizaje federado, distorsión adversarial de datos o validaciones continuas.

Un marco alineado con la regulación y la ética

El proyecto también se alinea con principios de IA responsable y confiable, abordando temas como la transparencia, la explicabilidad, la equidad (evitar sesgos discriminatorios) y la robustez ante entradas maliciosas. Asimismo, ofrece orientación para realizar análisis de riesgos según marcos como ISO 31000, y propone cómo asignar responsabilidades cuando los sistemas son desarrollados o alojados por terceros, incluyendo matrices de responsabilidad compartida.

Además, OWASP AI Exchange no esquiva uno de los debates más candentes: la interacción entre IA y derechos de autor. En sus secciones dedicadas a este tema, se analizan los riesgos legales derivados del entrenamiento con datos protegidos, el uso de obras generadas por IA, y la importancia de auditar la propiedad intelectual involucrada en todo el ciclo de vida de un sistema de IA.

Comparativa con otros proyectos

Frente al también relevante OWASP GenAI Security Project, centrado exclusivamente en IA generativa y en riesgos como los reflejados en el “LLM Top 10”, el AI Exchange destaca por su enfoque integral, su alineación directa con normativas internacionales y su orientación técnica en profundidad. Es un recurso único en su tipo por cubrir la totalidad del ciclo de vida de la IA, ofrecer una fuente única y estar en actualización continua.

Una iniciativa con nombre propio

El proyecto fue fundado en 2022 por Rob van der Veer, reconocido experto en seguridad de IA, miembro de los comités ISO/IEC y coeditor del reglamento europeo sobre IA. Bajo su liderazgo, el proyecto pasó de ser una guía técnica a convertirse en una referencia estructural que da soporte incluso a chatbots de seguridad como OpenCRE-Chat.

OWASP AI Exchange se puede consultar libremente en https://owaspai.org y se publica bajo licencia CC0 1.0, lo que significa que cualquier parte de su contenido puede ser reutilizada sin restricciones. Su crecimiento es el reflejo de una comunidad internacional comprometida con el desarrollo seguro de la inteligencia artificial. Un recurso imprescindible en una era donde los algoritmos ya no solo predicen, sino también deciden.

Referencia: owaspai.org