Saltar al contenido

Plantilla de plan de red team de IA (Reglamento de IA arts. 15 y 55)

Plantilla11 de noviembre de 2026· 7 min de lectura

Plantilla de plan de red team para la solidez y ciberseguridad del art. 15 y el deber de pruebas adversarias del art. 55 para modelos GPAI con riesgo sistémico.

El red teaming es la práctica de atacar tu propio sistema antes de que lo haga otro. No es un término legal en el Reglamento de IA, Reglamento (UE) 2024/1689 —pero un programa estructurado de pruebas adversarias es cómo un proveedor genera pruebas para dos deberes reales—. Para cualquier sistema de alto riesgo, alimenta el artículo 15, que exige un nivel adecuado de solidez y ciberseguridad, incluida la resiliencia frente a intentos de alterar el uso o el rendimiento explotando vulnerabilidades. Para los proveedores de modelos de IA de uso general con riesgo sistémico, el artículo 55 va más allá: convierte las pruebas adversarias en una obligación con nombre. Esta plantilla cubre ambos, porque la disciplina es la misma aunque el gancho jurídico difiera.

Un plan de red team responde por escrito a cuatro preguntas: qué estás atacando (alcance), cómo lo atacarás (escenarios), qué de grave es cada hallazgo (gravedad) y qué harás al respecto (subsanación). Sin esas cuatro, «lo sometimos a red team» es una afirmación, no una prueba.


Dos ganchos jurídicos, una disciplina

Importa a qué deber sirve tu red teaming, porque las obligaciones y los actores difieren:

Sistema de IA de alto riesgoModelo GPAI de riesgo sistémico
Gancho jurídicoArtículo 15 solidez y ciberseguridadArtículo 55 (incl. pruebas adversarias)
QuiénProveedor del sistema de alto riesgoProveedor de un modelo GPAI que alcanza el umbral de riesgo sistémico del artículo 51
Qué prueba el red teamingResiliencia a manipulación, errores, ataquesEvaluación del modelo, evaluación y mitigación del riesgo sistémico
Estado (octubre de 2026)Requisitos de alto riesgo atados a la fecha del alto riesgo (2 dic 2027, anexo III)En vigor — obligaciones de GPAI aplicadas desde el 2 ago 2025

El contraste de fechas es importante. El deber del artículo 15 de alto riesgo está atado a la fecha de aplicación del alto riesgo —el 2 de diciembre de 2027 para los sistemas del anexo III y el 2 de agosto de 2028 para los integrados en productos del anexo I, fechas fijadas por el Ómnibus Digital, Reglamento (UE) 2026/1744 (publicado en el Diario Oficial el 24 de julio de 2026, en vigor desde el 27 de julio de 2026)—. Las obligaciones de GPAI sistémico del artículo 55, en cambio, ya están en aplicación (el capítulo V se aplica desde el 2 de agosto de 2025 y no se aplazó). Si provees un modelo de riesgo sistémico, el deber de pruebas adversarias está vivo ahora.


Solidez y ciberseguridad del artículo 15 — qué atacar

Para un sistema de alto riesgo, el artículo 15 exige resiliencia a errores, fallos e incoherencias, y a intentos de terceros de explotar vulnerabilidades y alterar el uso, el comportamiento o el rendimiento del sistema. El red teaming mapea directamente con eso. Cubre como mínimo:

  • Entradas adversarias — entradas diseñadas para forzar una salida errónea o insegura.
  • Envenenamiento de datos — corromper los datos de entrenamiento o de ajuste fino para sesgar el modelo.
  • Extracción / inversión de modelo — robar el modelo o reconstruir los datos de entrenamiento.
  • Inyección de indicaciones y jailbreaks — para componentes generativos, eludir las restricciones previstas.
  • Solidez ante ruido y casos límite — entrada degradada, malformada o fuera de distribución.
  • Manipulación de bucles de retroalimentación — manipular un sistema cuyas salidas influyen en sus futuras entradas.

Cada escenario recibe un método documentado, un resultado y una gravedad —y los hallazgos retroalimentan el sistema de gestión de riesgos del artículo 9 y la documentación técnica del anexo IV—.


Artículo 55 — pruebas adversarias para GPAI de riesgo sistémico

Un modelo GPAI cruza al territorio de riesgo sistémico conforme al artículo 51 (el umbral usa, entre otras cosas, una presunción de cómputo de entrenamiento de 10²⁵ FLOP). Para esos modelos, el artículo 55 añade deberes extra: realizar la evaluación del modelo incluidas las pruebas adversarias para identificar y mitigar los riesgos sistémicos, evaluar y mitigar los posibles riesgos sistémicos a escala de la Unión, hacer seguimiento de los incidentes graves y notificarlos, y garantizar un nivel adecuado de protección de ciberseguridad. El red teaming es el mecanismo con nombre para la parte de evaluación y mitigación. Los deberes del artículo 55 vinculan a los proveedores de modelos GPAI —una población distinta y mucho más reducida que la de los proveedores de sistemas de alto riesgo— y las multas a los proveedores de modelos GPAI corren conforme al artículo 101 (impuestas por la Comisión, 15 M€/3 %), no por el sistema del artículo 99 usado para los sistemas de IA.

Una nota práctica: la mayoría de las empresas que leen esto no son proveedores de GPAI sistémico. Si ajustas o despliegas el modelo de otro, casi con seguridad eres un responsable del despliegue o un proveedor intermedio, no el proveedor del modelo —tu red teaming sirve al artículo 15 sobre tu propio sistema de alto riesgo, no al artículo 55—.


La plantilla — secciones que captar

1. Objetivo y meta — el sistema o modelo sometido a prueba; si la meta es la prueba de solidez/ciberseguridad del artículo 15 o la evaluación de riesgo sistémico del artículo 55; los activos que proteges.

2. Alcance y reglas de enfrentamiento — qué está dentro y fuera del alcance; entornos; manejo de datos; quién está autorizado; el límite de no perturbación para cualquier prueba en sistema en vivo.

3. Modelo de amenaza y escenarios — los perfiles de atacante y los escenarios concretos (entradas adversarias, envenenamiento, extracción, jailbreaks, ruido/casos límite); el método de cada uno.

4. Escala de gravedad — una escala definida (p. ej., crítica / alta / media / baja) ligada al impacto en la seguridad, los derechos fundamentales, la seguridad informática y el cumplimiento continuo; los criterios de cada banda.

5. Registro de hallazgos — cada hallazgo: escenario, reproducción, gravedad, componente afectado, prueba.

6. Subsanación — la corrección o mitigación por hallazgo; responsable; fecha límite; riesgo residual tras la corrección; el vínculo con el registro de gestión de riesgos del artículo 9 y la documentación del anexo IV.

7. Reprueba y cadencia — verificación de que las correcciones se sostienen; el desencadenante para reejecutar (reentrenamiento del modelo, nueva capacidad, versión mayor); línea de reporte.

8. Vínculo con incidentes — cuando un hallazgo indica un incidente grave materializado, la vía hacia el artículo 73 (sistemas de alto riesgo) o el deber de seguimiento de incidentes del artículo 55 (GPAI sistémico).


Ejemplo resuelto: el modelo de clasificación de documentos de un proveedor SaaS

Aktenklar GmbH, un proveedor con unos 60 empleados y unos 11 millones de euros de facturación, comercializa un sistema de IA de alto riesgo que clasifica y encamina documentos de casos para la elegibilidad de asistencia jurídica gratuita (anexo III, acceso a servicios esenciales). No es un proveedor de modelos GPAI, así que su plan de red team se dirige al artículo 15, no al artículo 55. El plan delimita tres escenarios: entradas adversarias diseñadas para forzar una clase de elegibilidad errónea, inyección de indicaciones contra la función de resumen generativo, y solidez ante documentos escaneados de baja calidad. Cada hallazgo recibe una gravedad en la escala de cuatro bandas de Aktenklar; un jailbreak crítico que expuso los datos de otro solicitante se corrige, se reprueba y se registra en la documentación del anexo IV y en el registro de riesgos del artículo 9. Como el jailbreak expuso brevemente datos personales, Aktenklar lo evalúa contra el umbral de incidente grave y prepara una notificación del artículo 73. El plan de red team es el documento que convierte «lo probamos» en un registro de cumplimiento fechado y reproducible.


Cómo ayuda Confir

La evaluación de datos y solidez técnica de Confir registra el alcance del red team, los escenarios, los hallazgos de gravedad y la subsanación como pruebas estructuradas, y vincula cada hallazgo con el requisito de solidez/ciberseguridad del artículo 15, el registro de gestión de riesgos del artículo 9 y la documentación del anexo IV. Cuando un hallazgo cumple el umbral de incidente grave, saca a la luz la vía del artículo 73. También ayuda a un proveedor a confirmar, por uso y rol, si debe el deber de alto riesgo del artículo 15 o el deber de GPAI sistémico del artículo 55. El motor es determinista y basado en reglas.


Guías relacionadas

Gestiona el cumplimiento de la Ley de IA en un solo lugar

Confir automatiza la clasificación de riesgos, la documentación técnica y los registros de auditoría para tu empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.

Prueba gratis 14 días →