El riesgo sistémico en la Ley de IA de la UE: definición, designación y obligaciones

El riesgo sistémico es un concepto jurídico diferenciado del Reglamento (UE) 2024/1689 que se aplica exclusivamente a los modelos de IA de uso general (GPAI), no a los sistemas de alto riesgo enumerados en el Anexo III, ni a los sistemas de IA ordinarios desplegados en entornos empresariales. Si usted construye o despliega un modelo de GPAI por encima de cierto umbral de capacidad, el riesgo sistémico es la categoría que activa las obligaciones más gravosas que la Ley impone a cualquier actor de la cadena de la IA de uso general.

Comprender el término importa porque se confunde a menudo con el «alto riesgo». Ambos conceptos se sitúan en partes diferentes de la Ley, se aplican a sujetos diferentes y conllevan conjuntos de obligaciones diferentes. Acertar con esa distinción es el punto de partida.

La definición de la Ley de IA de la UE (artículo 3, punto 65)

El Artículo 3 del Reglamento (UE) 2024/1689 define el riesgo sistémico en su punto 65 como:

«un riesgo específico de las capacidades de gran impacto de los modelos de IA de uso general, que tiene repercusiones considerables en el mercado de la Unión debido a su alcance o debido a los efectos negativos reales o razonablemente previsibles en la salud pública, la seguridad, la seguridad pública, los derechos fundamentales o la sociedad en su conjunto, que puede propagarse a gran escala a lo largo de toda la cadena de valor.»

En esta definición van incorporados tres elementos. Primero, el riesgo debe ser específico de las capacidades de gran impacto: no todo modelo de GPAI conlleva riesgo sistémico, solo aquellos cuyas capacidades superan un umbral de capacidad. Segundo, la repercusión debe ser considerable a escala de la Unión, ya sea por el alcance del modelo (volumen de despliegue, número de aplicaciones posteriores) o por la naturaleza del perjuicio (salud pública, seguridad, seguridad pública, derechos fundamentales, perjuicio social). Tercero, la propagación a lo largo de la cadena de valor es la dinámica distintiva: un modelo de GPAI se sitúa aguas arriba de muchas aplicaciones, de modo que un fallo, un uso indebido o una avería a nivel de modelo puede propagarse en cascada por todos los responsables del despliegue posteriores que se basen en él.

El riesgo sistémico no tiene que ver, por tanto, con un único resultado dañino de un único uso. Tiene que ver con un perjuicio estructural y a gran escala posibilitado por la posición y las capacidades del propio modelo.

Cómo se designa un modelo como de riesgo sistémico (Artículo 51)

El capítulo V de la Ley (Artículos 51 a 56) regula los modelos de GPAI. El Artículo 51 establece el mecanismo de designación del riesgo sistémico. Existen tres vías.

La presunción de 10²⁵ FLOP. Se presume que un modelo de GPAI tiene riesgo sistémico si la cantidad acumulada de computación utilizada para entrenarlo supera las 10²⁵ operaciones de coma flotante (FLOP). Es un umbral rígido: una vez superado, se presume que el proveedor tiene un modelo de riesgo sistémico sin necesidad de una decisión de la Comisión. La Ley no exige que se haya producido un perjuicio: el nivel de computación por sí solo activa la presunción. Los proveedores pueden refutar la presunción, pero la carga recae en ellos a través del procedimiento del Artículo 52.

Decisión de la Comisión. Incluso por debajo del umbral de 10²⁵ FLOP, la Comisión Europea puede designar un modelo de GPAI como de riesgo sistémico sobre la base de sus capacidades. La Comisión tiene en cuenta criterios como el número de usuarios, el número de proveedores posteriores, las capacidades del modelo en todas las modalidades o su integración en sistemas críticos. Esta vía discrecional garantiza que los saltos de capacidad —incluidos los modelos que alcanzan capacidades de gran impacto mediante la eficiencia arquitectónica en lugar de la computación bruta— no escapen al régimen simplemente porque la computación de entrenamiento se haya quedado por debajo del umbral.

Alerta cualificada del grupo científico del Artículo 90. Un grupo científico de expertos independientes, establecido con arreglo al Artículo 68, puede emitir una alerta cualificada a la Comisión con arreglo al Artículo 90 cuando tenga motivos para creer que un modelo de GPAI plantea un riesgo sistémico. Una alerta cualificada no es en sí una designación, pero desencadena una revisión por parte de la Comisión que puede dar lugar a una designación con arreglo al Artículo 51. Esta vía da a los expertos técnicos un cauce formal para señalar modelos que el umbral de computación por sí solo no detectaría, incluidos los modelos que se someten a ajuste fino, destilación o ampliación de capacidades tras su publicación inicial.

Las tres vías desembocan en el mismo procedimiento de notificación del Artículo 52, mediante el cual la Comisión informa al proveedor y le da la oportunidad de responder antes de que se emita una designación formal.

Obligaciones adicionales para los modelos de GPAI de riesgo sistémico (Artículo 55)

Los proveedores de modelos de GPAI con riesgo sistémico tienen todas las obligaciones de base aplicables a todos los proveedores de GPAI con arreglo al Artículo 53 —que incluyen mantener la documentación técnica, facilitar información a los proveedores posteriores, aplicar una política de derechos de autor y publicar un resumen de los datos de entrenamiento—. El Artículo 55 añade después cuatro obligaciones más.

Evaluación del modelo. Los proveedores deben realizar evaluaciones de su modelo de riesgo sistémico con arreglo a protocolos normalizados. Esto incluye evaluaciones de capacidad diseñadas para determinar si el modelo puede generar contenido dañino, posibilitar un uso indebido o reorientarse de formas no previstas. La evaluación no es una barrera única: la obligación es continua y debe repetirse cuando el modelo se actualiza de forma significativa.

Pruebas adversarias. El Artículo 55 exige específicamente pruebas adversarias —comúnmente denominadas red-teaming (pruebas de confrontación)— para descubrir capacidades que la evaluación estándar podría pasar por alto. El red-teaming debe llevarse a cabo por expertos independientes, ya sean internos o externos. Es una obligación legal, no una recomendación de buenas prácticas. Es también uno de los anclajes legales más claros del red-teaming como actividad de cumplimiento, en lugar de un ejercicio de seguridad opcional.

Notificación de incidentes graves a la Oficina de IA. Los proveedores de modelos de riesgo sistémico deben notificar los incidentes graves —incluidos los casos de uso indebido por terceros, las vulneraciones de seguridad o los resultados que causan o estuvieron a punto de causar un perjuicio significativo— a la Oficina de IA. La Oficina de IA es el organismo de la Comisión con la responsabilidad principal de supervisión de los modelos de GPAI; no es una autoridad de un Estado miembro. Esto distingue la notificación de incidentes de GPAI (Oficina de IA, Artículo 55) de la notificación de incidentes de los sistemas de IA de alto riesgo (autoridades de vigilancia del mercado de los Estados miembros, Artículo 73).

Ciberseguridad. Los proveedores de GPAI de riesgo sistémico deben garantizar una ciberseguridad adecuada para el modelo y su infraestructura física. Dado que un modelo comprometido afecta a todas las aplicaciones posteriores que se basan en él, la Ley trata la ciberseguridad a nivel de modelo como una cuestión de interés para toda la Unión, en lugar de un asunto que se deje a los responsables del despliegue posteriores.

Las obligaciones de los modelos de GPAI, incluidas las del Artículo 55, se aplican desde el 2 de agosto de 2025. Ya están vigentes, no son un requisito futuro.

El riesgo sistémico NO es lo mismo que el alto riesgo

Esta es la confusión más habitual, y la terminología de la Ley facilita que se mezclen. La palabra «riesgo» aparece en ambos, pero los dos regímenes están estructuralmente separados.

Los sistemas de IA de alto riesgo se definen en el Artículo 6 y se enumeran en el Anexo III (y en el Anexo I para los componentes de seguridad de productos). La clasificación de alto riesgo se aplica a los sistemas de IA: el software que procesa entradas y produce salidas que influyen en decisiones en ámbitos concretos (contratación, solvencia, biometría, garantía del cumplimiento del Derecho, etc.). Las obligaciones para los sistemas de IA de alto riesgo se sitúan en los Artículos 9 a 15, 16 a 27, 43, 47 a 49 y 72 a 73. El plazo para los sistemas autónomos de alto riesgo del Anexo III es el 2 de diciembre de 2027 (2 de agosto de 2028 para los componentes de seguridad de productos del Anexo I), en virtud del Ómnibus Digital acordado en mayo de 2026.

El riesgo sistémico se aplica a los modelos de GPAI: modelos entrenados a gran escala que pueden realizar una amplia gama de tareas en distintos ámbitos. Las obligaciones de GPAI se sitúan en el capítulo V (Artículos 51 a 56). El mecanismo de designación es el Artículo 51; las obligaciones gravosas son las del Artículo 55. Estas están en vigor desde el 2 de agosto de 2025.

Un modelo de GPAI no se clasifica por las tareas que realiza en un despliegue concreto. Se clasifica por su escala de entrenamiento y sus capacidades. Un producto construido sobre un modelo de GPAI de riesgo sistémico que se despliega después, por ejemplo, para la contratación, se enfrentaría a ambos regímenes: el responsable del despliegue posterior o el proveedor de ese producto se enfrenta a las obligaciones de alto riesgo del Anexo III con arreglo al Artículo 6 y al Anexo III, punto 4, mientras que el proveedor del modelo de GPAI se enfrenta por separado a las obligaciones de riesgo sistémico del Artículo 55. Las dos capas se suman; no se sustituyen entre sí.

Una implicación práctica: si su empresa utiliza un modelo de GPAI de riesgo sistémico como base de un producto que introduce en el mercado, no queda por ello exenta de la clasificación del Anexo III. Su papel como proveedor con arreglo al Artículo 16 (en virtud del Artículo 25, que traslada la condición de proveedor a quien introduce un sistema en el mercado bajo su propio nombre) conlleva obligaciones de alto riesgo independientes si el uso entra en el Anexo III. El cumplimiento del Artículo 55 por parte del proveedor del modelo de GPAI no descarga el suyo.

Preguntas frecuentes

P: ¿El umbral de 10²⁵ FLOP se aplica a los modelos ajustados o adaptados, o solo a los modelos entrenados desde cero?

La Ley se refiere a la «cantidad acumulada de computación utilizada para el entrenamiento». El ajuste fino añade computación por encima del entrenamiento previo; que el total combinado supere las 10²⁵ FLOP depende de las cifras. En la práctica, la mayoría de las operaciones de ajuste fino son órdenes de magnitud menores que el entrenamiento previo, de modo que el umbral lo cruzan principalmente los modelos fundacionales de mayor tamaño. No obstante, los proveedores de modelos sometidos a un ajuste fino intensivo o reentrenados de forma continua deben calcular su computación de entrenamiento acumulada y documentar el resultado, porque el procedimiento del Artículo 52 les exige notificarlo a la Comisión y demostrar si se aplica el umbral.

P: Un modelo de GPAI de riesgo sistémico estaba en el mercado antes del 2 de agosto de 2025. ¿Dispone de tiempo adicional para cumplir el Artículo 55?

Los modelos de GPAI introducidos en el mercado de la Unión antes del 2 de agosto de 2025 tenían hasta el 2 de agosto de 2027 para cumplir las obligaciones del capítulo V (incluido el Artículo 55). Los modelos lanzados después de esa fecha deben cumplir de inmediato. Esta ventana transitoria no se aplica a los modelos lanzados después del 2 de agosto de 2025. El aplazamiento del Ómnibus Digital que llevó las fechas de alto riesgo del Anexo III a diciembre de 2027 no afectó al capítulo V: los calendarios de GPAI no han cambiado.

P: ¿Quién supervisa el cumplimiento del Artículo 55: las autoridades nacionales o la Oficina de IA?

La Oficina de IA, que opera dentro de la Comisión Europea, tiene la responsabilidad principal de supervisión de los modelos de GPAI, incluidos los modelos de riesgo sistémico con arreglo al Artículo 55. Esto difiere del régimen de los sistemas de IA de alto riesgo, en el que las autoridades de vigilancia del mercado de los Estados miembros tienen la responsabilidad principal de ejecución. Para los proveedores de GPAI, el punto de contacto para la notificación de incidentes de riesgo sistémico y la supervisión es la Oficina de IA, no un organismo nacional.

P: ¿Cuál es la multa por incumplimiento de las obligaciones del Artículo 55?

Las multas para los proveedores de GPAI se rigen por el Artículo 101 (no por el Artículo 99, que se aplica a los proveedores y responsables del despliegue de sistemas de IA). Con arreglo al Artículo 101, la Comisión puede imponer multas de hasta 15.000.000 EUR o el 3 % del volumen de negocios anual mundial total, si esta última cifra es mayor. Esto es independiente de las sanciones del Artículo 99 que se aplican al nivel posterior de los sistemas de IA.

P: ¿Puede una empresa evitar la designación de riesgo sistémico publicando un modelo como código abierto?

No. La exención de código abierto del artículo 53, apartado 2, exime a los proveedores de base de GPAI de los deberes de documentación técnica del Anexo XI y de divulgación a los proveedores posteriores del Anexo XII. No se aplica a los modelos de riesgo sistémico. Un modelo de GPAI de riesgo sistémico publicado bajo una licencia de código abierto sigue estando sujeto a todas las obligaciones del Artículo 55. La condición de código abierto afecta a las obligaciones del Artículo 53; no afecta a la designación del Artículo 51 ni a los requisitos del Artículo 55.

P: Nuestra empresa utiliza GPT-4 o un modelo similar de riesgo sistémico para construir un producto. ¿Heredamos las obligaciones del Artículo 55?

No. Las obligaciones del Artículo 55 recaen en el proveedor del modelo de GPAI: la empresa que entrenó e introdujo el modelo en el mercado. Su empresa, como proveedor posterior que construye un producto sobre ese modelo, no hereda el Artículo 55. No obstante, puede heredar las obligaciones de proveedor del Artículo 16 para su propio sistema (en virtud del Artículo 25, si lo introduce en el mercado bajo su nombre), y su sistema puede clasificarse como de alto riesgo con arreglo al Artículo 6 según su finalidad prevista. El cumplimiento del Artículo 55 por parte del proveedor del modelo de GPAI no sustituye a su propio análisis de clasificación.

Términos relacionados

• Modelo de IA de uso general: el objeto del capítulo V y la categoría a la que se aplica el riesgo sistémico
• Sistema de IA de uso general: la aplicación posterior construida utilizando un modelo de GPAI
• Artículo 51: clasificación de riesgo sistémico: el umbral, la presunción y el mecanismo de decisión de la Comisión
• Artículo 53: obligaciones de base de GPAI: las obligaciones que se aplican a todos los proveedores de GPAI, antes de que el Artículo 55 añada requisitos adicionales
• Cumplimiento en materia de GPAI: guía práctica del programa de cumplimiento completo del capítulo V
• Cumplimiento de los modelos fundacionales: consideraciones de cumplimiento para los grandes modelos preentrenados

---

El motor de clasificación basado en reglas de Confir cubre las preguntas de delimitación de GPAI, incluido si su organización actúa como proveedor de GPAI, proveedor posterior o responsable del despliegue, y qué significa eso para su exposición a los Artículos 53 y 55. El motor aplica una lógica determinista a sus respuestas de admisión y produce una conclusión que usted puede auditar: la misma entrada, la misma salida, sin inferencia alguna.