Incidente grave conforme a la Ley de IA de la UE: definición y obligaciones de notificación

Un «incidente grave» es un término definido en el Reglamento (UE) 2024/1689 (la Ley de IA de la UE). Comprende cualquier incidente o defecto de funcionamiento de un sistema de IA que ocasione — directa o indirectamente — un fallecimiento, un daño grave para la salud, una perturbación irreversible de infraestructuras críticas, una infracción de obligaciones de derechos fundamentales en virtud del Derecho de la Unión, o un daño grave a la propiedad o al medio ambiente. Los proveedores de sistemas de IA de alto riesgo deben notificar tales incidentes a las autoridades nacionales con arreglo al Artículo 73.

La definición de la Ley de IA de la UE

El Artículo 3 del Reglamento (UE) 2024/1689 contiene todas las definiciones básicas de la Ley; la definición de «incidente grave» figura en el punto 49.

Un incidente grave es un incidente o defecto de funcionamiento de un sistema de IA que, directa o indirectamente, ocasione cualquiera de las situaciones siguientes:

a) El fallecimiento de una persona o un daño grave para su salud. El daño puede ser físico o psicológico; «grave» tiene su acepción ordinaria — no un efecto adverso menor, sino un daño de los que requieren intervención médica o tienen consecuencias duraderas.

b) Una perturbación grave e irreversible de la gestión o el funcionamiento de infraestructuras críticas. Las infraestructuras críticas incluyen las redes digitales, las redes de energía, los sistemas de suministro de agua, las infraestructuras de transporte y los sistemas financieros. La perturbación debe ser, a la vez, grave en su alcance e irreversible, o al menos prácticamente difícil de revertir con rapidez.

c) El incumplimiento de obligaciones en virtud del Derecho de la Unión destinadas a proteger los derechos fundamentales. Esta categoría vincula el concepto de incidente directamente con la Carta de los Derechos Fundamentales de la UE y con instrumentos sectoriales específicos — por ejemplo, el Derecho antidiscriminación, las normas de protección de datos del RGPD o los derechos de los migrantes y los solicitantes de asilo. El resultado de un sistema de IA que cause o contribuya materialmente a una vulneración de los derechos fundamentales puede constituir un incidente grave aunque no se produzca daño físico alguno.

d) Un daño grave a la propiedad o al medio ambiente. Un daño material de gravedad suficiente — equipos destruidos, una pérdida de datos a gran escala con consecuencias financieras, o una contaminación medioambiental atribuible a un defecto de funcionamiento de la IA — entra aquí.

Las cuatro categorías son alternativas: cumplir cualquiera de ellas activa la definición. No se exige que se cumplan varias categorías de forma simultánea.

El deber de notificación (Artículo 73)

El Artículo 73 del Reglamento (UE) 2024/1689 establece la obligación de notificación posterior al incidente. El deber se sitúa dentro de la fase poscomercialización y es una obligación del proveedor — se extiende del proveedor a la autoridad de vigilancia del mercado del Estado miembro en el que se produjo el incidente.

Quién notifica. Los proveedores de sistemas de IA de alto riesgo son la parte notificante principal. Cuando un responsable del despliegue tiene conocimiento de un incidente grave, debe notificarlo al proveedor (y puede notificarlo directamente a la autoridad) con arreglo al Artículo 26 — pero el informe formal del Artículo 73 a la autoridad corresponde al proveedor. Si el responsable del despliegue ha asumido responsabilidades de proveedor con arreglo al Artículo 25 (por ejemplo, al modificar sustancialmente el sistema o al introducirlo en el mercado con su propio nombre), el deber del Artículo 73 se transfiere a él en consecuencia.

A quién. El informe se dirige a la autoridad de vigilancia del mercado del Estado miembro en el que tuvo lugar el incidente — no a un organismo central de la UE. Cuando el incidente abarque varios Estados miembros, el destinatario es la autoridad del Estado en el que se produjo el impacto más significativo; las autoridades nacionales cooperan después.

El plazo por defecto: 15 días. Con arreglo al Artículo 73, apartado 2, el proveedor debe notificar sin demora indebida — y a más tardar 15 días después de tener conocimiento del incidente y de establecer un nexo causal (o una probabilidad razonable del mismo) entre el sistema de IA y el resultado adverso. La ventana de 15 días es la base.

Plazo reducido: 10 días en caso de fallecimiento. Cuando el incidente cause el fallecimiento de una persona, el Artículo 73, apartado 4, reduce la ventana a un máximo de 10 días tras tener conocimiento el proveedor.

Plazo reducido: 2 días para infraestructuras críticas o infracción generalizada. El Artículo 73, apartado 3, impone el plazo más estricto: un máximo de 2 días cuando el incidente constituya una infracción generalizada — es decir, que afecte a un gran número de personas en varios Estados miembros — o una perturbación grave e irreversible de infraestructuras críticas. Son los supuestos con mayor impacto social, y la ventana de 2 días refleja esa urgencia.

Informe inicial incompleto. El Artículo 73 permite expresamente un informe inicial incompleto si el proveedor aún no dispone de toda la información requerida. El proveedor presenta después un informe completo en cuanto disponga de la información que faltaba. Esto no es una laguna — el informe inicial debe presentarse igualmente dentro del plazo aplicable, y se espera el complemento de exhaustividad con prontitud.

En resumen: el plazo que el proveedor debe aplicar depende del tipo de daño. En caso de fallecimiento, la ventana es de 10 días. Para una perturbación de infraestructuras críticas o una infracción generalizada, es de 2 días. Para todos los demás incidentes graves, es de 15 días.

Ejemplos

Cada una de las cuatro categorías legales cubre situaciones reales distintas.

Daño para la salud (categoría a). Una IA de calificación de riesgos desplegada por un hospital para clasificar a los pacientes de urgencias funciona de forma defectuosa y asigna de manera sistemática puntuaciones de prioridad más bajas a los pacientes que presentan patrones de síntomas atípicos. Un paciente que debería haber recibido una intervención inmediata sufre un retraso; el retraso contribuye a un episodio cardíaco. Aunque la conexión sea indirecta — el resultado de la IA influyó en la decisión de un clínico —, el daño para la salud originado en el defecto de funcionamiento puede reunir las condiciones de un incidente grave.

Infraestructuras críticas (categoría b). Un sistema de IA que gestiona el equilibrio de carga de una red eléctrica regional produce previsiones erróneas tras un fallo en una canalización de datos. Los errores provocan un apagado en cascada no planificado que afecta a varias provincias durante 36 horas. Restablecer el funcionamiento normal requiere una inspección de hardware y una resincronización que llevan días. La perturbación es a la vez grave y prácticamente irreversible a corto plazo — cumple la categoría b).

Derechos fundamentales (categoría c). Un sistema de IA de alto riesgo utilizado en el tratamiento de solicitudes de asilo clasifica erróneamente a un grupo de solicitantes como de baja credibilidad, lo que da lugar a una serie de denegaciones. Una auditoría posterior constata que el modelo aplicó una variable indirecta que penalizaba desproporcionadamente a los solicitantes de un país de origen concreto. La clasificación errónea sistemática constituye una infracción de las obligaciones antidiscriminación de la UE y del derecho a la tutela judicial efectiva — una vulneración de los derechos fundamentales conforme a la categoría c), aunque no se produjera ningún daño físico inmediato.

Propiedad y medio ambiente (categoría d). Un sistema de aseguramiento de la calidad controlado por IA en una instalación de procesamiento químico no detecta un episodio de contaminación de un lote, lo que permite que prosiga una tanda de producción defectuosa. La contaminación destruye un volumen significativo de producto y de equipos, y una pequeña cantidad de efluente tóxico alcanza un curso de agua cercano antes de que se identifique el problema. La combinación de pérdida material y daño medioambiental cumple la categoría d).

Cómo se conecta con la vigilancia poscomercialización

La notificación de incidentes graves con arreglo al Artículo 73 no funciona de forma aislada — es la cara reactiva de una obligación continua. El Artículo 72 del Reglamento (UE) 2024/1689 exige a los proveedores de sistemas de IA de alto riesgo establecer y operar un sistema de vigilancia poscomercialización a lo largo de toda la vida del sistema. Ese sistema debe recopilar y analizar de forma activa datos sobre el rendimiento de la IA en el despliegue: tasas de error, cuasi accidentes, resultados inesperados y comentarios de los usuarios.

La vigilancia poscomercialización del Artículo 72 es el mecanismo a través del cual un proveedor tiene más probabilidades de detectar que algo ha ido mal antes de que escale hasta convertirse en un suceso notificable — o de establecer, a posteriori, el nexo causal que pone en marcha el reloj del Artículo 73. Si un proveedor no dispone de una vigilancia estructurada, tendrá dificultades para demostrar cuándo «tuvo conocimiento» de un incidente, y puede verse incapaz de notificar dentro del plazo aplicable.

La documentación es parte integral de ambas obligaciones. Un proveedor que no pueda aportar registros de sus actividades de vigilancia, registros de anomalías y la cadena de acontecimientos que condujeron al incidente tendrá dificultades para satisfacer a la autoridad de vigilancia del mercado. La documentación técnica exigida con arreglo al Artículo 11 y al Anexo IV debe incluir la arquitectura de vigilancia; el sistema de gestión de la calidad del Artículo 17 debe trazar la vía de escalado interno desde la detección de anomalías hasta la notificación del incidente.

El área de cumplimiento AIGM de Confir (Gobernanza y vigilancia poscomercialización) cubre los Artículos 9, 72 y 73. El módulo genera plantillas de registro basadas en reglas para las actividades de vigilancia poscomercialización y proyecta los plazos de notificación del Artículo 73 frente al perfil de riesgo de cada sistema, de modo que el plazo correcto — 2 días, 10 días o 15 días — se señala de forma determinista en lugar de dejarse al recuerdo manual bajo presión.

Preguntas frecuentes

¿El plazo de 15 días corre desde el incidente en sí o desde que el proveedor tiene conocimiento de él?

Corre desde el conocimiento — concretamente, desde el momento en que el proveedor tiene conocimiento del incidente y establece un nexo causal (o una probabilidad razonable del mismo) entre el sistema de IA y el daño. Si el proveedor solo tiene conocimiento del incidente semanas después de que ocurriera, el reloj de 15 días arranca en ese punto. Sin embargo, esto no excusa las cadenas internas de notificación lentas: se espera que un proveedor disponga de la vigilancia poscomercialización del Artículo 72 precisamente para que los sucesos significativos afloren con rapidez.

¿Tiene un responsable del despliegue que notificar directamente a la autoridad de vigilancia del mercado?

El deber del Artículo 73 de notificar a la autoridad recae en el proveedor. La obligación del responsable del despliegue con arreglo al Artículo 26 es notificar al proveedor y cooperar con la investigación. Cuando un responsable del despliegue haya asumido responsabilidades de proveedor con arreglo al Artículo 25 — por ejemplo, al introducir un sistema en el mercado con su propia marca —, el deber del Artículo 73 sigue ese cambio de condición. En la práctica, un responsable del despliegue que presencie un incidente grave debe tratar el escalado interno al proveedor como urgente.

¿Qué es una «infracción generalizada» que activa el plazo de 2 días?

La Ley no define la «infracción generalizada» con un umbral numérico. El concepto apunta a incidentes que afectan a un gran número de personas simultáneamente en varios Estados miembros — por ejemplo, una actualización defectuosa de un sistema de IA de alto riesgo ampliamente desplegado que causa errores sistemáticos en decisiones que afectan a miles de personas en varios países de la UE. La ventana de 2 días también se aplica, por separado, a las perturbaciones graves e irreversibles de infraestructuras críticas.

¿Puede un proveedor presentar un primer informe incompleto?

Sí. El Artículo 73 anticipa expresamente situaciones en las que no toda la información está disponible dentro de la ventana de notificación. Un informe inicial incompleto preserva el cumplimiento del plazo; el proveedor debe entonces complementarlo con un informe completo a medida que avanza la investigación. El informe inicial debe incluir lo que se conoce — la naturaleza del incidente, el sistema de IA implicado, el daño identificado y las medidas adoptadas hasta el momento — y debe indicar qué información se sigue recabando.

¿Es un cuasi accidente un incidente grave con arreglo al Artículo 73?

No. El Artículo 3, apartado 49, exige que el incidente «ocasione» una de las cuatro categorías de daño, directa o indirectamente. Un cuasi accidente — en el que el defecto de funcionamiento se detectó y corrigió antes de que se materializara daño alguno — no alcanza ese umbral. No obstante, los cuasi accidentes son precisamente los sucesos que un sistema de vigilancia poscomercialización del Artículo 72 que funcione bien debería captar, porque señalan riesgos que podrían escalar hasta un suceso notificable si no se abordan.

¿Se aplica el Artículo 73 a los proveedores de modelos GPAI?

El Artículo 73 se dirige a los proveedores de sistemas de IA de alto riesgo. Los proveedores de modelos GPAI tienen una obligación independiente de notificación de incidentes con arreglo al Artículo 55, que se aplica a los proveedores de modelos GPAI con riesgo sistémico. Las dos obligaciones son distintas. Una empresa que tanto proporciona un modelo GPAI con riesgo sistémico como lo despliega en una aplicación de alto riesgo puede afrontar obligaciones con arreglo a ambos artículos; la autoridad aplicable y los mecanismos concretos de notificación difieren.

Términos relacionados

• Obligaciones de notificación de incidentes conforme a la Ley de IA de la UE
• Artículo 73 — notificación de incidentes graves: guía completa
• Vigilancia poscomercialización (Artículo 72)
• Artículo 72 — vigilancia poscomercialización por los proveedores
• Organismo notificado
• Modificación sustancial