Sistema de gestión de riesgos de la Ley de IA de la UE: cómo crear uno con arreglo al Artículo 9
Sistema de gestión de riesgos de la Ley de IA de la UE con arreglo al Artículo 9: un proceso continuo e iterativo a lo largo del ciclo de vida. Cree su registro de riesgos y cumpla el plazo del 2 de diciembre de 2027.
El Artículo 9 del Reglamento (UE) 2024/1689 es la obligación que la mayoría de los proveedores subestima. No es una evaluación de riesgos puntual que se completa antes del lanzamiento. Es un proceso continuo e iterativo que se ejecuta a lo largo de todo el ciclo de vida de su sistema de IA de alto riesgo —desde el diseño inicial hasta la vigilancia poscomercialización— y debe documentarse, mantenerse y estar listo para inspección.
Si su sistema entra en el Anexo III o en el Artículo 6, apartado 1, necesita tener implantado un sistema de gestión de riesgos del Artículo 9 en funcionamiento antes de salir al mercado. En virtud del Ómnibus Digital acordado en mayo de 2026, la fecha de cumplimiento para los sistemas autónomos del Anexo III es el 2 de diciembre de 2027; para la IA de alto riesgo integrada en productos regulados con arreglo al Anexo I, es el 2 de agosto de 2028. El incumplimiento con arreglo al Artículo 99, apartado 4, acarrea multas de hasta 15 000 000 EUR o el 3 % del volumen de negocios anual mundial total, si esta última cifra es mayor.
Qué exige realmente el Artículo 9
El Artículo 9 define el sistema de gestión de riesgos como un proceso continuo e iterativo —la propia expresión del Reglamento— que abarca todo el ciclo de vida. Tiene cuatro componentes operativos que deben funcionar conjuntamente.
Identificar y analizar los riesgos. Debe identificar todos los riesgos conocidos y razonablemente previsibles para la salud, la seguridad y los derechos fundamentales que podrían surgir del uso previsto del sistema y de un uso indebido previsible. Esto es más amplio de lo que la mayoría de los equipos de cumplimiento espera. El uso indebido previsible significa usos que usted no respalda pero que podría anticipar razonablemente: una herramienta de cribado de selección de personal utilizada para descartar a candidatos mayores de 50 años, o un modelo de calificación crediticia aplicado a poblaciones ajenas a su distribución de entrenamiento validada.
Evaluar y mitigar. Una vez identificados, los riesgos deben evaluarse por gravedad y probabilidad, y abordarse después mediante una jerarquía de mitigación: eliminar el riesgo primero mediante cambios de diseño; reducirlo mediante controles técnicos u organizativos si la eliminación no es factible; gestionar el riesgo residual mediante el seguimiento, la supervisión humana (Artículo 14) y la información al usuario. Los riesgos residuales que no puedan eliminarse deben evaluarse como aceptables, y ese juicio debe documentarse.
Probar frente a métricas predefinidas. El Artículo 9 exige realizar pruebas en las fases adecuadas del desarrollo y antes de la introducción en el mercado, frente a métricas y umbrales de probabilidad predefinidos. La expresión genérica «realizamos una prueba» no satisface esto. Necesita criterios documentados de aprobado/no aprobado establecidos antes de que comiencen las pruebas.
Vigilar tras la comercialización y retroalimentar. El Artículo 72 exige que los proveedores recopilen y revisen activamente los datos poscomercialización de los sistemas desplegados. Las conclusiones de la vigilancia poscomercialización retroalimentan el proceso de gestión de riesgos del Artículo 9: los modos de fallo emergentes identificados en producción deben actualizar el registro de riesgos, desencadenar una reevaluación y (cuando sea necesario) acciones correctoras. Esto es lo que hace que el sistema sea iterativo en lugar de estático.
Atención especial: grupos vulnerables
El Artículo 9 señala una obligación específica que muchas guías de aplicación pasan por alto: debe prestarse especial atención a los riesgos que surjan para las personas que puedan ser especialmente vulnerables, incluidos los menores. Si su sistema se utiliza en la educación, el empleo o el acceso a servicios esenciales, evalúe si alguna parte de la población a la que afecta se encuentra en una posición estructuralmente más débil: menores, personas con discapacidad, personas en situaciones económicamente precarias. Documente esa evaluación de forma explícita.
La jerarquía de mitigación en la práctica
La jerarquía importa porque condiciona su documentación. Las autoridades competentes que revisen su expediente técnico buscarán pruebas de que consideró la eliminación antes de recurrir a un arreglo de seguimiento. Un sistema que simplemente encamina todo a través de un revisor humano no ha eliminado ni reducido el riesgo subyacente: ha gestionado el riesgo residual, que es el último recurso, no el primero.
Para un sistema de calificación crediticia en una entidad prestamista regional (Anexo III, punto 5, letra b)), la eliminación podría consistir en suprimir una variable sustitutiva —el código postal, por ejemplo— que se correlaciona con características protegidas. La reducción podría consistir en reentrenar con un conjunto de datos más representativo e introducir restricciones de equidad. La gestión del riesgo residual cubre entonces el procedimiento de revisión humana para las decisiones límite y el umbral de alerta que desencadena una auditoría de sesgo.
Cómo se conecta el Artículo 9 con el resto de la pila de obligaciones de alto riesgo
El Artículo 9 no opera aislado. Es la columna vertebral que se conecta con todos los demás requisitos de alto riesgo:
- Artículo 10 (gobernanza de datos): La calidad y la representatividad de sus datos de entrenamiento, validación y prueba determinan directamente el perfil de riesgo de su sistema. Un fallo de gobernanza de datos es un fallo de gestión de riesgos.
- Artículo 11 (documentación técnica): El sistema de gestión de riesgos y sus resultados —registro de riesgos, decisiones de mitigación, resultados de las pruebas— deben incluirse en el expediente de documentación técnica del Anexo IV.
- Artículo 14 (supervisión humana): Las medidas de supervisión humana son un control principal del riesgo residual. La planificación de la mitigación del Artículo 9 y el diseño de la supervisión del Artículo 14 deben desarrollarse conjuntamente.
- Artículo 15 (exactitud, robustez, ciberseguridad): Su análisis de riesgos del Artículo 9 debe incluir un análisis de los modos de fallo que abarque la degradación de la exactitud, las entradas adversarias y las vulnerabilidades de ciberseguridad. Los requisitos de rendimiento del Artículo 15 fijan el mínimo que sus pruebas deben superar.
- Artículo 17 (sistema de gestión de la calidad): El SGC del Artículo 17 proporciona el marco organizativo dentro del cual opera el sistema de gestión de riesgos del Artículo 9. Están diseñados para complementarse, no para duplicarse.
- Artículo 72 (vigilancia poscomercialización): Los datos poscomercialización no son solo una obligación de notificación: son una entrada al ciclo de revisión del Artículo 9.
El Artículo 9 frente a los marcos voluntarios: ISO 31000, NIST AI RMF, ISO/IEC 42001
Puede que ya opere con arreglo a la ISO 31000 (gestión de riesgos genérica), el Marco de Gestión de Riesgos de IA del NIST (NIST AI RMF) o la ISO/IEC 42001 (sistemas de gestión de IA). Son valiosos, y la Ley de IA de la UE no prohíbe su uso. Pero no sustituyen al cumplimiento del Artículo 9.
La distinción es obligación legal frente a buena práctica. La ISO 31000 y el NIST AI RMF son voluntarios; el Artículo 9 es obligatorio para los proveedores de IA de alto riesgo. La ISO/IEC 42001 está más cerca —aborda específicamente los sistemas de gestión de IA—, pero es una norma de certificación, no un requisito legal, y su alcance difiere del del Artículo 9. La alineación con estos marcos puede respaldar su trabajo del Artículo 9 y puede ayudar a demostrar la diligencia debida, pero su documentación técnica debe hacer referencia explícita al Artículo 9 y mostrar cómo se ha abordado cada componente obligatorio.
Crear un registro de riesgos: pasos prácticos
Un registro de riesgos es el documento de trabajo de su sistema del Artículo 9. No necesita ser elaborado, pero sí necesita ser real, no una plantilla copiada del entregable de un consultor y nunca revisada.
Un registro de riesgos del Artículo 9 defendible suele recoger:
- Descripción del sistema y uso previsto — incluida la categoría concreta del Anexo III y la evaluación del filtro del Artículo 6, apartado 3, si reclamó una exención.
- Inventario de riesgos — cada riesgo conocido y previsible, identificado por su origen (calidad de los datos de entrenamiento, arquitectura del modelo, contexto de despliegue, uso indebido previsible).
- Evaluación de riesgos — gravedad (reversibilidad, escala, naturaleza del daño) y probabilidad, evaluadas frente a la población prevista del sistema, incluidos los grupos vulnerables.
- Medidas de mitigación — para cada riesgo: eliminación por diseño aplicada (o motivo documentado por el que no fue factible), controles técnicos/organizativos establecidos, nivel de riesgo residual tras la mitigación.
- Juicio de aceptabilidad del riesgo residual — fundamento documentado para concluir que el riesgo residual es aceptable a la luz del beneficio previsto del sistema.
- Resultados de las pruebas frente a umbrales predefinidos — resumen de los resultados de las pruebas vinculados al riesgo que abordan.
- Puntos de activación de la revisión poscomercialización — qué datos se recopilarán, con qué frecuencia y qué umbrales desencadenan una reevaluación.
- Registro de revisiones — fechas y resultados de las revisiones periódicas, incluidos los cambios realizados a raíz de los datos poscomercialización.
Para una empresa de tecnología de RR. HH. de 40 personas que comercializa un sistema de clasificación de candidatos con arreglo al punto 4, letra a), del Anexo III, un registro de riesgos creíble podría comprender de 15 a 20 entradas que abarquen los riesgos de sesgo, los escenarios de uso indebido (clasificar más bajo a los candidatos con discapacidad mediante la inferencia a partir de lagunas en el empleo), la manipulación adversaria del formato de los currículos y el riesgo de deriva de los datos a medida que cambian las prácticas de contratación tras el despliegue.
Cómo ayuda Confir
El Artículo 9 se sitúa dentro del área de cumplimiento AIGM de Confir (Gobernanza y Vigilancia Poscomercialización). El área AIGM estructura su proceso de gestión de riesgos —registro de riesgos, seguimiento de la mitigación, activadores de la revisión poscomercialización— mediante una evaluación basada en reglas que correlaciona las características de su sistema con las obligaciones concretas del Artículo 9 que se aplican. El mismo motor basado en reglas que clasificó su sistema con arreglo a los Artículos 5 y 6 genera el marco del registro de riesgos que usted debe rellenar y mantener. Sin alucinación, sin brechas de interpretación: la misma admisión, el mismo resultado estructurado, cada vez.
Confir también genera el paquete de documentación técnica del Artículo 11 / Anexo IV, que incorpora la sección de gestión de riesgos junto con su documentación de gobernanza de datos y de supervisión humana.
Preguntas frecuentes
¿Cuál es la diferencia entre un sistema de gestión de riesgos del Artículo 9 y una evaluación de riesgos estándar?
Una evaluación de riesgos estándar es un ejercicio puntual: evalúa los riesgos antes del lanzamiento, los documenta y sigue adelante. El Artículo 9 exige un sistema de gestión de riesgos: un proceso continuo con estructuras de gobernanza, ciclos de revisión y un bucle de retroalimentación a partir de la vigilancia poscomercialización del Artículo 72. Los datos poscomercialización que recopila deben actualizar activamente su registro de riesgos y, cuando sea necesario, desencadenar acciones correctoras. Una evaluación estática no satisface la obligación.
¿Se aplica el Artículo 9 a los responsables del despliegue, o solo a los proveedores?
El Artículo 9 se aplica a los proveedores —organizaciones que desarrollan e introducen un sistema de IA de alto riesgo en el mercado con su propio nombre o marca—. Los responsables del despliegue (organizaciones que utilizan un sistema de IA de alto riesgo de un tercero) se rigen principalmente por el Artículo 26, que exige seguir las instrucciones del proveedor, garantizar la supervisión humana, vigilar el sistema en uso e informar al proveedor y a las autoridades de vigilancia del mercado pertinentes de los incidentes graves con arreglo al Artículo 26. Si usted desarrolla y despliega internamente su propio sistema, carga con ambos conjuntos de obligaciones.
¿Qué cuenta como «uso indebido previsible» que el Artículo 9 exige evaluar?
El uso indebido previsible es un uso no previsto por el proveedor pero que puede anticiparse razonablemente dado el contexto de despliegue del sistema. Para un sistema de cribado de selección de personal, un uso indebido previsible es que un responsable de contratación utilice la clasificación del sistema como único fundamento para el rechazo, eludiendo las medidas de supervisión humana de las instrucciones de uso. Debe identificar estos escenarios, evaluar los riesgos asociados y establecer controles, normalmente en las instrucciones de uso y en el diseño de la supervisión humana con arreglo al Artículo 14.
¿Con qué frecuencia debe revisarse el sistema de gestión de riesgos del Artículo 9?
El Reglamento no prescribe un intervalo de revisión fijo. Exige que el proceso sea iterativo y continuo, lo que significa que la revisión se desencadena por sucesos, no solo por un calendario. Los datos de vigilancia poscomercialización (Artículo 72), los incidentes graves (Artículo 73), los cambios en el uso previsto del sistema o las pruebas de deriva del rendimiento constituyen todos desencadenantes. En la práctica, la mayoría de los proveedores establecen un ciclo de revisión mínimo anual, con revisiones desencadenadas por sucesos además de aquel.
¿Cómo interactúa el Artículo 9 con el filtro de exención del Artículo 6, apartado 3?
El Artículo 6, apartado 3, permite a un proveedor autoevaluar que su sistema del Anexo III no plantea un riesgo significativo —porque desempeña una tarea procedimental limitada, mejora una actividad humana previamente realizada, detecta patrones de decisión sin influir en la evaluación humana o realiza un trabajo preparatorio—. Si la exención se aplica, el Artículo 9 no. Pero la exención no es de aplicación automática: debe documentar la autoevaluación y registrar el sistema con arreglo al Artículo 49. Tenga en cuenta también que todo sistema que elabore perfiles de personas físicas es siempre de alto riesgo; el Artículo 6, apartado 3, no se aplica.
¿Cuál es la sanción por no mantener un sistema de gestión de riesgos del Artículo 9?
El incumplimiento del Artículo 9 es una infracción de las obligaciones del proveedor de alto riesgo con arreglo al Artículo 16. Con arreglo al Artículo 99, apartado 4, la multa máxima es de 15 000 000 EUR o el 3 % del volumen de negocios anual mundial total, si esta última cifra es mayor. Para las empresas que sean pymes o empresas emergentes, el Artículo 99, apartado 6, limita la multa al menor de los dos importes, el porcentaje o la cantidad fija —una protección de proporcionalidad que conviene conocer, aunque no es una exención de la obligación en sí—.
¿Satisface la alineación con la ISO/IEC 42001 el Artículo 9?
Una alineación parcial, no una satisfacción plena. La ISO/IEC 42001 (sistemas de gestión de IA) cubre un terreno similar y es una demostración creíble de diligencia debida organizativa. Pero es una norma de certificación voluntaria, no un instrumento jurídico. Su documentación técnica debe mostrar el cumplimiento explícito del Artículo 9 —inventario de riesgos, evaluación, jerarquía de mitigación, umbrales de prueba predefinidos, bucle de revisión poscomercialización— con independencia de las certificaciones que posea. Un certificado ISO/IEC 42001 no sustituye a un registro de riesgos del Artículo 9.
Guías relacionadas
- requisitos de cumplimiento de alto riesgo del Artículo 8
- resumen del marco de clasificación de riesgo
- árbol de decisión de clasificación del Artículo 6
- guía completa de aplicación del Artículo 9
- sistemas de imagen médica del Anexo III
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →