Evaluación de riesgos de la IA conforme a la Ley de IA de la UE: dos capas, un marco
La evaluación de riesgos de la IA conforme a la Ley de IA de la UE se desarrolla en dos capas: primero la clasificación del Artículo 6, después el sistema de gestión de riesgos del Artículo 9. Guía paso a paso.
La evaluación de riesgos con arreglo al Reglamento (UE) 2024/1689 —la Ley de IA de la UE— no es un único ejercicio que se completa antes del lanzamiento. Son dos capas de análisis distintas y secuenciales con titulares diferentes, plazos diferentes y consecuencias jurídicas diferentes. Si las confunde, o bien sobredimensionará un chatbot o bien infradimensionará un sistema de selección de personal que puede acarrearle multas de hasta 15 millones de euros o el 3 % del volumen de negocios mundial.
Capa uno: la evaluación de clasificación
Antes de que se aplique cualquier obligación, debe determinar en qué nivel de riesgo entra su sistema. El Reglamento clasifica cada sistema en uno de cuatro niveles.
Nivel 1 — Riesgo inadmisible (Artículo 5): prohibido de plano desde el 2 de febrero de 2025. No existe ninguna vía de cumplimiento. La lista abarca la identificación biométrica remota en tiempo real en espacios públicos con fines de garantía del cumplimiento del Derecho (con excepciones estrechas), la manipulación subliminal, la puntuación social por las autoridades públicas, determinada actuación policial predictiva, el reconocimiento de emociones en el lugar de trabajo y en los centros educativos, y la extracción no selectiva de imágenes faciales. Techo sancionador: 35 millones de euros o el 7 % del volumen de negocios anual mundial (Artículo 99, apartado 3).
Nivel 2 — Alto riesgo (Artículo 6 + Anexo III, y Artículo 6, apartado 1, para los componentes de seguridad de productos del Anexo I): el nivel de obligaciones pesadas. Las obligaciones de los Artículos 9 a 15 se aplican desde el 2 de diciembre de 2027 para los sistemas autónomos del Anexo III, y desde el 2 de agosto de 2028 para la IA integrada como componente de seguridad en productos del Anexo I. Estas fechas reflejan el acuerdo político del Ómnibus Digital de mayo de 2026, que aplazó el plazo original de agosto de 2026.
Nivel 3 — Riesgo limitado (Artículo 50): chatbots, ultrasuplantaciones y medios sintéticos, reconocimiento de emociones en contextos de consumo, contenido generado por IA. Únicamente deberes de divulgación de transparencia, desde el 2 de agosto de 2026.
Nivel 4 — Riesgo mínimo: todo lo demás. Sin obligaciones obligatorias.
Los modelos GPAI (Capítulo V, Artículos 51 a 56) son una categoría transversal separada, no un quinto nivel. Un sistema construido sobre un LLM se clasifica por lo que el sistema hace, no por lo que es el modelo subyacente.
La prueba de clasificación del Artículo 6
Paso 1 — Artículo 6, apartado 1 / Anexo I: ¿Es el sistema un componente de seguridad de un producto del Anexo I (máquinas, productos sanitarios, equipos radioeléctricos, juguetes) que requiere una evaluación de la conformidad por terceros? En caso afirmativo, automáticamente de alto riesgo. Sin exención por autoevaluación. Las obligaciones se aplican desde el 2 de agosto de 2028.
Paso 2 — Artículo 6, apartado 2 / Anexo III: ¿Entra el uso previsto en uno de los ocho ámbitos del Anexo III? Estos son: biometría; infraestructuras críticas; educación y formación profesional; empleo y gestión de los trabajadores; acceso a servicios esenciales privados y públicos (incluida la solvencia con arreglo al punto 5, letra b), y la fijación de precios de los seguros de vida/salud con arreglo al punto 5, letra c)); garantía del cumplimiento del Derecho; migración, asilo y control fronterizo; administración de justicia y procesos democráticos. Un uso previsto coincidente hace que el sistema sea presuntamente de alto riesgo.
Paso 3 — Filtro del Artículo 6, apartado 3: Un sistema del Anexo III no es de alto riesgo si el proveedor documenta que no plantea un riesgo significativo de perjuicio. Una de cuatro condiciones puede sustentar la exención: tarea procedimental limitada; mejora de una actividad humana previamente realizada; detección de patrones de decisión sin sustituir ni influir en la evaluación humana; o realización de un trabajo preparatorio. Una salvedad prevalece sobre las cuatro: todo sistema que elabore perfiles de personas físicas es siempre de alto riesgo. Los proveedores que reclamen la exención deben documentar la evaluación y, aun así, registrarse con arreglo al Artículo 49.
Una empresa de tecnología de RR. HH. de 20 personas que construye una herramienta que marca las cualificaciones obligatorias que faltan —y solo las marca— podría invocar de forma plausible el Artículo 6, apartado 3. Una herramienta que puntúa y clasifica candidatos no puede: influye directamente en la evaluación humana y puede elaborar perfiles por variables sustitutivas.
Los responsables del despliegue no realizan la clasificación. Ese deber corresponde al proveedor. Si un responsable del despliegue modifica sustancialmente un sistema o lo reutiliza más allá de su uso previsto declarado, el Artículo 25 convierte al responsable del despliegue en proveedor, heredando la pila completa del proveedor.
Capa dos: el sistema de gestión de riesgos del Artículo 9
Una vez que un sistema se confirma como de alto riesgo, el Artículo 9 exige al proveedor establecer, aplicar, documentar y mantener un sistema de gestión de riesgos a lo largo de todo el ciclo de vida del sistema. Esto no es una lista de comprobación de lanzamiento. Es un proceso de gobernanza continuo.
El Artículo 9, apartado 2, especifica las obligaciones básicas: identificar los riesgos conocidos y previsibles para la salud, la seguridad y los derechos fundamentales —incluidos los riesgos de un uso indebido razonablemente previsible—; estimar y evaluar esos riesgos (probabilidad y gravedad); adoptar medidas de mitigación y probarlas; juzgar el riesgo residual aceptable antes de salir al mercado; e iterar a medida que se acumula la experiencia operativa. El Artículo 9, apartado 4, vincula el sistema explícitamente con la vigilancia poscomercialización del Artículo 72: los datos sobre el terreno deben retroalimentarlo.
La taxonomía de riesgos específica de la IA
El Reglamento no prescribe una taxonomía, pero los riesgos del Artículo 9 para los sistemas de IA se agrupan en cinco áreas que los profesionales deben abordar:
Sesgo. Los datos de entrenamiento que infrarrepresentan a un grupo protegido producen resultados discriminatorios a gran escala. La prueba de rendimiento desglosada por característica protegida es el paso de identificación de referencia; la mitigación puede requerir un nuevo muestreo, una nueva ponderación o una evaluación adversaria selectiva.
Robustez. ¿Funciona el sistema de forma coherente en casos límite, con entradas fuera de distribución o en condiciones operativas inusuales? El Artículo 15 exige que la exactitud, la robustez y la ciberseguridad se mantengan a lo largo del ciclo de vida.
Seguridad. Los sistemas de alto riesgo son objetivos. Un modelo de calificación crediticia puede ser vulnerable a entradas adversarias diseñadas para provocar una clasificación errónea. Tanto el Artículo 15 como el deber de identificación del Artículo 9 alcanzan esto.
Deriva. Las distribuciones de datos en producción cambian. Un modelo que funcionaba aceptablemente en el lanzamiento puede degradarse silenciosamente con el tiempo. La vigilancia poscomercialización del Artículo 72 debe especificar qué desencadena una decisión de reentrenamiento o de retirada.
Transparencia. El Artículo 13 exige que los sistemas de alto riesgo se diseñen de modo que los responsables del despliegue y los usuarios puedan comprender los resultados y ejercer la supervisión humana con arreglo al Artículo 14. Un sistema de caja negra con resultados inexplicados es tanto una brecha del Artículo 13 como un factor de riesgo del Artículo 9.
El Artículo 9 y sus vecinos próximos
EIPD del Artículo 35 del RGPD. La evaluación de impacto relativa a la protección de datos es una obligación del RGPD centrada en los riesgos del tratamiento de datos para los derechos de los interesados. El Artículo 9 es más amplio: cubre los riesgos para la salud, la seguridad y los derechos fundamentales derivados de los resultados del sistema, no solo de su tratamiento de datos. Pueden ejecutarse conjuntamente y compartir un registro de riesgos, pero cada una necesita su propio rastro de documentación: la EIPD para el DPD; el registro del Artículo 9 en el expediente técnico con arreglo al Artículo 11.
Evaluación de impacto relativa a los derechos fundamentales (EIDF) del Artículo 27. Esta es una obligación del responsable del despliegue de la Ley de IA —no del proveedor— y se aplica únicamente a categorías específicas: los responsables del despliegue que sean organismos públicos de sistemas de alto riesgo, y los responsables del despliegue privados de sistemas del punto 5, letra b), del Anexo III (solvencia) o del punto 5, letra c) (seguros de vida/salud). Un empleador privado que despliega una herramienta de selección de personal de alto riesgo no debe automáticamente una EIDF. La EIDF cubre los impactos del contexto de despliegue; el Artículo 9 cubre los riesgos de la fase de diseño. Son complementarios, no sustitutos.
Un proceso de siete pasos
- Confirme el nivel de riesgo. Realice la prueba del Artículo 6. Documente el razonamiento. Si invoca el Artículo 6, apartado 3, documéntelo por separado y regístrese con arreglo al Artículo 49.
- Defina el alcance y el contexto de uso. Redacte la finalidad prevista, el entorno de despliegue, los usuarios y las personas físicas afectadas. Incluya los escenarios de uso indebido previsible.
- Identifique los riesgos por categoría. Recorra el sesgo, la robustez, la seguridad, la deriva y la transparencia. Sea específico: «el modelo puede funcionar con menor exactitud para los solicitantes con estructuras de nombre no occidentales» es accionable; «existe un riesgo de sesgo» no lo es.
- Estime la probabilidad y la gravedad. Valore la probabilidad y la gravedad del daño, incluida la reversibilidad. Una solicitud de crédito denegada erróneamente es recuperable; una solicitud de asilo suprimida erróneamente puede no serlo.
- Diseñe y pruebe la mitigación. Para cada riesgo por encima del umbral, defina una medida y pruébela frente a las métricas de rendimiento de la documentación técnica con arreglo al Artículo 11 / Anexo IV.
- Evalúe el riesgo residual. Documente y apruebe el juicio de aceptabilidad. Si no es aceptable, itere antes de pasar a la evaluación de la conformidad con arreglo al Artículo 43.
- Establezca la vigilancia poscomercialización. Defina la recopilación de datos del Artículo 72, los umbrales que desencadenan una revisión del sistema de riesgos y la vía de escalado de incidentes graves del Artículo 73.
Cómo ayuda Confir
El módulo de clasificación de Confir utiliza una lógica determinista basada en reglas para correlacionar las respuestas de admisión con los Artículos 5 y 6 y el Anexo III —la misma admisión, la misma conclusión, sin caja negra— y deriva su rol como proveedor o responsable del despliegue con arreglo al Artículo 25. La evaluación estructurada cubre después el terreno del Artículo 9 en cuatro áreas de cumplimiento: AIGM (Gobernanza y Vigilancia Poscomercialización, Artículos 9, 72 a 73), AITR (Datos y Robustez Técnica, Artículos 10, 11, 15), AIRC (Clasificación de Riesgos y Cumplimiento, Artículos 5, 6, 43, 50) y AITO (Transparencia y Supervisión Humana, Artículos 13, 14, 27, 50). La EIDF del Artículo 27 se ejecuta como un flujo de trabajo separado para los responsables del despliegue que la activan. El resultado es un paquete de documentación técnica listo para imprimir con arreglo al Artículo 11 / Anexo IV y un registro de auditoría inmutable.
Preguntas frecuentes
¿Cuál es la diferencia entre la evaluación de clasificación del Artículo 6 y el sistema de gestión de riesgos del Artículo 9?
Son secuenciales y jurídicamente distintas. El Artículo 6 plantea una única pregunta binaria antes de la introducción en el mercado: ¿es este sistema de alto riesgo? El sistema de gestión de riesgos del Artículo 9 es lo que sigue a esa determinación: un proceso continuo a lo largo del ciclo de vida que identifica riesgos específicos, estima su probabilidad y gravedad, especifica la mitigación y se alimenta de los datos de vigilancia poscomercialización. No puede ejecutar el Artículo 9 sin completar primero el Artículo 6.
¿Necesito un organismo notificado para mi evaluación de riesgos?
La mayoría de los sistemas del Anexo III (puntos 2 a 8) utilizan la vía de autoevaluación interna del Anexo VI: no se requiere un organismo notificado. El punto 1 del Anexo III (biometría) requiere generalmente la vía del organismo notificado del Anexo VII cuando no se han aplicado normas armonizadas. La IA integrada en productos del Anexo I sigue la vía de conformidad de la legislación de productos pertinente, con el plazo del 2 de agosto de 2028. El Artículo 43 expone las vías.
¿Cómo se relaciona el sistema de gestión de riesgos del Artículo 9 con una EIPD del RGPD?
Una EIPD del Artículo 35 del RGPD se centra en los riesgos del tratamiento de datos para los derechos de los interesados. El Artículo 9 cubre los riesgos para la salud, la seguridad y los derechos fundamentales derivados de los resultados del sistema, intervengan o no datos personales. Un sistema de alto riesgo que trata datos personales normalmente necesita ambos. Pueden compartir infraestructura —el mismo registro de riesgos, el mismo taller—, pero cada uno necesita su propio rastro de documentación y aprobación.
¿Debe todo responsable del despliegue de un sistema de alto riesgo realizar una evaluación de impacto relativa a los derechos fundamentales?
No. El Artículo 27 se aplica a los responsables del despliegue que sean organismos públicos de cualquier sistema de alto riesgo, y a los responsables del despliegue privados de sistemas del punto 5, letra b) (solvencia), o del punto 5, letra c) (seguros de vida/salud), del Anexo III. Un empleador privado que despliega una herramienta de selección de personal de alto riesgo no debe automáticamente una EIDF. Y el Artículo 27 se dirige a los responsables del despliegue, no a los proveedores.
¿Qué ocurre cuando actualizo el sistema de IA tras el despliegue?
Un cambio significativo en la finalidad prevista, en los datos de entrenamiento o en la lógica de los resultados puede constituir una modificación sustancial con arreglo al Artículo 3, apartado 23, convirtiendo a quien la realiza en proveedor con arreglo al Artículo 25 y exigiendo una nueva clasificación del Artículo 6 antes del relanzamiento. Incluso por debajo de ese umbral, el Artículo 9 exige revisar el sistema de gestión de riesgos. La vigilancia poscomercialización del Artículo 72 debe definir los umbrales que hacen obligatoria una revisión.
¿Cuáles son las sanciones por una evaluación de riesgos inadecuada?
El incumplimiento del Artículo 9 es una infracción de los requisitos de alto riesgo. El techo con arreglo al Artículo 99, apartado 4, es de 15 millones de euros o el 3 % del volumen de negocios anual mundial total, si esta última cifra es mayor. Para las empresas emergentes y las pymes, el Artículo 99, apartado 6, limita la multa al importe menor —una disposición de proporcionalidad, no un puerto seguro—. El plazo para los sistemas autónomos del Anexo III es el 2 de diciembre de 2027.
Guías relacionadas
- niveles de clasificación de riesgo de los Artículos 6 a 11
- criterios de alto riesgo del Artículo 6
- casos de uso de alto riesgo del Anexo III
- definiciones y ámbito del Artículo 3
- resumen y requisitos de la Ley de IA de la UE
- procedimientos de evaluación de la conformidad del Artículo 43
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →