Anexo III, punto 6, de la Ley de IA de la UE: IA para la evaluación de riesgos en la garantía del cumplimiento del Derecho

El Anexo III de la Ley de IA de la UE (Reglamento (UE) 2024/1689) enumera ocho categorías de sistemas de IA de alto riesgo. El punto 6 cubre la garantía del cumplimiento del Derecho. Si su sistema está destinado a ser utilizado por una autoridad de garantía del cumplimiento del Derecho, o en su nombre — o por un organismo de la Unión que apoye a dichas autoridades —, y desempeña una de las cuatro funciones enumeradas a continuación, es de alto riesgo. Las obligaciones plenas del proveedor y del responsable del despliegue se aplican desde el 2 de diciembre de 2027 en virtud del Ómnibus Digital acordado en mayo de 2026.

Lo que está en juego es concreto: el incumplimiento de los requisitos de alto riesgo conlleva una multa máxima de 15 millones de euros o el 3 % del volumen de negocios anual mundial total (si esta última cifra es mayor) con arreglo al Artículo 99, apartado 4. Una infracción del Artículo 5 — por ejemplo, desplegar un sistema que la Ley prohíbe de plano — asciende a 35 millones de euros o el 7 % con arreglo al Artículo 99, apartado 3.

Qué cubre realmente el Anexo III, punto 6

Cuatro funciones distintas desencadenan la clasificación de alto riesgo con arreglo al punto 6:

Evaluación del riesgo de victimización. IA utilizada para evaluar el riesgo de que una persona física se convierta en víctima de una infracción penal. Esto incluye las herramientas de evaluación de amenazas que puntúan a las posibles víctimas de violencia doméstica, delincuencia organizada o victimización reiterada.

Polígrafos y herramientas de detección de emociones. IA utilizada como polígrafo o herramienta similar para detectar el estado emocional de una persona, o para comprobar la fiabilidad de las declaraciones de una persona mediante señales fisiológicas o de comportamiento — análisis de estrés en la voz, reconocimiento de microexpresiones, medición de la dilatación pupilar.

Evaluación de la fiabilidad de las pruebas. IA utilizada para evaluar la fiabilidad de las pruebas en el curso de la investigación o el enjuiciamiento. Los sistemas de reconocimiento facial forense que generan clasificaciones de candidatos coincidentes, las herramientas de autenticidad de audio/vídeo que señalan posibles manipulaciones y los algoritmos de cotejo de huellas dactilares que clasifican las puntuaciones de confianza entran todos aquí, porque su resultado condiciona directamente qué pruebas llegan a un tribunal.

Riesgo de reincidencia y de delinquir — con un límite crítico. IA utilizada para evaluar el riesgo de que una persona reincida, o para predecir el riesgo de que una persona cometa una infracción penal. Aquí es donde el marco de clasificación se cruza con una prohibición de plano que exige una atención cuidadosa.

El límite de la prohibición que no puede pasar por alto

El Artículo 5, apartado 1, letra d), de la Ley de IA de la UE — en vigor desde el 2 de febrero de 2025 — prohíbe la IA que realiza evaluaciones de riesgo de personas con el fin de predecir el riesgo de comisión de una infracción penal basándose únicamente en la elaboración de perfiles o en la evaluación de los rasgos y características de la personalidad. Esta es una práctica prohibida, no de alto riesgo. Un sistema que genera una puntuación de reincidencia puramente a partir de un perfil demográfico, el comportamiento en redes sociales o rasgos de personalidad inferidos, sin ningún fundamento en hechos objetivos y verificados sobre las circunstancias de la persona, cruza a territorio prohibido.

Los casos de uso de alto riesgo del Anexo III, punto 6, son los adyacentes pero lícitos: sistemas que apoyan la evaluación humana de la garantía del cumplimiento del Derecho fundamentada en hechos objetivos y específicos de cada persona — antecedentes penales verificados, patrones de comportamiento documentados, circunstancias propias del caso —, en los que un responsable humano de la toma de decisiones revisa el resultado y asume la responsabilidad del desenlace. La línea está entre una herramienta que informa el juicio humano y una que lo sustituye por un perfil estadístico por sí solo.

Si no está seguro de en qué lado de la línea se sitúa su sistema, esa incertidumbre es en sí misma la señal para buscar asesoramiento jurídico y documentar su análisis a fondo antes del despliegue.

Elaboración de perfiles en el curso de la detección o la investigación. La IA utilizada para la elaboración de perfiles de personas físicas en el curso de la detección, la investigación o el enjuiciamiento de infracciones penales también es de alto riesgo con arreglo al punto 6. A diferencia de lo anterior, la Ley no prevé aquí una exclusión por elaboración de perfiles — la elaboración de perfiles con fines de garantía del cumplimiento del Derecho desencadena obligaciones de alto riesgo con independencia de cómo se construya el sistema.

El filtro del Artículo 6, apartado 3, y por qué rara vez se aplica aquí

El Artículo 6, apartado 3, permite a un proveedor concluir que un sistema del Anexo III no es de alto riesgo si no plantea un riesgo significativo de perjuicio para la salud, la seguridad o los derechos fundamentales — por ejemplo, porque desempeña una tarea procedimental limitada o mejora una actividad humana previamente realizada sin influir en las evaluaciones sobre personas específicas.

Este filtro es muy difícil de aplicar a los sistemas del punto 6. Todo sistema cuyo resultado condicione una decisión de la garantía del cumplimiento del Derecho sobre una persona identificada — detenerla, investigarla, acusarla o liberarla — plantea por definición un riesgo significativo para los derechos fundamentales de esa persona. Los proveedores que reclamen la exención del Artículo 6, apartado 3, para un sistema del punto 6 deben documentar esa evaluación y registrarla en la base de datos de la UE con arreglo al Artículo 49.

Quién hace qué: las funciones del proveedor y del responsable del despliegue

Las obligaciones del proveedor (Artículos 9 a 15, 43, 47, 49, 72 y 73)

El proveedor — la organización que desarrolla e introduce el sistema en el mercado, o lo pone en servicio con su propio nombre — soporta la carga más pesada.

Sistema de gestión de riesgos (Artículo 9). El proveedor debe establecer, documentar y mantener un sistema de gestión de riesgos que cubra todo el ciclo de vida: identificación de peligros, evaluación de riesgos, medidas de mitigación y evaluación del riesgo residual. Para la IA de garantía del cumplimiento del Derecho, esto significa un análisis explícito de los perjuicios por falsos positivos (una persona inocente señalada como de alto riesgo), los perjuicios por falsos negativos (una amenaza real no detectada) y el impacto dispar demográfico (si las tasas de error difieren entre grupos protegidos). El Artículo 9 es una obligación de documento vivo — la evaluación se actualiza a medida que el sistema evoluciona.

Datos y gobernanza de datos (Artículo 10). Los conjuntos de datos de entrenamiento, validación y prueba deben ser pertinentes, representativos, estar exentos de errores en la medida de lo posible y ser completos para la finalidad prevista del sistema. Para la IA de garantía del cumplimiento del Derecho, el problema de los datos históricos es agudo: los conjuntos de datos extraídos de la actividad policial pasada a menudo arrastran sesgos derivados de la vigilancia policial excesiva de comunidades concretas. El proveedor debe documentar las limitaciones conocidas y qué medidas se adoptaron para abordarlas.

Documentación técnica (Artículo 11 / Anexo IV). Antes de que el sistema salga al mercado, el proveedor debe compilar un paquete de documentación técnica del Anexo IV: diseño y arquitectura del sistema, características de los datos de entrenamiento, métricas de rendimiento desglosadas por los grupos demográficos pertinentes, limitaciones y modos de fallo conocidos, procedimientos de vigilancia poscomercialización. Este es el documento que examinaría un evaluador de la conformidad, una autoridad de vigilancia del mercado o un organismo notificado.

Transparencia e información a los responsables del despliegue (Artículo 13). El sistema debe diseñarse de modo que permita a los responsables del despliegue comprender qué hace y qué no hace. Los proveedores deben suministrar instrucciones de uso que cubran la finalidad del sistema, las características de rendimiento, las limitaciones, los requisitos de supervisión humana y los datos con los que se entrenó el sistema.

Supervisión humana (Artículo 14). Los proveedores deben diseñar la capacidad de supervisión humana — no limitarse a documentar que es deseable. El sistema debe poder ser supervisado, corregido y anulado por personal debidamente formado.

Exactitud, robustez, ciberseguridad (Artículo 15). Los sistemas de IA de garantía del cumplimiento del Derecho deben alcanzar niveles de exactitud, robustez y ciberseguridad adecuados a su finalidad prevista y a su uso indebido previsible. Las métricas de exactitud deben documentarse en la documentación técnica. La robustez cubre el comportamiento ante entradas adversarias o cambios de distribución. La ciberseguridad es especialmente relevante para los sistemas que manejan datos sensibles de justicia penal.

Evaluación de la conformidad (Artículo 43). La vía estándar para los sistemas del Anexo III, punto 6, es la evaluación de la conformidad interna — el proveedor revisa el cumplimiento de los requisitos de los Artículos 9 a 15 y documenta las conclusiones. No se requiere una evaluación obligatoria por organismo notificado tercero salvo que el sistema esté integrado en un producto regulado enumerado en el Anexo I. No obstante, «interna» no significa superficial: los reguladores escrutarán la calidad de la autoevaluación del proveedor.

Declaración UE de conformidad (Artículo 47) y marcado CE (Artículo 48). Antes de que el sistema se introduzca en el mercado, el proveedor emite una declaración de conformidad y coloca el marcado CE.

Registro en la base de datos de la UE (Artículo 49). Los sistemas de garantía del cumplimiento del Derecho del punto 6 se registran en la sección no pública de la base de datos de IA de la UE. La sección no pública es accesible a las autoridades competentes, pero no al público general — un reconocimiento de que la información operativa de la garantía del cumplimiento del Derecho requiere confidencialidad. Los proveedores registran el sistema; los responsables del despliegue que sean autoridades públicas registran su despliegue por separado.

Vigilancia poscomercialización y notificación de incidentes graves (Artículos 72 y 73). Tras el despliegue, el proveedor mantiene un sistema de vigilancia poscomercialización y notifica los incidentes graves — eventos que causan o corren el riesgo de causar un perjuicio significativo para la salud, la seguridad o los derechos fundamentales — a la autoridad de vigilancia del mercado pertinente.

Las obligaciones del responsable del despliegue (Artículos 26 y 27)

El responsable del despliegue suele ser una autoridad de garantía del cumplimiento del Derecho o un organismo de la Unión que apoya a dichas autoridades. Las obligaciones del responsable del despliegue con arreglo al Artículo 26 incluyen: utilizar el sistema en consonancia con las instrucciones del proveedor, garantizar una supervisión humana adecuada, vigilar el funcionamiento del sistema, informar a la autoridad pertinente de los riesgos graves y conservar los registros del funcionamiento del sistema durante un mínimo de seis meses.

Evaluación de impacto relativa a los derechos fundamentales (Artículo 27). Esta es la obligación que la mayoría de los responsables del despliegue de autoridades públicas encontrarán exigente. El Artículo 27 obliga a los responsables del despliegue que sean organismos públicos, o entidades privadas que presten servicios públicos, a realizar una EIDF antes de desplegar un sistema de IA de alto riesgo. La EIDF debe evaluar el impacto sobre los derechos protegidos por la Carta de los Derechos Fundamentales de la UE: el derecho a un juicio justo, la presunción de inocencia, la no discriminación, la privacidad y la libertad de circulación. Debe identificar medidas de mitigación concretas, documentar los riesgos residuales y actualizarse cuando el contexto de despliegue cambie materialmente.

Para la IA de garantía del cumplimiento del Derecho en concreto, la EIDF debe abordar: cómo se utilizarán los resultados del sistema en las decisiones operativas; qué formación tienen los agentes que actúan sobre las recomendaciones del sistema; qué mecanismos de supervisión y anulación están disponibles; y qué procedimiento de reclamación y reparación existe para las personas afectadas por las decisiones fundamentadas en el sistema.

Los responsables del despliegue que sean organismos públicos deben registrar su despliegue — incluida la EIDF — en la sección no pública de la base de datos de la UE.

Ejemplo práctico: cuerpo de policía regional, herramienta de puntuación de reincidencia

Un cuerpo de policía regional de Austria está evaluando un sistema de IA de un tercero que genera una puntuación numérica de riesgo de reincidencia para los sospechosos en el momento de la detención. La puntuación se basa en condenas previas verificadas, infracciones de supervisión documentadas y circunstancias propias del caso documentadas en el expediente. Los agentes utilizan la puntuación como una entrada más, junto con las notas de la entrevista y las declaraciones de las víctimas, al formular una recomendación de custodia al juez de guardia.

Clasificación. El sistema evalúa el riesgo de que una persona reincida — el punto 6, letra d), del Anexo III. No se basa únicamente en la elaboración de perfiles o en rasgos de personalidad (utiliza hechos objetivos y propios del caso), por lo que el Artículo 5, apartado 1, letra d), no lo prohíbe. El filtro del Artículo 6, apartado 3, es inaplicable: el sistema condiciona directamente una decisión que afecta a la libertad. Clasificación: de alto riesgo.

Obligaciones del proveedor. El proveedor de software debe documentar el sistema con arreglo al Anexo IV, incluidas métricas de rendimiento desglosadas por nacionalidad y categoría de condena previa. La documentación de gestión de riesgos del proveedor debe abordar el perjuicio por falso positivo (un agente recomienda la prisión preventiva basándose en una puntuación que resulta ser errónea) y el impacto dispar demográfico. Antes de vender a la garantía del cumplimiento del Derecho austriaca, el proveedor completa la evaluación de la conformidad interna con arreglo al Artículo 43, emite una declaración de conformidad del Artículo 47 y registra el sistema en la sección no pública de la base de datos de la UE con arreglo al Artículo 49.

Obligaciones del responsable del despliegue. El cuerpo de policía, como responsable del despliegue de una autoridad pública, realiza una EIDF del Artículo 27 antes de desplegar la herramienta. La EIDF identifica que el sistema nunca debe ser la única base de una recomendación de custodia — debe presentarse junto a un análisis humano de los hechos del caso. El cuerpo documenta su procedimiento de anulación (los agentes documentan cuándo se apartan de la puntuación y por qué), forma a los agentes de custodia sobre las limitaciones y los modos de fallo del sistema, y registra el despliegue en la sección no pública de la base de datos de la UE. Establece un registro operativo conservado durante seis meses, en consonancia con los requisitos de conservación de registros del Artículo 26.

Calendario. Tanto el proveedor como el cuerpo deben cumplir antes del 2 de diciembre de 2027. La carga de documentación — paquete del Anexo IV, evaluación de la conformidad, EIDF — es sustancial. Para un despliegue de esta sensibilidad, empezar la preparación del cumplimiento a principios de 2026 no es excesivamente prudente.

La base de datos no pública y por qué importa

El registro con arreglo al Artículo 49 se pasa a menudo por alto en los debates sobre la IA de garantía del cumplimiento del Derecho, en parte porque la sección no pública no es visible para los investigadores de la sociedad civil ni para el público general. Pero el requisito de registro cumple dos funciones prácticas. En primer lugar, crea un registro centralizado accesible a las autoridades competentes de vigilancia del mercado y a las autoridades de protección de datos — lo que significa que una omisión en el registro es en sí misma una conclusión de auditoría. En segundo lugar, para los responsables del despliegue que sean organismos públicos, el registro de la EIDF crea un rastro documentado de rendición de cuentas: qué autoridad desplegó qué sistema, con qué salvaguardas declaradas.

Los proveedores y los responsables del despliegue deben tratar el registro no como una tarea de archivo, sino como un hito de gobernanza que confirma que se han completado todas las obligaciones previas (evaluación de la conformidad, EIDF, documentación técnica).

Sanciones y por qué lo que está en juego en materia de derechos fundamentales es diferente aquí

Para la mayoría de los sistemas de IA de alto riesgo, el cálculo de las sanciones es sencillo: el incumplimiento arriesga 15 millones de euros o el 3 % con arreglo al Artículo 99, apartado 4. Ese techo también se aplica aquí.

Pero la IA de garantía del cumplimiento del Derecho también se sitúa junto a las prohibiciones del Artículo 5. Un sistema clasificado y desplegado inicialmente como de alto riesgo del Anexo III — sustentado por hechos objetivos documentados — puede derivar hacia territorio prohibido si el proveedor o el responsable del despliegue permiten que se cuele una puntuación basada únicamente en la elaboración de perfiles, o si el sistema se reentrena con conjuntos de datos que lo desplacen hacia predicciones puramente demográficas. Una infracción del Artículo 5 conlleva el techo de 35 millones de euros o el 7 % con arreglo al Artículo 99, apartado 3.

Más allá de las sanciones económicas, la IA de garantía del cumplimiento del Derecho produce decisiones que afectan directamente a la libertad. Un sistema mal clasificado, o un sistema conforme mal desplegado, puede dar lugar a una detención o un enjuiciamiento ilícitos. Ningún cálculo de multa capta eso. Los requisitos de EIDF y de supervisión humana existen precisamente porque los redactores de la Ley comprendieron que el perjuicio derivado de un fallo aquí es cualitativamente distinto del de una herramienta de cribado de RR. HH. mal configurada.

Cómo ayuda Confir

El motor de clasificación basado en reglas de Confir pasa la finalidad prevista y la descripción funcional de su sistema por los criterios del Anexo III, punto 6, y el límite del Artículo 5, apartado 1, letra d), y devuelve una conclusión de clasificación documentada — el mismo resultado cada vez, con la regla que se activó mostrada en lenguaje sencillo. Esa reproducibilidad es lo que una auditoría necesita.

Para los responsables del despliegue que sean autoridades públicas, el flujo de trabajo de la EIDF del Artículo 27 de Confir estructura la evaluación en torno a los siete derechos de la Carta más en juego en los contextos de garantía del cumplimiento del Derecho, genera un documento de evaluación listo para imprimir y lo registra de forma inalterable junto al registro de despliegue para la inscripción en la base de datos no pública.

Para los proveedores, el paquete de documentación técnica del Anexo IV cubre los campos exigidos — características de los datos de entrenamiento, métricas de rendimiento, evaluación de riesgos, procedimientos de vigilancia —, de modo que no esté reuniendo la documentación desde cero bajo presión de tiempo.

Guías relacionadas

• herramienta de clasificación de riesgos del Artículo 6
• categorías de alto riesgo del Artículo 6
• determine el nivel de riesgo de su IA
• marco de clasificación de la Ley de IA de la UE
• obligaciones de cumplimiento del Artículo 8
• requisitos de los sistemas de IA de alto riesgo