La IA de predicción de delitos y la Ley de IA de la UE: ¿prohibida o de alto riesgo?
¿Su sistema de IA de predicción de delitos está prohibido por el Artículo 5 o es de alto riesgo según el Anexo III? Trace la línea correctamente — multa de hasta 35 M€/7 % desde febrero de 2025.
La misma etiqueta — «IA de vigilancia policial predictiva» — puede describir un sistema prohibido o uno de alto riesgo. En qué lado de esa línea se sitúa su sistema depende enteramente de su diseño: en concreto, de si genera una predicción individual de delincuencia a partir de la sola elaboración de perfiles, o de si respalda una evaluación humana ya fundamentada en hechos objetivos y verificables. Equivocarse no es un fallo de documentación. Desplegar un sistema prohibido conlleva un techo sancionador de 35 millones de euros o el 7 % del volumen de negocios anual mundial en virtud del Artículo 99, apartado 3, y es exigible desde el 2 de febrero de 2025.
Este artículo traza esa línea con precisión, explica qué abarca el punto 6 del Anexo III para los sistemas que superan la prohibición y expone cómo es el cumplimiento en la práctica para los responsables del despliegue — casi siempre autoridades públicas — y sus proveedores.
La prohibición: Artículo 5, apartado 1, letra d)
El Artículo 5, apartado 1, letra d), prohíbe los sistemas de IA que realizan evaluaciones de riesgos de personas físicas para valorar o predecir la probabilidad de que una persona cometa una infracción penal, basándose únicamente en la elaboración de perfiles o en la evaluación de rasgos y características de la personalidad.
El lenguaje es específico y la palabra «únicamente» tiene peso jurídico. Un sistema que genera una puntuación individual de reincidencia o una probabilidad de «cometerá un delito» introduciendo datos demográficos, datos de comportamiento, proximidad en redes sociales o rasgos de personalidad inferidos en un modelo — sin una evaluación humana previa fundamentada en hechos objetivos y verificables directamente vinculados a una actividad delictiva — está prohibido. No importa lo preciso que sea el modelo. No importa que el resultado se etiquete como «recomendación» en lugar de como decisión. La prohibición se dirige al propio diseño de la evaluación de riesgos.
La estrecha excepción legal: la prohibición no se aplica cuando el sistema de IA se limita a respaldar una evaluación humana que ya se basa en hechos objetivos y verificables directamente vinculados a una actividad delictiva. En ese planteamiento, la evaluación humana viene primero y está fundamentada en pruebas reales; la herramienta de IA ayuda entonces a valorar esas pruebas. Esa es una arquitectura de sistema fundamentalmente distinta de la de uno que rastrea una población y produce probabilidades de delincuencia ordenadas a partir de proxies demográficos o de comportamiento.
Qué abarca la prohibición en la práctica
Una herramienta de puntuación de reincidencia que toma la edad, el historial de contactos previos, el código postal de residencia, la situación laboral y los datos de redes sociales de un individuo y produce una banda de riesgo — sin una base probatoria previa para la evaluación — entra de lleno en el Artículo 5, apartado 1, letra d). También lo hace una herramienta que analiza perfiles de personalidad, rasgos faciales correlacionados con afirmaciones de propensión delictiva o estilo de redacción para predecir delincuencia futura. Estos sistemas están prohibidos desde el 2 de febrero de 2025. No pueden hacerse conformes mediante una capa de revisión humana añadida a posteriori; la prohibición recae sobre el diseño de la IA, no sobre el flujo de trabajo de despliegue.
Desplegar o introducir en el mercado un sistema de este tipo expone a los proveedores y a los responsables del despliegue al Artículo 99, apartado 3: hasta 35 millones de euros o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor. Este es el nivel sancionador más alto del Reglamento.
La categoría de alto riesgo: punto 6 del Anexo III
Los sistemas que superan la prohibición del Artículo 5, apartado 1, letra d), se sitúan en un espacio jurídico distinto. El punto 6 del Anexo III enumera la IA para la garantía del cumplimiento del Derecho como de alto riesgo, abarcando los sistemas utilizados por las autoridades competentes en el curso de la detección, la investigación y el enjuiciamiento de infracciones penales o la ejecución de sanciones penales, incluidos:
- la IA que evalúa el riesgo de que una persona física sea víctima de infracciones penales
- la IA utilizada para evaluar la fiabilidad de las pruebas en una investigación penal
- la IA utilizada para la elaboración de perfiles de personas físicas en el curso de la detección o la investigación — cuando esa elaboración de perfiles respalde, en lugar de sustituir, una evaluación humana fundamentada en hechos objetivos directamente vinculados a una actividad delictiva
La distinción respecto de la prohibición del Artículo 5 es estructural. Un sistema del punto 6 del Anexo III no genera predicciones autónomas de delincuencia a partir de la sola elaboración de perfiles. Opera dentro de un proceso de investigación ya anclado en hechos concretos, ayudando a los investigadores a valorar pruebas, priorizar pistas o evaluar el riesgo de victimización.
Un ejemplo práctico: un sistema que analiza pruebas digitales de un dispositivo incautado para señalar comunicaciones potencialmente relevantes, presentadas junto con ese contexto probatorio a un investigador formado que adopta todas las conclusiones — eso es de alto riesgo, no está prohibido. Otro: un modelo de riesgo que evalúa la probabilidad de revictimización de denunciantes conocidas de violencia doméstica, sobre la base de informes de incidentes documentados — eso respalda la toma de decisiones de protección de víctimas sobre un expediente fáctico existente. De alto riesgo, no prohibido.
Cartografía predictiva de delitos basada en lugares
Los sistemas basados en zonas que predicen dónde es estadísticamente probable que se concentre la delincuencia — utilizando datos históricos de incidentes agregados por ubicación — no generan predicciones individuales de delincuencia y no quedan comprendidos en la prohibición del Artículo 5, apartado 1, letra d). Se dirigen a lugares, no a personas. Sin embargo, pueden seguir entrando dentro del punto 6 del Anexo III si la fuerza del orden los utiliza para dirigir recursos de investigación o de patrullaje, y plantean preocupaciones independientes en virtud del Artículo 22 del RGPD y de los marcos generales de derechos fundamentales cuando su uso canaliza la atención de la fuerza del orden hacia comunidades concretas de maneras que agravan el sesgo histórico. Esa es una cuestión de diseño y gobernanza, no una cuestión de prohibición de la Ley de IA.
El filtro del Artículo 6, apartado 3: cuándo un sistema del Anexo III podría no ser de alto riesgo
Un sistema que entra dentro del punto 6 del Anexo III no es automáticamente de alto riesgo si supera el filtro del Artículo 6, apartado 3: el proveedor puede documentar que el sistema no plantea un riesgo significativo de perjuicio para la salud, la seguridad o los derechos fundamentales — por ejemplo, porque desempeña una tarea procedimental limitada, mejora el resultado de una actividad humana previamente realizada o realiza un trabajo preparatorio sin influir en la evaluación humana.
En la práctica, esta vía de exención es estrecha para las herramientas de la garantía del cumplimiento del Derecho. Todo sistema que elabore perfiles de personas físicas es siempre, explícitamente, de alto riesgo en virtud del Artículo 6, apartado 3 — la Ley contempla expresamente ese caso. Los sistemas utilizados en el curso de investigaciones penales son, por definición, capaces de afectar a la libertad y la privacidad individuales de maneras materiales. Los proveedores que reclamen la exención del Artículo 6, apartado 3, deben documentar la evaluación y aun así registrar el sistema en la base de datos de la UE en virtud del Artículo 49.
Obligaciones para los sistemas de alto riesgo del punto 6 del Anexo III
Una vez que se confirma que un sistema es de alto riesgo (y el proveedor no ha reclamado de forma creíble la exención del Artículo 6, apartado 3), se aplica toda la pila del capítulo III.
Para los proveedores (el vendedor o desarrollador que introduce el sistema en el mercado):
- Artículo 9 — establecer y mantener un sistema de gestión de riesgos documentado a lo largo de todo el ciclo de vida del sistema. Para las herramientas de la garantía del cumplimiento del Derecho, esto significa identificar el riesgo de que los datos de entrenamiento codifiquen disparidades históricas en la actuación policial, especificar las medidas de mitigación y documentar los riesgos residuales que no pueden eliminarse.
- Artículo 10 — implantar la gobernanza de datos sobre los conjuntos de datos de entrenamiento, validación y prueba, incluida la documentación de las fuentes de datos, la cobertura demográfica y las limitaciones conocidas.
- Artículo 11 / Anexo IV — preparar el paquete de documentación técnica antes de la introducción en el mercado. Esto incluye la arquitectura del modelo, las especificaciones de los datos de entrenamiento, las métricas de rendimiento desglosadas por grupo pertinente, los resultados de las pruebas y el registro de gestión de riesgos. Conservarlo durante diez años (Artículo 18).
- Artículo 14 — diseñar el sistema para permitir una supervisión humana significativa: un investigador debe poder comprender el resultado del sistema, identificar sus limitaciones y anularlo. Un sistema arquitecturado para producir resultados que los agentes acepten sin escrutinio incumple este requisito.
- Artículo 15 — garantizar una exactitud, robustez y ciberseguridad adecuadas a la finalidad del sistema.
- Artículo 43 — completar la evaluación de la conformidad. Para los sistemas del Anexo III que no estén en la categoría de biometría (punto 1), la vía estándar es el procedimiento de control interno del Anexo VI. El proveedor emite entonces la Declaración UE de conformidad del Artículo 47 y, cuando proceda, coloca el marcado CE (Artículo 48).
- Artículo 49 — registrar el sistema en la base de datos de la UE antes del despliegue. Para la IA de la garantía del cumplimiento del Derecho, el Artículo 49, apartado 2, dispone que los datos de registro accesibles al público son limitados; los datos operativos sensibles pueden restringirse.
Para los responsables del despliegue — casi siempre autoridades públicas:
- Artículo 26 — vigilar el sistema en uso, seguir las instrucciones del proveedor, garantizar que la supervisión humana se ejerza realmente (no que esté solo estructuralmente disponible) y conservar los registros de los resultados automatizados durante al menos seis meses en virtud del Artículo 26. Si algo va mal, informar al proveedor en virtud del Artículo 26; si hay un incidente grave, el proveedor lo notifica a la autoridad de vigilancia del mercado en virtud del Artículo 73.
- Artículo 27 — realizar una Evaluación de Impacto relativa a los Derechos Fundamentales (EIDF) antes del despliegue. Los organismos públicos y los organismos que ejercen poderes públicos están obligados a realizar una EIDF para los sistemas de IA de alto riesgo enumerados en el Anexo III. La EIDF cartografía los efectos probables del sistema sobre la libertad, la privacidad, la no discriminación y la equidad procesal; identifica salvaguardias y documenta los impactos residuales. La EIDF completada se presenta a la autoridad de vigilancia del mercado cuando lo solicite y se registra en la base de datos de la UE.
- Artículo 49 — registro de la IA no pública de la garantía del cumplimiento del Derecho: el Artículo 49, apartado 4, aborda los sistemas utilizados exclusivamente por autoridades de la garantía del cumplimiento del Derecho o de gestión de fronteras, proporcionando un canal de registro específico que protege la información operativamente sensible.
El plazo para estas obligaciones es el 2 de diciembre de 2027 para los sistemas de IA de alto riesgo autónomos del Anexo III, en virtud del Ómnibus Digital acordado en mayo de 2026 (que aplazó la fecha original del 2 de agosto de 2026). Esa prórroga es un respiro para reunir la documentación — no una señal de que el cumplimiento pueda esperar. Una EIDF por sí sola lleva meses de encargar, ejecutar y validar.
La decisión de clasificación en una tabla
| Diseño del sistema | Veredicto del Artículo 5, apartado 1, letra d) | Vía de cumplimiento |
|---|---|---|
| Genera una puntuación individual de «cometerá un delito»/reincidencia a partir únicamente de datos demográficos, de personalidad o de comportamiento — sin base probatoria previa | Prohibido | No debe introducirse en el mercado ni desplegarse. En vigor desde el 2 de febrero de 2025. Multa: Art. 99, apdo. 3, hasta 35 M€/7 %. |
| Respalda una evaluación humana ya fundamentada en hechos objetivos directamente vinculados a una actividad delictiva — p. ej. evaluación de pruebas, riesgo de victimización para denunciantes conocidas | No prohibido — comprobar el punto 6 del Anexo III | De alto riesgo si está dentro del punto 6 del Anexo III; Art. 9, 11, 14, 43, 47, 49 para los proveedores; EIDF del Art. 27 + Art. 26 para los responsables del despliegue. Plazo: 2 dic 2027. |
| Cartografía de delitos basada en lugares (datos de ubicación agregados, sin predicción individual de delincuencia) | No comprendido en el Art. 5, apdo. 1, letra d) | Puede ser de alto riesgo según el punto 6 del Anexo III si se utiliza en la asignación de recursos de la garantía del cumplimiento del Derecho. Evaluar por separado. |
Cómo ayuda Confir
Clasificar correctamente un sistema de IA de la garantía del cumplimiento del Derecho — prohibido frente a alto riesgo — es la decisión más trascendental que un equipo de cumplimiento adopta sobre este tema. Las listas de comprobación basadas en reglas de los Artículos 5 / 6 de Confir le guían a través de las preguntas clave de diseño: ¿genera el sistema una predicción individual de delincuencia? En tal caso, ¿se basa únicamente en la elaboración de perfiles o en rasgos de personalidad evaluados? ¿Precede al resultado de la IA alguna evaluación humana previa fundamentada en hechos objetivos? El motor de clasificación es determinista — mismas entradas, misma conclusión, con la regla que se activó legible en lenguaje sencillo. Esa reproducibilidad importa cuando una autoridad de supervisión le pide que justifique su conclusión sobre el nivel de riesgo.
Si su sistema supera la prohibición y se sitúa en el nivel de alto riesgo del Anexo III, Confir ejecuta el flujo de trabajo de la EIDF del Artículo 27 para las organizaciones responsables del despliegue y genera el paquete de documentación técnica del Artículo 11 / Anexo IV para los proveedores.
Preguntas frecuentes
¿Está prohibida toda la IA de vigilancia policial predictiva en virtud de la Ley de IA de la UE?
No, pero la distinción es estrecha. El Artículo 5, apartado 1, letra d), prohíbe la IA que predice la probabilidad de que un individuo delinca basándose únicamente en la elaboración de perfiles o en rasgos y características de la personalidad evaluados. Los sistemas que, en cambio, respaldan la evaluación de un investigador humano ya fundamentada en hechos objetivos y verificables vinculados a una actividad delictiva no están prohibidos — son de alto riesgo en virtud del punto 6 del Anexo III. La arquitectura del sistema, no su etiqueta, determina qué categoría se aplica.
¿Qué significa «basándose únicamente en la elaboración de perfiles» en el Artículo 5, apartado 1, letra d)?
Significa que el sistema deriva su predicción individual de riesgo de atributos inferidos — datos demográficos, patrones de comportamiento, datos de redes sociales, puntuaciones de personalidad — sin una base fáctica previa en pruebas directamente conectadas a una actividad delictiva concreta. Si la IA es la fuente principal o única de la señal de riesgo, sin una evaluación humana previa fundamentada en hechos concretos, se aplica la prohibición. Añadir un paso de revisión humana nominal después del resultado de la IA no cambia el diseño ni saca al sistema de la prohibición.
¿Cuándo un sistema de IA de la garantía del cumplimiento del Derecho se califica como de alto riesgo en virtud del punto 6 del Anexo III en lugar de estar prohibido?
Cuando opera dentro de un proceso de investigación ya basado en hechos objetivos vinculados a una actividad delictiva, y su función es respaldar — no sustituir — la evaluación humana. Los ejemplos incluyen: evaluar la fiabilidad de pruebas concretas, valorar el riesgo de victimización de personas ya conocidas por la fuerza del orden sobre la base de incidentes documentados, o elaborar perfiles dentro de una investigación en curso en la que la base fáctica preexiste a la entrada de la IA. La IA añade capacidad analítica a un cuadro probatorio existente; no genera el cuadro en sí.
¿Entra la cartografía predictiva basada en lugares dentro de la prohibición del Artículo 5, apartado 1, letra d)?
No. Los sistemas basados en zonas que agregan datos históricos de delincuencia por ubicación para predecir dónde es estadísticamente probable que se concentren las infracciones no generan predicciones individuales de delincuencia y no quedan comprendidos en el Artículo 5, apartado 1, letra d). Pueden seguir entrando dentro del punto 6 del Anexo III según cómo los utilice la fuerza del orden, y plantean preocupaciones independientes sobre disparidades en la actuación policial en virtud del RGPD y de los marcos de derechos fundamentales — pero la prohibición de la elaboración de perfiles individuales de riesgo penal no se aplica.
¿Quién debe realizar una Evaluación de Impacto relativa a los Derechos Fundamentales para una herramienta de vigilancia policial predictiva?
El responsable del despliegue, en virtud del Artículo 27 — y en este contexto el responsable del despliegue es casi siempre una autoridad pública (cuerpo de policía, autoridad fiscal o equivalente). La EIDF debe completarse antes del despliegue. Evalúa los impactos sobre la libertad, la privacidad, la no discriminación y la equidad procesal, identifica salvaguardias y documenta los efectos residuales. Se presenta a la autoridad de vigilancia del mercado cuando lo solicite y se registra en la base de datos de la UE. El proveedor soporta obligaciones de documentación separadas en virtud de los Artículos 9, 11 y 43; la EIDF es específicamente la obligación del responsable del despliegue.
¿Cuál es la sanción por desplegar un sistema de IA de predicción de delitos prohibido?
El Artículo 99, apartado 3, fija el techo en 35 millones de euros o el 7 % del volumen de negocios anual mundial total del ejercicio financiero anterior, si esta última cifra es mayor. Las prohibiciones del Artículo 5 se aplican desde el 2 de febrero de 2025 — no están sujetas al aplazamiento del Ómnibus Digital que llevó el plazo de alto riesgo al 2 de diciembre de 2027. Para las pymes y las empresas emergentes, el Artículo 99, apartado 6, limita la multa al menor de los dos importes, el porcentaje o la cantidad fija, pero esa protección de proporcionalidad no elimina la prohibición en sí.
¿Cuál es el plazo de cumplimiento para la IA de la garantía del cumplimiento del Derecho de alto riesgo en virtud del punto 6 del Anexo III?
El 2 de diciembre de 2027, para los sistemas de IA de alto riesgo autónomos del Anexo III — en virtud del Ómnibus Digital acordado en mayo de 2026. La fecha original del 2 de agosto de 2026 se ha aplazado. Esto se aplica a las obligaciones del proveedor (Artículos 9, 11, 14, 43, 47, 49) y a las obligaciones del responsable del despliegue, incluida la EIDF del Artículo 27. Téngase en cuenta que la prohibición del Artículo 5, apartado 1, letra d), no se aplazó — se aplica desde el 2 de febrero de 2025.
Guías relacionadas
- clasificación de alto riesgo del Artículo 6
- casos de uso de alto riesgo del Anexo III
- obligaciones y documentación de la IA de alto riesgo
- evalúe el nivel de riesgo de su sistema de IA
- requisitos de gestión de riesgos del Artículo 9
- obligaciones de cumplimiento del Artículo 8
- panorama general del marco de clasificación de riesgos
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →