IA policial: ¿alto riesgo o prohibida?
Puntuar la reincidencia, los polígrafos de IA y los perfiles son alto riesgo (anexo III, pt. 6); predecir delitos solo con perfiles, prohibido.
Ambas cosas, según lo que haga el sistema. La IA usada en la actividad policial para evaluar el riesgo de que una persona delinca o reincida, para actuar como polígrafo, para valorar la fiabilidad de las pruebas o para elaborar perfiles de personas durante una investigación es de alto riesgo según el anexo III, punto 6 del Reglamento de IA de la UE, con obligaciones desde el 2 de diciembre de 2027. Pero dos usos policiales contiguos están prohibidos de plano por el artículo 5: predecir la delincuencia únicamente a partir de perfiles (5(1)(d)) y la identificación biométrica remota en tiempo real en espacios públicos (5(1)(h)). Caer del lado equivocado de esa línea es el error más caro de este ámbito.
Esta página traza con precisión la frontera entre lo prohibido y el alto riesgo, y luego expone la EIDF y la regla de la base de datos de la UE no pública que aplican a los usos de alto riesgo.
Qué cubre el anexo III, punto 6
El anexo III, punto 6 enumera usos policiales de IA que son de alto riesgo: lícitos, pero sujetos al régimen completo. Incluyen la IA destinada a ser utilizada por las autoridades policiales o en su nombre, o por organismos de la UE que las apoyen:
- para evaluar el riesgo de que una persona física delinca o reincida, cuando esa evaluación no se basa únicamente en la elaboración de perfiles (la parte basada únicamente en perfiles está prohibida, más abajo);
- para evaluar el riesgo de que una persona sea víctima de una infracción penal;
- como polígrafo o herramienta similar;
- para valorar la fiabilidad de las pruebas en el curso de una investigación o un procedimiento penal;
- para elaborar perfiles de personas físicas en el curso de la detección, la investigación o el enjuiciamiento de infracciones penales.
Son de alto riesgo porque lo que está en juego para la libertad y las garantías procesales es muy serio, pero apoyan un proceso de justicia penal dirigido por personas en lugar de sustituirlo por un veredicto automatizado. Conllevan el bloque de proveedor y las obligaciones del responsable del despliegue, no una prohibición.
La línea de lo prohibido: dónde se detiene el punto 6
Dos prohibiciones del artículo 5 se sitúan justo al lado del punto 6. Si las cruzas, no hay vía de cumplimiento: el uso está prohibido y las infracciones conllevan la sanción máxima de hasta 35 millones EUR o el 7 % del volumen de negocios anual mundial total (artículo 99(3)). Ambas prohibiciones están en vigor desde el 2 de febrero de 2025.
- Artículo 5(1)(d): predecir la delincuencia únicamente a partir de perfiles. La IA que hace evaluaciones de riesgo de personas físicas para valorar o predecir la probabilidad de que cometan una infracción penal, basándose únicamente en la elaboración de perfiles o en la valoración de rasgos y características de la personalidad, está prohibida. La versión de alto riesgo del punto 6 es la que apoya una valoración humana fundamentada en hechos objetivos y verificables directamente vinculados a una actividad delictiva. El eje es la palabra «únicamente»: la predicción basada solo en perfiles está prohibida; la evaluación de riesgo fundamentada en hechos que informa una decisión humana es de alto riesgo.
- Artículo 5(1)(h): identificación biométrica remota en tiempo real. El reconocimiento facial en directo en espacios de acceso público con fines policiales está prohibido, salvo excepciones definidas de forma restringida y autorizadas previamente (p. ej., una búsqueda selectiva de una víctima concreta o una amenaza grave e inminente). La identificación biométrica a posteriori (no en tiempo real) no está prohibida: es de alto riesgo según el anexo III, punto 1.
| Uso policial de IA | Clasificación | Base jurídica |
|---|---|---|
| Puntuación de reincidencia que informa una decisión humana sobre hechos objetivos | Alto riesgo | Anexo III, pt. 6 |
| Polígrafo de IA; valoración de fiabilidad de pruebas; elaboración de perfiles en investigación | Alto riesgo | Anexo III, pt. 6 |
| Predecir la delincuencia únicamente a partir de perfiles/rasgos | Prohibido | Art. 5(1)(d) |
| Identificación biométrica remota en tiempo real en público con fines policiales | Prohibido | Art. 5(1)(h) |
| Identificación biométrica a posteriori | Alto riesgo | Anexo III, pt. 1 |
EIDF, supervisión humana y la base de datos de la UE no pública
Para los usos de alto riesgo del punto 6, el responsable del despliegue es casi siempre una autoridad pública, de modo que la evaluación de impacto relativa a los derechos fundamentales del artículo 27 es obligatoria antes del primer uso, junto con las obligaciones del responsable del despliegue del artículo 26 y la supervisión humana del artículo 14. Una puntuación de reincidencia puede informar una decisión; no puede tomarla. El proveedor asume el bloque del artículo 16, incluida la documentación técnica del anexo IV (artículo 11) y la evaluación de la conformidad (artículo 43).
El registro tiene aquí un matiz especial. Los sistemas de alto riesgo deben registrarse en la base de datos de la UE (artículos 49 y 71), pero, en el caso de la IA de alto riesgo usada en actividades policiales, migración, asilo y control fronterizo, el registro se hace en una sección no pública (segura y restringida) de esa base de datos, no en el registro de acceso público. La obligación de registrar sigue vigente; simplemente, la entrada no se publica. No le digas a una autoridad policial que está exenta de registrarse; no lo está, solo se restringe la visibilidad.
Ejemplo práctico: una Polizeipräsidium regional
Una jefatura regional de policía, la Polizeipräsidium, evalúa tres herramientas. (1) Una evaluación de riesgo de reincidencia usada sobre personas ya imputadas, que se nutre de hechos objetivos del caso y alimenta una decisión humana documentada: alto riesgo según el anexo III, punto 6; lícita, pero necesita la supervisión humana del artículo 14, una EIDF obligatoria del artículo 27, el bloque de proveedor y el registro en la sección no pública de la base de datos de la UE. (2) La propuesta de un proveedor de una herramienta que puntúa a miembros del público según su «probabilidad de delinquir» a partir de perfiles demográficos y de comportamiento: esto está prohibido por el artículo 5(1)(d); no hay vía de documentación y no puede desplegarse. (3) Una propuesta para ejecutar reconocimiento facial en directo en las cámaras de la ciudad para marcar a los transeúntes en tiempo real: prohibido por el artículo 5(1)(h) fuera de las excepciones restringidas autorizadas. Dos de las tres están prohibidas; solo la herramienta de riesgo fundamentada en hechos puede seguir adelante, y únicamente con todo el aparato de alto riesgo.
Cómo ayuda Confir
Confir contrasta un uso policial con las prohibiciones del artículo 5 antes que con el anexo III, de modo que una herramienta de predicción de delitos basada solo en perfiles o un sistema biométrico público en tiempo real se marca como prohibido en lugar de encuadrarse como «alto riesgo a documentar». Para los usos genuinos del punto 6, ensambla el bloque de proveedor, marca la EIDF del artículo 27 como obligatoria y señala que el registro se hace en la sección restringida de la base de datos de la UE. El motor es determinista y basado en reglas, y cada resultado se cita al artículo o punto del anexo que lo desencadenó.
Guías relacionadas
- Law enforcement risk AI under Annex III
- Crime prediction and the prohibited line
- AI polygraph systems
- Evidence evaluation AI
- Real-time face recognition in public is prohibited
- Article 5 prohibited practices
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Empieza la prueba gratuita →