Práctica de IA prohibida: definición y las ocho del artículo 5

Una práctica de IA prohibida es un uso de la inteligencia artificial que la Ley de IA de la UE prohíbe por completo, sin posibilidad de cumplimiento mediante salvaguardias. No es un sistema «de alto riesgo» que pueda desplegarse si se hace la evaluación de conformidad y se documenta. Es una línea roja: el uso es ilegal en la Unión, punto. El Reglamento (UE) 2024/1689 reúne estas líneas rojas en el Artículo 5, y están en vigor desde el 2 de febrero de 2025 —antes que casi cualquier otra parte de la Ley—.

Esto importa porque la categoría se confunde a menudo con el alto riesgo. El alto riesgo es «permitido con condiciones»; lo prohibido es «no permitido». Confundir las dos cosas lleva a empresas a montar programas de conformidad para sistemas que sencillamente no pueden desplegar, o —peor— a tratar como gestionable una práctica que conlleva la sanción más alta del Reglamento.

La definición y por qué la categoría es distinta

El Artículo 5 enumera prácticas que la Unión considera de riesgo inaceptable: usos que vulneran valores fundamentales con independencia de las salvaguardias técnicas que se les añadan. La consecuencia jurídica es la más severa de la Ley. Una infracción del Artículo 5 alcanza 35.000.000 EUR o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor (Artículo 99, apartado 3) —el tramo superior, reservado precisamente a las líneas rojas—.

La clasificación se hace por el uso, no por la herramienta ni por la marca. Un mismo modelo subyacente puede emplearse de forma perfectamente legal en un caso y de forma prohibida en otro; lo que importa es la finalidad y el contexto del despliegue.

Las ocho prohibiciones del artículo 5, apartado 1

El Artículo 5, apartado 1, recoge ocho prácticas, de la letra a) a la letra h). Estas son.

a) Manipulación subliminal o engañosa. Sistemas que utilizan técnicas subliminales —por debajo de la conciencia de la persona— o deliberadamente manipuladoras o engañosas para distorsionar de forma sustancial el comportamiento, de un modo que cause o pueda causar un perjuicio significativo.

b) Explotación de vulnerabilidades. Sistemas que explotan las vulnerabilidades de una persona o grupo por razón de edad, discapacidad o situación socioeconómica para distorsionar su comportamiento de forma que cause o pueda causar un perjuicio significativo.

c) Puntuación social. La evaluación o clasificación de personas a lo largo del tiempo a partir de su comportamiento social o de características personales, cuando ello conduce a un trato perjudicial o desfavorable en contextos no relacionados con los datos originales o desproporcionado respecto del comportamiento. Es la prohibición del «social scoring» de corte estatal.

d) Predicción de delitos solo por perfilado. La evaluación del riesgo de que una persona física cometa un delito basada únicamente en la elaboración de perfiles o en la valoración de rasgos de personalidad. No prohíbe el análisis policial apoyado en hechos objetivos y verificables vinculados a una actividad delictiva; prohíbe predecir la criminalidad a partir de quién es alguien.

e) Extracción masiva de imágenes faciales. La creación o ampliación de bases de datos de reconocimiento facial mediante la extracción no selectiva (scraping) de imágenes faciales de internet o de circuitos cerrados de televisión.

f) Reconocimiento de emociones en el trabajo y la educación. Los sistemas que infieren emociones de una persona en los ámbitos del lugar de trabajo y los centros educativos, salvo por razones médicas o de seguridad. Conviene fijar este punto: el reconocimiento de emociones en el empleo o la educación está prohibido, no es de alto riesgo. Fuera de esos dos ámbitos puede ser lícito, normalmente como biometría de alto riesgo (Anexo III, punto 1) y/o con un aviso del Artículo 50, apartado 3.

g) Categorización biométrica de atributos sensibles. Los sistemas de categorización biométrica que clasifican a las personas para deducir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual. (Quedan al margen ciertos usos legítimos en el ámbito policial sobre datos adquiridos lícitamente.)

h) Identificación biométrica remota en tiempo real en espacios públicos. El uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho. Hay excepciones tasadas y muy estrictas —búsqueda de víctimas, amenaza terrorista inminente, localización de un sospechoso de delito grave—, sujetas a autorización judicial o administrativa previa. Es distinta de la identificación biométrica a posteriori (no en tiempo real), que es de alto riesgo, no prohibida.

Prohibido no es alto riesgo

La distinción decide qué puede hacer una organización. Un sistema de alto riesgo del Anexo III —cribado de currículos, puntuación de solvencia, biometría de identificación a posteriori— puede desplegarse legalmente si se completa la evaluación de la conformidad (Artículo 43), se documenta (Artículo 11) y se cumplen los deberes de los Artículos 9 a 15. Una práctica prohibida del Artículo 5 no admite ese camino: no hay conformidad que la vuelva legal. Por eso el primer paso de cualquier evaluación es comprobar si el uso cae en el Artículo 5 antes de preguntarse si es de alto riesgo.

Un ejemplo concreto

Tomemos Talento Norte S.L., una consultora de recursos humanos española de unos 80 empleados que está evaluando una herramienta de IA para sus procesos de selección. El proveedor ofrece dos funciones. La primera puntúa la idoneidad de los currículos frente a la descripción del puesto: eso entra en el Anexo III, punto 4 (empleo) y es de alto riesgo —desplegable con la documentación y la supervisión que exige la Ley—. La segunda analiza la cámara en las entrevistas en vídeo para inferir el «entusiasmo» y la «sinceridad» del candidato a partir de sus microexpresiones: eso es reconocimiento de emociones en un contexto de empleo, prohibido por el Artículo 5, apartado 1, letra f).

La conclusión para Talento Norte es nítida: puede contratar la primera función y montar el programa de alto riesgo a su alrededor; la segunda no es negociable —ninguna salvaguardia la legaliza—, y activarla expondría a la consultora al tramo de 35 millones de euros o el 7 %. La decisión correcta es desactivar la función de emociones antes del despliegue, no «gestionarla».

Cómo ayuda Confir

Distinguir lo prohibido de lo permitido es la primera bifurcación de cualquier evaluación, y la más cara de equivocar. El motor basado en reglas de Confir clasifica cada sistema de IA en virtud de los Artículos 5 y 6 a partir de respuestas en lenguaje sencillo, marcando primero si un uso cae en alguna de las ocho prohibiciones del Artículo 5 antes de evaluar el alto riesgo. La lógica es determinista: la misma descripción del uso produce la misma conclusión, y la regla que se activó es legible, de modo que la decisión de «esto está prohibido» queda registrada y es auditable, no una opinión.

Términos relacionados

• Riesgo inaceptable: la categoría que engloba las prácticas prohibidas
• Prácticas prohibidas del Artículo 5: guía operativa de las ocho prohibiciones
• Artículo 5: prácticas prohibidas: el texto y su alcance
• Identificación biométrica remota en tiempo real: la letra h) en detalle
• Reconocimiento de emociones: cuándo está prohibido y cuándo no
• Categorización biométrica: el alcance de la letra g)
• Sistema de IA de alto riesgo: la categoría «permitida con condiciones» que no debe confundirse