Artículo 5, apartado 1, letra a) de la Ley de IA de la UE: IA subliminal y manipuladora prohibida
El Artículo 5, apartado 1, letra a) prohíbe la IA subliminal y manipuladora desde el 2 feb 2025. Techo sancionador: 35 M€ o 7 %. Conozca qué cruza la línea y qué no.
El Artículo 5, apartado 1, letra a) de la Ley de IA de la UE prohíbe los sistemas de IA que utilizan técnicas subliminales que trascienden la consciencia de una persona — o técnicas deliberadamente manipuladoras o engañosas — para distorsionar de forma sustancial el comportamiento de un modo que causa, o es razonablemente probable que cause, un perjuicio considerable. No es una clasificación de alto riesgo. Es una prohibición absoluta, en vigor desde el 2 de febrero de 2025. No hay evaluación de la conformidad que legalice un sistema prohibido. No hay paquete de documentación que sustituya a la retirada.
Este artículo explica qué prohíben realmente el Artículo 5, apartado 1, letra a) y el estrechamente relacionado Artículo 5, apartado 1, letra b), dónde se sitúa la línea entre la manipulación ilícita y la persuasión lícita, por qué los equipos de producto ordinarios se enfrentan a una exposición genuina que quizá no hayan detectado, y cómo la lista de comprobación del Artículo 5 de Confir filtra su sistema antes de que llegue siquiera a una pregunta de clasificación.
Qué prohíbe el Artículo 5, apartado 1, letra a) — y por qué la línea es más difícil de trazar de lo que parece
El texto legal del Artículo 5, apartado 1, letra a) prohíbe la IA que:
- emplea técnicas subliminales que trascienden la consciencia de una persona, o
- emplea técnicas deliberadamente manipuladoras o engañosas,
en cualquiera de los dos casos con el objetivo o el efecto de distorsionar de forma sustancial el comportamiento de una persona o de un grupo de personas, mermando de forma apreciable su capacidad para tomar una decisión informada, haciendo que tomen una decisión que de otro modo no habrían tomado, de un modo que causa o es razonablemente probable que cause un perjuicio considerable.
Tres elementos deben alinearse: la técnica, la merma de la toma de decisiones informada y el perjuicio considerable. Los tres deben estar presentes. Esa estructura importa — es lo que separa la prohibición de una mera prohibición de la persuasión.
Las directrices de la Comisión de febrero de 2025 sobre prácticas de IA prohibidas aclaran el alcance. Las técnicas subliminales incluyen todo lo que esquiva la percepción consciente: audio por debajo del umbral de percepción, estímulos visuales demasiado breves para registrarse conscientemente, o empujones algorítmicos incrustados en una interfaz de usuario de maneras que se ocultan deliberadamente al usuario. Las técnicas manipuladoras incluyen la falsa urgencia, la escasez fabricada y los patrones de diseño que explotan sesgos cognitivos — lo que el Derecho de protección del consumidor lleva mucho tiempo llamando patrones engañosos — cuando esos patrones merman la capacidad del usuario para tomar una decisión informada y el perjuicio resultante es considerable.
El límite de licitud importa aquí. La publicidad que es persuasiva pero que no merma la toma de decisiones informada no está prohibida. La personalización que mejora la pertinencia sin esquivar la agencia racional no está prohibida. El Reglamento apunta a la combinación: cognición mermada más perjuicio considerable. Un producto que muestra una ventana emergente que dice «¡Solo quedan 2!» cuando las existencias son genuinamente escasas es una afirmación comercial. Un sistema de recomendación que fabrica señales de escasez artificial, sostiene patrones de interacción compulsiva en adolescentes y causa un perjuicio financiero o psicológico es otra cosa.
Artículo 5, apartado 1, letra b): la prohibición de explotación de vulnerabilidades
El Artículo 5, apartado 1, letra b) es una disposición complementaria. Prohíbe la IA que explota las vulnerabilidades derivadas de la edad, la discapacidad o una situación social o económica concreta de una persona para distorsionar de forma sustancial el comportamiento y causar un perjuicio considerable. La estructura es paralela a la de la letra a), pero el desencadenante es diferente: en lugar de una técnica subliminal o manipuladora, el agravio es dirigirse a una vulnerabilidad conocida de un modo que distorsiona el comportamiento y causa un perjuicio.
Un chatbot de cobro de deudas calibrado para aplicar presión a los usuarios que el sistema ha identificado como financieramente angustiados cruza la letra b). Un motor de recomendación afinado para maximizar el tiempo de visionado en niños identificados por mostrar patrones de interacción compulsiva plantea serias cuestiones de la letra b). La variable de la edad es explícita en el texto; las directrices de la Comisión tratan a las plataformas en línea y los servicios de videojuegos como especialmente expuestos.
Dónde están realmente expuestos los equipos de producto ordinarios
La trampa realista no es el malhechor caricaturesco que ejecuta publicidad subliminal. Son tres patrones de producto que tienen una finalidad comercial legítima, pero que pueden derivar a través de la línea del Artículo 5, apartado 1, letra a) sin que nadie decida cruzarla.
Sistemas de recomendación maximizadores de la interacción. Un recomendador optimizado para la duración de la sesión acumula usuarios. Si el sistema explota mecanismos psicológicos conocidos — programas de recompensa variable, desencadenantes de comparación social, empujones de aversión a la pérdida — y el resultado es un uso compulsivo que causa al usuario un perjuicio financiero o psicológico, se activa la prueba del «objetivo o efecto» del Artículo 5, apartado 1, letra a). El algoritmo no necesitaba pretender el perjuicio; el efecto basta si el perjuicio es razonablemente previsible.
Patrones engañosos en los flujos de conversión y de pago. El "confirmshaming" («No, gracias, prefiero pagar más»), las suscripciones complementarias premarcadas, los temporizadores de cuenta atrás que se reinician o las vías de cancelación deliberadamente enterradas son técnicas de diseño que esquivan la evaluación racional. Cuando estas se combinan para mermar la toma de decisiones informada y el usuario acaba en un contrato que de otro modo no habría firmado, el umbral del perjuicio considerable es alcanzable — en particular si los importes en juego son materiales o el usuario es financieramente vulnerable.
Cadenas de ingeniería de persuasión en la tecnología publicitaria. La publicidad programática que utiliza la elaboración de perfiles psicográficos para identificar y dirigirse a los usuarios cuya susceptibilidad a un mensaje concreto ha sido modelada por el sistema, y entrega ese mensaje sin divulgar la base de la segmentación, opera en territorio disputado. Las directrices de la Comisión indican que los sistemas de IA que modelan estados psicológicos individuales con fines de persuasión atraen un escrutinio estrecho con arreglo a la letra a), especialmente cuando los productos anunciados conllevan un potencial de perjuicio inherente (productos de crédito, juegos de azar, complementos alimenticios).
Ninguno de estos escenarios requiere que un solo ingeniero tenga mala intención. Emergen de las elecciones de función objetivo realizadas bajo presión comercial. Por eso la prohibición se aplica al objetivo o al efecto.
Qué no está prohibido
La prohibición tiene un límite definido, y vale la pena exponerlo explícitamente, porque la corrección excesiva también es un fallo de cumplimiento.
La personalización basada en preferencias declaradas o en el historial de interacción, sin merma de la toma de decisiones informada, no está prohibida. Un sitio de comercio electrónico que aprende que un usuario prefiere material de running y se lo muestra no está manipulando. Un agregador de noticias que entrega artículos que coinciden con el historial de lectura no está suprimiendo la agencia racional. Un algoritmo de precios que ajusta las ofertas en función de señales de demanda, divulgado al usuario, no cumple el elemento de la técnica subliminal.
La comunicación persuasiva — publicidad, afirmaciones de marketing, llamadas a la acción — que una persona razonable puede evaluar y rechazar no está prohibida. La prueba es si la técnica esquiva operativamente la evaluación, no si influye en el resultado.
El Artículo 5, apartado 1, letra a) apunta al mecanismo, no al resultado de la persuasión. La persuasión lícita influye en las decisiones. La manipulación prohibida merma la capacidad de tomarlas.
Qué dicen las directrices de la Comisión de febrero de 2025
La Comisión publicó orientaciones sobre prácticas de IA prohibidas en febrero de 2025, coincidiendo con la entrada en vigor del Artículo 5. Sobre el Artículo 5, apartado 1, letra a), las directrices formulan tres puntos que conviene interiorizar.
Primero, la formulación «que trascienden la consciencia de una persona» abarca tanto las técnicas que operan por debajo de la percepción consciente (genuinamente subliminales en el sentido neurocientífico) como las técnicas que son técnicamente visibles pero diseñadas para explotar el procesamiento automático y no deliberativo — las explotaciones del Sistema 1 de la economía conductual. La disposición no se limita a los estímulos ocultos.
Segundo, la prueba del «objetivo o efecto» significa que el sistema no necesita haberse construido con intención dañina. Un motor de recomendación optimizado para un objetivo comercial que produce un perjuicio a nivel poblacional mediante una distorsión conductual basada en mecanismos puede satisfacer la rama del efecto sin que ningún diseñador haya pretendido ese resultado.
Tercero, el perjuicio considerable se interpreta por referencia a la gravedad, la reversibilidad y la amplitud del perjuicio, no solo a su probabilidad. Un perjuicio financiero difícil de revertir, un perjuicio psicológico que afecte al funcionamiento diario o un perjuicio que afecte a un gran número de personas pueden satisfacer cada uno el umbral de forma independiente. Los equipos deben evaluar el potencial de perjuicio en estas dimensiones, no limitarse a preguntar si el perjuicio es probable.
Ejecución: en vigor desde el 2 de febrero de 2025
Las prohibiciones del Artículo 5 se aplican en toda la UE desde el 2 de febrero de 2025 — las primeras obligaciones sustantivas en virtud del Reglamento (UE) 2024/1689 en surtir efecto. No hay período de gracia, ni aplicación escalonada, ni aplazamiento del Ómnibus Digital pertinente aquí. (El Ómnibus Digital, acordado en mayo de 2026, aplazó el régimen de alto riesgo del Anexo III al 2 de diciembre de 2027 para los sistemas autónomos; no tocó el Artículo 5.)
El techo sancionador por la infracción del Artículo 5 es de 35 000 000 EUR o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor — el nivel más alto del Reglamento, fijado por el Artículo 99, apartado 3. Para las pymes y las empresas emergentes, el Artículo 99, apartado 6 limita la multa al menor del porcentaje o el importe fijo, pero eso es un ajuste del techo, no una exención sustantiva. La multa puede seguir representando una fracción material del volumen de negocios.
Las autoridades nacionales de vigilancia del mercado competentes, coordinadas por la Oficina de IA de la UE, son los organismos de ejecución. La propia Oficina de IA ostenta la jurisdicción de ejecución sobre los modelos de GPAI. Un incidente grave que active una investigación de vigilancia del mercado alcanzará la exposición al Artículo 5 dentro de la primera ronda de auditoría.
La pregunta de cumplimiento que su equipo debe responder primero
Antes de clasificar un sistema con arreglo al Artículo 6, antes de ensamblar la documentación técnica, antes de delimitar las obligaciones del Anexo III, todo sistema de IA debe superar una compuerta del Artículo 5. La pregunta no es «¿en qué nivel de riesgo se sitúa este sistema?». La pregunta es «¿emplea este sistema una técnica que distorsiona de forma sustancial el comportamiento mermando la toma de decisiones informada, de un modo que causa o es razonablemente probable que cause un perjuicio considerable?».
Esa evaluación requiere tres datos de entrada: una descripción rigurosa de las técnicas que el sistema utiliza realmente (no el uso previsto, el mecanismo operativo); un análisis realista de la población a la que llega el sistema y de si los subgrupos vulnerables están comprendidos en el ámbito; y un análisis del perjuicio — ¿en qué decisiones influye el sistema, y qué significa para una persona tomar la equivocada?
Si la respuesta es sí, el sistema está prohibido y no puede desplegarse en la UE. Ningún marcado CE lo remedia. Ningún sistema de gestión de riesgos lo mitiga. La obligación es retirarlo o rediseñarlo.
Si la respuesta es genuinamente no, el sistema procede a la clasificación con arreglo al Artículo 6. Esa es una cuestión independiente y posterior.
Cómo ayuda Confir
La lista de comprobación de prácticas prohibidas del Artículo 5 de Confir es la primera compuerta de todo flujo de clasificación. La admisión plantea al operador escenarios en lenguaje sencillo — ¿utiliza el sistema patrones de diseño que suprimen la capacidad del usuario para evaluar las opciones? ¿se dirige a vulnerabilidades psicológicas conocidas? ¿opera sobre mecanismos por debajo de la consciencia? — y contrasta las respuestas con las cuatro prohibiciones del Artículo 5, apartado 1 de forma determinista. Un sistema que supera todos los criterios de la lista de comprobación procede a la clasificación con arreglo al Artículo 6. Uno que se marca en las preguntas de manipulación o de explotación de vulnerabilidades se retiene como de riesgo inaceptable, con una explicación en lenguaje sencillo de qué criterio se activó y por qué.
El motor se basa en reglas. La misma admisión produce el mismo resultado; las reglas que se activan son legibles por humanos. Para una conclusión de cumplimiento al amparo de una disposición que conlleva una exposición de 35 M€/7 %, eso es exactamente lo que significa «reproducible y defendible ante auditoría».
Preguntas frecuentes
¿Prohíbe el Artículo 5, apartado 1, letra a) toda persuasión en los sistemas de IA?
No. La prohibición está dirigida a las técnicas que merman la capacidad de una persona para tomar una decisión informada y causan un perjuicio considerable como consecuencia. La publicidad, la personalización y las comunicaciones de marketing que un usuario puede evaluar y rechazar no cruzan el umbral. La línea está entre influir en una decisión (lícito) y mermar la capacidad de tomarla (prohibido). Las directrices de la Comisión de febrero de 2025 sobre prácticas de IA prohibidas describen el límite en detalle y deberían ser leídas por cualquier equipo que opere sistemas de recomendación, de segmentación publicitaria o de optimización de conversiones.
Nuestro sistema de recomendación maximiza la interacción — ¿activa eso automáticamente el Artículo 5, apartado 1, letra a)?
No automáticamente. La prohibición requiere tres elementos en conjunto: la técnica (subliminal o manipuladora), la merma de la toma de decisiones informada y el perjuicio considerable. Un recomendador maximizador de la interacción que opera de forma transparente, no explota vulnerabilidades psicológicas y no causa perjuicio se sitúa fuera de la prohibición. La exposición surge cuando el sistema utiliza programas de recompensa variable, mecánicas de comparación social o urgencia fabricada de maneras que merman la evaluación racional, y los usuarios sufren un perjuicio financiero o psicológico como consecuencia. Su equipo jurídico debe evaluar los mecanismos concretos, no solo el objetivo de optimización.
Utilizamos patrones engañosos en nuestro flujo de pago. ¿Está cubierto?
Los patrones engañosos como el "confirmshaming", las suscripciones premarcadas, los temporizadores de cuenta atrás que se reinician o las vías de cancelación enterradas son técnicas de diseño que merman la toma de decisiones informada. Si activan el Artículo 5, apartado 1, letra a) depende de si el perjuicio resultante es considerable. Las autoridades de protección del consumidor de toda la UE ya vienen persiguiendo la ejecución contra los patrones engañosos al amparo del Derecho del consumidor existente; el Artículo 5, apartado 1, letra a) añade una prohibición específica de la IA cuando el patrón está impulsado por IA. Si su flujo de pago o de suscripción utiliza un sistema de IA para optimizar o personalizar estos patrones, el riesgo es real.
¿Cuál es la diferencia entre el Artículo 5, apartado 1, letra a) y el Artículo 5, apartado 1, letra b)?
El Artículo 5, apartado 1, letra a) prohíbe las técnicas subliminales, manipuladoras o engañosas que distorsionan de forma sustancial el comportamiento y causan un perjuicio considerable — el mecanismo es el agravio. El Artículo 5, apartado 1, letra b) prohíbe explotar las vulnerabilidades derivadas de la edad, la discapacidad o una situación social o económica concreta de una persona para distorsionar de forma sustancial el comportamiento y causar un perjuicio considerable — la segmentación de una vulnerabilidad conocida es el agravio. Ambos exigen los elementos de la distorsión sustancial y el perjuicio considerable. Un sistema puede activar ambos: un recomendador que utiliza un mecanismo manipulador Y se dirige a usuarios identificados como financieramente vulnerables incumple por ambos motivos.
¿Cuándo entró en vigor el Artículo 5, y cuáles son las sanciones?
Las prohibiciones del Artículo 5 se aplican desde el 2 de febrero de 2025. No hay período de gracia ni aplazamiento en virtud del Ómnibus Digital (que aplazó únicamente las obligaciones de alto riesgo del Anexo III). El techo sancionador por la infracción es de 35 millones de euros o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor (Artículo 99, apartado 3 del Reglamento (UE) 2024/1689). Las pymes y las empresas emergentes tienen sus multas limitadas al menor de las dos cifras en virtud del Artículo 99, apartado 6.
Si nuestro sistema está prohibido, ¿podemos corregirlo y volver a desplegarlo?
Sí, si rediseña el sistema de modo que ya no emplee la técnica prohibida y ya no cumpla los tres elementos de la prohibición. Un sistema prohibido no puede subsanarse solo mediante documentación o gestión de riesgos — la técnica prohibida debe eliminarse. Una vez rediseñado, el sistema debe reevaluarse con arreglo al Artículo 5 antes de volver a desplegarse. Si el rediseño también cambia materialmente la función del sistema, las reglas de modificación sustancial del Artículo 3, apartado 23 pueden convertir el sistema rediseñado en un sistema nuevo a efectos de clasificación.
¿Cómo se relaciona el Artículo 5 con la clasificación de alto riesgo del Anexo III?
El Artículo 5 y el Anexo III son instrumentos jurídicos distintos. El Artículo 5 prohíbe ciertas prácticas de IA de forma absoluta — el sistema no puede introducirse en absoluto en el mercado de la UE. El Anexo III impone requisitos a los sistemas que son de alto riesgo (Artículos 9 a 15, 43, 47 a 49, 72 a 73), pero permite su despliegue cuando se cumplen esos requisitos. La compuerta del Artículo 5 va primero: un sistema que no la supera está prohibido con independencia de que también fuera de alto riesgo con arreglo al Anexo III. Un sistema que la supera procede a la clasificación. Muchos sistemas superarán el Artículo 5 y se enfrentarán después a las obligaciones del Anexo III en función de lo que el sistema haga (p. ej., un cribador de contratación o un calificador de la solvencia).
Guías relacionadas
- marco de clasificación de riesgo Artículos 6-11
- criterios de clasificación de alto riesgo del Artículo 6
- determine si su IA es de alto riesgo
- realice una evaluación de riesgos de la IA
- requisitos de gestión de riesgos del Artículo 9
- riesgo inaceptable y prácticas prohibidas
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →