Los motores de recomendación de IA y la Ley de IA de la UE
La mayoría de los motores de recomendación de IA son de riesgo mínimo en la Ley de IA de la UE: no requieren evaluación de la conformidad. Conozca cuándo el Anexo III o el artículo 5 lo cambian.
La mayoría de los motores de recomendación de IA —carruseles de productos, fuentes de contenido, widgets de «quizá también te interese»— son de riesgo mínimo en virtud del Reglamento (UE) 2024/1689. No figuran en el Anexo III, no conllevan obligaciones obligatorias en virtud de la Ley de IA de la UE y no se enfrentan a ningún requisito de evaluación de la conformidad o de registro. Esa es la respuesta para la inmensa mayoría de los recomendadores. Las salvedades que la modifican son específicas y conviene conocerlas con precisión.
¿Es un motor de recomendación de IA de alto riesgo en virtud de la Ley de IA de la UE?
La Ley de IA de la UE asigna niveles de riesgo según lo que un sistema hace en su contexto de uso específico, no según la técnica que emplea. Un motor de recomendación —ya sea filtrado colaborativo, clasificación basada en contenido o un modelo neuronal híbrido— se clasifica por su finalidad y su despliegue, no por su arquitectura.
El nivel de alto riesgo se define en el artículo 6 leído junto con el Anexo III. El artículo 6, apartado 1, abarca los sistemas de IA integrados en productos que ya están regulados por una legislación de productos específica de la UE enumerada en el Anexo I (productos sanitarios, máquinas, vehículos y similares). El artículo 6, apartado 2, abarca los sistemas de IA autónomos enumerados explícitamente en el Anexo III. Ninguna de las dos vías capta un recomendador de productos o un sistema de fuente de contenido típico. El Anexo III establece ocho ámbitos —biometría, infraestructuras críticas, educación, empleo y gestión de los trabajadores, acceso a servicios privados y públicos esenciales, garantía del cumplimiento del Derecho, migración y asilo, y administración de justicia—. Un sistema de fondo (back-end) que clasifica productos para un cliente minorista, o que selecciona artículos para un lector de noticias, no entra en ninguno de esos ocho epígrafes.
El filtro del artículo 6, apartado 3, añade una capa adicional: incluso un sistema que entra en un ámbito del Anexo III no es de alto riesgo si no plantea un riesgo significativo de perjuicio para la salud, la seguridad o los derechos fundamentales —por ejemplo, porque desempeña una tarea preparatoria limitada o mejora el resultado de una actividad humana previamente realizada sin sustituir ni influir en una evaluación humana—. No obstante, todo sistema que elabore perfiles de personas físicas es siempre de alto riesgo, con independencia del filtro del artículo 6, apartado 3. Para la mayoría de los recomendadores estándar, la comprobación del Anexo III termina en el primer paso: simplemente no están enumerados.
La clasificación por defecto para todo lo que queda fuera del Anexo III y fuera de las prohibiciones del artículo 5 es riesgo mínimo —el cuarto nivel y el más poblado—. Los sistemas de riesgo mínimo no conllevan obligaciones obligatorias en virtud de la Ley. Se fomentan los códigos de buenas prácticas voluntarios, pero no son obligatorios.
Cuándo un recomendador puede ser de alto riesgo o estar prohibido
Dos vías pueden convertir un recomendador en una categoría de mayor riesgo, y ambas dependen del contexto de uso y no de si el sistema subyacente utiliza filtrado colaborativo o un modelo de transformadores.
Contextos del Anexo III. Un recomendador desplegado para clasificar o seleccionar candidatos a un empleo entra en el ámbito 4 del Anexo III: empleo, gestión de los trabajadores y acceso al autoempleo. En virtud del artículo 6, apartado 2, eso lo convierte en de alto riesgo. La misma lógica se aplica a un sistema que criba o evalúa a solicitantes de acceso a servicios privados o públicos esenciales en el ámbito 5 —por ejemplo, un sistema que clasifica a personas para la admisibilidad a prestaciones públicas, o que influye en el acceso a la evaluación de riesgos y la fijación de precios de los seguros de salud o de vida—. En esos contextos se aplica la pila completa de obligaciones de alto riesgo: un sistema de gestión de riesgos con arreglo al artículo 9, requisitos de datos y de gobernanza de datos con arreglo al artículo 10, documentación técnica con arreglo al artículo 11 y al Anexo IV, conservación de registros con arreglo al artículo 12, obligaciones de transparencia hacia los responsables del despliegue con arreglo al artículo 13, supervisión humana con arreglo al artículo 14, normas de exactitud y robustez con arreglo al artículo 15, evaluación de la conformidad con arreglo al artículo 43 antes de la introducción en el mercado, registro en la base de datos de la UE con arreglo al artículo 49 y vigilancia poscomercialización con arreglo al artículo 72. Solo la documentación técnica del artículo 11 lleva meses de ensamblaje; el plazo de obligación para los sistemas autónomos del Anexo III es el 2 de diciembre de 2027 en virtud del Ómnibus Digital acordado en mayo de 2026 (la fecha original del 2 de agosto de 2026 se ha aplazado).
Prohibiciones del artículo 5. Determinadas prácticas están directamente prohibidas con independencia del nivel de riesgo, y se aplican desde el 2 de febrero de 2025. Un recomendador que utiliza técnicas subliminales más allá de la consciencia de una persona para distorsionar materialmente su comportamiento de un modo que cause o sea probable que cause un perjuicio está prohibido en virtud del artículo 5, apartado 1, letra a). Un recomendador que explota la vulnerabilidad de un grupo concreto —por razón de edad, discapacidad o circunstancias socioeconómicas— de un modo que cause o sea probable que cause un perjuicio está prohibido en virtud del artículo 5, apartado 1, letra b). La línea entre la personalización agresiva y la manipulación prohibida no siempre es evidente de antemano, pero la prueba legal es específica: es la combinación de una técnica que elude la agencia racional y un perjuicio, o una probabilidad real de perjuicio. Un recomendador de productos que muestra artículos relevantes de un catálogo no se sitúa en ningún lugar próximo a esa línea. Un sistema diseñado para explotar una vulnerabilidad conocida —pongamos, ofrecer productos de crédito de alto interés a usuarios que han revelado previamente dificultades financieras— bien podría cruzarla. Las infracciones del artículo 5 conllevan el nivel sancionador más alto en virtud del artículo 99, apartado 3: hasta 35 000 000 EUR o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor.
El solapamiento con la DSA (una normativa distinta)
Las plataformas en línea de muy gran tamaño (VLOP) y los motores de búsqueda en línea de muy gran tamaño (VLOSE) designados en virtud del Reglamento de Servicios Digitales (DSA) se enfrentan a obligaciones obligatorias de transparencia para sus sistemas de recomendación en virtud de los artículos 27 y 38 de la DSA. Estas incluyen publicar información clara sobre los principales parámetros que determinan la clasificación, ofrecer a los usuarios la opción de recibir recomendaciones no basadas en la elaboración de perfiles y realizar evaluaciones de riesgos anuales relativas a los sistemas de recomendación.
Eso no es la Ley de IA de la UE. La DSA y la Ley de IA de la UE son reglamentos separados con bases jurídicas, cadenas de ejecución y calendarios de cumplimiento distintos. Es una confusión común —en parte porque ambos reglamentos utilizan la palabra «recomendación»—, pero fusionarlos conduce a una planificación de cumplimiento incorrecta. Una VLOP sujeta a las obligaciones de recomendación de la DSA puede tener simultáneamente un recomendador de riesgo mínimo en virtud de la Ley de IA de la UE. Cumplir los requisitos de transparencia y de exclusión de la elaboración de perfiles de la DSA no satisface (ni es exigido por) la Ley de IA de la UE, y viceversa. Mantenga los dos análisis separados y documéntelos en flujos de trabajo separados.
Qué obligaciones se aplican realmente
Para un recomendador autónomo de productos o de contenido que no entra en un ámbito del Anexo III y no despliega técnicas prohibidas del artículo 5, la respuesta honesta es: ninguna obligación obligatoria en virtud de la Ley de IA de la UE.
Eso no es lo mismo que decir que no hay nada que hacer. Dos elementos se aplican a todos los sistemas de IA, con independencia del nivel.
El artículo 4 exige a las organizaciones que despliegan sistemas de IA garantizar que su personal tenga una alfabetización en IA suficiente —un nivel adecuado de competencia para comprender los sistemas que operan—. El artículo 4 está en vigor desde el 2 de febrero de 2025 y no se limita a los sistemas de alto riesgo. Para un equipo que gestiona un recomendador, eso significa que las personas que interactúan con el sistema deben comprender, como mínimo, para qué optimiza, cómo se generan los resultados y cuáles son sus limitaciones.
La criba de prohibiciones del artículo 5 se aplica a todo sistema de IA. Aunque la clasificación termine en riesgo mínimo, un proveedor o responsable del despliegue debe poder confirmar —y documentar— que el sistema no emplea técnicas subliminales o manipuladoras que causen perjuicio, y no explota vulnerabilidades específicas. Eso es una criba rápida, no una auditoría profunda, para un recomendador estándar; pero debe quedar registrado.
Más allá de esos dos elementos, no se requiere ninguna evaluación de la conformidad, documentación técnica, registro ni sistema de gestión de riesgos para los recomendadores de riesgo mínimo. La Comisión Europea y la Oficina de IA fomentan la adhesión voluntaria a códigos de conducta, y algunas empresas optarán por adoptar voluntariamente el marco de alto riesgo como señal de calidad y confianza, pero eso es una decisión empresarial, no un requisito legal.
Qué hacer
Clasifique por uso. El primer paso es enunciar qué hace realmente el sistema en su contexto desplegado: para qué optimiza, a quién muestra sus resultados y en qué entorno de decisión. Un recomendador que clasifica productos para clientes minoristas es de riesgo mínimo. El mismo modelo subyacente reconvertido para clasificar a candidatos a un empleo para un responsable de contratación es de alto riesgo en virtud del ámbito 4 del Anexo III.
Documente la comprobación del Anexo III. Recorra cada uno de los ocho ámbitos del Anexo III de forma explícita y registre que ninguno se aplica. Si uno sí se aplica, aplique entonces el filtro del artículo 6, apartado 3, y registre también ese razonamiento. La documentación no necesita ser elaborada para un sistema claramente de riesgo mínimo, pero debe existir. Los reguladores que auditen a los responsables del despliegue preguntarán qué análisis de clasificación se hizo; «dimos por supuesto que estaba bien» no es una respuesta defendible.
Realice la criba del artículo 5. Confirme que el sistema no utiliza técnicas subliminales que causen perjuicio en virtud del artículo 5, apartado 1, letra a), y no explota vulnerabilidades de grupos específicos en virtud del artículo 5, apartado 1, letra b). Registre el resultado.
Satisfaga la alfabetización del artículo 4. Asegúrese de que el equipo que gestiona o utiliza el recomendador comprende qué hace y qué no hace. Esto ya está vivo y se aplica con independencia del nivel de riesgo.
Mantenga separada la cuestión de la DSA. Si su organización es o puede ser una VLOP o una VLOSE, aborde la transparencia de los recomendadores en virtud de la DSA en un flujo de trabajo de cumplimiento separado. No mezcle las obligaciones de la DSA y las de la Ley de IA de la UE en un único registro de cumplimiento.
Cómo ayuda Confir
Clasificar un recomendador lleva unos quince minutos en Confir. La herramienta recorre la comprobación del Anexo III y el razonamiento del artículo 6, apartado 3, mediante escenarios en lenguaje sencillo, y produce una conclusión documentada de nivel de riesgo. Si el sistema es de riesgo mínimo, esa conclusión —con el razonamiento que la sustenta— queda registrada en su registro de IA y disponible para auditoría. Si un futuro cambio en el caso de uso desplaza el contexto de despliegue hacia territorio del Anexo III, volver a ejecutar la clasificación saca a la luz el cambio y activa la pila de obligaciones correspondiente.
El motor de clasificación de Confir es basado en reglas y determinista: la misma admisión produce la misma conclusión cada vez, la regla que se activó es legible por personas y no hay inferencia ni generación implicadas. Para un producto de cumplimiento, eso no es una limitación; es la clave. Detalles en confir.eu.
Preguntas frecuentes
¿Está un motor de recomendación de productos sujeto a la Ley de IA de la UE?
Sí: todos los sistemas de IA introducidos en el mercado de la UE o puestos en servicio en la UE entran en el ámbito de aplicación de la Ley. Pero para un recomendador de productos típico (minorista, de contenido, «quizá también te interese»), la clasificación con arreglo a los artículos 5 y 6 resulta en riesgo mínimo: no está en el Anexo III, las prohibiciones del artículo 5 no se aplican a la lógica de recomendación estándar, y no surge ninguna obligación obligatoria más allá de la alfabetización en IA del artículo 4 y de documentar la propia clasificación.
¿Qué hace que un sistema de recomendación sea de alto riesgo en virtud de la Ley de IA de la UE?
El contexto de uso es el factor determinante. Un recomendador utilizado para clasificar o cribar candidatos a un empleo entra en el ámbito 4 del Anexo III (empleo y gestión de los trabajadores) y es de alto riesgo en virtud del artículo 6, apartado 2. Un sistema que influye en el acceso a servicios esenciales como la admisibilidad a prestaciones públicas o la fijación de precios de riesgo de los seguros de salud entra en el ámbito 5 del Anexo III. Fuera de esos contextos específicos del Anexo III, un recomendador es de riesgo mínimo por defecto.
¿Puede un motor de recomendación estar prohibido en lugar de ser solo de alto riesgo?
Sí, si emplea las técnicas prohibidas por el artículo 5, que está en vigor desde el 2 de febrero de 2025. Un recomendador que utiliza métodos subliminales más allá de la consciencia de una persona para distorsionar el comportamiento de formas perjudiciales está prohibido en virtud del artículo 5, apartado 1, letra a). Uno que explota la vulnerabilidad conocida de un grupo específico —edad, discapacidad, dificultades financieras— para causar o arriesgar causar un perjuicio está prohibido en virtud del artículo 5, apartado 1, letra b). La personalización estándar que muestra contenido relevante no activa ninguna de las dos prohibiciones; la prueba es la combinación de una técnica que elude la agencia racional y un perjuicio real o probable.
¿Se solapan las obligaciones de transparencia de los recomendadores de la DSA y las de la Ley de IA de la UE?
Implican algunos de los mismos sistemas, pero son normas distintas en virtud de reglamentos distintos. El Reglamento de Servicios Digitales impone requisitos de transparencia de los recomendadores y de exclusión de la elaboración de perfiles a las plataformas y los motores de búsqueda en línea de muy gran tamaño. La Ley de IA de la UE clasifica los sistemas de IA por nivel de riesgo y atribuye obligaciones al nivel de alto riesgo. El recomendador de una VLOP puede estar simultáneamente regulado por la DSA y ser de riesgo mínimo en virtud de la Ley de IA de la UE. Mantenga registros de cumplimiento separados para cada uno.
¿Se aplica el artículo 50 de la Ley de IA de la UE a los motores de recomendación?
Generalmente no. El artículo 50 —que se aplica desde el 2 de agosto de 2026— abarca los sistemas que interactúan directamente con personas físicas en tiempo real (chatbots y otras interacciones de IA que podrían confundirse con una comunicación humana), los sistemas que generan contenido sintético de audio, imagen, vídeo o texto, y los sistemas que utilizan reconocimiento de emociones o categorización biométrica. Un recomendador de fondo (back-end) que produce una lista clasificada de artículos sin generar contenido sintético ni hacerse pasar por humano no activa el artículo 50. Si un recomendador se combina con una interfaz conversacional que podría confundirse con una respuesta humana, la capa de interacción puede atraer los deberes de información del artículo 50, apartado 1, pero eso es la interfaz, no el recomendador en sí.
¿Cuándo se aplican las obligaciones de alto riesgo para los recomendadores clasificados como de alto riesgo?
En virtud del Ómnibus Digital, acordado entre el Parlamento Europeo y el Consejo en mayo de 2026 y que se espera que se adopte formalmente antes del 2 de agosto de 2026, la fecha de aplicación para los sistemas de IA de alto riesgo autónomos enumerados en el Anexo III es el 2 de diciembre de 2027. Los sistemas de IA de alto riesgo que son componentes de seguridad de productos cubiertos por la legislación de seguridad de los productos de la UE (Anexo I) se aplican desde el 2 de agosto de 2028. Un recomendador de selección de personal clasificado como de alto riesgo del ámbito 4 del Anexo III debe cumplir antes del 2 de diciembre de 2027. ---
Guías relacionadas
- Clasificación de riesgos de la Ley de IA de la UE: los cuatro niveles explicados
- Sistemas de IA de riesgo mínimo: qué exige la Ley de IA de la UE
- Prácticas de IA prohibidas del artículo 5: qué está prohibido y desde cuándo
- Anexo III: la lista completa de casos de uso de IA de alto riesgo
- Artículo 6: cómo funciona la clasificación de la IA de alto riesgo
- ¿Es mi sistema de IA de alto riesgo? Una guía paso a paso
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →