Sistema de reconocimiento de emociones (definición de la Ley de IA de la UE)

Un sistema de reconocimiento de emociones es un sistema de IA destinado a distinguir o inferir las emociones o las intenciones de personas físicas a partir de sus datos biométricos. Con arreglo al Reglamento (UE) 2024/1689 —la Ley de IA de la UE—, esta categoría conlleva una de las líneas de cumplimiento más nítidas de la Ley: su uso en entornos laborales y educativos está rotundamente prohibido, mientras que su uso fuera de esos contextos sigue siendo posible, pero activa obligaciones de alto riesgo o de transparencia según el despliegue.

La definición de la Ley de IA de la UE

El Artículo 3 del Reglamento (UE) 2024/1689 establece las definiciones legales. El punto 39 define un sistema de reconocimiento de emociones como:

«un sistema de IA destinado a distinguir o inferir las emociones o las intenciones de las personas físicas a partir de sus datos biométricos.»

Tres elementos de esa definición importan en la práctica.

Los datos biométricos como dato de entrada. El sistema debe basarse en datos biométricos: características fisiológicas, conductuales o fisonómicas. Expresiones faciales captadas en vídeo, patrones de inflexión vocal, variabilidad de la frecuencia cardíaca de un dispositivo ponible, microgestos rastreados por una cámara: todo ello entra en la categoría. Un clasificador de sentimiento puramente textual que nunca trate las señales físicas de una persona queda fuera de esta definición (aunque puede afrontar otros deberes de transparencia con arreglo al Artículo 50).

Inferencia, no solo detección. La definición abarca tanto la distinción (etiquetar un estado observado, como «esta persona está frunciendo el ceño») como la inferencia («por tanto, esta persona está descontenta o poco cooperativa»). Los sistemas que van más allá e infieren intenciones —evaluar si un candidato a un empleo parece motivado, si un estudiante parece implicado— quedan plenamente comprendidos.

El límite del estado físico. La Ley traza una distinción práctica entre detectar estados físicos fácilmente perceptibles e inferir estados emocionales o intencionales. Detectar la fatiga de un conductor de larga distancia a partir de datos de seguimiento ocular, o reconocer un dolor agudo en un paciente mediante el análisis de la expresión facial, se sitúa más cerca de la medición fisiológica que de la inferencia emocional. La prohibición del artículo 5, apartado 1, letra f), tiene por objeto la inferencia de emociones e intenciones, no todo uso de datos biométricos relacionado con el estado de una persona. Esta línea no siempre es clara, pero es el límite que aplicarán los reguladores.

La prohibición en el ámbito laboral y educativo del artículo 5, apartado 1, letra f)

El artículo 5, apartado 1, letra f), prohíbe la introducción en el mercado, la puesta en servicio o el uso de sistemas de reconocimiento de emociones en dos entornos concretos: el lugar de trabajo y los centros educativos.

Esta prohibición se aplica desde el 2 de febrero de 2025. No es una obligación futura: es derecho vigente. Toda organización que actualmente utilice un sistema de este tipo en cualquiera de esos contextos ya está incumpliendo.

La excepción médica y de seguridad es estrecha. El artículo 5, apartado 1, letra f), exceptúa el uso «por razones médicas o de seguridad». Los ejemplos canónicos son clínicos: un sistema hospitalario que vigila a pacientes posoperatorios en busca de signos de malestar, o un sistema de control del conductor de un vehículo pesado de mercancías que señala una fatiga aguda antes de un episodio de microsueño. La excepción no se extiende al control general del bienestar de los empleados, al seguimiento de la productividad ni a ningún uso que mezcle la detección de seguridad con la inferencia conductual o de rendimiento. Si un sistema hace ambas cosas —señala la fatiga y puntúa la implicación del empleado—, la función prohibida contamina todo el despliegue, a menos que las funciones sean sistemas genuinamente separables.

Qué abarca el «lugar de trabajo». La prohibición no se limita a las relaciones laborales tradicionales. Entra en el ámbito de aplicación cualquier entorno profesional en el que se vigile a personas físicas durante el desempeño de actividades laborales. Esto incluye a los trabajadores a distancia vigilados por cámara web, a los trabajadores de la economía de plataformas rastreados mediante interacciones en aplicaciones y a los contratistas en las instalaciones de un cliente.

Qué abarcan los «centros educativos». Las escuelas, universidades, centros de formación profesional y plataformas de aprendizaje en línea que vigilan a los estudiantes en cuanto a su implicación, atención o respuesta emocional durante la enseñanza entran todos en el ámbito de aplicación. El software de supervisión de exámenes que infiere una intención deshonesta a partir de expresiones faciales es un ejemplo claro de uso prohibido.

El techo sancionador por una infracción del Artículo 5 es de 35.000.000 EUR o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor (artículo 99, apartado 3). Para las empresas tecnológicas en crecimiento, el porcentaje del volumen de negocios será a menudo la cifra determinante. Existe una protección de proporcionalidad: el artículo 99, apartado 6, limita las multas a las pymes y las empresas emergentes al menor de los dos importes, el porcentaje o la cantidad fija.

Cuándo es de alto riesgo el reconocimiento de emociones

Fuera de los contextos prohibidos del trabajo y la educación, los sistemas de reconocimiento de emociones quedan comprendidos en el Anexo III, ámbito 1 (biometría) de la Ley. En concreto, el Anexo III enumera el reconocimiento de emociones como caso de uso de IA de alto riesgo —junto con la identificación biométrica remota y la categorización biométrica— cuando el sistema se despliega en circunstancias no cubiertas por la prohibición del artículo 5, apartado 1, letra f).

Entre los ejemplos prácticos de despliegues potencialmente de alto riesgo y no prohibidos figuran:

• Una herramienta de garantía del cumplimiento del Derecho que evalúa señales conductuales durante las entrevistas a testigos (Anexo III, ámbito 6, garantía del cumplimiento del Derecho, también en el ámbito de aplicación).
• Un sistema de control fronterizo que infiere el estado emocional de los viajeros durante el examen de documentos (Anexo III, ámbito 7, migración y control fronterizo).
• Una plataforma de investigación clínica que infiere las respuestas emocionales de los pacientes a un tratamiento, distinta de la excepción médica del Artículo 5 en que la finalidad es la investigación, no la atención clínica directa.

Para los sistemas de reconocimiento de emociones de alto riesgo, se aplica toda la pila de cumplimiento del Artículo 6 y del Anexo III: un sistema de gestión de riesgos con arreglo al Artículo 9, documentación técnica con arreglo al Artículo 11 que cumpla los requisitos del Anexo IV, gobernanza de datos con arreglo al Artículo 10, transparencia hacia los responsables del despliegue con arreglo al Artículo 13, supervisión humana con arreglo al Artículo 14, requisitos de exactitud y robustez con arreglo al Artículo 15, y evaluación de la conformidad con arreglo al Artículo 43.

Dado que el reconocimiento de emociones se sitúa en el Anexo III, ámbito 1 (biometría), la vía de evaluación de la conformidad aplicable es la vía del organismo notificado del Anexo VII (cuando el proveedor no ha aplicado normas armonizadas), en lugar de la vía de autoevaluación interna del Anexo VI que se aplica a la mayoría de las demás categorías del Anexo III.

En virtud del Ómnibus Digital acordado en mayo de 2026, las obligaciones para los sistemas de IA de alto riesgo autónomos del Anexo III se aplican a partir del 2 de diciembre de 2027, aplazando la fecha original de agosto de 2026. Para los sistemas de reconocimiento de emociones que son componentes de seguridad de productos cubiertos por la legislación de productos de la UE enumerada en el Anexo I, la fecha es el 2 de agosto de 2028.

Los proveedores que invoquen el filtro del Artículo 6, apartado 3 —según el cual su sistema del Anexo III no plantea un riesgo significativo para la salud, la seguridad o los derechos fundamentales— deben documentar dicha evaluación. El filtro solo está disponible cuando el sistema desempeña una tarea procedimental limitada, mejora el resultado de una actividad humana previamente realizada, detecta patrones de toma de decisiones sin sustituir ni influir en la evaluación humana, o realiza un trabajo preparatorio. Todo sistema que elabore perfiles de personas físicas sigue siendo de alto riesgo con independencia del filtro.

El deber de transparencia del Artículo 50

El artículo 50, apartado 3, impone una obligación de información a los proveedores y responsables del despliegue de sistemas de reconocimiento de emociones que operan fuera de la prohibición del Artículo 5 (donde su uso sigue siendo lícito). Las personas físicas expuestas a un sistema de reconocimiento de emociones deben ser informadas de que están sometidas a tal sistema.

Este deber se aplica con independencia de que el sistema esté clasificado como de alto riesgo. Un sistema de reconocimiento de emociones de riesgo limitado —por ejemplo, una herramienta de atención al cliente que adapta el estilo de comunicación en función del tono emocional inferido— sigue activando el requisito de notificación del artículo 50, apartado 3.

La obligación de información se aplica a partir del 2 de agosto de 2026. Esa fecha no fue aplazada por el Ómnibus Digital; se aplica según lo previsto originalmente.

En la práctica, el artículo 50, apartado 3, significa que las organizaciones deben:

1. Identificar cada contexto en el que las personas se encuentran con un sistema de reconocimiento de emociones.
2. Diseñar y proporcionar una notificación clara antes o en el momento de la exposición, no enterrada en una política de privacidad.
3. Documentar el mecanismo de información como parte de su registro de transparencia más amplio.

Una infracción del Artículo 50 entra en el nivel de 15.000.000 EUR o el 3 % con arreglo al artículo 99, apartado 4, no en el techo de la prohibición del Artículo 5, pero sigue siendo un riesgo material.

Preguntas frecuentes

¿Detectar el estrés o la fatiga es lo mismo que el reconocimiento de emociones con arreglo a la Ley?

No automáticamente. La Ley de IA de la UE tiene por objeto los sistemas que infieren emociones o intenciones a partir de datos biométricos. Detectar indicadores fisiológicos de fatiga —frecuencia de bostezos, caída de los párpados, reducción del tiempo de reacción— en un contexto de asistencia a la conducción o de seguridad laboral se sitúa más cerca de la medición del estado físico que de la inferencia emocional. Los proveedores de tales sistemas deben documentar por qué su sistema detecta estados en lugar de inferir emociones o intenciones, porque la distinción no siempre es obvia y los reguladores examinarán la finalidad y los resultados del sistema, no solo su arquitectura técnica.

¿Puede un empleador utilizar el reconocimiento de emociones para el control de la seguridad al amparo de la excepción del artículo 5, apartado 1, letra f)?

Sí, pero la excepción es estrecha. El uso debe responder genuinamente a razones médicas o de seguridad —detectar fatiga o malestar agudos para prevenir un accidente laboral, por ejemplo—. No abarca la puntuación de la implicación de los empleados, el análisis de la productividad ni ninguna inferencia sobre la actitud, la honestidad o el rendimiento de un empleado. Si un sistema sirve tanto a una función de seguridad como a una función más amplia de evaluación conductual, la finalidad prohibida contamina todo el despliegue, a menos que las funciones se implementen genuinamente como sistemas separados.

¿El artículo 5, apartado 1, letra f), abarca la educación en línea y el trabajo a distancia?

Sí. La prohibición no está ligada a las instalaciones físicas. Una plataforma de aprendizaje electrónico que utiliza el análisis por cámara web para inferir si los estudiantes están prestando atención, o una herramienta de control del trabajo a distancia que analiza las expresiones faciales durante las videollamadas, entra en el ámbito de aplicación. «Lugar de trabajo» y «centro educativo» describen la finalidad y la relación del control, no la ubicación física.

¿Qué vía de evaluación de la conformidad se aplica a un sistema de reconocimiento de emociones lícito y de alto riesgo?

El reconocimiento de emociones se sitúa en el Anexo III, ámbito 1 (biometría). Con arreglo al Artículo 43, los sistemas de IA biométricos requieren por lo general la vía de evaluación de la conformidad del organismo notificado del Anexo VII, salvo que el proveedor haya aplicado normas armonizadas que cubran todos los requisitos pertinentes, en cuyo caso está disponible la autoevaluación interna del Anexo VI. La mayoría de los proveedores deben dar por supuesto que intervendrá un organismo notificado, a menos que se confirme que se aplican normas armonizadas.

¿Cuándo se aplica el deber de información del artículo 50, apartado 3?

El artículo 50, apartado 3, se aplica a partir del 2 de agosto de 2026, la fecha general de aplicación de la Ley, que no fue aplazada. Todo operador de un sistema de reconocimiento de emociones lícito (fuera de la prohibición del Artículo 5) debe informar a las personas afectadas a partir de esa fecha. La pila de cumplimiento de alto riesgo (Artículos 9 a 15, evaluación de la conformidad) se aplica desde el 2 de diciembre de 2027 para los sistemas autónomos, pero el deber de información sobre transparencia es anterior e independiente.

¿La prohibición abarca los sistemas que infieren intenciones, no solo emociones?

Sí. El artículo 3, punto 39, incluye expresamente los sistemas destinados a «distinguir o inferir las emociones o las intenciones» de personas físicas a partir de datos biométricos. Un sistema de contratación que analiza las grabaciones de entrevistas en vídeo para puntuar el aparente entusiasmo o la sinceridad de un candidato está infiriendo intenciones, no solo observando estados físicos. En un contexto laboral o educativo, tal sistema está prohibido desde el 2 de febrero de 2025.

Términos relacionados

• Reconocimiento de emociones en el lugar de trabajo: prohibición del artículo 5, apartado 1, letra f)
• Artículo 5: prácticas de IA prohibidas con arreglo a la Ley de IA de la UE
• Sistema de categorización biométrica: definición y reglas del Anexo III
• Datos biométricos: definición y alcance en la Ley de IA de la UE
• Artículo 50: deberes de transparencia para los sistemas de IA de riesgo limitado
• Anexo III: la lista de casos de uso de alto riesgo de la Ley de IA de la UE