El reconocimiento de emociones en educación según el Reglamento de IA de la UE: prohibido
El reconocimiento de emociones en educación está prohibido (artículo 5(1)(f)), no es de alto riesgo. Veta desde el 2 feb 2025; multas de 35 M€ o 7 %.
Este es uno de los casos de uso que más a menudo se clasifican mal. La IA que infiere las emociones del alumnado en un entorno educativo no es un caso de «alto riesgo que hay que documentar»: está prohibida por el artículo 5(1)(f) del Reglamento de IA de la UE, el Reglamento (UE) 2024/1689. No existe una vía de cumplimiento; la respuesta es no desplegarla. Esta página traza la línea con claridad, porque la IA emocional en otros ámbitos sí puede ser lícita.
La prohibición (artículo 5(1)(f))
El artículo 5(1)(f) prohíbe los sistemas de IA utilizados para inferir las emociones de una persona física en el lugar de trabajo y los centros educativos, salvo cuando se empleen por motivos médicos o de seguridad (por ejemplo, detectar la fatiga en un contexto crítico para la seguridad). Así pues, una herramienta que afirme leer la implicación, la atención, el estrés o el estado de ánimo del alumnado a partir de su rostro o su voz en un aula o un examen está vetada. La prohibición se aplica desde el 2 de febrero de 2025, y las infracciones se sitúan en el tramo de sanciones más alto: hasta 35 millones de euros o el 7 % del volumen de negocios anual total a escala mundial (artículo 99(3)).
Por qué se señala expresamente a la educación
El Reglamento considera que el lugar de trabajo y los centros educativos son entornos con un desequilibrio de poder, donde las personas no pueden renunciar libremente y la inferencia de emociones resulta especialmente intrusiva y poco fiable. Por eso el reconocimiento de emociones se prohíbe ahí de forma tajante, en lugar de limitarse a regularlo como de alto riesgo.
Dónde la IA emocional no está prohibida
La prohibición es específica del lugar de trabajo y los centros educativos. El reconocimiento de emociones en otros contextos por lo general no está prohibido, pero puede ser de alto riesgo como uso biométrico con arreglo al anexo III, punto 1 o conllevar un deber de transparencia del artículo 50(3) (informar a las personas de que están sujetas a un reconocimiento de emociones). Por tanto, la «IA emocional» no está vetada de manera uniforme: depende de dónde y cómo se utilice. En la educación, está prohibida.
Los usos educativos vecinos de alto riesgo
Hay muchas aplicaciones de IA en educación que sí son lícitas, pero de alto riesgo con arreglo al anexo III, punto 3: los sistemas utilizados para determinar la admisión o asignación a centros educativos, para evaluar los resultados del aprendizaje, para valorar el nivel educativo apropiado o para vigilar y detectar comportamientos prohibidos durante las pruebas. Estos quedan sujetos al régimen de alto riesgo para proveedores y responsables del despliegue: no están prohibidos. Conviene mantenerlos separados de la prohibición de inferir emociones.
Ejemplo práctico: un proveedor de tecnología educativa
Scholaris desarrolla una plataforma de exámenes y se plantea añadir una función que señale al alumnado «desimplicado» o «ansioso» a partir del análisis de la webcam durante las pruebas. Esa función está prohibida por el artículo 5(1)(f): no puede comercializarse en la UE, por mucha documentación que se aporte. En su lugar, Scholaris conserva su supervisión automatizada de exámenes para detectar comportamientos prohibidos (anexo III, punto 3, alto riesgo) y su función de apoyo a la calificación (también anexo III, punto 3), ambas lícitas con el conjunto de obligaciones de alto riesgo, y descarta por completo la función de emociones.
Cómo ayuda Confir
Confir somete primero un uso educativo a la prueba de la prohibición del artículo 5(1)(f), de modo que una función de inferencia de emociones se marca como prohibida en lugar de clasificarse erróneamente como de alto riesgo, y dirige los usos educativos genuinamente de alto riesgo (anexo III, punto 3) al conjunto de obligaciones para proveedores y responsables del despliegue. El motor es determinista y basado en reglas, y cita la disposición exacta que se activó.
Preguntas frecuentes
¿El reconocimiento de emociones en educación está prohibido por el Reglamento de IA de la UE?
Sí. El artículo 5(1)(f) prohíbe la IA utilizada para inferir las emociones de una persona en el lugar de trabajo o en los centros educativos, salvo por motivos médicos o de seguridad. La prohibición se aplica desde el 2 de febrero de 2025, con multas de hasta 35 millones de euros o el 7 % del volumen de negocios mundial. No hay vía de cumplimiento: hay que evitar este uso.
¿Por qué se trata a la educación con más rigor que a otros entornos?
Porque los centros educativos implican un desequilibrio de poder en el que las personas no pueden renunciar libremente, y la inferencia de emociones es intrusiva y poco fiable. El Reglamento la prohíbe ahí de forma tajante en lugar de regularla como de alto riesgo, como sí hace con cierta IA emocional en otros contextos.
¿Toda la IA emocional está prohibida?
No. La prohibición es específica del lugar de trabajo y los centros educativos. El reconocimiento de emociones en otros ámbitos por lo general no está prohibido, pero puede ser de alto riesgo como uso biométrico con arreglo al anexo III, punto 1, y conlleva un deber de transparencia del artículo 50(3). El contexto decide.
¿Qué IA educativa es de alto riesgo en lugar de estar prohibida?
Con arreglo al anexo III, punto 3: los sistemas para la admisión o asignación a centros educativos, la evaluación de los resultados del aprendizaje, la valoración del nivel educativo apropiado y la vigilancia de comportamientos prohibidos durante las pruebas. Estos son lícitos, pero de alto riesgo, y conllevan las obligaciones de proveedor y responsable del despliegue.
¿Cuál es la sanción por desplegarlo?
El reconocimiento de emociones en educación es una práctica prohibida del tramo más alto: hasta 35 millones de euros o el 7 % del volumen de negocios anual total a escala mundial con arreglo al artículo 99(3). Las pymes y las empresas emergentes tienen como límite la menor de las dos cantidades, el porcentaje o el importe fijo, según el artículo 99(6).
Guías relacionadas
- Prácticas prohibidas del artículo 5
- Casos de uso de alto riesgo del anexo III
- Vigilancia policial predictiva: ¿prohibida o de alto riesgo?
- Cómo funciona la clasificación del riesgo de la IA
- El Reglamento de IA de la UE para la educación
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Empieza la prueba gratuita →