¿Es de alto riesgo la IA de corrección de exámenes según el Reglamento de IA de la UE?
Corregir exámenes, admisiones y supervisión por IA es alto riesgo (anexo III, punto 3). Pero el reconocimiento de emociones está prohibido (art. 5(1)(f)).
Sí, en casi todas las formas que importan a una empresa edtech. La IA que corrige exámenes, califica pruebas, evalúa resultados de aprendizaje, decide quién accede a un programa o vigila a los candidatos para detectar fraudes durante una evaluación es de alto riesgo según el anexo III, punto 3 del Reglamento de IA de la UE. Las obligaciones se activan desde el 2 de diciembre de 2027. Pero hay una línea que no puedes cruzar: una función de reconocimiento de emociones en un entorno educativo no es de alto riesgo en absoluto, sino que está prohibida por el artículo 5(1)(f), sin vía de cumplimiento posible.
Esta página explica qué usos educativos son de alto riesgo, dónde se sitúa la línea de lo prohibido y qué tiene que hacer realmente un proveedor edtech privado.
Qué cubre el anexo III, punto 3
El anexo III, punto 3 designa como de alto riesgo cuatro familias de usos de IA en educación y formación profesional:
- IA destinada a determinar el acceso o la admisión, o a asignar personas, a centros de educación y formación profesional de todos los niveles;
- IA destinada a evaluar los resultados del aprendizaje, incluido cuando esos resultados orientan el proceso de aprendizaje que recibe el estudiante;
- IA destinada a evaluar el nivel educativo adecuado que recibirá una persona o al que podrá acceder;
- IA destinada a supervisar y detectar comportamientos prohibidos por parte de los estudiantes durante las pruebas: la supervisión de exámenes.
Si tu sistema hace cualquiera de estas cosas, es de alto riesgo con independencia de lo preciso, justo o bienintencionado que sea. La clasificación se basa en el uso, no en la calidad del modelo. Un corrector automático de redacciones, una prueba adaptativa que decide a qué módulo accede el alumno, un motor de puntuación de admisiones y una herramienta de supervisión por IA caen de lleno en el punto 3.
Existe una prueba que estrecha el alcance. El artículo 6(3) permite que un sistema del anexo III escape de la condición de alto riesgo si solo realiza una tarea procedimental concreta, mejora el resultado de una actividad humana ya completada, detecta patrones de decisión sin sustituir el criterio humano o hace un trabajo preparatorio; y basta con que se cumpla una de esas condiciones. Pero hay un límite infranqueable: todo sistema que elabore perfiles de una persona física es siempre de alto riesgo, y la mayoría de las herramientas de corrección y supervisión elaboran perfiles del candidato. En la práctica, la excepción del 6(3) rara vez salva a un producto de puntuación educativa. Documenta la evaluación en cualquier caso y regístrate conforme al artículo 49.
La línea que no puedes cruzar: el reconocimiento de emociones en educación está prohibido
Esta es la clasificación errónea más habitual y más peligrosa en edtech. Los sistemas de IA destinados a inferir las emociones de una persona física en los ámbitos del lugar de trabajo y los centros educativos están prohibidos por el artículo 5(1)(f), no son de alto riesgo. La prohibición está en vigor desde el 2 de febrero de 2025, mucho antes de que arranque el régimen de alto riesgo.
Así que una función de supervisión que marca a un candidato como «estresado», «ansioso» o «con probabilidad de hacer trampa» leyendo su expresión facial, microemoción o afecto durante un examen no es un sistema de alto riesgo que puedas documentar y desplegar. Está en la categoría de lo prohibido y conlleva la sanción máxima: hasta 35 millones EUR o el 7 % del volumen de negocios anual mundial total (artículo 99(3)). La excepción restringida del 5(1)(f) es para fines médicos o de seguridad, requisito que una función de detección de fraude no cumple.
| Función de IA educativa | Clasificación | Base jurídica |
|---|---|---|
| Corrección automática de exámenes/redacciones | Alto riesgo | Anexo III, pt. 3 |
| Puntuación de admisiones o asignación de plaza | Alto riesgo | Anexo III, pt. 3 |
| Supervisión: detección de comportamiento prohibido (p. ej., una segunda cara en el encuadre) | Alto riesgo | Anexo III, pt. 3 |
| Supervisión: inferencia de emoción/afecto (estrés, ansiedad) | Prohibido | Art. 5(1)(f) |
| Un corrector ortográfico o sugerencia gramatical que el docente anula libremente | Probablemente mínimo | Filtro art. 6(3) |
La regla práctica: detectar un comportamiento (una segunda persona en la sala, el candidato que abandona la cámara) puede ser una función lícita de supervisión de alto riesgo; inferir una emoción para sacar una conclusión sobre el candidato es un uso prohibido. Diseña la función al lado correcto de esa línea, o elimínala.
Qué debe hacer un proveedor edtech privado (y la trampa de la EIDF)
Si construyes y vendes IA de corrección de exámenes o de supervisión bajo tu propio nombre, eres el proveedor (artículo 16). Tus obligaciones incluyen un sistema de gestión de riesgos (artículo 9), la gobernanza de datos (artículo 10), la documentación técnica conforme al anexo IV (artículo 11), el registro de eventos (artículo 12), la transparencia y las instrucciones de uso para tus clientes (artículo 13), el diseño de la supervisión humana (artículo 14), la precisión y la solidez (artículo 15), la evaluación de la conformidad por la vía de control interno del anexo VI (artículo 43) y el registro en la base de datos de la UE (artículo 49). El centro educativo o la junta examinadora que ejecuta tu herramienta es el responsable del despliegue (artículo 26).
Aquí está la trampa que conviene corregir: una evaluación de impacto relativa a los derechos fundamentales (artículo 27) no se activa automáticamente para un proveedor edtech privado. La EIDF del artículo 27 recae sobre los responsables del despliegue que sean organismos públicos o presten servicios públicos, además de los responsables del despliegue de sistemas de solvencia crediticia (anexo III, 5(b)) y de seguros de vida/salud (5(c)). Una empresa edtech privada que vende una herramienta de calificación no es ninguno de esos. Una universidad pública o una autoridad pública de exámenes que despliega tu herramienta puede deber una EIDF, pero esa obligación es suya como responsable público del despliegue, no tuya como proveedor privado. No comercialices la EIDF como una obligación educativa universal; no lo es.
Ejemplo práctico: LernPrüf GmbH
LernPrüf GmbH es un proveedor edtech de Berlín, unos 60 empleados, unos 9 M EUR de facturación, que vende una suite de evaluación en línea a escuelas de idiomas y a algunas universidades públicas. Tiene tres funciones. (1) Un motor de corrección automática que califica pruebas escritas y orales: alto riesgo según el anexo III, punto 3; LernPrüf es el proveedor y debe todo el bloque del artículo 16. (2) Un módulo de supervisión que marca una segunda cara en el encuadre o al candidato que abandona la cámara: también supervisión de alto riesgo del punto 3; lícita con las obligaciones de proveedor y la revisión humana del artículo 14 de cada alerta. (3) Un «medidor de estrés» previsto que lee el afecto facial para puntuar la ansiedad ante el examen como señal de fraude: esto está prohibido por el artículo 5(1)(f). LernPrüf no puede lanzarlo; la única solución es eliminar la inferencia de emociones y conservar la detección de comportamiento.
Sobre la EIDF: la propia LernPrüf no debe una evaluación del artículo 27. Sus clientes universitarios públicos, como responsables públicos del despliegue, sí; y le pedirán a LernPrüf la documentación que les permita completarla, que es exactamente para lo que sirven las instrucciones de uso del artículo 13.
Cómo ayuda Confir
La lógica de clasificación de Confir contrasta un uso educativo con las prohibiciones del artículo 5 antes que con el anexo III, de modo que una función de supervisión con reconocimiento de emociones se marca como prohibida en lugar de encuadrarse por error como «alto riesgo a documentar». Para los usos genuinos del punto 3, ensambla el bloque de proveedor (artículos 9 a 15, el paquete de documentación del anexo IV y la vía de conformidad del artículo 43) e indica a un responsable del despliegue si le aplica una EIDF del artículo 27. El motor es determinista y basado en reglas: la misma entrada produce el mismo resultado, cada uno citado al artículo o punto del anexo que lo desencadenó.
Guías relacionadas
- Annex III point 3: education AI systems
- Student admission AI and the EU AI Act
- Exam monitoring and proctoring AI
- Emotion recognition in education is prohibited
- Article 5 prohibited practices
- How Article 6 classifies high-risk AI
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Empieza la prueba gratuita →