¿La IA de detección de plagio es de alto riesgo según el Reglamento de IA de la UE?
La IA que detecta copia o texto generado por IA en exámenes es de alto riesgo (anexo III, punto 3). Supervisión, falsos positivos y la línea prohibida.
Sí — en casi cualquier uso realista. Un sistema de IA que analiza los trabajos de los estudiantes para detectar plagio, suplantación contratada o texto generado por IA, o que señala conductas prohibidas durante un examen, es de alto riesgo según el anexo III, punto 3. Ese epígrafe cubre la IA usada para evaluar los resultados del aprendizaje y la IA usada para supervisar y detectar conductas prohibidas durante las pruebas. Un detector de plagio o de contenido generado por IA que decide si se sanciona a un estudiante entra de lleno.
La razón por la que el legislador de la UE trazó la línea aquí es la misma por la que estas herramientas inquietan a los docentes: un falso positivo puede costarle a un estudiante una nota, un crédito o una plaza en un curso. Por eso las obligaciones se centran en lo que los detectores hacen mal: exactitud, posibilidad de impugnación y un humano que pueda anular a la máquina (artículo 14). Una línea adyacente importa y suele pasarse por alto: si tu sistema de supervisión también lee las expresiones faciales de un estudiante para señalar estrés o "afecto sospechoso", eso es reconocimiento de emociones en la educación, que está prohibido por el artículo 5(1)(f) — una prohibición, no una obligación de alto riesgo.
Esta página traza las fronteras: cuándo la detección es de alto riesgo, el caso estrecho en que podría no serlo, dónde se adentra en territorio prohibido y qué debe cada uno, proveedor y responsable del despliegue.
Por qué la detección de plagio se sitúa en el anexo III, punto 3
El anexo III, punto 3 lista dos casos de uso educativo que convierten un sistema de IA en de alto riesgo: los sistemas usados para evaluar los resultados del aprendizaje (incluido el orientar el proceso de aprendizaje de un estudiante) y los sistemas usados para supervisar y detectar conductas prohibidas de los estudiantes durante las pruebas. Un detector de plagio y un detector de escritura por IA producen ambos una señal que alimenta una decisión de calificación o disciplinaria — eso es evaluar un resultado del aprendizaje. El software que vigila a un candidato durante un examen en línea para señalar copia es el segundo supuesto casi palabra por palabra.
El artículo 6(2) es el mecanismo: figurar en el anexo III es lo que hace que un sistema sea de alto riesgo. No hay una exclusión aparte para el "software educativo". La clasificación depende del uso —evaluar o vigilar a un estudiante—, no de que el proveedor lo llame "herramienta de integridad" o "asistente de retroalimentación de escritura".
Qué cuenta y qué es adyacente
- Detectores de plagio / coincidencia de fuentes que puntúan la similitud frente a un corpus y alimentan una decisión de integridad académica — alto riesgo.
- Detectores de contenido generado por IA ("¿esto lo escribió ChatGPT?") usados para sancionar a estudiantes — alto riesgo, y notoriamente propensos a error, lo que agudiza el deber del artículo 14.
- Supervisión de exámenes en línea (proctoring) que señala la mirada, segundas voces o el cambio de pestaña como "conducta prohibida" — alto riesgo según el segundo supuesto.
- Un mero corrector gramatical que solo sugiere ediciones al propio borrador de un estudiante, sin consecuencia de integridad o de calificación — normalmente de riesgo mínimo, porque ni evalúa un resultado ni vigila una prueba.
El problema del falso positivo y la supervisión humana del artículo 14
Los detectores de escritura por IA son el caso de manual de esta categoría. Clasifican erróneamente prosa humana como escrita por una máquina, y la tasa de error es más alta para quienes no escriben inglés como lengua materna: justo el colectivo con menos capacidad de impugnar una sanción. El Reglamento no prohíbe un detector imperfecto; exige que sea un humano, no la puntuación, quien tome la decisión.
El artículo 14 exige una supervisión humana real, no nominal. El personal del responsable del despliegue debe poder entender el resultado, interpretarlo correctamente, decidir no actuar sobre él y anularlo. Un detector que suspende automáticamente a un estudiante con una puntuación de confianza, sin que ningún docente revise la alerta, incumple el artículo 14. También lo hace un diseño de supervisión en el que se le dice al revisor "la herramienta tiene un 99 % de exactitud" y, en la práctica, se limita a refrendar.
Aquí pesan con fuerza tres requisitos más:
- Artículo 15 — precisión y solidez. El proveedor debe declarar las métricas de precisión y los límites del sistema. Un detector comercializado como definitivo cuando es probabilístico es un problema de los artículos 13 / 15.
- Artículo 10 — gobernanza de datos. Los datos de entrenamiento y validación deben examinarse en busca de sesgos — incluido el sesgo contra quien no escribe en su lengua materna.
- Artículo 13 — transparencia hacia los responsables del despliegue. Las instrucciones de uso deben decirle a la institución qué puede y qué no puede hacer la herramienta, para que un docente pueda supervisarla.
La línea de lo prohibido: el reconocimiento de emociones en la educación está prohibido
Esta es la frontera que pilla desprevenidos a los centros y a los proveedores de edtech. Muchos productos de proctoring incorporan "detección de afecto" — pretenden leer estrés, atención o emoción engañosa desde una webcam. En un entorno educativo, eso no es una función de alto riesgo que puedas documentar para sortearla.
El artículo 5(1)(f) prohíbe el uso de sistemas de IA para inferir las emociones de una persona física en los ámbitos del lugar de trabajo y de los centros educativos (salvo que el sistema se destine a fines médicos o de seguridad; detectar un estado físico como la fatiga no es reconocimiento de emociones, según el considerando 18). La prohibición se aplica desde el 2 de febrero de 2025. Así que una herramienta de proctoring que puntúa la expresión facial de un estudiante por "ansiedad indicativa de copia" es una práctica prohibida —el tramo de sanción más alto— por muy cuidadoso que sea el resto del sistema.
| Capacidad en una herramienta de supervisión de exámenes | Tramo | Base |
|---|---|---|
| Detectar texto escrito por IA / plagio para calificar | Alto riesgo | Anexo III, punto 3 |
| Señalar cambio de pestaña, segundas voces, mirada fuera de pantalla | Alto riesgo | Anexo III, punto 3 |
| Inferir la emoción de un estudiante ("estrés", "engaño") | Prohibido | Artículo 5(1)(f) |
| Verificar la identidad del candidato 1:1 para iniciar sesión (cotejo facial con su propia plantilla inscrita) | Limitado / mínimo | La verificación 1:1 queda fuera del anexo III, punto 1 |
Mantén ambas cosas separadas. Detectar conducta es de alto riesgo y lícito con todo el conjunto de obligaciones; inferir emoción en la educación está prohibido.
La estrecha exención del artículo 6(3) — y por qué rara vez aplica
El artículo 6(3) permite que un sistema del anexo III escape de la condición de alto riesgo si no plantea un riesgo significativo de daño para la salud, la seguridad o los derechos fundamentales — por ejemplo, porque realiza una tarea procedimental estrecha, o solo mejora el resultado de una actividad humana ya completada, o solo detecta patrones sin sustituir ni influir en la decisión humana. Basta una sola de estas condiciones.
Un detector que señala posibles coincidencias para que un docente las investigue, y que de forma demostrable no sustituye ni influye en la decisión de integridad académica, podría argumentarlo. Pero dos cosas suelen tumbarlo. Primera, cualquier sistema que elabora perfiles de personas físicas es siempre de alto riesgo — y puntuar a estudiantes por su estilo de escritura roza la elaboración de perfiles. Segunda, en despliegues reales la alerta sí influye en la decisión; los revisores rara vez revocan una puntuación con alta confianza. Si te apoyas en el artículo 6(3), debes documentar la evaluación y sigues teniendo que registrarte conforme al artículo 49. Trata la exención como la excepción, no como el plan.
Proveedor frente a responsable del despliegue: quién debe qué
La mayoría de los centros y universidades son responsables del despliegue; el proveedor de edtech es el proveedor. Los deberes se reparten en consecuencia — y los del responsable del despliegue son más livianos de lo que temen las instituciones, pero no triviales.
Proveedor (el suministrador) — conjunto de obligaciones del artículo 16: gestión de riesgos (artículo 9), gobernanza de datos y pruebas de sesgo (artículo 10), documentación técnica (artículo 11 / anexo IV), conservación de registros (artículo 12), transparencia e instrucciones de uso (artículo 13), supervisión humana desde el diseño (artículo 14), precisión y solidez (artículo 15), evaluación de la conformidad por la vía de control interno del anexo VI (la educación queda fuera de la exclusión de biometría, por lo que en general no se requiere organismo notificado) y registro (artículo 49).
Responsable del despliegue (la institución) — artículo 26: usar el sistema dentro de su finalidad prevista y según las instrucciones; asignar una supervisión humana competente (el artículo 14 en la práctica); supervisar el funcionamiento y conservar los registros durante al menos seis meses; informar a los estudiantes afectados cuando proceda; y —por ser un organismo público o un prestador de servicios públicos— completar una evaluación de impacto relativa a los derechos fundamentales del artículo 27 antes del primer uso.
Una advertencia sobre el artículo 25: si una institución renombra la herramienta, la modifica sustancialmente o la reutiliza para un nuevo uso de alto riesgo, puede convertirse en el proveedor y heredar los deberes más pesados.
Ejemplo práctico: Lernbrücke gGmbH, un centro en línea de tamaño medio
Lernbrücke gGmbH, un centro de secundaria en línea sin ánimo de lucro alemán, con unos 140 empleados y unos 11 M€ de facturación anual, realiza exámenes a distancia. Licencia una herramienta de terceros que (a) detecta respuestas escritas por IA y (b) vigila la webcam en busca de "conductas prohibidas".
Clasificación: ambas funciones son de alto riesgo según el anexo III, punto 3. Lernbrücke es el responsable del despliegue; el suministrador es el proveedor. Lista de comprobación de Lernbrücke: asignar a docentes como revisores humanos que puedan anular cada alerta (artículo 14), confirmar que el proveedor declara la precisión y el perfil de error del detector (artículos 13/15), usar la herramienta estrictamente dentro de su finalidad prevista y conservar los registros (artículo 26), y —como organismo educativo de servicio público— realizar una EIDF del artículo 27 antes de la puesta en marcha, apoyándose en su EIPD del RGPD existente.
Una función en la hoja de ruta del proveedor obliga a parar: un módulo de "compromiso y estrés" que infiere emoción desde la webcam. En un entorno educativo eso está prohibido por el artículo 5(1)(f). Lernbrücke debe desactivarlo —ninguna documentación lo hace lícito— y el contrato de compra debería vetar expresamente la inferencia de emociones. Si Lernbrücke ignorara esto y el módulo funcionara, la exposición salta del tramo de alto riesgo al tramo prohibido: 35 M€ o el 7 % del volumen de negocios anual mundial (artículo 99(3)) en lugar de 15 M€ o el 3 % (artículo 99(4)). El límite de pyme del artículo 99(6) toma la cifra inferior entre el porcentaje y el importe fijo — un alivio real para un organismo del tamaño de Lernbrücke, pero no una razón para operar una función prohibida.
Plazos: qué ya se aplica y qué llega en diciembre de 2027
Aquí corren dos relojes, y confundirlos es el error de planificación habitual.
La prohibición de reconocimiento de emociones del artículo 5(1)(f) está en vigor ahora, desde el 2 de febrero de 2025. Ningún aplazamiento la toca. Las obligaciones de alto riesgo del anexo III, punto 3 fijaban originalmente el 2 de agosto de 2026 en el Reglamento. El Ómnibus Digital las aplazó al 2 de diciembre de 2027, y ese aplazamiento ya es ley: el Reglamento (UE) 2026/1744 se publicó en el Diario Oficial el 24 de julio de 2026 y está en vigor desde el 27 de julio de 2026. El 2 de agosto de 2026 pasó sin que las obligaciones de alto riesgo del anexo III empezaran a aplicarse. Planifica el programa de alto riesgo con el 2 de diciembre de 2027. La prohibición no necesita ese matiz — ya te vincula.
Cómo ayuda Confir
El motor basado en reglas de Confir clasifica una herramienta de examen o de integridad por su uso: ejecuta la prueba de reconocimiento de emociones del artículo 5(1)(f) antes que la prueba de alto riesgo del anexo III, punto 3, de modo que una función de detección de afecto prohibida aflora como una conclusión de "detener el despliegue" en lugar de colarse en un plan de cumplimiento. Para la vía lícita de alto riesgo estructura la documentación del artículo 11 / anexo IV y la evaluación de impacto relativa a los derechos fundamentales del artículo 27, y mapea el diseño de supervisión humana del artículo 14 que el responsable del despliegue debe dotar de personal. El motor es determinista y basado en reglas — la misma entrada produce la misma conclusión, con la regla que se activó mostrada en lenguaje claro.
Guías relacionadas
- Anexo III: sistemas de IA en educación
- IA de supervisión de exámenes (proctoring)
- El Reglamento de IA de la UE para edtech
- Prácticas prohibidas del artículo 5
Gestiona el cumplimiento de la Ley de IA en un solo lugar
Confir automatiza la clasificación de riesgos, la documentación técnica y los registros de auditoría para tu empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Prueba gratis 14 días →