Human-in-the-loop: un término de la práctica, mapeado al artículo 14
Human-in-the-loop, on-the-loop e in-command explicados y mapeados al deber de supervisión humana del artículo 14 de la Ley de IA para IA de alto riesgo.
«Human-in-the-loop» describe un diseño en el que una persona está integrada en el ciclo de decisión de un sistema de IA y un humano actúa sobre, o aprueba, cada salida individual antes de que surta efecto. Es un término de la práctica del mundo de la ingeniería y la gobernanza de la IA —una abreviatura útil—, pero no es una expresión que use la Ley de IA de la UE. El requisito vinculante de la Ley es la supervisión humana del artículo 14, que se aplica a los sistemas de IA de alto riesgo. Si recurres a «human-in-the-loop» para describir un control de cumplimiento, el anclaje legal que en realidad necesitas es el artículo 14.
El valor del término es que se sitúa en un espectro —human-in-the-loop, human-on-the-loop, human-in-command— que ayuda a razonar sobre cuánto control humano necesita un sistema dado. La Ley no prescribe qué punto del espectro elegir; exige que la supervisión que diseñes sea efectiva y proporcionada al riesgo.
Las tres posturas de supervisión
Estos tres términos son vocabulario de gobernanza, no categorías legales. Describen grados crecientes de control humano:
| Postura | Qué significa | Ajuste típico |
|---|---|---|
| Human-in-the-loop | Un humano revisa cada salida y actúa sobre ella antes de que surta efecto; el sistema no puede completar la decisión solo | Decisiones individuales de alto impacto: una denegación de préstamo, una imagen médica marcada, un rechazo de selección |
| Human-on-the-loop | El sistema opera de forma autónoma, pero un humano lo monitoriza y puede intervenir, anular o detenerlo | Entornos de gran volumen donde la revisión pieza a pieza es impracticable pero la supervisión y un botón de parada son esenciales |
| Human-in-command | Un humano conserva la autoridad general sobre si, cuándo y cómo se usa el sistema; control estratégico sobre el papel del sistema, no sobre salidas individuales | La capa de gobernanza por encima de cualquier decisión concreta; fija las condiciones bajo las que el sistema puede ejecutarse |
No son mutuamente excluyentes: un despliegue bien gobernado suele tener human-in-command en lo alto (la organización decide que el sistema puede usarse y bajo qué límites), con in-the-loop u on-the-loop operando en la capa de decisión, elegido según cuánto riesgo cargue cada decisión.
Cómo se mapean al artículo 14
El artículo 14 exige que los sistemas de IA de alto riesgo se diseñen y desarrollen de modo que puedan ser supervisados de forma efectiva por personas físicas durante el periodo en que estén en uso. El fin es prevenir o minimizar los riesgos para la salud, la seguridad y los derechos fundamentales. La Ley no impone «human-in-the-loop» por su nombre: exige supervisión efectiva, y las tres posturas son simplemente formas de entregarla.
El artículo 14 reparte el trabajo entre dos agentes:
El proveedor diseña las medidas (artículo 14, con el artículo 16). El proveedor debe incorporar, o especificar, medidas de supervisión antes de que el sistema llegue al mercado, de modo que quienes lo supervisan puedan:
- entender adecuadamente las capacidades y limitaciones del sistema y vigilar su funcionamiento, incluido el seguimiento de anomalías y rendimiento inesperado;
- mantenerse conscientes de la tendencia a confiar en exceso en la salida del sistema —el sesgo de automatización que protege el artículo 14(4)(b)— y contrarrestarla;
- interpretar correctamente la salida;
- decidir, en cualquier caso concreto, no usar el sistema o descartar, anular o revertir su salida; e
- intervenir o interrumpir el sistema, incluso mediante una función de «parada».
El responsable del despliegue asigna personas competentes (artículo 26). La supervisión solo es real si un humano capaz la ejerce de verdad. Bajo el artículo 26, el responsable del despliegue debe encomendar la supervisión humana a personas físicas que tengan la competencia, formación y autoridad necesarias, y los recursos para ejercerla. Un proveedor puede diseñar una bonita interfaz de supervisión; si el responsable del despliegue la dota con alguien que carece de autoridad para anular una decisión, la supervisión falla en la práctica. El deber, por tanto, recorre ambos roles —proveedor (diseño) y responsable del despliegue (ejecución)— y encaja con la obligación de alfabetización en IA del artículo 4, aplicable desde el 2 de febrero de 2025, que exige a proveedores y responsables del despliegue adoptar medidas para apoyar la alfabetización en IA del personal que trata con IA.
Para sistemas especialmente sensibles —en particular ciertos sistemas de identificación biométrica remota— el artículo 14 impone un estándar más estricto: actuar sobre la salida del sistema requiere la verificación de al menos dos personas físicas con la competencia necesaria (el requisito de «cuatro ojos»).
Por qué «human-in-the-loop» por sí solo no equivale a cumplimiento
Dos advertencias:
Una revisión humana no es automáticamente supervisión efectiva. Poner a una persona al final de la cadena que sella las salidas de la IA —porque confía en ellas, le falta tiempo o le falta autoridad para oponerse— satisface la etiqueta pero incumple el artículo 14. El requisito es que quien supervisa pueda entender, cuestionar y anular de verdad. Por eso precisamente el artículo 14(4)(b) señala el sesgo de automatización: una supervisión que el diseño no protege frente a la confianza excesiva es supervisión solo de nombre.
La postura correcta depende de la decisión, no de un eslogan. Para una única decisión irreversible que afecta a los derechos de una persona, la revisión in-the-loop puede estar justificada. Para un sistema de monitorización que procesa miles de eventos, la supervisión on-the-loop con capacidad de intervención puede ser la opción efectiva y proporcionada. El artículo 14 quiere el nivel apropiado: elegir «in-the-loop en todo» puede incluso degradar la seguridad si desborda a los revisores hacia una aprobación refleja.
Ejemplo práctico
Sør-Helse Klinikk AS, un proveedor de diagnóstico noruego de ~250 empleados y ~44 M€ de facturación con clínicas también en Suecia, despliega un sistema de IA de alto riesgo que marca posibles anomalías en escáneres de radiología (un uso de alto riesgo por la vía anexo III / producto sanitario). Tiene que diseñar la supervisión bajo el artículo 14 y dotarla bajo el artículo 26.
- Postura elegida: human-in-the-loop en la capa de decisión. La IA marca y prioriza; un radiólogo revisa cada escáner marcado y toma la decisión diagnóstica. El sistema no puede emitir un diagnóstico por sí solo.
- Diseño del proveedor bajo el artículo 14 (entregado por el fabricante del sistema): la interfaz muestra la confianza del modelo y las regiones que impulsan cada marca; expone las limitaciones conocidas; permite al radiólogo descartar o anular cualquier marca y registra la anulación; y hay un control de «parada».
- Ejecución del responsable del despliegue bajo el artículo 26 (tarea de Sør-Helse): asigna la supervisión a radiólogos cualificados con la autoridad y el tiempo para contradecir a la IA, y los forma, incluido explícitamente sobre no plegarse a la marca (el punto del sesgo de automatización del artículo 14(4)(b)). Documenta quién es competente y está autorizado.
- On-the-loop donde procede: para una función de poca importancia que solo reordena la cola de lectura, Sør-Helse opera human-on-the-loop —un radiólogo jefe monitoriza el orden y puede intervenir—, en lugar de reverificar cada reordenación.
El resultado es human-in-command en lo alto (la clínica decide que el sistema puede usarse, y bajo qué límites), in-the-loop para las marcas diagnósticas, on-the-loop para el orden de la cola, todo entregando el único requisito legal: supervisión humana efectiva bajo el artículo 14.
(Calendario: este régimen de alto riesgo se aplica desde el 2 de diciembre de 2027 para los sistemas autónomos del anexo III y desde el 2 de agosto de 2028 para los integrados en productos del anexo I. Son las fechas fijadas por el Reglamento (UE) 2026/1744 (Ómnibus Digital sobre IA), publicado en el DOUE el 24 de julio de 2026 y en vigor desde el 27 de julio de 2026; las fechas originales eran el 2 de agosto de 2026 y el 2 de agosto de 2027.)
Cómo ayuda Confir
La evaluación estructurada de Confir cubre Transparencia y Supervisión Humana (artículos 13, 14, 27 y 50) junto a las demás áreas de requisitos de alto riesgo. Para un sistema de alto riesgo, expone las medidas de supervisión del artículo 14 que el proveedor debe diseñar y los deberes de competencia y autoridad del artículo 26 que el responsable del despliegue debe dotar —incluida la protección frente al sesgo de automatización del artículo 14(4)(b)— como controles concretos y documentables. El motor es determinista y basado en reglas: la misma entrada produce la misma lista de verificación de supervisión, y la regla detrás de cada elemento es legible por una persona, de modo que puedes mostrar a un auditor exactamente por qué se exige un control.
Guías relacionadas
- Artículo 14: supervisión humana
- Implementación de la supervisión humana
- Supervisión humana en la práctica
- Sesgo de automatización — glosario
- Alfabetización en IA — glosario
- Sistema de IA de alto riesgo — glosario
- Obligaciones del responsable del despliegue (artículo 26)
Gestiona el cumplimiento de la Ley de IA en un solo lugar
Confir automatiza la clasificación de riesgos, la documentación técnica y los registros de auditoría para tu empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Prueba gratis 14 días →