IA en el despacho y el triaje de emergencias: alto riesgo según el anexo III, punto 5(d), de la Ley de IA de la UE
La IA que clasifica llamadas al 112 o prioriza el despacho de ambulancias es de alto riesgo (anexo III, punto 5(d)). Disparador, obligaciones, plazo.
Un modelo que puntúa la urgencia de las llamadas entrantes al 112, ordena la cola de ambulancias o realiza el triaje de pacientes en un servicio de urgencias decide quién recibe ayuda primero. Y, según la Ley de IA de la UE, eso lo convierte en alto riesgo. El anexo III, punto 5(d), del Reglamento (UE) 2024/1689 menciona de forma expresa la evaluación de llamadas de emergencia, la priorización del despacho y el triaje de pacientes. Que sea una persona quien pulse «enviar» no cambia la clasificación.
El disparador: qué clasifica realmente el anexo III, punto 5(d)
El anexo III, punto 5(d), del Reglamento (UE) 2024/1689 menciona los sistemas de IA destinados a evaluar y clasificar llamadas de emergencia, o a despachar o establecer prioridades en el despacho de servicios de primera respuesta de emergencia —incluidos policía, bomberos y asistencia médica—, así como los sistemas de triaje de pacientes en la atención sanitaria de urgencia. Abarca toda la cadena, desde que entra la llamada hasta que se asigna una unidad.
La prueba de la finalidad prevista, no el sector de despliegue
La clasificación según el anexo III depende de la finalidad prevista del sistema, no del sector en el que operas ni de la tecnología que uses. Un puntuador de urgencia de llamadas, un motor que ordena colas y un modelo de triaje hospitalario entran todos en el ámbito porque su resultado determina quién recibe ayuda de primera respuesta y en qué orden. No importa si el modelo es una red neuronal o una tabla de reglas, ni que sea una persona quien pulse «enviar». Si el resultado influye en la priorización, el sistema está dentro del ámbito.
Dónde se sitúa la frontera: decisiones de despacho frente a herramientas de oficina
No toda herramienta de la sala de control es de alto riesgo. La previsión de recursos, la planificación de turnos y la transcripción que no alimenta la priorización quedan fuera del punto 5(d). Pero en el momento en que se puntúa una transcripción por su urgencia, el análisis cambia: traza la línea en la capa de decisión, no en el sector. Se trata de un sistema autónomo del anexo III, de modo que se aplica directamente todo el conjunto de alto riesgo —artículos 8 a 15, 16, 26 y 43— sin acto sectorial intermedio, a diferencia de la ruta del anexo I.
Por qué la priorización con impacto en la vida se trata como alto riesgo
El punto 5(d) se sitúa dentro del anexo III, punto 5, que abarca el acceso a servicios y prestaciones esenciales, tanto privados como públicos. La respuesta de emergencia es el ejemplo más claro: su retraso o denegación afecta directamente a la salud, la seguridad y la vida.
El encuadre de los servicios esenciales en el anexo III, punto 5
Los demás apartados del punto 5 —prestaciones públicas (5(a)), solvencia (5(b)) y tarificación de seguros de vida y salud (5(c))— comparten una misma lógica: un resultado automatizado condiciona el acceso a algo de lo que una persona depende. Una llamada mal clasificada o un paciente con triaje insuficiente significan una ambulancia que llega tarde o una respuesta contra incendios despriorizada: daños a la seguridad física y a los derechos fundamentales. Por eso el artículo 6(2) incluye estos sistemas como de alto riesgo en el anexo III.
El filtro del artículo 6(3) y por qué rara vez se supera aquí
El artículo 6(3) permite a un proveedor autoevaluar un sistema del anexo III como no de alto riesgo cuando no plantea un riesgo significativo de daño —por ejemplo, porque solo realiza una tarea procedimental limitada o se limita a mejorar una actividad humana ya concluida—. Ese filtro está estructuralmente disponible para los sistemas del punto 5, pero casi nunca se supera en el despacho o el triaje: un sistema que influye en la priorización con impacto en la vida no es, por definición, ni limitado ni cosmético. Un proveedor que lo invoca sigue cargando con el deber de documentación y debe registrarse conforme al artículo 49 en cualquier caso.
En qué se diferencia el 5(d) de la prueba del componente de seguridad del punto 2
Separa el punto 5(d) de su hermano de infraestructuras críticas: el anexo III, punto 2, depende de si la IA es un componente de seguridad de una infraestructura física, mientras que el punto 5(d) depende de si prioriza el acceso a un servicio esencial dirigido a las personas. Mismo anexo, disparador distinto y un deber posterior diferente para los responsables del despliegue públicos.
El conjunto de obligaciones: artículos 9 a 15, supervisión y registro de eventos
La columna vertebral documental recorre el artículo 11 (el expediente técnico del anexo IV, antes de la introducción en el mercado), el artículo 13 (las instrucciones de uso que cubren límites y comportamiento en modo degradado) y el artículo 15 (precisión, solidez y ciberseguridad para un sistema crítico para la vida y de funcionamiento permanente).
Gestión de riesgos del artículo 9 para los modos de fallo propios del despacho
El artículo 9 exige un sistema documentado de gestión de riesgos a lo largo de todo el ciclo de vida. Para el despacho y el triaje, traza los daños de forma específica: la despriorización sistemática de ciertos tipos de llamada, el sesgo demográfico en las puntuaciones de triaje y el comportamiento en modo degradado cuando el volumen de llamadas supera cualquier cosa que el modelo viera durante el entrenamiento. El sistema debe fallar de forma segura, recurriendo por defecto a la escalada humana en lugar de a una clasificación errónea silenciosa.
Gobernanza de datos del artículo 10 y el riesgo de sesgo histórico
El artículo 10 exige datos de entrenamiento, validación y prueba que sean pertinentes, representativos y examinados en busca de sesgos. Aquí es decisivo. Los registros históricos de despacho codifican sesgos del pasado: si ciertos barrios o tipos de llamada estuvieron históricamente desatendidos, un modelo entrenado con ellos aprende a repetir el patrón.
Supervisión humana del artículo 14 y el sesgo de automatización en el bucle de despacho
El artículo 14 es la pieza clave. El operador de la llamada o el personal clínico debe poder comprender la recomendación, intervenir en tiempo real y anularla o despriorizarla sin fricción. El sesgo de automatización —ceder ante la puntuación incluso cuando el criterio humano es mejor— debe eliminarse por diseño en la interfaz.
Registro de eventos de los artículos 12, 19 y 26 entre proveedor y responsable del despliegue
El artículo 12 exige que el sistema registre eventos de forma automática por diseño; el artículo 19 obliga al proveedor a conservar esos registros; el propio deber de conservación del responsable del despliegue reside en el artículo 26. En conjunto crean el rastro probatorio que una autoridad de vigilancia del mercado solicita tras un incidente grave: qué recomendó el sistema, qué decidió la persona y cuándo.
Quién es el proveedor, quién es el responsable del despliegue, y la EIDF de la autoridad pública
Obligaciones del proveedor (artículo 16) para el proveedor de IA de despacho
El proveedor que construye e introduce en el mercado el sistema de despacho o triaje es el proveedor según el artículo 16. Carga con el conjunto de los artículos 9 a 15, más la evaluación de la conformidad del artículo 43, la declaración UE de conformidad del artículo 47, el registro del artículo 49, la vigilancia poscomercialización del artículo 72 y la notificación de incidentes graves del artículo 73.
Obligaciones del responsable del despliegue (artículo 26) para la sala de control
La sala de control, el servicio de ambulancias, el cuerpo de bomberos o el punto de atención del 112 que opera el sistema es el responsable del despliegue según el artículo 26: usarlo dentro de la finalidad prevista, mantener la supervisión diseñada, vigilar el rendimiento y conservar los registros generados automáticamente.
EIDF del artículo 27 para los responsables del despliegue que son autoridades públicas
Aquí aparece el deber que el hermano de infraestructuras críticas no pone en primer plano. La mayoría de los responsables del despliegue de despacho de emergencias son autoridades u organismos públicos que prestan un servicio público, de modo que se activa el artículo 27: deben completar una evaluación de impacto relativa a los derechos fundamentales (EIDF) antes del primer uso. Un sistema que decide quién recibe ayuda de primera respuesta supera ese umbral con holgura.
Cambios de rol del artículo 25 y la ruta de evaluación del anexo VI
Según el artículo 25, una sala de control que reentrena el modelo con sus propios datos, lo renombra o modifica su finalidad prevista pasa a ser el proveedor y hereda todo el conjunto del artículo 16. Los sistemas autónomos del anexo III, punto 5(d), usan la autoevaluación interna del anexo VI conforme al artículo 43, sin organismo notificado. «Interno» no significa «informal»: el expediente técnico debe resistir una inspección de la autoridad de vigilancia del mercado en cualquier momento.
Obligaciones de un vistazo: proveedor frente a responsable del despliegue
| Deber | Proveedor (artículo 16) | Responsable del despliegue (artículo 26) |
|---|---|---|
| Gestión de riesgos | Establecer y mantener (art. 9) | Operar dentro del ámbito |
| Datos y documentación | Datos representativos (art. 10); expediente del anexo IV (art. 11) | Conservar las instrucciones de uso |
| Registro de eventos | Habilitar y conservar (art. 12, 19) | Conservar los registros (art. 26) |
| Supervisión humana | Diseñarla (art. 13, 14) | Mantenerla (art. 26) |
| Precisión / solidez / seguridad | Lograrla y sostenerla (art. 15) | Vigilarla en contexto |
| Conformidad + declaración de conformidad + registro | Ruta del anexo VI (art. 43, 47, 49) | — |
| Derechos fundamentales | — | EIDF si es organismo público (art. 27) |
| Poscomercialización + incidentes | Vigilar y notificar (art. 72, 73) | Notificar al proveedor / a la autoridad |
| Exposición a sanciones | Artículo 99(4): 15 millones de euros o el 3 % | Artículo 99(4): 15 millones de euros o el 3 % |
| Se aplica desde | 2 de diciembre de 2027 (Ómnibus Digital, adoptado) | 2 de diciembre de 2027 (Ómnibus Digital, adoptado) |
Ejemplo práctico: un proveedor de IA de triaje y un servicio regional de ambulancias
Imagina Triadex, un proveedor de tecnología sanitaria de 140 personas con sede en Dublín que vende un motor de triaje de llamadas de emergencia y priorización del despacho a un servicio regional de ambulancias de la UE.
Cómo se reparten los deberes de proveedor y de responsable del despliegue
Triadex es el proveedor: el motor influye en quién recibe la siguiente ambulancia, así que se aplica el punto 5(d) y el sistema es de alto riesgo. Antes de la introducción en el mercado, Triadex debe ejecutar la gestión de riesgos del artículo 9, construir el expediente del anexo IV conforme al artículo 11, autoevaluarse mediante el anexo VI según el artículo 43, redactar la declaración de conformidad del artículo 47 y registrarse según el artículo 49; una vez en funcionamiento, llegan la vigilancia poscomercialización del artículo 72 y la notificación de incidentes graves del artículo 73.
El servicio de ambulancias es el responsable del despliegue según el artículo 26. Como organismo de servicio público, debe completar una EIDF del artículo 27 antes de la puesta en marcha, mantener a los operadores con capacidad de anular según el artículo 14 y conservar los registros.
Proporcionalidad de las sanciones según el artículo 99(6)
Un incumplimiento expone a Triadex, según el artículo 99(4), a un máximo de 15 millones de euros o el 3 % de su volumen de negocios anual total a escala mundial, lo que sea mayor. Como empresa pequeña, se beneficia del artículo 99(6), que limita la multa a la menor de las dos cifras: alivio en la exposición, no en la obligación.
El plazo: 2 de diciembre de 2027, tras la adopción del Ómnibus Digital
De dónde viene la fecha
El texto original del Reglamento fijaba que las obligaciones de alto riesgo de los sistemas autónomos del anexo III, conforme al artículo 6(2), se aplicaran desde el 2 de agosto de 2026. El Ómnibus Digital ya ha aplazado esa fecha: la fecha vinculante ahora es el 2 de diciembre de 2027; planifica en torno a ella.
El aplazamiento del Ómnibus Digital
El Ómnibus Digital aplaza las obligaciones de alto riesgo del anexo III al 2 de diciembre de 2027, y ese aplazamiento ya está adoptado: el Pleno del Parlamento Europeo lo votó el 16 de junio de 2026 y el Consejo lo adoptó el 29 de junio de 2026. Solo falta la publicación en el Diario Oficial de la UE, prevista antes del 2 de agosto de 2026 — un trámite formal, no una incertidumbre sobre la fecha. La propuesta de pausa indefinida de «parar el reloj» fue rechazada; el aplazamiento es a una fecha de calendario fija, y no todo lo que contiene la Ley queda aplazado.
Sin derechos adquiridos: empieza ya el expediente técnico
Los sistemas ya en uso deben adecuarse al cumplimiento; no hay derechos adquiridos automáticos para los sistemas de despacho o triaje. Dado lo que tarda en construirse un expediente del anexo IV hasta un nivel inspeccionable, empieza ya.
Cómo ayuda Confir
El motor de clasificación de Confir recorre la prueba en lenguaje claro del punto 5(d) y produce un dictamen de clasificación documentado y reproducible. El motor es determinista y basado en reglas: sin inferencia de modelos, sin alucinaciones.
Una vez clasificado un sistema como de alto riesgo, Confir genera un paquete de documentación preestructurado del anexo IV, una plantilla de declaración de conformidad del artículo 47 y un punto de partida para la EIDF del artículo 27 que deben realizar los responsables del despliegue que son autoridades públicas.
Preguntas frecuentes
¿La IA usada para el triaje de llamadas de emergencia al 112 es automáticamente de alto riesgo?
Sí, si evalúa y clasifica llamadas de emergencia o establece la prioridad del despacho, encaja de lleno en el anexo III, punto 5(d), del Reglamento (UE) 2024/1689 y es de alto riesgo según el artículo 6(2). La clasificación sigue la finalidad prevista del sistema, no la tecnología empleada, de modo que un puntuador de urgencia de llamadas o un modelo que ordena colas está dentro del ámbito aunque sea una persona quien pulse «enviar». El estrecho filtro de no alto riesgo del artículo 6(3) es difícil de invocar para un sistema que influye en la priorización con impacto en la vida, y el proveedor sigue cargando con el deber de documentación y el registro del artículo 49 si lo intenta.
¿En qué se diferencia la IA de despacho de emergencias de la IA de infraestructuras críticas según el anexo III?
Se sitúan en categorías distintas del anexo III con disparadores distintos. La IA de infraestructuras críticas es el punto 2 y depende de si el sistema es un componente de seguridad de una infraestructura física, como una red eléctrica, el suministro de agua o el tráfico rodado. La IA de despacho y triaje de emergencias es el punto 5(d), dentro de la categoría de servicios esenciales, y depende de si el sistema prioriza el acceso a un servicio crítico para la vida dirigido a las personas. El conjunto de obligaciones (artículos 9 a 15) es similar, pero el encuadre, la justificación del daño y, para los responsables del despliegue públicos, el deber de derechos fundamentales del artículo 27 difieren.
¿Quién carga con las obligaciones, el proveedor de IA o el servicio de emergencias?
Ambos, en papeles distintos. El proveedor que construye e introduce en el mercado el sistema de despacho o triaje es el proveedor según el artículo 16 y carga con los artículos 9 a 15, el expediente técnico del anexo IV, la evaluación de la conformidad del artículo 43, la declaración de conformidad del artículo 47 y el registro del artículo 49. La sala de control de emergencias o el servicio de ambulancias es el responsable del despliegue según el artículo 26: usarlo según lo previsto, mantener la supervisión humana, vigilar el rendimiento y conservar los registros. Si el responsable del despliegue reentrena, renombra o reutiliza el sistema, el artículo 25 lo convierte en proveedor con todo el conjunto.
¿Necesita un servicio público de ambulancias una evaluación de impacto relativa a los derechos fundamentales?
En la mayoría de los casos, sí. El artículo 27 del Reglamento (UE) 2024/1689 exige a los responsables del despliegue que sean autoridades públicas, o entidades privadas que prestan servicios públicos, llevar a cabo una evaluación de impacto relativa a los derechos fundamentales antes de desplegar ciertos sistemas de alto riesgo. Un sistema de despacho o triaje de emergencias que prioriza quién recibe ayuda de primera respuesta suele cumplir ese umbral, así que la evaluación debe completarse antes del primer uso. Este deber es distinto y adicional a las obligaciones del responsable del despliegue del artículo 26 y al propio trabajo de conformidad del proveedor.
¿Cuándo se aplican las obligaciones, el 2 de agosto de 2026 o el 2 de diciembre de 2027?
Planifica en torno al 2 de diciembre de 2027. El texto original del Reglamento fijaba que las obligaciones de alto riesgo de los sistemas autónomos del anexo III se aplicaran desde el 2 de agosto de 2026, pero el Ómnibus Digital ya ha aplazado esa fecha: el Pleno del Parlamento Europeo lo votó el 16 de junio de 2026 y el Consejo lo adoptó el 29 de junio de 2026. Solo falta la publicación en el Diario Oficial de la UE, prevista antes del 2 de agosto de 2026. La pausa indefinida fue rechazada y el aplazamiento es a una fecha fija: no todo lo que contiene la Ley queda aplazado.
¿Cuáles son las sanciones por una IA de despacho de emergencias no conforme?
Los incumplimientos de las obligaciones de alto riesgo se rigen por el artículo 99(4) del Reglamento (UE) 2024/1689, con multas de hasta 15 000 000 EUR o el 3 % del volumen de negocios anual total a escala mundial, lo que sea mayor. Esto cubre los fallos en los artículos 9 a 15, las obligaciones del proveedor del artículo 16 y las obligaciones del responsable del despliegue del artículo 26. Para pymes y empresas emergentes, el artículo 99(6) limita la multa a la menor entre el porcentaje y el importe fijo: un alivio significativo en la exposición, pero que no elimina la obligación de cumplimiento subyacente.
Guías relacionadas
- IA en infraestructuras críticas (anexo III, punto 2)
- Reglas de clasificación de alto riesgo del artículo 6
- Requisitos de supervisión humana del artículo 14
- Cómo se clasifica la IA de alto riesgo
- Cumplimiento de la IA sanitaria según la Ley de IA de la UE
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Empieza la prueba gratuita →