Ensayos en condiciones reales en virtud de la Ley de IA de la UE
El Artículo 3, apartado 57, de la Ley de IA de la UE define los ensayos en condiciones reales. El Artículo 60 establece el plan, el registro, los plazos y la supervisión. El Artículo 61 exige el consentimiento informado.
Probar sobre el terreno un sistema de IA fuera de un laboratorio no es lo mismo que lanzarlo. El Reglamento (UE) 2024/1689 reserva un estatuto jurídico distinto para esta actividad — los «ensayos en condiciones reales» — de modo que los desarrolladores puedan recopilar datos operativos genuinos sin que ese acto por sí solo cuente como introducción del sistema en el mercado o puesta en servicio. La excepción viene acompañada de condiciones vinculantes. Ignórelas y la protección desaparece.
La definición de la Ley de IA de la UE
El artículo 3, punto 57, del Reglamento (UE) 2024/1689 define los ensayos en condiciones reales como:
el ensayo temporal de un sistema de IA para su finalidad prevista en condiciones reales fuera de un laboratorio o de un entorno simulado de otro modo, con vistas a recopilar datos fiables y sólidos y a evaluar y verificar la conformidad del sistema de IA con los requisitos del presente Reglamento; los ensayos en condiciones reales fuera de un espacio controlado de pruebas para la IA no se considerarán introducción del sistema de IA en el mercado ni puesta en servicio del mismo, siempre que se cumplan todas las condiciones establecidas en el presente Reglamento.
Tres elementos son decisivos. Primero, el ensayo debe ser temporal — termina; no se convierte en un despliegue indefinido. Segundo, la finalidad es la recopilación de datos y la verificación de la conformidad, no la operación comercial. Tercero, la protección frente a ser tratado como un lanzamiento al mercado depende por completo del cumplimiento de las condiciones que establece el Reglamento. Esas condiciones residen principalmente en los Artículos 60 y 61.
La distinción importa desde el punto de vista comercial. Un sistema de IA de alto riesgo no puede salir al mercado sin una evaluación de la conformidad completada con arreglo al Artículo 43. Los ensayos en condiciones reales son una fase dentro de la ruta de desarrollo, no un atajo que la rodee.
Las reglas: Artículos 60 y 61
Artículo 60: el plan de ensayos y el marco de supervisión
Antes de incorporar sujetos a un ensayo en condiciones reales, el proveedor debe elaborar un plan de ensayos en condiciones reales. El Artículo 60 especifica qué debe contener ese plan: la finalidad prevista del sistema; los objetivos del ensayo y la justificación científica o técnica de por qué son necesarias las condiciones reales; el ámbito geográfico y la duración; una descripción de las medidas de supervisión; y las salvaguardias establecidas para proteger a los participantes.
El plan debe presentarse a la autoridad de vigilancia del mercado de cada Estado miembro donde vayan a tener lugar los ensayos. Los ensayos no podrán comenzar hasta que la autoridad no haya formulado objeciones o, según el procedimiento del Estado miembro, haya dado su aprobación. También se exige el registro en la base de datos de la UE (Artículo 49), lo que hace el ensayo trazable para las autoridades competentes.
El Artículo 60 impone plazos estrictos. Los ensayos se desarrollan durante el período especificado en el plan aprobado. Las prórrogas requieren una nueva presentación. No hay ensayo sobre el terreno indefinido.
A lo largo del ensayo, el proveedor debe mantener una supervisión activa: vigilar el comportamiento del sistema, registrar los resultados y estar atento a riesgos inesperados o resultados adversos. Si surgen tales riesgos, el proveedor debe suspender o poner fin a los ensayos de inmediato y notificarlo a la autoridad de vigilancia del mercado.
Una salvaguardia es particularmente importante: cuando el sistema de IA realiza predicciones sobre personas, esas predicciones deben ser reversibles o poder pasarse por alto. Un algoritmo de calificación crediticia desplegado en un ensayo en condiciones reales en una entidad de crédito regional no puede, durante ese ensayo, desencadenar decisiones de préstamo automatizadas que no puedan deshacerse. El humano que interviene en el bucle debe poder dejar de lado lo que el sistema genere.
Artículo 61: consentimiento informado
El Artículo 61 regula a las personas sobre las que se prueba el sistema. Cuando el sistema trata datos personales o implica de otro modo directamente a personas físicas, esas personas deben dar su consentimiento informado antes de que comience el ensayo.
El consentimiento informado con arreglo al Artículo 61 es específico: el participante debe comprender que forma parte de un ensayo en condiciones reales, qué datos se recopilarán, cómo se utilizarán y cómo puede retirarse. El consentimiento obtenido mediante descripciones vagas o engañosas no satisface el requisito. Cuando los participantes se encuentran en una posición vulnerable — empleados de una empresa que ejecuta un proyecto piloto de IA en el lugar de trabajo, por ejemplo — el mecanismo de consentimiento debe tener en cuenta cualquier desequilibrio de poder que pudiera comprometer su voluntariedad.
Los participantes conservan el derecho a retirarse en cualquier momento sin consecuencias. Tras la retirada, el proveedor debe dejar de utilizar los datos de ese participante para el ensayo.
El Artículo 61 también exige que se informe a los participantes en el ensayo de los datos de contacto del proveedor y de la autoridad de vigilancia del mercado, de modo que dispongan de una vía para plantear inquietudes.
Fuera de un espacio controlado de pruebas y dentro de uno
Los ensayos en condiciones reales pueden tener lugar en dos entornos. Cuando ya está operativo un espacio controlado de pruebas para la IA nacional (Artículo 57), los ensayos pueden tener lugar dentro de él — la autoridad del espacio controlado de pruebas desempeña una función de coordinación y puede agilizar el proceso de notificación. Cuando no existe ningún espacio controlado de pruebas o cuando el proveedor no participa en uno, los ensayos siguen el procedimiento del Artículo 60 directamente con la autoridad de vigilancia del mercado.
El resultado en cuanto al estatuto jurídico es el mismo en ambos casos: si se cumplen las condiciones, los ensayos sobre el terreno no se consideran introducción en el mercado ni puesta en servicio.
Ensayos en condiciones reales frente a un espacio controlado de pruebas para la IA
Estos dos conceptos se confunden a menudo. Son distintos.
Un espacio controlado de pruebas para la IA con arreglo al Artículo 57 es un entorno de desarrollo supervisado. Los Estados miembros deben establecer uno antes del 2 de agosto de 2026. El espacio controlado de pruebas proporciona un marco estructurado en el que los proveedores — con acceso prioritario para las empresas más pequeñas y las empresas emergentes con arreglo al Artículo 58 — pueden desarrollar, entrenar y validar sistemas de IA bajo la orientación de las autoridades competentes, con cierta flexibilidad regulatoria a cambio de transparencia y seguimiento.
Los ensayos en condiciones reales con arreglo al Artículo 60 son un ensayo sobre el terreno de un sistema casi definitivo. El sistema existe; ha sido entrenado y validado; se está probando en condiciones operativas genuinas para verificar la conformidad y recopilar datos que las condiciones de laboratorio no pueden reproducir. El sistema no se está desarrollando durante el ensayo — se está evaluando.
| Espacio controlado de pruebas para la IA (Art. 57) | Ensayos en condiciones reales (Art. 60/61) | |
|---|---|---|
| Fase | Desarrollo y entrenamiento | Sistema casi definitivo, verificación de la conformidad |
| Entorno | Entorno supervisado por la autoridad | Condiciones operativas genuinas |
| Finalidad | Aprendizaje regulatorio, iteración supervisada | Recopilación de datos, comprobación de la conformidad |
| Resultado | Orientación, informe del espacio controlado de pruebas | Resultados del ensayo, pruebas de conformidad |
| Duración | Período definido del espacio controlado de pruebas | Limitada en el tiempo según el plan aprobado |
Un sistema puede pasar por un espacio controlado de pruebas durante el desarrollo y, a continuación, realizar un ensayo en condiciones reales — ambos son pasos secuenciales, no alternativas.
Preguntas frecuentes
¿Significan los ensayos en condiciones reales que el sistema de IA ya está en el mercado?
No. El artículo 3, punto 57, es explícito: los ensayos en condiciones reales no se consideran introducción del sistema en el mercado ni puesta en servicio, siempre que se cumplan las condiciones del Reglamento. Esas condiciones incluyen un plan de ensayos presentado y aprobado, plazos, supervisión activa y la capacidad de revertir las predicciones del sistema o pasarlas por alto. Si no se cumple alguna condición, la protección desaparece y el despliegue puede tratarse como un lanzamiento al mercado — lo que activa el requisito completo de evaluación de la conformidad del Artículo 43 para los sistemas de alto riesgo.
¿Qué sistemas pueden recurrir a los ensayos en condiciones reales?
El marco de los Artículos 60 y 61 se aplica a los sistemas de IA que se prueban para verificar su conformidad con los requisitos del Reglamento. En la práctica, esto es más relevante para los sistemas de IA de alto riesgo, donde la evaluación de la conformidad (Artículo 43) es obligatoria y donde los datos en condiciones reales suelen ser necesarios para completarla. No existe ninguna restricción expresa que impida a un sistema de riesgo limitado o de riesgo mínimo recurrir a esta vía, pero las obligaciones procedimentales del Artículo 60 se aplicarían en cualquier caso.
¿Qué ocurre si un participante retira su consentimiento a mitad del ensayo?
Con arreglo al Artículo 61, la retirada debe ser posible en cualquier momento sin consecuencias para el participante. Tras la retirada, el proveedor debe dejar de tratar los datos de ese participante para la actividad de ensayo. El ensayo en sí puede continuar con los participantes restantes, siempre que el plan siga teniendo una base válida — pero los datos del participante retirado correspondientes al período de ensayo no pueden seguir utilizándose.
¿Es necesario registrar un ensayo en condiciones reales realizado fuera de un espacio controlado de pruebas?
Sí. El Artículo 60 exige el registro en la base de datos de la UE con arreglo al Artículo 49. Esto garantiza que las autoridades de vigilancia del mercado tengan visibilidad de los ensayos sobre el terreno en curso en su jurisdicción, aun cuando no intervenga ningún espacio controlado de pruebas.
¿Cuánto pueden durar los ensayos en condiciones reales?
El Artículo 60 exige que el plan de ensayos especifique una duración. No hay un máximo fijo en el Reglamento, pero el período debe estar justificado por los objetivos del ensayo y aprobado por la autoridad de vigilancia del mercado. Los ensayos no pueden prorrogarse indefinidamente; una prórroga requiere el acuerdo de la autoridad. El requisito de «temporalidad» de la definición del artículo 3, punto 57, no es cosmético — significa que el ensayo debe tener un final definido.
¿Qué debe contener el plan de ensayos en condiciones reales?
El plan debe cubrir: la finalidad prevista del sistema de IA y los objetivos específicos del ensayo; las razones científicas o técnicas por las que se necesitan condiciones reales; el ámbito geográfico y la duración; las medidas de supervisión; las salvaguardias para los participantes; y el mecanismo para revertir la información de salida del sistema o pasarla por alto. Se presenta a la autoridad de vigilancia del mercado de cada Estado miembro donde tengan lugar los ensayos antes de que comience el ensayo.
Cómo se corresponde Confir con este proceso
Documentar correctamente un ensayo en condiciones reales implica varias obligaciones que se solapan: el plan del Artículo 60, los registros de consentimiento del Artículo 61, el registro del Artículo 49 y las pruebas de conformidad del Artículo 43 que el ensayo está destinado a producir. El motor determinista y basado en reglas de Confir estructura esto a lo largo de sus áreas de evaluación de cumplimiento. El módulo AIRC (que cubre los Artículos 5, 6, 43 y 50) hace el seguimiento de dónde se sitúa un sistema en la ruta de evaluación de la conformidad; el módulo AIGM (Artículos 9, 72 y 73) cubre los deberes de seguimiento continuo y notificación de incidentes que discurren en paralelo. La declaración UE de conformidad del Artículo 47 y el paquete de documentación técnica del Artículo 11 / Anexo IV se generan a partir de la misma admisión estructurada — de modo que, cuando concluye el ensayo en condiciones reales y se ensambla el expediente de conformidad completo, la documentación ya está estructurada en torno a los artículos correctos, no reconstruida a partir de notas a posteriori.
Más detalles en confir.eu.
Términos relacionados
- Espacio controlado de pruebas para la IA — el entorno de desarrollo supervisado del Artículo 57, donde también pueden tener lugar los ensayos en condiciones reales
- Finalidad prevista — el uso para el que se prueba el sistema de IA; determina el nivel de riesgo aplicable y los requisitos de conformidad
- Sistema de IA — la definición del artículo 3, punto 1, que establece qué queda sujeto al Reglamento
- Evaluación de la conformidad — el procedimiento del Artículo 43 que los ensayos en condiciones reales ayudan a cumplir para los sistemas de alto riesgo
- Gestión de riesgos de la IA — el sistema de gestión de riesgos del Artículo 9 que se desarrolla a lo largo de todo el desarrollo, incluida la fase de ensayo
- Artículo 43: evaluación de la conformidad — el marco completo de evaluación de la conformidad, incluidas las vías procedimentales del Anexo VI y del Anexo VII
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →