Artículo 15: precisión, solidez y ciberseguridad para la IA de alto riesgo
El artículo 15 exige métricas de precisión declaradas, resiliencia ante fallos y ciberseguridad frente a envenenamiento de datos y ataques adversariales.
El artículo 15 del Reglamento (UE) 2024/1689 es el requisito que convierte el «nuestro modelo rinde bien» en algo que tienes que demostrar, declarar y defender. Agrupa tres obligaciones que la IA de alto riesgo debe cumplir durante todo su ciclo de vida: un nivel adecuado de precisión, solidez frente a errores y a un entorno cambiante, y ciberseguridad frente a intentos deliberados de manipular el sistema. Ninguna de las tres es una prueba única: cada una es una propiedad de diseño que el proveedor incorpora y mantiene. Esta página expone qué exige cada una en la práctica.
El artículo 15 se aplica a los sistemas de alto riesgo desde el 2 de diciembre de 2027 para los sistemas autónomos del anexo III (fecha ya fijada por el Ómnibus Digital, adoptado; véase la salvedad), y no actúa solo: funciona junto con el sistema de gestión de riesgos (artículo 9) y la gobernanza de datos (artículo 10).
Precisión: y debes declarar la métrica
El artículo 15 exige que los sistemas de alto riesgo alcancen un nivel adecuado de precisión para su finalidad prevista. «Adecuado» es contextual —lo que resulta aceptable para un filtro de spam no lo es para una decisión de crédito—, pero el requisito viene con dientes: los niveles de precisión y las métricas de precisión pertinentes deben declararse en las instrucciones de uso facilitadas conforme al artículo 13.
Esa declaración es lo que hace auditable la precisión. No puedes satisfacer el artículo 15 afirmando que el sistema es «muy preciso»; debes indicar qué métrica (precisión, exhaustividad, F1, tasa de error, calibración: la que encaje con la tarea) y qué nivel alcanza, en las instrucciones del artículo 13, de modo que el responsable del despliegue conozca el rendimiento real del sistema y dónde se degrada. Un sistema que rinde bien para una población y mal para otra debe declararlo.
Solidez: resiliencia ante el error, el fallo y los cambios del entorno
La solidez, en el sentido del artículo 15, es la capacidad del sistema de seguir rindiendo de forma aceptable cuando algo falla o las condiciones cambian. El artículo nombra varias dimensiones:
- Resiliencia frente a errores, fallos e incoherencias que puedan producirse dentro del sistema o en su entorno operativo, incluidas las interacciones con personas y otros sistemas.
- Redundancia técnica y medidas de seguridad ante fallos cuando proceda, de modo que un fallo se degrade de forma controlada en lugar de producir una respuesta errónea con plena confianza.
- Control de los bucles de retroalimentación. Un sistema de alto riesgo que aprende de sus propias salidas tras el despliegue debe diseñarse de modo que las salidas sesgadas no se realimenten y se agraven: un «bucle de retroalimentación» que amplifica silenciosamente el error o la discriminación con el tiempo. El artículo 15 nombra este riesgo de forma explícita y exige abordarlo.
La solidez es donde el término legal lleva un peso de ingeniería real (este es el único lugar donde «solidez» es la palabra correcta, no relleno). También es donde los sistemas ya en producción tienden a ser más débiles, porque se construyeron para el camino feliz, no para el fallo y la deriva que el artículo 15 exige que sobrevivan.
Ciberseguridad: resiliencia ante la manipulación deliberada
La vertiente de ciberseguridad del artículo 15 se refiere específicamente a los intentos de terceros de alterar el uso, el comportamiento o el rendimiento del sistema explotando vulnerabilidades. Es un modelado de amenazas específico de la IA, no seguridad informática genérica, y el artículo apunta a las clases de ataque que importan:
| Clase de ataque | Qué hace |
|---|---|
| Envenenamiento de datos | Corromper los datos de entrenamiento para que el modelo aprenda el comportamiento que busca el atacante |
| Envenenamiento del modelo | Manipular directamente el modelo o sus componentes |
| Ejemplos adversariales / evasión del modelo | Crear entradas que engañan al modelo en la inferencia para que produzca una salida errónea |
| Ataques a la confidencialidad | Extraer el modelo, sus parámetros o los datos de entrenamiento (p. ej., inversión de modelo, inferencia de pertenencia) |
El artículo 15 exige soluciones técnicas adecuadas a las circunstancias y a los riesgos para prevenir, detectar, responder, resolver y controlar estos ataques. Las medidas deben ser proporcionadas —una herramienta de detección de fraude se enfrenta a un adversario más decidido que un modelo interno de previsión—, pero el modelo de amenazas hay que hacerlo y los controles deben estar a su altura.
Cómo se conecta el artículo 15 con los artículos 9 y 10
El artículo 15 no es una isla. El sistema de gestión de riesgos (artículo 9) es donde identificas qué riesgos de precisión, solidez y ciberseguridad son relevantes y decides las mitigaciones: las propiedades del artículo 15 son, en gran medida, el resultado de ejecutar bien el artículo 9. Y la gobernanza de datos (artículo 10) sustenta la precisión y la dimensión de sesgo de la solidez: unos datos de entrenamiento, validación y prueba pertinentes, representativos y lo más libres de errores posible son lo que hace significativa la precisión declarada y alcanzable el control de los bucles de retroalimentación. Trata las tres como una obligación conectada, no como tres casillas.
Todo ello aterriza en la documentación técnica del artículo 11 / anexo IV, donde las métricas de precisión, las medidas de solidez y los controles de ciberseguridad quedan acreditados para la evaluación de la conformidad.
La salvedad sobre el plazo
El aplazamiento del régimen de alto riesgo autónomo al 2 de diciembre de 2027 ya está adoptado: el Parlamento Europeo votó en el pleno el 16 de junio de 2026 y el Consejo lo adoptó formalmente el 29 de junio de 2026. Solo falta su publicación en el Diario Oficial, prevista antes del 2 de agosto de 2026. Planifica con el 2 de diciembre de 2027 para los sistemas autónomos de alto riesgo del anexo III, la fecha ya fijada.
Ejemplo práctico: un proveedor fintech cumple el artículo 15
KreditFluss GmbH —una fintech alemana ficticia de 60 personas (~11 M€ de facturación)— proporciona un sistema de calificación de solvencia, de alto riesgo conforme al anexo III, punto 5(b).
- Precisión. KreditFluss declara las métricas de su modelo —el área bajo la curva ROC y las tasas de falsos positivos/falsos negativos desglosadas por segmento de solicitante— en las instrucciones de uso del artículo 13, y advierte de que el rendimiento es más débil para los autónomos con historial escaso, de modo que los responsables del despliegue apliquen un escrutinio adicional ahí.
- Solidez. Crea una regla de respaldo para los casos en que el modelo tiene incertidumbre y —dado que las puntuaciones pueden influir en futuros datos de entrenamiento— aísla la retroalimentación posterior al despliegue para que los solicitantes denegados no sesguen en silencio la siguiente versión del modelo.
- Ciberseguridad. Su modelo de amenazas cubre el envenenamiento de datos del flujo de entrenamiento (fuentes de datos firmadas y con control de acceso), la evasión adversarial (validación de entradas y monitorización de anomalías) y los ataques a la confidencialidad (limitación de tasa y controles de salida frente a la extracción de modelo).
- La conexión. Las tres fluyen del sistema de gestión de riesgos del artículo 9 y se apoyan en la gobernanza de datos del artículo 10, y las tres se documentan en el expediente del artículo 11 / anexo IV. Como pyme, la exposición sancionadora de KreditFluss está limitada a la cifra inferior conforme al artículo 99(6).
El veredicto: el cumplimiento del artículo 15 aquí no es una auditoría de seguridad atornillada al final, son tres propiedades de diseño acreditadas desde la evaluación de riesgos en adelante.
Cómo ayuda Confir
El área de evaluación Datos y solidez técnica de Confir guía al proveedor por el artículo 15 junto con los artículos 10 y 11: qué métricas de precisión declaras en las instrucciones del artículo 13, qué medidas de solidez y de seguridad ante fallos aplican y qué amenazas de ciberseguridad —envenenamiento de datos, envenenamiento del modelo, ejemplos adversariales, ataques a la confidencialidad— debe abordar tu modelo de amenazas. Los hallazgos alimentan el expediente técnico del artículo 11 / anexo IV. El motor es determinista y basado en reglas: la misma entrada produce el mismo hallazgo, cada uno citado a su artículo.
Guías relacionadas
- Artículo 15: precisión, solidez y ciberseguridad
- Artículo 9: sistema de gestión de riesgos
- Artículo 10: datos y gobernanza de datos
- El sistema de gestión de riesgos en la práctica
- Gobernanza de datos para IA de alto riesgo
- Requisitos de documentación del artículo 11
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Empieza la prueba gratuita →