Plantilla de evaluación de sesgos (Reglamento de IA de la UE, artículo 10)
Plantilla de evaluación de sesgos y equidad para el artículo 10 del Reglamento de IA: atributos protegidos, métricas, mitigaciones y datos sensibles.
El artículo 10 del Reglamento de IA de la UE, Reglamento (UE) 2024/1689, es el requisito de gobernanza de datos para la IA de alto riesgo, y una de sus órdenes específicas es que los proveedores examinen sus conjuntos de datos de entrenamiento, validación y prueba en busca de posibles sesgos que puedan afectar a la salud y la seguridad, incidir negativamente en los derechos fundamentales o dar lugar a una discriminación prohibida por el Derecho de la Unión. Esta plantilla convierte esa orden en un registro rellenable: los atributos protegidos que examinaste, las métricas de equidad que mediste, los sesgos que encontraste y las mitigaciones que aplicaste. Es el documento del proveedor: el artículo 10 recae sobre quien desarrolla el sistema y lo introduce en el mercado.
Una evaluación de sesgos no es una revisión ética puntual añadida al final. El artículo 10(2)(f) y el 10(2)(g) hacen del examen y la mitigación de sesgos parte de las prácticas de gobernanza de datos que recorren el diseño, la recogida y la preparación de los conjuntos de datos. Trata este registro como prueba viva dentro de tu documentación técnica del artículo 11 / anexo IV, no como un memorándum aparte.
Qué exige realmente el artículo 10 sobre los sesgos
El artículo 10 fija criterios de calidad para los conjuntos de datos que alimentan un sistema de alto riesgo. Las partes relevantes para el sesgo son precisas:
- Artículo 10(2)(f) — examen en vista de posibles sesgos que puedan afectar a la salud y la seguridad de las personas, incidir negativamente en los derechos fundamentales o dar lugar a una discriminación prohibida por el Derecho de la Unión, especialmente cuando las salidas de datos influyan en las entradas de operaciones futuras (bucles de retroalimentación).
- Artículo 10(2)(g) — medidas adecuadas para detectar, prevenir y mitigar esos sesgos identificados.
- Artículo 10(3) — los conjuntos de datos deben ser pertinentes, suficientemente representativos y, en la medida de lo posible, exentos de errores y completos atendiendo a la finalidad prevista.
La evaluación que sigue está estructurada para generar pruebas frente a cada uno de estos puntos.
Atributos protegidos y la excepción para datos de categorías especiales
No puedes comprobar si hay resultados sesgados entre grupos sin conocer los grupos, lo que normalmente implica tratar datos sobre características protegidas (sexo, origen racial o étnico, etc.). Eso choca con el artículo 9 del RGPD, que restringe el tratamiento de datos personales de categorías especiales. El Reglamento de IA de la UE resuelve la tensión de forma estricta. El artículo 10(5) permite a los proveedores tratar datos de categorías especiales de manera excepcional, en la medida en que sea estrictamente necesario para detectar y corregir sesgos en sistemas de alto riesgo, pero solo con salvaguardias: el sesgo no puede detectarse tratando otros datos (incluidos datos sintéticos o anonimizados); los datos están sujetos a límites técnicos de reutilización y a medidas de seguridad y privacidad de última generación; el acceso está estrictamente controlado y documentado; y los datos de categorías especiales no se transmiten a terceros ni se ponen a disposición de otro modo más allá de la finalidad de corrección de sesgos, y se eliminan una vez corregido el sesgo o finalizado el plazo de conservación.
En resumen: el artículo 10(5) es un permiso, no una vía libre. Documenta por qué necesitabas el atributo protegido, que ninguna ruta menos intrusiva funcionó, y las salvaguardias del RGPD que aplicaste.
Las métricas de equidad: mide, no afirmes
Una evaluación de sesgos creíble reporta números, no adjetivos. Elige métricas que se ajusten a la decisión que toma el sistema y registra la disparidad entre grupos:
| Métrica | Qué mide | Cuándo es la lente adecuada |
|---|---|---|
| Paridad demográfica | Tasas iguales de resultado positivo entre grupos | Asignación de recursos, preselección |
| Igualdad de oportunidades | Tasas iguales de verdaderos positivos entre grupos | Cuando el daño está en los falsos negativos (p. ej., elegibilidad no detectada) |
| Paridad predictiva | Precisión igual entre grupos | Cuando se actúa sobre una predicción positiva (p. ej., una marca) |
| Equilibrio de tasas de error | Tasas comparables de falsos positivos / falsos negativos | Clasificación errónea relevante para la seguridad |
Ninguna métrica es «justa» en abstracto: varias son matemáticamente incompatibles entre sí. Elige de forma deliberada, explica por qué y registra el compromiso. Ese razonamiento es, en sí mismo, la prueba que pide el artículo 10(2)(f).
La plantilla: campos que capturar
1. Identificación del sistema y del conjunto de datos — nombre del sistema, versión, finalidad prevista; los conjuntos de datos de entrenamiento, validación y prueba examinados; categoría del anexo III.
2. Atributos protegidos examinados — qué atributos (sexo, origen racial/étnico, edad, discapacidad, etc.); cómo se obtuvieron o se aproximaron mediante variables proxy; la justificación y salvaguardias del artículo 10(5) / artículo 9 del RGPD cuando se trataron datos de categorías especiales.
3. Comprobación de representatividad (artículo 10(3)) — si cada conjunto de datos es pertinente y suficientemente representativo de la población en el contexto de uso previsto; lagunas e infrarrepresentación conocida.
4. Examen de sesgos (artículo 10(2)(f)) — las métricas calculadas; las disparidades halladas entre grupos; cualquier riesgo de bucle de retroalimentación cuando las salidas influyen en entradas futuras.
5. Comprobación de discriminación prohibida — si alguna disparidad medida podría dar lugar a una discriminación prohibida por el Derecho de la Unión; referencia cruzada a la directiva de igualdad pertinente.
6. Mitigación (artículo 10(2)(g)) — medidas aplicadas (remuestreo, reponderación, ajuste de umbrales, recogida de datos adicionales); disparidad residual tras la mitigación; qué no pudo corregirse y por qué.
7. Vínculo con el RGPD — referencia a la EIPD (artículo 35 del RGPD) cuando exista; base jurídica; eliminación de los datos de categorías especiales una vez completada la corrección del sesgo (artículo 10(5)).
8. Revisión y firma — revisor; fecha; desencadenante de una reevaluación (datos nuevos, reentrenamiento del modelo, deriva).
Ejemplo práctico: un proveedor de un sistema de preselección de candidatos
Talentbrück GmbH, un proveedor con unos 75 empleados y aproximadamente 14 M€ de volumen de negocios, desarrolla un sistema de alto riesgo de preselección de currículums (anexo III, punto 4, empleo). Para comprobar el sesgo por sexo conforme al artículo 10(2)(f), necesita el sexo de los candidatos: datos próximos a las categorías especiales que normalmente minimizaría. Amparándose en el artículo 10(5), trata el atributo estrictamente para medir y corregir el sesgo, restringe el acceso a dos científicos de datos designados por su nombre, aplica seguridad de última generación y documenta que los datos sintéticos por sí solos no podían sacar a la luz la disparidad. La evaluación detecta una brecha de igualdad de oportunidades: las mujeres cualificadas se preseleccionan a una tasa de verdaderos positivos menor. Talentbrück repondera los datos de entrenamiento y ajusta el umbral de decisión, registra la disparidad residual y elimina el conjunto de datos de atributos protegidos una vez verificada la corrección. Todo el registro entra en su documentación técnica del artículo 11 / anexo IV, y una EIPD conforme al artículo 35 del RGPD cubre la vertiente de datos personales.
Cómo ayuda Confir
La evaluación de datos y solidez técnica de Confir guía un conjunto de datos del artículo 10 a través de preguntas en lenguaje claro —representatividad, el examen de sesgos del artículo 10(2)(f), las condiciones del artículo 10(5) para datos de categorías especiales— y registra las respuestas como pruebas estructuradas que alimentan el paquete del artículo 11 / anexo IV. Cruza los controles de gobernanza de datos con el RGPD para que los registros del Reglamento de IA y los de protección de datos se referencien mutuamente en lugar de duplicarse. El motor es determinista y basado en reglas: los mismos datos del conjunto producen el mismo resultado cada vez.
Guías relacionadas
- Artículo 10: datos y gobernanza de datos
- Gobernanza de datos en el Reglamento de IA de la UE
- Plantilla de política de gobernanza de datos
- Intersección entre el RGPD y el Reglamento de IA de la UE
- Artículo 11: documentación técnica
- Plantilla de documentación técnica del anexo IV
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 14 días.
Empieza la prueba gratuita →