¿Es de alto riesgo la detección de fraude con IA conforme a la Ley de IA de la UE?
¿Es de alto riesgo la detección de fraude con IA conforme a la Ley de IA de la UE? El Anexo III, punto 5, letra b), la excluye de la categoría de solvencia. Aquí está lo que realmente se aplica.
La respuesta breve es: probablemente no, por la vía más evidente. Los sistemas de IA que detectan el fraude financiero se sitúan dentro de una categoría del Anexo III que los excluye explícitamente de la clasificación de alto riesgo. Esa exclusión es estrecha y precisa — cubre específicamente la función de detección de fraude, no todos los sistemas que una fintech o un banco puedan desplegar. Si tu sistema hace algo más que marcar transacciones fraudulentas, o si opera en un ámbito del Anexo III completamente distinto, el panorama cambia rápidamente.
Esta guía recorre la lógica de clasificación del Artículo 6, la exclusión del Anexo III, ámbito 5, letra b), los escenarios que pueden volver a incluir un sistema de detección de fraude en el ámbito de aplicación y las obligaciones que se aplican de forma realista a un motor de fraude de back-end típico.
¿Es de alto riesgo la detección de fraude con IA conforme a la Ley de IA de la UE?
El Anexo III del Reglamento (UE) 2024/1689 enumera los ocho ámbitos en los que se presume que los sistemas de IA son de alto riesgo. El ámbito 5 cubre el acceso a servicios privados y públicos esenciales. El punto 5, letra b), aborda específicamente los sistemas de IA destinados a evaluar la solvencia de las personas físicas o a establecer su calificación crediticia.
Crucialmente, el punto 5, letra b), contiene una exclusión explícita: los sistemas de IA utilizados con el fin de detectar el fraude financiero quedan excluidos de esa categoría de alto riesgo. El reglamento traza una línea funcional entre dos cosas bastante diferentes. Un modelo que puntúa si es probable que un solicitante devuelva un préstamo — eso es una evaluación de la solvencia, y es de alto riesgo. Un modelo que marca si una transacción parece fraudulenta — eso es una función de detección de fraude, y queda explícitamente excluido del punto 5, letra b).
La distinción importa porque los dos modelos pueden parecer superficialmente similares. Ambos podrían tratar el historial financiero, los patrones de transacción y las señales de comportamiento. Lo que los separa es la pregunta para la que están construidos. Los modelos de solvencia preguntan: ¿devolverá esta persona el dinero? Los modelos de detección de fraude preguntan: ¿es genuina esta transacción? La Ley de IA de la UE responde a esas dos preguntas de forma muy diferente.
Antes de descansar en la exclusión del Anexo III, también necesitas aplicar el filtro del Artículo 6, apartado 3. El Artículo 6, apartado 3, establece que un sistema de IA que entra dentro de un ámbito del Anexo III sigue sin tratarse como de alto riesgo si no plantea un riesgo significativo de perjuicio para la salud, la seguridad o los derechos fundamentales. Las condiciones enumeradas incluyen desempeñar una tarea procedimental limitada, mejorar el resultado de una actividad humana previamente realizada, detectar patrones de decisión sin sustituir ni influir en las evaluaciones humanas individuales y realizar un trabajo preparatorio. Para un motor de fraude de back-end que marca transacciones para revisión humana, el filtro del Artículo 6, apartado 3, suele apuntar en la misma dirección que la exclusión del Anexo III — pero son dos pasos jurídicos separados, y ambos deben documentarse.
Una limitación importante: la exención del Artículo 6, apartado 3, no se aplica a ningún sistema que elabore perfiles de personas físicas. Si tu modelo de fraude construye o aplica perfiles individuales — puntuando a las personas en lugar de las transacciones — esa vía hacia una clasificación inferior se cierra.
Cuándo la IA de detección de fraude puede ser de alto riesgo
La exclusión del Anexo III es una exclusión quirúrgica, no una exención general para todo lo que una empresa llame detección de fraude. Varios escenarios pueden volver a incluir un sistema de fraude en la pila de alto riesgo.
El sistema también realiza una puntuación de solvencia. Este es el caso límite más habitual. Un único modelo puede detectar comportamientos sospechosos y, simultáneamente, alimentar una puntuación de riesgo que informa si un cliente obtiene acceso a un servicio o producto crediticio. El componente de detección de fraude se beneficia de la exclusión; el componente de puntuación de solvencia, no. Si los resultados de un sistema combinado se utilizan para tomar decisiones sobre el acceso de una persona a los servicios financieros —o influir en ellas—, la función de solvencia es de alto riesgo con arreglo al Anexo III, punto 5, letra b), con independencia de lo que haga el sistema por lo demás.
Despliegue en un contexto de garantía del cumplimiento del Derecho. El Anexo III, ámbito 6, cubre la IA utilizada por las autoridades de garantía del cumplimiento del Derecho, incluidos los sistemas que evalúan el riesgo que plantea una persona en contextos penales. Un sistema de detección de fraude desplegado por o para una autoridad de garantía del cumplimiento del Derecho — por ejemplo, para identificar sospechosos en investigaciones de delitos financieros — puede entrar en el ámbito 6 aunque quedara excluido del ámbito 5, letra b). El ámbito del Anexo III aplicable depende de quién utiliza el sistema y con qué finalidad, no solo de lo que el modelo hace técnicamente.
Elementos biométricos. Si la detección de fraude se basa en la verificación biométrica — reconocimiento facial para confirmar que la persona que inicia una transacción es quien dice ser — el Anexo III, ámbito 1, entra en juego para ese componente. La identificación biométrica remota en tiempo real en espacios de acceso público con fines de garantía del cumplimiento del Derecho está prohibida con arreglo al Artículo 5; la categorización biométrica basada en atributos sensibles también está prohibida. Una comprobación biométrica pasiva 1:1 (desbloqueo del teléfono, rostro registrado cotejado con el titular de la cuenta) es por lo general de riesgo mínimo. La línea importa, y el componente biométrico necesita su propia clasificación.
El Artículo 5 se aplica con independencia de la clasificación. Las prohibiciones del Artículo 5 se aplican desde el 2 de febrero de 2025 y no quedan desactivadas por la exclusión del Anexo III. Un sistema de detección de fraude que opera asignando puntuaciones sociales a las personas en función de su comportamiento social o de sus características personales entraría en la prohibición de puntuación social del Artículo 5, apartado 1, letra c), con independencia de cómo lo llame el proveedor. Prohibido significa prohibido — el techo de la multa es de 35 000 000 EUR o el 7 % del volumen de negocios anual mundial total, si esta última cifra es mayor (Artículo 99, apartado 3).
Qué obligaciones se aplican realmente
Si tu IA de detección de fraude pasa el filtro del Artículo 6, apartado 3, y la exclusión del Anexo III, ámbito 5, letra b), la pila completa de alto riesgo — gestión de riesgos con arreglo al Artículo 9, documentación técnica con arreglo al Artículo 11, supervisión humana con arreglo al Artículo 14, evaluación de la conformidad con arreglo al Artículo 43, registro con arreglo al Artículo 49 — no se aplica. Eso supone una reducción significativa de la carga de trabajo de cumplimiento.
Lo que sí se aplica:
Cribado del Artículo 5. Todo sistema de IA, sea cual sea su nivel, debe comprobarse frente a las prohibiciones del Artículo 5. Para la detección de fraude, las prohibiciones pertinentes son la puntuación social (Artículo 5, apartado 1, letra c)), los sistemas que explotan vulnerabilidades para influir en el comportamiento (Artículo 5, apartado 1, letra b)) y cualquier prohibición relacionada con la biometría de los Artículos 5, apartado 1, letras e) a h). Esto no es una comprobación puntual — la finalidad y la función del sistema deben revisarse siempre que el caso de uso cambie materialmente.
Alfabetización en IA del Artículo 4. Desde el 2 de febrero de 2025, toda organización que utiliza la IA en un contexto profesional debe garantizar que las personas que trabajan con ella tengan un nivel suficiente de alfabetización en IA — no una certificación legal, sino una competencia genuina proporcionada al rol. Para una empresa que opera un sistema de detección de fraude, eso incluye a los analistas que revisan los resultados del modelo y a los propietarios de los riesgos que fijan los umbrales y actúan sobre las alertas.
Obligaciones del RGPD. La puntuación de fraude de personas físicas activa varios deberes del RGPD en paralelo a la Ley de IA de la UE. El artículo 22 del RGPD cubre las decisiones exclusivamente automatizadas que producen efectos jurídicos o efectos similares significativos — si tu modelo de fraude puede rechazar una transacción o bloquear una cuenta sin revisión humana, eso es un proceso del artículo 22 del RGPD. La minimización de datos del artículo 5, apartado 1, letra c), del RGPD se aplica a los datos personales que trata el modelo. Una evaluación de impacto relativa a la protección de datos con arreglo al artículo 35 del RGPD puede ser exigible cuando el tratamiento es de alto riesgo dentro del propio marco de riesgo del RGPD, lo que el tratamiento de patrones de fraude a gran escala suele ser. Las obligaciones del RGPD coexisten con la Ley de IA de la UE; superar un marco no satisface el otro.
Documentación del razonamiento de la clasificación. El Artículo 6, apartado 3, exige a los proveedores que se acogen a la exención de no alto riesgo documentar su evaluación y registrarla. En la práctica, esto significa registrar por escrito: por qué el sistema entra dentro del Anexo III, ámbito 5, letra b); por qué se aplica la exclusión de detección de fraude; si se cumplen las condiciones del filtro del Artículo 6, apartado 3; y si hay presentes elementos biométricos o de elaboración de perfiles. Esto no es marcar casillas burocráticas — si una autoridad de supervisión o una contraparte cuestionan la clasificación, el razonamiento documentado es lo que les muestras.
Transparencia del Artículo 50. El Artículo 50 se aplica a partir del 2 de agosto de 2026 a los sistemas de riesgo limitado — principalmente chatbots, interfaces de reconocimiento de emociones y generadores de contenido sintético. Un motor de fraude de back-end que se ejecuta de forma invisible y no interactúa con las personas en tiempo real es poco probable que active el Artículo 50. Si el sistema genera notificaciones, comunicaciones o decisiones que llegan a las personas y esos resultados están generados por IA, el análisis se vuelve más específico de los hechos.
Qué hacer
Clasifica y documenta. Realiza la clasificación del Artículo 6 para cada sistema de IA que construyas o despliegues, incluidos los modelos de fraude. Registra: qué ámbito del Anexo III, en su caso, toca el sistema; si se aplica la exclusión de detección de fraude del ámbito 5, letra b); si se satisface el filtro del Artículo 6, apartado 3; y si hay alguna prohibición del Artículo 5 en el ámbito de aplicación. Mantén este registro actualizado — la clasificación puede cambiar si cambian la finalidad, los resultados o el contexto de despliegue del sistema.
Criba para el Artículo 5. Antes de nada, confirma que el sistema no cruza hacia territorio prohibido. La mecánica de puntuación social, la manipulación del comportamiento y las prohibiciones biométricas están vigentes desde el 2 de febrero de 2025. Ningún ejercicio de clasificación está completo sin este cribado.
Comprueba el RGPD en paralelo. Mapea los datos personales que trata el modelo de fraude. Identifica si el artículo 22 del RGPD se aplica a alguna de las decisiones automatizadas que produce el modelo. Considera si es exigible una EIPD con arreglo al artículo 35 del RGPD. El RGPD no cede ante la Ley de IA de la UE, y los dos marcos se solapan materialmente para cualquier sistema que trate datos financieros personales a gran escala.
Reevalúa cuando cambie el uso. La exclusión está vinculada a la función, no al nombre del producto. Si los resultados del modelo de fraude empiezan a alimentar decisiones de solvencia, o si el sistema se amplía a un cliente de garantía del cumplimiento del Derecho, la clasificación debe volver a ejecutarse desde cero. Un modelo que el año pasado no era de alto riesgo puede no seguir siendo de no alto riesgo tras una actualización del producto.
Cómo ayuda Confir
El motor de clasificación de Confir es determinista y basado en reglas — no una IA ni un LLM. Codifica la lógica de clasificación del Artículo 6 y el mapa de ámbitos del Anexo III en reglas explícitas, de modo que la misma admisión produce la misma conclusión siempre. Para un sistema de detección de fraude, el flujo de trabajo recorre el cribado del Artículo 5, el análisis del Anexo III, ámbito 5, letra b), incluida la exclusión de detección de fraude, y el filtro del Artículo 6, apartado 3. Cuando el sistema es de no alto riesgo, Confir registra el razonamiento en un registro de clasificación que puedes mostrar a un DPD, a un auditor o a una contraparte en un proceso de evaluación de proveedores.
Para los sistemas combinados que tienen tanto un componente de detección de fraude como uno de solvencia, Confir señala el escenario de función mixta y deriva las obligaciones de cada componente por separado. La pila completa de alto riesgo se aplica a la función de solvencia; el conjunto más ligero se aplica a la función de detección de fraude excluida.
Preguntas frecuentes
¿Es un modelo de detección de fraude en transacciones automáticamente de no alto riesgo conforme a la Ley de IA de la UE?
No automáticamente, pero el punto de partida por defecto es favorable. El Anexo III, ámbito 5, letra b), excluye explícitamente de la categoría de alto riesgo de solvencia los sistemas de IA utilizados con el fin de detectar el fraude financiero. Si el sistema únicamente detecta fraude, no elabora perfiles de personas de un modo que active la salvedad del Artículo 6, apartado 3, y supera el cribado del Artículo 5, se sitúa por debajo del umbral de alto riesgo. El filtro del Artículo 6, apartado 3, sigue teniendo que aplicarse y documentarse.
¿Qué pasa si el modelo de fraude y el modelo de calificación crediticia son el mismo sistema?
Si un único sistema desempeña ambas funciones, la función de puntuación de solvencia es de alto riesgo con arreglo al Anexo III, punto 5, letra b). La exclusión de detección de fraude cubre únicamente el resultado de detección de fraude. En la práctica, tendrías que evaluar si los resultados son separables, y las obligaciones de alto riesgo — incluidas la gestión de riesgos del Artículo 9, la documentación técnica del Artículo 11, la supervisión humana del Artículo 14 y la evaluación de la conformidad del Artículo 43 — se aplican al componente de solvencia. Si la separación no es factible, trata el sistema como de alto riesgo en su conjunto.
¿Se aplica el artículo 22 del RGPD a las decisiones automatizadas de fraude?
Sí, si el sistema toma decisiones automatizadas que producen efectos jurídicos o efectos similares significativos sobre las personas —o contribuye a ellas— como bloquear una cuenta, rechazar un pago o marcar una cuenta para su restricción, el artículo 22 del RGPD se activa. La persona tiene derecho a la revisión humana, a una explicación y al derecho a impugnar la decisión. La Ley de IA de la UE y el RGPD corren en paralelo; superar la clasificación de la Ley de IA no exime de las obligaciones del RGPD.
¿Cuándo se aplican las obligaciones de alto riesgo si un modelo de fraude se clasifica como de alto riesgo?
Para los sistemas de IA de alto riesgo autónomos de la lista del Anexo III (que incluye la categoría de solvencia), la pila completa de alto riesgo se aplica a partir del 2 de diciembre de 2027, en virtud del acuerdo político del Ómnibus Digital alcanzado en mayo de 2026. La fecha original del 2 de agosto de 2026 se ha aplazado. Las prohibiciones del Artículo 5 y la alfabetización en IA del Artículo 4 se aplican desde el 2 de febrero de 2025 — esas no se aplazaron.
¿Se aplica la exclusión si el sistema de fraude lo despliega una autoridad de garantía del cumplimiento del Derecho?
La exclusión del Anexo III, ámbito 5, letra b), retira la IA de detección de fraude de la categoría de alto riesgo de solvencia. No retira el sistema del Anexo III, ámbito 6, que se aplica a la IA utilizada por las autoridades de garantía del cumplimiento del Derecho. Un sistema de fraude desplegado en ese contexto necesita un análisis independiente del ámbito 6. Según su función, puede ser de alto riesgo con arreglo al ámbito 6 aunque quedara excluido con arreglo al ámbito 5, letra b).
¿Qué documentación se necesita incluso para un sistema de fraude de no alto riesgo?
El Artículo 6, apartado 3, exige a los proveedores que se acogen a la exención de no alto riesgo registrar la evaluación por escrito. El registro debe cubrir: el análisis del ámbito del Anexo III, el razonamiento de la exclusión de detección de fraude, las condiciones del filtro del Artículo 6, apartado 3, y cualquier hallazgo del cribado del Artículo 5. Esto no requiere el paquete completo de documentación técnica del Anexo IV que necesitan los sistemas de alto riesgo, pero debe ser lo suficientemente sustantivo como para resistir el escrutinio de una autoridad de vigilancia del mercado o de un cliente que realiza una diligencia debida del proveedor. ---
Guías relacionadas
- La IA de calificación crediticia y la Ley de IA de la UE
- Cumplimiento de la IA en la fintech conforme a la Ley de IA de la UE
- Clasificación de riesgo de la Ley de IA de la UE: los cuatro niveles explicados
- Anexo III: la lista de casos de uso de alto riesgo
- Artículo 6: cómo funciona la clasificación de alto riesgo
- ¿Es mi sistema de IA de alto riesgo? Un recorrido de clasificación
Gestiona el cumplimiento de la Ley de IA de la UE en un solo lugar
Confir automatiza la clasificación de riesgo, la documentación técnica y los registros de auditoría para cualquier empresa. Sin consultores. Sin proyectos de seis meses. Prueba gratuita de 7 días.
Empieza la prueba gratuita →