Hochrisiko-KI: einstufen, dann handeln.

Die KI-Verordnung (EU) 2024/1689 stuft Systeme nicht danach ein, wie leistungsfähig sie sind, sondern nach dem rechtlichen Weg – und es gibt genau zwei Wege in die Hochrisiko-Stufe. Eine deterministische Formel zur Kreditwürdigkeitsprüfung, erstellt in einer Tabellenkalkulation, kann nach Anhang III hochriskant sein, während ein weit leistungsfähigerer Chatbot, der Produktfragen beantwortet, nur Transparenzpflichten trägt.

Weg 1 – Produkte unter Anhang-I-Rechtsvorschriften (Art. 6 Abs. 1)

Hochriskant, wenn beide Voraussetzungen erfüllt sind: Das System ist ein Sicherheitsbauteil eines Produkts (oder selbst ein Produkt), das unter die Harmonisierungsrechtsvorschriften des Anhangs I fällt – Maschinen, Medizinprodukte, Aufzüge, Spielzeug, Zivilluftfahrt – und dieses Produkt erfordert bereits eine Konformitätsbewertung durch Dritte. KI in einem regulierten Produkt, dessen Konformitätsweg nie eine notifizierte Stelle einbezieht, fällt nicht über diesen Weg in die Stufe. Nach der Verordnung (EU) 2026/1744 ist ein KI-System nur dann ein „Sicherheitsbauteil“, wenn es eine Sicherheitsfunktion erfüllt (seine Zweckbestimmung also darin besteht, Risiken für die Gesundheit und Sicherheit von Personen oder Eigentum abzuwenden oder zu mindern) oder sein Ausfall oder seine Störung Gesundheit und Sicherheit gefährdet; KI-Systeme, die „ausschließlich für nicht sicherheitsrelevante Aspekte“ der Nutzerunterstützung, Leistungsoptimierung, Leistungseffizienz, Automatisierung, Benutzerfreundlichkeit oder Qualitätskontrolle verwendet werden, sind ausgenommen, es sei denn, ihr Ausfall oder ihre Fehlfunktion würde Gesundheit und Sicherheit gefährden. Für Produkte nach Anhang I Abschnitt B (z. B. Fahrzeuge, Luftfahrt und seit der Verordnung (EU) 2026/1744 Maschinen) kommen die Anforderungen über das jeweilige Sektorrecht, nicht unmittelbar aus der KI-Verordnung.

Weg 2 – eigenständige Anwendungsfälle nach Anhang III (Art. 6 Abs. 2)

Hochriskant, wenn die Zweckbestimmung des Systems in einen der acht Bereiche des Anhangs III fällt – kein physisches Produkt nötig. Ein reines SaaS-System, das Bewerbungen sichtet und Bewerbende reiht, liegt eindeutig darin, egal wie einfach seine Logik ist. Die Antwort „keiner von beiden“ zählt genauso: Die meisten Systeme in einem typischen Unternehmen – Empfehlungen, interne Suche, Prognosen, Betrugserkennung – liegen außerhalb beider Wege und tragen überhaupt keine Hochrisiko-Pflichten.

Der Weg bestimmt alles Weitere – welche Frist gilt, welchem Konformitätsweg nach Art. 43 Sie folgen und ob die Ausnahme nach Art. 6 Abs. 3 überhaupt in Frage kommt (es gibt sie nur für Systeme nach Anhang III). Liegen Sie beim Weg falsch, erbt jede spätere Entscheidung den Fehler.

Anhang III listet acht Anwendungsbereiche auf; ein System, dessen Zweckbestimmung in einen davon fällt, ist nach Art. 6 Abs. 2 hochriskant; einzige Ausnahme ist der Filter nach Art. 6 Abs. 3. Die Beispiele unten, was hinein- und was herausfällt, folgen den Leitlinienentwürfen der Kommission vom 19. Mai 2026 – sie haben Gewicht, sind aber nicht verbindlich und im endgültigen Text noch änderbar.

Nr. 1–4: Biometrie, Infrastruktur, Bildung, Beschäftigung

Nr. 1 erfasst biometrische Fernidentifizierung, biometrische Kategorisierung und Emotionserkennung – reine Verifizierung (Entsperren eines Geräts, Zutrittskontrolle) ist jedoch ausgenommen. Nr. 2 betrifft KI als Sicherheitsbauteil in kritischer Infrastruktur. Nr. 3 erfasst Systeme für Zulassung, Bewertung und Prüfungsüberwachung. Nr. 4 – die, auf die die meisten privaten Unternehmen zuerst stoßen – erfasst Lebenslauf-Screening, das Reihen von Bewerbenden, Entscheidungen über Beförderung und Kündigung sowie verhaltensbasierte Aufgabenzuweisung. Der Arbeitsplatzbezug allein ist kein Auslöser: Allgemeine Besprechungsprotokolle und Kalenderfunktionen fallen nicht darunter.

Nr. 5–8: Dienste, Kredit, Strafverfolgung, Justiz

Kreditwürdigkeitsprüfung und Kreditscoring natürlicher Personen sind erfasst (Nr. 5 Buchst. b) – die Aufdeckung von Finanzbetrug ist aus derselben Nummer aber ausdrücklich ausgenommen. Die Preisgestaltung bei Lebens- und Krankenversicherungen ist erfasst (Nr. 5 Buchst. c). Die Nr. 6–8 – Strafverfolgung, Migration und Justiz – richten sich überwiegend an den öffentlichen Sektor. Der Haken: Wer Systeme für diese Zwecke an Behörden verkauft, wird Anbieter eines Hochrisiko-KI-Systems – der Anwendungsfall des Kunden bestimmt Ihre Einstufung.

Über alle acht Nummern hinweg steuert die Zweckbestimmung die Analyse – deshalb sind Ihre Marketingtexte und Ihre Betriebsanleitung Nachweise für die Einstufung, nicht bloß Vertriebsmaterial.

Art. 6 Abs. 3 ist der einzige Ausweg aus dem Anhang-III-Weg, und er ist eng gefasst. Ein System nach Anhang III entgeht dem Hochrisiko-Status nur, wenn es kein erhebliches Schadensrisiko birgt, auch indem es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Die Ausnahme steht offen, wenn das System Folgendes ausführt:

1. 1eine eng gefasste Verfahrensaufgabe;
2. 2die Verbesserung des Ergebnisses einer zuvor abgeschlossenen menschlichen Tätigkeit;
3. 3das Erkennen von Entscheidungsmustern oder Abweichungen davon, ohne die zuvor abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen; oder
4. 4eine vorbereitende Aufgabe für eine Bewertung, die für einen Anwendungsfall nach Anhang III relevant ist.

Ein Lebenslauf-Parser, der Felder in ein Formular überträgt, ist der klassische Fall von Bedingung (d); ein System, das dieselben Lebensläufe bewertet oder reiht, ist es nicht. Der Filter wird überdehnt, weil Teams Bedingung (b) so lesen, als decke sie jedes System mit einem Menschen in der Schleife ab – die Leitlinienentwürfe lesen sie deutlich enger.

Zwei Pflichten bleiben trotz Ausnahme bestehen: Dokumentieren Sie die Bewertung, bevor Sie das System in Verkehr bringen (Art. 6 Abs. 4), und registrieren Sie es trotzdem in der EU-Datenbank (Art. 49 Abs. 2). Eine mündliche Einschätzung aus einer Produktbesprechung ist ein Haftungsrisiko, keine dokumentierte Bewertung.

Am 19. Mai 2026 hat die Europäische Kommission einen Leitlinienentwurf zur Einstufung von Hochrisiko-KI-Systemen veröffentlicht und damit den Auftrag aus Art. 6 Abs. 5 erfüllt. Drei Teile: allgemeine Einstufungsgrundsätze (die zentrale Rolle der Zweckbestimmung), der Produktweg nach Art. 6 Abs. 1 / Anhang I und der Weg nach Art. 6 Abs. 2 / Anhang III mit praktischen Beispielen für jede Nummer, was in den Anwendungsbereich fällt und was nicht.

Der dritte Teil wiegt für private Unternehmen am schwersten. Er ist die erste von der Kommission verfasste Aussage dazu, wo die Grenze liegt – Lebenslauf-Screening gegenüber Terminplanung für Vorstellungsgespräche, Kreditscoring gegenüber Betrugserkennung, biometrische Identifizierung gegenüber Verifizierung – Grenzfälle, über die Teams streiten, seit die Verordnung in Kraft getreten ist.

Klarstellung, kein Gesetz

Die Leitlinien sind nicht rechtsverbindlich – die maßgebliche Auslegung liegt beim Gerichtshof der EU, und der endgültige Text kann abweichen. Marktüberwachungsbehörden werden sie aber als ihre Arbeitsgrundlage behandeln; eine Einstufung, die von einem Beispiel der Leitlinien abweicht, braucht deshalb eine schriftliche Begründung für die Abweichung.

Die Einstufung sagt Ihnen, ob ein System hochriskant ist; Ihre Rolle sagt Ihnen, welche Pflichten Sie dafür tragen. Die Pflichten teilen sich auf zwischen dem Anbieter – der das System entwickelt oder unter eigenem Namen in Verkehr bringt – und dem Betreiber, der es in eigener Verantwortung verwendet. Grob gesagt: Nachweise bei der Entwicklung gegenüber Disziplin im Betrieb.

Der Pflichtenkatalog des Anbieters (Art. 8–22)

Der umfangreichere Katalog: ein Risikomanagementsystem (9), Daten-Governance (10), technische Dokumentation nach Anhang IV (11), automatische Protokollierung (12), Transparenz und Betriebsanleitung (13), menschliche Aufsicht, schon in der Konzeption angelegt (14) sowie Genauigkeit, Robustheit und Cybersicherheit (15) – dazu Qualitätsmanagement (17), Konformitätsbewertung (43), CE-Kennzeichnung (48) und Registrierung in der EU-Datenbank (49). Es ist ein System, keine Checkliste: Das Ergebnis aus Art. 9 speist die Anhang-IV-Akte, auf die die Bewertung nach Art. 43 zurückgreift. Den Umfang klären Sie mit der Vorlage für die technische Dokumentation nach Anhang IV.

Der Pflichtenkatalog des Betreibers (Art. 26)

Leichter und operativ: das System gemäß der Betriebsanleitung des Anbieters verwenden, kompetente menschliche Aufsicht zuweisen, Eingabedaten relevant halten, soweit Sie sie kontrollieren, den Betrieb überwachen, Protokolle, soweit sie Ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahren (sofern das Unionsrecht oder nationale Recht nichts anderes vorsieht) und betroffene Beschäftigte informieren, bevor ein Hochrisiko-KI-System in Betrieb geht. Die meisten Unternehmen sind für die meisten Systeme Betreiber und nur für das Anbieter, was sie selbst entwickeln oder unter eigenem Namen anbieten – halten Sie die Aufteilung fest mit der Vorlage für das KI-System-Register.

Wann ein Betreiber zum Anbieter wird (Art. 25)

Der Rollenwechsel: Ein Betreiber übernimmt den vollständigen Pflichtenkatalog der Art. 8–22, wenn er ein Hochrisiko-KI-System unter seinem Namen oder seiner Handelsmarke anbietet, eine wesentliche Veränderung vornimmt oder ein nicht hochriskantes System für einen Hochrisiko-Zweck umwidmet. Die drei häufigsten Fälle: ein Anbietermodell feinabstimmen, ein fremdes System unter eigener Marke anbieten, ein internes System für einen Anwendungsfall nach Anhang III umwidmen.

Die Grundrechte-Folgenabschätzung (FRIA) nach Art. 27 ist die im Compliance-Marketing am meisten überschätzte Pflicht. Ihr Anwendungsbereich ist eng, und die meisten privaten Unternehmen, die Hochrisiko-KI betreiben, liegen außerhalb.

Die FRIA ist nur für drei Gruppen von Betreibern Pflicht: Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber zweier bestimmter Systeme nach Anhang III – Nr. 5 Buchst. b, Kreditwürdigkeitsprüfung und Kreditscoring, und Nr. 5 Buchst. c, Preisgestaltung bei Lebens- und Krankenversicherungen. Ein privates Unternehmen, das ein System für Lebenslauf-Screening nach Nr. 4 betreibt, braucht keine FRIA, egal was eine Anbieterpräsentation behauptet; eine Regionalbank, die ein Kreditscoring-Modell betreibt, schon – wegen Nr. 5 Buchst. b.

Was sie enthält, und wann

Abgeschlossen vor der ersten Verwendung, deckt sie die Prozesse der Verwendung ab, den Zeitraum und die Häufigkeit der Verwendung, die Kategorien betroffener Personen, die spezifischen Schadensrisiken, die Maßnahmen der menschlichen Aufsicht und die Abhilfemaßnahmen, falls sich Risiken verwirklichen. Der Betreiber teilt das Ergebnis anschließend der Marktüberwachungsbehörde mit und aktualisiert die Abschätzung, wenn sich Elemente ändern.

Auf Ihrer DSFA aufbauen – nicht doppelt arbeiten

Art. 27 erlaubt dem Betreiber, sich auf eine bestehende Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO zu stützen, soweit sie das Feld bereits abdeckt – die FRIA ergänzt sie, statt neu anzufangen. Die Überschneidungen zeigt FRIA vs. DSFA, und die FRIA-Vorlage gibt Ihnen die Struktur nach Art. 27 Abs. 1.

Zwei Irrtümer zum Zeitplan halten sich in Geschäftsleitungen: Alles sei verschoben worden – oder nichts. Beides stimmt nicht.

Heute schon verbindlich

Die Verbote nach Art. 5 gelten seit dem 2. Februar 2025, und die Stufe von 35 Mio. € / 7 % greift schon jetzt bei Verstößen; das GPAI-Regime der Art. 51–55 gilt seit dem 2. August 2025. Der Digital-Omnibus verschiebt keines von beiden – seine einzige Änderung hier ist eine Ergänzung: zwei neue Verbote, Art. 5 Abs. 1 Buchst. ba und bb – nicht einvernehmliche intime Darstellungen einer identifizierbaren Person sowie Darstellungen sexuellen Kindesmissbrauchs –, die ab dem 2. Dezember 2026 gelten.

Was der Omnibus ändert und was nicht

Die Verordnung (EU) 2026/1744 vom 8. Juli 2026 (ABl. L vom 24.7.2026) – das Europäische Parlament stimmte am 16. Juni ab, der Rat am 29. Juni – verschiebt die eigenständigen Hochrisiko-KI-Systeme nach Anhang III auf den 2. Dezember 2027 und die in Produkte eingebetteten Hochrisiko-KI-Systeme nach Anhang I auf den 2. August 2028, jeweils zu festen Kalenderdaten. Der Vorschlag der Kommission vom November 2025 hätte den Hochrisiko-Geltungsbeginn an die Verfügbarkeit von Normen und Unterstützungsinstrumenten geknüpft, mit Auffangdaten; Parlament und Rat haben stattdessen feste Daten beschlossen. Sie wurde am 8. Juli 2026 unterzeichnet, am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Art. 50 einschließlich der Kennzeichnung nach Abs. 2 gilt seit dem 2. August 2026. Generative Systeme, die vor diesem Datum in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit (Art. 111 Abs. 4).

Alles oben Gesagte wird zu einem einzigen 90-Tage-Programm. Die Reihenfolge unten geht davon aus, dass Sie unstrukturiert starten – ziehen Sie Meilensteine vor, wo Teile schon existieren.

Tage 1–30 – inventarisieren und einstufen

Bauen Sie das vollständige Inventar Ihrer KI-Systeme auf, einschließlich der KI-Funktionen in den SaaS-Anwendungen, die Sie abonniert haben; prüfen Sie jedes System entlang der zwei Wege nach Art. 6 und ordnen Sie es den Nummern des Anhangs III zu; und schreiben Sie für jede Inanspruchnahme von Art. 6 Abs. 3 den Vermerk nach Art. 6 Abs. 4. Ihre Ausgangslage bestimmen Sie mit der Methode zur Standortbestimmung (englisch).

Tage 31–60 – Rollen, Lücken, Grundrechte-Folgenabschätzung

Legen Sie die Rolle als Anbieter oder Betreiber pro System fest (und markieren Sie jedes Risiko eines Rollenwechsels nach Art. 25), wenden Sie die Methode der Gap-Analyse (englisch) auf den Pflichtenkatalog der Art. 8–15 und den des Art. 26 an und schließen Sie die Anwendbarkeitsprüfung nach Art. 27 ab – eine Grundrechte-Folgenabschätzung geben Sie nur in Auftrag, wo sie positiv ausfällt.

Tage 61–90 – Roadmap, Nachweise, Verantwortliche

Machen Sie aus der Lückenliste eine datierte Roadmap für Abhilfemaßnahmen, bei der jeder Meilenstein vor dem 2. Dezember 2027 liegt; bauen Sie die Nachweisbasis auf (Dokumentation nach Anhang IV, automatische Protokollierung, namentlich zugewiesene menschliche Aufsicht, sechsmonatige Aufbewahrung der Protokolle); und benennen Sie eine verantwortliche Person für Compliance mit Sichtbarkeit bis in die Geschäftsleitung.