Kapitel 5 von 8

Anbieter- und Betreiberpflichten bei Hochrisiko-KI im Vergleich

17 Min. Lesezeit

Anbieterpflichten (Art. 8–22) vs. Betreiberpflichten (Art. 26) für Hochrisiko-KI nach dem EU AI Act im Vergleich – mit der geltenden Frist 2. Dezember 2027.

Die KI-Verordnung (EU) 2024/1689 teilt die Pflichten für Hochrisiko-KI in zwei Pflichtenkataloge auf, die an Rollen geknüpft sind, nicht an Unternehmen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Der Anbieter trägt den Pflichtenkatalog für Konzeption und Markteintritt in den Art. 8–22, dazu die Schritte der Konformitätsbewertung in den Artikeln 43, 47, 48 und 49. Betreiber ist, wer ein KI-System in eigener Verantwortung im beruflichen Kontext verwendet (Art. 3 Nr. 4). Er trägt den Pflichtenkatalog für den Betrieb aus Art. 26, dazu die Grundrechte-Folgenabschätzung nach Art. 27, wo sie greift.

Rollen hängen am einzelnen KI-System, nicht an der Organisation. Dasselbe Unternehmen ist regelmäßig Anbieter des Systems, das es verkauft, und Betreiber der Systeme, die es einkauft – und nach Art. 25 kann ein Betreiber mitten im Lebenszyklus in die Anbieterrolle wechseln. Dieses Kapitel stellt beide Pflichtenkataloge dar, legt sie in einer Tabelle nebeneinander, geht den Rollenwechsel nach Art. 25 durch und schließt mit den Geltungsterminen. Dieser letzte Abschnitt behandelt die inzwischen feststehenden Termine: Die Frist 2. Dezember 2027 ist seit dem 27. Juli 2026 geltendes Recht.

Ein Hochrisiko-KI-System, zwei Pflichtenkataloge

Rollen, nicht Technologie, verteilen die Pflichten (Art. 3)

Der EU AI Act fragt nicht, was für ein Unternehmen Sie sind. Er fragt, in welchem Verhältnis Sie zu jedem einzelnen KI-System stehen. Für Systeme, die nach Art. 6 als hochriskant eingestuft sind – also in Produkte eingebettete Systeme nach den sektoralen Rechtsvorschriften aus Anhang I (Art. 6 Abs. 1) und eigenständige Systeme in den Anwendungsbereichen aus Anhang III (Art. 6 Abs. 2) –, verteilen die Begriffsbestimmungen in Art. 3 zwei sehr unterschiedliche Pflichtenkataloge. Der Anbieter muss das System rechtskonform machen, bevor es überhaupt jemand nutzen darf. Der Betreiber muss es im laufenden Betrieb rechtskonform halten. Wenn Sie unsicher sind, welche Definition auf Sie zutrifft, klären Sie das zuerst: Bin ich Anbieter oder Betreiber? geht die Grenzfälle durch.

Viele Unternehmen tragen beide Pflichtenkataloge

Weil Rollen am einzelnen System hängen, trägt eine Organisation oft beide Pflichtenkataloge gleichzeitig: Anbieter des selbst entwickelten Modells zur Betrugsbewertung, Betreiber des eingekauften Systems zur Lebenslauf-Vorauswahl in der Personalabteilung. Ihr Pflichtenregister muss die Rolle pro System erfassen. Ein Etikett auf Unternehmensebene wie „Wir sind Betreiber“ ist genau die Art Abkürzung, durch die Pflichten übersehen werden.

Der Pflichtenkatalog des Anbieters: Art. 8–22 plus Markteintritt

Was das System selbst erfüllen muss (Art. 8–15)

Art. 8 verankert den Katalog: Hochrisiko-KI-Systeme müssen die Anforderungen aus Kapitel III Abschnitt 2 erfüllen, unter Berücksichtigung ihrer Zweckbestimmung und des Stands der Technik. Sieben Artikel buchstabieren aus, was das bedeutet.

Risikomanagement (Art. 9). Ein kontinuierlicher, iterativer Risikomanagementprozess über den gesamten Lebenszyklus: ermitteln, abschätzen, bewerten und mindern. Wir erläutern ihn im Detail unter Das Risikomanagementsystem nach Art. 9.
Daten-Governance (Art. 10). Qualitätskriterien für Trainings-, Validierungs- und Testdatensätze, einschließlich Relevanz, Repräsentativität und Untersuchung auf mögliche Verzerrungen (Bias).
Technische Dokumentation (Art. 11). Wird vor der Markteinführung oder der Inbetriebnahme erstellt, deckt die Elemente aus Anhang IV ab und wird auf dem neuesten Stand gehalten. Die Vorlage für die technische Dokumentation nach Anhang IV liefert Ihnen die vollständige Struktur.
Aufzeichnungspflichten (Art. 12). Das System muss technisch die automatische Aufzeichnung von Ereignissen (Protokolle) über seine gesamte Lebensdauer ermöglichen.
Transparenz und Betriebsanleitung (Art. 13). Das ist das Scharnier zwischen den beiden Pflichtenkatalogen. Die Betriebsanleitung, die der Anbieter hier verfasst, ist der Rahmen, in dem der Betreiber das System nach Art. 26 Abs. 1 rechtlich verbindlich betreiben muss.
Menschliche Aufsicht (Art. 14). Aufsichtsmaßnahmen, die in das System eingebaut oder vom Anbieter so festgelegt sind, dass der Betreiber sie umsetzt.
Genauigkeit, Robustheit und Cybersicherheit (Art. 15). Jeweils ein angemessenes Niveau, das über den gesamten Lebenszyklus beständig erreicht wird.

Die Verhaltenspflichten des Anbieters (Art. 16)

Art. 16 legt dann die eigenen Verhaltenspflichten des Anbieters obendrauf: seinen Namen und seine Kontaktdaten angeben; ein Qualitätsmanagementsystem nach Art. 17 betreiben; die technische Dokumentation zehn Jahre lang aufbewahren (Art. 18); die automatisch erzeugten Protokolle, die seiner Kontrolle unterliegen, aufbewahren (Art. 19); Korrekturmaßnahmen ergreifen und nachgelagerte Akteure informieren, wenn etwas nicht konform ist (Art. 20); und mit den zuständigen Behörden zusammenarbeiten (Art. 21). Anbieter mit Sitz außerhalb der EU müssen einen Bevollmächtigten in der Union benennen, bevor sie das System bereitstellen (Art. 22). Die Aufschlüsselung Zeile für Zeile finden Sie unter Anbieterpflichten nach Art. 16.

Markteintritt (Art. 43, 47, 48 und 49)

Nichts gelangt auf den EU-Markt, bevor der Anbieter vier Schritte abgeschlossen hat:

Konformitätsbewertung (Art. 43). Interne Kontrolle nach Anhang VI für die meisten Systeme aus Anhang III. Für biometrische Systeme nach Anhang III Nr. 1 wählt der Anbieter zwischen Anhang VI und dem Verfahren mit notifizierter Stelle nach Anhang VII, sofern harmonisierte Normen vollständig angewandt wurden.
EU-Konformitätserklärung (Art. 47). Wird mit dem Inhalt aus Anhang V erstellt und zehn Jahre lang aufbewahrt.
CE-Kennzeichnung (Art. 48). Sichtbar, lesbar und dauerhaft angebracht – bei digital bereitgestellten Systemen in digitaler Form.
Registrierung (Art. 49). Der Anbieter registriert sich selbst und das System vor der Markteinführung in der nach Art. 71 eingerichteten EU-Datenbank.

Das ist der Pflichtenkatalog des Anbieters im Überblick. Die Vertiefung finden Sie unter Anbieterpflichten im Detail.

Der Pflichtenkatalog des Betreibers: Art. 26 im laufenden Betrieb

Der Pflichtenkatalog des Betreibers ist operativ, nicht auf Designebene angesiedelt. Art. 26 verlangt nicht, dass Sie das System neu konstruieren, sondern nur, dass Sie es verantwortungsvoll betreiben.

Innerhalb der Betriebsanleitung arbeiten (Art. 26 Abs. 1)

Betreiber müssen geeignete technische und organisatorische Maßnahmen treffen, um das System gemäß der Betriebsanleitung des Anbieters zu verwenden. Die Betriebsanleitung ist der rechtliche Rahmen Ihrer Nutzung. Verlassen Sie ihn, riskieren Sie einen Verstoß gegen Art. 26 – und einen Rollenwechsel nach Art. 25, wenn die Abweichung auf eine neue Zweckbestimmung hinausläuft.

Kompetente menschliche Aufsicht zuweisen (Art. 26 Abs. 2)

Die menschliche Aufsicht muss natürlichen Personen übertragen werden, die über die nötige Kompetenz, Schulung und Befugnis sowie die erforderliche Unterstützung verfügen. Ein nomineller Verantwortlicher ohne die Befugnis, das System anzuhalten, erfüllt den Artikel nicht.

Eingabedaten kontrollieren und Betrieb überwachen (Art. 26 Abs. 4 und 5)

Soweit der Betreiber die Kontrolle über die Eingabedaten ausübt, müssen diese Daten im Hinblick auf die Zweckbestimmung des Systems relevant und ausreichend repräsentativ sein (Art. 26 Abs. 4). Betreiber überwachen außerdem den Betrieb auf Grundlage der Betriebsanleitung (Art. 26 Abs. 5). Kann die Nutzung ein Risiko im Sinne von Art. 79 Abs. 1 darstellen, informieren sie unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Nutzung aus. Bei einem schwerwiegenden Vorfall informiert der Betreiber zuerst den Anbieter, dann den Einführer oder Händler und die Behörden – und speist damit die eigene Meldepflicht des Anbieters nach Art. 73.

Protokolle, Beschäftigte und betroffene Personen (Art. 26 Abs. 6, 7 und 11)

Automatisch erzeugte Protokolle, die der Kontrolle des Betreibers unterliegen, müssen für einen der Zweckbestimmung angemessenen Zeitraum aufbewahrt werden, mindestens aber sechs Monate, sofern nicht anderes Unions- oder nationales Recht etwas anderes vorsieht (Art. 26 Abs. 6). Bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb genommen wird, müssen Betreiber, die Arbeitgeber sind, die Arbeitnehmervertretungen und die betroffenen Beschäftigten informieren (Art. 26 Abs. 7), und Betreiber müssen natürliche Personen darüber informieren, dass sie einem Hochrisiko-KI-System unterliegen, wenn dieses Entscheidungen über sie trifft oder dabei unterstützt (Art. 26 Abs. 11). Betreiber, die Behörden sind, prüfen und vervollständigen zusätzlich die Registrierung nach Art. 49 Abs. 3, und jeder Betreiber arbeitet mit den zuständigen Behörden zusammen (Art. 26 Abs. 12).

Die Grundrechte-Folgenabschätzung (Art. 27)

Ein Teil der Betreiber trägt eine weitere Pflicht: eine Grundrechte-Folgenabschätzung (FRIA). Sie gilt für Betreiber, die Einrichtungen des öffentlichen Rechts oder private Einrichtungen sind, die öffentliche Dienste erbringen, sowie für Betreiber von Systemen nach Anhang III Nr. 5 Buchst. b und c – also Kreditwürdigkeitsprüfung sowie Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung. Die FRIA wird vor der ersten Verwendung durchgeführt, mit Mitteilung an die Marktüberwachungsbehörde. Die vollständige Anleitung finden Sie unter Betreiberpflichten im Detail, den Text Artikel für Artikel unter Betreiberpflichten nach Art. 26.

Im Vergleich: Anbieter- und Betreiberpflichten für dasselbe System

Die folgende Tabelle stellt beide Pflichtenkataloge Pflichtbereich für Pflichtbereich gegenüber – für ein und dasselbe Hochrisiko-KI-System.

Pflichtbereich	Anbieter	Betreiber
Risikomanagement	Betreibt das Risikomanagementsystem über den Lebenszyklus nach Art. 9	Überwacht den laufenden Betrieb; meldet Risiken an Anbieter und Behörde zurück (Art. 26 Abs. 5)
Daten	Daten-Governance nach Art. 10 für Trainings-, Validierungs- und Testdaten	Sorgt für relevante, ausreichend repräsentative Eingabedaten, soweit er die Eingaben kontrolliert (Art. 26 Abs. 4)
Dokumentation	Erstellt die technische Dokumentation nach Anhang IV (Art. 11) und die Betriebsanleitung (Art. 13)	Arbeitet innerhalb dieser Betriebsanleitung (Art. 26 Abs. 1)
Protokollierung	Baut die automatische Protokollierung in das System ein (Art. 12); bewahrt Protokolle unter seiner Kontrolle auf (Art. 19)	Bewahrt Protokolle unter seiner Kontrolle mindestens sechs Monate auf (Art. 26 Abs. 6)
Menschliche Aufsicht	Baut Aufsichtsmaßnahmen in das System ein (Art. 14)	Überträgt die Aufsicht an kompetente, geschulte und unterstützte Personen (Art. 26 Abs. 2)
Genauigkeit, Robustheit, Cybersicherheit	Muss sie konstruktiv sicherstellen (Art. 15)	Setzt die Nutzung aus, wenn der Betrieb ein Risiko nach Art. 79 Abs. 1 darstellt
Qualitätsmanagement	Unterhält ein QMS nach Art. 17	Keine Entsprechung beim Betreiber
Markteintritt	Konformitätsbewertung (Art. 43), EU-Konformitätserklärung (Art. 47), CE-Kennzeichnung (Art. 48), Registrierung in der EU-Datenbank (Art. 49)	Keine – außer der Registrierung der Nutzung durch Betreiber, die Behörden sind (Art. 49 Abs. 3)
Vorfälle und Post-Market	Betreibt die Überwachung nach Markteinführung (Art. 72); meldet schwerwiegende Vorfälle (Art. 73)	Informiert Anbieter/Händler und Marktüberwachungsbehörde; setzt die Nutzung aus (Art. 26 Abs. 5)
Betroffene Personen	Informiert über die Betriebsanleitung	Informiert Arbeitnehmervertretungen (Art. 26 Abs. 7) und betroffene Personen (Art. 26 Abs. 11); bestimmte Betreiber führen vor der ersten Verwendung die FRIA nach Art. 27 durch

So lesen Sie die Tabelle: Kataloge, die sich ergänzen, nicht doppeln

Kaum eine Zeile enthält dieselbe Pflicht zweimal; die Kataloge greifen ineinander, statt sich zu überschneiden. Die Betriebsanleitung des Anbieters nach Art. 13 ist das Regelwerk des Betreibers nach Art. 26 Abs. 1. Das Protokollierungsdesign des Anbieters nach Art. 12 macht die Aufbewahrung durch den Betreiber nach Art. 26 Abs. 6 erst möglich. Die Überwachung durch den Betreiber nach Art. 26 Abs. 5 speist die Überwachung nach Markteinführung des Anbieters nach Art. 72 und seine Vorfallmeldungen nach Art. 73. Streichen Sie eine Pflicht aus einem der beiden Kataloge, und der Kreislauf bricht für beide Seiten.

Art. 25: Wenn der Betreiber zum Anbieter wird

Drei Auslöser: eigene Marke, wesentliche Veränderung, neue Zweckbestimmung

Art. 25 Abs. 1 nennt drei Wege, auf denen ein Händler, Einführer, Betreiber oder sonstiger Dritter zum Anbieter eines Hochrisiko-Systems wird:

Eigene Marke (Art. 25 Abs. 1 Buchst. a). Sie versehen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit Ihrem Namen oder Ihrer Marke. Wer das System eines Herstellers unter eigener Marke vertreibt, kann zu dessen Anbieter werden – unbeschadet vertraglicher Vereinbarungen, die die Pflichten anders zuweisen.
Wesentliche Veränderung (Art. 25 Abs. 1 Buchst. b). Sie nehmen an einem bereits in Verkehr gebrachten Hochrisiko-KI-System eine wesentliche Veränderung vor, und zwar so, dass es hochriskant bleibt.
Neue Zweckbestimmung (Art. 25 Abs. 1 Buchst. c). Sie ändern die Zweckbestimmung eines KI-Systems – einschließlich eines KI-Systems mit allgemeinem Verwendungszweck –, das nicht hochriskant war, sodass es hochriskant wird. Ein allgemeines System für die Vorauswahl im Recruiting nach Anhang III Nr. 4 umzuwidmen ist das Lehrbuchbeispiel.

Was der Rollenwechsel kostet (Art. 25 Abs. 2)

Die Folge ist der vollständige Pflichtenkatalog aus Art. 16 in Ihrem Namen: neue Konformitätsbewertung, neue EU-Konformitätserklärung, CE-Kennzeichnung und Registrierung. Der ursprüngliche Anbieter gilt für dieses System nicht mehr als Anbieter, muss aber – sofern er eine Hochrisiko-Verwendung nicht ausdrücklich ausgeschlossen hat – zusammenarbeiten und die Informationen und Unterlagen übergeben, die der neue Anbieter braucht (Art. 25 Abs. 2 in der Fassung des Digital-Omnibus). Feinabstimmung, tiefgreifende Anpassung und das Anbieten eingekaufter Systeme unter eigener Marke sind die häufigsten unbeabsichtigten Rollenwechsel. Jede Änderung an einem eingekauften Hochrisiko-KI-System sollte deshalb vor der Einführung eine Prüfung nach Art. 25 durchlaufen.

Wann beide Kataloge greifen: Fristen und Sanktionen

2. Dezember 2027: die geänderte Hochrisiko-Frist

Beide Pflichtenkataloge gelten ab demselben Geltungstermin. Anbieter und Betreiber starten gemeinsam, eine Schonfrist für Betreiber gibt es nicht. Der Digital-Omnibus (Verordnung (EU) 2026/1744 vom 8. Juli 2026, ABl. L vom 24.7.2026), nach einer politischen Einigung am 6.–7. Mai 2026, verschiebt die Pflichten für eigenständige Hochrisiko-KI-Systeme nach Anhang III (Art. 6 Abs. 2) auf den 2. Dezember 2027 und für in Produkte eingebettete Systeme nach Anhang I (Art. 6 Abs. 1) auf den 2. August 2028. Die Verordnung (EU) 2026/1744 wurde am 8. Juli 2026 unterzeichnet, am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Die neuen Termine sind feste Kalenderdaten. Der Vorschlag der Kommission vom November 2025 hätte den Geltungsbeginn an die Verfügbarkeit von Normen und Unterstützungsinstrumenten geknüpft, mit Auffangdaten; Parlament und Rat haben stattdessen feste Daten beschlossen. Planen Sie also nicht mit der Verfügbarkeit harmonisierter Normen.

Was unabhängig davon bereits gilt

Nicht alles hat sich verschoben. Die Verbote nach Art. 5 gelten seit dem 2. Februar 2025, die GPAI-Regeln in den Artikeln 51–55 seit dem 2. August 2025. Art. 50 einschließlich der Kennzeichnung nach Abs. 2 gilt seit dem 2. August 2026. Generative Systeme, die vor diesem Datum in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit (Art. 111 Abs. 4). Zwei neue Verbote nach Art. 5 Abs. 1 Buchst. ba und bb gelten ab dem 2. Dezember 2026. Zur Einstufung wurde der Leitlinienentwurf der Kommission nach Art. 6 Abs. 5 am 19. Mai 2026 veröffentlicht; die gezielte Konsultation endete am 23. Juli 2026 (verlängert vom 23. Juni), die endgültigen Leitlinien sollen nach Angaben der Kommission bis Ende 2026 angenommen werden. Die Leitlinienentwürfe sind rechtlich nicht verbindlich; die verbindliche Auslegung liegt beim Gerichtshof der Europäischen Union.

Der Preis für den falschen Katalog (Art. 99)

Verstöße gegen die Anbieterpflichten nach Art. 16 oder die Betreiberpflichten nach Art. 26 ziehen Geldbußen von bis zu 15 Mio. € oder 3 % des gesamten weltweiten Jahresumsatzes nach sich, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4). Seit dem Digital-Omnibus erfasst die Stufe nach Art. 99 Abs. 4 auch die Pflichten nach Art. 25 Abs. 2 und 4 in der Lieferkette (Buchst. da). Verstöße gegen die Verbote nach Art. 5 liegen in der höchsten Stufe mit bis zu 35 Mio. € oder 7 % (Art. 99 Abs. 3). Wer notifizierten Stellen oder zuständigen Behörden falsche, unvollständige oder irreführende Informationen liefert, riskiert bis zu 7,5 Mio. € oder 1 % (Art. 99 Abs. 5). KMU und Start-ups profitieren von der anteiligen Obergrenze nach Art. 99 Abs. 6, nach der jeweils der niedrigere Betrag aus Prozentsatz und Festbetrag gilt. Für kleine Midcap-Unternehmen gilt der niedrigere Betrag nur bei Geldbußen nach Art. 99 Abs. 4 und 5, nicht bei verbotenen Praktiken nach Abs. 3 (Art. 99 Abs. 6a).

Fazit: Rolle und Pflichten pro System festlegen

Eine Rollenprüfung mit drei Fragen für jedes Hochrisiko-KI-System

Schicken Sie jedes System in Ihrem KI-Inventar durch drei Fragen:

Haben wir es entwickelt oder unter eigenem Namen bzw. eigener Marke in Verkehr gebracht? Wenn ja, tragen Sie den Pflichtenkatalog des Anbieters: Art. 8–22 plus Markteintritt.
Betreiben wir es in eigener Verantwortung im beruflichen Kontext? Wenn ja, tragen Sie den Pflichtenkatalog des Betreibers: Art. 26, dazu Art. 27, wenn die Auslöser der Grundrechte-Folgenabschätzung auf Sie zutreffen.
Haben wir es unter eigener Marke angeboten, wesentlich verändert oder umgewidmet? Wenn ja, hat Art. 25 den Pflichtenkatalog des Anbieters auf Sie verlagert – zusätzlich zu allem, was Sie vorher schon getragen haben.

Viele Unternehmen beantworten Frage 1 mit Ja für das Produkt, das sie verkaufen, und Frage 2 mit Ja für die HR-, Kredit- oder Biometrie-Systeme, die sie einkaufen. Das ist normal. Entscheidend ist, dass das Compliance-Register die Rolle pro System erfasst, nicht pro Unternehmen. Die Vorlage für das KI-System-Register ist genau um dieses Rollenfeld pro System herum aufgebaut.

Beide Kataloge an einem Ort nachweisen

Beide Kataloge laufen auf dieselbe Nachweiskette hinaus: technische Dokumentation, Protokolle, Aufsichtsaufzeichnungen, Vorfallmeldungen. Die Akte eines Anbieters nach Anhang IV und die Betriebsnachweise eines Betreibers nach Art. 26 überschneiden sich stark in den zugrunde liegenden Artefakten. Wenn Sie Rollen pro System behandeln, verwalten Sie diese Nachweise einmal statt doppelt.

Entscheiden Sie für jedes Hochrisiko-KI-System in Ihrem Inventar, welchen Pflichtenkatalog Ihre Organisation trägt (Anbieter, Betreiber oder beides), und dokumentieren Sie die Begründung. Prüfen Sie dann jedes eingekaufte System auf eine Exposition nach Art. 25: Jedes Angebot unter eigener Marke, jede wesentliche Veränderung und jede Umwidmung bedeutet, dass der Pflichtenkatalog des Anbieters bei Ihnen gelandet ist – neue Konformitätsbewertung inklusive. Diese eine Entscheidung pro System bestimmt jede Frist, jedes Dokument und jede Pflicht, die daraus folgt.

Wie Confir hilft

Confir ordnet jedem KI-System seine Rolle zu – Anbieter, Betreiber oder beides – und erzeugt die passende Pflichten-Checkliste: den Pflichtenkatalog aus Art. 8–22 und Markteintritt für Systeme in der Anbieterrolle, den operativen Katalog aus Art. 26 (plus die Grundrechte-Folgenabschätzung nach Art. 27, wo sie greift) für Systeme in der Betreiberrolle und einen Hinweis nach Art. 25, sobald ein eingekauftes System unter eigener Marke angeboten, verändert oder umgewidmet wurde. Die Synthese-Engine ist deterministisch und regelbasiert: jedes Mal dieselbe Logik, keine Modellinferenz, keine Halluzinationen. Das Pflichtenregister, das Ihre Prüfer sehen, ist genau das Register, das sich aus der Verordnung ableitet.

Häufig gestellte Fragen

Welche Pflichten haben Anbieter von Hochrisiko-KI nach dem EU AI Act? Anbieter müssen sicherstellen, dass das System die Anforderungen aus Abschnitt 2 erfüllt – Risikomanagement (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), Aufzeichnungspflichten (Art. 12), Transparenz (Art. 13), menschliche Aufsicht (Art. 14) sowie Genauigkeit, Robustheit und Cybersicherheit (Art. 15) –, dazu die Pflichten aus Art. 16: ein Qualitätsmanagementsystem, Konformitätsbewertung, EU-Konformitätserklärung, CE-Kennzeichnung und Registrierung in der EU-Datenbank.

Welche Pflichten haben Betreiber nach Art. 26 des EU AI Act? Betreiber müssen Hochrisiko-KI-Systeme gemäß der Betriebsanleitung des Anbieters verwenden, die menschliche Aufsicht kompetentem und geschultem Personal übertragen, für relevante Eingabedaten sorgen, soweit sie diese kontrollieren, den Betrieb überwachen, Risiken und schwerwiegende Vorfälle melden, automatisch erzeugte Protokolle, soweit sie ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahren (sofern das Unionsrecht oder nationale Recht nichts anderes vorsieht) sowie Beschäftigte und betroffene Personen informieren. Bestimmte Betreiber müssen zusätzlich eine Grundrechte-Folgenabschätzung nach Art. 27 durchführen.

Was ist der Unterschied zwischen Anbieter und Betreiber nach dem EU AI Act? Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke in Verkehr oder nimmt es in Betrieb. Ein Betreiber verwendet ein KI-System in eigener Verantwortung im beruflichen Kontext. Bei Hochrisiko-KI-Systemen tragen Anbieter den Pflichtenkatalog für Konzeption und Markteintritt (Art. 8–22), Betreiber die operativen Pflichten aus Art. 26.

Kann ein Betreiber nach dem EU AI Act zum Anbieter werden? Ja. Nach Art. 25 gilt ein Betreiber als Anbieter eines Hochrisiko-KI-Systems, wenn er das System mit seinem eigenen Namen oder seiner Marke versieht, eine wesentliche Veränderung vornimmt, durch die es hochriskant bleibt, oder die Zweckbestimmung eines nicht hochriskanten Systems so ändert, dass es hochriskant wird. Dann gilt der vollständige Pflichtenkatalog des Anbieters – einschließlich einer neuen Konformitätsbewertung.

Wer muss eine Grundrechte-Folgenabschätzung (FRIA) durchführen? Art. 27 verlangt eine FRIA von Betreibern, die Einrichtungen des öffentlichen Rechts oder private Einrichtungen sind, die öffentliche Dienste erbringen, sowie von Betreibern von Hochrisiko-Systemen zur Kreditwürdigkeitsprüfung oder zur Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung nach Anhang III Nr. 5 Buchst. b und c. Sie muss vor der ersten Verwendung abgeschlossen sein, und die Marktüberwachungsbehörde muss informiert werden.

Ab wann gelten die Pflichten für Hochrisiko-KI? Der Digital-Omnibus verschiebt den Termin für eigenständige Hochrisiko-KI-Systeme nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027 und für in Produkte eingebettete Systeme nach Anhang I vom 2. August 2027 auf den 2. August 2028. Die Verordnung (EU) 2026/1744 wurde am 8. Juli 2026 unterzeichnet, am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft.

Welche Sanktionen drohen bei Verstößen gegen Anbieter- oder Betreiberpflichten? Verstöße gegen die Anbieterpflichten nach Art. 16 oder die Betreiberpflichten nach Art. 26 können Geldbußen von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes nach sich ziehen, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4). Wer Behörden falsche, unvollständige oder irreführende Informationen liefert, riskiert bis zu 7,5 Mio. EUR oder 1 % (Art. 99 Abs. 5). KMU und Start-ups profitieren von einer anteiligen Obergrenze nach Art. 99 Abs. 6.

Die Plattform für den EU AI Act