Ab wann gilt der EU AI Act für Hochrisiko-KI?

Stand: Oktober 2026 gelten die Hochrisiko-Pflichten für Systeme nach Anhang III — etwa Kreditwürdigkeitsprüfung, Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung oder die Vergabe öffentlicher Leistungen — ab dem 2. Dezember 2027. Für Produkte nach Anhang I wie Medizinprodukte gelten sie ab dem 2. August 2028. Diese festen Termine hat der Digital-Omnibus, Verordnung (EU) 2026/1744, eingeführt; der ursprünglich vorgesehene 2. August 2026 gilt für Hochrisiko-KI nicht mehr.

Ist unsere Tarifierungs-KI Hochrisiko?

Nur wenn sie die Risikobewertung oder Preisbildung für natürliche Personen in der Lebens- oder Krankenversicherung betrifft (Anhang III Nr. 5 Buchst. c); Tarifierung in der Kfz- oder Sachversicherung, Schadenbearbeitung und Betrugserkennung fallen nicht darunter. Auch im Lebens- und Krankenbereich ist zu prüfen, ob die Ausnahme nach Art. 6 Abs. 3 greift — führt das System ein Profiling durch, bleibt es hochriskant. EIOPA hat angeregt, menschlich überwachte verallgemeinerte lineare und additive Modelle (GLM, GAM) in der Lebens- und Krankentarifierung per delegiertem Rechtsakt aus Nr. 5 Buchst. c auszunehmen. Ein solcher Rechtsakt ist nach unserem Kenntnisstand (Stand: Oktober 2026) nicht erlassen.

Wer prüft den AI Act in Deutschland?

Seit dem 29. Juli 2026 regelt das KI-MIG die Zuständigkeiten, und grundsätzlich ist die Bundesnetzagentur die Marktüberwachungsbehörde. Für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit von Banken, Versicherern und anderen beaufsichtigten Unternehmen stehen, ist die BaFin zuständig. Für KI in der Personalabteilung dieser Unternehmen bleibt es bei der Bundesnetzagentur, für KI in Medizinprodukten und anderen Produkten nach Anhang I Abschnitt A bei den sektoralen Behörden.

Müssen Behörden eine Grundrechte-Folgenabschätzung machen?

Ja. Einrichtungen des öffentlichen Rechts müssen vor der ersten Nutzung eines Hochrisiko-Systems nach Anhang III — außer kritischer Infrastruktur — eine Grundrechte-Folgenabschätzung nach Art. 27 durchführen und der Marktüberwachungsbehörde mitteilen; die Pflicht gilt ab dem 2. Dezember 2027. Die Abschätzung darf auf eine bestehende Datenschutz-Folgenabschätzung verweisen. Dass gegen deutsche öffentliche Stellen nach § 17 Abs. 2 KI-MIG keine AI-Act-Bußgelder verhängt werden, ändert an der Pflicht nichts.

Reicht eine ISO/IEC 42001-Zertifizierung für den AI Act?

Nein. ISO/IEC 42001 ist nicht im Amtsblatt der EU zitiert und begründet deshalb keine Konformitätsvermutung. Die erste harmonisierte Norm zum AI Act ist EN 18286:2026 für das Qualitätsmanagementsystem nach Art. 17, im Amtsblatt zitiert seit dem 14. Oktober 2026. Ein 42001-Managementsystem bleibt trotzdem eine gute Basis, weil EN 18286 die Norm in ihren informativen Anhängen abbildet und Sie das bestehende System gezielt erweitern können.

Was gilt seit dem Digital Omnibus?

Der Digital-Omnibus zur KI, Verordnung (EU) 2026/1744, ist seit dem 27. Juli 2026 in Kraft. Er verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I), fasst die Pflicht zur KI-Kompetenz nach Art. 4 als Pflicht zur Förderung neu und erlaubt mit Art. 4a die Verarbeitung sensibler Daten zur Bias-Erkennung. Die Transparenzpflichten nach Art. 50 hat er nicht verschoben, sie gelten seit dem 2. August 2026. Neu sind außerdem Erleichterungen für kleine Mid-Caps, der Verweis der Grundrechte-Folgenabschätzung auf die Datenschutz-Folgenabschätzung und weitere Verbote ab dem 2. Dezember 2026.

Braucht unser Kunden-Chatbot schon jetzt einen KI-Hinweis?

In aller Regel ja. Seit dem 2. August 2026 müssen Systeme, die mit Menschen interagieren, nach Art. 50 so gestaltet sein, dass Nutzer spätestens bei der ersten Interaktion erfahren, dass sie mit einer KI kommunizieren — es sei denn, das ist offensichtlich. Die Pflicht richtet sich an den Anbieter des Systems; als Betreiber sollten Sie trotzdem prüfen, dass der Hinweis im Dialog tatsächlich erscheint. Verstöße gegen Art. 50 können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden.

Gilt DORA auch für die Nutzung externer Sprachmodelle?

Ja, für Versicherer und Banken im Anwendungsbereich von DORA: LLM-, API- und Cloud-Anbieter sind IKT-Drittdienstleister. Damit gelten Risikobewertung vor Vertragsschluss, Informationsregister, vertragliche Mindestinhalte und bei kritischen oder wichtigen Funktionen Ausstiegsstrategie und Portabilität. Die BaFin-Orientierungshilfe vom 18. Dezember 2025 empfiehlt, dabei auch Nachtrainings und Modellwechsel durch den Anbieter zu berücksichtigen. Die VAIT spielen dafür keine Rolle mehr, denn sie sind seit Ablauf des 16. Januar 2025 aufgehoben.

00KI-Governance · EU AI Act

EU AI Act Beratung und KI-Governance — vom Paragrafen zum prüfbaren System

Die EU AI Act Beratung von SIFAMO übersetzt die Pflichten der KI-Verordnung (EU) 2024/1689 in technische und organisatorische Kontrollen, die sich im laufenden Betrieb nachweisen lassen: KI-Inventar, Risikoeinstufung, Protokollierung, menschliche Aufsicht und Audit-Trail. Die SIFAMO GmbH ist eine KI-Beratung aus Deutschland, die diese Kontrollen für Versicherungen und öffentliche Verwaltung nicht nur bewertet, sondern selbst in die Systeme einbaut.

KI-Governance liegt heute meist bei Kanzleien, KI-Projekte bei Automatisierungsdienstleistern. Dazwischen fehlt die Sicht derer, die das System bauen: Welche Ereignisse muss ein Hochrisiko-System nach Art. 12 protokollieren, wie sieht eine Übersteuerung nach Art. 14 in der Oberfläche aus, und wie wird aus der Risikoanalyse ein Test, der bei jedem Release läuft? SIFAMO arbeitet an genau dieser technisch-organisatorischen Umsetzung — und, wo nötig, gemeinsam mit Ihrer Rechtsberatung. Die übergreifende KI-Strategie behandelt unsere Seite zur KI-Beratung.

01Zeitplan

AI Act Umsetzung: die Fristen nach dem Digital-Omnibus

Stand: Oktober 2026. Der Digital-Omnibus zur KI — Verordnung (EU) 2026/1744 — ist seit dem 27. Juli 2026 in Kraft. Er hat die Hochrisiko-Pflichten verschoben und an feste Termine gebunden.

Grundlage bleibt die Verordnung (EU) 2024/1689, der EU AI Act. Der ursprünglich vorgesehene 2. August 2026 als Starttermin für Hochrisiko-KI nach Anhang III gilt nicht mehr. Anders als im Kommissionsvorschlag hängen die neuen Termine nicht an der Verfügbarkeit technischer Normen, sondern stehen fest im Gesetz.

Bis zum 2. Dezember 2027 bleibt damit Zeit. Logging, Aufsichtsfunktionen und Testnachweise müssen zum Stichtag aber im Betrieb laufen, nicht erst auf dem Papier stehen.

1. August 2024: Der AI Act tritt in Kraft.
2. Februar 2025: Die Verbote nach Art. 5 gelten, ebenso die Pflicht zur KI-Kompetenz nach Art. 4 in ihrer ursprünglichen Fassung.
2. August 2025: Die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI), die Governance-Strukturen und die Sanktionsregeln gelten.
27. Juli 2026: Der Digital-Omnibus tritt in Kraft — mit einer neuen Fassung von Art. 4 und dem neuen Art. 4a zur Verarbeitung sensibler Daten für die Bias-Erkennung.
29. Juli 2026: Das deutsche Durchführungsgesetz KI-MIG tritt in Kraft.
2. August 2026: Allgemeiner Geltungsbeginn. Die Transparenzpflichten nach Art. 50 gelten, nationale Behörden und das europäische AI Office setzen die Verordnung durch.
14. Oktober 2026: EN 18286:2026 zum Qualitätsmanagement wird im Amtsblatt der EU zitiert — die erste harmonisierte Norm zum AI Act.
2. Dezember 2026: Neue Verbote für KI, die ohne ausdrückliche Einwilligung realistische intime oder sexuell explizite Darstellungen identifizierbarer Personen erzeugt oder manipuliert oder die Darstellungen sexuellen Kindesmissbrauchs erzeugt. Generative Systeme, die vor dem 2. August 2026 auf dem Markt waren, müssen bis dahin die Kennzeichnung nach Art. 50 Abs. 2 umsetzen.
2. Dezember 2027: Hochrisiko-Pflichten für Systeme nach Art. 6 Abs. 2 und Anhang III — einschließlich der Betreiberpflichten nach Art. 26 und der Grundrechte-Folgenabschätzung nach Art. 27.
2. August 2028: Hochrisiko-Pflichten für Systeme nach Art. 6 Abs. 1 und Anhang I, etwa KI in Medizinprodukten.
2. August 2030: Hochrisiko-Systeme, die schon vor dem Stichtag in Verkehr waren und von Behörden genutzt werden sollen, müssen konform sein (Art. 111 Abs. 2).

02Risikoeinstufung

Hochrisiko-KI erkennen: Einstufung nach Art. 6 und Anhang III

Ob ein System hochriskant ist, entscheidet über fast alle weiteren Pflichten. Der AI Act kennt dafür zwei Wege.

Art. 6 Abs. 1 erfasst KI, die Sicherheitsbauteil eines Produkts nach Anhang I oder selbst ein solches Produkt ist — sofern das Produkt eine Konformitätsbewertung durch Dritte durchlaufen muss, etwa ein Medizinprodukt. Art. 6 Abs. 2 erfasst die Einsatzbereiche, die Anhang III auflistet. Für Versicherungen und Verwaltung ist in der Regel Anhang III der relevante Weg.

Die Kommission hat im Mai 2026 Entwürfe für Leitlinien zur Hochrisiko-Einstufung veröffentlicht; finale Leitlinien lagen nach aktuellem Stand (Oktober 2026) noch nicht vor. Die Einstufung muss deshalb am Gesetzestext begründet und dokumentiert werden.

Anhang III Nr. 5 Buchst. c — Lebens- und Krankenversicherung

Hochriskant ist KI für die Risikobewertung und Preisbildung in Bezug auf natürliche Personen in der Lebens- und Krankenversicherung. Der Tatbestand ist eng: Tarifierung in der Kfz- oder Sachversicherung, die Schadenbearbeitung und die Betrugserkennung fallen nicht darunter.

Anhang III Nr. 5 Buchst. a — öffentliche Leistungen

Hochriskant ist KI, die von oder im Auftrag von Behörden eingesetzt wird, um zu beurteilen, ob natürliche Personen Anspruch auf grundlegende öffentliche Unterstützungsleistungen und Dienste haben — einschließlich Gesundheitsdiensten —, oder um solche Leistungen zu gewähren, zu kürzen, zu widerrufen oder zurückzufordern.

Anhang III Nr. 5 Buchst. b — Kreditwürdigkeit

Hochriskant ist KI, die die Kreditwürdigkeit natürlicher Personen bewertet oder ihre Kreditpunktzahl (Credit-Score) ermittelt. Ausgenommen sind Systeme zur Aufdeckung von Finanzbetrug. Für alle Betreiber solcher Systeme gilt — wie bei Nr. 5 Buchst. c — die Pflicht zur Grundrechte-Folgenabschätzung.

Anhang III Nr. 4 — Beschäftigung und Personal

Hochriskant ist KI für Recruiting und Auswahl — gezielte Stellenanzeigen, das Filtern von Bewerbungen, die Bewertung von Kandidatinnen und Kandidaten — sowie für Entscheidungen über Arbeitsbedingungen, Beförderung oder Kündigung, für die Zuweisung von Aufgaben nach individuellem Verhalten oder persönlichen Merkmalen und für die Überwachung von Leistung und Verhalten. Das trifft Versicherer und Behörden als Arbeitgeber genauso wie jedes andere Unternehmen.

Ausnahme nach Art. 6 Abs. 3

Ein Anhang-III-System ist ausnahmsweise nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt — auch weil es das Ergebnis der Entscheidung nicht wesentlich beeinflusst. Dafür muss es bestimmungsgemäß eine von vier Aufgaben erfüllen: eine eng gefasste Verfahrensaufgabe; die Verbesserung des Ergebnisses einer zuvor abgeschlossenen menschlichen Tätigkeit; das Erkennen von Entscheidungsmustern oder Abweichungen, ohne die vorherige menschliche Bewertung ohne angemessene Überprüfung zu ersetzen oder zu beeinflussen; oder eine vorbereitende Aufgabe für eine Bewertung.

Rückausnahme: Profiling bleibt hochriskant

Führt ein Anhang-III-System ein Profiling natürlicher Personen durch, gilt es immer als hochriskant — die Ausnahme greift dann nicht. Wer sich auf Art. 6 Abs. 3 stützt, muss die Bewertung vor dem Inverkehrbringen dokumentieren, das System nach Art. 49 Abs. 2 registrieren und die Unterlagen der Behörde auf Verlangen vorlegen. Der Digital-Omnibus hat diese Registrierung beibehalten, nur mit weniger Pflichtangaben.

03Anforderungen

KI-Verordnung: Anforderungen an Hochrisiko-KI nach Art. 9 bis 17

Diese Artikel beschreiben, wie ein Hochrisiko-System gebaut und betrieben sein muss. Verantwortlich ist in erster Linie der Anbieter. Wer ein System für den eigenen Einsatz selbst entwickelt, sollte früh klären, ob er damit selbst Anbieter wird.

Art. 9 — Risikomanagementsystem

Ein kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus: Bekannte und vernünftigerweise vorhersehbare Risiken für Gesundheit, Sicherheit und Grundrechte werden identifiziert und analysiert, unter Einbeziehung vorhersehbarer Fehlanwendung abgeschätzt und mit Daten aus dem Betrieb neu bewertet. Dazu gehören gezielte Maßnahmen und Tests, mit besonderem Blick auf Minderjährige und schutzbedürftige Gruppen.

Art. 10 und Art. 4a — Daten und Daten-Governance

Trainings-, Validierungs- und Testdaten brauchen geeignete Governance, müssen relevant und repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. Sie sind auf mögliche Verzerrungen zu prüfen. Der neue Art. 4a erlaubt seit dem 27. Juli 2026 die Verarbeitung besonderer Kategorien personenbezogener Daten zur Erkennung und Korrektur von Bias — ausnahmsweise, soweit unbedingt erforderlich und nur unter sechs kumulativen Schutzvorkehrungen.

Art. 12 — Aufzeichnungspflichten (Logging)

Hochrisiko-Systeme müssen Ereignisse über ihre gesamte Lebensdauer automatisch protokollieren können. Die Logs müssen Rückverfolgbarkeit herstellen: um Risiken und wesentliche Änderungen zu erkennen, die Beobachtung nach dem Inverkehrbringen zu ermöglichen und dem Betreiber die Überwachung nach Art. 26 Abs. 5 zu erlauben.

Art. 14 — Menschliche Aufsicht

Das System muss so gestaltet sein, dass Menschen es im Einsatz wirksam beaufsichtigen können. Die Aufsichtspersonen müssen Fähigkeiten und Grenzen des Systems verstehen, sich der Neigung zum übermäßigen Vertrauen in Maschinenergebnisse (Automation Bias) bewusst bleiben, Ausgaben richtig interpretieren, sich gegen ihre Verwendung entscheiden, sie übersteuern oder rückgängig machen und das System über eine Stopp-Funktion anhalten können.

Art. 15 — Genauigkeit, Robustheit und Cybersicherheit

Das System muss über den Lebenszyklus ein angemessenes Niveau halten; die Genauigkeitskennzahlen gehören in die Gebrauchsanweisung. Es muss gegenüber Fehlern und Rückkopplungsschleifen widerstandsfähig und gegen KI-spezifische Angriffe wie Daten- und Modellvergiftung oder manipulierte Eingaben geschützt sein.

Art. 17 — Qualitätsmanagementsystem

Anbieter brauchen ein dokumentiertes QMS mit 13 Elementen — von Compliance-Strategie, Entwurf und Tests über Datenmanagement und Risikomanagement bis zur Beobachtung nach dem Inverkehrbringen, Vorfallmeldung und klaren Verantwortlichkeiten —, verhältnismäßig zur Größe der Organisation. EN 18286:2026 ist seit dem 14. Oktober 2026 die erste harmonisierte Norm zum AI Act und begründet eine Konformitätsvermutung für die Anforderungen des Art. 17, die sie abdeckt. ISO/IEC 42001 ist nicht im Amtsblatt zitiert und begründet keine Konformitätsvermutung, ist aber in den informativen Anhängen von EN 18286 abgebildet und damit eine gute Ausgangsbasis.

04Pflichten

AI Act Compliance im Betrieb: Art. 4, 26, 27, 49, 50 und 99

Ein Teil der Pflichten gilt schon heute für jede Organisation, die KI einsetzt. Der andere Teil trifft ab dem 2. Dezember 2027 die Betreiber (englisch „deployer“) von Hochrisiko-KI.

Art. 4 — KI-Kompetenz (gilt bereits)

Seit dem 27. Juli 2026 müssen Anbieter und Betreiber Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals und weiterer Personen fördern, die KI-Systeme in ihrem Auftrag betreiben oder nutzen — abgestimmt auf Vorwissen, Einsatzkontext und die betroffenen Personen. Ein bestimmtes Kompetenzniveau jeder einzelnen Person müssen sie nicht garantieren. Die Pflicht wurde weder abgeschafft noch auf die Mitgliedstaaten verlagert; Kommission und Mitgliedstaaten sollen Unternehmen, insbesondere KMU, bei der Umsetzung unterstützen.

Art. 50 — Transparenz (gilt seit 2. August 2026)

Anbieter müssen KI, die mit Menschen interagiert, so gestalten, dass diese erfahren, dass sie mit einer KI kommunizieren, sofern das nicht offensichtlich ist. Anbieter generativer KI müssen Ausgaben maschinenlesbar kennzeichnen. Betreiber müssen Deepfakes offenlegen sowie KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden — es sei denn, ein Mensch hat sie geprüft und trägt die inhaltliche Verantwortung. Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die betroffenen Personen informieren. Die Information muss spätestens bei der ersten Interaktion erfolgen.

Art. 26 — Pflichten der Betreiber von Hochrisiko-KI

Betreiber müssen das System gemäß Gebrauchsanweisung einsetzen, die menschliche Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis übertragen, die Relevanz und Repräsentativität der Eingabedaten in ihrem Einflussbereich sicherstellen, den Betrieb überwachen, Risiken und schwerwiegende Vorfälle melden und den Einsatz notfalls aussetzen. Logs sind mindestens sechs Monate aufzubewahren. Arbeitnehmervertretungen und Beschäftigte sind vor dem Einsatz am Arbeitsplatz zu informieren, ebenso Personen, über die mit Unterstützung eines Anhang-III-Systems entschieden wird.

Art. 27 — Grundrechte-Folgenabschätzung (FRIA)

Vor der ersten Nutzung eines Hochrisiko-Systems nach Art. 6 Abs. 2 — außer kritischer Infrastruktur nach Anhang III Nr. 2 — ist eine FRIA Pflicht für Einrichtungen des öffentlichen Rechts, für private Einrichtungen, die öffentliche Dienste erbringen, und für alle Betreiber von Systemen nach Anhang III Nr. 5 Buchst. b und c, also auch für private Banken und Versicherer. Die FRIA umfasst sechs inhaltliche Elemente und ist der Marktüberwachungsbehörde mitzuteilen. Seit dem Digital-Omnibus darf sie auf die Datenschutz-Folgenabschätzung verweisen; das AI Office soll dafür eine Fragebogen-Vorlage bereitstellen, auch als automatisiertes Werkzeug.

Art. 49 — Registrierung in der EU-Datenbank

Anbieter registrieren Hochrisiko-Systeme nach Anhang III vor dem Inverkehrbringen, ebenso Systeme, die sie nach Art. 6 Abs. 3 als nicht hochriskant eingestuft haben. Behörden und Stellen, die in ihrem Auftrag handeln, müssen sich als Betreiber zusätzlich selbst registrieren und die Nutzung des konkreten Systems eintragen, bevor sie es einsetzen. Hochrisiko-Systeme der kritischen Infrastruktur nach Anhang III Nr. 2 werden national registriert.

Art. 99 — Bußgelder

Bei verbotenen Praktiken drohen bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Verstöße gegen Anbieter- und Betreiberpflichten sowie gegen Art. 50 können bis zu 15 Mio. € oder 3 % kosten, falsche oder irreführende Angaben gegenüber Behörden bis zu 7,5 Mio. € oder 1 %. Für KMU gilt jeweils der niedrigere Betrag, seit dem Digital-Omnibus bei den beiden unteren Stufen auch für kleine Mid-Caps. Für Verstöße gegen Art. 4 sieht Art. 99 keinen eigenen Bußgeldrahmen vor.

05Deutschland

KI-Verordnung in Deutschland: KI-MIG, Bundesnetzagentur und BaFin

Das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG, BGBl. 2026 I Nr. 223) ist seit dem 29. Juli 2026 in Kraft. Es legt fest, wer den AI Act in Deutschland überwacht.

Bundesnetzagentur: Sie ist die zuständige Marktüberwachungsbehörde, soweit das KI-MIG nichts anderes bestimmt (§ 2 Abs. 1). Sie ist zugleich zentrale Anlaufstelle und Beschwerdestelle und muss mindestens ein KI-Reallabor betreiben.

BaFin: Sie überwacht KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen und von beaufsichtigten Unternehmen wie Banken, Versicherern, Pensionsfonds oder Zahlungsinstituten in Verkehr gebracht, in Betrieb genommen oder genutzt werden (§ 2 Abs. 3). Setzt ein Versicherer KI dagegen etwa in der Personalabteilung ein, ist nach Aussage der BaFin die Bundesnetzagentur zuständig.

Die BaFin beschreibt ihre Rolle in einem Interview vom Juli 2026 so: „Der Auftrag der KI-Verordnung lautet nicht Aufsicht. Er lautet Überwachung.“ Sie arbeitet risikobasiert und stichprobenartig, derzeit mit Fokus auf Transparenz, Verbote und die Förderung der KI-Kompetenz. Hochrisiko-KI kommt ab Dezember 2027 hinzu.

Weitere Zuständigkeiten: Für KI in Produkten nach Anhang I Abschnitt A, etwa Medizinprodukten, bleiben die bestehenden sektoralen Marktüberwachungsbehörden zuständig; für öffentliche Stellen der Länder sieht das Gesetz Behörden der Länder vor. Die Datenschutzaufsicht wird beteiligt, ist aber nicht Marktüberwachungsbehörde.

Keine Bußgelder gegen Behörden: Nach § 17 Abs. 2 KI-MIG werden gegen öffentliche Stellen im Sinne von § 2 Abs. 1 und 2 BDSG keine Bußgelder nach Art. 99 Abs. 3 bis 5 AI Act verhängt. Die Pflichten selbst gelten für sie trotzdem. Für Verstöße gegen Auskunfts- und Mitwirkungspflichten sieht § 15 KI-MIG Bußgelder bis 50.000 € vor.

06Versicherungen

KI-Governance für Versicherer: AI Act, DORA und BaFin zusammen denken

Für Versicherer gelten zwei Regelwerke parallel. Der AI Act reguliert das KI-System, DORA die digitale operationale Resilienz des Unternehmens.

Für die BaFin ist KI dabei IKT wie jede andere: KI-Systeme werden wie allgemeine IKT-Systeme bewertet, in kritischen oder wichtigen Funktionen mit weitergehenden Kontrollen. SIFAMO begleitet Versicherer und Finanzdienstleister dabei auch aus dem Büro in Frankfurt am Main.

VAIT → DORA: Die BaFin hat die VAIT — ebenso KAIT und ZAIT — mit Ablauf des 16. Januar 2025 aufgehoben; seit dem 17. Januar 2025 gilt DORA, die Verordnung (EU) 2022/2554. Wer heute noch von VAIT-Konformität spricht, meint in der Sache die IKT-Anforderungen aus DORA und ihren technischen Regulierungsstandards. Für Banken laufen die BAIT mit Ablauf des 31. Dezember 2026 vollständig aus.

BaFin-Orientierungshilfe: Die Orientierungshilfe zu IKT-Risiken beim Einsatz von KI in Finanzunternehmen vom 18. Dezember 2025 ist ausdrücklich unverbindlich und formuliert keine Aufsichtserwartungen. Sie richtet sich an CRR-Institute und Solvency-II-Versicherer, die die IKT-Risikomanagement-Vorgaben von DORA anwenden, folgt dem KI-Lebenszyklus und enthält eine Fallstudie zum Betrieb eines LLM-basierten KI-Assistenten.

EIOPA-Stellungnahme: Die Stellungnahme zu KI-Governance und Risikomanagement vom 6. August 2025 legt Solvency II und IDD für KI aus, die nach dem AI Act weder verboten noch hochriskant ist — etwa in der Schadenbearbeitung oder Betrugserkennung. Sie richtet sich an die nationalen Aufsichtsbehörden, behandelt Datengovernance, Aufzeichnung, Fairness, Cybersicherheit, Erklärbarkeit und menschliche Aufsicht und schafft keine neuen Pflichten.

Brücken im AI Act: Nach Art. 17 Abs. 4 gilt das QMS bei Finanzinstituten über ihre finanzaufsichtsrechtlichen Governance-Regeln als erfüllt — außer Risikomanagement, Beobachtung nach dem Inverkehrbringen und Meldung schwerwiegender Vorfälle. Die Überwachungs- und Log-Pflichten als Betreiber (Art. 26 Abs. 5 und 6) erfüllen sie ebenfalls im Rahmen dieser Regeln. Marktüberwachungsbehörde ist nach Art. 74 Abs. 6 die Finanzaufsicht, in Deutschland die BaFin.

Am deutlichsten wird DORA dort, wo Versicherer externe Sprachmodelle nutzen. LLM-, API- und Cloud-Anbieter sind IKT-Drittdienstleister im Sinne von DORA. Daraus folgt:

Vor Vertragsschluss eine Risikobewertung (Art. 28 Abs. 4 DORA), die laut BaFin auch Nachtrainings und Modellwechsel durch den Anbieter berücksichtigen sollte.
Ein Eintrag im Informationsregister (Art. 28 Abs. 3) und die vertraglichen Mindestinhalte nach Art. 30 DORA.
Für KI in kritischen oder wichtigen Funktionen eine Ausstiegsstrategie und die Portabilität von Modellen, Trainingsdaten und Code (Art. 28 Abs. 7 und 8).
Die Einbindung der KI-Anbieter in das Business-Continuity-Management (Art. 11 Abs. 4 und Art. 28).
Zwei Meldewege: schwerwiegende IKT-bezogene Vorfälle nach Art. 19 DORA — laut BaFin auch Vorfälle in KI-Systemen — und schwerwiegende Vorfälle von Hochrisiko-KI nach Art. 73 AI Act, die der Anbieter meldet.
KI-spezifische Angriffe wie Daten- oder Modellvergiftung und manipulierte Eingaben (Art. 15 AI Act) ordnet die BaFin den Schutzmaßnahmen nach Art. 9 Abs. 3 DORA zu.

07Öffentliche Verwaltung

EU AI Act in der öffentlichen Verwaltung: FRIA, Registrierung und Beschaffung

Auch für Behörden gelten die Pflichten des AI Act — nur AI-Act-Bußgelder gibt es gegen deutsche öffentliche Stellen nicht.

Behörden sind beim AI Act in der Regel Betreiber, nicht Anbieter: Sie beschaffen Systeme und setzen sie in Verwaltungsverfahren ein. SIFAMO-Gründer Umair Zaffar hat über 15 Jahre in IT-Projekten gearbeitet, überwiegend für die öffentliche Hand.

Das typische Hochrisiko-Szenario ist die Leistungsverwaltung nach Anhang III Nr. 5 Buchst. a: Ein System beurteilt, ob Bürgerinnen und Bürger Anspruch auf eine grundlegende öffentliche Leistung haben, oder wird eingesetzt, um Leistungen zu gewähren, zu kürzen, zu widerrufen oder zurückzufordern. Ob die Ausnahme nach Art. 6 Abs. 3 greift — etwa weil das System nur eine eng gefasste Verfahrensaufgabe übernimmt oder eine Bewertung lediglich vorbereitet —, hängt am konkreten Zuschnitt und muss dokumentiert werden. Führt das System ein Profiling der Antragstellenden durch, ist es in jedem Fall hochriskant.

Ab dem 2. Dezember 2027 müssen Einrichtungen des öffentlichen Rechts vor der ersten Nutzung eines solchen Systems eine Grundrechte-Folgenabschätzung durchführen (Art. 27); Behörden dürfen dann nur registrierte Hochrisiko-Systeme einsetzen (Art. 26). Zusätzlich müssen sie sich selbst und die Nutzung des Systems in der EU-Datenbank registrieren (Art. 49 Abs. 3). Da diese Registrierung an die Hochrisiko-Einstufung anknüpft, wird sie nach unserer Lesart praktisch zum selben Stichtag relevant; eine ausdrückliche Klarstellung der Kommission gibt es dazu nach aktuellem Stand (Oktober 2026) nicht.

Für bestehende Systeme gilt: Hochrisiko-Systeme, die vor dem Stichtag bereits in Verkehr waren, fallen grundsätzlich erst nach einer erheblichen Änderung ihres Designs unter die Pflichten. Für Systeme, die von Behörden genutzt werden sollen, endet diese Schonfrist spätestens am 2. August 2030 (Art. 111 Abs. 2).

Transparenz gilt schon heute: Ein Bürger-Chatbot muss erkennbar als KI auftreten, und KI-generierte Texte, mit denen eine Behörde die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert, sind offenzulegen, sofern nicht ein Mensch sie geprüft hat und die inhaltliche Verantwortung trägt (Art. 50).

Beschaffung: Wo Behörden KI einkaufen, entscheidet die Leistungsbeschreibung über die spätere Compliance. Wie Sie KI-Vorhaben insgesamt priorisieren und vergeben, behandelt unsere KI-Beratung. In die Ausschreibung eines Hochrisiko-Systems gehören aus Umsetzersicht mindestens:

Nachweis der Registrierung des Systems in der EU-Datenbank durch den Anbieter.
Eine Gebrauchsanweisung nach Art. 13 mit Zweckbestimmung, Genauigkeitswerten, bekannten Risiken und Aufsichtsmaßnahmen.
Log-Export in einem offenen Format, damit Sie die Logs mindestens sechs Monate selbst aufbewahren können.
Aufsichts- und Stopp-Funktionen nach Art. 14, die Ihre Sachbearbeitung tatsächlich bedienen kann.
Die Anbieterinformationen, die Sie für Grundrechte- und Datenschutz-Folgenabschätzung brauchen.

08Umsetzung

KI-Governance technisch umsetzen: sechs Kontrollen, die Compliance beweisbar machen

Eine Richtlinie beschreibt, was gelten soll. Nachweisbar wird Compliance erst durch Kontrollen im System, die ihre Belege im Betrieb selbst erzeugen.

Diese sechs Kontrollen baut SIFAMO in bestehende Plattformen ein. Wie das in einem regulierten Umfeld aussieht, zeigt die KI-gestützte Schaden- und Antragsplattform eines Versicherers: Jede automatische Entscheidung landet im Audit-Trail, auffällige Fälle gehen mit vollem Kontext an die Sachbearbeitung.

KI-Inventar

Ein zentrales Verzeichnis aller KI-Systeme — eigene Modelle, eingekaufte Software, LLM-Funktionen in SaaS-Produkten. Pro System: Zweckbestimmung, Rolle als Anbieter oder Betreiber, Anhang-III-Prüfung, gegebenenfalls die Dokumentation nach Art. 6 Abs. 3, verantwortliche Person, Modell und Lieferant. Das Inventar speist die Registrierung nach Art. 49, die Maßnahmen zur KI-Kompetenz nach Art. 4 und bei Versicherern für extern bezogene KI-Dienste das Informationsregister nach Art. 28 Abs. 3 DORA.

Logging-Pipeline nach Art. 12

Art. 12 gibt das Ziel vor — Rückverfolgbarkeit —, die Felder legt die Architektur fest. Jede Inferenz erzeugt ein strukturiertes Ereignis mit Zeitpunkt, Eingabereferenz, Modell- und Prompt-Version, Ausgabe, Konfidenz und der anschließenden menschlichen Entscheidung. Die Ereignisse laufen manipulationssicher — append-only und gehasht — in einen Speicher mit definierter Aufbewahrung, für Betreiber mindestens sechs Monate. Personenbezogene Inhalte werden pseudonymisiert, damit Rückverfolgbarkeit und Datenschutz zusammenpassen.

Aufsichtsoberfläche: freigeben, übersteuern, eskalieren

Menschliche Aufsicht nach Art. 14 entsteht in der Oberfläche. Sachbearbeitende sehen Ergebnis, Begründung und Unsicherheit und haben drei klare Aktionen: freigeben, mit Begründung übersteuern oder an eine zweite Ebene eskalieren. Dazu kommt ein Stopp-Schalter für das System. Die Rollen erhalten nur Personen mit der nötigen Kompetenz, Schulung und Befugnis (Art. 26), und jede Aktion wird protokolliert — so wird auch sichtbar, ob Automation Bias entsteht, etwa wenn Freigaben ohne Prüfzeit erfolgen.

Data Lineage

Für jede Modellversion ist nachvollziehbar, mit welchen Trainings-, Validierungs- und Testdaten sie entstanden ist, woher diese Daten stammen und welche Transformationen sie durchlaufen haben. Das ist die technische Grundlage für die Datenanforderungen nach Art. 10 und für die Frage, ob Eingabedaten im Betrieb noch repräsentativ sind. Sensible Merkmale für Bias-Analysen nach Art. 4a liegen getrennt und zugriffsgeschützt.

Evaluierungs- und Bias-Test-Harness

Eine automatisierte Testsuite läuft bei jeder Änderung an Modell, Prompt oder Daten — und bei jedem Modellwechsel eines externen LLM-Anbieters: Genauigkeit gegen die erklärten Kennzahlen (Art. 15), Robustheit gegen manipulierte Eingaben, Vergleich der Ergebnisse über Personengruppen hinweg (Art. 10). Die Ergebnisse werden versioniert abgelegt und belegen so das Risikomanagement nach Art. 9. KI-Agenten sind nach vorläufiger Einschätzung der Kommission keine eigene Kategorie im AI Act; wie man sie prüfbar baut, beschreibt unsere Seite zu Agentic AI.

Audit-Trail

Der Audit-Trail verknüpft Inventar, Logs, Aufsichtsentscheidungen, Testergebnisse und Freigaben zu einer durchgängigen Nachweiskette. Aus ihr entstehen technische Dokumentation (Art. 11), Grundrechte-Folgenabschätzung, Vorfallmeldungen nach AI Act und DORA und die Antworten auf Anfragen von Bundesnetzagentur oder BaFin — ohne Sonderaktion vor der Prüfung.

09Vorgehen

So arbeitet die EU AI Act Beratung von SIFAMO: vier Phasen

KI-Governance Beratung endet bei SIFAMO nicht mit dem Gutachten. Jede Phase liefert ein Ergebnis, mit dem Ihre Teams weiterarbeiten.

Wie sich die Governance-Arbeit in die übrigen Leistungen von SIFAMO einfügt — von KI-Strategie bis Agentic AI —, zeigt die Leistungsübersicht.

Inventar und Einstufung

Wir erfassen alle KI-Systeme einschließlich eingekaufter Software und LLM-Nutzung in den Fachbereichen, klären Ihre Rolle als Anbieter oder Betreiber und stufen jedes System ein: verboten, hochriskant nach Anhang I oder III, Ausnahme nach Art. 6 Abs. 3, Transparenzpflicht nach Art. 50 oder minimales Risiko. Ergebnis ist ein gepflegtes KI-Inventar mit begründeter Einstufung.

Gap-Analyse

Für jedes relevante System prüfen wir den Ist-Zustand gegen Art. 9 bis 17, 26, 27, 49 und 50 — bei Versicherern zusätzlich gegen DORA. Die Lücken werden nach Frist und Risiko priorisiert: Was heute schon gilt, zuerst; was ab dem 2. Dezember 2027 gilt, mit ausreichendem Vorlauf. Ergebnis ist ein umsetzbares Backlog, keine Foliensammlung.

Kontrollen bauen

Wir bauen Logging-Pipeline, Aufsichtsoberfläche, Data Lineage, Test-Harness und Audit-Trail in Ihre bestehende Plattform und Ihre Release-Prozesse ein — gemeinsam mit Ihren Entwicklungsteams, damit die Kontrollen nach dem Projekt nicht verwaisen.

Nachweis und Betrieb

Wir richten das Qualitätsmanagement an EN 18286 aus, bereiten Grundrechte-Folgenabschätzung und Registrierung vor, setzen Maßnahmen zur KI-Kompetenz auf und verankern Monitoring, Vorfallprozesse und wiederkehrende Evaluierung im Betrieb. Danach führen Ihre Teams die Kontrollen selbst weiter.

10Ansprechpartner

Wer bei SIFAMO dahintersteht

11FAQ

Häufige Fragen

Ab wann gilt der EU AI Act für Hochrisiko-KI?: Stand: Oktober 2026 gelten die Hochrisiko-Pflichten für Systeme nach Anhang III — etwa Kreditwürdigkeitsprüfung, Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung oder die Vergabe öffentlicher Leistungen — ab dem 2. Dezember 2027. Für Produkte nach Anhang I wie Medizinprodukte gelten sie ab dem 2. August 2028. Diese festen Termine hat der Digital-Omnibus, Verordnung (EU) 2026/1744, eingeführt; der ursprünglich vorgesehene 2. August 2026 gilt für Hochrisiko-KI nicht mehr.
Ist unsere Tarifierungs-KI Hochrisiko?: Nur wenn sie die Risikobewertung oder Preisbildung für natürliche Personen in der Lebens- oder Krankenversicherung betrifft (Anhang III Nr. 5 Buchst. c); Tarifierung in der Kfz- oder Sachversicherung, Schadenbearbeitung und Betrugserkennung fallen nicht darunter. Auch im Lebens- und Krankenbereich ist zu prüfen, ob die Ausnahme nach Art. 6 Abs. 3 greift — führt das System ein Profiling durch, bleibt es hochriskant. EIOPA hat angeregt, menschlich überwachte verallgemeinerte lineare und additive Modelle (GLM, GAM) in der Lebens- und Krankentarifierung per delegiertem Rechtsakt aus Nr. 5 Buchst. c auszunehmen. Ein solcher Rechtsakt ist nach unserem Kenntnisstand (Stand: Oktober 2026) nicht erlassen.
Wer prüft den AI Act in Deutschland?: Seit dem 29. Juli 2026 regelt das KI-MIG die Zuständigkeiten, und grundsätzlich ist die Bundesnetzagentur die Marktüberwachungsbehörde. Für KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit von Banken, Versicherern und anderen beaufsichtigten Unternehmen stehen, ist die BaFin zuständig. Für KI in der Personalabteilung dieser Unternehmen bleibt es bei der Bundesnetzagentur, für KI in Medizinprodukten und anderen Produkten nach Anhang I Abschnitt A bei den sektoralen Behörden.
Müssen Behörden eine Grundrechte-Folgenabschätzung machen?: Ja. Einrichtungen des öffentlichen Rechts müssen vor der ersten Nutzung eines Hochrisiko-Systems nach Anhang III — außer kritischer Infrastruktur — eine Grundrechte-Folgenabschätzung nach Art. 27 durchführen und der Marktüberwachungsbehörde mitteilen; die Pflicht gilt ab dem 2. Dezember 2027. Die Abschätzung darf auf eine bestehende Datenschutz-Folgenabschätzung verweisen. Dass gegen deutsche öffentliche Stellen nach § 17 Abs. 2 KI-MIG keine AI-Act-Bußgelder verhängt werden, ändert an der Pflicht nichts.
Reicht eine ISO/IEC 42001-Zertifizierung für den AI Act?: Nein. ISO/IEC 42001 ist nicht im Amtsblatt der EU zitiert und begründet deshalb keine Konformitätsvermutung. Die erste harmonisierte Norm zum AI Act ist EN 18286:2026 für das Qualitätsmanagementsystem nach Art. 17, im Amtsblatt zitiert seit dem 14. Oktober 2026. Ein 42001-Managementsystem bleibt trotzdem eine gute Basis, weil EN 18286 die Norm in ihren informativen Anhängen abbildet und Sie das bestehende System gezielt erweitern können.
Was gilt seit dem Digital Omnibus?: Der Digital-Omnibus zur KI, Verordnung (EU) 2026/1744, ist seit dem 27. Juli 2026 in Kraft. Er verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I), fasst die Pflicht zur KI-Kompetenz nach Art. 4 als Pflicht zur Förderung neu und erlaubt mit Art. 4a die Verarbeitung sensibler Daten zur Bias-Erkennung. Die Transparenzpflichten nach Art. 50 hat er nicht verschoben, sie gelten seit dem 2. August 2026. Neu sind außerdem Erleichterungen für kleine Mid-Caps, der Verweis der Grundrechte-Folgenabschätzung auf die Datenschutz-Folgenabschätzung und weitere Verbote ab dem 2. Dezember 2026.
Braucht unser Kunden-Chatbot schon jetzt einen KI-Hinweis?: In aller Regel ja. Seit dem 2. August 2026 müssen Systeme, die mit Menschen interagieren, nach Art. 50 so gestaltet sein, dass Nutzer spätestens bei der ersten Interaktion erfahren, dass sie mit einer KI kommunizieren — es sei denn, das ist offensichtlich. Die Pflicht richtet sich an den Anbieter des Systems; als Betreiber sollten Sie trotzdem prüfen, dass der Hinweis im Dialog tatsächlich erscheint. Verstöße gegen Art. 50 können mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden.
Gilt DORA auch für die Nutzung externer Sprachmodelle?: Ja, für Versicherer und Banken im Anwendungsbereich von DORA: LLM-, API- und Cloud-Anbieter sind IKT-Drittdienstleister. Damit gelten Risikobewertung vor Vertragsschluss, Informationsregister, vertragliche Mindestinhalte und bei kritischen oder wichtigen Funktionen Ausstiegsstrategie und Portabilität. Die BaFin-Orientierungshilfe vom 18. Dezember 2025 empfiehlt, dabei auch Nachtrainings und Modellwechsel durch den Anbieter zu berücksichtigen. Die VAIT spielen dafür keine Rolle mehr, denn sie sind seit Ablauf des 16. Januar 2025 aufgehoben.

12Weiterlesen

Passende Themen

Wo steht Ihre Organisation beim AI Act?

Wir beginnen mit Ihrem KI-Inventar und einer begründeten Einstufung. Daraus ergibt sich, welche Pflichten bis zum 2. Dezember 2027 auf Sie zukommen und welche Kontrollen noch fehlen.

Gespräch vereinbaren Alle Leistungen

SIFAMO GmbH — Frankfurt am Main · Berlin