Open-Source-Tools wie der AIBOM-Scanner decken KI-Risiken in Codebasen mit 48 Compliance-Controls auf, die NIST AI RMF (23 Controls), ISO 42001 (15) und EU AI Act (10) abdecken, während Microsofts Agent Governance Toolkit eine NIST-AI-RMF-Selbstbewertung für KI-Agentensysteme bereitstellt. Versicherer, die Generative KI einsetzen, stehen 2025 unter zunehmendem Regulierungsdruck: Der EU AI Act gilt für Hochrisikosysteme verbindlich, NIST AI RMF wird branchenweit als Steuerungsrahmen etabliert. Fehlende Nachweise zu Prompt-Injection-Schutz, Daten-Souveränität oder eingesetzten KI-SDKs können Haftungsrisiken und Bußgelder auslösen. Automatisierte Audit-Werkzeuge verkürzen den Prüfaufwand, ersetzen jedoch keine qualifizierten internen Compliance-Bewertungen.
KI-Compliance-Audit in Versicherungen: NIST AI RMF, EU AI Act und Haftungsregime 2025
Versicherungsunternehmen, die Generative KI in der Schadenbearbeitung, Risikoprüfung oder Kundenkommunikation einsetzen, stehen 2025 vor einer mehrschichtigen Regulierungsrealität: Das NIST AI Risk Management Framework, der EU AI Act und nationale Haftungsregeln greifen gleichzeitig und erfordern strukturierte Audit-Prozesse, die bislang in der Branche kaum standardisiert sind.
Konvergenz dreier Regelwerke setzt Versicherer unter Druck
Der EU AI Act stuft KI-Systeme in der Versicherungswirtschaft potenziell als Hochrisiko-Anwendungen ein, wenn sie Kreditwürdigkeits- oder Risikobewertungen automatisieren. Für diese Systeme gelten ab 2025 Pflichten zur Konformitätsbewertung, Datendokumentation und menschlichen Aufsicht. Parallel dazu empfiehlt das NIST AI RMF 1.0 einen vierstufigen Govern-Map-Measure-Manage-Zyklus, den Microsofts Agent Governance Toolkit (AGT) in einem öffentlich zugänglichen Selbstbewertungsdokument (Stand: Juli 2026) als interne Referenz verwendet. Das Dokument betont ausdrücklich, dass es sich um kein validiertes Zertifikat oder Drittparteien-Audit handelt, und rät Unternehmen, eigene Compliance-Prüfungen mit qualifizierten Prüfern durchzuführen.
Für die Versicherungsbranche bedeutet das: Ein einzelner Governance-Ansatz genügt nicht. Es braucht Werkzeuge, die alle drei Ebenen gleichzeitig abbilden.
Auf der Werkzeugebene sind in den vergangenen Monaten mehrere Open-Source-Lösungen entstanden. Das genai-security-risk-framework auf GitHub, entwickelt von einem zertifizierten KI-Datensicherheitsspezialisten, kombiniert die OWASP LLM Top 10 2025, das NIST AI RMF, den EU AI Act und ISO/IEC 42001 in einem Toolkit, das automatisiertes Risiko-Scoring und Prompt-Injection-Erkennung bietet. Es richtet sich ausdrücklich an Organisationen, die LLMs, RAG-Systeme und KI-Agenten produktiv betreiben.
Ergänzend dazu ermöglicht der aibom-scanner die automatische Erkennung von KI-SDKs in Codebases und erstellt ein sogenanntes AI Bill of Materials (AIBOM). Das Tool erkennt laut Projektbeschreibung über 70 Erkennungsmuster für mehr als 30 Anbieter, darunter OpenAI, Anthropic, Google AI, AWS Bedrock und zehn chinesische KI-Anbieter. Für drei davon, darunter Zhipu, iFlytek und SenseTime, wird der Status als BIS-Entity-Listed-Anbieter als kritisch eingestuft. Der Scanner bildet 48 Compliance-Kontrollen ab: 23 aus dem NIST AI RMF, 15 aus ISO 42001 und 10 aus dem EU AI Act.
Praktische Implikationen für Versicherungsnehmer und Entscheider
1. Automatisierte Entscheidungen müssen nachvollziehbar sein
Wer als Versicherungsnehmer Leistungsablehnungen oder Prämienerhöhungen erhält, die auf KI-gestützten Risikomodellen basieren, hat unter dem EU AI Act das Recht auf Erläuterung der maßgeblichen Systemlogik. Versicherer, die Hochrisiko-KI-Systeme einsetzen, müssen Protokollierungspflichten und menschliche Überprüfungsinstanzen nachweisen können. Dazu passend: EU AI Act: Konformitätsbewertung und Hochrisiko-KI.
2. Haftungslücken bei KI-Fehlern sind noch nicht abschließend geregelt
Das europäische Haftungsregime für KI-Schäden befindet sich in Entwicklung. Versicherungsunternehmen, die als Betreiber von Hochrisiko-KI-Systemen auftreten, tragen nach aktuellem Stand die Beweislast für die Fehlerfreiheit ihrer Systeme. Für Verbraucher bedeutet das: Schadenersatzansprüche bei KI-verursachten Fehlauskünften oder falschen Leistungsablehnungen sind theoretisch einklagbar, aber prozessual noch komplex. Relevant ist hier auch das Haftungsregime und Konformitätserklärungen nach EU AI Act.
3. Datenschutz und KI-Compliance sind nicht dasselbe
Viele Versicherer behandeln DSGVO-Compliance als ausreichend für ihre KI-Systeme. Das ist ein Irrtum. Der EU AI Act stellt zusätzliche Anforderungen an Trainingsdaten, Datendrift-Monitoring und technische Dokumentation, die über den Datenschutz hinausgehen. Der aibom-scanner etwa prüft auch Secrets Detection, also ob API-Schlüssel hart im Code eingebettet sind, was ein typischer Audit-Blinder-Fleck ist. Weiterführend: KI-Datenschutz im Mittelstand: DSGVO, LLM und RAG 2025.
4. Drittanbieter-Komponenten vergrößern die Audit-Komplexität
Versicherungsunternehmen setzen selten ein einziges KI-System ein. Typisch sind hybride Stacks aus mehreren Modellen und SDKs verschiedener Anbieter. Der aibom-scanner unterstützt laut Projektbeschreibung Sprachen wie Python, JavaScript/TypeScript, Go, Java, Rust, Ruby, Swift und C#/.NET, und deckt Agentic-AI-Frameworks wie CrewAI, AutoGen, LangGraph und Semantic Kernel ab. Dieser Tiefengrad ist für Compliance-Audits relevant, weil Regulatoren künftig die gesamte KI-Lieferkette in Augenschein nehmen. Dazu: KI-Sicherheitsaudits bei DAX-Konzernen 2025.
Wo die Lücken bleiben
Alle drei besprochenen Frameworks und Tools betonen einen gemeinsamen Vorbehalt: Sie ersetzen keine qualifizierten externen Audits. Das AGT-Dokument von Microsoft formuliert das explizit. Das genai-security-risk-framework liefert Strukturvorlagen und Scanfunktionen, aber keine Zertifizierung. Für Versicherungsunternehmen, die unter Solvency II reguliert sind und zusätzlich unter den EU AI Act fallen, reicht ein Self-Assessment-Toolkit allein nicht aus.
Der nächste Schritt für Compliance-Teams ist die Kombination: automatisierte Scan-Tools für den kontinuierlichen Betrieb, externe Prüfer für die Erstzertifizierung und ein dokumentierter Govern-Map-Measure-Manage-Prozess nach NIST AI RMF als dauerhaftes Steuerungsmodell. Wie sich NIST AI RMF und EU AI Act inhaltlich zueinander verhalten, erläutert der Artikel NIST AI RMF 2.0 und EU AI Act im Governance-Vergleich.
Wer verstehen möchte, wie KI-Audits in der Finanzbranche konkret ablaufen, findet weitere Einordnung unter KI-Compliance-Audit in Finanzkonzernen 2025 sowie zu den KI-spezifischen BSI-Anforderungen unter BSI-Richtlinien 2025: KI-Evaluierung, Monitoring und Haftung.
Quellen
- GitHub: genai-security-risk-framework (osayande-infosec) – Enterprise AI Security Risk Assessment Toolkit, OWASP LLM Top 10 2025, NIST AI RMF, EU AI Act, ISO/IEC 42001
- GitHub: aibom-scanner (saasvista) – AI Bill of Materials Scanner, Compliance-Mapping zu NIST AI RMF, ISO 42001 und EU AI Act
- GitHub: Microsoft Agent Governance Toolkit – NIST AI RMF Alignment Assessment – Interne Selbstbewertung, Stand Juli 2026, kein validiertes Zertifikat
Häufige Fragen
Welche Compliance-Frameworks sind für Versicherungsunternehmen beim Einsatz von KI-Systemen 2025 relevant?
Versicherungsunternehmen müssen sich an mehreren Standards orientieren: dem NIST AI Risk Management Framework (AI RMF 1.0), dem EU AI Act sowie ISO/IEC 42001. Open-Source-Toolkits wie das GenAI Security Risk Framework oder Microsofts Agent Governance Toolkit bilden diese drei Rahmenwerke bereits systematisch ab. Hinzu kommt die OWASP LLM Top 10 2025 für modellspezifische Sicherheitsrisiken.
Was versteht man unter einem AI Bill of Materials (AIBOM) und warum ist er für Versicherer prüfungsrelevant?
Ein AIBOM dokumentiert alle im Quellcode genutzten KI-SDKs und deren Compliance-Risiken. Tools wie der aibom-scanner erkennen dabei über 70 Erkennungsmuster und decken mehr als 30 AI-Anbieter ab. Die ermittelten Befunde werden direkt auf NIST AI RMF, ISO 42001 und den EU AI Act gemappt. Für Versicherer schafft das eine nachvollziehbare Dokumentationsbasis, die bei Audits und bei der Haftungsfrage belastbar ist.
Wie hilft das NIST AI RMF 1.0 konkret bei der Risikosteuerung von KI in der Versicherungsbranche?
Das NIST AI RMF 1.0 gliedert sich in vier Funktionen: GOVERN, MAP, MEASURE und MANAGE. Governance-Toolkits wie Microsofts Agent Governance Toolkit ordnen ihre Kontrollmechanismen diesen Funktionen zu und dokumentieren Lücken transparent. Für Versicherer bedeutet das: Risiken aus LLM-Systemen oder KI-Agenten lassen sich strukturiert erfassen, bewertet und mit konkreten Maßnahmen versehen, bevor externe Audits stattfinden.
Welche besonderen Sicherheitsrisiken adressiert die OWASP LLM Top 10 2025 für Versicherungsanwendungen?
Die OWASP LLM Top 10 2025 benennt spezifische Angriffsvektoren auf große Sprachmodelle, darunter Prompt Injection als zentrales Risiko. Das GenAI Security Risk Framework enthält automatisierte Erkennungsmechanismen für Prompt-Injection-Angriffe und bietet strukturierte Risikobewertungen für RAG-Systeme und KI-Agenten. Gerade in der Versicherung, wo Modelle Kundendaten verarbeiten, ist dieser Angriffsvektor haftungsrechtlich besonders relevant.
Worauf müssen Versicherungsunternehmen bei der Nutzung von KI-Komponenten chinesischer Anbieter im Rahmen des EU AI Act achten?
Automatisierte AIBOM-Scanner wie der aibom-scanner klassifizieren Komponenten von zehn chinesischen KI-Anbietern gesondert. Drei davon (Zhipu, iFlytek, SenseTime) werden aufgrund von BIS-Entity-Listing als kritisch eingestuft, sieben weitere als datensouveränitätsrelevant markiert. Versicherer, die solche Komponenten einsetzen, müssen Risiken gegenüber Aufsichtsbehörden nachweislich dokumentieren und bewerten.
Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.
