Das BSI hat am 3. Juni 2025 erstmals einen Prüfkatalog für KI-Systeme im Finanzsektor veröffentlicht, der knapp 100 praxisnahe Testkriterien zu IT-Sicherheit, Datenqualität, Modellrobustheit, Governance, menschlicher Aufsicht und Performance umfasst. Für Unternehmen, die KI-Systeme im Finanzbereich entwickeln, betreiben oder prüfen, schafft der Katalog des BSI erstmals eine strukturierte Grundlage zur Bewertung von Sicherheit, Transparenz, Nachvollziehbarkeit und Fairness. Da sich der Katalog an den Vorgaben der EU-KI-Verordnung orientiert und im Rahmen des Projekts AICRIV entwickelt wurde, erhalten Entscheider ein konkretes Werkzeug zur Compliance-Vorbereitung. Auch Unternehmen außerhalb des Finanzsektors können den Katalog als Orientierungsrahmen nutzen.
BSI veröffentlicht erstmals Prüfkatalog für KI-Systeme im Finanzsektor
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 3. Juni 2025 einen umfassenden Kriterienkatalog für KI-Systeme im Finanzbereich vorgelegt. Der sogenannte “Test Criteria Catalogue for AI Systems in Finance” enthält knapp 100 praxisnahe Testkriterien und ist der erste seiner Art aus dem BSI. Er richtet sich an Entwickler, Anbieter, Betreiber und Prüforganisationen, die KI-Systeme im Finanzsektor einsetzen oder bewerten.
Was der Katalog enthält
Der im Rahmen des Projekts AICRIV entwickelte Katalog deckt laut BSI folgende Themenbereiche ab: IT-Sicherheit, Datenqualität, Modellrobustheit, Governance, menschliche Aufsicht und Performance. Ergänzend enthält das Dokument Empfehlungen zu geeigneten Prüfmethoden und -werkzeugen.
Die Anforderungen orientieren sich an bestehenden Standards und Regularien. Ausdrücklich soll der Katalog die Umsetzung der Vorgaben der EU-KI-Verordnung (EU AI Act) unterstützen. Damit positioniert das BSI das Dokument als praktische Brücke zwischen regulatorischen Pflichten und technischer Umsetzung.
Obwohl der Katalog primär für den Finanzsektor entwickelt wurde, weist das BSI darauf hin, dass er auch für andere Sektoren als Orientierung dienen kann.
Praktische Implikationen
1. Prüfpflichten werden konkreter. Für Unternehmen im Finanzbereich, die KI-Systeme betreiben, schafft der Katalog eine überprüfbare Referenz. Die knapp 100 Kriterien bieten eine strukturierte Grundlage, um bestehende Systeme auf Konformität zu evaluieren. Das betrifft insbesondere Anforderungen an menschliche Aufsicht und Modellrobustheit, die unter dem EU AI Act für Hochrisiko-Anwendungen verpflichtend sind. Mehr zu den Konformitätspflichten unter dem EU AI Act finden Sie hier: EU AI Act: Konformitätsbewertung für Foundation Models.
2. Governance-Anforderungen steigen. Der Bereich Governance ist explizit im Kriterienkatalog verankert. Finanzinstitute müssen demnach nachweisbare Strukturen für die Überwachung und Steuerung ihrer KI-Systeme vorhalten. Wer bislang nur intern dokumentiert hat, steht vor der Aufgabe, diese Strukturen nach außen prüfbar zu machen. Einen Überblick über KI-Governance-Anforderungen für Großkonzerne bietet dieser Beitrag: KI-Compliance-Audits im Finanzsektor.
3. Datenqualität und Fairness als Prüfgegenstände. Der Katalog schließt explizit Datenqualität und Fairness ein. Das bedeutet, dass Unternehmen künftig auch dokumentieren müssen, wie Trainingsdaten geprüft und Bias-Risiken bewertet wurden. Dies ist besonders relevant für Scoring- und Risikomodelle, die direkte Auswirkungen auf Kunden haben. Ergänzende Informationen zu Datenschutzanforderungen bei KI-Systemen: DSGVO und LLMs: Auftragsverarbeitung.
4. Der Katalog als Vorbereitung auf Audits. Da das BSI den Katalog als Unterstützung für die Umsetzung der KI-Verordnung konzipiert hat, ist davon auszugehen, dass er bei künftigen Konformitätsprüfungen und Audits als Maßstab herangezogen werden kann. Unternehmen, die frühzeitig eine interne Bewertung anhand der Kriterien durchführen, reduzieren ihr Risiko bei behördlichen Überprüfungen. Weiterführende Informationen zu BSI-Sicherheitsanforderungen für KI: BSI C5-Kriterienkatalog für KI-Systeme in KRITIS sowie BSI-Richtlinien für sichere KI-Systeme.
Einordnung
Das BSI betont, dass sich der Katalog an bestehenden Standards orientiert und ausdrücklich die Umsetzung der EU-KI-Verordnung unterstützen soll. Er stellt damit kein eigenständiges Regulierungsinstrument dar, sondern eine operative Hilfestellung. Für den Finanzsektor, der bereits unter starker regulatorischer Beobachtung steht, fügt sich der Katalog in ein wachsendes Ökosystem aus technischen Prüfstandards und rechtlichen Anforderungen ein. Relevante Entwicklungen auf EU-Ebene beleuchtet auch dieser Artikel: EU AI Act: Zertifizierung und Meldepflichten für Foundation Models.
Quellen
Häufige Fragen
Was hat das BSI im Juni 2025 für KI-Systeme im Finanzsektor veröffentlicht?
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 3. Juni 2025 erstmalig einen Prüfkatalog für KI-Systeme im Finanzbereich veröffentlicht, den sogenannten ‘Test Criteria Catalogue for AI Systems in Finance’. Dieser wurde im Rahmen des Projekts AICRIV entwickelt und umfasst knapp 100 praxisnahe Testkriterien. Er soll Sicherheit, Transparenz, Nachvollziehbarkeit und Fairness von KI-Systemen systematisch bewertbar machen.
Welche inhaltlichen Bereiche deckt der BSI-Prüfkatalog für KI-Systeme im Finanzsektor ab?
Der Katalog umfasst Kriterien aus mehreren Prüfbereichen: IT-Sicherheit, Datenqualität, Modellrobustheit, Governance, menschliche Aufsicht sowie Performance. Ergänzend enthält das Dokument Empfehlungen zu geeigneten Prüfmethoden und -werkzeugen. Die Anforderungen orientieren sich an bestehenden Standards und Regularien und unterstützen zugleich die Umsetzung der EU-KI-Verordnung.
An wen richtet sich der BSI-Kriterienkatalog für KI im Finanzbereich?
Der Katalog adressiert primär Entwickler, Anbieter, Betreiber und Prüforganisationen von KI-Systemen in der Finanzwirtschaft. Das BSI weist jedoch ausdrücklich darauf hin, dass das Dokument auch für andere Sektoren als Orientierung dienen kann, da die zugrunde liegenden Prüfprinzipien sektorübergreifend anwendbar sind.
Wie verhält sich der BSI-Prüfkatalog zur EU-KI-Verordnung?
Der Katalog ist explizit als Unterstützungsinstrument für die Umsetzung der EU-KI-Verordnung konzipiert. Die enthaltenen Testkriterien orientieren sich an den dort formulierten Anforderungen und sollen Unternehmen sowie Prüforganisationen dabei helfen, die regulatorischen Vorgaben der Verordnung operativ umzusetzen und nachweisbar zu erfüllen.
Welche Rolle spielt menschliche Aufsicht im BSI-Kriterienkatalog für KI-Systeme?
Menschliche Aufsicht ist ein explizit genannter Prüfbereich innerhalb des BSI-Katalogs. Das bedeutet, dass Unternehmen beim Einsatz von KI-Systemen im Finanzbereich nachweisen müssen, wie und in welchem Umfang menschliche Kontrollmechanismen im Betrieb verankert sind. Dies spiegelt eine zentrale Anforderung der EU-KI-Verordnung wider, die für Hochrisikosysteme verbindliche Aufsichtspflichten vorsieht.
Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.
