Der EU AI Act (Verordnung (EU) 2024/1689 vom 13. Juni 2024) stuft KI-Systeme nach vier Risikoklassen ein und verbietet seit Februar 2025 neun konkrete KI-Praktiken, darunter Social Scoring, biometrische Echtzeit-Überwachung im öffentlichen Raum sowie KI-gestützte Manipulation und Täuschung. Für Unternehmen, die Foundation Models entwickeln oder einsetzen, markiert das Inkrafttreten der Verbote im Februar 2025 den Beginn einer verbindlichen Konformitätspflicht. Die Europäische Kommission hat begleitend Leitlinien zu den verbotenen Praktiken veröffentlicht, die Notifizierungsstellen und Auditoren als Referenz für Prüfverfahren nutzen können. Entscheider müssen jetzt prüfen, ob ihre KI-Anwendungen in die verbotenen oder hochrisiko-relevanten Kategorien fallen, um Bußgelder und Marktzugangssperren im EWR zu vermeiden.
EU AI Act 2025: Konformitätszertifizierung für Foundation Models – Anforderungen an Notifizierungsstellen und Audit-Roadmap
Der EU AI Act (Verordnung (EU) 2024/1689) klassifiziert KI-Systeme in vier Risikostufen und verbietet seit Februar 2025 neun Kategorien von KI-Praktiken mit unmittelbarer Rechtswirkung – darunter Social Scoring, biometrische Kategorisierung zur Ableitung geschützter Merkmale und nicht zielgerichtetes Scraping öffentlicher Räume zur Gesichtserkennung.
Risikobasierter Rahmen als Grundlage der Zertifizierung
Die Verordnung unterscheidet zwischen unakzeptablem Risiko, hohem Risiko, begrenztem Risiko und minimalem Risiko. Für Anbieter von General-Purpose AI Models (GPAI) – also Foundation Models wie große Sprachmodelle – gelten spezifische Transparenz- und Dokumentationspflichten, die sich von den Anforderungen an Hochrisiko-KI-Systeme in Teilen unterscheiden.
Für GPAI-Modelle mit sogenanntem systemischem Risiko sieht der AI Act verschärfte Anforderungen vor: Adversarielle Tests, Incident-Meldepflichten gegenüber dem AI Office der EU-Kommission sowie Maßnahmen zur Cybersicherheit. Die Schwelle für systemisches Risiko wird unter anderem über die kumulierte Rechenleistung beim Training definiert.
Notifizierungsstellen: Wer prüft Foundation Models?
Notifizierungsstellen (Notified Bodies) spielen im AI Act eine zentrale Rolle bei der Konformitätsbewertung von Hochrisiko-KI-Systemen. Für diese Systeme ist je nach Risikoklasse entweder eine Selbstbewertung oder eine Drittpartei-Prüfung durch eine akkreditierte Notifizierungsstelle vorgeschrieben.
Für GPAI-Modelle ist die Rolle des AI Office der EU-Kommission maßgeblich: Es fungiert als zentrale Aufsichtsbehörde für Foundation Models auf EU-Ebene und koordiniert die Durchsetzung der GPAI-spezifischen Pflichten. Die nationalen Marktüberwachungsbehörden bleiben für den Einsatz von KI-Systemen in ihrem jeweiligen Hoheitsgebiet zuständig.
Die EU-Kommission hat zur Unterstützung der Praxis zwei Schlüsseldokumente veröffentlicht: Leitlinien zu den verbotenen KI-Praktiken sowie ergänzende Erläuterungen zur praktischen Anwendung der Verbote. Diese Dokumente richten sich explizit an Anbieter, Betreiber und Behörden.
Praktische Implikationen für Entscheider
1. Dokumentationspflichten ab sofort prüfen Unternehmen, die GPAI-Modelle bereitstellen oder in Produkte integrieren, müssen technische Dokumentation vorhalten, die Trainingsdaten, Modellarchitektur, Leistungsgrenzen und Risikobewertungen umfasst. Diese Pflicht gilt unabhängig davon, ob das Modell unter systemisches Risiko fällt. Betreiber von Hochrisiko-Systemen sollten ihre Konformitätserklärungen und internen Prüfprozesse bereits jetzt auf die Anforderungen des AI Act ausrichten. Weiterführende Informationen zur Konformitätsbewertung finden Sie in unserem Beitrag zu Konformitätszertifizierung für GPAI-Modelle und Prüfverfahren.
2. Verbotene Praktiken seit Februar 2025 rechtswirksam Acht der neun verbotenen Praktiken sind seit Februar 2025 in Kraft. Dazu zählen unter anderem Emotionserkennung an Arbeitsplätzen und in Bildungseinrichtungen sowie die biometrische Echtzeit-Identifikation in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken. Unternehmen, die entsprechende Systeme bisher eingesetzt haben, sind zu sofortigem Handlungsbedarf aufgerufen. Details zu Sanktionsmechanismen beschreibt unser Artikel zu Durchsetzungsmechanismen und Sanktionen bei Non-Compliance.
3. Audit-Roadmap: Fristen gestaffelt einplanen Der AI Act sieht gestaffelte Umsetzungsfristen vor. Entscheider sollten ihre Audit-Roadmap entsprechend der jeweiligen Risikokategorie ihrer Systeme aufbauen und interne Governance-Strukturen frühzeitig etablieren. Einen strukturierten Überblick über Fristen und Phasen liefert unser Beitrag zur Compliance-Roadmap und Fristen bis 2026. Ergänzend sind die Notifizierungspflichten für GPAI-Anbieter zu berücksichtigen.
4. BSI-Anforderungen als ergänzender Rahmen Neben dem AI Act sind für Unternehmen in Deutschland die Sicherheitsanforderungen des BSI relevant, insbesondere im Kontext kritischer Infrastrukturen. Der BSI-Grundschutz 2025 mit LLM-Sicherheitsanforderungen und der BSI C5-Katalog für KI-Systeme ergänzen die EU-Anforderungen und sollten in interne Compliance-Prozesse integriert werden.
Einordnung
Der AI Act schafft erstmals einen verbindlichen, risikobasierten Rahmen für den Einsatz von KI in der EU. Die Anforderungen an Notifizierungsstellen und Auditverfahren sind eng mit der Risikoeinstufung verknüpft. Für Foundation-Model-Anbieter steht das AI Office als zentrale Instanz im Vordergrund, während für Hochrisiko-Systeme akkreditierte Drittprüfer hinzuzuziehen sind. Die gestufte Inkraftsetzung gibt Unternehmen Zeit zur Anpassung, setzt aber voraus, dass Compliance-Strukturen jetzt aufgebaut werden.
Quellen
- Regulation (EU) 2024/1689 – EUR-Lex (Volltext, PDF)
- Regulation (EU) 2024/1689 – EUR-Lex (OJ)
- EU AI Act: A Risk-based Approach – Europäische Kommission, Digital Strategy
Häufige Fragen
Was regelt der EU AI Act grundsätzlich und seit wann gilt er?
Die Verordnung (EU) 2024/1689 wurde am 13. Juni 2024 vom Europäischen Parlament und dem Rat verabschiedet. Sie legt harmonisierte Regeln für KI-Systeme im EU-Binnenmarkt fest und folgt einem risikobasierten Ansatz mit vier Risikostufen: unannehmbares Risiko, Hochrisiko, begrenztes Risiko und Minimalrisiko.
Welche KI-Praktiken sind seit Februar 2025 verboten?
Seit Februar 2025 sind acht Praktiken untersagt, darunter schädliche KI-basierte Manipulation, die Ausnutzung von Schwachstellen, Social Scoring, Straftatenvorhersage auf Einzelpersonenebene, anlassloses Scraping für Gesichtsdatenbanken, Emotionserkennung am Arbeitsplatz sowie biometrische Kategorisierung zur Ableitung geschützter Merkmale.
Welche Unterstützung hat die EU-Kommission zur Anwendung der Verbote veröffentlicht?
Die Kommission hat zwei Dokumente publiziert: Leitlinien zu verbotenen KI-Praktiken mit rechtlichen Erläuterungen und Praxisbeispielen sowie ergänzende Materialien, die Unternehmen und Behörden bei der Einschätzung helfen sollen, ob ihre Systeme unter ein Verbot fallen.
Welche Risikostufe gilt für Foundation Models und was bedeutet das für Anbieter?
Der AI Act unterscheidet vier Risikostufen. Foundation Models fallen je nach Einsatzbereich unter Hochrisiko- oder weitere Kategorien und unterliegen entsprechenden Pflichten. Anbieter müssen Konformitätsnachweise erbringen. Die genauen Anforderungen an Notifizierungsstellen werden durch die Verordnung und ergänzende Leitlinien der Kommission konkretisiert.
Was müssen Unternehmen jetzt konkret tun, um AI-Act-konform zu werden?
Unternehmen sollten zunächst alle eingesetzten KI-Systeme nach den vier Risikostufen des AI Act einordnen. Für Hochrisikosysteme sind Konformitätsbewertungen und Dokumentationspflichten vorgeschrieben. Die Kommissionsleitlinien zu verbotenen Praktiken bieten eine erste Orientierung. Für tiefergehende Fragen empfiehlt sich die Konsultation der zuständigen nationalen Aufsichtsbehörde.
Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.
