Der EU AI Act verpflichtet Anbieter von Hochrisiko-KI-Systemen, vor dem Markteintritt eine eigenständige Konformitätsbewertung durchzuführen. Systeme in Bereichen wie autonomes Fahren, Medizintechnik oder Industrieanlagen müssen nachweislich geprüft sein, andernfalls drohen Rückruf und Marktentzug. Da der AI Act einen risikobasierten Ansatz verfolgt und ein breites Spektrum an Anwendungsfällen abdeckt, fällt nach Einschätzung des Fraunhofer IKS nahezu jedes Unternehmen, das KI-Systeme bereitstellt oder einsetzt, in den Geltungsbereich der Verordnung. Nicht-konforme Hochrisiko-Systeme können behördlich vom Markt genommen werden. Entscheider müssen daher frühzeitig Compliance-Prozesse einrichten: Die Einhaltung der Anforderungen an Transparenz, Risikoklassifizierung und technische Dokumentation wird für alle Marktteilnehmer in der EU verpflichtend.

EU AI Act: Was bei nicht-konformen Hochrisiko-KI-Systemen gilt

Der EU AI Act verpflichtet Anbieter von Hochrisiko-KI-Systemen zur Selbstbewertung vor der Markteinführung und schafft damit einen verbindlichen regulatorischen Rahmen für Künstliche Intelligenz in der gesamten EU.

Der Rahmen: Risikobasiert und abgestuft

Das KI-Gesetz der Europäischen Kommission verfolgt einen risikobasierten Ansatz. Je nach Risikoeinstufung eines KI-Systems steigen die rechtlichen und technischen Anforderungen. Laut Fraunhofer IKS unterscheidet das Gesetz zwischen Systemen mit niedrigem, mittlerem und hohem Risiko sowie Anwendungen, die vollständig verboten sind.

Hochrisiko-KI-Systeme finden sich laut Fraunhofer IKS unter anderem in folgenden Bereichen:

• Autonome Fahrzeuge
• Medizinische Geräte
• Industrieanlagen

Diese Systeme können nach Einschätzung des Fraunhofer IKS eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte darstellen. Deshalb müssen sie vor der Markteinführung eingehend geprüft und bewertet werden. Diese Bewertung liegt in der Verantwortung des Anbieters selbst.

Praktische Implikationen für Unternehmen

1. Breiter Geltungsbereich trifft viele Branchen

Da der EU AI Act eine breite Palette von Anwendungsfällen abdeckt, ist es laut Fraunhofer IKS wahrscheinlich, dass ein Unternehmen in den Geltungsbereich fällt. Die Compliance-Pflicht gilt für jede Organisation, die ein KI-basiertes System bereitstellt oder einsetzt.

2. Anbieter tragen die Nachweispflicht

Die Konformitätsbewertung für Hochrisiko-KI-Systeme führt der Anbieter selbst durch. Das bedeutet: Unternehmen müssen interne Prozesse und Dokumentation aufbauen, bevor ein System auf den Markt kommt. Eine nachträgliche Prüfung durch Behörden kann zur Rücknahme oder Sperrung nicht-konformer Systeme führen.

3. Verantwortlichkeiten entlang der Wertschöpfungskette

Der EU AI Act regelt laut Fraunhofer IKS nicht nur die Anbieter, sondern alle Akteure entlang der KI-Wertschöpfungskette. Das schließt Betreiber und Händler ein. Wer ein Hochrisiko-KI-System in Verkehr bringt, ohne die Anforderungen zu erfüllen, riskiert Marktrücknahmen und behördliche Maßnahmen.

4. Lücke zwischen Anforderungen und Umsetzung bleibt eine Herausforderung

Der Heise-Kolumnist der DOAG KI Community thematisiert in der Ausgabe “KI Navigator #14” die Spannung zwischen regulatorischen Transparenzanforderungen und der technischen Realität moderner KI-Systeme. Die Frage, wie viel Erklärbarkeit in der Praxis umsetzbar ist, bleibt für viele Unternehmen offen und stellt einen zentralen Knackpunkt bei der Compliance-Umsetzung dar.

Was jetzt zu tun ist

Für Unternehmen, die KI-Systeme entwickeln oder einsetzen, ist eine frühzeitige Einordnung nach dem Risikorahmen des EU AI Act empfehlenswert. Das schließt die Analyse der eigenen Systeme, die Klärung von Verantwortlichkeiten und den Aufbau von Dokumentationspflichten ein, bevor Übergangsfristen ablaufen.

Quellen

• Das KI-Gesetz der EU und Hochrisiko-KI-Systeme, Fraunhofer IKS
• Training: Das KI-Gesetz und Hochrisiko-KI-Systeme, Fraunhofer IKS
• KI Navigator #14: Muss KI gläsern sein? Zwischen Regulierung und Realität, heise.de

Häufige Fragen

Was versteht der EU AI Act unter einem Hochrisiko-KI-System?

Hochrisiko-KI-Systeme sind laut EU AI Act solche, die eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte darstellen können. Beispiele sind KI-Anwendungen in autonomen Fahrzeugen, medizinischen Geräten oder Industrieanlagen. Solche Systeme müssen vor dem Markteintritt eingehend geprüft werden. Die Bewertung führt der Anbieter selbst durch.

Welchen Ansatz verfolgt der EU AI Act bei der Regulierung?

Der EU AI Act verfolgt einen risikobasierten Ansatz. Je nach Risikoklasse eines KI-Systems gelten abgestufte rechtliche und technische Verpflichtungen. Systeme werden als niedrig-, mittel- oder hochriskant eingestuft. Bestimmte KI-Anwendungen sind vollständig verboten. Die Einstufung entscheidet darüber, welche Anforderungen ein Anbieter oder Betreiber erfüllen muss.

Wer ist verpflichtet, den EU AI Act einzuhalten?

Die Einhaltung des EU AI Act wird für jede Organisation verpflichtend, die ein KI-basiertes System in der EU bereitstellt oder einsetzt. Da das Gesetz eine breite Palette von Anwendungsfällen abdeckt, ist es wahrscheinlich, dass die meisten Unternehmen mit KI-Einsatz in den Geltungsbereich fallen. Das gilt für Anbieter ebenso wie für Betreiber entlang der gesamten KI-Wertschöpfungskette.

Welche Pflichten gelten für Hochrisiko-KI-Systeme vor dem Marktzugang?

Hochrisiko-KI-Systeme müssen vor ihrer Markteinführung einer eingehenden Konformitätsbewertung unterzogen werden. Diese Bewertung liegt in der Verantwortung des Anbieters und umfasst technische sowie rechtliche Anforderungen. Ziel ist es sicherzustellen, dass das System keine unzumutbaren Risiken für Personen oder die Öffentlichkeit mit sich bringt.

Was müssen Unternehmen konkret tun, um Konformität mit dem EU AI Act herzustellen?

Unternehmen müssen zunächst ihre KI-Systeme korrekt klassifizieren und prüfen, ob sie als hochriskant eingestuft werden. Anschließend sind technische und organisatorische Anforderungen umzusetzen, etwa Transparenzpflichten, Risikomanagement und Dokumentation. Für General-Purpose AI gelten zusätzliche Vorgaben. Einheitliche Standards sollen den Weg zur Konformität strukturieren.