Der EU AI Act verpflichtet Anbieter von Hochrisiko-KI-Systemen zur Konformitätsbewertung vor Markteintritt: Laut Fraunhofer IKS führen Anbieter diese Bewertung selbst durch und müssen nachweisen, dass ihre Systeme die gesetzlichen Anforderungen erfüllen. Der risikobasierte Rahmen des AI Act betrifft eine breite Palette von Unternehmen: Da das Gesetz viele Anwendungsfälle abdeckt, fällt es laut Fraunhofer IKS wahrscheinlich für die meisten Organisationen in den Geltungsbereich. Laut Bitkom-Präsident Dr. Ralf Wintergerst setzen bisher nur 13 Prozent der deutschen Unternehmen KI ein, obwohl 82 Prozent ihr große Bedeutung für die Wettbewerbsfähigkeit zusprechen. Compliance wird damit zur strategischen Voraussetzung für den KI-Einsatz.
EU AI Act: Was Hochrisiko-KI-Systeme für Unternehmen bedeuten
Der EU AI Act ist in Kraft getreten und verpflichtet Unternehmen, die Hochrisiko-KI-Systeme entwickeln oder einsetzen, zu umfassenden Konformitätsbewertungen, bevor diese Systeme auf den Markt kommen. Das Fraunhofer-Institut für Kognitive Systeme IKS beschreibt den Ansatz des Gesetzes als risikobasiert: Abhängig von der Risikoeinstufung eines KI-Systems greifen abgestufte rechtliche und technische Verpflichtungen.
Was als Hochrisiko gilt
Das KI-Gesetz der Europäischen Kommission unterscheidet mehrere Risikokategorien. Systeme mit minimalem oder begrenztem Risiko unterliegen vergleichsweise leichten Transparenzpflichten. Vollständig verboten sind bestimmte KI-Anwendungen, die als inakzeptabel riskant eingestuft werden.
Dazwischen steht die Kategorie der Hochrisiko-KI-Systeme. Laut Fraunhofer IKS fallen darunter etwa Systeme für autonome Fahrzeuge, medizinische Geräte oder Industrieanlagen. Diese können laut der Einschätzung des Instituts eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte darstellen.
Konformitätsbewertung liegt beim Anbieter selbst
Ein zentrales Merkmal des AI Act: Die Konformitätsbewertung von Hochrisiko-Systemen wird vom Anbieter selbst durchgeführt, bevor das Produkt auf den Markt gebracht wird. Das bedeutet, Unternehmen tragen die Verantwortung für die Prüfung und Dokumentation ihrer eigenen Systeme. Eine externe Zertifizierungsstelle ist nicht in allen Fällen zwingend vorgeschrieben.
Fraunhofer IKS hält fest, dass die Einhaltung des AI Act für jede Organisation, die in naher Zukunft ein KI-basiertes System bereitstellt oder einsetzt, verpflichtend sein wird. Da das Gesetz eine breite Palette von Anwendungsfällen abdeckt, ist es nach Einschätzung des Instituts wahrscheinlich, dass ein Unternehmen in den Geltungsbereich des Gesetzes fällt.
Praktische Implikationen für Unternehmen
1. Frühzeitige Risikoklassifikation ist Pflicht Unternehmen müssen ihre KI-Anwendungen systematisch einordnen. Wer zu spät prüft, ob sein System als hochriskant gilt, riskiert Nachbesserungsbedarf kurz vor oder nach dem Markteintritt. Das Fraunhofer IPA empfiehlt, die Anforderungen schrittweise anzugehen, da die gesetzlichen Verpflichtungen selbst stufenweise in Kraft treten.
2. Sektorspezifische Anforderungen kommen hinzu Der AI Act ist nicht das einzige relevante Regelwerk. Laut Fraunhofer IPA müssen KI-Systeme häufig zusätzlich sektorspezifische Anforderungen erfüllen, etwa aus der EU-Maschinenverordnung oder der Medical Device Regulation. Compliance bedeutet damit für viele Unternehmen die gleichzeitige Erfüllung mehrerer Regelwerke.
3. Datenschutz, Transparenz und technische Sicherheit als Kernthemen Die Anforderungen des Gesetzes reichen von Risikobewertungen über Datenschutz bis hin zu technischen Sicherheitsstandards, wie Fraunhofer IPA zusammenfasst. Unternehmen müssen intern prüfen, ob ihre bestehenden Prozesse diese Bereiche bereits abdecken.
4. Geringe KI-Nutzung trifft auf hohe Erwartungen Der Bitkom-Präsident Dr. Ralf Wintergerst weist auf eine Diskrepanz hin: Erst 13 Prozent der deutschen Unternehmen setzen KI ein, obwohl 82 Prozent ihr eine große Bedeutung für die künftige Wettbewerbsfähigkeit zusprechen. Für Unternehmen, die jetzt mit dem KI-Einsatz beginnen, empfiehlt sich daher eine Compliance-Strategie von Anfang an.
Einordnung
Der Europaabgeordnete Dragos Tudorache, der an der Entstehung des Gesetzes maßgeblich beteiligt war, bezeichnet den Beschluss des Europäischen Parlaments als Verknüpfung von KI mit den grundlegenden Werten europäischer Gesellschaften. Wie die praktische Umsetzung durch Unternehmen gelingt, wird sich in den kommenden Monaten zeigen, da die Anforderungen schrittweise greifen.
Quellen
- EU AI Act: EU beschließt KI-Etikette – Fraunhofer IKS Magazin
- Das KI-Gesetz der EU und Hochrisiko-KI-Systeme – Fraunhofer IKS
- Schritt für Schritt zur Compliance: Der EU AI Act praxisnah erklärt – Fraunhofer IPA
Häufige Fragen
Was versteht der EU AI Act unter einem Hochrisiko-KI-System?
Der EU AI Act stuft KI-Systeme als hochriskant ein, wenn sie in sensiblen Bereichen eingesetzt werden und eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte darstellen können. Typische Beispiele sind KI-Systeme für autonome Fahrzeuge, medizinische Geräte oder Industrieanlagen. Diese Systeme unterliegen strengeren Prüf- und Dokumentationspflichten als Anwendungen mit begrenztem oder minimalem Risiko.
Wer ist für die Konformitätsbewertung eines Hochrisiko-KI-Systems verantwortlich?
Die Konformitätsbewertung liegt laut Fraunhofer IKS beim Anbieter selbst. Das bedeutet: Unternehmen, die ein hochrisikobehaftetes KI-System entwickeln oder auf den Markt bringen, müssen die Prüfung und Bewertung eigenverantwortlich durchführen, bevor das System in Betrieb genommen wird. Eine externe Zertifizierungsstelle ist in vielen Fällen nicht zwingend vorgeschrieben, die interne Dokumentation und Nachweisführung jedoch schon.
Welche Unternehmen fallen überhaupt in den Geltungsbereich des AI Act?
Der Geltungsbereich ist bewusst weit gefasst. Da das Gesetz eine breite Palette von Anwendungsfällen abdeckt, ist es laut Fraunhofer IKS wahrscheinlich, dass die meisten Unternehmen, die KI-basierte Systeme einsetzen oder bereitstellen, in den Anwendungsbereich fallen. Die Einhaltung des AI Act wird für jede Organisation, die in naher Zukunft ein KI-System betreibt, verpflichtend.
Welche zusätzlichen sektorspezifischen Anforderungen müssen Unternehmen neben dem AI Act beachten?
Neben den Vorgaben des EU AI Act müssen KI-Systeme häufig auch branchenspezifische Regelwerke erfüllen. Das Fraunhofer IPA nennt hier unter anderem die EU-Maschinenverordnung sowie die Medical Device Regulation als relevante Vorschriften. Unternehmen stehen damit vor der Aufgabe, ihre KI-Systeme gleichzeitig an mehrere sich überschneidende Regelwerke anzupassen.
Wie weit ist die deutsche Wirtschaft beim KI-Einsatz und welche Rolle spielt dabei der regulatorische Rahmen?
Nach Angaben des Branchenverbands Bitkom setzen derzeit erst 13 Prozent der deutschen Unternehmen Künstliche Intelligenz ein, obwohl 82 Prozent ihr eine große Bedeutung für die künftige Wettbewerbsfähigkeit beimessen. Bitkom-Präsident Ralf Wintergerst betont, dass Deutschland die Chancen der KI stärker in den Mittelpunkt rücken müsse. Der EU AI Act schafft hierfür zwar verbindliche Standards für Transparenz und Sicherheit, stellt Unternehmen aber gleichzeitig vor konkrete Compliance-Aufgaben, die frühzeitige Vorbereitung erfordern.
