Der EU AI Act stuft KI-Systeme in autonomen Fahrzeugen als Hochrisiko ein und verpflichtet Hersteller zu einer verpflichtenden Konformitätsbewertung vor der Markteinführung – während laut Bitkom-Präsident Dr. Ralf Wintergerst bislang nur 13 Prozent der deutschen Unternehmen KI aktiv einsetzen. Für Automobilhersteller und Zulieferer bedeutet die Hochrisiko-Einstufung konkrete Pflichten: Selbstbewertungen, technische Dokumentation und laufende Konformitätsnachweise sind ab Inkrafttreten der einschlägigen Bestimmungen obligatorisch. Forscher der Universität Luxemburg und der RISE Sweden identifizieren zudem einen systematischen Mangel an Prüfmethoden als zentrales Umsetzungshindernis. Unternehmen, die jetzt keine Compliance-Strukturen aufbauen, riskieren Marktzugangsprobleme im gesamten EU-Binnenmarkt.

EU AI Act: Was Hochrisiko-KI in der Automobilindustrie 2025 bedeutet

KI-Systeme für autonome Fahrzeuge und Fahrerassistenz fallen laut EU AI Act in die Kategorie der Hochrisiko-Anwendungen und unterliegen damit den strengsten Anforderungen der Verordnung. Für Hersteller, Zulieferer und Betreiber bedeutet das: Konformitätsbewertungen, lückenlose Dokumentation und technische Sicherheitsnachweise sind ab dem geltenden Übergangszeitraum verpflichtend.

Einordnung: Warum autonome Systeme als Hochrisiko gelten

Der EU AI Act verfolgt einen risikobasierten Ansatz. Er unterteilt KI-Systeme in Risikoklassen von minimal bis inakzeptabel und knüpft daran abgestufte Pflichten. Hochrisiko-Systeme, darunter KI für autonome Fahrzeuge, medizinische Geräte und industrielle Automatisierung, stellen laut Fraunhofer IKS eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte dar. Sie müssen vor Marktzulassung eine verpflichtende Konformitätsbewertung durchlaufen, die der Anbieter als Selbstbewertung durchführt.

Fahrerassistenzsysteme mit KI-Steuerung, teilautomatisierte Fahrfunktionen nach SAE Level 2 aufwärts sowie vollautonome Steuereinheiten sind davon direkt betroffen. Forscher der Universität Luxemburg und des schwedischen Research Institute RISE (RISE) haben in einem Verifikationsrahmen für den EU AI Act dargelegt, dass ein zentrales Problem bei der Umsetzung das Fehlen eines systematischen Ansatzes zur Überprüfung der gesetzlichen Vorgaben ist. Jüngere Erhebungen zeigen demnach, dass diese regulatorische Unklarheit als erhebliche Belastung wahrgenommen wird und zu uneinheitlichem Vorbereitungsstand in den EU-Mitgliedstaaten führt.

Vier praktische Implikationen für Unternehmen und Verbraucher

1. Konformitätsbewertung vor Markteinführung ist Pflicht

Jedes KI-System, das in autonomen oder teilautonomen Fahrzeugen eingesetzt wird, muss vor dem Marktstart eine Konformitätsbewertung durchlaufen. Diese erfolgt nach aktuellem Stand als Selbstbewertung des Anbieters, umfasst aber technische Dokumentation, Risikomanagementsysteme, Datensatz-Governance, Robustheitstests und Post-Market-Monitoring. Fraunhofer IKS betont, dass die Frage, ob ein KI-System alle Kriterien für Vertrauenswürdigkeit erfüllt, und welche Auswirkungen der AI Act auf den konkreten Produktentwicklungsprozess hat, für viele Unternehmen noch ungeklärt ist.

Für Verbraucher bedeutet das: Fahrzeuge mit KI-gestützten Assistenz- oder Autonomiefunktionen, die ab den geltenden Stichtagen in der EU vermarktet werden, müssen nachweislich geprüfte Systeme tragen.

2. Transparenzpflichten gegenüber Nutzern

Betreiber von KI-Hochrisikosystemen müssen sicherstellen, dass Nutzer über den KI-Einsatz und dessen Grenzen informiert werden. Im Fahrzeugkontext betrifft das zum Beispiel die klare Kommunikation, in welchen Situationen ein Assistenzsystem die Kontrolle übernimmt und wann der Fahrer eingreifen muss. MEP Dragos Tudorache, einer der Hauptarchitekten des AI Acts, betonte bei der Verabschiedung durch das Europäische Parlament, dass die EU das Konzept der künstlichen Intelligenz mit den Grundwerten verknüpft hat, die die Grundlage der Gesellschaft bilden.

3. Verifikationsrahmen schließen die Lücke zwischen Recht und Technik

Ein strukturiertes Verifikationsrahmenwerk, wie es Forscher von der Universität Luxemburg und RISE vorgeschlagen haben, ordnet Compliance-Prüfungen entlang zweier Dimensionen: Art der Methode (Kontrollen versus Tests) und Prüfgegenstand (Daten, Modell, Prozesse, Endprodukt). Dieser Ansatz soll als Brücke zwischen Regulatoren und Praktikern dienen und Rechtstexte mit technischen Standards verbinden. Für Automobilhersteller und Zulieferer ist das relevant, weil die bloße Lektüre des Gesetzestexts keine operativen Prüfpläne ergibt.

Wer mehr über Konformitätsbewertung und Zertifizierungspflichten für Hochrisiko-KI erfahren möchte, findet weitere Hintergründe unter EU AI Act: Konformitätsbewertung und Zertifizierungspflichten für Hochrisiko-KI.

4. KI-Adoption in Deutschland hinkt hinterher

Bitkom-Präsident Dr. Ralf Wintergerst verwies im Kontext des AI Acts darauf, dass Deutschland seinen Fokus auf die Chancen durch KI richten müsse. Laut Bitkom nutzen nur 13 Prozent der Unternehmen in Deutschland KI aktiv, obwohl 82 Prozent KI für wichtig für die künftige Wettbewerbsfähigkeit der deutschen Wirtschaft halten. Für die Automobilindustrie, die mit komplexen KI-Lieferketten und langen Entwicklungszyklen arbeitet, bedeutet das: Wer jetzt nicht in Compliance-Strukturen investiert, riskiert Verzögerungen bei der Markteinführung neuer Fahrzeuggeneration

Ergänzende Einschätzungen zu KI-Implementierungskosten in der Automobilbranche finden Sie unter KI-Implementierungskosten in der Automobilindustrie 2025 sowie zu ROI-Effekten bei autonomen Systemen unter KI-ROI Automobilindustrie 2025.

Ausblick: Compliance als Wettbewerbsmerkmal

Fraunhofer IKS stellt fest, dass Compliance mit dem AI Act für praktisch jede Organisation, die KI-basierte Systeme bereitstellt oder betreibt, verpflichtend sein wird, da der Anwendungsbereich breit gefasst ist. In der Automobilindustrie, wo globale Lieferketten und internationale Märkte eine zentrale Rolle spielen, wird die Nachweisbarkeit von KI-Sicherheit zunehmend zur Markteintrittsbedingung. Zusätzliche Informationen zu Übergangszeiträumen und Konformitätsfristen für Hochrisiko-KI-Systeme bietet EU AI Act 2025: Übergangsfristen für Hochrisiko-Systeme.

Quellen

• EU AI Act – EU adopts AI label (Fraunhofer Safe Intelligence)
• AI Act and High-Risk Systems – Fraunhofer IKS
• Assessing High-Risk Systems: An EU AI Act Verification Framework (arxiv.org)

Häufige Fragen

Warum gelten KI-Systeme in autonomen Fahrzeugen laut EU AI Act als Hochrisiko?

Der EU AI Act stuft KI-Systeme als hochriskant ein, wenn sie eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte von Personen darstellen. Autonome Fahrzeugsysteme fallen ausdrücklich in diese Kategorie, da Fehlfunktionen unmittelbar lebensbedrohliche Folgen haben können. Für solche Systeme gelten verschärfte rechtliche und technische Pflichten, bevor sie auf den Markt gebracht werden dürfen.

Welche konkreten Pflichten müssen Hersteller von Fahrerassistenzsystemen vor der Markteinführung erfüllen?

Anbieter von Hochrisiko-KI-Systemen, wozu Fahrerassistenz- und autonome Fahrzeugsysteme zählen, sind laut Fraunhofer IKS verpflichtet, vor der Markteinführung eine verpflichtende Konformitätsbewertung durchzuführen. Diese erfolgt in der Regel als Selbstbewertung durch den Anbieter. Dazu kommen eskalierte technische Dokumentationspflichten sowie Anforderungen an Datenverwaltung, Transparenz und Rückverfolgbarkeit.

Was bedeutet der risikobasierte Ansatz des EU AI Act für die Automobilindustrie in der Praxis?

Der AI Act unterteilt KI-Systeme in Risikostufen: von minimalem Risiko bis hin zu inakzeptablem Risiko, wobei letztere vollständig verboten sind. Für die Automobilindustrie bedeutet das, dass KI-Anwendungen je nach Einstufung unterschiedlich strenge Auflagen erfüllen müssen. Hochrisikosysteme wie jene für autonomes Fahren unterliegen den strengsten Vorgaben, während etwa einfache Assistenzfunktionen mit geringerem Risiko weniger umfangreichen Pflichten unterliegen können.

Wie weit sind Unternehmen in Deutschland bei der Umsetzung des EU AI Act tatsächlich?

Laut Bitkom-Präsident Dr. Ralf Wintergerst nutzen derzeit nur 13 Prozent der Unternehmen in Deutschland künstliche Intelligenz, obwohl 82 Prozent der Unternehmen KI für bedeutsam für die künftige Wettbewerbsfähigkeit halten. Eine von Forschern der Universität Luxemburg und des schwedischen Forschungsinstituts RISE durchgeführte Analyse zeigt zudem, dass regulatorische Unklarheiten als erhebliche Belastung wahrgenommen werden und die Umsetzungsreife zwischen den EU-Mitgliedstaaten stark variiert.

Welche Methoden stehen Unternehmen zur Verfügung, um die Konformität ihrer Hochrisiko-KI-Systeme systematisch zu überprüfen?

Forscher der Universität Luxemburg und des RISE haben einen Verifikationsrahmen vorgeschlagen, der Compliance-Prüfungen entlang zweier Dimensionen strukturiert: der Art der Methode, also Kontrollen gegenüber Tests, sowie dem Prüfgegenstand, der Daten, Modell, Prozesse und das fertige Produkt umfasst. Ziel des Frameworks ist es, eine Brücke zwischen den rechtlichen Anforderungen des AI Act und konkreten technischen Standards herzustellen, um Automobilunternehmen eine praxisnahe Orientierung zu geben.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.