Der EU AI Act, seit 1. August 2024 in Kraft, klassifiziert KI-Anwendungen in vier Risikoklassen; Systeme der höchsten Klasse “Unannehmbares Risiko” sind seit Februar 2025 verboten, während für Hochrisiko-Systeme gestufte Konformitätspflichten mit Übergangsfristen gelten (Quelle: heise business services). Unternehmen, die generative Sprachmodelle einsetzen, müssen ihre Anwendungen klar einer der vier Risikoklassen zuordnen, etwa als Chatbot unter “Besondere Transparenzverpflichtungen” oder als medizinische Software unter “Hohes Risiko”. Je nach Einstufung greifen unterschiedliche Konformitätsanforderungen. Wer die Fristen verpasst oder Pflichten ignoriert, riskiert empfindliche Bußgelder. Für Entscheider ist eine frühzeitige Klassifizierung und Dokumentation der eingesetzten KI-Systeme daher keine strategische Option, sondern eine rechtliche Notwendigkeit.

EU AI Act: Risikoklassifizierung und Konformitätspflichten für generative Sprachmodelle

Der EU AI Act ist am 1. August 2024 in Kraft getreten und gilt als weltweit erstes umfassendes Gesetz zur Regulierung von künstlicher Intelligenz. Unternehmen, die generative Sprachmodelle entwickeln oder einsetzen, stehen damit vor konkreten Compliance-Anforderungen, deren Missachtung hohe Bußgelder nach sich zieht.

Das risikobasierte Stufenmodell

Der AI Act ordnet KI-Anwendungen in vier Risikoklassen ein. Für Anbieter und Nutzer generativer Sprachmodelle ist die Einordnung entscheidend für den Umfang der jeweiligen Pflichten:

• Unannehmbares Risiko: Anwendungen wie Social-Scoring-Systeme sind seit Februar 2025 vollständig verboten.
• Hohes Risiko: Darunter fallen etwa medizinische Softwaresysteme. Für diese Klasse gelten strenge Anforderungen unter anderem an Transparenz, Datenverwaltung und menschliche Aufsicht.
• Besondere Transparenzverpflichtungen: Chatbots und vergleichbare generative Systeme fallen typischerweise in diese Kategorie. Nutzer müssen erkennen können, dass sie mit einem KI-System interagieren.
• Minimales Risiko: Beispiele sind Videospiele mit KI-Elementen. Hier bestehen keine zwingenden gesetzlichen Auflagen.

Die Einordnung eines konkreten Sprachmodells hängt vom jeweiligen Einsatzkontext ab. Ein generatives Modell, das in der medizinischen Diagnostik genutzt wird, unterliegt damit deutlich schärferen Anforderungen als dasselbe Modell in einer Unterhaltungsanwendung.

Praktische Implikationen für Unternehmen

1. Einsatzkontext vor Technologie prüfen Nicht das Modell selbst bestimmt primär die Risikoklasse, sondern der konkrete Verwendungszweck. Unternehmen müssen für jede geplante KI-Anwendung eine eigenständige Einordnung vornehmen, bevor sie diese in Betrieb nehmen. Eine pauschale Klassifizierung des eingesetzten Basismodells reicht nicht aus.

2. Transparenzpflichten bei Chatbots frühzeitig umsetzen Wer generative Sprachmodelle als Chatbot oder interaktiven Assistenten betreibt, fällt in die Kategorie der Systeme mit besonderen Transparenzverpflichtungen. Die Pflicht, Nutzer über die KI-Interaktion zu informieren, gilt bereits jetzt. Unternehmen sollten entsprechende Hinweise in ihre Benutzeroberflächen integrieren.

3. Übergangsfristen aktiv nutzen Der AI Act sieht abgestufte Übergangsfristen vor. Unternehmen sollten diese Zeiträume nicht als Aufschub verstehen, sondern gezielt nutzen, um interne Prozesse, Dokumentationspflichten und Risikoanalysen vorzubereiten. Wer damit zu spät beginnt, riskiert, bei Fristablauf nicht konform zu sein.

4. Anbieter und Nutzer tragen gemeinsam Verantwortung Der AI Act adressiert sowohl Entwickler als auch Betreiber von KI-Systemen. Unternehmen, die Sprachmodelle Dritter einsetzen, entbinden sich damit nicht von eigenen Pflichten. Verträge mit KI-Anbietern sollten die Verantwortlichkeiten für Klassifizierung, Dokumentation und Konformitätsnachweise klar regeln.

Einordnung

Der AI Act schafft erstmals einen verbindlichen, europaweit einheitlichen Rahmen für den KI-Einsatz. Für Anbieter generativer Sprachmodelle bedeutet das: Die technische Leistungsfähigkeit eines Modells allein ist kein Compliance-Kriterium. Entscheidend sind Einsatzzweck, Transparenz gegenüber Nutzern und die Fähigkeit, den Anforderungen der jeweiligen Risikoklasse nachweislich zu genügen.

Quellen

• Leitfaden: EU AI Act rechtssicher umsetzen – heise Business Services (Whitepaper)
• Leitfaden: EU AI Act rechtssicher umsetzen – heise Business Services (IT-Management / Digitalisierung)
• Leitfaden: EU AI Act rechtssicher umsetzen – heise Business Services (IT-Management / Daten-Management)

Häufige Fragen

Wann ist der EU AI Act in Kraft getreten und welche Fristen gelten für Unternehmen?

Der EU AI Act ist am 1. August 2024 in Kraft getreten. Er gilt nicht sofort in vollem Umfang: Die Verordnung sieht abgestufte Übergangsfristen je nach Risikoklasse vor. KI-Anwendungen der höchsten Risikoklasse sind seit Februar 2025 verboten. Für andere Kategorien gelten längere Umsetzungsfristen.

Welche vier Risikoklassen unterscheidet der EU AI Act?

Der AI Act klassifiziert KI-Systeme nach einem risikobasierten Ansatz in vier Stufen: Erstens ‘Unannehmbares Risiko’, zu dem etwa Social-Scoring-Systeme zählen. Zweitens ‘Hohes Risiko’, zum Beispiel medizinische Software. Drittens Systeme mit besonderen Transparenzverpflichtungen, etwa Chatbots und generative Sprachmodelle. Viertens ‘Minimales Risiko’, worunter beispielsweise Videospiele fallen.

Welche Pflichten treffen Anbieter generativer Sprachmodelle konkret?

Generative Sprachmodelle wie Chatbots fallen unter die Klasse der Systeme mit besonderen Transparenzverpflichtungen. Anbieter müssen Nutzer klar darüber informieren, dass sie mit einem KI-System interagieren. Zusätzlich gelten je nach Einsatzkontext weitere Anforderungen, etwa wenn das System in einem Hochrisiko-Bereich eingesetzt wird.

Was droht Unternehmen, die den EU AI Act nicht einhalten?

Der EU AI Act sieht bei Verstößen empfindliche Bußgelder vor. Die genaue Höhe richtet sich nach der Art des Verstoßes und der Risikoklasse des betroffenen Systems. Unternehmen, die verbotene KI-Praktiken der höchsten Risikoklasse einsetzen, riskieren die schärfsten Sanktionen. Eine rechtssichere KI-Strategie ist daher für alle Unternehmen mit KI-Einsatz relevant.

Seit wann wird der EU AI Act politisch verhandelt und wie kam es zur finalen Fassung?

Erste Entwürfe für eine umfassende KI-Regulierung auf EU-Ebene gab es bereits 2021. Nach mehrjährigen Verhandlungen einigten sich EU-Kommission, EU-Rat und EU-Parlament im Dezember 2023 auf eine gemeinsame Fassung. Der AI Act gilt als weltweit erstes umfassendes Gesetz zur Regulierung von Entwicklung und Einsatz künstlicher Intelligenz.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.