Die Deutsche Normungsroadmap Künstliche Intelligenz hält fest, dass der EU Artificial Intelligence Act einen verbindlichen Rechtsrahmen für KI in Europa schaffen soll, der sich derzeit im EU-Gesetzgebungsverfahren befindet. Für Unternehmen, die Foundation Models oder große Sprachmodelle entwickeln und einsetzen, wird der AI Act ab 2025 konkrete Konformitätspflichten mit sich bringen. Wer frühzeitig versteht, welche Anforderungen an Transparenz, Risikobewertung und Dokumentation gestellt werden, kann Zertifizierungsprozesse rechtzeitig aufsetzen und regulatorische Risiken minimieren. Die Normungsroadmap der deutschen KI-Forschungslandschaft unterstreicht, dass einheitliche Standards die Grundlage für einen rechtssicheren Einsatz von KI-Systemen im europäischen Binnenmarkt bilden.
EU AI Act: Konformitätsbewertung für Foundation Models und große Sprachmodelle – Anforderungen ab 2025
Der EU AI Act soll einen verbindlichen Rechtsrahmen für Künstliche Intelligenz in Europa schaffen. Laut der Deutschen Normungsroadmap Künstliche Intelligenz befindet sich das Regelwerk derzeit auf EU-Ebene in Verhandlung. Für Unternehmen, die Foundation Models oder große Sprachmodelle (Large Language Models, LLMs) einsetzen oder entwickeln, ergeben sich daraus konkrete Anforderungen, die bereits ab 2025 relevant werden.
Was der AI Act für Foundation Models bedeutet
Der AI Act klassifiziert KI-Systeme nach Risikoklassen. Foundation Models und LLMs, die als Basis für eine Vielzahl nachgelagerter Anwendungen dienen, stehen dabei unter besonderer Beobachtung. Anbieter solcher Modelle müssen nachweisen, dass ihre Systeme bestimmte Transparenz-, Sicherheits- und Qualitätsstandards erfüllen, bevor sie auf dem europäischen Markt bereitgestellt werden dürfen.
Praktische Implikationen für Unternehmen
1. Dokumentations- und Nachweispflichten Unternehmen, die Foundation Models entwickeln oder betreiben, müssen umfangreiche technische Dokumentation bereithalten. Dazu gehören Angaben zu Trainingsdaten, Modellarchitektur, bekannten Risiken sowie zu Maßnahmen zur Risikominimierung. Diese Unterlagen bilden die Grundlage für Konformitätsbewertungsverfahren.
2. Transparenzanforderungen gegenüber nachgelagerten Anbietern Wer ein Foundation Model als Basis für eigene KI-Produkte nutzt, muss von den Modellanbietern ausreichende Informationen erhalten, um selbst konform handeln zu können. Die Lieferkette der KI-Entwicklung wird damit stärker reguliert und erfordert klare vertragliche sowie technische Absprachen zwischen Modellanbietern und Integrationspartnern.
3. Konformitätsbewertung vor Markteinführung Für Hochrisiko-KI-Systeme schreibt der AI Act eine Konformitätsbewertung vor der Markteinführung vor. Unternehmen sollten frühzeitig prüfen, in welche Risikoklasse ihre KI-Anwendungen fallen, und entsprechende interne Prozesse aufsetzen, um Verzögerungen bei der Markteinführung zu vermeiden.
4. Laufende Überwachungspflichten Die Anforderungen enden nicht mit der Markteinführung. Anbieter sind verpflichtet, ihre Systeme kontinuierlich zu überwachen, Vorfälle zu melden und bei wesentlichen Änderungen erneute Bewertungen durchzuführen. Dies erfordert den Aufbau interner Governance-Strukturen und gegebenenfalls die Benennung verantwortlicher Personen für KI-Compliance.
Normung als Schlüsselelement
Technische Normen spielen eine zentrale Rolle bei der praktischen Umsetzung des AI Acts. Sie konkretisieren abstrakte gesetzliche Anforderungen und geben Unternehmen handhabbare Prüfmaßstäbe an die Hand. Die Deutsche Normungsroadmap Künstliche Intelligenz zeigt auf, welche Normungsbedarfe entlang des gesamten KI-Lebenszyklus bestehen und wie Deutschland die europäische Normungsarbeit aktiv mitgestalten will.
Für Entscheider empfiehlt sich, die Entwicklung einschlägiger ISO/IEC- und CEN/CENELEC-Normen im Blick zu behalten, da diese als harmonisierte Normen unter dem AI Act Konformitätsvermutung erzeugen können.
Mehr zu verwandten Themen auf ecompanion.ai:
Quellen
Häufige Fragen
Was ist der EU AI Act und welches Ziel verfolgt er?
Der EU AI Act ist ein geplanter Rechtsrahmen der Europäischen Union, der den Einsatz von Künstlicher Intelligenz regulieren soll. Ziel ist es, einheitliche Anforderungen an KI-Systeme zu schaffen, die in der EU entwickelt oder eingesetzt werden. Die Deutsche Normungsroadmap Künstliche Intelligenz verweist ausdrücklich auf diesen Rechtsrahmen als maßgebliches Instrument für die KI-Regulierung in Europa.
Welche Bedeutung hat der EU AI Act für Unternehmen, die Foundation Models oder große Sprachmodelle einsetzen?
Unternehmen, die Foundation Models oder große Sprachmodelle entwickeln oder betreiben, müssen mit verbindlichen Anforderungen rechnen, sobald der EU AI Act in Kraft tritt. Der Rechtsrahmen zielt darauf ab, Transparenz, Sicherheit und Nachvollziehbarkeit von KI-Systemen sicherzustellen. Entscheider sollten frühzeitig prüfen, welche ihrer KI-Anwendungen unter die jeweiligen Risikoklassen des Gesetzes fallen könnten.
Was versteht man unter einer Konformitätsbewertung im Kontext des EU AI Acts?
Eine Konformitätsbewertung ist ein Verfahren, mit dem nachgewiesen wird, dass ein KI-System die gesetzlich festgelegten Anforderungen erfüllt. Der EU AI Act sieht solche Verfahren vor, um sicherzustellen, dass KI-Systeme vor ihrer Markteinführung bewertet und dokumentiert werden. Für Hochrisiko-KI-Systeme sind dabei besonders strenge Prüfpflichten vorgesehen.
In welchem Stand befindet sich der EU AI Act, und wann müssen Unternehmen mit verbindlichen Pflichten rechnen?
Nach dem Stand, den die Deutsche Normungsroadmap Künstliche Intelligenz dokumentiert, befand sich der EU AI Act zunächst in der Verhandlungsphase auf EU-Ebene. Unternehmen sollten die weiteren Entwicklungen des Gesetzgebungsverfahrens aufmerksam verfolgen und interne Prozesse zur Konformitätsbewertung bereits jetzt vorbereiten, um bei Inkrafttreten handlungsfähig zu sein.
Welche Rolle spielen Normen und Standards bei der Umsetzung des EU AI Acts?
Normen und technische Standards sind ein zentrales Instrument, um die Anforderungen des EU AI Acts in der Praxis umzusetzen. Die Deutsche Normungsroadmap Künstliche Intelligenz wurde unter anderem entwickelt, um diesen Prozess zu begleiten und Unternehmen sowie Behörden eine Orientierung zu geben, welche Standards für KI-Systeme relevant sind. Wer frühzeitig auf anerkannte Normen setzt, kann die Konformitätsbewertung effizienter gestalten.
