Laut Bitkom setzen erst 13 Prozent der deutschen Unternehmen KI ein, obwohl 82 Prozent ihr große Bedeutung für die Wettbewerbsfähigkeit beimessen. Der EU AI Act verpflichtet Anbieter und Betreiber von Hochrisiko-KI-Systemen zu umfassenden Konformitätsnachweisen, bevor diese auf den Markt kommen. Für kleine und mittlere Unternehmen in Deutschland verschärft sich die Lage: Der risikobasierte Rechtsrahmen des EU AI Act stuft KI-Anwendungen in Bereichen wie Industrieanlagen oder Medizintechnik als hochrisikoreich ein. Anbieter solcher Systeme haften für Schäden an Gesundheit, Sicherheit und Grundrechten. KI-Haftungsversicherungen rücken damit 2025 als Instrument zur Risikoabsicherung in den Fokus, da die Einhaltung des AI Act für jede Organisation, die KI-Systeme bereitstellt oder einsetzt, verpflichtend wird.

KI-Haftungsversicherungen für KMU: Was der EU AI Act 2025 für Deckung und Compliance bedeutet

Nur 13 Prozent der deutschen Unternehmen setzen Künstliche Intelligenz ein, obwohl 82 Prozent ihr eine hohe Bedeutung für die künftige Wettbewerbsfähigkeit beimessen – so Bitkom-Präsident Dr. Ralf Wintergerst nach dem Beschluss des EU AI Act durch das Europäische Parlament. Für kleine und mittlere Unternehmen, die den Einstieg in KI planen oder bereits vollzogen haben, stellt sich damit eine drängende Frage: Wer haftet, wenn ein KI-System Schäden verursacht – und wie lässt sich dieses Risiko versichern?

Der risikobasierte Rahmen des EU AI Act

Das KI-Gesetz der Europäischen Union klassifiziert KI-Systeme nach Risikostufen, die von minimalem bis zu inakzeptabel hohem Risiko reichen, wie das Fraunhofer IKS erläutert. Hochrisiko-KI-Systeme – etwa für autonome Fahrzeuge, medizinische Geräte oder Industrieanlagen – können laut Fraunhofer IKS eine erhebliche Bedrohung für Gesundheit, Sicherheit oder Grundrechte darstellen. Sie müssen vor der Markteinführung geprüft und bewertet werden, wobei diese Bewertung vom Anbieter selbst durchgeführt wird.

Für KMU bedeutet das konkret: Die Einhaltung des AI Act wird für jede Organisation verpflichtend, die ein KI-basiertes System bereitstellt oder einsetzt. Da das Gesetz eine breite Palette von Anwendungsfällen abdeckt, ist es nach Einschätzung des Fraunhofer IKS wahrscheinlich, dass ein Unternehmen in den Geltungsbereich fällt.

Mehr zu den Risikoklassifizierungen und Anforderungen des EU AI Act sowie zu den Konformitätsbewertungspflichten für Hochrisiko-KI finden Sie in unseren weiterführenden Analysen.

Vier praktische Implikationen für KMU

1. Selbstbewertungspflicht schafft Haftungsgrundlage

Da Hochrisiko-KI-Systeme einer Konformitätsbewertung durch den Anbieter selbst unterliegen, trägt das einsetzende Unternehmen die Verantwortung für Vollständigkeit und Richtigkeit dieser Bewertung. Fehlerhafte oder unvollständige Selbstbewertungen können Haftungsansprüche begründen – sowohl gegenüber Behörden als auch gegenüber geschädigten Dritten. KMU sollten prüfen, ob ihre bestehenden Betriebs- oder Produkthaftpflichtversicherungen KI-bezogene Schäden explizit einschließen oder ausschließen. Viele klassischen Policen enthalten noch keine klaren Regelungen für algorithmische Systeme. Einen Überblick über aktuelle Compliance-Anforderungen bietet unser Artikel zu den Konformitätskosten für KMU im EU AI Act.

2. Hochrisiko-Kategorien betreffen mehr KMU als erwartet

Der Anwendungsbereich des EU AI Act erfasst nicht nur Technologiekonzerne. Auch KMU, die KI in Bereichen wie Personalentscheidungen, Kreditvergabe, Qualitätskontrolle in der Fertigung oder Kundenkommunikation einsetzen, können unter Hochrisiko-Kategorien fallen. Die Fraunhofer-Analyse zeigt, dass das Gesetz eine breite Palette von Anwendungsfällen abdeckt. Versicherungsangebote, die spezifisch auf diese Kategorien zugeschnitten sind, befinden sich in Deutschland noch in der Entwicklung. Unternehmen sollten ihren Versicherer bereits jetzt auf eine explizite Deckung für KI-Systemfehler ansprechen. Weiterführende Informationen liefert unser Bericht zum EU AI Act und Hochrisiko-KI in Rekrutierung und Personalmanagement.

3. Compliance-Dokumentation ist Versicherungsvoraussetzung

Versicherer werden künftig Nachweise über die Einhaltung des EU AI Act als Bedingung für die Deckung verlangen. Dazu zählen technische Dokumentation, Risikofolgenabschätzungen und Nachweise über menschliche Aufsicht. KMU, die diese Unterlagen nicht vorhalten, riskieren sowohl regulatorische Sanktionen als auch den Verlust des Versicherungsschutzes im Schadensfall. Die Anforderungen an Dokumentations- und Transparenzpflichten sind im EU AI Act-Artikel zu Dokumentationspflichten für KI-Anbieter detailliert beschrieben.

4. Fristen kennen und Budgets einplanen

Der EU AI Act tritt schrittweise in Kraft. KMU sollten die Compliance-Roadmap mit den konkreten Fristen und Phasen bis 2026 als Planungsgrundlage nutzen. Versicherungslösungen, die auf den regulatorischen Anforderungen aufbauen, werden in dem Maß verfügbar werden, wie der Markt die Risikolandschaft besser einschätzen kann. Wer heute die nötigen Compliance-Strukturen aufbaut, verbessert nicht nur seine Rechtsstellung, sondern auch seine Versicherbarkeit.

Quellen

• Das KI-Gesetz der EU und Hochrisiko-KI-Systeme – Fraunhofer IKS
• EU AI Act – EU beschließt KI-Etikette – Fraunhofer Safe Intelligence

Häufige Fragen

Was versteht der EU AI Act unter einem Hochrisiko-KI-System, und warum ist das für KMU relevant?

Der EU AI Act klassifiziert KI-Systeme nach Risikoklassen: von minimalem bis zu inakzeptabel hohem Risiko. Als Hochrisiko gelten unter anderem Systeme in Bereichen wie autonome Fahrzeuge, medizinische Geräte oder Industrieanlagen, da sie die Gesundheit, Sicherheit oder Grundrechte von Personen erheblich gefährden können. Da das Gesetz eine breite Palette von Anwendungsfällen abdeckt, ist es laut Fraunhofer IKS wahrscheinlich, dass auch viele KMU in den Geltungsbereich des AI Act fallen, sofern sie KI-basierte Systeme einsetzen oder bereitstellen.

Welche Pflichten entstehen für KMU, wenn ihr KI-System als hochriskant eingestuft wird?

Hochrisiko-KI-Systeme müssen vor dem Markteintritt einer eingehenden Konformitätsbewertung unterzogen werden. Diese Bewertung führt der Anbieter selbst durch. Hinzu kommen technische und rechtliche Verpflichtungen, die der AI Act in abgestufter Form vorschreibt. Die Einhaltung dieser Anforderungen wird für jede Organisation, die ein entsprechendes System in der EU betreibt oder bereitstellt, verpflichtend. Für KMU ohne eigene Compliance-Abteilung bedeutet das einen erheblichen organisatorischen Aufwand.

Wie weit ist die KI-Nutzung in deutschen Unternehmen tatsächlich verbreitet, und welche Lücke besteht zur regulatorischen Realität?

Laut Bitkom-Präsident Ralf Wintergerst setzen lediglich 13 Prozent der deutschen Unternehmen KI bereits ein, obwohl 82 Prozent ihr eine hohe Bedeutung für die künftige Wettbewerbsfähigkeit beimessen. Diese Diskrepanz zeigt: Die meisten Unternehmen stehen noch vor der Einführung, müssen aber gleichzeitig die wachsenden regulatorischen Anforderungen des EU AI Act im Blick behalten, bevor sie entsprechende Systeme produktiv nutzen.

Deckt eine Standard-Betriebshaftpflichtversicherung Schäden durch Hochrisiko-KI-Systeme ab?

Herkömmliche Betriebshaftpflichtversicherungen sind in der Regel nicht auf die spezifischen Schadensszenarien zugeschnitten, die durch Hochrisiko-KI-Systeme entstehen können, etwa Fehler autonomer Systeme in Industrieanlagen oder fehlerhafte Entscheidungen medizinischer KI-Anwendungen. Da der EU AI Act klare Haftungsverantwortlichkeiten beim Anbieter verankert und eine Selbstbewertung vorschreibt, sollten KMU prüfen, ob ihre bestehenden Policen diese neuen Risikokategorien ausreichend abdecken, oder gezielt KI-spezifische Zusatzdeckungen in Betracht ziehen.

Ab wann gilt der EU AI Act verbindlich, und welche Vorbereitungszeit bleibt KMU für Versicherung und Compliance?

Der EU AI Act wurde vom Europäischen Parlament beschlossen und tritt stufenweise in Kraft. Die Verpflichtungen für Hochrisiko-KI-Systeme greifen nicht sofort, sondern nach definierten Übergangsfristen. KMU sollten diese Zeitfenster nutzen, um bestehende KI-Anwendungen zu inventarisieren, deren Risikoklasse zu bestimmen, notwendige Konformitätsnachweise vorzubereiten und parallel dazu ihren Versicherungsschutz auf KI-spezifische Haftungsrisiken hin zu überprüfen.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.