Der EU AI Act klassifiziert KI-Systeme zur Bewerberauswahl und Leistungsbewertung als Hochrisiko-Anwendungen. Laut Bitkom setzen erst 13 Prozent der deutschen Unternehmen KI ein, obwohl 82 Prozent ihr hohe Bedeutung für die Wettbewerbsfähigkeit beimessen. Betreiber solcher Systeme treffen ab sofort umfangreiche Pflichten: Risikomanagement, technische Dokumentation, Schulungsmaßnahmen und menschliche Aufsicht sind verpflichtend. Erste Regelungen des AI Act gelten seit Februar 2025. Unternehmen, die KI in der Personalarbeit einsetzen, müssen ihre Prozesse jetzt prüfen und anpassen, um Sanktionen zu vermeiden.

EU AI Act: Transparenzpflichten für KI-Systeme in der Arbeitnehmerüberwachung

Der EU AI Act klassifiziert KI-gestützte Systeme zur Leistungsbewertung und Überwachung von Beschäftigten als Hochrisiko-Anwendungen und unterwirft Betreiber damit einem umfangreichen Pflichtenkatalog, der bereits ab Februar 2025 schrittweise in Kraft getreten ist.

Was der EU AI Act für Überwachungs-KI im Betrieb bedeutet

Die KI-Verordnung der EU folgt einem risikobasierten Ansatz: KI-Systeme werden anhand ihres potenziellen Schadenspotenzials in Kategorien eingeteilt. Anwendungen im Personalbereich, darunter Systeme zur Bewerberauswahl, zur Leistungsbewertung und zur Überwachung von Mitarbeitenden, fallen nach dem Gesetz in die Kategorie Hochrisiko. Das bedeutet, dass für diese Systeme die strengsten Anforderungen gelten, die der EU AI Act vorsieht.

Für Betreiber solcher Systeme, also Unternehmen, die Überwachungs-KI im Arbeitsverhältnis einsetzen, ergeben sich daraus konkrete Handlungspflichten: Sie müssen Risikomanagementprozesse implementieren, technische Dokumentation vorhalten, menschliche Aufsicht sicherstellen und Schulungsmaßnahmen für das eingesetzte Personal nachweisen. Der Europaabgeordnete Dragos Tudorache bezeichnete den Beschluss des Europäischen Parlaments als Verknüpfung von KI-Konzepten mit den grundlegenden Werten der europäischen Gesellschaften.

Laut Bitkom-Präsident Dr. Ralf Wintergerst setzen bislang erst 13 Prozent der deutschen Unternehmen KI ein, obwohl 82 Prozent ihr eine große Bedeutung für die künftige Wettbewerbsfähigkeit zusprechen. Diese Diskrepanz zeigt, dass viele Betriebe noch vor der eigentlichen Compliance-Herausforderung stehen.

Praktische Implikationen für Betreiber

1. Transparenzpflichten gegenüber Beschäftigten

Arbeitnehmerinnen und Arbeitnehmer müssen darüber informiert werden, wenn KI-Systeme bei der Leistungsbewertung oder Überwachung eingesetzt werden. Für Systeme mit begrenztem Risiko, darunter Large Language Models (LLMs), die etwa Arbeitsprotokolle auswerten, gelten zusätzlich besondere Kennzeichnungspflichten für KI-generierte Inhalte. Betreiber müssen klar kommunizieren, wann und wie KI-Ausgaben in Entscheidungsprozesse einfließen.

2. Dokumentations- und Auditpflichten

Hochrisiko-Systeme erfordern eine vollständige technische Dokumentation des Systems sowie seiner Trainingsdaten und Leistungsparameter. Betreiber müssen nachweisen können, dass das eingesetzte System die gesetzlichen Anforderungen erfüllt. Verbindliche Fristen aus der gestaffelten Timeline des EU AI Act machen es notwendig, diese Dokumentation bereits jetzt aufzubauen, nicht erst kurz vor den jeweiligen Stichtagen. Mehr zu den Konformitätspflichten und ihrer praktischen Umsetzung lesen Sie in unserem Artikel zu den EU AI Act Transparenz- und Dokumentationspflichten.

3. Menschliche Aufsicht als strukturelle Anforderung

Der EU AI Act schreibt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht vor. Das bedeutet, dass automatisierte Entscheidungen über Mitarbeitende, etwa bei Leistungsbeurteilungen oder der Zuweisung von Aufgaben, durch qualifizierte Personen überprüfbar und anfechtbar sein müssen. Unternehmen müssen entsprechende Prozesse und Verantwortlichkeiten intern verankern. Wie Hochrisiko-KI im Personalmanagement konkret geregelt ist, lesen Sie in unserem Beitrag zum EU AI Act in Rekrutierung und Personalmanagement.

4. Sanktionen bei Verstößen und Vorbereitung auf Fristen

Verstöße gegen die Anforderungen des EU AI Act können mit erheblichen Bußgeldern geahndet werden. Da erste Abschnitte der Verordnung seit Februar 2025 greifen, besteht für Betreiber kein Spielraum mehr für ein abwartendes Vorgehen. Unternehmen sollten ihre eingesetzten Systeme inventarisieren, klassifizieren und die jeweiligen Pflichten anhand der Risikoklasse bestimmen. Eine strukturierte Übersicht zur Einhaltung der gestaffelten Fristen bietet unser Artikel zur EU AI Act Compliance-Roadmap. Für KMU, die die Compliance-Kosten im Blick behalten wollen, sind zudem die Konformitätskosten für den Mittelstand relevant.

Quellen

• EU AI Act – EU beschließt KI-Etikette (Fraunhofer Safe Intelligence)
• KI rechtssicher einsetzen – Teil 1: EU AI Act (heise shop)
• EU AI Act: Neue Regeln für den Einsatz von KI verstehen und umsetzen (heise.de)

Häufige Fragen

Gilt der EU AI Act auch für Unternehmen, die KI-Systeme zur Mitarbeiterüberwachung lediglich nutzen, aber nicht selbst entwickeln?

Ja. Der EU AI Act betrifft ausdrücklich alle Unternehmen, die KI-Systeme entwickeln, vertreiben oder nutzen. Als Betreiber eines KI-Systems zur Leistungsbewertung oder Verhaltensüberwachung tragen Sie eigene gesetzliche Pflichten, unabhängig davon, ob Sie die Technologie selbst entwickelt haben.

Welcher Risikokategorie werden KI-Systeme zur Arbeitnehmerüberwachung typischerweise zugeordnet?

KI-Anwendungen im Personalbereich, etwa zur Bewerberauswahl oder Leistungsbewertung, fallen unter die Kategorie der Hochrisiko-KI-Systeme. Für diese Kategorie sieht der EU AI Act strenge Auflagen vor: Betreiber müssen unter anderem ein Risikomanagement einrichten, technische Dokumentation vorhalten und eine menschliche Aufsicht sicherstellen.

Welche konkreten Transparenzpflichten gelten für Betreiber von KI-Systemen im HR-Bereich?

Betreiber von Hochrisiko-KI-Systemen im Personalwesen sind verpflichtet, Mitarbeitende und betroffene Personen über den Einsatz solcher Systeme zu informieren. Hinzu kommen Pflichten zur technischen Dokumentation und zur Durchführung von Schulungsmaßnahmen für das eingesetzte Personal. Ziel ist es, Nachvollziehbarkeit und menschliche Kontrolle über automatisierte Entscheidungsprozesse zu gewährleisten.

Ab wann müssen Unternehmen die Anforderungen des EU AI Act erfüllen?

Die Regelungen des EU AI Act treten zeitversetzt in Kraft. Erste Abschnitte gelten bereits seit Februar 2025. Unternehmen sollten sich deshalb bereits jetzt mit den für sie relevanten Anforderungen befassen und ihre internen Prozesse entsprechend anpassen, um Verstöße und die damit verbundenen Sanktionen zu vermeiden.

Welche Sanktionen drohen Betreibern bei Verstößen gegen den EU AI Act?

Der EU AI Act sieht bei Verstößen gegen seine Vorgaben empfindliche Sanktionen vor. Die genaue Höhe richtet sich nach der Art des Verstoßes und der Risikokategorie des eingesetzten Systems. Für Hochrisiko-KI-Systeme, zu denen viele HR-Anwendungen zählen, sind die Bußgeldrahmen besonders hoch angesetzt. Eine frühzeitige Compliance-Prüfung ist daher für Betreiber wirtschaftlich geboten.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.