Der EU AI Act stuft KI-Systeme in der Personalauswahl als Hochrisiko-Anwendungen ein. Nur 13 Prozent der deutschen Unternehmen setzen bislang KI ein, obwohl 82 Prozent ihr große Bedeutung für die Wettbewerbsfähigkeit beimessen (Bitkom-Präsident Dr. Ralf Wintergerst, Fraunhofer). Seit Februar 2025 greifen erste Abschnitte des EU AI Act verbindlich. Für HR-Systeme bedeutet das konkret: Wer KI in Bewerbungsverfahren einsetzt, unterliegt strengen Auflagen zu Risikoprüfung, Transparenz und Diskriminierungsschutz. Zum 2. August 2026 treten weitere Transparenzpflichten in Kraft, darunter die Kennzeichnung KI-generierter Inhalte und der Nachweis von KI-Kompetenz aller Mitarbeitenden. Verstöße riskieren empfindliche Bußgelder.

EU AI Act: Hochrisiko-KI in der Personalauswahl – Was HR-Verantwortliche jetzt wissen müssen

KI-Systeme, die in der Personalauswahl, im Recruiting oder im Bewerbermanagement eingesetzt werden, fallen unter die Hochrisiko-Kategorie des EU AI Act. Für Unternehmen bedeutet das: Audit-Pflichten, strenge Transparenzanforderungen und ein klares Diskriminierungsverbot greifen bereits jetzt stufenweise.

Risikobasierter Ansatz trifft HR besonders hart

Der EU AI Act folgt einem risikobasierten Ansatz, der KI-Systeme nach ihrem potenziellen Schadenpotenzial kategorisiert. KI-Anwendungen im Bereich Bildung, Beschäftigung und Personalmanagement werden dabei explizit als Hochrisiko eingestuft. Das betrifft Systeme zur automatisierten Vorauswahl von Bewerbern, zur Leistungsbewertung, zur Kündigung oder zur Beförderungsentscheidung.

Für diese Systeme gelten strenge Auflagen: Risikomanagementsysteme müssen eingerichtet, technische Dokumentationen erstellt und Konformitätsbewertungen durchgeführt werden. Menschliche Aufsicht ist verpflichtend vorgeschrieben. Wer als Betreiber eines solchen Systems gilt, trägt erhebliche Compliance-Verantwortung, unabhängig davon, ob das System intern entwickelt oder von einem Drittanbieter bezogen wurde.

Mehr zu den allgemeinen Konformitätspflichten lesen Sie in unserem Überblick zu EU AI Act: Risikoklassifizierung und Anforderungen an KI-Systeme.

Transparenzpflichten seit August 2026 verbindlich

Zum 2. August 2026 sind die Transparenzpflichten des EU AI Act verbindlich in Kraft getreten. Unternehmen müssen unter bestimmten Voraussetzungen KI-generierte Inhalte kennzeichnen und den Einsatz automatisierter Systeme im Bewerbungsprozess offenlegen. Wer diese Anforderungen nicht erfüllt, riskiert laut Heise-Analyse erhebliche Bußgelder sowie Abmahnungen durch Mitbewerber.

Zwar wurde mit dem sogenannten Digital Omnibus der Stichtag für Betreiber von Hochrisiko-KI verschoben, die inhaltlichen Anforderungen bleiben jedoch unverändert bestehen. Ebenso gilt weiterhin die Pflicht zur KI-Kompetenz aller Mitarbeiter, die KI-Anwendungen aktiv nutzen. Das schließt HR-Teams ein, die mit automatisierten Bewerbermanagementsystemen arbeiten.

Einen detaillierten Blick auf die Transparenzpflichten gegenüber Arbeitnehmern bietet unser Artikel zu EU AI Act: Transparenzpflichten und KI-Arbeitnehmerüberwachung.

Diskriminierungsverbot als operatives Risiko

Das KI-Gesetz verbietet nicht nur bestimmte Systeme vollständig, etwa solche zur Verhaltensmanipulation oder zum Social Scoring. Es verlangt von Hochrisiko-Systemen auch, dass Verzerrungen und diskriminierende Outputs systematisch erkannt und minimiert werden. Im HR-Kontext heißt das konkret: Wenn ein KI-Modell zur Vorauswahl demografische Gruppen systematisch benachteiligt, liegt eine regulatorische Pflichtverletzung vor, die dokumentiert und behoben werden muss.

Betreiber sind verpflichtet, Maßnahmen zur Bias-Erkennung zu implementieren und entsprechende Nachweise vorzuhalten. Für Unternehmen, die auf Drittlösungen wie spezialisierte HR-Softwareplattformen setzen, bedeutet das: Verträge und Service-Level-Agreements müssen entsprechende Garantien enthalten. Wie führende HR-Systeme wie Workday HCM mit KI-Automatisierung umgehen, beleuchtet unser Bericht zu Workday HCM und generativer KI im Talentmanagement.

Einen Überblick darüber, welche KI-Systeme unter das Hochrisiko-Regime im Recruiting fallen, liefert auch unser Artikel zu Hochrisiko-KI in Rekrutierung und Personalmanagement.

Vier praktische Implikationen für Entscheider

1. Bestandsaufnahme sofort starten: Unternehmen müssen zunächst ermitteln, welche KI-Systeme im HR-Bereich eingesetzt werden und ob diese unter die Hochrisiko-Kategorie fallen. Bereits erste Abschnitte des AI Act greifen seit Februar 2025.

2. Dokumentationspflichten ernst nehmen: Für Hochrisiko-Systeme sind technische Dokumentation, Risikomanagementsysteme und Aufzeichnungen über die Systementwicklung und den Betrieb verpflichtend. Diese Unterlagen müssen auf Anfrage von Aufsichtsbehörden vorgelegt werden können.

3. Interne KI-Kompetenz aufbauen: Die Pflicht zur KI-Kompetenz aller Mitarbeiter, die mit KI-Anwendungen arbeiten, gilt bereits. HR-Teams benötigen strukturierte Weiterbildung zu den Funktionsprinzipien und Risiken der eingesetzten Systeme.

4. Lieferantenverträge prüfen: Wer KI-Lösungen für HR von externen Anbietern bezieht, bleibt als Betreiber in der Pflicht. Verträge müssen klären, wer für Konformitätsbewertungen, Bias-Tests und Dokumentation verantwortlich ist.

Welche Compliance-Kosten auf KMU zukommen, analysiert unser Bericht zu EU AI Act: Konformitätskosten für den Mittelstand.

Wie sich KI-gestützte Personalauswahl auf den ROI im HR auswirkt, zeigt unser Artikel zu KI-ROI im Personalmanagement und Recruiting.

Quellen

• EU AI Act: Neue Regeln für den Einsatz von KI verstehen und umsetzen – heise.de
• EU AI Act – EU beschließt KI-Etikette – Fraunhofer Safe Intelligence
• iX-Webinar: AI Act kompakt – Kennzeichnung, KI-Kompetenz, Hochrisiko-KI – heise.de

Häufige Fragen

Warum gilt KI in der Personalauswahl als Hochrisiko-System unter dem EU AI Act?

Der EU AI Act folgt einem risikobasierten Ansatz und stuft KI-Systeme je nach ihrem Gefährdungspotenzial für Grundrechte ein. KI-Anwendungen im Bereich Bildung und Beschäftigung, zu denen auch die Personalauswahl zählt, fallen in die Kategorie der Hochrisiko-Systeme. Für diese gelten strenge Auflagen, darunter Risikomanagement, Dokumentationspflichten und menschliche Aufsicht, weil fehlerhafte oder diskriminierende Entscheidungen unmittelbar die Grundrechte betroffener Personen beeinträchtigen können.

Welche konkreten Pflichten haben Unternehmen beim Einsatz von Hochrisiko-KI in HR-Prozessen?

Für Hochrisiko-Systeme schreibt der EU AI Act unter anderem Risikomanagementsysteme, technische Dokumentation sowie eine laufende Überwachung des Systemverhaltens vor. Hinzu kommt die Pflicht zur menschlichen Kontrolle, damit automatisierte Entscheidungen in der Personalauswahl nicht unkontrolliert wirken. Außerdem müssen alle Mitarbeitenden, die solche KI-Anwendungen nutzen, nachweislich über KI-Kompetenz verfügen. Diese Anforderung gilt bereits seit Februar 2025.

Ab wann greifen die Transparenz- und Kennzeichnungspflichten des EU AI Act für HR-Systeme?

Die Transparenzpflichten des EU AI Act sind zum 2. August 2026 verbindlich in Kraft getreten. Unternehmen müssen unter bestimmten Voraussetzungen offenlegen, wenn KI-Systeme im Einsatz sind, etwa bei automatisierten Bewerbungsgesprächen über Chatbots oder bei KI-generierten Kommunikationsinhalten. Wer diese Pflichten nicht erfüllt, riskiert erhebliche Bußgelder sowie Abmahnungen durch Mitbewerber. Der ursprüngliche Stichtag für Betreiber von Hochrisiko-KI wurde durch den Digital Omnibus verschoben, die inhaltlichen Anforderungen blieben jedoch unverändert.

Wie schützt der EU AI Act vor diskriminierenden Entscheidungen durch KI in der Personalauswahl?

Der EU AI Act verbietet KI-Systeme mit unannehmbarem Risiko für Grundrechte ausdrücklich, darunter Systeme zur Verhaltensmanipulation oder zum Social Scoring. Bei Hochrisiko-Systemen wie jenen in der Personalauswahl sind Anbieter und Betreiber verpflichtet, Maßnahmen zur Risikominimierung umzusetzen und die Systeme auf mögliche Verzerrungen zu prüfen. Das Ziel der Verordnung ist es laut EU-Kommission ausdrücklich, vertrauenswürdige KI-Systeme zu fördern und dabei die Grundwerte der Gesellschaft zu wahren.

Wie gut sind deutsche Unternehmen auf die Anforderungen des EU AI Act im HR-Bereich vorbereitet?

Nach Einschätzung des Branchenverbands Bitkom setzen erst 13 Prozent der deutschen Unternehmen KI ein, obwohl 82 Prozent ihr eine hohe Bedeutung für die künftige Wettbewerbsfähigkeit beimessen. Diese Lücke zwischen Wahrnehmung und tatsächlicher Umsetzung deutet darauf hin, dass viele Unternehmen auch bei der regulatorischen Vorbereitung noch Nachholbedarf haben. Da erste Abschnitte des AI Act bereits seit Februar 2025 gelten, sollten Verantwortliche im HR-Bereich die Anforderungen an Dokumentation, Audit-Fähigkeit und Mitarbeiterkompetenz jetzt prüfen und umsetzen.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.