Der EU AI Act stuft KI-Systeme zur Bewerberauswahl und Leistungsbewertung als Hochrisiko-KI ein. Der AI Omnibus vom Mai 2025 ändert daran nichts: Strenge Pflichten für Anbieter und Betreiber bleiben bestehen. Unternehmen, die KI im Recruiting einsetzen, unterliegen umfassenden Pflichten: Risikomanagement, technische Dokumentation, Schulungsmaßnahmen und menschliche Aufsicht sind verpflichtend. Verstöße können empfindliche Sanktionen nach sich ziehen. Obwohl der AI Omnibus Fristen verschiebt und Doppelregulierung in Teilen reduziert, bleiben die Kernanforderungen für Hochrisiko-KI im HR-Bereich unangetastet. Recruiter und HR-Entscheider müssen Audit-Standards und Diskriminierungsrisiken aktiv adressieren.

EU AI Act: Hochrisiko-KI in der Personalauswahl – Audit-Standards und Diskriminierungsrisiken für Recruiter 2025

Der EU AI Act stuft KI-Systeme zur Bewerberauswahl und Leistungsbewertung explizit als Hochrisiko-KI ein. Für Unternehmen, die solche Systeme einsetzen, gelten damit bereits heute weitreichende Pflichten – und mit dem sogenannten AI Omnibus, auf den sich die EU-Institutionen im Mai 2025 geeinigt haben, verschiebt sich zwar die Zeitschiene, nicht aber das grundlegende Anforderungsprofil.

Was die Hochrisiko-Einstufung im Recruiting konkret bedeutet

Der EU AI Act unterscheidet KI-Systeme nach ihrem Risikopotenzial. Systeme, die bei der Personalauswahl, beim Screening von Bewerbungen oder bei der Leistungsbewertung von Beschäftigten eingesetzt werden, fallen laut der Verordnung in die Kategorie Hochrisiko-KI. Diese Einordnung bleibt auch nach dem AI Omnibus unverändert bestehen.

Für Recruiter und HR-Entscheider bedeutet das: Wer entsprechende Systeme betreibt oder einsetzt, tritt als sogenannter Betreiber im Sinne des AI Acts auf und ist an umfangreiche Pflichten gebunden. Diese umfassen laut den verfügbaren Quellen unter anderem:

• Risikomanagement: Betreiber müssen ein systematisches Risikomanagement für das eingesetzte KI-System einrichten und dokumentieren.
• Technische Dokumentation: Der Einsatz des Systems, seine Grenzen und seine Entscheidungsgrundlagen müssen nachvollziehbar dokumentiert sein.
• Menschliche Aufsicht: Hochrisiko-KI-Systeme dürfen nicht autonom über Bewerbungen entscheiden. Eine qualifizierte menschliche Kontrolle ist verpflichtend.
• Schulungsmaßnahmen: Personal, das Hochrisiko-KI-Systeme bedient oder überwacht, muss entsprechend geschult sein.

Für Anbieter solcher Systeme kommen zusätzliche Anforderungen hinzu, darunter Konformitätsbewertungsverfahren und die Registrierung in einer EU-Datenbank. Mehr zu den Konformitätsbewertungsanforderungen finden Sie unter EU AI Act: Konformitätsbewertung und Auditpflichten für GPAI-Anbieter.

Diskriminierungsrisiken: Warum Bias-Prüfung keine Option ist

Ein zentrales Problemfeld beim Einsatz von KI in der Personalauswahl ist das Risiko algorithmischer Diskriminierung. Trainingsdaten, die historische Einstellungsentscheidungen abbilden, können bestehende Muster reproduzieren und verstärken. Der EU AI Act trägt diesem Risiko Rechnung, indem er für Hochrisiko-KI-Systeme ausdrücklich Anforderungen an Datenqualität, Repräsentativität der Trainingsdaten und Testverfahren stellt.

Recruiter sollten beachten: Ein System, das rechtlich beschafft wurde, kann dennoch zu diskriminierenden Ergebnissen führen, wenn es nicht regelmäßig auf Fairness und Bias geprüft wird. Die Verantwortung für den ordnungsgemäßen Einsatz liegt beim Betreiber, nicht allein beim Anbieter. Einen Überblick über aktuelle Fairness- und Sicherheitsbenchmarks für KI-Systeme bietet die Analyse unter AI Index 2025: LLM-Sicherheit, Fairness und Datenschutz-Benchmarks.

Was der AI Omnibus ändert – und was er nicht ändert

Der AI Omnibus, auf den sich die EU-Institutionen im Mai 2025 geeinigt haben, bringt laut t3n einige Erleichterungen: Fristen werden verschoben, in ausgewählten Bereichen wird Doppelregulierung reduziert. Für den Bereich Hochrisiko-KI im HR-Bereich bleibt die Rechtslage jedoch im Wesentlichen bestehen. Die Definition des KI-Systems wurde nicht geändert, ebenso wenig die zentralen Verpflichtungen für Betreiber von Hochrisiko-Systemen.

Die Verschiebung von Fristen gibt Unternehmen zusätzliche Zeit für die Implementierung von Compliance-Strukturen. Sie entbindet sie jedoch nicht von der Pflicht, sich jetzt mit den Anforderungen auseinanderzusetzen. Einen strukturierten Überblick über die Compliance-Roadmap des AI Acts bietet EU AI Act: Compliance-Roadmap, Fristen und Phasen bis 2026.

4 praktische Implikationen für Recruiter und HR-Entscheider

1. Bestandsaufnahme jetzt, nicht nach der Fristverschiebung Unternehmen sollten bereits heute prüfen, welche KI-gestützten Tools im Recruiting eingesetzt werden und ob diese unter die Hochrisiko-Kategorie fallen. Die Fristen des AI Acts sind gestaffelt, die Grundanforderungen gelten früher als viele annehmen. Details zu den Hochrisiko-Pflichten im Recruiting finden Sie unter EU AI Act: Hochrisiko-KI in Rekrutierung und Personalmanagement.

2. Menschliche Aufsicht strukturell verankern Die Pflicht zur menschlichen Aufsicht ist keine formale Checkbox. Sie erfordert, dass Entscheidungen auf Basis von KI-Empfehlungen durch geschulte Personen nachvollzogen und hinterfragt werden können. Automatisierte Ablehnungen ohne menschliche Prüfung sind unter dem AI Act nicht zulässig.

3. Transparenzpflichten gegenüber Bewerbern beachten Der AI Act enthält Transparenzanforderungen, die auch gegenüber den von KI-Entscheidungen betroffenen Personen wirken. Bewerber haben ein Recht darauf zu erfahren, dass und wie KI im Auswahlprozess eingesetzt wird. Diese Pflichten überschneiden sich mit den Vorgaben der DSGVO. Einen Überblick zu den Datenschutzanforderungen gibt DSGVO und LLMs: Auftragsverarbeitung und Compliance.

4. Vertragliche Verantwortung mit Anbietern klären Wer eine HR-Software oder ein KI-gestütztes Bewerbermanagement-Tool eines Drittanbieters nutzt, muss die Rollenverteilung zwischen Anbieter und Betreiber klar vertraglich regeln. Nur weil ein Anbieter Konformität zusichert, sind Betreiberpflichten nicht automatisch erfüllt. Einen Vergleich führender HR-KI-Plattformen bietet Workday HCM vs. SAP SuccessFactors: KI in Talent Acquisition 2025.

Quellen

• Verschobene Fristen, neue Verbote: Die 5 wichtigsten Änderungen des AI Omnibus – t3n
• KI rechtssicher einsetzen – Teil 1: EU AI Act | heise shop

Häufige Fragen

Warum gilt KI im Recruiting laut EU AI Act als Hochrisiko-KI?

Der EU AI Act stuft KI-Systeme, die bei der Bewerberauswahl oder Leistungsbewertung eingesetzt werden, als Hochrisiko-KI ein. Der Grund: Solche Systeme treffen oder beeinflussen Entscheidungen, die erhebliche Auswirkungen auf die berufliche Laufbahn von Personen haben können. Diese Einstufung bleibt auch nach den Änderungen durch den sogenannten AI Omnibus, auf den sich die EU-Institutionen im Mai 2025 geeinigt haben, unverändert bestehen.

Welche konkreten Pflichten haben Unternehmen beim Einsatz von Hochrisiko-KI im HR-Bereich?

Unternehmen, die Hochrisiko-KI-Systeme im Personalwesen betreiben, müssen laut EU AI Act unter anderem ein Risikomanagementsystem einrichten, eine technische Dokumentation vorhalten, Mitarbeitende schulen und eine menschliche Aufsicht über die KI-gestützten Entscheidungen sicherstellen. Diese Pflichten gelten sowohl für Anbieter als auch für Betreiber solcher Systeme.

Welche Diskriminierungsrisiken müssen Recruiter beim KI-Einsatz im Blick behalten?

Da KI-Systeme in der Bewerberauswahl als Hochrisiko eingestuft sind, müssen Unternehmen sicherstellen, dass diese Systeme keine unzulässigen Benachteiligungen erzeugen. Das Risikomanagementsystem nach EU AI Act muss solche Risiken systematisch erfassen und minimieren. Die menschliche Aufsichtspflicht soll zusätzlich gewährleisten, dass automatisierte Empfehlungen nicht unkritisch übernommen werden.

Was ändert der AI Omnibus 2025 für Unternehmen, die KI im Recruiting einsetzen?

Der AI Omnibus, auf den sich die EU-Institutionen im Mai 2025 geeinigt haben, verschafft Unternehmen mehr Zeit bei der Umsetzung bestimmter Anforderungen und reduziert in einigen Bereichen Doppelregulierung. An den strengen Regelungen für Hochrisiko-KI im HR-Bereich ändert sich jedoch nichts Wesentliches. KI in der Personalauswahl bleibt weiterhin als Hochrisiko eingestuft, und die damit verbundenen Pflichten bleiben bestehen.

Welche Sanktionen drohen bei Verstößen gegen die Hochrisiko-KI-Vorschriften im Recruiting?

Der EU AI Act sieht bei Verstößen gegen die Vorgaben für Hochrisiko-KI-Systeme empfindliche Sanktionen vor. Die genaue Höhe der Bußgelder ist gestaffelt und richtet sich nach der Art des Verstoßes sowie der Unternehmensgröße. Unternehmen, die KI im HR-Bereich einsetzen, sollten daher frühzeitig prüfen, ob ihre Systeme die Anforderungen an Dokumentation, Risikomanagement und menschliche Aufsicht erfüllen, um Haftungsrisiken zu minimieren.

Dieser Artikel wurde von einem KI-System automatisiert erstellt. Kennzeichnung gemäß Art. 50 der EU-KI-Verordnung.