EU-KI-Verordnung für Personalwesen & Rekrutierung: Einstellungs-KI-Konformität

Welche Personal-KI gilt als KI mit hohem Risiko

Anhang III Punkt 4 deckt Personalwesen und Arbeitsverhältnisse in zwei Teilen ab:

• Punkt 4(a) — Rekrutierung und Auswahl. KI, die zur gezielten Platzierung von Stellenanzeigen, zur Filterung oder Überprüfung von Bewerbungen und zur Bewertung von Kandidaten im Rahmen von Vorstellungsgesprächen oder Tests verwendet wird, gilt als KI mit hohem Risiko.
• Punkt 4(b) — das Arbeitsverhältnis. KI, die zur Entscheidung über Beförderungen und Entlassungen, zur Aufgabenverteilung auf der Grundlage von Verhalten oder persönlichen Merkmalen und zur Überwachung und Bewertung von Leistung und Verhalten verwendet wird, gilt als KI mit hohem Risiko.
• Umfang. Dies ist eine der am klarsten aufgeführten Kategorien in Anhang III — Lebenslaufparser, Vorstellungsgesprächsanalyse-Tools, Gig-Work-Aufgabenverteilungs-Systeme und Leistungsbewertungssysteme fallen alle in den Umfang.

Die Klassifizierung hängt nicht davon ab, ob ein Mensch die endgültige Entscheidung trifft — ein Tool, das eine Einstellungs- oder Entlassungsentscheidung maßgeblich beeinflusst, gilt immer noch als KI mit hohem Risiko.

Interaktion: Arbeitnehmerinformation, NYC LL144 und die EEOC

Einstellungs-KI steht an der Schnittstelle zwischen der KI-Verordnung, EU-Arbeitsrecht und — für US-Betriebe — Voreingenommenheitsprüfungsregeln.

• Arbeitnehmerinformation und -beratung. Bevor ein Arbeitgeber ein KI-System mit hohem Risiko einsetzt, muss er die betroffenen Arbeitnehmer und ihre Vertreter informieren (Artikel 26(7)), und nationales Arbeitsrecht und Betriebsratsberatungspflichten gelten zusätzlich.
• NYC Local Law 144. US-Unternehmen, die automatisierte Einstellungsentscheidungstools für Bewerber oder Arbeitnehmer in New York City verwenden, müssen eine unabhängige jährliche Voreingenommenheitsprüfung durchführen und eine Zusammenfassung veröffentlichen — eine separate Verpflichtung, die parallel zur KI-Verordnung läuft.
• EEOC und US-Antidiskriminierungsrecht. Title VII, die ADA und die EEOC-Richtlinien zu algorithmischen Tools bedeuten, dass ein Screening-System unter einem Regime rechtmäßig sein kann, während es den Arbeitgeber unter einem anderen Regime aussetzt — eine einzelne voreingenommenheitsbewusste Audit-Spur hilft Ihnen, auf beide zu antworten.

Führen Sie ein Governance-Programm durch, das die strengsten anwendbaren Regeln erfüllt, anstatt ein separates Programm pro Rechtsordnung durchzuführen.

Kernverpflichtungen für Einstellungs-KI

Für ein Einstellungs-KI-System mit hohem Risiko sind die Verpflichtungen gegenüber den Anbietern am wichtigsten:

• Artikel 14 — menschliche Aufsicht. Eine Person muss in der Lage sein, die Ausgabe der KI zu überprüfen, zu übergehen und zu ignorieren; die Einstellungsentscheidung kann nicht effektiv automatisiert werden.
• Artikel 13 — Transparenz gegenüber Anbietern. Der Anbieter muss den Personalabteilungen genügend Informationen geben, um die Ausgabe des Tools zu interpretieren, seine Einschränkungen zu verstehen und es richtig zu verwenden.
• Artikel 10 — Datenverwaltung. Trainings- und Evaluierungsdaten müssen auf Voreingenommenheit geprüft werden, damit das Tool keine Diskriminierung gegenüber geschützten Gruppen kodiert.
• Artikel 12 — Protokollierung. Automatische Aufzeichnungen lassen es zu, zu rekonstruieren, warum ein Bewerber ausgeschieden wurde — die Beweise, die eine Voreingenommenheitsprüfung oder ein Diskriminierungsanspruch verlangen.