Regolamento UE sull'IA per le risorse umane e il reclutamento: conformità per l'AI di assunzione

Quale AI delle risorse umane è ad alto rischio

L'Allegato III punto 4 copre la gestione dei lavoratori e del personale in due parti:

• Punto 4(a) — reclutamento e selezione. L'IA utilizzata per collocare annunci di lavoro mirati, filtrare o selezionare le domande e valutare i candidati nel corso degli colloqui o dei test è ad alto rischio.
• Punto 4(b) — il rapporto di lavoro. L'IA utilizzata per prendere o influenzare in modo sostanziale le decisioni di promozione e licenziamento, per allocare compiti in base al comportamento o alle caratteristiche personali e per monitorare e valutare le prestazioni e il comportamento è ad alto rischio.
• Ampiezza. Questa è una delle categorie più chiaramente elencate nell'Allegato III — parser di CV, strumenti di analisi degli colloqui, allocatori di compiti per lavori a tempo determinato e sistemi di valutazione delle prestazioni sono tutti in scope.

La classificazione non dipende dal fatto che un umano prenda la decisione finale — uno strumento che influenza in modo sostanziale una decisione di assunzione o licenziamento è comunque ad alto rischio.

Interazione: consultazione dei lavoratori, legge 144 di New York e EEOC

L'AI di assunzione si trova all'intersezione del Regolamento sull'IA, della legge del lavoro UE e — per le operazioni negli Stati Uniti — delle regole di audit dei pregiudizi.

• Informazione e consultazione dei lavoratori. Prima di distribuire un sistema ad alto rischio sul posto di lavoro, i deployer che sono datori di lavoro devono informare i lavoratori interessati e i loro rappresentanti (Articolo 26(7)), e si applicano i doveri di consultazione della legge del lavoro nazionale e del consiglio dei lavoratori in aggiunta.
• Legge 144 di New York. Le società statunitensi che utilizzano strumenti di decisione automatizzati per i candidati o i dipendenti nella città di New York devono commissionare un audit annuale indipendente dei pregiudizi e pubblicare un riassunto — un obbligo distinto che si esegue in parallelo con il Regolamento sull'IA.
• EEOC e legge antidiscriminatoria statunitense. Il Titolo VII, l'ADA e le linee guida dell'EEOC sugli strumenti algoritmici significano che un sistema di screening può essere legale secondo un regime e comunque esporre il datore di lavoro secondo un altro — una traccia di audit consapevole dei pregiudizi aiuta a rispondere a entrambi.

Eseguire un unico programma di governance che soddisfi la regola applicabile più severa piuttosto che una corsa separata per giurisdizione.

Obblighi fondamentali per l'AI di assunzione

Per un sistema di occupazione ad alto rischio, i doveri rivolti ai deployer sono i più importanti:

• Articolo 14 — supervisione umana. Una persona deve essere in grado di esaminare, annullare e ignorare il ranking o la raccomandazione dell'IA; la decisione di assunzione non può essere effettivamente automatizzata.
• Articolo 13 — trasparenza per i deployer. Il fornitore deve dare ai team delle risorse umane informazioni sufficienti per interpretare l'output dello strumento, comprenderne i limiti e utilizzarlo correttamente.
• Articolo 10 — governance dei dati. I dati di formazione e valutazione devono essere esaminati per i pregiudizi in modo che lo strumento non codifichi la discriminazione contro i gruppi protetti.
• Articolo 12 — registrazione. Registrazioni automatiche consentono di ricostruire il motivo per cui un candidato è stato selezionato — la prova che un audit dei pregiudizi o una richiesta di discriminazione richiederà.