Due atti normativi, le norme ADS della California e l’AI Act del Colorado, attribuiscono ora ai team delle risorse umane, e non solo ai loro fornitori, la responsabilità legale per eventuali pregiudizi presenti negli strumenti di selezione del personale basati sull’intelligenza artificiale. Un audit sui pregiudizi è un processo strutturato volto a verificare se il proprio percorso di valutazione produca risultati diversi a seconda dei gruppi demografici. Ciò comporta mappare ogni punto di contatto con l’IA, richiedere ai fornitori i dati relativi all’impatto negativo, eseguire autonomamente il calcolo della regola dei 4/5, verificare la presenza di discriminazione indiretta e documentare i risultati in un formato comprensibile alle autorità di regolamentazione. 

Che cos’è un audit di imparzialità nel processo di assunzione?

Un audit di parzialità è un’analisi strutturata e documentata volta a verificare se uno strumento o un processo di valutazione produca risultati sistematicamente diversi per le persone appartenenti a gruppi tutelati dalla legge, quali genere, razza ed etnia, età, origine nazionale e condizione di disabilità. Non si tratta di una dichiarazione di valori. Non è un’iniziativa a favore della diversità. È un esercizio di misurazione con un risultato specifico: la prova che le vostre procedure di selezione trattano i candidati in modo equo, oppure una chiara documentazione dei casi in cui ciò non avviene e delle misure adottate per porvi rimedio.

Il concetto affonda le sue radici nella psicologia dell’I/O. Le “Linee guida uniformi sulle procedure di selezione del personale”, in vigore dal 1978, impongono ai datori di lavoro di valutare qualsiasi procedura di selezione che provochi un impatto negativo, ovvero un danno sproporzionato a un gruppo protetto. Ciò che è cambiato di recente è chi viene esplicitamente indicato come responsabile. Storicamente, la questione della responsabilità ricadeva spesso sui fornitori. Ora, invece, i team delle risorse umane rientrano direttamente nell’ambito di applicazione della nuova legislazione statale.

Gli audit sui pregiudizi sono distinti da ciò che i fornitori offrono solitamente. Un manuale tecnico del fornitore non è un audit sui pregiudizi. Una dichiarazione sulla diversità non è un audit sui pregiudizi. Una revisione una tantum condotta da una terza parte prima che la vostra organizzazione iniziasse a utilizzare uno strumento non è un audit sui pregiudizi. Un audit sui pregiudizi è un processo ricorrente e documentato, applicato alla vostra specifica implementazione, con la vostra popolazione di candidati, nel vostro contesto di assunzione.

Le linee guida del 2023 dell’EEOC in materia di assistenza tecnica sull’intelligenza artificiale nella selezione del personale hanno confermato che la Commissione applica agli strumenti algoritmici lo stesso quadro giuridico previsto per qualsiasi altra procedura di selezione. Se uno strumento produce un impatto negativo, la responsabilità ricade sul datore di lavoro che lo utilizza, indipendentemente da chi lo abbia sviluppato.

Perché è una questione urgente proprio in questo momento

Due leggi hanno colmato il divario tra la “responsabilità del venditore” e la “tua responsabilità”.

Normativa californiana in materia di ADS (in vigore dal 1° ottobre 2025)

Le norme del California Civil Rights Council, emanate ai sensi del Fair Employment and Housing Act, definiscono ora un “sistema decisionale automatizzato” come qualsiasi processo computazionale che prenda o contribuisca a prendere decisioni in materia di occupazione, quali la selezione dei curriculum, la valutazione dei colloqui, la classificazione dei candidati e l’assegnazione a programmi di formazione. Le norme si applicano ai datori di lavoro con cinque o più dipendenti in California. È fondamentale sottolineare che si applicano alla condotta del datore di lavoro, non solo ai prodotti dei fornitori. Se il vostro sistema produce risultati discriminatori, l’onere di dimostrare il contrario ricade su di voi.

Una serie parallela di norme californiane ai sensi del CCPA, finalizzate dalla California Privacy Protection Agency alla fine del 2025, introduce l’obbligo di valutazione dei rischi (ADMT) per qualsiasi “decisione significativa” riguardante i consumatori, comprese le decisioni in materia di occupazione. Termine di adeguamento: 1° gennaio 2027. Tale tempistica sembra ragionevole finché non si calcola il tempo effettivamente necessario per redigere una documentazione adeguata.

I documenti relativi all’ADS devono ora essere conservati per quattro anni, anziché due. È importante sottolineare che i datori di lavoro che non effettuano alcun test potrebbero vedersi contestare tale omissione in sede di contenzioso.

Legge sull'intelligenza artificiale del Colorado (SB 24-205, in vigore dal 30 giugno 2026)

La legge sull’IA del Colorado è la prima normativa statale completa a stabilire obblighi giuridici espliciti sia per gli sviluppatori che per gli utenti di sistemi di IA ad alto rischio nel contesto di decisioni con conseguenze significative. Il settore del lavoro rientra tra le categorie interessate. La legge stabilisce l’obbligo di evitare la discriminazione algoritmica, richiede valutazioni d’impatto e impone la divulgazione delle informazioni quando l’IA viene utilizzata in una decisione lavorativa di grande rilevanza. Alla fine di aprile 2026, un tribunale federale ha emesso una sospensione che blocca l’applicazione della legge mentre il contenzioso è in corso, ma, come sottolineano gli avvocati specializzati in diritto del lavoro, il quadro normativo di base rimane intatto e l’applicazione potrebbe riprendere in qualsiasi momento. Le organizzazioni che intendono operare in Colorado non hanno alcun motivo valido per non continuare a sviluppare la propria infrastruttura di conformità.

Nel loro insieme, questi due regimi indicano la direzione che sta prendendo la legislazione statunitense in materia di lavoro. Le organizzazioni che stanno sviluppando fin da ora le proprie capacità di audit sono all’avanguardia. Chi invece aspetta una versione definitiva e stabile di ogni normativa sta scommettendo che l’onere documentale aumenterà più rapidamente della propria preparazione.

‍

Cosa fare se il proprio fornitore non è in grado di fornire i dati

Alcuni fornitori rifiuteranno la richiesta. Altri forniranno dati tecnicamente pertinenti ma analiticamente inutili. Esempi comuni sono le statistiche aggregate che nascondono le variazioni a livello di fase, oppure campioni di dimensioni troppo ridotte per consentire un’interpretazione significativa. Alcuni vi invieranno un PDF pieno di frasi rassicuranti ma privo di dati concreti.

Ecco cosa fare.

• Inoltra la richiesta per iscritto. Una richiesta formale scritta lascia traccia documentale. Inoltre, dimostra che stai trattando la questione come un problema di conformità, non come una semplice preferenza.
• Esaminate il contratto. La normativa californiana impone ai datori di lavoro obblighi espliciti in materia di gestione dei fornitori. Se il vostro contratto non include clausole di collaborazione in caso di verifiche, è opportuno che il prossimo rinnovo le preveda. Gli studi legali specializzati in diritto del lavoro e nella conformità alle norme sull’IA mettono a disposizione clausole tipo.
• Esegui tutte le analisi possibili sui tuoi dati. Anche se non sei in grado di verificare il funzionamento interno del modello, puoi comunque verificare i risultati. Se disponi di dati demografici sui candidati, puoi calcolare i tassi di selezione per gruppo, indipendentemente dalla collaborazione del fornitore. L’analisi dei risultati costituisce una prova di audit valida, anche se non fornisce alcuna spiegazione sul motivo per cui lo strumento si comporti in quel modo.
• Considerate il rifiuto come un segnale di rischio. Un fornitore che non è in grado o non intende fornire dati sugli impatti negativi suddivisi per gruppi demografici è un fornitore di cui non potete rendere pienamente conto nell’ambito del nuovo regime normativo. Si tratta di una questione che riguarda gli appalti e la gestione del rischio, non solo la conformità. Tenetene conto nelle decisioni relative al rinnovo.
• Valuta la possibilità di sostituire lo strumento. Può sembrare una misura drastica, ma è meno drastica che dover difendersi da un’accusa di impatto discriminatorio senza alcuna documentazione e con un fornitore che non risponde più alle tue richieste di dati.

Cosa distingue Deeper Signals dagli altri

Le valutazioni di Deeper Signals, ovvero le analisi diagnostichedei “Core Drivers” e dei “Core Values”dell’ , vengono sottoposte a test di impatto negativo nell’ambito del loro processo di validazione standard. Il database normativo comprende oltre 90.000 individui. Tutti i modelli superano i test di impatto negativo in base a genere, età ed etnia, con la metodologia completa documentata nei manuali tecnici.

Questo aspetto è importante per i team delle risorse umane che conducono verifiche sui pregiudizi. Anziché basarsi su un impegno generico a garantire l’equità, è possibile fare riferimento a un risultato documentato e quantificato che dimostri che questi strumenti non producono differenze sistematiche nei risultati tra i vari gruppi.

I documenti contengono prove esplicite degli effetti negativi, oltre a dati relativi all’affidabilità e alla validità. È proprio così che dovrebbe presentarsi la risposta di un fornitore a una richiesta di dati relativi alla parzialità. Se state valutando i fornitori di strumenti di valutazione nell’ambito del nuovo quadro normativo, questo rappresenta un utile punto di riferimento per capire quali siano i requisiti effettivi di una documentazione adeguata.

Consulta i documenti di sintesi scientifica di Deeper Signals per comprendere l'approccio di validazione nella sua interezza.

Domande frequenti

1. Che cos’è la regola dei quattro quinti? 

La regola dei quattro quinti (o dell’80%) è uno standard dell’EEOC risalente al 1978, ancora oggi utilizzato come principale criterio di valutazione preliminare per individuare eventuali impatti negativi. Se il tasso di selezione di un qualsiasi gruppo demografico scende al di sotto dell’80% del tasso di selezione del gruppo con il tasso di superamento più elevato, ciò viene segnalato come potenziale indicazione di un impatto negativo. Si tratta di una soglia iniziale per l’avvio di un’indagine, non di una clausola di salvaguardia legale.

2. In che modo un audit di imparzialità si differenzia dal servizio offerto dal mio fornitore? 

Il manuale tecnico di un fornitore descrive le prestazioni del suo strumento su un campione generico o specifico. La vostra verifica della parzialità si applica alla vostra popolazione di candidati, al vostro contesto di assunzione e alla vostra implementazione dello strumento. L’EEOC e le autorità di regolamentazione statali sono interessate a come il vostro strumento agisce sui vostri candidati, non a come ha agito nello studio di validazione del fornitore.

3. Quali fattori determinano il rischio di discriminazione indiretta? 

Il codice postale, l’anno di laurea, il nome dell’istituto scolastico, le interruzioni lavorative, la distanza percorsa per recarsi al lavoro e determinati modelli linguistici sono stati tutti identificati, nell’ambito della ricerca e dei procedimenti giudiziari, come potenziali indicatori di caratteristiche protette quali la razza, l’età e il genere. Qualsiasi dato che sia correlato all’appartenenza a un gruppo demografico, anche indirettamente, deve essere sottoposto a verifica.

4. Quali documenti devo conservare? 

Ai sensi delle normative ADS della California, la documentazione relativa all’ADS deve essere conservata per quattro anni. Ai sensi dell’AI Act del Colorado, i soggetti che effettuano l’implementazione devono conservare le valutazioni d’impatto completate per tre anni dopo l’implementazione definitiva. I documenti da conservare includono: l’inventario degli strumenti, le richieste di dati ai fornitori e le relative risposte, i propri calcoli relativi agli impatti negativi, le revisioni dei proxy e qualsiasi azione intrapresa sulla base dei risultati.

5. Cosa succede se il mio fornitore si rifiuta di fornire i dati demografici relativi alla percentuale di superamento degli esami? 

Inoltrate la richiesta per iscritto, esaminate il vostro contratto alla ricerca di clausole relative alla collaborazione in materia di audit ed effettuate una vostra analisi a livello di risultati utilizzando i dati demografici dei candidati in vostro possesso. Il rifiuto da parte di un fornitore di fornire dati relativi all’impatto negativo costituisce di per sé un indicatore di rischio. Ciò potrebbe influire sulle decisioni relative al rinnovo o alla sostituzione del fornitore.

6. Qual è il ruolo di Deeper Signals in questo processo? 

Le valutazioni della personalità e dei valori di Deeper Signals sono progettate per essere utilizzate nella fase di valutazione del processo di selezione. Poiché i modelli su cui si basano superano i test di impatto negativo su tutti i gruppi demografici, i team delle risorse umane possono utilizzarli con prove documentate di equità e fare riferimento a tali prove nei fascicoli di audit, nelle revisioni dei fornitori e nelle richieste di informazioni da parte delle autorità di regolamentazione. La piattaforma Deeper Signals supporta inoltre un sistema di punteggio strutturato e la documentazione dei risultati, che confluiscono direttamente nei registri di audit.