Che cos’è il pregiudizio algoritmico nelle assunzioni?
Il pregiudizio algoritmico nelle assunzioni si verifica quando un sistema di intelligenza artificiale utilizzato per selezionare, valutare o classificare i candidati produce risultati sistematicamente diversi per i vari gruppi demografici, in modi che non sono correlati alle effettive capacità rilevanti per il lavoro. In genere non deriva dal fatto che l’algoritmo crei di propria iniziativa un pregiudizio, ma dall’apprendimento di modelli presenti nei dati storici su cui è stato addestrato. Hunkenschroer e Luetge (2022), in una revisione sistematica di 51 articoli sull’etica del reclutamento basato sull’IA, hanno individuato la distorsione algoritmica come un rischio specifico all’interno di un quadro più ampio ed equilibrato che comprende anche opportunità concrete e diverse questioni che la ricerca non ha ancora chiarito.
Da dove proviene realmente il pregiudizio algoritmico
Gli strumenti di reclutamento basati sull'intelligenza artificiale vengono impiegati in diverse fasi del processo di assunzione, tra cui la redazione degli annunci di lavoro, la selezione dei curriculum e l'analisi dei colloqui video tramite l'analisi dei tratti del viso e della voce. In ciascuna di queste fasi, un algoritmo apprende modelli dai dati storici relativi alle persone che in passato sono state assunte, promosse o hanno ottenuto valutazioni elevate.
Se quei dati storici riflettono pregiudizi umani del passato — sia che si tratti di chi è stato intervistato, di chi è stato assunto o di chi ha ricevuto valutazioni di rendimento elevate — un algoritmo addestrato su di essi può apprendere e riprodurre quegli stessi schemi, spesso senza che nessuno dei soggetti coinvolti abbia intenzionalmente voluto quel risultato. Il caso ampiamente riportato di uno strumento interno di selezione dei curriculum che una grande azienda tecnologica ha dismesso nel 2018, dopo aver scoperto che aveva imparato a penalizzare i curriculum contenenti la parola «delle donne», è un esempio ben documentato di questo meccanismo. Lo strumento era stato addestrato su un decennio di modelli di assunzione in un settore dominato dagli uomini e aveva imparato a replicare tale squilibrio anziché correggerlo.
Un rischio emergente: la monocultura algoritmica
Il pregiudizio non deriva solo dai dati di addestramento di un singolo strumento. Può derivare anche dal fatto che molti datori di lavoro si avvalgano dello stesso fornitore, cosicché un unico sistema viziato da pregiudizi influenza i risultati dell’intero mercato. I ricercatori definiscono questo fenomeno “monocultura algoritmica”.
Bommasani, Bana, Creel, Jurafsky e Liang (2026) hanno condotto lo studio più ampio nel suo genere, analizzando 4 milioni di candidature provenienti da 3,4 milioni di candidati reali presso 156 datori di lavoro, tutte vagliate dagli algoritmi di un unico fornitore. Hanno riscontrato evidenti disparità razziali a livello delle singole posizioni lavorative. Quasi il 26 per cento delle candidature presentate da candidati di etnia afroamericana e circa il 15 per cento di quelle presentate da candidati di etnia asiatica riguardavano posizioni in cui lo strumento aveva un impatto negativo sul loro gruppo.
Due risultati sono particolarmente rilevanti per le risorse umane. In primo luogo, le verifiche aggregate di equità possono risultare positive mentre, a livello di singola posizione, sussiste ancora un impatto negativo; pertanto, le verifiche devono essere condotte a quel livello più dettagliato. In secondo luogo, quando molti datori di lavoro si avvalgono dello stesso sistema, alcuni candidati vengono respinti contemporaneamente da tutte le aziende, un fenomeno che i ricercatori descrivono come “rifiuto sistemico”.
Un quadro più completo: opportunità, rischi e ambiguità
Hunkenschroer e Luetge (2022) hanno strutturato la loro revisione sistematica attorno a tre categorie, e il quadro che ne emerge è più sfumato rispetto a una semplice visione in cui l'IA sarebbe o positiva o negativa per l'equità nelle assunzioni.
Tra le opportunità concrete individuate in letteratura figurano la potenziale riduzione di alcune forme di pregiudizio umano, una maggiore coerenza nella valutazione dei candidati, un feedback più rapido per i candidati, un aumento dell’efficienza per le organizzazioni e una maggiore capacità dei reclutatori di concentrarsi su attività di maggior valore. L’intelligenza artificiale, se utilizzata correttamente, non comporta solo rischi. Può anche ridurre l’incoerenza e i pregiudizi inconsapevoli che caratterizzano gran parte del processo decisionale umano nelle assunzioni.
Tra i rischi concreti individuati figurano l’introduzione di pregiudizi algoritmici, la violazione della privacy dei candidati e il conseguente squilibrio di potere tra candidati e datori di lavoro, la mancanza di trasparenza e di spiegabilità nel processo decisionale, l’offuscamento delle responsabilità quando una decisione viene attribuita all’“algoritmo” e la potenziale perdita di un controllo umano significativo nelle decisioni di grande rilevanza.
Tra le vere e proprie ambiguità, ovvero le questioni che la ricerca non ha ancora risolto, figurano l’effettivo impatto del reclutamento basato sull’IA sui risultati in termini di diversità della forza lavoro, le questioni relative al consenso informato e all’uso dei dati personali dei candidati, l’impatto degli strumenti di IA sulla validità e l’accuratezza delle decisioni di assunzione, nonché il modo in cui i candidati percepiscono effettivamente l’equità dei processi basati sull’IA. Hunkenschroer e Luetge (2022) considerano questi aspetti come questioni di ricerca aperte piuttosto che come fatti accertati in un senso o nell’altro.
Perché le ambiguità contano tanto quanto i rischi
Si è tentati di considerare il bias algoritmico come un problema pienamente compreso e ben quantificato. La realtà, però, è più complessa. Hunkenschroer e Luetge (2022) hanno specificatamente individuato l’effetto del reclutamento basato sull’intelligenza artificiale sulla diversità della forza lavoro come una questione ancora irrisolta nella letteratura scientifica, il che significa che lo stesso strumento può plausibilmente ridurre il bias in un determinato contesto e introdurlo in un altro, a seconda esclusivamente dei dati, della progettazione e della supervisione coinvolti.
Ciò ha una diretta implicazione pratica. Le organizzazioni non possono dare per scontato che l’utilizzo dell’IA nel processo di selezione del personale renda automaticamente tale processo più discriminatorio, né possono presumere che lo renda automaticamente più equo. Entrambi gli esiti sono possibili, e il fattore determinante è l’accuratezza con cui lo strumento è stato progettato, addestrato, testato e monitorato, non il fatto che l’IA sia stata utilizzata o meno.
Come ridurre il rischio di distorsione algoritmica
Prima della messa in opera, verificare che i dati utilizzati per l’addestramento del modello non presentino pregiudizi storici. Se un modello viene addestrato sulla base di dati storici relativi alle assunzioni o alle prestazioni, tali dati devono essere esaminati con particolare attenzione per individuare eventuali schemi che riflettano una discriminazione pregressa, senza dare per scontato che siano neutri semplicemente perché risalgono al passato.
Verificare la presenza di impatti negativi sui risultati effettivi dello strumento. Richiedere o condurre analisi degli impatti negativi sui risultati effettivi dello strumento, considerando tutti i gruppi demografici, utilizzando la “regola dei quattro quinti” o standard statistici equivalenti, anziché affidarsi alla garanzia del fornitore che il bias sia stato preso in considerazione in fase di progettazione. Come dimostrano Bommasani et al. (2026), verificare la presenza di impatti negativi posizione per posizione, poiché un risultato complessivo positivo può nascondere disparità all’interno di ruoli specifici.
Garantire un controllo umano significativo sulle decisioni di grande rilevanza. Hunkenschroer e Luetge (2022) sottolineano in particolare che la perdita del controllo umano e l’offuscamento della responsabilità costituiscono rischi concreti. Mantenere un punto di revisione umana e di responsabilità chiaro e documentato risponde direttamente a entrambe queste preoccupazioni.
Esigete trasparenza e spiegabilità da qualsiasi fornitore di IA. Uno strumento la cui logica decisionale non possa essere spiegata o verificata dovrebbe essere considerato con particolare cautela, poiché la mancanza di trasparenza costituisce di per sé uno dei rischi specifici individuati dalla ricerca, indipendentemente dal fatto che alla fine venga rilevata o meno una distorsione misurabile.
Monitorare costantemente i risultati. Il bias algoritmico può emergere o variare nel tempo a misura che cambiano la popolazione di riferimento, i requisiti professionali o la distribuzione dei dati. Una validazione una tantum al momento dell’implementazione non è sufficiente a garantire la conformità nel lungo periodo.
Come Deeper Signals affronta la questione
In Deeper Signals, l’approccio alla questione della parzialità algoritmica parte dal fondare le misurazioni sottostanti su strumenti psicometrici convalidati e trasparenti, anziché su modelli di apprendimento automatico opachi addestrati direttamente su dati comportamentali non strutturati. I test diagnostici “Core Drivers Diagnostic” e “Core Values Diagnostic” vengono sottoposti a verifica per individuare eventuali impatti negativi in base a genere, età ed etnia, con tutti i rapporti documentati e disponibili per la revisione, affrontando direttamente i rischi di trasparenza e responsabilità individuati da Hunkenschroer e Luetge (2022).
Sola, l’assistente di valutazione basato sull’intelligenza artificiale della piattaforma, è dotato di meccanismi di controllo che gli impediscono di prendere decisioni in materia di assunzioni in modo autonomo, e i suoi risultati sono riconducibili a specifici modelli di valutazione convalidati, anziché funzionare come una “scatola nera” inspiegabile. Questo approccio affronta direttamente i rischi relativi alla responsabilità e alla trasparenza individuati dalla ricerca.
Domande frequenti
L'uso dell'IA nelle assunzioni comporta sempre un rischio di parzialità?
No. Hunkenschroer e Luetge (2022) hanno scoperto che l'IA può plausibilmente ridurre alcune forme di parzialità umana, come l'incoerenza nella valutazione dei candidati, pur comportando il rischio di introdurre nuove e diverse forme di parzialità. Il risultato dipende dai dati, dalla progettazione e dal controllo applicati, non dal fatto che si ricorra o meno all'IA.
In che modo il pregiudizio algoritmico viene effettivamente introdotto in uno strumento di selezione del personale?
Nella maggior parte dei casi, attraverso dati di addestramento che riflettono pregiudizi umani storici. Se un algoritmo apprende da decisioni passate che hanno favorito o svantaggiato determinati gruppi, può riprodurre quegli stessi schemi nelle nuove decisioni, anche senza che nessuno abbia intenzionalmente voluto quel risultato.
La discriminazione algoritmica è illegale?
Le procedure di selezione, comprese quelle basate sull’intelligenza artificiale, che producono un impatto negativo sui gruppi protetti sono soggette agli stessi quadri giuridici di qualsiasi altra procedura di selezione, compresi gli obblighi di verificare e affrontare gli impatti disparati. Diverse giurisdizioni hanno introdotto ulteriori normative specifiche per gli strumenti automatizzati di decisione in materia di occupazione.
È possibile eliminare completamente la parzialità algoritmica?
L'eliminazione completa è uno standard difficile da garantire per qualsiasi metodo di selezione, sia esso umano o algoritmico. L'obiettivo realistico consiste nel monitoraggio costante, nella trasparenza e nella mitigazione attiva, piuttosto che in una soluzione una tantum che presupponga che il problema sia risolto in modo definitivo.
Qual è la differenza tra il pregiudizio algoritmico e quello umano nelle assunzioni?
Il pregiudizio umano nelle assunzioni tende ad essere incoerente e varia a seconda del singolo valutatore. Il pregiudizio algoritmico, una volta presente in un sistema, tende ad essere applicato in modo coerente e su scala molto più ampia, il che significa che un algoritmo di parte può influenzare un numero di candidati di gran lunga superiore rispetto a un singolo valutatore umano di parte, rendendo particolarmente importanti i test rigorosi.
Ultima revisione a cura del dott. Reece Akhtar — giugno 2026
Riferimenti
Bommasani, R., Bana, S. H., Creel, K. A., Jurafsky, D. e Liang, P. (2026). Monocolture algoritmiche nelle assunzioni. In Atti della Conferenza ACM 2026 su equità, responsabilità e trasparenza (FAccT '26). https://doi.org/10.1145/3805689.3812400
Hunkenschroer, A. L., & Luetge, C. (2022). Etica del reclutamento e della selezione basati sull’intelligenza artificiale: una rassegna e un programma di ricerca. Journal of Business Ethics, 178(4), 977–1007. https://doi.org/10.1007/s10551-022-05049-6
