La tecnologia per le risorse umane di livello enterprise è diventata accessibile a organizzazioni che in precedenza non avrebbero mai potuto permettersela. La questione di governance è ciò che non è arrivato insieme ad essa.
Ciò che l'argomento della democratizzazione coglie nel segno
La tecnologia per le risorse umane di livello enterprise è diventata accessibile a organizzazioni che in precedenza non avrebbero mai potuto permettersela. Un'organizzazione no profit di venti persone può ora gestire la classificazione dei candidati, la valutazione strutturata, l'analisi del coinvolgimento, l'inferenza delle competenze e l'erogazione personalizzata della formazione con un abbonamento mensile, utilizzando gli stessi prodotti di base impiegati da datori di lavoro mille volte più grandi. Si tratta di un cambiamento reale e l'entusiasmo che suscita non è fuori luogo. Una capacità che era concentrata nelle grandi aziende è ora ampiamente distribuita.
L'argomento solitamente avanzato accanto a questa osservazione è che la distribuzione non riguarda solo la capacità ma anche il vantaggio, e che le organizzazioni più piccole e orientate a una missione potrebbero in realtà essere meglio posizionate delle grandi aziende per utilizzare bene questi sistemi, perché sono più snelle, più agili e prive del peso burocratico che caratterizza un grande dipartimento di risorse umane. La posizione di Novara Consulting Group è che quest'ultima affermazione capovolge il rischio reale, e che tale inversione rappresenta il problema centrale di governance per il settore.
Il peso burocratico è la responsabilità.
Il peso burocratico è la responsabilità. Ciò che la funzione risorse umane di un grande datore di lavoro contiene, al di sotto degli strati che sembrano inefficienza, è un insieme di controlli: revisione legale prima dell'implementazione di uno strumento, un processo di gestione dei fornitori, conservazione dei documenti, un responsabile della conformità che chiede cosa misura un sistema, e un business partner il cui compito include notare quando una decisione sembra sbagliata. Le grandi aziende hanno adottato questi strumenti in un contesto in cui questo strato esisteva già. Le organizzazioni orientate a una missione stanno adottando gli stessi strumenti senza di esso, e viene detto loro che la sua assenza è il beneficio.
Ciò che non è arrivato nella confezione
Il software è lo stesso. Tutto ciò che lo circonda è diverso, sotto quattro aspetti che si sommano.
Nessuno lo ha configurato. Una piccola organizzazione utilizza le impostazioni predefinite del fornitore. Non ha selezionato i criteri di selezione, non ha impostato le soglie, e spesso non sa quali funzionalità stanno valutando i candidati, perché diverse sono state attivate al momento dell'implementazione e mai riviste. La domanda che prima o poi arriva, su chi abbia stabilito i criteri e su quale base, non ha risposta.
Nessuno lo ha verificato. Non c'è un ufficio legale a chiedere se una valutazione che misura lo stile comunicativo sia pertinente al lavoro, nessuna funzione privacy a chiedere dove vengono conservati gli output dell'inferenza, e nessun ufficio acquisti a richiedere prove di validazione. L'acquisto è stato effettuato da un direttore esecutivo su raccomandazione di un'organizzazione affine.
Nessuno può negoziarlo. I controlli che proteggono realmente un datore di lavoro sono contrattuali: conservazione dei punteggi, identificazione della versione, capacità di riprodurre una decisione storica, accesso alle prove di validazione, collaborazione in caso di indagine. Questi aspetti si definiscono al momento dell'acquisizione. Un'organizzazione di venti persone che firma un modulo d'ordine standard non ha alcun potere negoziale per ottenerli, il che significa che la difesa singolarmente più efficace è quella meno disponibile a questa scala.
E il pavimento legale non si sposta. Il Title VII e l'Americans with Disabilities Act si applicano a partire da quindici dipendenti, l'Age Discrimination in Employment Act a partire da venti. Non esiste una difesa basata sulla sofisticazione, nessun porto sicuro per i piccoli datori di lavoro riguardo agli strumenti automatizzati, e nessuna riduzione dell'obbligo perché il sistema è stato acquistato anziché sviluppato internamente. La giurisprudenza in evoluzione suggerisce che il fornitore possa essere aggiunto come convenuto piuttosto che sostituirsi a uno; nel luglio 2024 il Northern District of California ha consentito che le accuse contro un fornitore di software di selezione procedessero sulla base della teoria che esso avesse agito come agente dei datori di lavoro che utilizzavano i suoi strumenti. Il fatto che lo strumento sia arrivato in una confezione, e che nessuno nell'organizzazione lo abbia capito, non è una difesa. È un'ammissione.
L'affermazione da eliminare
Tra le proposizioni comunemente avanzate riguardo all'intelligenza artificiale nelle risorse umane delle organizzazioni orientate a una missione, una dovrebbe essere eliminata anziché attenuata: che questi sistemi resistano ai pregiudizi, o che riducano il pregiudizio inconscio e producano assunzioni più eque.
Non esiste alcuna base di prove pubbliche a sostegno di questa affermazione, e le prove disponibili indicano il contrario. I sistemi addestrati su candidati precedentemente selezionati con successo valutano la conformità a una distribuzione, e le dimensioni lungo le quali valutano più comunemente, comunicazione, scioltezza verbale, affettività e tempi di risposta, sono le dimensioni lungo le quali la disabilità, un accento marcato e un background non familiare si registrano come deviazione. Un reclamo depositato nel marzo 2025 presso la Colorado Civil Rights Division e l'EEOC (Equal Employment Opportunity Commission) per conto di un dipendente Deaf e indigeno denuncia esattamente questo schema in un colloquio video automatizzato; entrambe le aziende negano le accuse e la questione è contestata, ma la teoria del danno è ora agli atti pubblici con parti nominate.
L'apparato di audit offerto come rassicurazione non ripara l'affermazione. Una ricerca presentata alla conferenza ACM del 2024 su Fairness, Accountability, and Transparency ha esaminato la conformità al requisito di audit sui pregiudizi della città di New York su quasi quattrocento datori di lavoro e ha riscontrato tassi di pubblicazione affermativa nella bassa cifra singola, con quasi tutti gli audit pubblicati che riportano rapporti di impatto superiori alla soglia dei quattro quinti, una distribuzione che dice più su chi commissiona gli audit che sui sistemi sottoposti ad audit. E questi strumenti misurano razza e sesso. Non possono misurare la disabilità, perché i datori di lavoro non sanno e non possono legalmente chiedere prima di un'offerta condizionata quali candidati siano disabili.
Per un'organizzazione orientata a una missione questo non è semplicemente un problema di accuratezza. Un'organizzazione che si impegna pubblicamente per un'assunzione equa e si affida privatamente all'affermazione di equità di un fornitore ha adottato un'asserzione che non può dimostrare, proprio nell'unico ambito in cui la sua credibilità è il principale patrimonio. La posizione corretta è che questi sistemi non sono stati dimostrati rispetto al pregiudizio, che l'organizzazione monitora autonomamente i risultati, e che non ha delegato la questione.
L'analisi per piccoli team deanonimizza per costruzione
La proposizione secondo cui l'analisi in tempo reale del coinvolgimento e delle prestazioni permette ai piccoli team di favorire ambienti di supporto merita un trattamento separato, perché a questa scala produce un effetto diverso rispetto alla scala aziendale.
L'analisi del coinvolgimento viene venduta sulla premessa di un'intuizione aggregata: l'organizzazione vede schemi, non persone. Questa premessa dipende da dimensioni dei gruppi sufficientemente ampie da oscurare i singoli individui. In un'organizzazione di venticinque persone, con tre team, una dashboard che riporta il sentiment o il coinvolgimento per team riporta su sei o nove persone identificabili, e qualsiasi manager che la legge sa chi è chi. Segmentando per anzianità, ruolo o sede, il report diventa individuale. L'anonimato è nominale, e le persone oggetto del report generalmente lo capiscono molto prima della dirigenza.
Ne derivano due conseguenze. La prima è che i dati cessano di essere affidabili, perché i dipendenti che deducono correttamente che le risposte sono attribuibili rispondono di conseguenza, ed è così che le organizzazioni finiscono con dashboard che mostrano un alto coinvolgimento e una dimissione che nessuno aveva previsto. La seconda è legale. Laddove l'analisi deduce benessere, stress, esaurimento o disimpegno, l'organizzazione potrebbe star generando informazioni assimilabili a dati sanitari su dipendenti identificabili. L'ADA richiede che le informazioni mediche sui dipendenti siano conservate separatamente e in modo confidenziale, ed è improbabile che un'inferenza collocata in un prodotto di analisi generico su infrastruttura del fornitore, visibile a chiunque amministri la piattaforma, soddisfi tale standard. Nessuno ha considerato la questione, perché il sistema è stato acquisito come strumento culturale.
Lo stesso ragionamento si applica all'inferenza delle competenze e all'apprendimento personalizzato. Un sistema che identifica le lacune di competenze e indirizza lo sviluppo sta producendo un profilo che determina chi riceve investimenti. Allocare lo sviluppo sulla base di un profilo dedotto è una decisione occupazionale, ed è soggetta a verifica come tale. Se l'inferenza attinge ad anzianità, storia dei ruoli o segnali di coinvolgimento correlati a età o disabilità, l'organizzazione ha costruito un'esposizione e l'ha registrata come un beneficio.
Ciò che un'organizzazione snella dovrebbe effettivamente mantenere
La raccomandazione non è un programma di conformità, che un'organizzazione di queste dimensioni non può gestire e non dovrebbe tentare. È un piccolo insieme di controlli che sopravvivono anche se gestiti da una sola persona con altre responsabilità. Sono economici a questa scala, e sono la parte del peso burocratico aziendale che vale la pena importare.
Sapere cosa è in funzione. Elencare ogni punto in cui un software valuta, classifica, filtra, assegna punteggi o profila una persona, incluse le funzionalità attivate per impostazione predefinita al momento dell'implementazione. La maggior parte delle organizzazioni che lo fa per la prima volta trova almeno un sistema di cui nessuno sapeva che assegnasse punteggi.
Disattivare ciò che non può essere spiegato. Laddove nessuno sa indicare cosa misura una funzionalità e perché sia rilevante per il lavoro, disattivarla anziché documentarla. Questa opzione è realmente disponibile per le piccole organizzazioni e in gran parte non disponibile per quelle grandi, ed è l'azione a più alto rendimento in questo elenco.
Chiedere al fornitore per iscritto, e conservare la risposta. Cosa valuta questa funzionalità. Cosa deduce, da quali segnali, e dove viene conservata l'inferenza. Conservate punteggi e configurazione, per quanto tempo, e potete riprodurre una decisione di diciotto mesi fa. Quali prove di validazione esistono. Quale percorso di accomodamento supporta il prodotto. Un rifiuto è anch'esso una risposta ed è utile conservarlo.
Costruire il percorso di accomodamento prima che sia necessario. Indicare chi decide, stabilire un tempo di risposta, assicurarsi che esista una valutazione alternativa che non svantaggi chi la utilizza, e indicarne la disponibilità direttamente sulla valutazione stessa anziché su una pagina delle carriere. Conservare il dossier delle richieste e dei risultati. Questo è il controllo più economico disponibile e affronta l'accusa più probabile che possa arrivare.
Fissare un limite minimo per qualsiasi analisi delle persone. Nessun report su gruppi al di sotto di una dimensione minima stabilita, nessuna attribuzione individuale, e nessuna inferenza su benessere o salute conservata in un sistema generico.
Chiedere i termini di conservazione e riproduzione al rinnovo. La richiesta potrebbe essere rifiutata. Chiedere e ricevere un rifiuto è una prova sostanzialmente migliore della diligenza istituzionale rispetto a un memorandum scritto dopo che è stata presentata un'accusa.
Conclusione
La distribuzione della capacità aziendale a organizzazioni che in precedenza non potevano permettersela è un guadagno autentico, e il settore dovrebbe coglierlo. Ciò che non è stato distribuito è l'apparato che rendeva governabili quei sistemi all'interno delle organizzazioni per cui erano stati costruiti, e il linguaggio attualmente utilizzato per descrivere la sua assenza, agilità, snellezza, libertà dal peso burocratico, oscura ciò che manca.
Un'organizzazione di venti persone che implementa una selezione automatizzata porta gli stessi obblighi di una di ventimila persone, con meno risorse per soddisfarli e, se è orientata a una missione, considerevolmente di più da perdere quando non ci riesce. I controlli che colmano il divario non sono costosi a questa scala. Sono un elenco, un insieme di domande, un dossier scritto e una decisione su cosa disattivare. Le organizzazioni che li adottano non saranno semplicemente più sicure. Sapranno cosa stanno facendo i loro sistemi, cosa che tutti gli altri in questa conversazione danno per scontato e che quasi nessuno ha verificato.
Riferimenti
- American Civil Liberties Union, ACLU of Colorado, Public Justice, e Eisenberg & Baum LLP. Reclamo presentato alla Colorado Civil Rights Division e alla U.S. Equal Employment Opportunity Commission, 19 marzo 2025.
- Americans with Disabilities Act del 1990, 42 U.S.C. § 12112, incluso il § 12112(d) relativo a esami medici, richieste relative alla disabilità e riservatezza; Title VII del Civil Rights Act del 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
- Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), ordinanza sulla richiesta di archiviazione, luglio 2024.
- New York City Local Law 144 del 2021, Automated Employment Decision Tools.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; requisiti di conservazione dei documenti dell'EEOC, 29 C.F.R. Part 1602.
- Wright, Lucas, et al. “Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability.” Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency.