Le Linee Guida Sono Scomparse ma la Legge No: IA, Disabilità e Decisioni sull'Impiego Dopo i Ritiri del Gennaio 2025

Il 23 gennaio 2025, l'Ordine Esecutivo 14179, Removing Barriers to American Leadership in Artificial Intelligence, ha revocato l'ordine esecutivo sull'IA dell'amministrazione precedente e ha diretto le agenzie federali a rivedere e ritirare la politica relativa all'IA. Nel giro di pochi giorni, le conseguenze pratiche hanno raggiunto il contesto lavorativo.

Cosa è cambiato, e cosa no

Il 27 gennaio, la Equal Employment Opportunity Commission ha rimosso dal suo sito web le linee guida sull'intelligenza artificiale, incluso il documento di assistenza tecnica del maggio 2022 sull'Americans with Disabilities Act e l'uso di software, algoritmi e intelligenza artificiale per valutare i candidati e i dipendenti, il relativo riassunto Tips for Workers, e il documento di assistenza tecnica del maggio 2023 riguardante il Titolo VII. L'Office of Federal Contract Compliance Programs ha rimosso le sue linee guida sull'intelligenza artificiale e le pari opportunità di impiego per i contraenti federali. Il Department of Labor ha segnalato che l'AI and Inclusive Hiring Framework pubblicato nel settembre 2024 dalla Partnership on Employment and Accessible Technology, e le proprie migliori pratiche sull'intelligenza artificiale dell'ottobre 2024, potrebbero non riflettere più la politica attuale.

Gran parte dei commenti ha interpretato queste rimozioni come una riduzione dell'esposizione dei datori di lavoro. Questa interpretazione confonde le linee guida con la legge. I documenti di assistenza tecnica sono interpretativi. Spiegano come un'agenzia intende una legge e come intende esercitare la propria discrezionalità nell'applicazione. Non creano l'obbligo e il loro ritiro non lo estingue. L'Americans with Disabilities Act è stato emanato nel 1990 e non è stato modificato. Il Titolo I proibisce ancora la discriminazione basata sulla disabilità nei termini e nelle condizioni di impiego, richiede ancora un accomodamento ragionevole in assenza di difficoltà eccessive, proibisce ancora l'uso di standard di qualificazione e criteri di selezione che escludono le persone con disabilità a meno che il criterio non sia correlato al lavoro e coerente con la necessità aziendale, e limita ancora le domande relative alla disabilità e gli esami medici prima di un'offerta condizionata. Le Uniform Guidelines on Employee Selection Procedures al 29 C.F.R. Parte 1607 indicano ancora agli utilizzatori delle procedure di selezione di mantenere registri dell'impatto e, laddove esista un impatto, prove di validità. I regolamenti sulla conservazione dei registri al 29 C.F.R. Parte 1602 richiedono ancora la conservazione dei registri delle domande e, una volta presentato un reclamo, la conservazione dei registri pertinenti fino alla disposizione finale.

Ciò che i ritiri di gennaio hanno rimosso non era la responsabilità. Era la notifica. I datori di lavoro hanno perso il documento che diceva loro, in linguaggio semplice, quali delle loro pratiche l'agenzia considerava problematiche e perché. L'esposizione rimane e la mappa è scomparsa.

L'esposizione rimane e la mappa è scomparsa.

Perché l'esposizione legata alla disabilità non si comporta come l'esposizione legata al pregiudizio

La risposta dominante al rischio algoritmico nelle assunzioni è l'audit sul pregiudizio, e la metrica dominante è la regola dei quattro quinti, che confronta i tassi di selezione tra i gruppi e considera un rapporto inferiore all'ottanta percento come prova di impatto negativo. La Local Law 144 di New York City, in vigore da luglio 2023, richiede un audit indipendente annuale sul pregiudizio degli strumenti decisionali automatizzati per l'impiego e la pubblicazione pubblica dei risultati. I fornitori commercializzano sempre più i risultati degli audit come garanzia.

Questo apparato è mal adatto alla disabilità, e la discrepanza è strutturale piuttosto che una questione di qualità dell'audit. Il test d'impatto statistico di gruppo richiede categorie stabili, note e mutuamente esclusive con un numero sufficiente di membri in ciascuna per supportare un confronto dei tassi. Razza e sesso approssimano quelle condizioni. La disabilità no. È eterogenea al punto che una singola categoria ha poco significato analitico, poiché le esigenze di accomodamento e i modelli di interazione di un candidato Deaf, un candidato cieco, un candidato con disabilità motoria e un candidato con disabilità psichiatrica non hanno quasi nulla in comune. È spesso non dichiarata, perché i candidati non hanno alcun obbligo di identificarsi e hanno forti incentivi a non farlo. È spesso a bassa prevalenza in una singola richiesta di assunzione, il che lascia i confronti tra sottogruppi statisticamente sottodimensionati anche laddove esista l'identificazione. E secondo l'ADA l'unità operativa di analisi è l'individuo piuttosto che il gruppo, perché una rivendicazione di esclusione chiede se un criterio tende a escludere un individuo con disabilità, e una rivendicazione di mancato accomodamento chiede cosa sia accaduto quando una persona ha fatto una richiesta.

La conseguenza merita di essere affermata chiaramente. Un sistema di selezione automatizzato può superare ogni audit sul pregiudizio condotto su di esso, pubblicare un rapporto d'impatto comodamente superiore alla soglia dei quattro quinti su ogni categoria misurata, e continuare comunque a escludere candidati disabili uno per uno in un modo che è individualmente perseguibile e statisticamente invisibile. I risultati degli audit non sono prova di conformità all'ADA. Presentarli come tali, cosa che è ormai comune pratica dei fornitori, crea un registro documentato secondo cui il datore di lavoro si è basato su una garanzia che non affrontava il rischio.

Questo è anche il motivo per cui l'affermazione ampiamente ripetuta secondo cui algoritmi ben progettati riducono il pregiudizio umano, e quindi livellano il campo di gioco per i candidati disabili, dovrebbe essere considerata priva di prove. Potrebbe essere vera per alcune forme di pregiudizio. Non esiste una base di prove pubbliche che la stabilisca per la disabilità, e il meccanismo con cui questi sistemi operano suggerisce il contrario. I modelli valutano la conformità a una distribuzione appresa dai candidati di successo precedenti. La disabilità, nelle dimensioni che questi sistemi misurano più spesso, è esattamente ciò che la non conformità a quella distribuzione appare essere.

Cosa dimostra il reclamo del marzo 2025

Il 19 marzo 2025, l'American Civil Liberties Union, l'ACLU of Colorado, Public Justice e Eisenberg and Baum LLP hanno presentato un reclamo alla Colorado Civil Rights Division e alla EEOC per conto di una donna Deaf e indigena a cui era stato richiesto di completare un'intervista video automatizzata quando si era candidata per una promozione. Il reclamo denuncia violazioni dell'ADA, del Titolo VII e del Colorado Anti-Discrimination Act. Secondo i documenti pubblici, ha richiesto sottotitolazione generata da un essere umano come accomodamento ragionevole, la richiesta è stata negata sulla base del fatto che i sottotitoli automatici della piattaforma sarebbero stati sufficienti, parti dell'intervista sono comunque rimaste senza sottotitoli, e successivamente è stata respinta per motivi riguardanti la comunicazione. Il datore di lavoro afferma che le accuse sono infondate e che fornisce accomodamenti ragionevoli a tutti i candidati. Il fornitore afferma che il reclamo è infondato e si basa su un'assunzione inesatta riguardo alla tecnologia utilizzata. Si tratta di accuse e negazioni, e un'indagine dell'agenzia determinerà se esiste una causa.

Indipendentemente dall'esito, lo schema dei fatti è quello che i datori di lavoro dovrebbero modellare, perché non dipende dal dimostrare che un modello è di parte. Dipende da tre domande ordinarie. La valutazione era accessibile a questo candidato. È stato richiesto un accomodamento, e qual è stata la risposta. Il datore di lavoro può spiegare cosa misurava la valutazione e perché quel costrutto è correlato al lavoro.

Nota anche cosa la teoria non richiede. Non richiede statistiche comparative, nessuna ricostruzione esperta di un modello, e nessuna analisi dell'impatto negativo. La prova è una richiesta di accomodamento datata, una risposta ad essa, e un esito negativo. Questo profilo probatorio è economico da assemblare ed è creato dagli stessi registri del datore di lavoro.

Accessibilità, accomodamento e validità sono tre obblighi distinti

Gran parte della discussione attuale collassa distinzioni che operano indipendentemente, e confonderle produce programmi di conformità che affrontano un obbligo lasciandone aperti due.

L'accessibilità è una proprietà dell'interfaccia. Se la piattaforma di valutazione può essere utilizzata con un lettore di schermo, se i media sono sottotitolati, e se i tempi possono essere adattati sono domande su se il candidato possa raggiungere affatto il compito. Questo è il livello che la maggior parte delle organizzazioni ha affrontato, di solito tramite una dichiarazione di conformità del fornitore.

L'accomodamento è un obbligo di processo. Richiede che ai candidati venga detto, prima che la valutazione inizi, che sono disponibili modifiche, che una richiesta attivi un processo interattivo piuttosto che un rifiuto formale, che sia identificato un decisore, e che esista un percorso alternativo che non svantaggi di per sé la persona che lo ha utilizzato. Una piattaforma tecnicamente accessibile in ogni aspetto può ancora generare una rivendicazione di mancato accomodamento se a nessuno è stato detto al candidato che esisteva un'alternativa.

La validità è una proprietà della misurazione. Chiede se ciò che il sistema valuta corrisponde a un requisito del lavoro. Questo è il livello che quasi nessuno ha affrontato, ed è dove la valutazione video e vocale automatizzata è più esposta. Laddove un sistema valuta la fluidità, il ritmo di articolazione, la latenza di risposta, la prosodia, l'affetto facciale, o un costrutto etichettato come comunicazione o coinvolgimento, il datore di lavoro dovrebbe essere in grado di affermare quale mansione del lavoro richieda quell'attributo e su quali prove. Ricerche pubblicate documentano sostanziali disparità nel tasso di errore delle parole nel riconoscimento vocale automatico per i parlanti il cui discorso esce dalla distribuzione di addestramento, inclusi i modelli linguistici razzializzati e il discorso atipico o disturbato, motivo per cui l'Università dell'Illinois ha istituito un Speech Accessibility Project dedicato nel 2022 per raccogliere tali dati. Laddove un candidato firma tramite un interprete, la trascrizione valutata è la resa dell'interprete piuttosto che l'enunciato del candidato, e le scelte lessicali e il ritardo di elaborazione dell'interprete sono attribuiti al candidato. Il sistema produce un numero. Non sta misurando il candidato.

Il livello statale e le sue scadenze

Il ritiro federale non libera il campo, e il calendario statale è importante per la pianificazione. L'Illinois House Bill 3773, firmato nell'agosto 2024, modifica l'Illinois Human Rights Act per proibire l'uso discriminatorio dell'intelligenza artificiale in tutto il ciclo di vita dell'impiego e per richiedere una notifica ai candidati e ai dipendenti quando tali sistemi vengono utilizzati, efficace dal 1 gennaio 2026. Il Colorado Senate Bill 24-205, firmato nel maggio 2024, impone obblighi agli sviluppatori e ai distributori di sistemi ad alto rischio utilizzati in decisioni rilevanti incluso l'impiego, con una data di entrata in vigore del 1 febbraio 2026, sebbene il governatore abbia invitato a una revisione legislativa al momento della firma e sia probabile una modifica prima di tale data. Il Virginia House Bill 2094, che avrebbe stabilito un quadro comparabile, è stato posto il veto nel marzo 2025. La Local Law 144 di New York City continua a essere in vigore.

La direzione del livello statale è verso la notifica e la divulgazione piuttosto che verso obblighi sostanziali di diligenza. I datori di lavoro dovrebbero pianificare sull'assunto che gli obblighi che effettivamente affronteranno saranno quelli di dichiarare cosa stanno facendo, e che l'obbligo di poter dimostrare cosa hanno fatto arriverà tramite il contenzioso piuttosto che tramite un regolatore.

Cosa fare ora

Quanto segue può essere completato da una funzione esistente di risorse umane e non richiede assistenza esterna.

1. Inventariare ogni sistema che tocca una decisione di selezione, incluso il parsing dei curriculum, la classificazione, le domande di esclusione, la preselezione basata su chat e la valutazione video o vocale automatizzata. Includere le funzionalità abilitate di default in un sistema di tracciamento dei candidati, che sono le più comunemente trascurate.
2. Per ogni sistema, dichiarare per iscritto cosa misura e a quale requisito documentato del lavoro corrisponde quel costrutto. Laddove non esista alcuna risposta, il sistema sta valutando un criterio non validato.
3. Confermare che ai candidati venga detto che è disponibile una valutazione alternativa o modificata prima che la valutazione inizi, non dopo, e che la notifica sia sulla valutazione stessa piuttosto che sepolta in una pagina delle carriere.
4. Recuperare ogni richiesta di accomodamento associata a una valutazione automatizzata negli ultimi ventiquattro mesi. Registrare cosa è stato richiesto, chi ha deciso, cosa è stato fornito, e quale sia stato l'esito. Questo fascicolo verrà prodotto in qualsiasi reclamo e dovrebbe essere rivisto prima che qualcun altro lo revisioni.
5. Chiedere al fornitore, per iscritto, prove di validazione per ogni costrutto valutato e dati di accuratezza disaggregati per caratteristiche linguistiche e comunicative. Conservare la risposta, incluso un rifiuto, che è di per sé una prova utile dello stato delle conoscenze del datore di lavoro.
6. Confermare che i punteggi e la configurazione in vigore al momento di ciascuna decisione siano conservati per il periodo di conservazione applicabile. I punteggi calcolati per produrre una classificazione e poi scartati non possono essere spiegati successivamente.
7. Trattare ogni risultato di audit sul pregiudizio come prova relativa solo alle categorie di razza e sesso, e non presentarlo internamente o esternamente come prova di conformità all'ADA.

Conclusione

L'intelligenza artificiale può espandere materialmente l'accesso al lavoro per le persone disabili. Sottotitolazione in tempo reale, sintesi vocale e interfacce adattive lo hanno già fatto, e la valutazione del 2023 dell'OCSE sull'IA e la disabilità nel mercato del lavoro documenta guadagni reali. Quei guadagni provengono da applicazioni assistive, dove la tecnologia serve la persona. Non si trasferiscono automaticamente alle applicazioni valutative, dove la tecnologia misura la persona, e la tendenza attuale ad argomentare dalla prima alla seconda è l'errore analitico centrale in questo campo.

Il ritiro delle linee guida federali nel gennaio 2025 ha cambiato ciò che viene detto ai datori di lavoro. Non ha cambiato ciò che i datori di lavoro devono. Le organizzazioni che saranno in grado di difendere le proprie decisioni di assunzione non sono quelle che hanno acquistato lo strumento più sofisticato o pubblicato l'audit più rassicurante. Sono quelle che possono dire cosa misurano i loro sistemi, perché è importante per il lavoro, cosa è accaduto quando un candidato ha richiesto qualcosa di diverso, e chi ha deciso.

Riferimenti

• American Civil Liberties Union, ACLU of Colorado, Public Justice, e Eisenberg & Baum LLP. Reclamo presentato alla Colorado Civil Rights Division e alla U.S. Equal Employment Opportunity Commission, 19 marzo 2025.
• Americans with Disabilities Act of 1990, Titolo I, 42 U.S.C. § 12112.
• Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
• Colorado Senate Bill 24-205, Concerning Consumer Protections in Interactions with Artificial Intelligence Systems, firmato il 17 maggio 2024.
• Ordine Esecutivo 14179, Removing Barriers to American Leadership in Artificial Intelligence, 23 gennaio 2025.
• Illinois House Bill 3773, che modifica l'Illinois Human Rights Act, firmato il 9 agosto 2024.
• New York City Local Law 144 del 2021, Automated Employment Decision Tools.
• OCSE. Using AI to Support People with Disabilities in the Labour Market. 2023.
• U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 maggio 2022. Rimosso dal sito web dell'agenzia il 27 gennaio 2025.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Parte 1607; requisiti di conservazione dei registri, 29 C.F.R. Parte 1602.