Esenti dalla burocrazia, responsabili della decisione: la governance dell'intelligenza artificiale per piccole organizzazioni e no profit

L'asimmetria

Il racconto convenzionale sulla regolamentazione dell'intelligenza artificiale e le piccole organizzazioni è che gli oneri di conformità ricadono più pesantemente su chi è meno in grado di sostenerli, e che soglie ed esenzioni esistono per correggere lo squilibrio. Il racconto è metà vero, e la metà che sbaglia è la metà che conta.

I piccoli datori di lavoro e le organizzazioni non profit sono, di fatto, esentati da gran parte dell'apparato emergente. Sono esentati quasi interamente dalla parte sbagliata. Le esenzioni riguardano i regimi di divulgazione, valutazione e documentazione, ossia le parti del quadro normativo che avrebbero costretto un'organizzazione a esaminare attentamente gli strumenti automatizzati che già utilizza. Non riguardano invece le sottostanti normative in materia di discriminazione sul lavoro, che si applicano a partire da quindici dipendenti e comportano un diritto di azione privata, teorie di responsabilità individualizzate e nessun obbligo per il ricorrente di dimostrare che il datore di lavoro fosse sofisticato.

Un'organizzazione esentata dal processo che avrebbe individuato il problema ed esposta pienamente alla conseguenza di non averlo individuato.

L'effetto netto è un'organizzazione esentata dal processo che avrebbe individuato il problema ed esposta pienamente alla conseguenza di non averlo individuato. La posizione di Novara Consulting Group è che questa asimmetria, piuttosto che il costo, rappresenti il rischio di governance determinante per le organizzazioni con circa duecento dipendenti o meno, e che il consiglio standard dato ai piccoli datori di lavoro, cioè attendere che venga superata una soglia, sia quasi la peggiore strategia disponibile.

Da cosa sono realmente esentate le piccole organizzazioni

La struttura delle soglie è reale e vale la pena mapparla, con l'avvertenza che la maggior parte di questi strumenti normativi è recente, diversi non sono ancora in vigore e uno è ancora in fase di regolamentazione, quindi l'applicabilità andrebbe verificata rispetto al testo vigente e non rispetto a sintesi, inclusa questa.

Il Senate Bill 24-205 del Colorado, firmato nel maggio 2024 e previsto entrare in vigore il 1° febbraio 2026, impone obblighi agli sviluppatori e agli utilizzatori di sistemi ad alto rischio impiegati in decisioni rilevanti, compresa l'occupazione, e prevede un'esenzione condizionata per gli utilizzatori con meno di cinquanta dipendenti a tempo pieno. Il California Consumer Privacy Act si applica alle imprese che soddisfano i suoi criteri di copertura, principalmente un fatturato lordo annuo superiore a venticinque milioni di dollari o il trattamento di volumi sostanziali di dati dei consumatori, e la sua definizione di impresa coperta dipende dall'operare a scopo di lucro, il che pone la maggior parte delle organizzazioni non profit completamente al di fuori di essa. La California Privacy Protection Agency ha portato avanti nel processo di regolamentazione formale le proposte di regolamento sulla tecnologia decisionale automatizzata, e tali regole, se adottate come redatte, prevederebbero le stesse soglie di copertura. A livello federale, le Uniform Guidelines on Employee Selection Procedures prevedono una tenuta dei registri semplificata per gli utilizzatori con meno di cento dipendenti.

Letti insieme, un'organizzazione di trenta persone che utilizza un sistema di tracciamento dei candidati pronto all'uso non è obbligata, nella maggior parte delle giurisdizioni, a condurre una valutazione d'impatto, pubblicare un audit sui pregiudizi, fornire un avviso preventivo all'uso o mantenere i registri di impatto a livello di componente che un datore di lavoro più grande deve mantenere. Non verrà ispezionata. Nessuno chiederà nulla.

Da cosa non sono esentate

Il Title VII del Civil Rights Act e l'Americans with Disabilities Act si applicano ai datori di lavoro con quindici o più dipendenti. L'Age Discrimination in Employment Act si applica a partire da venti. Queste normative non contengono alcuna difesa basata sulla sofisticazione, nessun porto sicuro per i piccoli datori di lavoro in relazione agli strumenti automatizzati, e nessuna disposizione che riduca gli obblighi di un datore di lavoro perché ha acquistato anziché costruito il sistema che ha prodotto la decisione.

L'acquisto non trasferisce nemmeno la responsabilità. Il datore di lavoro rimane la parte che prende la decisione occupazionale, e la giurisprudenza in evoluzione suggerisce che il fornitore possa essere aggiunto come convenuto piuttosto che sostituirsi a esso. Nel luglio 2024 il Northern District of California ha consentito che le richieste contro un fornitore di software di screening proseguissero sulla base della teoria secondo cui il fornitore agiva come agente dei datori di lavoro che utilizzavano i suoi strumenti, il che mette in discussione l'assunto che la responsabilità possa essere attribuita in modo netto a qualunque parte abbia scritto il codice. Il fatto che lo strumento sia arrivato già confezionato, e che nessuno nell'organizzazione lo comprendesse, non è una difesa. È un'ammissione.

Le teorie relative alla disabilità meritano particolare attenzione, perché sono quelle che una piccola organizzazione ha più probabilità di affrontare e meno strumenti per difendersi. Una denuncia per mancato accomodamento sorge quando un candidato chiede una modifica a una valutazione e non la riceve. Una denuncia di esclusione sorge quando un criterio di selezione tende a escludere una persona con disabilità e il datore di lavoro non può dimostrare che il criterio sia correlato al lavoro e coerente con la necessità aziendale. Nessuna delle due richiede statistiche comparative su un bacino di candidati. Nessuna delle due richiede un esperto per ricostruire un modello. Entrambe si dimostrano su un registro individuale costituito da una richiesta, una risposta e un esito, un registro che il datore di lavoro crea e detiene. Il reclamo presentato nel marzo 2025 alla Colorado Civil Rights Division e all'EEOC (Equal Employment Opportunity Commission) per conto di un dipendente Deaf e indigeno, riguardante un'intervista video automatizzata e una richiesta di sottotitolazione negata, segue esattamente questo schema. Entrambe le aziende negano le accuse, e la forma della richiesta è istruttiva indipendentemente dall'esito.

Queste richieste sono poco costose da presentare, e il loro costo di difesa non si riduce in proporzione alle dimensioni del convenuto. Il decreto di consenso dell'EEOC del 2023 con iTutorGroup, che risolveva accuse secondo cui il software era configurato per rifiutare candidati oltre determinate età, si è concluso con 365.000 dollari. Quella cifra è sostenibile per un grande datore di lavoro. È esistenziale per la maggior parte delle organizzazioni non profit.

Perché la piccola organizzazione è strutturalmente più esposta

Le dimensioni non si limitano a non proteggere. Peggiorano attivamente la posizione, per quattro ragioni che si sommano.

La prima è la configurazione. Una piccola organizzazione utilizza le impostazioni predefinite del fornitore. Non ha selezionato i criteri di screening, non ha impostato le soglie e spesso non sa quali funzionalità del suo sistema di tracciamento dei candidati stiano valutando i candidati, perché diverse sono state attivate al momento dell'implementazione e mai riesaminate. Quando arriva la domanda su chi abbia configurato i criteri e su quale base, la risposta onesta è che nessuno nell'organizzazione lo ha fatto.

La seconda è la leva contrattuale. I controlli che proteggono effettivamente un datore di lavoro sono contrattuali: conservazione dei punteggi, identificazione della versione, riproduzione di una decisione storica, accesso alle prove di validazione, cooperazione in un'indagine. Questi vengono negoziati al momento dell'acquisizione, e un'organizzazione non profit di trenta persone che firma un modulo d'ordine standard non ha alcuna reale possibilità di negoziarli. La difesa singolarmente più efficace è quella che le piccole organizzazioni sono meno in grado di ottenere.

La terza è il registro. Gli obblighi federali di tenuta dei registri previsti dal 29 C.F.R. Part 1602 richiedono la conservazione dei registri delle candidature e, una volta presentata una denuncia, la conservazione di tutto ciò che è rilevante fino alla risoluzione definitiva. Ricostruire perché un particolare candidato sia stato respinto diciotto mesi prima richiede che il punteggio, gli input e la configurazione del sistema in vigore in quel momento siano stati conservati. Le piccole organizzazioni si affidano alle pratiche sui dati del fornitore, che tipicamente scartano i punteggi dopo la classificazione, e lo scoprono proprio nel momento in cui hanno bisogno di quei dati.

La quarta è l'assenza di qualcuno il cui compito sia proprio questo. I datori di lavoro più grandi hanno consulenti legali, una funzione di conformità e un responsabile della privacy che almeno porrà delle domande. Una piccola organizzazione ha un direttore esecutivo, un responsabile di ufficio che amministra il sistema di tracciamento dei candidati, e un consiglio di amministrazione che non ne ha mai discusso.

Il caso delle non profit è peggiore

Le organizzazioni non profit portano un'esposizione aggiuntiva che non ha equivalente nel mondo aziendale, e non è di natura legale.

Un'organizzazione la cui missione riguarda la disabilità, l'accessibilità, l'equità o lo sviluppo della forza lavoro, e che filtra i candidati attraverso una valutazione automatizzata che penalizza un eloquio atipico, una comunicazione interpretata o un affetto non standard, ha un problema di integrità della missione che sopravvive a qualsiasi esito legale. Non importa se l'accusa è fondata. L'accusa da sola è coerente in un modo in cui non lo sarebbe contro un produttore, perché la posizione pubblica dell'organizzazione fornisce la contraddizione. I finanziatori leggono quelle accuse. Lo stesso fanno le comunità servite dall'organizzazione, e lo stesso fa il personale che vi ha aderito per via della missione.

Questo non è un ragionamento ipotetico applicato a uno scenario improbabile. Le organizzazioni che si occupano di servizi per la disabilità, i centri sanitari comunitari, i fornitori di assistenza legale e le agenzie pubbliche utilizzano gli stessi sistemi commerciali di tracciamento dei candidati e gli stessi prodotti di intervista video automatizzata di chiunque altro, generalmente nella fascia entry-level, generalmente con le impostazioni predefinite, e generalmente senza che nessuno abbia esaminato cosa misuri la valutazione. Il settore più propenso a impiegare persone con disabilità, e più credibile quando ne parla, sta utilizzando la stessa infrastruttura di screening non esaminata del settore che critica.

La guida che avrebbe aiutato è semplicemente scomparsa

C'è un'ulteriore difficoltà specifica di questo momento. Le piccole organizzazioni non leggono i regolamenti; leggono guide in linguaggio semplice, e la guida in linguaggio semplice su questo argomento è stata rimossa nel gennaio 2025.

L'EEOC ha rimosso i suoi materiali sull'intelligenza artificiale, inclusa l'assistenza tecnica del maggio 2022 sull'Americans with Disabilities Act e sull'uso di software, algoritmi e intelligenza artificiale per valutare candidati e dipendenti, insieme alla sintesi complementare scritta per i lavoratori. Il Department of Labor ha segnalato che l'AI and Inclusive Hiring Framework pubblicato nel settembre 2024, sviluppato specificamente per aiutare i datori di lavoro a implementare questi strumenti senza escludere i candidati con disabilità, potrebbe non riflettere più la politica attuale. Quei documenti erano il punto di accesso accessibile esattamente per le organizzazioni descritte qui.

Le normative non sono cambiate. Ciò che è cambiato è che la spiegazione gratuita e leggibile di ciò che esse richiedono è scomparsa, e le organizzazioni che vi facevano maggiore affidamento sono quelle senza budget per sostituirla con un consulente legale.

Cosa è effettivamente realizzabile a questa scala

La raccomandazione non è un programma di conformità. Un'organizzazione di trenta persone non può gestirne uno e non dovrebbe provarci. Quanto segue è realizzabile in pochi giorni del tempo di un membro del personale esistente e cattura la maggior parte della protezione disponibile.

1. Fai l'inventario di ciò che stai effettivamente utilizzando. Elenca ogni punto del processo di assunzione in cui un software valuta, classifica, filtra o assegna un punteggio a un candidato, inclusi l'analisi dei curriculum, le domande eliminatorie, i moduli di valutazione e il prescreening basato su chat. Includi le funzionalità attivate per impostazione predefinita al momento dell'implementazione. La maggior parte delle organizzazioni che lo fa per la prima volta scopre almeno un sistema di cui nessuno sapeva che stesse assegnando punteggi.
2. Disattiva ciò che non puoi spiegare. Se nessuno è in grado di affermare cosa misuri una funzionalità e perché sia rilevante per il lavoro, l'azione corretta è disattivarla, non documentarla. Questa opzione è disponibile per le piccole organizzazioni e in gran parte non disponibile per quelle grandi, ed è il singolo passo con il rendimento più alto in questo elenco.
3. Poni al fornitore cinque domande per iscritto. Cosa misura questa funzionalità. Conservate il punteggio e la configurazione, e per quanto tempo. Potete riprodurre una decisione specifica presa diciotto mesi fa. Quali prove di validazione esistono per ciò che misura. Quale percorso di accomodamento supporta il prodotto. Conserva le risposte. Anche un rifiuto è una risposta e vale la pena conservarlo.
4. Costruisci il percorso di accomodamento prima di averne bisogno. Nomina la persona che decide, stabilisci un tempo di risposta, assicurati che esista una valutazione alternativa che non svantaggi chi la utilizza, e indica la sua disponibilità direttamente sulla valutazione stessa anziché su una pagina delle carriere. Questo è il controllo più economico in questo documento e affronta la richiesta che hai più probabilità di dover fronteggiare.
5. Conserva il fascicolo degli accomodamenti. Ogni richiesta, chi ha deciso, cosa è stato fornito, quale è stato l'esito. Verrà prodotto se viene presentata una denuncia, e dovrebbe essere riesaminato prima da te.
6. Quando il contratto viene rinnovato, chiedi termini di conservazione e riproduzione. Potresti non ottenerli. Chiedere ed essere rifiutati è nettamente meglio che non chiedere affatto, sia in termini di governance sia in termini di ciò che il registro dimostra su quanto l'organizzazione sapesse.

Conclusione

La tesi secondo cui le piccole organizzazioni meritano l'accesso agli stessi strumenti di quelle più grandi è corretta fin dove arriva, e la tecnologia ha effettivamente abbassato il costo di un'infrastruttura di assunzione capace. Ciò che non è stato abbassato è lo standard in base al quale le decisioni risultanti vengono giudicate, e ciò che è stato dato alle piccole organizzazioni non è uno standard più leggero ma una traccia documentale più leggera.

Le esenzioni sono reali, e sono esenzioni dall'essere interrogati. Non sono esenzioni dalla risposta. Un'organizzazione di trenta persone che non è in grado di dire cosa misuri il suo strumento di screening si trova nella stessa posizione legale di un'organizzazione di trentamila che non può farlo, con meno risorse per risolvere la questione e, se è un'organizzazione guidata da una missione, considerevolmente di più da perdere quando la domanda viene posta pubblicamente.

Riferimenti

• American Civil Liberties Union, ACLU of Colorado, Public Justice, e Eisenberg & Baum LLP. Reclamo presentato alla Colorado Civil Rights Division e alla U.S. Equal Employment Opportunity Commission, 19 marzo 2025.
• Americans with Disabilities Act of 1990, Title I, 42 U.S.C. § 12112; Title VII of the Civil Rights Act of 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
• California Consumer Privacy Act, Cal. Civ. Code § 1798.140, definizione di covered business; proposta di regolamento della California Privacy Protection Agency sulle tecnologie decisionali automatizzate, avanzata alla fase di regolamentazione formale nel novembre 2024.
• Colorado Senate Bill 24-205, firmato il 17 maggio 2024, con data di entrata in vigore prevista per il 1° febbraio 2026.
• EEOC v. iTutorGroup, Inc., No. 1:22-cv-02565 (E.D.N.Y.), decreto consensuale, agosto 2023.
• Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), ordinanza sulla richiesta di archiviazione, luglio 2024.
• New York City Local Law 144 del 2021, Automated Employment Decision Tools.
• U.S. Department of Labor e Partnership on Employment & Accessible Technology, AI and Inclusive Hiring Framework, settembre 2024.
• U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 maggio 2022; rimosso dal sito web dell'agenzia il 27 gennaio 2025.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607, incluso § 1607.15A(1); requisiti di tenuta dei registri dell'EEOC, 29 C.F.R. Part 1602.