L'eccezione dello sviluppo: piattaforme di mobilità interna e il perimetro della governance dell'IA nell'occupazione

Il confine che nessuna norma traccia

La governance istituzionale dell'IA nel lavoro ha convogliato, con notevole coerenza, su un confine che non compare in nessun testo normativo. Il confine separa l'assunzione dallo sviluppo. I sistemi che valutano i candidati esterni sono trattati come tecnologia decisionale e ricevono l'apparato corrispondente: audit sui bias, informativa ai candidati, documentazione del fornitore e revisione legale. I sistemi che valutano i dipendenti esistenti per opportunità interne sono trattati come tecnologia di sviluppo e vengono acquisiti secondo standard di revisione appropriati a una piattaforma di gestione dell'apprendimento.

La distinzione è intuitiva dal punto di vista amministrativo. I candidati esterni sono estranei all'organizzazione, e l'organizzazione deve loro un processo. I candidati interni sono già assunti, già conosciuti, già all'interno del rapporto. Estendere loro un'opportunità si presenta come un beneficio conferito piuttosto che come una decisione resa. La distinzione è anche rafforzata a livello organizzativo, poiché le piattaforme di mobilità interna sono tipicamente sponsorizzate da funzioni di sviluppo dei talenti, finanziate in base a obiettivi di coinvolgimento e fidelizzazione, e valutate su metriche di adozione piuttosto che sulla qualità delle decisioni.

Né la tecnologia né il testo normativo sostengono questa distinzione. Una piattaforma di mobilità interna che deduce la capacità del dipendente da curriculum, storie di progetti, registri di apprendimento, dati di performance e segnali comportamentali, e poi classifica i dipendenti rispetto alle posizioni interne aperte, sta generando una valutazione che influisce materialmente sulla promozione, sulla retribuzione e sull'assegnazione. Si tratta di una decisione rilevante su una persona. La circostanza che la persona si sia offerta volontariamente per la piattaforma, e che l'organizzazione descriva il risultato come una raccomandazione, non altera la natura della determinazione in atto.

Ciò che il perimetro copre realmente

La Local Law 144 di New York City è applicabile dal luglio 2023 e riguarda gli strumenti decisionali automatizzati per l'impiego utilizzati per assistere sostanzialmente o sostituire il processo decisionale discrezionale per le decisioni relative all'impiego. La norma stabilisce esplicitamente che copre l'assunzione e la promozione. I suoi obblighi sono procedurali piuttosto che sostanziali: un audit sui bias indipendente condotto nell'anno precedente, la pubblicazione pubblica del sommario dell'audit e un preavviso agli individui interessati. Le sanzioni si accumulano per ogni violazione, e l'uso continuato è trattato come violazione continuata.

Un'organizzazione che ha commissionato audit sui bias per la propria selezione di candidati esterni, trattando al contempo il proprio mercato interno dei talenti come fuori ambito, ha tracciato una linea che l'ordinanza non riconosce. Laddove il sistema interno assegna punteggi o classifica i dipendenti per posizioni che costituiscono promozione, l'obbligo di audit si applica. Le evidenze pubbliche non indicano ancora quanto coerentemente le autorità di applicazione abbiano raggiunto le implementazioni di mobilità interna, ma l'assenza di applicazione finora è una base debole per una posizione di conformità, in particolare laddove l'esposizione si accumula quotidianamente.

Il modello si estende oltre New York. L'HB 3773 dell'Illinois, promulgata nell'agosto 2024 e prevista entrare in vigore il 1° gennaio 2026, modifica l'Illinois Human Rights Act per vietare l'uso dell'intelligenza artificiale che produce effetti discriminatori su classi protette, per vietare l'uso dei codici postali come proxy per caratteristiche protette, e per richiedere un'informativa ogniqualvolta l'intelligenza artificiale sia utilizzata in decisioni riguardanti reclutamento, assunzione, promozione, disciplina o licenziamento. L'obbligo di informativa si applica all'uso, non al risultato. La disposizione sulla discriminazione è applicabile tramite l'Human Rights Act, che prevede una via privata di ricorso.

Il SB 24-205 del Colorado, promulgato nel maggio 2024 e previsto entrare in vigore il 1° febbraio 2026, identifica le decisioni relative all'impiego come decisioni rilevanti e impone ai deployer un dovere di ragionevole diligenza contro la discriminazione algoritmica, insieme a programmi di gestione del rischio, valutazioni d'impatto e obblighi di divulgazione. La norma è stata firmata con una lettera di accompagnamento del governatore che sollecita una revisione legislativa prima dell'attuazione, e ha attirato una pressione di emendamento costante. La sua forma finale è incerta. Tale incertezza è di per sé una considerazione di governance piuttosto che un motivo per rinviare, poiché un'organizzazione che calibra i propri controlli interni sul regime che si rivela più debole dovrà ricalibrarli a ogni sessione legislativa.

Il Civil Rights Council della California sta sviluppando regolamenti relativi ai sistemi decisionali automatizzati nell'impiego, e la direzione di tale regolamentazione è coerente con il modello sopra descritto. Nell'Unione Europea, il Regolamento (UE) 2024/1689 è entrato in vigore nell'agosto 2024 e designa i sistemi di intelligenza artificiale destinati all'uso nell'impiego, nella gestione dei lavoratori e nell'accesso al lavoro autonomo come ad alto rischio ai sensi dell'Allegato III, includendo esplicitamente i sistemi utilizzati per prendere decisioni che riguardano la promozione, l'assegnazione di compiti e la valutazione della performance lavorativa. Gli obblighi per tali sistemi sono previsti applicarsi a partire dall'agosto 2026. Il testo dell'Allegato III è rivolto alla funzione svolta piuttosto che alla categoria di prodotto commercializzata, e i motori di mobilità interna svolgono le funzioni enumerate.

Il problema delle evidenze

Il caso aziendale per la mobilità interna abilitata dall'IA circola in una forma che non resisterà al controllo degli acquisti. Cifre che affermano che queste piattaforme riducono l'abbandono del lavoro di un terzo, o che gli strumenti di coinvolgimento aumenteranno la fidelizzazione di un quarto entro un anno indicato, si propagano attraverso aggregazioni di contenuti di fornitori in cui ogni affermazione porta un'attribuzione di fonte che rimanda a un'altra aggregazione. Lo studio sottostante, quando viene cercato, generalmente non esiste.

Una seconda distorsione, più rilevante, riguarda l'attribuzione errata di ricerche autentiche. Il Workplace Learning Report di LinkedIn e il relativo Career Development Index rilevano che le organizzazioni che si collocano nel quintile superiore in termini di maturità dello sviluppo della carriera, misurata attraverso impegni dichiarati, linguaggio degli annunci di lavoro, prevalenza delle competenze di leadership e livelli di mobilità interna, mostrano tassi materialmente più alti di promozione verso ruoli di leadership, una permanenza più lunga dei dipendenti e un maggiore coinvolgimento dei discenti rispetto alle organizzazioni nel quintile inferiore. Questo è un risultato relativo all'investimento organizzativo nello sviluppo della carriera. Viene regolarmente riformulato nei materiali dei fornitori come un risultato relativo all'effetto degli strumenti di intelligenza artificiale, il che non è ciò che è stato misurato né ciò che i gruppi di confronto distinguono.

Ciò che il resoconto credibile sostiene è più circoscritto. Diverse grandi imprese, tra cui Unilever, HSBC e Schneider Electric, hanno pubblicamente attribuito riduzioni significative dell'abbandono volontario alle implementazioni dei mercati interni dei talenti. Le previsioni degli analisti hanno proiettato un'adozione sostanziale tra le grandi imprese. Le evidenze di casi indicano tempi di riempimento interno più rapidi e una riduzione della spesa per i collaboratori esterni. Si tratta di risultati operativi autodichiarati e stime previsionali piuttosto che valutazioni controllate, e dovrebbero essere caratterizzati come tali in qualsiasi caso aziendale che verrà letto da un revisore, da un regolatore o dalla controparte legale. La distinzione tra un risultato che un'organizzazione ha osservato dopo l'implementazione e un effetto attribuibile al sistema è la distinzione che la governance esiste per preservare.

L'affermazione sul bias richiede evidenze, non rassicurazioni

La giustificazione più comune avanzata per la mobilità interna algoritmica è che riduce il bias. L'argomentazione ha una premessa difendibile. La promozione discrezionale controllata dal manager porta a disparità ben documentate, l'accaparramento dei talenti sopprime la visibilità dei dipendenti, e l'opacità riguardo alle posizioni interne aperte distribuisce le opportunità in modo diseguale. La trasparenza su quali ruoli esistono e chi può candidarsi ha un valore indipendente.

La coerenza non è equità.

La conclusione non deriva dalla premessa. Un sistema di mobilità interna addestrato sulla storia di avanzamento dell'organizzazione stessa riprodurrà i modelli presenti in quella storia con maggiore coerenza, applicazione più ampia e minore tracciabilità rispetto ai manager il cui giudizio integra. La coerenza non è equità. L'abbandono dello strumento sperimentale di reclutamento di Amazon, dopo che è stato riscontrato che svantaggiava le donne, rimane la dimostrazione duratura che i dati di addestramento storici codificano risultati storici, e il caso riguardava l'assunzione esterna, dove il segnale di addestramento è relativamente scarso. I sistemi di mobilità interna operano sul registro accumulato del rapporto di lavoro stesso, inclusi le valutazioni delle prestazioni, le assegnazioni di progetto e le valutazioni dei manager, ciascuna delle quali porta la propria storia distributiva.

La conseguenza di governance è che un'affermazione di riduzione del bias è un'asserzione fattuale che richiede evidenze, non un'intenzione progettuale che possa essere semplicemente dichiarata. Secondo uno standard di impatto differenziato del tipo adottato dall'Illinois, la convinzione in buona fede di un datore di lavoro che uno strumento migliori l'equità non risponde alla domanda se i risultati differiscano tra le classi protette. Solo il test dei risultati risponde a quella domanda.

Implicazioni di governance

La raccomandazione operativa è che i sistemi di mobilità interna vengano portati all'interno del perimetro di governance dell'IA per l'impiego al momento dell'acquisizione piuttosto che al momento dell'incidente.

La documentazione di acquisizione dovrebbe richiedere al fornitore di dichiarare, in linguaggio contrattuale, se i risultati del sistema sono utilizzati per prendere, guidare o influenzare materialmente decisioni riguardanti la promozione, la retribuzione, l'assegnazione o la continuazione del rapporto di lavoro. Questa formulazione, piuttosto che la categoria di prodotto sotto cui il sistema viene commercializzato, determina la copertura regolamentare in tutti i regimi esaminati sopra. Un fornitore riluttante a caratterizzare i propri risultati in questi termini ha comunicato qualcosa di utile.

La documentazione dell'audit sui bias dovrebbe essere richiesta come condizione per l'aggiudicazione piuttosto che richiesta dopo l'implementazione, e dovrebbe identificare la metodologia dell'audit, le categorie di classi protette esaminate, se sia stata effettuata un'analisi intersezionale, la popolazione su cui l'audit è stato condotto, e la data. Un audit condotto sulla popolazione aggregata dei clienti di un fornitore non è un audit dei risultati dell'organizzazione che implementa il sistema, e la distinzione dovrebbe essere registrata piuttosto che presupposta.

La documentazione del modello dovrebbe identificare la provenienza dei dati di addestramento e le caratteristiche su cui si basano le inferenze, con conferma esplicita che nessuna variabile geografica, educativa o derivata dall'anzianità funzioni come proxy per una caratteristica protetta. I flussi di lavoro di informativa e di azione avversa dovrebbero essere specificati contrattualmente piuttosto che lasciati all'implementazione, poiché gli obblighi di informativa previsti dalle norme esaminate si applicano al datore di lavoro che implementa il sistema indipendentemente da ciò che il fornitore ha costruito. Il linguaggio di indennizzo merita particolare attenzione, poiché il modello emergente nella legislazione statale limita il trasferimento della responsabilità per discriminazione ai fornitori.

Nulla di tutto ciò costituisce un argomento contro la mobilità interna abilitata dall'IA. La motivazione relativa ai talenti è sostanziale, e l'alternativa di un gatekeeping discrezionale opaco non è evidentemente superiore. L'argomentazione è che una categoria di sistema commercializzata come iniziativa di esperienza del dipendente è funzionalmente infrastruttura decisionale rilevante, che il perimetro normativo la raggiunge già, e che le organizzazioni che lo scoprono dopo l'implementazione dovranno applicare retroattivamente la governance a strumenti che hanno plasmato l'avanzamento per diversi cicli. Il punto meno costoso in cui governare un tale sistema è prima che venga acquisito.

Riferimenti

• Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024 che stabilisce regole armonizzate sull'intelligenza artificiale, Allegato III(4).
• New York City Administrative Code § 20-870 e seguenti (Local Law 144 del 2021); norme finali del Department of Consumer and Worker Protection, in vigore dal 5 luglio 2023.
• Illinois House Bill 3773, 103° General Assembly (2024), che modifica l'Illinois Human Rights Act, in vigore dal 1° gennaio 2026.
• Colorado Senate Bill 24-205, Concerning Consumer Protections in Interactions with Artificial Intelligence Systems (2024), in vigore dal 1° febbraio 2026.
• LinkedIn Learning, Workplace Learning Report 2025, e la metodologia associata del Career Development Index.
• Dastin, J. “Amazon scraps secret AI recruiting tool that showed bias against women.” Reuters, 10 ottobre 2018.
• McKinsey & Company, “Tenere a bada il turnover con un marketplace interno dei talenti,” McKinsey Talks Talent.