Dove si colloca realmente l'esposizione
La maggior parte dell'attenzione rivolta all'intelligenza artificiale nelle risorse umane si è concentrata sulla selezione: chi viene valutato, classificato, promosso, e su quale base. Questo focus è giustificato e questa società ne ha scritto a lungo. Ha anche lasciato quasi del tutto inesaminata l'applicazione in più rapida crescita.
I sistemi generativi vengono ora utilizzati per redigere, aggiornare e localizzare i documenti che costituiscono la posizione legale di un datore di lavoro. Manuali. Procedure di accomodamento. Politiche sui congedi. Descrizioni delle mansioni. Standard disciplinari. Modelli di indagine. Addenda di conformità multi-stato. L'argomento di vendita è che questo lavoro, storicamente lento e costoso, possa essere prodotto istantaneamente e mantenuto costantemente aggiornato al variare delle normative.
La posizione di Novara Consulting Group è che questa applicazione comporta un rischio maggiore e più immediato rispetto alla selezione automatizzata, per una ragione specifica all'artefatto: una politica non è un documento operativo. È una prova. Viene prodotta nei contenziosi, citata nelle indagini delle agenzie, utilizzata dai dipendenti come riferimento, e letta contro il datore di lavoro da persone il cui compito è trovare la discrepanza tra ciò che dice e ciò che è accaduto. Un'organizzazione che ha generato la propria posizione legale senza provenienza ha creato un grande volume di materiale ammissibile su se stessa di cui nessuno nell'organizzazione può rendere conto.
La politica è il reperto
In una controversia di lavoro, la politica scritta del datore di lavoro svolge diverse funzioni contemporaneamente, e ciascuna di esse taglia in profondità.
Stabilisce cosa il datore di lavoro ha comunicato ai dipendenti, il che è rilevante per l'affidamento e, in molti stati e a seconda della redazione e delle clausole di esclusione, per la formazione del contratto. Stabilisce lo standard che il datore di lavoro ha fissato per sé stesso, rispetto al quale verrà misurata la sua condotta nel caso specifico; un datore di lavoro che non ha seguito la propria procedura dichiarata si trova in una posizione sostanzialmente peggiore rispetto a uno la cui procedura era silente. Stabilisce ciò che il datore di lavoro sapeva, poiché una politica che affronta un requisito legale dimostra consapevolezza di esso. E stabilisce la coerenza o la sua assenza, perché una politica applicata in modo diverso a dipendenti diversi è il percorso probatorio ordinario verso un accertamento di discriminazione.
Niente di tutto ciò è nuovo. Ciò che è nuovo è che il documento potrebbe ora essere stato prodotto da un sistema che ottimizza per la plausibilità, da una persona che non è un avvocato, in un processo che non lascia traccia di quale autorità sia stata consultata o quale giudizio sia stato esercitato.
Stabilisce che il datore di lavoro ha adottato una posizione legale senza determinare se fosse corretta.
Quando la controparte chiede chi ha redatto la procedura di accomodamento, su quale base è stata inclusa una determinata disposizione, e quale autorità legale la sostiene, la risposta che un sistema generativo l'ha prodotta e qualcuno l'ha rivista per il tono non è una buona risposta. Non è semplicemente inutile; stabilisce che il datore di lavoro ha adottato una posizione legale senza determinare se fosse corretta.
Autorità allucinate, e perché le risorse umane sono in una posizione peggiore rispetto al reparto legale
La tendenza dei sistemi generativi a produrre citazioni legali sicure e interamente inventate è documentata e ha conseguenze. Nel 2023 un tribunale federale del Distretto Meridionale di New York ha sanzionato avvocati che avevano depositato una memoria contenente decisioni giudiziarie inesistenti, generate da un chatbot e non verificate. Episodi analoghi sono seguiti in numerose giurisdizioni, e lo schema è ormai familiare a chiunque eserciti la professione.
L'osservazione importante per questa discussione è che si trattava di avvocati. Avevano la formazione per riconoscere che una citazione deve essere verificata, l'accesso alle banche dati necessarie per verificarla, e obblighi professionali che rendevano l'errore sanzionabile. L'errore si è comunque verificato ripetutamente.
Un generalista delle risorse umane che redige una politica di congedo multi-stato non ha nessuno di questi vantaggi. Spesso non riesce a stabilire se una disposizione citata esista, non dispone degli strumenti di ricerca per confermarla, e non ha alcun dovere professionale di verifica legato al suo lavoro. Il risultato arriva fluente, strutturato, adeguatamente cauto, e formattato come ogni politica competente che abbia letto. La fluidità è esattamente ciò che questi sistemi producono meglio ed esattamente ciò che un lettore non specialista usa come indicatore di accuratezza.
Gli errori più rilevanti sono anche i meno visibili. Una citazione inventata è almeno verificabile una volta che qualcuno pensa a verificarla. Uno standard leggermente alterato non lo è: una politica che descrive il processo interattivo come avente inizio quando un dipendente presenta la documentazione, anziché quando il datore di lavoro viene a conoscenza della necessità, si legge perfettamente ed è sbagliata in un modo che produrrà un accertamento di mancato accomodamento due anni dopo.
L'allineamento continuo non è il modo in cui funziona la tecnologia
L'affermazione secondo cui un sistema generativo si adatta alle normative in cambiamento tra stati e paesi, garantendo un allineamento continuo, dovrebbe essere considerata falsa a meno che il fornitore non possa descrivere un meccanismo specifico.
Un modello linguistico ha un limite temporale di addestramento. In assenza di recupero da una fonte legale autorevole e aggiornata, esso produce la legge come appariva nei dati di addestramento, senza alcun segnale all'utente che la risposta sia obsoleta. Il diritto del lavoro è tra i peggiori ambiti possibili per questa limitazione: i requisiti di trasparenza salariale, i diritti al congedo retribuito, le restrizioni sui patti di non concorrenza, i divieti sulla storia salariale e le regole di programmazione dei turni si sono moltiplicati e modificati tra giurisdizioni a un ritmo che supera qualsiasi corpus statico. Una politica generata oggi potrebbe descrivere un requisito modificato diciotto mesi fa, e lo farà con sicurezza.
Il caso multi-giurisdizionale è il peggiore anziché il migliore, contrariamente a come viene commercializzato. La localizzazione richiede di sapere quale dei cinquanta e più regimi si applichi, come interagiscono, e dove il requisito locale superi il livello minimo federale. È il compito più dipendente dalla conoscenza specialistica aggiornata e quello in cui un errore ha meno probabilità di essere notato dalla persona che richiede il risultato, proprio perché ha chiesto la localizzazione non sapendola.
Un'organizzazione dovrebbe anche riconoscere la forma di questa affermazione. Nel gennaio 2025 la Federal Trade Commission ha imposto a un fornitore di software di accessibilità di pagare un milione di dollari per dichiarazioni secondo cui il suo prodotto automatizzato poteva rendere qualsiasi sito web conforme agli standard di accessibilità e mantenere tale conformità al variare dei contenuti. La conformità automatica continua a uno standard tecnico è la stessa affermazione, fatta su uno standard diverso, e non è sopravvissuta al contatto con un'autorità di regolamentazione.
La prontezza all'audit è invertita
La proposizione sostiene che la documentazione generata produca prontezza all'audit. Produce l'opposto, e capire il perché chiarisce cosa testano effettivamente questi controlli.
Un revisore, un investigatore di un'agenzia o un esperto di controparte non chiede principalmente se una politica esista. L'esistenza è dimostrabile banalmente. Le domande sono come l'organizzazione ha determinato che questa politica soddisfa il requisito applicabile, chi ha preso quella determinazione, su quale autorità si è basato, quando è stata rivista l'ultima volta rispetto alla legge vigente, e cosa è cambiato nell'ultima revisione e perché.
La documentazione generata non risponde a nessuna di queste domande. Produce l'artefatto distruggendo al contempo il registro che gli conferisce peso. Un'organizzazione con una politica scarna, datata, redatta in modo semplice e una revisione annuale documentata da un avvocato nominato si trova in una posizione sostanzialmente più solida rispetto a una con un insieme di politiche completo, dall'aspetto aggiornato, per tutti i cinquanta stati, la cui origine nessuno sa descrivere.
La descrizione della mansione è uno strumento legale
Un elemento nell'elenco standard merita un trattamento separato, perché viene abitualmente trattato come materiale promozionale ed è in realtà uno dei documenti più rilevanti prodotti dalla funzione.
Secondo l'ADA (Americans with Disabilities Act), un individuo qualificato è colui che può svolgere le funzioni essenziali della posizione, e i regolamenti attuativi identificano le descrizioni scritte delle mansioni preparate prima della pubblicazione dell'annuncio o dei colloqui come prova di quali siano tali funzioni essenziali. Una descrizione delle mansioni generata che elenca compiti che nessuno svolge realmente, o che include requisiti fisici o sensoriali copiati da un modello generico, fa due cose contemporaneamente: esclude candidati che potrebbero svolgere il lavoro, e fornisce al ricorrente il documento stesso del datore di lavoro che mostra che il requisito dichiarato non è mai stato essenziale.
Lo stesso documento ha peso nell'analisi della classificazione esente ai sensi del Fair Labor Standards Act, dove l'indagine verte sui compiti effettivi ma la descrizione scritta è prova di ciò che il datore di lavoro ha rappresentato tali compiti essere. È anche la fonte rispetto alla quale viene valutata la correlazione lavorativa di qualsiasi procedura di selezione ai sensi delle Uniform Guidelines.
Le descrizioni delle mansioni generate sono attraenti perché scriverle è noioso e perché quelle generate si leggono bene. Sono anche il punto in cui una piccola comodità redazionale diventa un problema probatorio, e la sezione sui requisiti fisici è dove ciò accade più spesso.
Il chatbot fornisce consigli di cui il datore di lavoro è vincolato
L'applicazione finale, un assistente di intelligenza artificiale che risponde su richiesta alle domande dei dipendenti sulle politiche, trasferisce un rischio specifico e poco apprezzato.
Un dipendente che chiede informazioni sull'idoneità al congedo, sulla procedura di accomodamento, o sull'instradamento dei reclami e riceve una risposta, l'ha ricevuta dal proprio datore di lavoro. Se il sistema le dice che non ha diritto a un congedo a cui invece ha diritto, e lei non lo prende, il datore di lavoro ha interferito con un diritto statutario, e l'interferenza ai sensi del Family and Medical Leave Act non richiede intenzionalità. Se le dice che il processo di accomodamento richiede documentazione medica che non è obbligata a fornire, e lei abbandona la richiesta, il datore di lavoro ha un problema di mancato accomodamento con un registro scritto del deterrente. Se indirizza un reclamo di molestie verso un canale che non raggiunge mai un decisore, la difesa di notifica del datore di lavoro è compromessa dal suo stesso sistema.
Seguono direttamente tre controlli. Le conversazioni dovrebbero essere registrate e conservate, perché costituiscono dichiarazioni del datore di lavoro e saranno richieste. Qualsiasi richiesta riguardante congedo, accomodamento, reclamo o indagine dovrebbe essere indirizzata a una persona nominata anziché ricevere risposta, poiché queste sono le categorie in cui una risposta errata è perseguibile e in cui il valore di una risposta istantanea è più basso. E l'interfaccia dovrebbe dichiarare chiaramente che fornisce informazioni generali e non determina idoneità o diritto.
Cosa stabilire
Sei elementi, prima che un sistema generativo produca qualcosa su cui l'organizzazione farà affidamento o che un dipendente leggerà.
- Mantenere un registro di provenienza per ogni documento generato: cosa è stato prodotto, quale fonte è stata verificata, da chi, in quale data, e cosa è stato modificato in revisione. Una politica non datata e non attribuita è la modalità di fallimento.
- Richiedere una revisione legale per qualsiasi testo che dichiari uno standard legale, un diritto o una procedura, e trattare il nome del revisore e la data come parte del documento anziché come nota interna.
- Chiedere a qualsiasi fornitore che rivendichi l'aggiornamento normativo di descrivere il meccanismo: quale fonte autorevole viene recuperata, con quale frequenza, e come l'utente viene avvisato quando una disposizione è cambiata. Se la risposta è che il modello è stato addestrato su materiale legale, il prodotto non fa ciò che viene dichiarato.
- Trattate le descrizioni delle mansioni come strumenti giuridici. Esaminate le funzioni essenziali e qualsiasi requisito fisico, sensoriale o comunicativo rispetto a ciò che gli incaricati effettivamente svolgono, e datate la revisione.
- Registrate e conservate le conversazioni dell'assistente rivolte ai dipendenti, e indirizzate a una persona le richieste su congedi, accomodamenti, reclami e indagini.
- Non rappresentate la documentazione generata come prontezza per l'audit, né internamente né esternamente. La prontezza per l'audit è il verbale della revisione, non il documento.
Conclusione
Le ragioni a favore dell'assistenza generativa nella documentazione delle risorse umane sono reali. La stesura è davvero lenta, la funzione è davvero sotto-risorsata, e una prima bozza ben supervisionata è un uso legittimo della tecnologia.
Ciò che rende questa applicazione diversa dalle altre è che il suo output è una prova. I sistemi di selezione producono decisioni che il datore di lavoro potrebbe faticare a ricostruire. I sistemi di documentazione producono dichiarazioni a cui il datore di lavoro sarà vincolato, con la propria voce, per iscritto, in volume, a grande velocità. L'organizzazione che genera il proprio manuale non ha automatizzato una faccenda. Ha scritto la propria parte in una futura controversia senza leggere ciò che ha detto, e incontrerà di nuovo quel documento in condizioni che non controlla.
La disciplina richiesta è modesta: verificare, attribuire, datare e conservare il verbale di chi ha deciso. Quella disciplina è l'intera differenza tra usare lo strumento ed esserne esposti.
Riferimenti
Americans with Disabilities Act del 1990, 42 U.S.C. § 12111(8); 29 C.F.R. § 1630.2(n)(3), prova delle funzioni essenziali comprensiva delle descrizioni scritte delle mansioni preparate prima della pubblicazione dell'annuncio o dei colloqui.
Family and Medical Leave Act, 29 U.S.C. § 2615(a)(1), divieto di interferenza con i diritti tutelati.
Fair Labor Standards Act, 29 U.S.C. § 201 e seguenti, analisi dell'esenzione basata sulle mansioni effettive.
Federal Trade Commission, In the Matter of accessiBe, Inc., File No. 2223156, denuncia e ordinanza proposta annunciate il 3 gennaio 2025.
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023), sanzioni per la presentazione di citazioni giudiziarie fabbricate generate da uno strumento di intelligenza artificiale.
Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607.