Il verbale appartiene al segnante: una risposta a Jeff Panasuik

In breve

"The Second Language Condition" di Jeff Panasuik ^[7] sostiene che SL2T di Google DeepMind ha eliminato la glossa ma ha mantenuto la logica organizzativa che la glossa serviva a rendere visibile: un obiettivo di output in inglese scritto che decide cosa conta come successo e cosa diventa il registro autorevole. Egli legge il mio "The Coordinates of Trust" ^[5] come accurato all'interno di una cornice di governance e limitato da essa, e conclude chiedendo all'Indice SLAT quale tutela dia a un'istituzione qualcosa che essa non può reinterpretare, negoziare via o ignorare silenziosamente.

Accetto senza riserve la sua correzione metodologica, e accetto che la direzione sia una proprietà dell'architettura piuttosto che solo della distribuzione. Dove mi distacco da lui è nell'affermazione che governance e architettura si collochino su assi separati. Ogni condizione che egli indica come capace di cambiare la sua lettura è una condizione di governance, e il problema architetturale che individua trova risposta proprio in una di esse: la fonte segnata, non l'output in inglese, deve essere il registro di ciò che una persona Deaf ha detto, e il diritto a un interprete umano qualificato deve appartenere alla persona Deaf piuttosto che all'istituzione che acquista il sistema.

Ciò che Jeff coglie nel segno

Il punto metodologico è fondato, e voglio ammetterlo chiaramente invece di gestirlo. "The Coordinates of Trust" ha analizzato una tecnologia di accesso per persone Deaf utilizzando due documenti prodotti attraverso un processo convocato, facilitato e finanziato dallo sviluppatore ^[4][1]. Non ha documentato alcuna fase di verifica Deaf, non ha presentato alcuna valutazione indipendente dell'output del modello rilasciato, e non ha citato alcuna fonte in lingua dei segni. Jeff è attento a precisare che non sta affermando che quelle fasi non siano mai avvenute, solo che la mia analisi pubblicata non dimostra che siano avvenute. Questa è la stessa distinzione tra assenza e non documentazione che il mio articolo chiedeva a DeepMind, e vincola il mio lavoro esattamente come vincola il loro. La mia conclusione secondo cui la valutazione più solida rivolta alla comunità, collegata a una build pre-rilascio, ha individuato una lacuna nel registro dello sviluppatore; Jeff ha ragione nel dire che il mio articolo ha nominato la lacuna senza colmarla.

Ha anche ragione su dove si collocasse la glossa nella vicenda. Eliminare la glossa è stata la decisione architetturale più forte del rilascio, e una critica che non può riconoscerlo non si confronta davvero con il sistema. La sua lettura delle modalità di fallimento dichiarate come un pattern piuttosto che un elenco è la cosa più utile del suo articolo. La grammatica non manuale, la profondità e il contatto, i riferimenti ambientali, la lingua e il discorso tra turni non sono cinque lacune ingegneristiche scollegate tra loro. Sono le parti di una lingua dei segni per cui un obiettivo scritto lineare non ha posto, e le mani, che un obiettivo scritto può ricevere, sono ciò che il sistema cattura meglio.

Dove le cornici si incontrano

Jeff scrive che la qualità della governance e la direzione architetturale sono assi separati, e che una lettura di conformità può misurare il primo senza definire la seconda. Come descrizione di ciò che una singola revisione documentale può fare, questo è corretto. Come descrizione di come l'architettura effettivamente cambia, penso sia incompleto, e la sua stessa sezione conclusiva mostra il perché.

Si considerino le cinque condizioni che egli afferma cambierebbero sostanzialmente la sua lettura: firmanti Deaf che detengono la maggioranza dei voti di governance e della discrezionalità di bilancio; consenso collettivo libero, previo e informato sul corpus; dichiarazioni sui dati e schede modello pubblicate che coprano consenso, compenso e copertura non manuale; valutazione rispetto a una regolamentazione vincolante; e un interprete qualificato garantito nel contratto di approvvigionamento. Nessuna di queste è una specifica architetturale. Ciascuna è un'affermazione su chi decide, chi acconsente, cosa deve essere divulgato, quale legge si applica e cosa un contratto deve garantire. Sono condizioni di governance, e sono buone condizioni.

Questa convergenza è il punto. Un obiettivo di output non è una legge di natura; è una scelta progettuale fatta da persone con l'autorità di farla, finanziata da acquirenti che la accettano, e mantenuta in essere da regimi di valutazione che la premiano. Jeff ha ragione nel dire che una checklist di conformità non può vedere il corridoio dietro una porta chiusa a chiave. Ma gli unici strumenti che hanno mai ridirezionato un corridoio sono quelli che cambiano chi detiene le chiavi: l'autorità decisionale, i termini contrattuali vincolanti e i requisiti probatori che un fornitore non può soddisfare semplicemente descrivendo le proprie intenzioni. La governance non è un asse diverso dall'architettura. È la leva con cui l'architettura viene contestata.

La direzione, rivisitata

Il mio argomento originale era che SL2T è un sistema di comprensione: la macchina legge la persona Deaf e una parte udente legge la macchina. Quando un avatar segna male a uno spettatore Deaf, il danno è un accesso fallito. Quando un modello trascrive male un firmante Deaf, il danno è un'attribuzione errata, perché parole che la persona non ha mai prodotto possono entrare in un registro scritto a suo nome. Ho trattato questo rischio come qualcosa che l'ambito d'uso supportato contiene finché l'ambito regge.

La correzione di Jeff è che il confinamento non cambia la direzione. Una porta chiusa a chiave può impedire l'ingresso, ma non cambia dove conduce il corridoio, e gli stessi materiali di rilascio anticipano API cloud, possibili pesi aperti, più lingue e, eventualmente, la generazione. Una volta che gli integratori detengono la capacità, il pubblico destinatario del confine non è più l'utente Deaf ma il datore di lavoro, la scuola, il servizio di polizia o l'ufficio prestazioni che decide come integrarlo. Lo accetto. La direzione è una proprietà del sistema, e il mio articolo ha sottostimato quanto l'ambito sia destinato a essere temporaneo.

Ciò che aggiungerei riguarda ciò che ne consegue per chi valuta. Se la direzione è architetturale, allora ogni distribuzione di un sistema da segni a testo eredita per default il rischio di attribuzione errata, e l'onere dovrebbe ricadere su chiunque voglia inserire l'output della macchina in un registro, non sulla persona Deaf che deve individuare l'errore in seguito. Questo riformula la questione di governance. Non si tratta più di sapere se il fornitore ha tracciato un confine attorno agli usi pericolosi. Si tratta di sapere se qualcosa impedisce che l'output diventi il registro fin dall'inizio.

La precondizione, e dove dovrebbe risiedere la verifica

Il passaggio più forte dell'articolo di Jeff riguarda l'assunzione, propria del rilascio, che gli utenti abbiano una sufficiente alfabetizzazione funzionale in inglese per verificare il testo generato. Ho descritto questo come un rischio residuo che grava maggiormente sugli utenti che uno strumento basato sui segni potrebbe servire meglio. Jeff sostiene che si tratta di più di una distribuzione del rischio: è il modo in cui funziona la tutela principale, perché il firmante resta nel ciclo come verificatore ma deve verificare in inglese scritto. Cita uno studio del 2026 su utenti adulti Deaf dell'ASL ^[6]. Lo studio non ha testato la traduzione AI, e Jeff lo dichiara, ma è sufficiente a dimostrare che una tutela che richiede a un firmante di verificare un inglese fluente non può essere data per scontata come ugualmente disponibile per tutti coloro che il sistema afferma di servire.

Sono d'accordo, e penso che il rimedio derivi direttamente dalla sua stessa analisi di ciò che il sistema tratta come registro autorevole. Se l'output in inglese è il registro, la verifica deve avvenire in inglese, e la precondizione è inevitabile. Se la fonte segnata è il registro, non lo è. Il video segnato originale, mantenuto sotto il controllo del firmante, diventa la prova di ciò che la persona ha detto, e il testo in inglese diventa ciò che effettivamente è: una resa, attribuibile a una macchina, senza alcuno status di parole della persona finché la persona non l'ha confermata nella propria lingua. La conferma può quindi assumere forme che non dipendono affatto dall'alfabetizzazione in inglese, inclusa la revisione della resa da parte di un interprete qualificato o di un intermediario Deaf scelto dal firmante, e il diritto della persona di contestare la resa rispetto alla fonte.

Questo non è tanto un principio nuovo quanto uno familiare applicato a un nuovo artefatto. Una trascrizione non è testimonianza; la testimonianza lo è. Una dichiarazione interpretata in un contesto legale viene verificata rispetto al parlante, non il contrario. I sistemi da segni a testo invertono per default questa relazione, e l'inversione è esattamente la continuità con Milano che Jeff individua: la competenza nella lingua maggioritaria diventa la condizione per essere correttamente rappresentati con le proprie parole. Rendere la fonte segnata il registro rimuove questa condizione dalla tutela, pur restando l'inglese scritto l'obiettivo di output del sistema.

Rispondere alla domanda

Jeff chiede quale tutela dia a un'istituzione qualcosa che essa non può reinterpretare, negoziare via o ignorare silenziosamente. La mia risposta è che nessuna tutela detenuta dall'istituzione può superare questo test, perché qualunque cosa l'acquirente detenga, l'acquirente può rinunciarvi. Le tutele che sopravvivono all'approvvigionamento sono quelle che appartengono alla persona Deaf e la accompagnano in ogni distribuzione. Ne indicherei due.

1. Un diritto invocabile dall'utente a un interprete umano qualificato. Non una raccomandazione contenuta in linee guida né un ripiego che l'istituzione può offrire a propria discrezione, ma un termine contrattuale che la persona Deaf può invocare in qualsiasi momento di un'interazione, con un rimedio stabilito in caso di rifiuto e senza alcun potere dell'istituzione di rinunciarvi per conto della persona. Questo risponde alla preoccupazione classificata al vertice dal comitato consultivo stesso, che Jeff nota non essere garantita dai materiali di rilascio. Ha anche un fondamento giuridico che precede l'AI: ai sensi del Titolo II dell'ADA, un ente pubblico deve dare primaria considerazione all'ausilio richiesto dall'individuo [ncg_citep key="cfr35160"], e l'Articolo 9(2)(e) della CRPD indica gli interpreti professionisti di lingua dei segni tra le forme di assistenza dal vivo che gli Stati parte devono fornire [ncg_citep key="crpd2006"]. La scelta spetta già alla persona per legge. L'approvvigionamento dovrebbe smettere di spostarla silenziosamente sull'acquirente.
2. La fonte segnata è il registro. L'inglese generato dalla macchina non entra mai in un fascicolo come parole di una persona Deaf a meno che quella persona non l'abbia confermato nella propria lingua, la fonte segnata sia mantenuta sotto il suo controllo, e qualsiasi controversia venga risolta rispetto alla fonte piuttosto che al testo. Questa è la tutela che risponde alla precondizione di Jeff, perché elimina l'alfabetizzazione in inglese dal percorso di verifica senza fingere che l'obiettivo di output sia cambiato.

Entrambe le tutele condividono una proprietà che manca a un confine fissato dal fornitore. Non sono affermazioni su ciò per cui il sistema non dovrebbe essere usato. Sono diritti che si legano alla persona, e quindi vincolano qualunque integratore, agenzia o datore di lavoro finisca per detenere la capacità, inclusi quelli che arriveranno dopo l'API cloud e i pesi aperti.

Un confine scritto in un PDF riguarda l'intenzione del fornitore. Un diritto detenuto dalla persona Deaf riguarda ogni distribuzione successiva.

Heather M. Grizzle

Cosa questo cambia in SLAT

Jeff ha posto la sua domanda al mio Indice e alle clausole di approvvigionamento nel proprio lavoro, quindi è giusto dire cosa il suo articolo cambia dal mio lato. Tre cose.

Primo, la lacuna metodologica. Una lettura di governance di una tecnologia di accesso per persone Deaf che non documenta alcuna fase di verifica Deaf può descrivere il registro di un fornitore ma non può testarlo in modo indipendente. Sto costituendo un organo di revisione Deaf per l'Indice, e finché non sarà insediato lo dichiarerò in qualunque cosa pubblichi piuttosto che lasciare l'assenza non documentata. Il mio ulteriore lavoro su SL2T porterà questa dichiarazione finché la lacuna non sarà colmata.

Secondo, la validazione dell'output. La conclusione più profonda emersa finora dalle valutazioni SLAT ^[8] è che nessun fornitore ha pubblicato una valutazione indipendente del proprio output segnato. Ho redatto una bozza di protocollo di validazione dell'output che tratta la partecipazione di valutatori Deaf come definitoria piuttosto che aggiuntiva, esclude dal campione i contenuti forniti dal fornitore o dimostrativi, e riporta l'attribuzione errata separatamente dall'accuratezza, in modo che il fallimento che io e Jeff stiamo entrambi descrivendo non possa essere mediato via. È una bozza, e ne pubblico qui l'esistenza affinché io possa essere chiamato a completarla.

Terzo, la regola del registro. L'Indice già chiede se un utente Deaf ha un percorso verso un essere umano qualificato. Non chiede ancora se l'output della macchina possa entrare in un registro come parole di una persona senza la conferma di quella persona nella propria lingua. L'articolo di Jeff mi convince che dovrebbe farlo, e proporrò questo come condizione nella prossima revisione dell'Indice. La domanda su cui si è chiuso merita una risposta migliore di una valutazione di sufficienza, e la migliore risposta che ho è un diritto detenuto dalla persona Deaf piuttosto che una promessa fatta dall'istituzione.