Sintesi esecutiva
L'intelligenza artificiale per la lingua dei segni, sia che venga realizzata per il riconoscimento, la traduzione o la generazione basata su avatar, dipende strutturalmente dalla cattura video o biometrica di utenti Deaf e con ipoacusia. Questa dipendenza crea un problema di governance dei dati che ha ricevuto un esame istituzionale molto minore rispetto ai fallimenti linguistici e di comprensione documentati nei numeri precedenti di questa serie. In tutto il panorama dei fornitori che NCG ha esaminato nell'ambito del framework SLAT (Sign Language Access Trust), la divulgazione di cosa viene raccolto, per quanto tempo viene conservato, se viene utilizzato per addestrare modelli futuri e se viene condiviso con terze parti è incoerente nella migliore delle ipotesi e assente nella peggiore. Non si tratta di un'affermazione secondo cui un particolare fornitore abbia agito in malafede. Le prove pubbliche non supportano ancora l'attribuzione di intenzionalità a nessuna azienda citata, e questo numero non effettua tale attribuzione. Si tratta piuttosto dell'affermazione che il mercato non ha ancora sviluppato uno standard di divulgazione adeguato alla sensibilità dei dati coinvolti, e che questa lacuna rappresenta un fallimento di governance indipendente dalla condotta di un singolo fornitore. La posizione politica di seguito sostiene che l'adeguatezza del consenso e della divulgazione dovrebbe essere trattata come criterio di esclusione negli appalti, non come considerazione secondaria affrontata dopo la valutazione funzionale.
Problema di Policy
La cattura della lingua dei segni è cattura biometrica. Il video delle mani di chi segna, della grammatica facciale e della posizione del corpo non è un input incidentale, paragonabile a una frase digitata inviata a un sistema basato su testo. È univocamente identificativo, codifica per definizione informazioni sullo stato di disabilità, e in molte giurisdizioni soddisfa la definizione normativa di dati biometrici o di categoria speciale soggetti a una protezione rafforzata. Il Biometric Information Privacy Act (BIPA) dell'Illinois, ad esempio, richiede un avviso scritto e il consenso prima della raccolta di identificatori biometrici, e impone responsabilità indipendentemente dalla prova di un danno effettivo. Il GDPR (General Data Protection Regulation) dell'Unione Europea classifica i dati che rivelano informazioni correlate alla disabilità, e alcuni dati biometrici utilizzati per l'identificazione, come dati di categoria speciale ai sensi dell'Articolo 9, richiedendo una base giuridica esplicita oltre al consenso ordinario. Il CCPA (California Consumer Privacy Act) e il CPRA (California Privacy Rights Act) della California impongono i propri obblighi di divulgazione e di opt-out per le informazioni biometriche.
Nonostante questo panorama normativo, i prodotti di intelligenza artificiale per la lingua dei segni rivolti ai consumatori si affidano spesso a termini di servizio generici che non sono stati redatti pensando agli utenti Deaf o alla cattura biometrica. Tre carenze ricorrenti sono visibili negli snapshot dei fornitori che NCG ha condotto: in primo luogo, nessuna divulgazione separata o ben visibile del fatto che l'input video costituisce dati biometrici soggetti a specifiche protezioni normative; in secondo luogo, nessuna dichiarazione chiara sul fatto che il video catturato o le caratteristiche derivate vengano conservati per l'addestramento del modello, e in tal caso per quanto tempo e con quali diritti di cancellazione; in terzo luogo, nessuna divulgazione in formato accessibile, il che significa che il testo del consenso stesso spesso non è tradotto in ASL né presentato in un formato utilizzabile dalla popolazione i cui dati vengono raccolti. Quest'ultimo punto non è un dettaglio tecnico. Un regime di divulgazione che richiede alfabetizzazione in una seconda lingua scritta per comprendere cosa venga fatto con i propri dati biometrici non funziona come consenso informato per una popolazione per la quale l'alfabetizzazione in inglese varia ampiamente e per la quale l'ASL è la lingua primaria di comprensione.
La cattura della lingua dei segni è cattura biometrica.
Analisi Istituzionale
Le dinamiche istituzionali che producono questa lacuna sono strutturali piuttosto che cospirative. L'intelligenza artificiale per la lingua dei segni è una categoria di prodotto giovane, e la maggior parte dei fornitori sono piccole aziende che operano sotto gli stessi modelli generici di informativa sulla privacy utilizzati in tutto il settore del software, adattati minimamente, se non per nulla. I processi di approvvigionamento a livello istituzionale, nel frattempo, hanno storicamente valutato questi prodotti su criteri funzionali: l'avatar rende in modo comprensibile, il sistema di riconoscimento raggiunge un'accuratezza accettabile, il fornitore ha personale Deaf coinvolto nello sviluppo. La governance dei dati è stata trattata come una questione di conformità legale o informatica affrontata dopo la decisione sostanziale di approvvigionamento, ammesso che venga affrontata affatto. Questa sequenza è il vero fallimento di governance. Nel momento in cui emerge una carenza di governance dei dati, sia tramite una violazione, un'indagine normativa o una critica pubblica da parte della comunità Deaf i cui dati erano coinvolti, il rapporto istituzionale e l'impegno finanziario sono già consolidati, e la leva per esigere una correzione è di conseguenza più debole.
Esiste anche una questione di provenienza dei dati di addestramento che si colloca accanto al problema del consenso ma che è analiticamente distinta da esso. Diversi sistemi di intelligenza artificiale per la lingua dei segni sono stati costruiti in parte su corpus video tratti da contenuti pubblicati pubblicamente, inclusi contenuti creati da utenti ASL Deaf ed educatori su piattaforme social. Se tale uso rientri nell'ambito dei termini di servizio della piattaforma stessa, se costituisca fair use ai sensi della legge sul copyright, e se gli individui il cui segnare appare in quel filmato siano stati informati in modo significativo del fatto che il loro contenuto sarebbe stato utilizzato per addestrare un sistema di intelligenza artificiale commerciale, sono domande aperte che NCG non ha verificato indipendentemente per nessun fornitore specifico e che non vengono qui affermate come fatti accertati. Il punto ai fini della governance è che i responsabili degli appalti che valutano questi sistemi non hanno quasi alcuna visibilità sulla provenienza dei dati di addestramento, e le attuali norme di divulgazione del settore non richiedono ai fornitori di fornirla.
Implicazioni per la Governance
Un'istituzione che acquista intelligenza artificiale per la lingua dei segni non è semplicemente un acquirente di uno strumento di traduzione. Laddove il sistema operi su video dal vivo di studenti, pazienti, dipendenti o membri del pubblico, l'istituzione è anche un titolare o responsabile del trattamento dei dati ai sensi della maggior parte dei quadri normativi sulla privacy applicabili, ed eredita l'esposizione di governance dalle pratiche sui dati del proprio fornitore, indipendentemente dal fatto che tale esposizione sia stata divulgata al momento dell'acquisto. Un'istituzione che non ha verificato le pratiche di raccolta, conservazione e utilizzo per l'addestramento del fornitore prima della distribuzione non può dichiarare ai propri portatori di interesse, agli organi regolatori o alle persone Deaf i cui dati vengono catturati, di aver adempiuto ai propri obblighi di protezione dei dati. Ciò è vero indipendentemente dalla condotta effettiva del fornitore, perché l'assenza di una divulgazione verificata è di per sé il difetto di governance, a prescindere dal fatto che un determinato fornitore si riveli gestire i dati in modo responsabile.
Posizione politica di NCG
La posizione di NCG è che l'adeguatezza della governance dei dati e della divulgazione sulla privacy dovrebbe funzionare come criterio di esclusione negli appalti di intelligenza artificiale per la lingua dei segni, valutata prima delle prestazioni funzionali anziché dopo. L'incapacità di un fornitore di produrre una divulgazione chiara, accessibile in ASL e appropriata alla giurisdizione su quali dati biometrici vengano raccolti, per quanto tempo vengano conservati, se e come vengano utilizzati nell'addestramento del modello, e quali diritti di cancellazione esistano, dovrebbe essere considerata squalificante per la distribuzione istituzionale indipendentemente dalle prestazioni linguistiche o tecniche in altri ambiti della valutazione. Questa posizione è già operazionalizzata negli ambiti Governance dei Dati e Privacy e Trasparenza e Divulgazione del framework SLAT, e questo numero sostiene che tali ambiti meritino una ponderazione maggiore rispetto all'attuale calibrazione del framework, data l'esposizione normativa a cui le istituzioni sono soggette e la barriera di comprensione che un linguaggio di consenso non accessibile crea per la popolazione interessata.
Considerazioni sull'Implementazione
I responsabili degli appalti che valutano l'intelligenza artificiale per la lingua dei segni dovrebbero richiedere, come condizione per la risposta del fornitore, una divulgazione scritta sulla governance dei dati che copra i quattro elementi sopra indicati, chiedere che tale divulgazione sia disponibile in formato video ASL oltre che in inglese scritto, e trattare il rifiuto o l'incapacità del fornitore di produrre tale divulgazione come un riscontro negativo indipendente dalle prestazioni funzionali del sistema. Le istituzioni con implementazioni già esistenti dovrebbero condurre una revisione retrospettiva anziché attendere il rinnovo del contratto, dato che l'esposizione di governance matura dalla data di distribuzione e non dalla data di scoperta. Laddove la provenienza dei dati di addestramento di un fornitore non possa essere verificata, le istituzioni dovrebbero richiedere garanzie contrattuali relative alla provenienza lecita dei dati, anziché trattare l'assenza di una risposta come un'incognita neutrale.
Riferimenti
- Biometric Information Privacy Act, 740 ILCS 14 (Illinois).
- California Consumer Privacy Act del 2018, come modificato dal California Privacy Rights Act, Cal. Civ. Code § 1798.100 e seguenti.
- Regolamento (UE) 2016/679 (Regolamento Generale sulla Protezione dei Dati), Art. 9.
- Federal Trade Commission Act, 15 U.S.C. § 45 (atti o pratiche sleali o ingannevoli).
- Novara Consulting Group, Sign Language Access Trust (SLAT) Framework, 2026.