IL QUINTO PARAMETRO: Numero 007: La Questione dell'Autorità

Accessibilità, competenza e il problema della legittimità

Ogni epoca produce tecnologie che sembrano arrivare prima delle istituzioni necessarie a governarle. Le ferrovie hanno trasformato i trasporti prima che emergesse una moderna regolamentazione sulla sicurezza. La radio ha ridisegnato la comunicazione prima che le società stabilissero norme per le licenze e la supervisione. Internet ha collegato miliardi di persone molto prima che governi, educatori e cittadini comprendessero quanto profondamente avrebbe alterato la vita pubblica. L'intelligenza artificiale occupa oggi una posizione simile. Le sue capacità si espandono rapidamente, le sue applicazioni si moltiplicano ogni giorno, e i suoi sostenitori parlano con sicurezza di trasformazione. Eppure, sotto l'entusiasmo, si cela una domanda più silenziosa e più rilevante. Chi ha l'autorità di decidere quando una tecnologia è pronta a diventare parte dei sistemi da cui le persone dipendono?

La domanda appare ingannevolmente semplice. Le società moderne sono abituate a strutture di autorità. I medici ricevono licenze. Gli architetti seguono standard professionali. I produttori di aeromobili si sottopongono a estesi processi di certificazione. I progetti di infrastrutture pubbliche vengono sottoposti a revisione e supervisione. Questi sistemi non sono perfetti, ma riflettono un principio ampiamente accettato: quando le decisioni comportano conseguenze significative per altri, l'autorità non dovrebbe essere determinata solo dall'entusiasmo, dalla competenza o dalla domanda di mercato. Deve essere accompagnata dalla responsabilità. Maggiore è il potenziale impatto, maggiore è la necessità di meccanismi legittimi capaci di valutare il rischio.

Le tecnologie di accessibilità occupano una posizione peculiare in questo panorama. Vengono spesso presentate come strumenti di emancipazione piuttosto che come oggetti di governance. Il loro scopo è rimuovere barriere, aumentare la partecipazione ed espandere le opportunità. Obiettivi di questo tipo sono difficili da contestare. Eppure le buone intenzioni non hanno mai eliminato la necessità di supervisione. Anzi, la storia suggerisce il contrario. Quanto più nobile appare una missione, tanto più facile diventa trascurare le domande su chi possieda l'autorità di definire il successo, valutare la preparazione e accettare il rischio per conto di altri.

Questa tensione diventa particolarmente visibile durante i periodi di innovazione tecnologica. Nuovi sistemi emergono spesso prima che esistano standard per valutarli. I primi utilizzatori sperimentano. I sostenitori promuovono possibilità. I fornitori pubblicizzano capacità. Le istituzioni cercano efficienza. Le comunità cercano inclusione. Ciascun partecipante porta una prospettiva diversa, eppure nessuno possiede necessariamente un'autorità universalmente riconosciuta per determinare quando la sperimentazione debba diventare implementazione. Il risultato è un vuoto di governance in cui le decisioni continuano a essere prese nonostante l'incertezza su chi dovrebbe prenderle.

Il vuoto viene spesso colmato dalla visibilità. Gli individui con influenza acquisiscono autorità attraverso la reputazione. Le organizzazioni guadagnano legittimità attraverso la familiarità. Le tecnologie guadagnano credibilità attraverso l'adozione. Eppure la visibilità non è la stessa cosa della legittimità. La storia contiene innumerevoli esempi di idee che hanno raggiunto popolarità prima di raggiungere affidabilità. I mercati premiano l'innovazione. Non sempre premiano la prudenza. L'entusiasmo del pubblico può accelerare l'adozione, ma l'entusiasmo non può sostituire le prove. Né l'influenza può sostituire la responsabilità.

La visibilità non è la stessa cosa della legittimità.

L'accessibilità presenta un caso particolarmente complesso perché le conseguenze del fallimento sono spesso distribuite in modo diseguale. Coloro che decidono di implementare una tecnologia non sono sempre le stesse persone che ne subiscono le conseguenze quando fallisce. Un funzionario addetto agli acquisti può approvare un sistema. Un fornitore può commercializzarlo. Un pubblico in una conferenza può celebrarlo. Eppure i rischi risultanti possono infine ricadere su individui che dipendono da quel sistema per l'istruzione, l'occupazione, l'assistenza sanitaria, la comunicazione di emergenza o la partecipazione civica. L'autorità di decidere e la responsabilità di convivere con il risultato non si trovano sempre nello stesso luogo.

Questa realtà solleva domande scomode. Chi determina quando una tecnologia di accessibilità è sufficientemente accurata per l'uso pubblico? Chi stabilisce livelli di rischio accettabili? Chi decide quando la trasparenza è adeguata? Chi valuta le affermazioni riguardanti l'efficacia? In molti settori, tali domande verrebbero affrontate attraverso istituzioni formali, standard professionali o quadri normativi. L'innovazione nel campo dell'accessibilità, tuttavia, opera spesso in un ambiente più frammentato. Le decisioni sono distribuite tra fornitori, sostenitori, responsabili degli acquisti, ricercatori, finanziatori e organizzazioni comunitarie. La responsabilità diventa condivisa. L'autorità diventa diffusa. L'accountability diventa difficile da individuare.

La sfida non è una mancanza di competenza. Le comunità dell'accessibilità contengono una straordinaria competenza. I ricercatori contribuiscono con conoscenze tecniche. I professionisti contribuiscono con esperienza professionale. I membri della comunità contribuiscono con la realtà vissuta. I responsabili politici contribuiscono con una prospettiva istituzionale. Il problema è che la sola competenza non risponde alla domanda sull'autorità. La competenza spiega cosa può essere fatto. L'autorità determina chi dovrebbe decidere se ciò debba essere fatto. Confondere questi concetti può produrre sistemi tecnicamente impressionanti ma istituzionalmente fragili.

Questa distinzione è importante perché l'autorità riguarda in definitiva la legittimità. L'autorità legittima non è semplicemente la capacità di influenzare i risultati. È la capacità di giustificare le decisioni nei confronti di coloro che ne sono interessati. Una struttura di autorità legittima può spiegare perché esistono determinati standard, come vengono valutati i rischi e quali meccanismi esistono per la correzione quando si verificano fallimenti. Essa genera fiducia non perché gli errori siano impossibili, ma perché la responsabilità rimane visibile quando gli errori si verificano. La fiducia nasce non dalla perfezione ma dalla gestione responsabile.

Il futuro dell'innovazione nell'accessibilità dipenderà non solo dai progressi nella tecnologia, ma anche dai progressi nella governance. Le società hanno impiegato secoli per sviluppare istituzioni capaci di valutare la sicurezza, gestire il rischio e assegnare responsabilità. L'intelligenza artificiale sfida ora le comunità dell'accessibilità a considerare se strutture comparabili siano necessarie per tecnologie che mediano sempre più la comunicazione, la partecipazione e l'accesso. La domanda non è più se l'innovazione continuerà. Continuerà. La domanda è se l'autorità si svilupperà di pari passo con essa.

La questione di governance più importante del prossimo decennio potrebbe quindi avere poco a che fare con algoritmi, set di dati o metriche di prestazione. Potrebbe invece riguardare un problema molto più antico. Prima che una società possa decidere se una tecnologia è affidabile, deve prima determinare chi possiede l'autorità di esprimere quel giudizio. Finché questa domanda non trova risposta, i dibattiti sull'innovazione resteranno incompleti. Continueremo a chiederci se le tecnologie funzionano, trascurando di chiedere chi abbia deciso che funzionare fosse sufficiente.