Ciò che una contestata multa da autovelox rivela su governance dell'IA, fornitori privati, dati pubblici e responsabilità istituzionale
Novara Consulting Group | AI Governance × Local Government | Agosto 2026
Un residente apre una busta inviata dal suo comune e trova al suo interno un'accusa: la fotografia di un incrocio, una marca temporale, un'immagine ingrandita di una targa e una richiesta di pagamento. Il veicolo è registrato a suo nome. Egli afferma di trovarsi a chilometri di distanza nel momento in cui la fotografia è stata scattata. La domanda istintiva, quella attorno a cui ruotano la maggior parte delle contestazioni di questo tipo, è se la telecamera abbia funzionato correttamente. La targa è stata letta correttamente, il semaforo era davvero rosso, l'apparecchiatura era calibrata e certificata. Queste domande contano, e sono anche le più piccole tra quelle possibili. Supponiamo, per concedere all'istituzione la sua ipotesi migliore, che la risposta a ciascuna di esse sia sì. Supponiamo che la telecamera abbia funzionato esattamente come previsto e che il processo si sia svolto esattamente come stabilito. Il problema di governance resta intatto, perché la telecamera non ha mai osservato ciò che la multa sostiene. Ha osservato un veicolo. La multa accusa una persona.
Un programma di applicazione automatizzata non è una telecamera. È una catena di inferenze. Un sensore osserva un evento. Un software associa l'evento a un record. Un processo amministrativo converte l'associazione in un'accusa. L'accusa avvia un'azione di applicazione contro un individuo nominato. Ogni anello di questa catena è una decisione presa dal governo, indipendentemente dal fatto che qualcuno all'interno dell'istituzione la percepisca come tale, e un ente locale non si sottrae alla responsabilità di queste decisioni inserendo un sistema automatizzato e un appaltatore privato tra sé e il pubblico. Quando la tecnologia osserva un evento, lo associa a un record, genera un'accusa e avvia un'azione di applicazione, ogni inferenza in quella catena deve essere governata. La questione non è semplicemente se la telecamera abbia letto correttamente una targa. È se il governo possa giustificare come la prova relativa a un veicolo si sia trasformata in un'accusa contro una persona.
Una multa contestata è un caso piccolo con posta in gioco piccola, ed è proprio questo che lo rende utile. A questa scala ogni componente del sistema può essere esaminato, e lo schema di fallimento che il caso espone non è specifico delle telecamere per il traffico. È lo schema di fallimento standard dei sistemi decisionali automatizzati impiegati dalle istituzioni pubbliche. Cinque fallimenti meritano attenzione, e nessuno di essi riguarda la telecamera.
L'osservazione è diventata attribuzione
Il sistema avrebbe accertato che un veicolo è entrato nell'incrocio contravvenendo al segnale. Se ciò è accurato, si tratta di un vero traguardo probatorio: un documento fotografico con marca temporale di un evento, prodotto senza la presenza di un agente. Ma l'evento registrato dal sistema non è la condotta che la multa contesta. Il sistema ha accertato cosa ha fatto un veicolo. Non ha accertato nulla su chi fosse alla guida. Il processo di applicazione ha trattato la proprietà registrata come sufficiente per avviare un'accusa, e così facendo ha trasformato un fatto su un oggetto in un'affermazione su una persona senza mai acquisire la prova che tale trasformazione richiede.
Quella trasformazione non è un passaggio tecnico. È un passaggio legale e istituzionale, e nella maggior parte dei regimi di applicazione tramite foto viene realizzata per statuto piuttosto che tramite prova. Le norme sulla responsabilità del proprietario esistono perché identificare i conducenti è difficile e multare i proprietari è amministrativamente semplice, e i legislatori in molti stati hanno fatto questo compromesso deliberatamente, di solito definendo la violazione come civile e collegando la responsabilità al registro di immatricolazione. Un governo può avere il diritto di fare questo compromesso. Non ha il diritto di farlo in modo invisibile. Quando una multa arriva formulata come un accertamento sulla condotta del destinatario mentre il documento sottostante supporta solo un accertamento sulla proprietà del destinatario, l'istituzione ha sopravvalutato le proprie prove. Questo è un fallimento ricorrente nella governance automatizzata in generale: i sistemi producono fatti su oggetti, record e proxy, e le istituzioni promuovono silenziosamente quei fatti ad affermazioni su persone.
La revisione umana potrebbe essere stata più limitata di quanto dichiarato
Programmi di questo tipo vengono abitualmente difesi con una frase che suona come governance: un agente esamina ogni multa prima che venga emessa. Questa frase merita una domanda di approfondimento che raramente riceve, ovvero cosa, esattamente, esamina l'agente. Se la revisione consisteva nel confermare che la targa nella fotografia corrisponde al veicolo nel database di immatricolazione, allora l'essere umano ha convalidato l'unico anello della catena che la macchina gestisce meglio, lasciando intatto l'unico anello che la macchina non può affrontare affatto, ovvero l'identità del conducente. L'inferenza materiale, quella su cui effettivamente si fonda la responsabilità, è passata attraverso il processo senza essere esaminata da nessuno.
"Essere umano nel ciclo" è un'affermazione di governance, non una descrizione dell'organico. Ha peso solo quando l'essere umano è posizionato, autorizzato e attrezzato per valutare l'inferenza che conta, e detiene una vera discrezionalità per fermare il processo quando le prove non lo supportano. Un revisore la cui funzione si limita a confermare ciò che la macchina ha già stabilito non sta esercitando una supervisione; sta esercitando una ratifica. Le istituzioni che pubblicizzano la revisione umana devono al pubblico un resoconto preciso di cosa esamina l'essere umano, cosa l'essere umano è autorizzato a rifiutare, e quanto spesso il revisore effettivamente rifiuta. Laddove tale resoconto non può essere prodotto, la frase sta svolgendo un lavoro di rassicurazione che il processo stesso non sta svolgendo.
L'onere si è spostato sul residente
Il terzo fallimento deriva dai primi due. Poiché il sistema non poteva accertare chi fosse alla guida, e la revisione non ha tentato di farlo, il programma ha risolto la questione dell'identità trasferendola. Invece che il governo accertasse chi avesse commesso la violazione prima di sporgere un'accusa, al proprietario registrato è stato richiesto di avviare un processo amministrativo, fornire informazioni e reindirizzare la responsabilità, in alcuni regimi identificando il conducente effettivo e in altri documentando la propria assenza. La possibilità di contestazione esisteva, ma esisteva solo dopo che il sistema aveva già agito, e la conseguenza predefinita di non fare nulla era la responsabilità. La sequenza conta. Un'accusa che deve essere attivamente smontata è un esercizio di potere diverso da un'accusa che deve prima essere provata.
I tribunali hanno riconosciuto questa struttura in passato. Nel caso State v. Kuhlman (Minn. 2007), la Corte Suprema del Minnesota ha dichiarato invalida l'ordinanza di applicazione tramite foto di Minneapolis, ritenendo che fosse in conflitto con le leggi uniformi sul traffico dello stato e argomentando che la sua presunzione secondo cui il proprietario registrato fosse il conducente eliminava la presunzione di innocenza e spostava l'onere della prova sull'accusato. La lezione di quella decisione non è che l'applicazione automatizzata sia intrinsecamente illegale. È che l'allocazione dell'onere è una decisione di governance di primo ordine. Decidere chi debba provare cosa, a quale costo, con quali tempistiche, e con quali conseguenze per il silenzio è una decisione sul rapporto tra lo stato e le persone che governa. Non può essere ereditata per default dal flusso di lavoro di un fornitore, e i residenti non dovrebbero scoprire per la prima volta come è stata presa quando arriva la busta.
L'applicazione pubblica è stata instradata attraverso un'infrastruttura privata
Ogni elemento dell'accusa risiede da qualche parte, e in un programma gestito da un fornitore gran parte di esso può risiedere al di fuori del governo. Immagini, letture di targhe, marche temporali, ricerche di immatricolazione, record di violazione, dati di pagamento e il contenuto delle contestazioni dei residenti possono transitare attraverso, o essere archiviati su, sistemi costruiti e controllati dall'appaltatore. Il pubblico ha diritto a risposte precise a domande poco affascinanti: chi può accedere alle informazioni e sotto quale autorizzazione; dove sono archiviate e sotto la legge di quale giurisdizione; per quanto tempo vengono conservate, e se la conservazione segue l'esito della multa o la comodità del fornitore; se possano essere riutilizzate, aggregate, analizzate o vendute in qualsiasi forma; e cosa ne sarà di esse quando il contratto terminerà, quando il fornitore verrà acquisito, o quando il fornitore fallirà. Un residente non può sottrarsi all'essere fotografato da un programma di applicazione a un incrocio pubblico. I dati generati sotto quel tipo di esposizione obbligata sono un artefatto dell'autorità pubblica, e la loro governance non può ricadere per default sui termini di un accordo commerciale che il pubblico non ha mai visto.
Queste non sono preoccupazioni ipotetiche in questo particolare mercato. L'applicazione tramite foto ha una storia documentata di incentivi disallineati, comprese strutture retributive che pagavano gli appaltatori per ogni multa emessa, e di corruzione negli appalti, in particolare lo schema di corruzione attorno al programma dei semafori rossi di Chicago, che ha prodotto condanne federali. Il Texas ha risposto ad anni di controversie vietando le telecamere ai semafori rossi su tutto il territorio statale nel 2019. Nulla di tutto ciò dimostra che i fornitori siano attori malintenzionati. Dimostra che i fornitori sono fornitori: aziende private con incentivi commerciali, che operano all'interno di una funzione che dovrebbe rispondere a incentivi del tutto diversi. Questa è una condizione da governare piuttosto che un'accusa da dibattere in tribunale, ed è governabile solo nel contratto.
La responsabilità è diventata abbastanza distribuita da scomparire
Chiedete chi sia responsabile dell'accusa e il programma risponde in frammenti. La telecamera ha rilevato l'evento. Il fornitore ha gestito il sistema. Un agente ha controllato la targa. La città ha autorizzato il programma. La legge statale ha strutturato la multa. Ogni partecipante può riferire sinceramente che la propria funzione limitata ha operato come previsto, e ciascuno ha ragione entro i propri confini. Eppure gli output di quelle funzioni si sono combinati in un'accusa governativa contro una persona specifica che afferma di trovarsi a chilometri di distanza, e nessun singolo partecipante è proprietario dell'atto composito.
Questo è il meccanismo silenzioso attraverso cui l'automazione dissolve la responsabilità, non per malizia o malfunzionamento ma per decomposizione. La responsabilità viene suddivisa in componenti fino a non esistere più da nessuna parte in particolare. La governance esiste proprio per prevenire questo esito. Da qualche parte nell'istituzione deve esserci un ufficio, occupato da una persona con un nome, che sia responsabile delle affermazioni che il sistema fa sui membri del pubblico, abilitato a rispondere di tali affermazioni, e obbligato a correggerle. Se nessuno all'interno del programma può dire che l'accusa era sua, il governo ha costruito una macchina per produrre accuse che nessuno è disposto a rivendicare.
Dove il rilevamento diventa potere
Il sistema potrebbe aver identificato accuratamente un veicolo mentre l'istituzione ha attribuito inaccuratamente una condotta a una persona. Questa non è semplicemente una distinzione tecnica. È il punto in cui il rilevamento automatizzato diventa potere governativo. Quasi tutto ciò che i processi di approvvigionamento attualmente valutano risiede sul lato del rilevamento di quella linea: precisione dell'apparecchiatura, certificazioni del fornitore, programmi di calibrazione, impegni di uptime, prezzo unitario. Quasi tutto ciò che conta a livello istituzionale risiede sul lato dell'attribuzione: cosa può supportare la prova, quali inferenze il governo si permette di trarre dall'output della macchina, chi sopporta l'onere quando un'inferenza viene contestata, e chi risponde quando è sbagliata. Un approvvigionamento che scrutina la telecamera e dà per scontata l'accusa ha valutato il prodotto e ignorato il potere.
Nulla di tutto ciò dipende dal fatto che i componenti coinvolti si qualifichino come intelligenza artificiale. Il riconoscimento delle targhe è visione artificiale; gran parte del resto può essere software ordinario e flusso di lavoro amministrativo. L'obbligo di governance si lega alla catena di inferenze, non alla sofisticazione del codice, ed è per questo che lo schema si generalizza. La stessa catena, dall'osservazione all'associazione all'accusa all'applicazione, è presente nel rilevamento di spari, nel rilevamento di frodi sui sussidi, nella sospensione automatizzata delle patenti, e in ogni sistema paragonabile acquistato da un ente locale. Il sistema automatizzato di assicurazione contro la disoccupazione del Michigan, che ha accusato falsamente decine di migliaia di residenti di frode prima che audit e contenziosi riuscissero a recuperarlo, era questa stessa architettura che operava su scala catastrofica. La telecamera ai semafori rossi è semplicemente la versione abbastanza piccola da poter essere vista per intero.
Ciò che l'approvvigionamento deve governare
Gli enti locali non stanno semplicemente acquistando telecamere, algoritmi o piattaforme amministrative. Stanno acquistando sistemi che partecipano all'autorità pubblica, e l'approvvigionamento è il momento in cui tale partecipazione viene definita. È anche l'ultimo momento in cui il governo detiene pieno potere contrattuale. Prima della firma, ogni termine è disponibile. Dopo l'implementazione, la governance diventa rimedio.
L'approvvigionamento deve quindi governare più della performance e del prezzo. Deve governare la prova, richiedendo che il contratto e la multa stessa dichiarino precisamente cosa il sistema può e non può accertare. Deve governare l'inferenza, specificando quali conversioni dall'output della macchina alla pretesa legale siano consentite e chi autorizza ciascuna di esse. Deve governare i dati, stabilendo custodia, accesso, conservazione, riutilizzo, sicurezza e uscita prima che venga catturata la prima immagine. Deve governare la revisione umana, definendo cosa il revisore deve determinare in modo indipendente e conferendo al revisore una reale autorità per fermare l'emissione. Deve governare la contestabilità, rendendo conto onestamente dell'onere che il programma pone sui residenti e difendendo pubblicamente tale allocazione. Deve governare gli incentivi del fornitore, scollegando la retribuzione dal volume di applicazione. E deve governare la responsabilità, nominando l'ufficio che risponde di ciò che il sistema fa alle persone che tocca.
Nulla di tutto ciò è utopico, perché parte di esso è già legge. Quando il Minnesota è tornato all'applicazione automatizzata nel 2024, a quasi due decenni da Kuhlman, lo ha fatto attraverso una legislazione statale che autorizza un progetto pilota quadriennale strettamente condizionato, piuttosto che attraverso un'ordinanza locale. Lo statuto richiede un avvertimento per una prima violazione, impone una segnaletica anticipata e la pubblicazione delle posizioni delle telecamere, richiede una valutazione indipendente e rapporti al legislatore, vieta di pagare gli appaltatori privati in base al numero di violazioni o multe emesse, e richiede al governo attuatore di verificare le pratiche sui dati del proprio fornitore. Qualunque conclusione si tragga sulla saggezza del programma, lo strumento è istruttivo. La differenza tra l'ordinanza che la Corte Suprema del Minnesota ha annullato e il progetto pilota che il legislatore ha autorizzato non è la telecamera. È la governance scritta attorno alla telecamera, prima dell'implementazione, in termini applicabili. Questa è la disciplina che Novara Consulting Group pratica come Operational AI Governance™: convertire i principi di governance in strumenti che un ufficio approvvigionamenti possa effettivamente eseguire mentre il governo detiene ancora la penna.
Un governo può esternalizzare la tecnologia. Non può esternalizzare il proprio dovere di giustificare ciò che quella tecnologia fa al pubblico.