Approfondimenti di Novara Consulting Group
Heather M. Grizzle
Microsoft AI ha pubblicato il proprio Code of Conduct per i modelli MAI il 14 settembre 2026, aprendo una consultazione pubblica di sei settimane sul testo. Il documento delinea i comportamenti, i valori e le salvaguardie previsti per la famiglia di modelli prodotta da Microsoft AI, organizzati attorno a una filosofia progettuale che l'azienda definisce Humanist AI. Due fatti sul suo stato contano più di qualunque elemento del suo contenuto. Primo, Microsoft afferma che il documento non viene attualmente utilizzato per addestrare i propri modelli e che una versione rivista, elaborata sulla base della consultazione, è destinata a guidare lo sviluppo a partire dal 2027. Secondo, l'azienda descrive il documento come una stella polare piuttosto che una descrizione del comportamento attuale dei modelli, e riconosce uno scarto tra ciò che esso specifica e ciò che i suoi modelli fanno attualmente. Chiunque legga questo testo come uno strumento di conformità, una garanzia o una base per una rassicurazione istituzionale lo sta leggendo per qualcosa che esso non pretende di essere.
Questa distinzione non è un tecnicismo. Gli addetti agli acquisti ricevono abitualmente documenti di governance dei fornitori come prova che un sistema è sicuro da implementare, e tali documenti sono abitualmente scritti in un registro che invita a questo fraintendimento. Microsoft è stata insolitamente schietta su questo punto, e tale schiettezza merita di essere riconosciuta prima che inizino le critiche. L'analisi che segue tratta il documento per quello che dichiara di essere: una bozza di filosofia di governance sottoposta a consultazione, offerta esattamente per il tipo di scrutinio che questo articolo applica.
Ciò che il quadro normativo coglie nel segno
La struttura di autorità è la parte più solida del documento. Microsoft definisce una catena di comando in cui il Code of Conduct si colloca al di sopra delle politiche degli operatori, le quali a loro volta si collocano al di sopra delle preferenze degli utenti, e designa una categoria di vincoli assoluti che né gli operatori né gli utenti possono configurare per aggirarli. La stratificazione è coerente, e i requisiti di controllo umano che l'accompagnano, i quali riguardano interruzione, arresto, limiti di ambito e integrità delle tracce di azione, sono sufficientemente specifici da essere riconoscibili come requisiti ingegneristici piuttosto che come dichiarazioni di intenti. Il divieto per i modelli di oscurare il proprio ragionamento o di comunicare in forme che gli esseri umani non possono verificare è un autentico impegno di governance, poiché preserva le condizioni che rendono possibile qualsiasi supervisione a valle.
Il trattamento del fallimento della sicurezza come bidirezionale è il secondo punto di forza. Il documento individua sia la cautela insufficiente, in cui un modello favorisce un danno, sia la cautela eccessiva, in cui rifiuta richieste legittime o richiede conferme superflue, e afferma che il secondo tipo di fallimento si verificherà probabilmente più spesso, anche se il primo è più grave. La maggior parte dei quadri di sicurezza dei fornitori ottimizza per il rifiuto e tratta l'inutilità che ne risulta come un costo da assorbire in silenzio. Riconoscere la cautela eccessiva come una modalità di fallimento che richiede correzione riflette l'esperienza operativa piuttosto che una posizione difensiva reputazionale, ed è un'impostazione che gli standard specifici per settore dovrebbero mutuare.
L'appendice di valutazione, infine, rappresenta un autentico tentativo di rendere verificabili le affermazioni comportamentali. Microsoft individua quindici comportamenti, li scompone in sottocomportamenti come unità diagnostica, e analizza coppie di risposte allineate e disallineate attraverso scenari che coprono coerenza dell'identità, supervisione umana, agevolazione delle decisioni, evitamento di supposizioni, rispetto dei confini, non-inganno, falsa rassicurazione e neutralità elettorale. Il metodo di scomposizione è valido, e le coppie illustrative sono autenticamente istruttive su dove si collochi il confine. I limiti di questa appendice, discussi più avanti, sono limiti di maturità più che di approccio.
Dove la precisione operativa viene meno
Il punto debole centrale del documento è che diventa vago proprio dove uno strumento di approvvigionamento richiede specificità. Il danno ne è l'esempio più chiaro. Il testo riconosce che il termine è ampio e dipendente dal contesto, e istruisce i modelli a soppesare gravità, reversibilità, diretta attribuibilità del contributo e probabilità di inganno prima di rispondere. Queste sono le variabili giuste. Ciò che il documento non fornisce mai è un metodo per assegnare loro valori, una soglia al raggiungimento della quale una data combinazione modifica la risposta richiesta, o un qualunque strumento attraverso cui un'istituzione potrebbe verificare che tale ponderazione sia avvenuta come descritto. Un addetto agli acquisti non può redigere una clausola contrattuale sulla proporzionalità priva di una scala pubblicata, non può verificare l'aderenza dopo l'implementazione, e non può distinguere un sistema che ragiona attentamente sulla gravità da uno che produce testo che afferma di averlo fatto.
La configurabilità da parte dell'operatore aggrava il problema. Microsoft afferma che i vincoli assoluti non possono essere sovrascritti dalla configurazione dell'operatore o dalle istruzioni dell'utente, che è l'impegno corretto, ma il documento colloca anche il comportamento dell'operatore nel quadro della legge applicabile, del più ampio quadro normativo di riferimento, dei termini contrattuali, delle politiche specifiche del servizio e di qualsiasi altro accordo che gli operatori stipulino con Microsoft. Tali accordi sono privati e negoziabili. Il documento prevede inoltre una serie di domini specializzati, tra cui cybersicurezza difensiva, sicurezza pubblica, sicurezza nazionale e ricerca scientifica a duplice uso, in cui capacità al di fuori della configurabilità ordinaria possono essere autorizzate tramite una revisione interna separata. Tale deroga potrebbe ben essere necessaria, e Microsoft è più trasparente sulla sua esistenza di quanto lo sarebbero la maggior parte dei fornitori, ma il suo effetto pratico è che l'insieme di vincoli pubblicato non è l'insieme di vincoli effettivamente operativo per ogni implementazione. Un'istituzione che acquista un'implementazione configurata non può stabilire da questo solo documento quale versione dell'inviluppo comportamentale del modello stia acquistando, e il documento non offre alcun meccanismo di divulgazione che le consenta di informarsi.
Il lavoro di valutazione comporta un terzo limite, più immediato. Microsoft afferma che i propri modelli non sono ancora addestrati sul Code of Conduct, che il programma di valutazione è in fase di sviluppo, e che gli scenari illustrativi sono sintetici, conversazionali piuttosto che agentivi o multimodali, e generati utilizzando uno dei suoi stessi modelli, con gli esempi disallineati prodotti istruendo tale modello a fallire in modi specificati. Si tratta di un modo ragionevole per avviare un insieme di valutazione e di una base irragionevole per una rassicurazione istituzionale, poiché le generazioni di comportamenti buoni e cattivi prodotte da un modello codificano gli stessi presupposti su cui il modello è stato addestrato. Nulla nell'appendice costituisce prova che un sistema implementato si comporti come specificato, e Microsoft non afferma che sia così. Test avversariali indipendenti, revisione umana esperta da parte di specialisti di settore, e misurazione longitudinale su interazioni reali sono tutti riconosciuti come lavoro futuro. Finché tale lavoro non esiste e non viene pubblicato, la posizione responsabile in materia di approvvigionamento è che le affermazioni comportamentali contenute in questo documento non sono convalidate.
Il divario settoriale per i sistemi di lingua dei segni
Per le istituzioni che implementano intelligenza artificiale per la lingua dei segni, il problema più rilevante è che il documento è per progettazione indipendente dal settore, e i danni specifici della tecnologia della lingua dei segni non compaiono quindi da nessuna parte in esso. I vincoli assoluti riguardano armi, cyberoperazioni, perdita di controllo, manipolazione su larga scala, risposta alle crisi, impersonificazione, sicurezza dei minori, discriminazione, contenuti espliciti e violenza. Nulla in quell'elenco, e nulla nelle linee guida operative che lo seguono, arriva a toccare le modalità di fallimento che effettivamente determinano se un sistema di lingua dei segni sia sicuro da proporre a persone Deaf e DeafBlind.
La validità linguistica è il primo di questi aspetti. Un sistema di generazione in lingua dei segni può produrre un output fluente nell'aspetto e invalido nella sostanza, violando la struttura grammaticale della lingua di destinazione, utilizzando in modo scorretto marcatori non manuali che portano peso sintattico, appiattendo le distinzioni di registro, o riducendo la variazione regionale e comunitaria a uno standard sintetico che nessuna comunità utilizza realmente. Le disposizioni sull'accuratezza del Code of Conduct riguardano la correttezza fattuale, la tracciabilità delle fonti e la fiducia calibrata, nessuna delle quali rileva un'espressione in lingua dei segni grammaticalmente malformata. Un sistema può soddisfare ogni requisito di onestà della Parte 3 pur producendo un linguaggio che un segnante fluente riconoscerebbe immediatamente come errato, e il quadro normativo non contiene alcuno strumento in grado di far emergere tale fallimento.
I danni che derivano da tale fallimento sono ugualmente assenti. L'implementazione in contesti educativi espone i bambini in fase di acquisizione linguistica a un input malformato, con conseguenze per lo sviluppo della fluenza che nessuna categoria di sicurezza generale coglie. L'implementazione in contesti professionali e civici interpretati può rappresentare in modo distorto il discorso di una persona Deaf a un pubblico udente, con conseguenze reputazionali e legali interamente a carico della persona il cui linguaggio è stato alterato. L'implementazione in contesti di accomodamento pubblico può generare l'apparenza di accesso senza fornirne alcuno, il che è un danno di conformità tanto quanto linguistico. Questi sono esiti ordinari e prevedibili della tecnologia, e un documento di governance che non li nomina non può essere il documento di governance per essa.
Due ulteriori lacune sono strutturali piuttosto che linguistiche. Il documento organizza l'autorità attorno a Microsoft, agli operatori e agli utenti, e non prevede alcuna categoria per la comunità linguistica la cui lingua il sistema riproduce. Per i sistemi di lingua dei segni, l'autorità comunitaria non è una cortesia etica sovrapposta alla convalida tecnica; è la base stessa della convalida, poiché i segnanti fluenti sono l'unica fonte di verità di base su se un output sia accettabile. Un quadro normativo che riconosce solo l'istituzione acquirente e l'utente finale non ha alcun posto in cui collocare tale autorità né alcun meccanismo per richiederla. In modo correlato, il documento tratta l'accessibilità come un argomento che il modello dovrebbe gestire bene piuttosto che come una proprietà che il sistema stesso deve possedere. Se l'interfaccia, i meccanismi di supervisione, la divulgazione dello stato di IA e i percorsi di escalation siano essi stessi utilizzabili da persone Deaf e DeafBlind è una domanda che il testo non pone mai, e un sistema di lingua dei segni che fallisce su questo punto ha fallito nel punto centrale dell'esercizio.
Questioni strutturali che il documento lascia aperte
Oltre al divario settoriale, tre questioni strutturali saranno rilevanti per chiunque faccia affidamento su questo quadro normativo. La prima riguarda il pluralismo. Microsoft si impegna a sostenere un'ampia gamma di visioni del mondo e afferma che il pluralismo non significa neutralità rispetto al danno, il che è la qualificazione corretta. Il quadro normativo poggia tuttavia su una posizione valoriale specifica e identificabile, incentrata sull'autonomia individuale, il consenso informato, l'agentività personale e una concezione del fiorire umano radicata nelle tradizioni dei diritti liberali, e presenta tale posizione come la base inclusiva all'interno della quale operano i valori plurali. Non c'è nulla di sbagliato nel costruire un quadro di governance su valori dichiarati. La difficoltà è che dichiarare il pluralismo mentre si operazionalizza una sola tradizione oscura la scelta alle istituzioni che la ereditano, e alcune di tali istituzioni servono comunità le cui norme di governance, in particolare riguardo all'autorità collettiva sul patrimonio culturale e linguistico condiviso, non si riducono in modo lineare alla preferenza individuale dell'utente.
La seconda riguarda la responsabilità. Si afferma che gli operatori assumono la responsabilità delle proprie configurazioni e utilizzi, ma il documento non specifica alcun obbligo di divulgazione, alcun diritto di audit, né alcun meccanismo di arbitrato per le controversie tra un operatore e le persone che la sua implementazione riguarda. Una responsabilità affermata senza una via procedurale per farla valere è una dichiarazione di intenti. Le istituzioni che fanno affidamento su questo documento dovrebbero presumere che qualunque responsabilizzazione di cui abbiano bisogno dovrà essere costruita nei propri contratti.
La terza riguarda la risoluzione dei conflitti. Il quadro normativo accetta che i propri obiettivi talvolta entreranno in competizione, e istruisce i modelli a consultare le linee guida operative, dichiarare i limiti all'utente, proporre alternative e, laddove nient'altro risolva la tensione, agire sulla base di una lettura olistica del documento nel suo complesso. Come filosofia progettuale per un modello in condizioni di incertezza, ciò è difendibile e probabilmente inevitabile. Come specifica, significa che la risoluzione di autentici conflitti di valore viene delegata al giudizio del modello e non è né prevedibile in anticipo né verificabile a posteriori. Per interazioni a basso rischio ciò è accettabile. Per un sistema che media l'accesso di una persona Deaf alle cure mediche, all'occupazione o al processo legale, non lo è.
Che cosa significa questo per gli acquisti
Un'istituzione che acquista intelligenza artificiale per la lingua dei segni può utilizzare questo documento come architettura di riferimento e non dovrebbe utilizzarlo come specifica. La catena di comando, il trattamento bidirezionale del fallimento della sicurezza e la scomposizione dei comportamenti in sottocomportamenti verificabili meritano tutti di essere adottati. Ciò che deve essere aggiunto è tutto ciò che il quadro generale non può fornire.
Tale aggiunta inizia con la convalida linguistica. Il linguaggio degli acquisti dovrebbe specificare la lingua e le varietà di destinazione, definire l'output accettabile al livello della struttura grammaticale e del registro, richiedere una valutazione da parte di segnanti Deaf fluenti piuttosto che tramite metriche indirette o revisori udenti, e stabilire la frequenza e il metodo con cui la qualità linguistica sarà misurata dopo l'implementazione e non solo prima di essa. L'autorità comunitaria dovrebbe essere scritta nello strumento come un ruolo permanente con ambito definito, non semplicemente accennata come coinvolgimento degli stakeholder, e dovrebbe portare con sé la capacità di respingere l'output e sospendere l'implementazione, non semplicemente di commentarlo. Il danno dovrebbe essere operazionalizzato in termini settoriali, convertendo le variabili di proporzionalità di Microsoft in categorie di fallimento nominate con soglie che un revisore possa applicare. Le prove di valutazione dovrebbero essere richieste prima dell'implementazione e dovrebbero riguardare il sistema configurato nel caso d'uso previsto, non affermazioni comportamentali generali del fornitore. La risoluzione delle controversie dovrebbe essere specificata contrattualmente, incluso cosa accade quando una configurazione dell'operatore entra in conflitto con il giudizio della comunità sull'accettabilità linguistica. L'accessibilità del sistema stesso, inclusi i suoi meccanismi di supervisione ed escalation, dovrebbe essere una condizione di superamento o fallimento piuttosto che un'aspirazione progettuale.
Conclusione
Microsoft ha prodotto una dichiarazione seria e insolitamente trasparente di filosofia di governance, e ne ha invitato la critica durante una finestra di consultazione definita piuttosto che presentarla come definitiva. Essa riesce come dichiarazione di principi e della struttura di autorità che tali principi richiedono. Non fornisce ancora la precisione operativa, le prove convalidate, o la tassonomia dei danni specifici per settore da cui dipende l'approvvigionamento istituzionale, e non pretende di farlo.
Il lavoro che resta da fare è quello che è sempre rimasto da fare: tradurre i principi di governance in strumenti che gli addetti agli acquisti possano scrivere nei contratti, che i revisori possano applicare dopo l'implementazione, e che le comunità interessate possano invocare quando un sistema le delude. Per l'intelligenza artificiale della lingua dei segni, tale traduzione non può essere ereditata da un quadro generale. Deve essere costruita dalle persone che sanno come appare il fallimento nella lingua.