Perspectives de Novara Consulting Group
Heather M. Grizzle
Microsoft AI a publié son Code de conduite pour les modèles MAI le 14 septembre 2026 et a ouvert une consultation publique de six semaines sur le texte. Le document énonce les comportements, valeurs et garde-fous prévus pour la famille de modèles que produit Microsoft AI, organisés autour d'une philosophie de conception que l'entreprise appelle IA humaniste. Deux faits concernant son statut importent plus que tout autre élément de son contenu. Premièrement, Microsoft déclare que le document n'est pas actuellement utilisé pour entraîner ses modèles et qu'une version révisée, informée par la consultation, est destinée à guider le développement à partir de 2027. Deuxièmement, l'entreprise décrit le document comme une étoile polaire plutôt qu'un compte rendu du comportement actuel des modèles, et reconnaît un écart entre ce qu'il spécifie et ce que font actuellement ses modèles. Quiconque lit ce texte comme un artefact de conformité, une garantie, ou une base d'assurance institutionnelle le lit pour quelque chose qu'il ne prétend pas être.
Cette distinction n'est pas une simple technicité. Les responsables des achats reçoivent régulièrement des documents de gouvernance de fournisseurs comme preuve qu'un système est sûr à déployer, et ces documents sont régulièrement rédigés dans un registre qui invite à cette lecture erronée. Microsoft a fait preuve ici d'une franchise inhabituelle, et cette franchise mérite d'être soulignée avant que la critique ne commence. L'analyse qui suit traite le document pour ce qu'il dit être : une philosophie de gouvernance en projet, soumise à consultation, offerte pour exactement le type d'examen que cet article applique.
Ce que le cadre fait bien
La structure d'autorité est la partie la plus solide du document. Microsoft définit une chaîne de commandement dans laquelle le Code de conduite se situe au-dessus des politiques des opérateurs, lesquelles se situent à leur tour au-dessus des préférences des utilisateurs, et désigne une catégorie de contraintes absolues que ni les opérateurs ni les utilisateurs ne peuvent configurer pour les contourner. La superposition est cohérente, et les exigences de contrôle humain qui l'accompagnent, lesquelles couvrent l'interruption, l'arrêt, les limites de portée et l'intégrité des traces d'action, sont suffisamment précises pour être reconnaissables comme des exigences d'ingénierie plutôt que comme de simples intentions. L'interdiction faite aux modèles d'obscurcir leur propre raisonnement ou de communiquer sous des formes que les humains ne peuvent pas vérifier constitue un véritable engagement de gouvernance, car elle préserve les conditions dans lesquelles toute supervision en aval reste possible.
Le traitement de l'échec en matière de sécurité comme bidirectionnel est la deuxième force du document. Le document nomme à la fois la sous-prudence, où un modèle facilite un préjudice, et la surprudence, où il refuse des demandes légitimes ou exige des confirmations inutiles, et affirme que la seconde défaillance se produira probablement plus souvent même si la première est plus grave. La plupart des cadres de sécurité des fournisseurs optimisent pour le refus et traitent l'inutilité qui en résulte comme un coût à absorber silencieusement. Nommer la surprudence comme un mode de défaillance nécessitant une correction reflète l'expérience opérationnelle plutôt que la défensivité réputationnelle, et c'est un cadrage que les normes spécifiques à un domaine devraient reprendre.
L'annexe d'évaluation, enfin, représente une véritable tentative de rendre les affirmations comportementales testables. Microsoft identifie quinze comportements, les décompose en sous-comportements comme unité diagnostique, et travaille à travers des réponses appariées, alignées et non alignées, dans des scénarios couvrant la cohérence identitaire, la supervision humaine, la facilitation de décision, l'évitement des suppositions, le respect des limites, la non-tromperie, le faux réconfort et la neutralité électorale. La méthode de décomposition est solide, et les paires illustratives sont véritablement instructives quant à l'endroit où se situe la limite. Les limites de cette annexe, discutées ci-dessous, sont des limites de maturité plutôt que d'approche.
Là où la précision opérationnelle fait défaut
La principale faiblesse du document est qu'il devient vague précisément là où un instrument d'achat exige de la précision. Le préjudice en est l'exemple le plus clair. Le texte reconnaît que le terme est large et dépendant du contexte, et enjoint aux modèles de peser la gravité, la réversibilité, la contribution directe et la probabilité de tromperie avant de répondre. Ce sont les bonnes variables. Ce que le document ne fournit jamais, c'est une méthode pour leur attribuer des valeurs, un seuil à partir duquel une combinaison donnée modifie la réponse requise, ou un artefact permettant à une institution de vérifier que la pesée s'est déroulée comme décrit. Un responsable des achats ne peut pas rédiger une clause contractuelle autour d'une proportionnalité qui n'a pas d'échelle publiée, ne peut pas auditer le respect après déploiement, et ne peut pas distinguer un système qui raisonne soigneusement sur la gravité d'un système qui produit un texte affirmant l'avoir fait.
La configurabilité par l'opérateur aggrave le problème. Microsoft affirme que les contraintes absolues ne peuvent être outrepassées ni par la configuration de l'opérateur ni par l'instruction de l'utilisateur, ce qui constitue l'engagement correct, mais le document situe également le comportement de l'opérateur dans le cadre du droit applicable, du cadre directeur plus large, des conditions contractuelles, des politiques spécifiques au service, et de tout autre accord que les opérateurs concluent avec Microsoft. Ces accords sont privés et négociables. Le document envisage en outre un ensemble de domaines spécialisés, notamment la cybersécurité défensive, la sécurité publique, la sécurité nationale et la recherche scientifique à double usage, où des capacités hors de la configurabilité ordinaire peuvent être autorisées par un examen interne distinct. Cette dérogation peut bien être nécessaire, et Microsoft est plus transparent sur son existence que la plupart des fournisseurs ne le seraient, mais son effet pratique est que l'ensemble de contraintes publié n'est pas l'ensemble de contraintes opérationnel pour chaque déploiement. Une institution achetant un déploiement configuré ne peut pas déterminer à partir de ce seul document quelle version de l'enveloppe comportementale du modèle elle achète, et le document n'offre aucun mécanisme de divulgation qui lui permettrait de le demander.
Le travail d'évaluation comporte une troisième limite, plus immédiate. Microsoft déclare que ses modèles ne sont pas encore entraînés sur le Code de conduite, que le programme d'évaluation est en cours de développement, et que les scénarios illustratifs sont synthétiques, conversationnels plutôt qu'agentiques ou multimodaux, et générés à l'aide de l'un de ses propres modèles, les exemples non alignés étant produits en incitant ce modèle à échouer de manières précisées. C'est une manière raisonnable d'amorcer un ensemble d'évaluation et une base déraisonnable pour une assurance institutionnelle, car les propres générations d'un modèle de bon et de mauvais comportement encodent les mêmes hypothèses que celles sur lesquelles le modèle a été entraîné. Rien dans l'annexe ne constitue une preuve qu'un système déployé se comporte comme spécifié, et Microsoft ne prétend pas que ce soit le cas. Les tests contradictoires indépendants, l'examen humain expert par des spécialistes du domaine, et la mesure longitudinale à travers des interactions réelles sont tous reconnus comme des travaux futurs. Tant que ces travaux n'existent pas et ne sont pas publiés, la position d'achat responsable est que les affirmations comportementales de ce document ne sont pas validées.
L'écart de domaine pour les systèmes de langue des signes
Pour les institutions déployant une IA de langue des signes, le problème le plus lourd de conséquences est que le document est, par conception, agnostique quant au domaine, et les préjudices spécifiques à la technologie de la langue des signes n'apparaissent donc nulle part dans celui-ci. Les contraintes absolues traitent des armes, des cyberopérations, de la perte de contrôle, de la manipulation à grande échelle, de la réponse aux crises, de l'usurpation d'identité, de la sécurité des enfants, de la discrimination, du contenu explicite et de la violence. Rien dans cette liste, et rien dans les lignes directrices opérationnelles qui la suivent, n'atteint les modes de défaillance qui déterminent réellement si un système de langue des signes est sûr à mettre devant des personnes Deaf et sourdaveugles.
La validité linguistique est le premier de ces éléments. Un système de génération de langue des signes peut produire une sortie fluide en apparence et invalide sur le fond, violant la structure grammaticale de la langue cible, utilisant mal des marqueurs non manuels porteurs de poids syntaxique, effaçant les distinctions de registre, ou traduisant la variation régionale et communautaire en un standard synthétique qu'aucune communauté n'utilise réellement. Les dispositions du Code de conduite relatives à l'exactitude traitent de l'exactitude factuelle, de la vérification des sources et de la confiance calibrée, autant d'éléments qui ne détectent pas un énoncé signé grammaticalement mal formé. Un système peut satisfaire à toutes les exigences d'honnêteté de la Partie 3 tout en produisant un langage qu'un signeur fluide reconnaîtrait immédiatement comme incorrect, et le cadre ne contient aucun instrument qui ferait apparaître cette défaillance.
Les préjudices qui découlent de cette défaillance sont tout aussi absents. Le déploiement dans des contextes éducatifs expose les enfants en cours d'acquisition du langage à des intrants mal formés, avec des conséquences sur le développement de la fluidité qu'aucune catégorie générale de sécurité ne saisit. Le déploiement dans des contextes professionnels et civiques interprétés peut déformer le discours d'une personne Deaf devant un public entendant, avec des conséquences réputationnelles et juridiques supportées entièrement par la personne dont la langue a été altérée. Le déploiement dans des contextes d'accommodement public peut créer une apparence d'accès sans en fournir aucun, ce qui constitue un préjudice de conformité autant que linguistique. Ce sont là des résultats ordinaires et prévisibles de la technologie, et un document de gouvernance qui ne les nomme pas ne peut pas être le document de gouvernance qui la concerne.
Deux autres lacunes sont structurelles plutôt que linguistiques. Le document organise l'autorité autour de Microsoft, des opérateurs et des utilisateurs, et ne prévoit aucune catégorie pour la communauté linguistique dont le système reproduit la langue. Pour les systèmes de langue des signes, l'autorité communautaire n'est pas une courtoisie éthique superposée à la validation technique ; c'est la référence de validation elle-même, car les signeurs fluides sont la seule source de vérité de terrain quant à l'acceptabilité de la sortie. Un cadre qui ne reconnaît que l'institution acquéreuse et l'utilisateur final n'a nulle part où placer cette autorité et aucun mécanisme pour l'exiger. De manière liée, le document traite l'accessibilité comme un sujet que le modèle devrait bien gérer plutôt que comme une propriété que le système lui-même doit posséder. Que l'interface, les mécanismes de supervision, la divulgation du statut d'IA et les voies d'escalade soient eux-mêmes utilisables par les personnes Deaf et sourdaveugles est une question que le texte ne pose jamais, et un système de langue des signes qui y échoue a échoué au point même de l'exercice.
Questions structurelles laissées ouvertes par le document
Au-delà de l'écart de domaine, trois questions structurelles importeront à quiconque s'appuie sur ce cadre. La première concerne le pluralisme. Microsoft s'engage à soutenir un large éventail de visions du monde et affirme que le pluralisme ne signifie pas la neutralité face au préjudice, ce qui constitue la bonne nuance. Le cadre repose néanmoins sur une position de valeurs spécifique et identifiable, centrée sur l'autonomie individuelle, le consentement éclairé, l'agentivité personnelle, et une conception de l'épanouissement enracinée dans les traditions des droits libéraux, et il présente cette position comme la base inclusive au sein de laquelle opèrent les valeurs plurielles. Il n'y a rien de mal à construire un cadre de gouvernance sur des valeurs déclarées. La difficulté est que déclarer le pluralisme tout en opérationnalisant une seule tradition obscurcit ce choix aux yeux des institutions qui en héritent, et certaines de ces institutions servent des communautés dont les normes de gouvernance, en particulier autour de l'autorité collective sur un patrimoine culturel et linguistique partagé, ne se réduisent pas proprement à une préférence individuelle d'utilisateur.
La deuxième concerne la responsabilité. Il est dit que les opérateurs assument la responsabilité de leurs configurations et de leurs usages, mais le document ne précise aucune obligation de divulgation, aucun droit d'audit, et aucun mécanisme d'arbitrage pour les litiges entre un opérateur et les personnes affectées par son déploiement. Une responsabilité affirmée sans voie procédurale pour l'appliquer n'est qu'une déclaration d'intention. Les institutions qui s'appuient sur ce document devraient supposer que toute responsabilité dont elles ont besoin devra être construite dans leurs propres contrats.
La troisième concerne la résolution des conflits. Le cadre accepte que ses objectifs entrent parfois en concurrence, et enjoint aux modèles de consulter les lignes directrices opérationnelles, d'indiquer les limites à l'utilisateur, de proposer des alternatives, et, lorsque rien d'autre ne résout la tension, d'agir sur la base d'une lecture holistique du document dans son ensemble. En tant que philosophie de conception pour un modèle confronté à l'incertitude, cela est défendable et probablement inévitable. En tant que spécification, cela signifie que la résolution de véritables conflits de valeurs est déléguée au jugement du modèle et n'est ni prévisible à l'avance ni révisable après coup. Pour des interactions à faible enjeu, cela est acceptable. Pour un système médiatisant l'accès d'une personne Deaf aux soins médicaux, à l'emploi ou à la procédure judiciaire, cela ne l'est pas.
Ce que cela signifie pour les achats
Une institution achetant une IA de langue des signes peut utiliser ce document comme architecture de référence et ne devrait pas l'utiliser comme spécification. La chaîne de commandement, le traitement bidirectionnel de l'échec en matière de sécurité, et la décomposition des comportements en sous-comportements testables méritent tous d'être adoptés. Ce qui doit être ajouté, c'est tout ce que le cadre général ne peut pas fournir.
Cet ajout commence par la validation linguistique. Le langage des achats devrait préciser la langue cible et ses variétés, définir ce qui constitue une sortie acceptable au niveau de la structure grammaticale et du registre, exiger une évaluation par des signeurs Deaf fluides plutôt que par des métriques de substitution ou des évaluateurs entendants, et fixer la fréquence et la méthode selon lesquelles la qualité linguistique sera mesurée après le déploiement, et non seulement avant celui-ci. L'autorité communautaire devrait être inscrite dans l'instrument comme un rôle permanent à portée définie, et non simplement évoquée comme un engagement des parties prenantes, et devrait comporter la capacité de rejeter la sortie et d'interrompre le déploiement, et non simplement de le commenter. Le préjudice devrait être opérationnalisé en termes propres au domaine, convertissant les variables de proportionnalité de Microsoft en catégories de défaillance nommées assorties de seuils qu'un auditeur peut appliquer. Une preuve d'évaluation devrait être exigée avant le déploiement et devrait porter sur le système configuré dans le cas d'usage prévu, et non sur les affirmations comportementales générales d'un fournisseur. La résolution des litiges devrait être précisée contractuellement, y compris ce qui se passe lorsqu'une configuration d'opérateur entre en conflit avec le jugement communautaire sur l'acceptabilité linguistique. L'accessibilité du système lui-même, y compris ses mécanismes de supervision et d'escalade, devrait être une condition de réussite ou d'échec, et non une aspiration de conception.
Conclusion
Microsoft a produit un énoncé sérieux et inhabituellement transparent de philosophie de gouvernance, et a invité la critique de celui-ci pendant une fenêtre de consultation définie plutôt que de le présenter comme définitif. Il réussit en tant qu'énoncé de principes et de la structure d'autorité que ces principes exigent. Il ne fournit pas encore la précision opérationnelle, les preuves validées, ou la taxonomie des préjudices spécifiques au domaine dont dépendent les achats institutionnels, et il ne prétend pas le faire.
Le travail qui reste est le travail qui a toujours été à faire : traduire les principes de gouvernance en instruments que les responsables des achats peuvent inscrire dans des contrats, que les auditeurs peuvent appliquer après le déploiement, et que les communautés affectées peuvent invoquer lorsqu'un système leur fait défaut. Pour l'IA de langue des signes, cette traduction ne peut pas être héritée d'un cadre général. Elle doit être construite par les personnes qui savent à quoi ressemble l'échec dans la langue.