Ce que révèle une citation contestée pour franchissement de feu rouge sur la gouvernance de l'IA, les prestataires privés, les données publiques et la responsabilité institutionnelle
Novara Consulting Group | Gouvernance de l'IA × Gouvernement local | Août 2026
Un résident ouvre une enveloppe envoyée par sa ville et y trouve une accusation : une photographie d'une intersection, un horodatage, une image agrandie d'une plaque d'immatriculation, et une demande de paiement. Le véhicule est enregistré à son nom. Il affirme se trouver à des kilomètres de là au moment où la photographie a été prise. La question instinctive, celle autour de laquelle se déroule la plupart des litiges de ce type, est de savoir si la caméra a fonctionné. La plaque a-t-elle été correctement lue, le feu était-il réellement rouge, l'équipement était-il calibré et certifié. Ces questions comptent, et ce sont aussi les plus petites questions possibles. Supposons, pour donner à l'institution le bénéfice du doute maximal, que la réponse à chacune d'elles soit oui. Supposons que la caméra ait fonctionné exactement comme prévu et que le processus se soit déroulé exactement comme écrit. Le problème de gouvernance subsiste intact, car la caméra n'a jamais observé ce que la citation affirme. Elle a observé un véhicule. La citation accuse une personne.
Un programme d'application automatisée n'est pas une caméra. C'est une chaîne d'inférences. Un capteur observe un événement. Un logiciel associe cet événement à un enregistrement. Un processus administratif convertit cette association en allégation. L'allégation déclenche une procédure contre une personne nommée. Chaque maillon de cette chaîne est une décision que le gouvernement a prise, que quiconque au sein de l'institution la perçoive ou non comme telle, et un gouvernement local n'échappe pas à la responsabilité de ces décisions en interposant un système automatisé et un prestataire privé entre lui-même et le public. Lorsqu'une technologie observe un événement, l'associe à un enregistrement, génère une allégation et déclenche une procédure, chaque inférence de cette chaîne doit être gouvernée. La question n'est pas simplement de savoir si la caméra a correctement lu une plaque d'immatriculation. Elle est de savoir si le gouvernement peut justifier comment une preuve concernant un véhicule est devenue une accusation contre une personne.
Une citation routière contestée est un cas modeste aux enjeux modestes, ce qui est précisément ce qui le rend utile. À cette échelle, chaque composante du système peut être examinée, et le schéma d'échec que révèle ce cas n'est pas spécifique aux caméras de circulation. C'est le schéma d'échec standard des systèmes de décision automatisés déployés par les institutions publiques. Cinq échecs méritent attention, et aucun ne concerne la caméra.
L'observation est devenue attribution
Le système aurait établi qu'un véhicule est entré dans l'intersection malgré le signal. Si cela est exact, il s'agit d'une véritable réussite en matière de preuve : un enregistrement photographique horodaté d'un événement, produit sans la présence d'un agent. Mais l'événement que le système a enregistré n'est pas la conduite que la citation allègue. Le système a établi ce qu'un véhicule a fait. Il n'a rien établi sur qui conduisait. Le processus d'application a traité la propriété enregistrée comme suffisante pour initier une accusation, et ce faisant, il a converti un fait concernant un objet en une allégation concernant une personne, sans jamais acquérir la preuve que cette conversion exige.
Cette conversion n'est pas une étape technique. C'est une étape légale et institutionnelle, et dans la plupart des régimes d'application par photo, elle est accomplie par la loi plutôt que par la preuve. Les règles de responsabilité du propriétaire existent parce qu'identifier les conducteurs est difficile et citer les propriétaires est administrativement facile, et les législatures de nombreux États ont fait ce compromis délibérément, généralement en définissant l'infraction comme civile et en rattachant la responsabilité au registre d'immatriculation. Un gouvernement peut avoir le droit de faire ce compromis. Il n'a pas le droit de le faire de manière invisible. Lorsqu'une citation arrive formulée comme une conclusion sur la conduite du destinataire alors que le dossier sous-jacent ne soutient qu'une conclusion sur sa propriété, l'institution a exagéré ses propres preuves. Il s'agit d'un échec récurrent dans la gouvernance automatisée en général : les systèmes produisent des faits sur des objets, des enregistrements et des indicateurs indirects, et les institutions promeuvent discrètement ces faits en allégations sur des personnes.
L'examen humain a peut-être été plus restreint qu'annoncé
Les programmes de ce type sont régulièrement défendus par une phrase qui sonne comme de la gouvernance : un agent examine chaque citation avant son émission. Cette phrase mérite une question de suivi qu'elle reçoit rarement, à savoir ce que l'agent examine exactement. Si l'examen consistait à confirmer que la plaque sur la photographie correspond au véhicule dans la base de données d'immatriculation, alors l'humain a validé le seul maillon de la chaîne que la machine gère le mieux et a laissé intact le seul maillon que la machine ne peut absolument pas traiter, à savoir l'identité du conducteur. L'inférence déterminante, celle dont dépend réellement la responsabilité, a traversé le processus sans être examinée par personne.
« L'humain dans la boucle » est une affirmation de gouvernance, pas une description d'effectifs. Elle n'a de poids que si l'humain est positionné, autorisé et équipé pour évaluer l'inférence qui compte, et détient un véritable pouvoir discrétionnaire pour arrêter le processus lorsque la preuve ne le soutient pas. Un examinateur dont la fonction se limite à confirmer ce que la machine a déjà établi n'exerce pas de surveillance ; il exerce une ratification. Les institutions qui annoncent un examen humain doivent au public un compte rendu précis de ce que l'humain examine, de ce que l'humain est habilité à refuser, et de la fréquence à laquelle l'examinateur refuse réellement. Là où ce compte rendu ne peut être produit, l'expression accomplit un travail de réassurance que le processus lui-même n'accomplit pas.
Le fardeau a été transféré au résident
Le troisième échec découle des deux premiers. Parce que le système ne pouvait pas établir qui conduisait, et que l'examen ne tentait pas de le faire, le programme a résolu la question d'identité en la transférant. Plutôt que le gouvernement établisse qui a commis l'infraction avant de porter une accusation, le propriétaire enregistré a été tenu d'entrer dans un processus administratif, de fournir des informations et de rediriger la responsabilité, dans certains régimes en identifiant le conducteur réel et dans d'autres en documentant sa propre absence. La contestabilité existait, mais elle n'existait qu'après que le système ait déjà agi, et la conséquence par défaut de l'inaction était la responsabilité. La séquence importe. Une accusation qui doit être activement délogée est un exercice du pouvoir différent d'une accusation qui doit d'abord être prouvée.
Les tribunaux ont déjà reconnu cette structure. Dans l'affaire State v. Kuhlman (Minn. 2007), la Cour suprême du Minnesota a invalidé l'ordonnance d'application par photo de Minneapolis, estimant qu'elle entrait en conflit avec les lois routières uniformes de l'État et raisonnant que sa présomption selon laquelle le propriétaire enregistré était le conducteur éliminait la présomption d'innocence et transférait la charge de la preuve sur l'accusé. La leçon de cette décision n'est pas que l'application automatisée est intrinsèquement illégale. C'est que la répartition du fardeau est une décision de gouvernance de premier ordre. Décider qui doit prouver quoi, à quel coût, selon quel calendrier, et avec quelles conséquences en cas de silence, est une décision concernant la relation entre l'État et les personnes qu'il gouverne. Elle ne peut pas être héritée par défaut du flux de travail d'un prestataire, et les résidents ne devraient pas découvrir pour la première fois comment elle a été prise au moment où l'enveloppe arrive.
L'application publique a été acheminée via une infrastructure privée
Chaque élément de l'accusation réside quelque part, et dans un programme géré par un prestataire, une grande partie peut résider en dehors du gouvernement. Les images, les lectures de plaques, les horodatages, les recherches d'immatriculation, les dossiers d'infraction, les données de paiement, et le contenu des contestations des résidents peuvent transiter par, ou être stockés sur, des systèmes que le prestataire construit et contrôle. Le public a droit à des réponses précises à des questions peu glamour : qui peut accéder à l'information et sous quelle autorisation ; où elle est stockée et sous le droit de quelle juridiction ; combien de temps elle est conservée, et si la conservation suit le sort de la citation ou la commodité du prestataire ; si elle peut être réutilisée, agrégée, analysée ou vendue sous quelque forme que ce soit ; et ce qu'elle devient lorsque le contrat prend fin, lorsque le prestataire est racheté, ou lorsque le prestataire fait faillite. Un résident ne peut pas refuser d'être photographié par un programme d'application à une intersection publique. Les données générées dans le cadre de ce type d'exposition forcée sont un artefact de l'autorité publique, et leur gouvernance ne peut pas se replier par défaut sur les termes d'un accord commercial que le public n'a jamais vu.
Ce ne sont pas des inquiétudes hypothétiques dans ce marché particulier. L'application par photo a un historique documenté d'incitations mal alignées, y compris des structures de rémunération qui payaient les prestataires par citation émise, et de corruption dans les marchés publics, notamment le système de pots-de-vin entourant le programme de feux rouges de Chicago, qui a abouti à des condamnations fédérales. Le Texas a répondu à des années de controverse en interdisant les caméras de feux rouges à l'échelle de l'État en 2019. Rien de tout cela n'établit que les prestataires sont de mauvais acteurs. Cela établit que les prestataires sont des prestataires : des entreprises privées avec des incitations commerciales, opérant au sein d'une fonction censée répondre à des incitations entièrement différentes. C'est une condition à gouverner plutôt qu'une accusation à plaider, et elle n'est gouvernable que dans le contrat.
La responsabilité s'est suffisamment distribuée pour disparaître
Demandez qui est responsable de l'accusation et le programme répond par fragments. La caméra a détecté l'événement. Le prestataire a exploité le système. Un agent a vérifié la plaque. La ville a autorisé le programme. La loi de l'État a structuré la citation. Chaque participant peut déclarer en toute vérité que sa propre fonction limitée a fonctionné comme prévu, et chacun a raison dans ses propres limites. Pourtant, les résultats de ces fonctions se sont combinés en une accusation gouvernementale contre une personne spécifique qui affirme se trouver à des kilomètres de là, et aucun participant unique ne revendique l'acte composite.
C'est le mécanisme silencieux par lequel l'automatisation dissout la responsabilité, non par malveillance ou dysfonctionnement mais par décomposition. La responsabilité est divisée en composantes jusqu'à ne plus exister nulle part en particulier. La gouvernance existe précisément pour empêcher ce résultat. Quelque part au sein de l'institution, il doit exister un bureau, occupé par une personne portant un nom, qui est responsable des affirmations que le système fait sur les membres du public, habilité à répondre de ces affirmations, et tenu de les corriger. Si personne au sein du programme ne peut dire que l'accusation était la sienne, le gouvernement a construit une machine à produire des accusations que personne n'est disposé à assumer.
Où la détection devient pouvoir
Le système a peut-être identifié avec précision un véhicule tandis que l'institution a attribué de manière inexacte une conduite à une personne. Ce n'est pas simplement une distinction technique. C'est le point où la détection automatisée devient pouvoir gouvernemental. Presque tout ce que les processus de marchés publics évaluent actuellement se situe du côté de la détection de cette ligne : la précision de l'équipement, les certifications des prestataires, les calendriers de calibration, les engagements de disponibilité, le prix unitaire. Presque tout ce qui compte institutionnellement se situe du côté de l'attribution : ce que la preuve peut soutenir, quelles inférences le gouvernement se permet de tirer des résultats de la machine, qui porte le fardeau lorsqu'une inférence est contestée, et qui répond lorsqu'elle est erronée. Un marché public qui examine minutieusement la caméra et suppose l'accusation a évalué le produit et ignoré le pouvoir.
Rien de tout cela ne dépend de savoir si les composants impliqués qualifient comme intelligence artificielle. La reconnaissance de plaques est de la vision par ordinateur ; une grande partie du reste peut être un logiciel ordinaire et un flux de travail administratif. L'obligation de gouvernance s'attache à la chaîne d'inférence, pas à la sophistication du code, ce qui explique pourquoi le schéma se généralise. La même chaîne, observation vers association vers allégation vers application, se trouve dans la détection de coups de feu, la détection de fraude aux prestations, la suspension automatisée de permis, et tout système comparable qu'un gouvernement local achète. Le système automatisé d'assurance chômage du Michigan, qui a faussement accusé des dizaines de milliers de résidents de fraude avant que des audits et des litiges ne le rattrapent, était cette même architecture opérant à une échelle catastrophique. La caméra de feu rouge est simplement la version assez petite pour être vue dans son ensemble.
Ce que les marchés publics doivent gouverner
Les gouvernements locaux n'achètent pas simplement des caméras, des algorithmes ou des plateformes administratives. Ils achètent des systèmes qui participent à l'autorité publique, et les marchés publics sont là où cette participation est définie. C'est aussi le dernier moment où le gouvernement détient un levier complet. Avant la signature, chaque terme est disponible. Après le déploiement, la gouvernance devient réparation.
Les marchés publics doivent donc gouverner plus que la performance et le prix. Ils doivent gouverner la preuve, en exigeant que le contrat et la citation elle-même énoncent précisément ce que le système peut et ne peut pas établir. Ils doivent gouverner l'inférence, en précisant quelles conversions des résultats de la machine en affirmation légale sont autorisées et qui autorise chacune d'elles. Ils doivent gouverner les données, en réglant la garde, l'accès, la conservation, la réutilisation, la sécurité et la sortie avant que la première image ne soit capturée. Ils doivent gouverner l'examen humain, en définissant ce que l'examinateur doit déterminer de manière indépendante et en investissant l'examinateur d'une véritable autorité pour arrêter l'émission. Ils doivent gouverner la contestabilité, en rendant compte honnêtement du fardeau que le programme impose aux résidents et en défendant publiquement cette répartition. Ils doivent gouverner les incitations des prestataires, en découplant la rémunération du volume d'application. Et ils doivent gouverner la responsabilité, en nommant le bureau qui répond de ce que le système fait aux personnes qu'il touche.
Rien de tout cela n'est utopique, car une partie en est déjà loi. Lorsque le Minnesota est revenu à l'application automatisée en 2024, près de deux décennies après Kuhlman, il l'a fait par le biais d'une législation d'État autorisant un projet pilote de quatre ans strictement conditionné, plutôt que par une ordonnance locale. La loi exige un avertissement pour une première infraction, impose une signalisation préalable et la publication des emplacements des caméras, requiert une évaluation indépendante et des rapports à la législature, interdit de payer les prestataires privés en fonction du nombre d'infractions ou de citations émises, et exige que le gouvernement responsable de la mise en œuvre audite les pratiques de données de son prestataire. Quelle que soit la conclusion que l'on tire sur la sagesse du programme, l'instrument est instructif. La différence entre l'ordonnance que la Cour suprême du Minnesota a invalidée et le projet pilote que la législature a autorisé n'est pas la caméra. C'est la gouvernance écrite autour de la caméra, avant le déploiement, en termes exécutoires. C'est la discipline que Novara Consulting Group pratique sous le nom d'Operational AI Governance™ : convertir les principes de gouvernance en instruments qu'un service des marchés publics peut réellement exécuter, tant que le gouvernement tient encore la plume.
Un gouvernement peut externaliser la technologie. Il ne peut pas externaliser son devoir de justifier ce que cette technologie fait au public.