Le compte rendu appartient au signeur : une réponse à Jeff Panasuik

En bref

« The Second Language Condition » de Jeff Panasuik ^[7] soutient que le SL2T de Google DeepMind a supprimé le glossage mais conservé la logique organisatrice que le glossage avait pour fonction de mettre au jour : une cible de sortie en anglais écrit qui décide de ce qui compte comme succès et de ce qui devient le registre officiel. Il considère que mon article « The Coordinates of Trust » ^[5] est exact dans un cadre de gouvernance mais limité par celui-ci, et il conclut en demandant au SLAT Index quelle garantie donne à une institution quelque chose qu'elle ne peut ni réinterpréter, ni négocier à la baisse, ni ignorer discrètement.

J'accepte sa correction méthodologique sans réserve, et j'accepte que la direction soit une propriété de l'architecture plutôt que seulement du déploiement. Là où je me sépare de lui, c'est sur l'affirmation selon laquelle gouvernance et architecture se situent sur des axes distincts. Chaque condition qu'il cite comme susceptible de changer sa lecture est une condition de gouvernance, et le problème architectural qu'il identifie trouve sa réponse dans l'une d'elles : la source signée, et non la sortie en anglais, doit constituer le registre officiel de ce qu'une personne Deaf a dit, et le droit à un interprète humain qualifié doit appartenir à la personne Deaf plutôt qu'à l'institution qui achète le système.

Ce que Jeff a raison de dire

Le point méthodologique porte, et je préfère le concéder clairement plutôt que de le gérer. « The Coordinates of Trust » a analysé une technologie d'accès pour personnes Deaf en s'appuyant sur deux documents produits dans le cadre d'un processus convoqué, animé et financé par le développeur ^[4][1]. Il n'a documenté aucune étape de vérification par des personnes Deaf, n'a présenté aucune évaluation indépendante de la sortie du modèle publié, et n'a cité aucune source en langue des signes. Jeff prend soin de préciser qu'il ne prétend pas que ces étapes n'ont jamais eu lieu, seulement que mon analyse publiée n'établit pas qu'elles ont eu lieu. C'est la même distinction entre absence et non-documentation que mon article demandait à DeepMind, et elle lie mon travail exactement comme elle lie le leur. Ma conclusion était que l'évaluation la plus solide impliquant la communauté, associée à une version pré-publication, avait révélé une lacune dans le dossier du développeur ; Jeff a raison de dire que mon article a nommé la lacune sans la combler.

Il a également raison concernant la place du glossage dans l'histoire. Supprimer le glossage a été la décision architecturale la plus forte de cette publication, et une critique incapable de le reconnaître ne s'engage pas vraiment avec le système. Sa lecture des modes de défaillance divulgués comme un schéma plutôt qu'une simple liste est l'élément le plus utile de son article. La grammaire non manuelle, la profondeur et le contact, les référents environnementaux, la langue, et le discours à travers les tours de parole ne sont pas cinq lacunes techniques indépendantes. Ce sont les composantes d'une langue des signes qu'une cible écrite linéaire n'a nulle part où placer, et les mains, qu'une cible écrite peut recevoir, sont ce que le système capture le mieux.

Là où les cadres se rejoignent

Jeff écrit que la qualité de la gouvernance et l'orientation architecturale sont des axes distincts, et qu'une lecture de conformité peut mesurer le premier sans trancher le second. En tant que description de ce qu'une simple revue documentaire peut accomplir, c'est juste. En tant que description de la façon dont l'architecture change réellement, je pense que c'est incomplet, et sa propre section de conclusion montre pourquoi.

Examinez les cinq conditions dont il dit qu'elles modifieraient substantiellement sa lecture : des signeurs Deaf détenant la majorité des voix de gouvernance et du pouvoir discrétionnaire budgétaire ; un consentement collectif libre, préalable et éclairé sur le corpus ; des déclarations de données et des fiches de modèle publiées couvrant le consentement, la compensation et la couverture non manuelle ; une évaluation au regard d'une réglementation contraignante ; et un interprète qualifié garanti dans le contrat d'approvisionnement. Aucune de ces conditions n'est une spécification architecturale. Chacune est un énoncé sur qui décide, qui consent, ce qui doit être divulgué, quelle loi s'applique et ce qu'un contrat doit garantir. Ce sont des conditions de gouvernance, et ce sont de bonnes conditions.

Cette convergence est précisément le point central. Une cible de sortie n'est pas une loi de la nature ; c'est un choix de conception fait par des personnes ayant l'autorité de le faire, financé par des acheteurs qui l'acceptent, et maintenu en place par des régimes d'évaluation qui le récompensent. Jeff a raison de dire qu'une liste de contrôle de conformité ne peut pas voir le couloir derrière une porte verrouillée. Mais les seuls instruments qui ont jamais réorienté un couloir sont ceux qui changent qui détient les clés : l'autorité décisionnelle, des clauses contractuelles exécutoires, et des exigences de preuve qu'un fournisseur ne peut satisfaire en se contentant de décrire ses intentions. La gouvernance n'est pas un axe différent de l'architecture. C'est le levier par lequel l'architecture est contestée.

La direction, revisitée

Mon argument initial était que SL2T est un système de compréhension : la machine lit la personne Deaf et une partie entendante lit la machine. Quand un avatar signe mal à un spectateur Deaf, le préjudice est un accès défaillant. Quand un modèle transcrit mal un signeur Deaf, le préjudice est une attribution erronée, car des mots que la personne n'a jamais produits peuvent entrer dans un registre écrit sous son nom. J'ai traité ce risque comme quelque chose que l'enveloppe d'usage soutenu contient tant que l'enveloppe tient.

La correction de Jeff est que le confinement ne change pas la direction. Une porte verrouillée peut arrêter l'entrée, mais elle ne change pas où mène le couloir, et les documents de publication eux-mêmes anticipent des API cloud, des poids éventuellement ouverts, davantage de langues et, à terme, de la génération. Une fois que les intégrateurs détiennent la capacité, le public visé par la limite n'est plus l'utilisateur Deaf mais l'employeur, l'école, le service de police ou le bureau des prestations qui décide comment l'intégrer. J'accepte cela. La direction est une propriété du système, et mon article a sous-estimé à quel point l'enveloppe est susceptible d'être temporaire.

Ce que j'ajouterais, c'est ce qui en découle pour un évaluateur. Si la direction est architecturale, alors chaque déploiement d'un système de signe-vers-texte hérite par défaut du risque d'attribution erronée, et la charge devrait reposer sur quiconque veut faire entrer la sortie de la machine dans un registre, et non sur la personne Deaf qui doit repérer l'erreur après coup. Cela reformule la question de gouvernance. Il ne s'agit plus de savoir si le fournisseur a tracé une limite autour des usages dangereux. Il s'agit de savoir si quelque chose empêche la sortie de devenir d'emblée le registre officiel.

La condition préalable, et où la vérification devrait se situer

Le passage le plus fort de l'article de Jeff concerne l'hypothèse propre à la publication selon laquelle les utilisateurs possèdent une littératie fonctionnelle suffisante en anglais pour vérifier le texte généré. J'ai décrit cela comme un risque résiduel retombant le plus durement sur les utilisateurs qu'un outil axé sur la langue des signes pourrait le mieux servir. Jeff soutient que c'est plus qu'une répartition du risque : c'est le fonctionnement même de la garantie principale, car le signeur reste dans la boucle en tant que vérificateur, mais doit vérifier en anglais écrit. Il cite une étude de 2026 portant sur des adultes Deaf utilisateurs de l'ASL ^[6]. L'étude ne testait pas la traduction par IA, et Jeff le précise, mais elle suffit à montrer qu'une garantie exigeant qu'un signeur vérifie un anglais fluide ne peut être présumée également accessible à toutes les personnes que le système prétend servir.

Je suis d'accord, et je pense que le remède découle directement de sa propre analyse de ce que le système traite comme registre officiel. Si la sortie en anglais est le registre, la vérification doit se faire en anglais, et la condition préalable est incontournable. Si la source signée est le registre, elle ne l'est pas. La vidéo signée originale, conservée sous le contrôle du signeur, devient la preuve de ce que la personne a dit, et le texte anglais devient ce qu'il est réellement : un rendu, attribuable à une machine, sans valeur en tant que paroles de la personne tant que celle-ci ne l'a pas confirmé dans sa propre langue. La confirmation peut alors prendre des formes qui ne dépendent pas du tout de la littératie en anglais, y compris la révision du rendu par un interprète qualifié ou un intermédiaire Deaf choisi par le signeur, ainsi que le droit de la personne à contester le rendu au regard de la source.

Ce n'est pas tant un principe nouveau qu'un principe familier appliqué à un nouvel artefact. Une transcription n'est pas un témoignage ; c'est le témoignage qui en est un. Une déclaration interprétée dans un cadre juridique est vérifiée par rapport au locuteur, et non l'inverse. Les systèmes signe-vers-texte inversent par défaut cette relation, et cette inversion est exactement la continuité avec Milan que Jeff identifie : la compétence dans la langue majoritaire devient la condition pour être correctement représenté dans ses propres mots. Faire de la source signée le registre officiel retire cette condition de la garantie, même si l'anglais écrit demeure la cible de sortie du système.

Répondre à la question

Jeff demande quelle garantie donne à une institution quelque chose qu'elle ne peut ni réinterpréter, ni négocier à la baisse, ni ignorer discrètement. Ma réponse est qu'aucune garantie détenue par l'institution ne peut satisfaire ce critère, car tout ce que l'acheteur détient, l'acheteur peut y renoncer. Les garanties qui survivent à l'approvisionnement sont celles qui appartiennent à la personne Deaf et qui l'accompagnent dans chaque déploiement. J'en nommerais deux.

1. Un droit invocable par l'utilisateur à un interprète humain qualifié. Non pas une recommandation dans des directives, ni un recours que l'institution peut offrir à sa discrétion, mais une clause contractuelle que la personne Deaf peut invoquer à tout moment dans une interaction, avec un recours énoncé en cas de refus et aucun pouvoir pour l'institution d'y renoncer au nom de la personne. Cela répond à la préoccupation la mieux classée par le comité consultatif lui-même, dont Jeff note que les documents de publication ne la garantissent pas. Cela repose également sur un fondement juridique antérieur à l'IA : en vertu du Titre II de l'ADA, une entité publique doit accorder une considération primordiale à l'aide auxiliaire demandée par l'individu [ncg_citep key="cfr35160"], et l'article 9(2)(e) de la CRPD mentionne les interprètes professionnels en langue des signes parmi les formes d'assistance en direct que les États parties doivent fournir [ncg_citep key="crpd2006"]. Le choix revient déjà légalement à la personne. L'approvisionnement devrait cesser de le transférer discrètement à l'acheteur.
2. La source signée est le registre officiel. L'anglais généré par machine n'entre jamais dans un dossier en tant que paroles d'une personne Deaf à moins que cette personne ne l'ait confirmé dans sa propre langue, que la source signée soit conservée sous son contrôle, et que tout litige soit tranché par rapport à la source plutôt qu'au texte. C'est la garantie qui répond à la condition préalable de Jeff, car elle retire la littératie en anglais du chemin de vérification sans prétendre que la cible de sortie a changé.

Les deux garanties partagent une propriété qu'une limite fixée par un fournisseur n'a pas. Ce ne sont pas des énoncés sur ce pour quoi le système ne devrait pas être utilisé. Ce sont des droits attachés à la personne, de sorte qu'ils lient quel que soit l'intégrateur, l'agence ou l'employeur qui finit par détenir la capacité, y compris ceux qui arrivent après l'API cloud et les poids ouverts.

Une limite écrite dans un PDF répond à l'intention du fournisseur. Un droit détenu par la personne Deaf répond à chaque déploiement qui suit.

Heather M. Grizzle

Ce que cela change dans SLAT

Jeff a posé sa question à mon Index ainsi qu'aux clauses d'approvisionnement de son propre travail, il est donc juste de préciser ce que son article change de mon côté. Trois choses.

D'abord, la lacune méthodologique. Une lecture de gouvernance d'une technologie d'accès pour personnes Deaf qui ne documente aucune étape de vérification par des personnes Deaf peut décrire le dossier d'un fournisseur mais ne peut pas le tester de manière indépendante. Je suis en train de constituer un organe de révision Deaf pour l'Index, et tant qu'il ne sera pas installé, je le préciserai dans tout ce que je publie plutôt que de laisser l'absence non documentée. Mes prochains travaux sur SL2T porteront cette mention jusqu'à ce que la lacune soit comblée.

Deuxièmement, la validation des sorties. La conclusion la plus profonde des évaluations SLAT menées jusqu'à présent ^[8] est qu'aucun fournisseur n'a publié d'évaluation indépendante de sa sortie signée. J'ai rédigé un protocole de validation des sorties qui traite la participation d'évaluateurs Deaf comme définitionnelle plutôt que comme un ajout, qui exclut de l'échantillon tout contenu fourni par le fournisseur ou à visée démonstrative, et qui rapporte l'attribution erronée séparément de l'exactitude, de sorte que la défaillance que Jeff et moi décrivons tous deux ne puisse pas être diluée par une moyenne. C'est un brouillon, et je publie son existence ici afin de pouvoir être tenu de le mener à terme.

Troisièmement, la règle du registre. L'Index demande déjà si un utilisateur Deaf dispose d'une voie d'accès à un humain qualifié. Il ne demande pas encore si une sortie machine peut entrer dans un registre en tant que paroles d'une personne sans la confirmation de cette personne dans sa propre langue. L'article de Jeff me persuade qu'il devrait le faire, et je proposerai cela comme condition dans la prochaine révision de l'Index. La question sur laquelle il a conclu mérite une meilleure réponse qu'une simple évaluation de suffisance, et la meilleure réponse que j'ai est un droit que détient la personne Deaf plutôt qu'une promesse que fait l'institution.