Résumé exécutif
L'intelligence artificielle de la langue des signes, qu'elle soit conçue pour la reconnaissance, la traduction ou la génération par avatar, dépend structurellement de la capture vidéo ou biométrique des utilisateurs Deaf et malentendants. Cette dépendance crée un problème de gouvernance des données qui a fait l'objet d'un examen institutionnel bien moins approfondi que les défaillances linguistiques et de compréhension documentées dans les précédents numéros de cette série. Dans l'ensemble du paysage des fournisseurs que NCG a examiné dans le cadre du référentiel SLAT (Sign Language Access Trust), la divulgation de ce qui est collecté, de la durée de conservation, de l'utilisation éventuelle pour entraîner de futurs modèles, et du partage éventuel avec des tiers, est au mieux incohérente, et au pire inexistante. Il ne s'agit pas d'affirmer qu'un fournisseur en particulier aurait agi de mauvaise foi. Les preuves publiques ne permettent pas encore d'attribuer une quelconque intention à une entreprise nommée, et ce numéro ne procède pas à une telle attribution. Il s'agit d'affirmer que le marché n'a pas encore développé de norme de divulgation adaptée à la sensibilité des données en jeu, et que cette lacune constitue une défaillance de gouvernance indépendante de la conduite de tel ou tel fournisseur. La position politique exposée ci-dessous soutient que l'adéquation du consentement et de la divulgation devrait être traitée comme un critère éliminatoire dans les achats, et non comme une considération secondaire abordée après l'évaluation fonctionnelle.
Problème politique
La capture de la langue des signes est une capture biométrique. La vidéo des mains d'un signeur, de sa grammaire faciale et de sa posture corporelle n'est pas une donnée d'entrée accessoire, comparable à une phrase tapée soumise à un système textuel. Elle est intrinsèquement identifiante, elle encode par définition des informations sur le statut de handicap, et dans de nombreuses juridictions, elle répond à la définition légale de données biométriques ou de catégorie spéciale soumises à une protection renforcée. La loi de l'Illinois sur la protection des informations biométriques (BIPA, Biometric Information Privacy Act), par exemple, exige un avis écrit et un consentement avant la collecte d'identifiants biométriques, et impose une responsabilité indépendante de la preuve d'un préjudice réel. Le RGPD (Règlement général sur la protection des données) de l'Union européenne classe les données révélant des informations liées au handicap, ainsi que certaines données biométriques utilisées à des fins d'identification, comme des données de catégorie spéciale au titre de l'article 9, nécessitant une base légale explicite allant au-delà du simple consentement. Le CCPA (California Consumer Privacy Act) et le CPRA (California Privacy Rights Act) de Californie imposent leurs propres obligations de divulgation et de retrait pour les informations biométriques.
Malgré ce cadre réglementaire, les produits d'IA de langue des signes destinés aux consommateurs reposent fréquemment sur des conditions d'utilisation génériques qui n'ont pas été rédigées en pensant aux utilisateurs Deaf ni à la capture biométrique. Trois lacunes récurrentes apparaissent dans les relevés de fournisseurs réalisés par NCG : premièrement, l'absence de divulgation distincte ou visible indiquant que la saisie vidéo constitue une donnée biométrique soumise à des protections légales spécifiques ; deuxièmement, l'absence d'énoncé clair précisant si la vidéo capturée ou les caractéristiques qui en sont dérivées sont conservées à des fins d'entraînement de modèles, et le cas échéant pour quelle durée et avec quels droits de suppression ; troisièmement, l'absence de divulgation dans un format accessible, c'est-à-dire que le texte de consentement lui-même n'est souvent pas traduit en ASL ni présenté dans un format utilisable par la population dont les données sont collectées. Ce dernier point n'est pas un détail technique. Un régime de divulgation qui exige la maîtrise d'une langue seconde écrite pour comprendre ce qui est fait de ses propres données biométriques ne fonctionne pas comme un consentement éclairé pour une population dont la maîtrise de l'anglais écrit varie considérablement et pour laquelle l'ASL est la principale langue de compréhension.
La capture en langue des signes est une capture biométrique.
Analyse institutionnelle
Les dynamiques institutionnelles à l'origine de cette lacune sont structurelles plutôt que délibérées. L'IA en langue des signes est une catégorie de produits jeune, et la plupart des fournisseurs sont de petites entreprises utilisant les mêmes modèles génériques de politique de confidentialité employés dans l'ensemble du secteur logiciel, adaptés a minima, voire pas du tout. Les processus d'achat au niveau institutionnel, quant à eux, ont historiquement évalué ces produits selon des critères fonctionnels : l'avatar restitue-t-il un rendu intelligible, le système de reconnaissance atteint-il une précision acceptable, le fournisseur emploie-t-il du personnel Deaf impliqué dans le développement. La gouvernance des données a été traitée comme une question de conformité juridique ou informatique abordée après la décision d'achat substantielle, lorsqu'elle est abordée du tout. Cet ordre des priorités constitue la véritable défaillance de gouvernance. Au moment où une lacune de gouvernance des données apparaît, que ce soit par une violation, une enquête réglementaire ou une critique publique de la communauté Deaf dont les données ont été concernées, la relation institutionnelle et l'engagement financier sont déjà établis, et le pouvoir de négociation pour exiger des mesures correctives s'en trouve d'autant plus affaibli.
Il existe également une question de provenance des données d'entraînement, adjacente au problème du consentement mais analytiquement distincte de celui-ci. Plusieurs systèmes d'IA de langue des signes ont été construits en partie à partir de corpus vidéo issus de contenus publiés publiquement, y compris des contenus créés par des utilisateurs Deaf d'ASL et des éducateurs sur des plateformes sociales. Que cette utilisation relève ou non du champ des conditions d'utilisation propres à la plateforme, qu'elle constitue ou non un usage loyal (fair use) au regard du droit d'auteur, et que les personnes dont les gestes apparaissent dans ces séquences aient été ou non réellement informées que leur contenu serait utilisé pour entraîner un système d'IA commercial, sont des questions ouvertes que NCG n'a pas vérifiées de manière indépendante pour un quelconque fournisseur spécifique et n'affirme pas ici comme des faits établis. Le point pertinent pour la gouvernance est que les responsables des achats qui évaluent ces systèmes n'ont presque aucune visibilité sur la provenance des données d'entraînement, et que les normes de divulgation actuelles du secteur n'obligent pas les fournisseurs à la fournir.
Implications en matière de gouvernance
Une institution qui fait l'acquisition d'une IA de langue des signes n'est pas simplement l'acheteuse d'un outil de traduction. Lorsque le système traite des vidéos en direct d'élèves, de patients, d'employés ou de membres du public, l'institution devient également un responsable de traitement ou un sous-traitant de données au regard de la plupart des cadres de confidentialité applicables, et elle hérite de l'exposition en matière de gouvernance liée aux pratiques de données de son fournisseur, que cette exposition ait été divulguée ou non au moment de l'achat. Une institution qui n'a pas vérifié les pratiques de collecte, de conservation et d'utilisation à des fins d'entraînement de son fournisseur avant le déploiement ne peut pas affirmer à ses propres parties prenantes, aux régulateurs, ou aux personnes Deaf dont les données sont capturées, qu'elle a satisfait à ses propres obligations de protection des données. Cela reste vrai indépendamment de la conduite réelle du fournisseur, car l'absence de divulgation vérifiée constitue en elle-même le défaut de gouvernance, indépendamment du fait qu'un fournisseur donné s'avère ou non traiter les données de manière responsable.
Position politique de NCG
La position de NCG est que l'adéquation de la gouvernance des données et de la divulgation en matière de confidentialité devrait servir de critère éliminatoire dans les achats d'IA de langue des signes, évalué avant la performance fonctionnelle plutôt qu'après. L'incapacité d'un fournisseur à produire une divulgation claire, accessible en ASL et adaptée à la juridiction concernée, précisant quelles données biométriques sont collectées, pendant combien de temps elles sont conservées, si et comment elles sont utilisées pour l'entraînement de modèles, et quels droits de suppression existent, devrait être considérée comme disqualifiante pour un déploiement institutionnel, indépendamment de la performance linguistique ou technique par ailleurs constatée lors de l'évaluation. Cette position est déjà opérationnalisée dans les domaines Gouvernance des données et confidentialité et Transparence et divulgation du référentiel SLAT, et ce numéro soutient que ces domaines méritent une pondération accrue par rapport à l'étalonnage actuel du référentiel, compte tenu de l'exposition légale à laquelle les institutions sont confrontées et de la barrière de compréhension que crée un langage de consentement non accessible pour la population concernée.
Considérations relatives à la mise en œuvre
Les responsables des achats évaluant une IA de langue des signes devraient exiger, comme condition de la réponse du fournisseur, une divulgation écrite de gouvernance des données couvrant les quatre éléments ci-dessus, demander que cette divulgation soit disponible au format vidéo en ASL en plus de l'anglais écrit, et traiter le refus ou l'incapacité du fournisseur à produire cette divulgation comme un constat défavorable, indépendamment de la performance fonctionnelle du système. Les institutions ayant déjà déployé de tels systèmes devraient mener un examen rétrospectif plutôt que d'attendre le renouvellement du contrat, étant donné que l'exposition en matière de gouvernance s'accumule à partir de la date de déploiement et non de la date de découverte. Lorsque la provenance des données d'entraînement d'un fournisseur ne peut être vérifiée, les institutions devraient exiger des garanties contractuelles concernant l'approvisionnement licite des données plutôt que de traiter l'absence de réponse comme une inconnue neutre.
Références
- Biometric Information Privacy Act, 740 ILCS 14 (Illinois).
- California Consumer Privacy Act of 2018, tel que modifié par la California Privacy Rights Act, Cal. Civ. Code § 1798.100 et suivants.
- Règlement (UE) 2016/679 (Règlement général sur la protection des données), art. 9.
- Federal Trade Commission Act, 15 U.S.C. § 45 (actes ou pratiques déloyaux ou trompeurs).
- Novara Consulting Group, Référentiel Sign Language Access Trust (SLAT), 2026.