Adaptation nécessite détection : le problème de gouvernance dans l'accessibilité personnalisée en milieu de travail

Ce que suppose la proposition

L'argument en faveur de l'accessibilité adaptative est simple et séduisant. Plutôt que de construire une seule interface et de demander à chaque employé de s'y conformer, il s'agit de déployer des systèmes qui s'ajustent à chaque personne, en continu et sans qu'on le leur demande. L'accessibilité devient personnelle, immédiate et invisible. La formule qui l'accompagne généralement est que l'accessibilité devrait s'adapter aux personnes plutôt que d'exiger des personnes qu'elles s'y adaptent.

La formule est juste en tant que principe et trompeuse en tant que spécification, car elle dissimule ce que l'adaptation exige. Un système ne peut pas s'ajuster à une personne qu'il n'a pas classifiée. Pour agrandir le texte pour un employé et non pour un autre, pour simplifier un tableau de bord, modifier le minutage, changer la modalité de saisie, le système doit d'abord déterminer que cette personne en particulier en a besoin. La personnalisation est une classification, et au travail, la classification en question est le handicap.

La personnalisation est une classification, et au travail, la classification en question est le handicap.

C'est là le problème de gouvernance, et ce n'est pas un détail de mise en œuvre. Un employeur qui déploie un système déduisant lesquels de ses employés sont en situation de handicap a construit quelque chose de très différent d'une fonctionnalité d'accessibilité. Il a construit un mécanisme qui génère des informations sur le handicap au sein de son personnel, en continu, sans demande, sans divulgation, et sans le processus que la loi prévoit précisément à cette fin.

La classification est ce que le droit du travail restreint le plus

L'Americans with Disabilities Act (ADA) interdit aux employeurs d'exiger des examens médicaux ou de poser des questions visant à déterminer si un employé est une personne en situation de handicap, ou quant à la nature ou la gravité de ce handicap, sauf si la question est liée à l'emploi et compatible avec les nécessités de l'activité. La restriction est délibérément large, et l'Equal Employment Opportunity Commission (EEOC) l'a longtemps interprétée comme couvrant les questions susceptibles de révéler des informations sur un handicap, et pas seulement les questions directes.

Savoir si un moteur d'inférence constitue une « question » au sens de la loi reste une question ouverte, et elle doit être qualifiée d'ouverte plutôt que tranchée dans un sens ou dans l'autre. Un système qui surveille le niveau de zoom, le temps de pause, les taux d'erreur, la méthode de saisie, la fréquence des corrections ou les schémas de navigation, et en déduit qu'un utilisateur présente probablement une déficience visuelle, motrice ou cognitive, n'a rien demandé. Il a obtenu la réponse sans poser la question, ce qui se situe soit en dehors du champ de la disposition, soit constitue précisément le méfait que cette disposition vise à prévenir, et aucun tribunal n'a encore eu l'occasion de trancher.

Ce qui n'est pas ouvert, c'est ce que l'employeur finit par détenir. Quelle que soit la façon dont l'inférence est qualifiée, le résultat est un dossier, associé à un employé nommé, indiquant un handicap probable. L'ADA exige que les informations médicales obtenues sur les employés soient conservées sur des formulaires distincts, dans des dossiers distincts, et traitées comme un dossier médical confidentiel. Un système d'accessibilité adaptative générant des inférences liées au handicap au sein d'un pipeline d'analyse de produit à usage général, conservé sur l'infrastructure d'un fournisseur, visible par quiconque administre la plateforme, a peu de chances de satisfaire à cette norme, et dans la plupart des déploiements, personne n'a examiné la question car le système a été acquis comme une fonctionnalité d'expérience utilisateur plutôt que comme une source d'informations médicales sur les employés.

Il faut aussi noter ce que l'employé perd. Le processus d'aménagement existe pour donner à la personne le contrôle : décider de divulguer ou non, quoi divulguer, à qui, et quoi demander. Un système adaptatif décide de ces quatre éléments à la place de l'employée et ne lui dit jamais qu'il l'a fait. La personne concernée est mieux servie par un formulaire simple et un décideur identifié que par un système qui détermine silencieusement ce dont elle a besoin.

Les directives pertinentes de l'EEOC sur ces questions, l'assistance technique de mai 2022 sur l'ADA et l'utilisation de logiciels, d'algorithmes et d'intelligence artificielle pour évaluer les candidats et les employés, désignaient les questions illicites liées au handicap comme l'un des trois mécanismes principaux de préjudice algorithmique au regard de l'ADA, aux côtés du défaut d'aménagement et de l'exclusion par filtrage. Ce document a été retiré du site de l'agence en janvier 2025. Son retrait a changé la disponibilité de l'explication, pas le contenu de la loi.

Le marché vient d'apprendre ce qui se passe

Trois mois avant la rédaction de ce texte, la Federal Trade Commission a annoncé une plainte et une ordonnance proposée obligeant accessiBe à payer un million de dollars pour régler des allégations selon lesquelles elle avait dénaturé les capacités de son outil d'accessibilité web alimenté par l'IA. L'entreprise avait commercialisé un module complémentaire affirmant qu'il pouvait rendre n'importe quel site web conforme aux Web Content Accessibility Guidelines (WCAG), en partie immédiatement et intégralement grâce à un processus automatisé en quarante-huit heures, avec une réanalyse continue pour maintenir la conformité à mesure que le contenu changeait. La FTC a allégué que le produit ne faisait pas cela, échouant sur des composants de base tels que les menus, les titres, les tableaux, les images et les enregistrements, et que l'entreprise avait présenté des recommandations rémunérées comme des avis indépendants. L'ordonnance proposée interdit à l'entreprise d'affirmer que ses produits automatisés peuvent rendre un site web conforme aux WCAG, ou le maintenir conforme dans la durée, en l'absence de preuves à l'appui de cette affirmation.

La surcouche d'accessibilité est le précédent le plus proche disponible pour l'accessibilité adaptative, et la leçon n'est pas que l'automatisation ne peut pas aider. C'est qu'un ajustement automatisé superposé à un système sous-jacent inaccessible produit l'apparence de l'accès plutôt que l'accès lui-même, et que les organisations qui le déploient acquièrent cette apparence comme défense. Les surcouches étaient vendues exactement dans le registre que la proposition d'accessibilité adaptative utilise aujourd'hui : ne vous contentez pas de vous conformer, innovez ; la technologie s'ajuste en temps réel ; l'accessibilité devient automatique. Des centaines d'organisations utilisant des surcouches ont été poursuivies dans des litiges relatifs à l'accessibilité web, et la surcouche ne les a pas aidées. Elle les a identifiées.

Une organisation qui adopte un système de personnalisation sur la foi de l'affirmation d'un fournisseur selon laquelle il s'adapte à chaque utilisateur fait le même achat, dans un contexte où les personnes concernées sont des employés plutôt que des visiteurs de site web, et où la loi applicable comporte un droit d'action individuel.

L'adaptation est proposée comme substitut à l'aménagement, et cela fait actuellement l'objet d'un litige

Le danger pratique n'est pas que les systèmes adaptatifs échouent. C'est que leur existence soit considérée comme remplissant l'obligation d'aménagement.

En mars 2025, l'American Civil Liberties Union, l'ACLU du Colorado, Public Justice et Eisenberg and Baum ont déposé une plainte auprès de la Colorado Civil Rights Division et de l'EEOC au nom d'une employée Sourde et autochtone. Selon les documents publics, elle avait demandé un sous-titrage réalisé par un humain comme aménagement raisonnable pour un entretien vidéo automatisé, et la demande a été refusée au motif que les sous-titres automatiques de la plateforme suffiraient. Des portions de l'entretien seraient restées sans sous-titres. Les deux entreprises nient les allégations, et l'affaire sera tranchée par l'enquête plutôt que par le commentaire.

Quelle que soit son issue, la situation factuelle nomme exactement le risque. La position de l'employeur était que la fonctionnalité adaptative automatisée rendait l'aménagement demandé inutile. C'est précisément la proposition que le marketing de l'accessibilité adaptative présente comme son avantage central. Une organisation qui adopte la technologie et intègre ce discours marketing a adopté une défense actuellement mise à l'épreuve, et elle doit comprendre qu'il s'agit de la défense en cause plutôt que d'un moyen d'éviter le litige.

La technologie d'assistance n'est pas un programme d'accessibilité

Une dernière distinction, car la proposition tend à l'effacer. Des applications telles que Seeing AI et Google Lookout sont des technologies d'assistance : des outils qu'une personne aveugle ou malvoyante choisit, configure, contrôle et peut abandonner. Elles appartiennent à l'utilisateur. Leur gouvernance relève de l'utilisateur lui-même, et leur valeur est réelle.

Une interface adaptative déployée par l'employeur est un objet d'une nature différente. Elle appartient à l'institution, elle est appliquée à la personne plutôt qu'actionnée par elle, elle fonctionne que la personne le veuille ou non, et elle génère des données que l'employeur détient. Raisonner à partir du succès de la première catégorie pour conclure à la sécurité de la seconde est l'erreur analytique centrale dans ce domaine, et elle se reproduit parce que les deux sont décrites comme de l'IA au service de l'accessibilité.

Il existe aussi un problème plus discret à citer les applications d'assistance grand public comme preuve de la posture d'accessibilité d'une organisation. Si un employé aveugle se déplace dans le lieu de travail à l'aide d'une application qu'il a trouvée, installée et apprise à utiliser sur son propre temps, l'organisation n'a pas fourni d'accessibilité. Elle a bénéficié de cette démarche, et la comptabiliser comme une prestation institutionnelle masque une obligation non remplie. La question pertinente n'est pas de savoir quels outils les employés ont trouvés. C'est de savoir si les documents, systèmes et environnement physique de l'organisation sont eux-mêmes accessibles sans ces outils.

Ce que le principe exige réellement

L'accessibilité devrait s'adapter aux personnes plutôt que l'inverse. Le principe est juste. Ce qui en découle n'est pas l'inférence mais l'autodétermination : la personne précise ce dont elle a besoin, et le système fait ce qu'elle a précisé. C'est la différence entre un contrôle de préférence et un moteur de détection, et c'est là tout l'enjeu de la gouvernance.

Six conséquences en découlent pour toute organisation envisageant ces systèmes.

1. Demandez au fournisseur, par écrit, si le système déduit des caractéristiques de l'utilisateur ou applique des préférences déclarées par l'utilisateur. S'il procède par inférence, demandez ce qu'il déduit, à partir de quels signaux, où l'inférence est stockée, qui peut y accéder, et combien de temps elle est conservée. Conservez la réponse.
2. Privilégiez la préférence déclarée plutôt que la détection partout où le même résultat est atteignable. Un panneau de réglages contrôlé par l'employé offre la même adaptation sans aucun des problèmes d'inférence, et laisse l'employé maître de sa propre divulgation.
3. Traitez toute inférence liée au handicap générée par le système comme une information médicale confidentielle aux fins de son traitement, dans un stockage séparé à accès restreint, et vérifiez que l'architecture du fournisseur le permet avant le déploiement, et non après.
4. Indiquez explicitement, dans la politique et dans le processus d'aménagement lui-même, que les fonctionnalités adaptatives automatisées ne limitent ni ne remplacent une demande d'aménagement raisonnable, et formez en conséquence quiconque traite ces demandes.
5. Rejetez les allégations de conformité. Toute affirmation selon laquelle un produit atteint ou maintient automatiquement la conformité à une norme d'accessibilité doit être considérée comme une allégation marketing non étayée à moins d'être accompagnée de preuves, ce qui est désormais aussi la position de la FTC.
6. Corrigez le système sous-jacent. Une correction adaptative appliquée à un document, un tableau de bord ou un flux de travail inaccessible produit une modification temporaire de la surface. Remédier à la source est plus lent, moins impressionnant lors d'une démonstration, et la seule chose qui fonctionne durablement.

Conclusion

L'accessibilité personnalisée est présentée comme un moyen de contourner les frictions du processus d'aménagement : pas de formulaires, pas de divulgation, pas de délai, pas de conversation gênante. La friction qu'elle propose de supprimer est en grande partie le processus par lequel une personne en situation de handicap exerce un contrôle sur les informations la concernant et indique ce dont elle a réellement besoin. La supprimer n'élimine pas la classification. Elle déplace la classification d'une conversation à laquelle l'employé participe vers un système qu'il ne peut pas voir.

La technologie n'est pas le problème et une grande partie d'entre elle se révélera véritablement utile. L'affirmation est le problème, et l'affirmation actuellement avancée, selon laquelle l'accessibilité peut être automatique, adaptative et complète sans que personne n'ait à décider de quoi que ce soit, est la même affirmation qui a déjà produit une action d'application fédérale et une vague de litiges sur le marché adjacent. Elle n'était pas vraie pour les sites web. Elle ne l'est pas davantage pour les lieux de travail, où les personnes auxquelles on s'adapte sont des employés disposant d'un droit d'action privé et d'une loi qui les protège depuis 1990.

Références

• American Civil Liberties Union, ACLU du Colorado, Public Justice, et Eisenberg & Baum LLP. Plainte déposée auprès de la Colorado Civil Rights Division et de la U.S. Equal Employment Opportunity Commission, 19 mars 2025.
• Americans with Disabilities Act of 1990, 42 U.S.C. § 12112(d), relatif aux examens médicaux, aux questions liées au handicap et à la confidentialité des informations médicales.
• Federal Trade Commission, In the Matter of accessiBe, Inc., dossier n° 2223156 ; plainte et ordonnance proposée annoncées le 3 janvier 2025 ; ordonnance définitive avril 2025.
• U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, May 12, 2022; removed from the agency website January 27, 2025.
• Web Content Accessibility Guidelines, World Wide Web Consortium.