Le 23 janvier 2025, le décret exécutif 14179, intitulé Removing Barriers to American Leadership in Artificial Intelligence, a révoqué le décret exécutif sur l'IA de l'administration précédente et a ordonné aux agences fédérales de revoir et d'abroger les politiques liées à l'IA. En quelques jours, les conséquences pratiques ont atteint le domaine de l'emploi.
Ce qui a changé, et ce qui n'a pas changé
Le 27 janvier, la Equal Employment Opportunity Commission a retiré de son site web ses directives sur l'intelligence artificielle, y compris le document d'assistance technique de mai 2022 relatif à l'Americans with Disabilities Act et à l'utilisation de logiciels, d'algorithmes et d'intelligence artificielle pour évaluer les candidats et les employés, son résumé complémentaire Tips for Workers, ainsi que le document d'assistance technique de mai 2023 traitant du Titre VII. L'Office of Federal Contract Compliance Programs a retiré ses directives sur l'intelligence artificielle et l'égalité des chances en matière d'emploi pour les entrepreneurs fédéraux. Le Department of Labor a noté que le AI and Inclusive Hiring Framework publié en septembre 2024 par le Partnership on Employment and Accessible Technology, ainsi que ses propres bonnes pratiques en matière d'intelligence artificielle d'octobre 2024, pourraient ne plus refléter la politique actuelle.
De nombreux commentaires ont interprété ces retraits comme une réduction de l'exposition des employeurs. Cette lecture confond directive et loi. Les documents d'assistance technique sont interprétatifs. Ils expliquent comment une agence comprend une loi et comment elle entend exercer son pouvoir discrétionnaire d'application. Ils ne créent pas l'obligation, et leur retrait ne l'éteint pas. L'Americans with Disabilities Act a été promulguée en 1990 et n'a pas été modifiée. Le Titre I interdit toujours la discrimination fondée sur le handicap dans les conditions d'emploi, exige toujours un aménagement raisonnable en l'absence de contrainte excessive, interdit toujours l'utilisation de critères de qualification et de sélection qui écartent les personnes handicapées à moins que le critère ne soit lié au poste et conforme à une nécessité opérationnelle, et restreint toujours les questions relatives au handicap et les examens médicaux avant une offre conditionnelle. Les Uniform Guidelines on Employee Selection Procedures, au 29 C.F.R. Part 1607, imposent toujours aux utilisateurs de procédures de sélection de conserver des registres d'impact et, en cas d'impact, des preuves de validité. Les règlements de tenue de dossiers du 29 C.F.R. Part 1602 exigent toujours la conservation des dossiers de candidature et, une fois une plainte déposée, la conservation des dossiers pertinents jusqu'à la décision finale.
Ce que les retraits de janvier ont supprimé, ce n'est pas la responsabilité. C'est l'information. Les employeurs ont perdu le document qui leur indiquait, en termes clairs, lesquelles de leurs pratiques l'agence jugeait problématiques et pourquoi. L'exposition demeure et la carte a disparu.
L'exposition demeure et la carte a disparu.
Pourquoi l'exposition liée au handicap ne se comporte pas comme l'exposition liée aux biais
La réponse dominante au risque algorithmique dans l'embauche est l'audit de biais, et la mesure dominante est la règle des quatre cinquièmes, qui compare les taux de sélection entre groupes et considère un ratio inférieur à quatre-vingts pour cent comme une preuve d'impact défavorable. La Local Law 144 de New York, en vigueur depuis juillet 2023, exige un audit annuel indépendant des biais des outils de décision d'emploi automatisés et la publication des résultats. Les fournisseurs commercialisent de plus en plus les résultats d'audit comme une garantie.
Ce dispositif est mal adapté au handicap, et cette inadéquation est structurelle plutôt qu'une question de qualité d'audit. Les tests d'impact statistique par groupe nécessitent des catégories stables, connues, mutuellement exclusives, avec suffisamment de membres dans chacune pour permettre une comparaison de taux. La race et le sexe se rapprochent de ces conditions. Le handicap, non. Il est hétérogène au point qu'une catégorie unique n'a que peu de sens analytique, puisque les besoins d'aménagement et les modes d'interaction d'un candidat Deaf, d'un candidat aveugle, d'un candidat souffrant d'un handicap moteur et d'un candidat souffrant d'un handicap psychiatrique n'ont presque rien en commun. Il est fréquemment non déclaré, car les candidats n'ont aucune obligation de s'identifier et de fortes incitations à ne pas le faire. Il est souvent de faible prévalence dans une même offre d'emploi, ce qui rend les comparaisons de sous-groupes sous-puissantes même lorsque l'identification existe. Et en vertu de l'ADA, l'unité d'analyse pertinente est l'individu plutôt que le groupe, car une plainte pour exclusion se demande si un critère tend à exclure une personne handicapée en particulier, et une plainte pour défaut d'aménagement se demande ce qui s'est passé lorsqu'une personne a fait une demande.
La conséquence mérite d'être énoncée clairement. Un système de sélection automatisé peut réussir tous les audits de biais menés sur lui, publier un ratio d'impact confortablement supérieur au seuil des quatre cinquièmes sur chaque catégorie mesurée, et néanmoins exclure des candidats handicapés un par un, d'une manière individuellement actionnable en justice et statistiquement invisible. Les résultats d'audit ne constituent pas une preuve de conformité à l'ADA. Les présenter comme telle, ce qui est désormais une pratique courante chez les fournisseurs, crée un dossier documenté selon lequel l'employeur s'est fié à une garantie qui ne traitait pas le risque.
C'est aussi pourquoi l'affirmation, souvent répétée, selon laquelle des algorithmes bien conçus réduisent les biais humains, et nivellent donc le terrain de jeu pour les candidats handicapés, devrait être considérée comme non étayée. Cela peut être vrai pour certaines formes de biais. Il n'existe aucune base de preuves publique établissant cela pour le handicap, et le mécanisme par lequel ces systèmes fonctionnent suggère plutôt le contraire. Les modèles notent la conformité à une distribution apprise à partir de candidats retenus par le passé. Le handicap, dans les dimensions que ces systèmes mesurent le plus souvent, est précisément ce à quoi ressemble la non-conformité à cette distribution.
Ce que révèle la plainte de mars 2025
Le 19 mars 2025, l'American Civil Liberties Union, l'ACLU du Colorado, Public Justice et le cabinet Eisenberg and Baum LLP ont déposé une plainte auprès de la Colorado Civil Rights Division et de l'EEOC au nom d'une femme Deaf et autochtone à qui l'on avait demandé de passer un entretien vidéo automatisé lorsqu'elle a postulé pour une promotion. La plainte allègue des violations de l'ADA, du Titre VII et du Colorado Anti-Discrimination Act. Selon les documents publics, elle avait demandé un sous-titrage réalisé par une personne humaine comme aménagement raisonnable, la demande a été refusée au motif que les sous-titres automatisés de la plateforme suffiraient, certaines parties de l'entretien se sont néanmoins retrouvées sans sous-titres, et elle a par la suite été rejetée pour des motifs liés à la communication. L'employeur affirme que les allégations sont sans fondement et qu'il fournit des aménagements raisonnables à tous les candidats. Le fournisseur affirme que la plainte est sans fondement et repose sur une hypothèse inexacte concernant la technologie utilisée. Il s'agit d'allégations et de dénégations, et une enquête de l'agence déterminera s'il existe une cause.
Quel que soit le résultat, ce schéma factuel est celui que les employeurs devraient modéliser, car il ne dépend pas de la preuve qu'un modèle est biaisé. Il dépend de trois questions ordinaires. L'évaluation était-elle accessible à ce candidat. Un aménagement a-t-il été demandé, et quelle a été la réponse. L'employeur peut-il expliquer ce que l'évaluation mesurait et pourquoi ce construit est lié au poste.
Notez également ce que cette théorie n'exige pas. Elle ne nécessite aucune statistique comparative, aucune reconstitution experte d'un modèle, et aucune analyse d'impact disparate. La preuve consiste en une demande d'aménagement datée, une réponse à celle-ci, et un résultat défavorable. Ce profil de preuve est peu coûteux à constituer et il est créé par les propres registres de l'employeur.
Accessibilité, aménagement et validité sont trois obligations distinctes
Une grande partie de la discussion actuelle fusionne des distinctions qui fonctionnent de manière indépendante, et cette confusion produit des programmes de conformité qui traitent une obligation tout en en laissant deux ouvertes.
L'accessibilité est une propriété de l'interface. Savoir si la plateforme d'évaluation peut être utilisée avec un lecteur d'écran, si les médias sont sous-titrés, et si le minutage peut être ajusté, ce sont des questions qui portent sur la capacité du candidat à seulement accéder à la tâche. C'est le niveau que la plupart des organisations ont traité, généralement par le biais d'une déclaration de conformité du fournisseur.
L'aménagement est une obligation de procédure. Elle exige que les candidats soient informés, avant le début de l'évaluation, que des modifications sont disponibles, qu'une demande déclenche un processus interactif plutôt qu'un rejet formel, qu'un décideur soit identifié, et qu'il existe une voie alternative qui ne désavantage pas elle-même la personne qui l'a empruntée. Une plateforme techniquement accessible à tous égards peut néanmoins donner lieu à une plainte pour défaut d'aménagement si personne n'a informé le candidat de l'existence d'une alternative.
La validité est une propriété de la mesure. Elle interroge si ce que le système note correspond à une exigence du poste. C'est le niveau que presque personne n'a traité, et c'est là que l'évaluation vidéo et vocale automatisée est la plus exposée. Lorsqu'un système note la fluidité, le débit d'articulation, le temps de réponse, la prosodie, l'affect facial, ou un construit intitulé communication ou engagement, l'employeur devrait pouvoir indiquer quelle fonction du poste requiert cet attribut et sur quelle preuve. Des recherches publiées documentent des écarts substantiels de taux d'erreur sur les mots dans la reconnaissance vocale automatisée pour les locuteurs dont la parole s'écarte de la distribution d'entraînement, y compris les schémas de parole racialisés et la parole atypique ou avec troubles, ce qui explique pourquoi l'Université de l'Illinois a créé en 2022 un Speech Accessibility Project dédié pour recueillir ces données. Lorsqu'un candidat s'exprime par signes par l'intermédiaire d'un interprète, la transcription notée est le rendu de l'interprète plutôt que l'énoncé du candidat, et les choix lexicaux et le décalage de traitement de l'interprète sont attribués au candidat. Le système produit un chiffre. Il ne mesure pas le candidat.
Le niveau étatique et son calendrier
Le désengagement fédéral ne libère pas le terrain, et le calendrier étatique importe pour la planification. Le projet de loi 3773 de la Chambre de l'Illinois, promulgué en août 2024, modifie l'Illinois Human Rights Act pour interdire l'usage discriminatoire de l'intelligence artificielle tout au long du cycle d'emploi et pour exiger une notification aux candidats et aux employés lorsque de tels systèmes sont utilisés, avec entrée en vigueur au 1er janvier 2026. Le projet de loi sénatorial 24-205 du Colorado, promulgué en mai 2024, impose des obligations aux développeurs et déployeurs de systèmes à haut risque utilisés dans des décisions conséquentes, y compris en matière d'emploi, avec une date d'entrée en vigueur au 1er février 2026, bien que le gouverneur ait invité, lors de la promulgation, à une révision législative, et une modification avant cette date devrait être considérée comme probable. Le projet de loi 2094 de la Chambre de Virginie, qui aurait établi un cadre comparable, a fait l'objet d'un veto en mars 2025. La Local Law 144 de New York reste en vigueur.
L'orientation du niveau étatique va vers la notification et la divulgation plutôt que vers des obligations substantielles de diligence. Les employeurs devraient planifier en partant du principe que les obligations auxquelles ils feront réellement face consistent à indiquer ce qu'ils font, et que l'obligation de pouvoir prouver ce qu'ils ont fait viendra du contentieux plutôt que d'un régulateur.
Que faire maintenant
Ce qui suit peut être réalisé par une fonction des ressources humaines existante et ne nécessite pas d'assistance externe.
- Recensez tous les systèmes qui interviennent dans une décision de sélection, y compris l'analyse de CV, le classement, les questions éliminatoires, la présélection par chat, et l'évaluation vidéo ou vocale automatisée. Incluez les fonctionnalités activées par défaut dans un système de suivi des candidatures, qui sont les plus souvent négligées.
- Pour chaque système, indiquez par écrit ce qu'il mesure et à quelle exigence documentée du poste ce construit correspond. Là où aucune réponse n'existe, le système note un critère non validé.
- Vérifiez que les candidats sont informés qu'une évaluation alternative ou modifiée est disponible avant le début de l'évaluation, et non après, et que cette information figure sur l'évaluation elle-même plutôt que d'être dissimulée sur une page carrières.
- Récupérez toutes les demandes d'aménagement associées à une évaluation automatisée au cours des vingt-quatre derniers mois. Consignez ce qui a été demandé, qui a décidé, ce qui a été fourni, et quel a été le résultat. Ce dossier sera produit dans le cadre de toute plainte et devrait être examiné avant que quelqu'un d'autre ne l'examine.
- Demandez par écrit au fournisseur des preuves de validation pour chaque construit noté et des données de précision ventilées selon les caractéristiques de la parole et de la communication. Conservez la réponse, y compris un refus, qui constitue en soi une preuve utile de l'état des connaissances de l'employeur.
- Vérifiez que les scores et la configuration en vigueur au moment de chaque décision sont conservés pendant la période de conservation applicable. Les scores calculés pour produire un classement puis supprimés ne pourront pas être expliqués ultérieurement.
- Traitez tout résultat d'audit de biais comme une preuve concernant uniquement les catégories de race et de sexe, et ne le présentez ni en interne ni en externe comme une preuve de conformité à l'ADA.
Conclusion
L'intelligence artificielle peut considérablement élargir l'accès au travail pour les personnes handicapées. Le sous-titrage en temps réel, la conversion parole-texte et les interfaces adaptatives l'ont déjà fait, et l'évaluation de 2023 de l'OCDE sur l'IA et le handicap sur le marché du travail documente des gains réels. Ces gains proviennent d'applications d'assistance, où la technologie sert la personne. Ils ne se transposent pas automatiquement aux applications évaluatives, où la technologie mesure la personne, et la tendance actuelle à raisonner de la première vers la seconde est l'erreur analytique centrale de ce domaine.
Le retrait des directives fédérales en janvier 2025 a changé ce que l'on communique aux employeurs. Cela n'a pas changé ce que les employeurs doivent. Les organisations qui seront en mesure de défendre leurs décisions d'embauche ne sont pas celles qui ont acheté l'outil le plus sophistiqué ou publié l'audit le plus rassurant. Ce sont celles qui peuvent dire ce que leurs systèmes mesurent, pourquoi cela importe pour le poste, ce qui s'est passé lorsqu'un candidat a demandé quelque chose de différent, et qui a décidé.
Références
- American Civil Liberties Union, ACLU du Colorado, Public Justice, et Eisenberg & Baum LLP. Plainte déposée auprès de la Colorado Civil Rights Division et de la U.S. Equal Employment Opportunity Commission, 19 mars 2025.
- Americans with Disabilities Act of 1990, Titre I, 42 U.S.C. § 12112.
- Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
- Projet de loi sénatorial 24-205 du Colorado, Concerning Consumer Protections in Interactions with Artificial Intelligence Systems, promulgué le 17 mai 2024.
- Décret exécutif 14179, Removing Barriers to American Leadership in Artificial Intelligence, 23 janvier 2025.
- Projet de loi 3773 de la Chambre de l'Illinois, modifiant l'Illinois Human Rights Act, promulgué le 9 août 2024.
- New York City Local Law 144 de 2021, Automated Employment Decision Tools.
- OCDE. Using AI to Support People with Disabilities in the Labour Market. 2023.
- U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 mai 2022. Retiré du site web de l'agence le 27 janvier 2025.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607 ; exigences de tenue de dossiers, 29 C.F.R. Part 1602.