该主张的假设前提
自适应无障碍的理由直接而诱人。与其建立一个统一界面并要求每位员工去适应它,不如部署能够持续地、无需请求地自行调整以适应每个人的系统。无障碍变得个人化、即时化、且不着痕迹。通常伴随这一理念而来的说法是:无障碍应当去适应人,而不是要求人去适应它。
作为一项原则,这一表述是正确的;但作为一项规范说明,它是误导性的,因为它掩盖了“适应”所需要的东西。系统若未对某个人加以分类,就无法自行调整以适应此人。要为一名员工放大文字而不为另一名员工放大,要简化仪表盘、改变计时、更换输入方式,系统必须首先判定这个特定的人需要这样做。个性化即分类,而在职场中,所涉及的分类正是残障。
个性化即分类,而在职场中,所涉及的分类正是残障。
这是一个治理问题,而不是实施细节。一个雇主若部署了能够推断其员工中谁是残障人士的系统,所构建的东西与无障碍功能截然不同。它构建了一种机制,能够持续地、在未经请求、未经披露、且绕开法律为此专门设立的程序的情况下,生成关于其员工队伍的残障信息。
分类恰恰是就业法最为限制的事项
《美国残障人法》(ADA)限制雇主要求员工接受体检,或询问员工是否为残障人士,或询问该残障的性质或严重程度,除非该询问与工作相关且符合业务必要性。这项限制被有意设计得十分宽泛,美国平等就业机会委员会(EEOC)长期以来将其解读为涵盖那些可能引出残障相关信息的询问,而不仅仅是直接提问。
推理引擎是否构成该法规意义上的“询问”,是一个悬而未决的问题,应当被标注为悬而未决,而非已朝任何一个方向解决。一个监测缩放级别、停留时间、错误率、输入方式、更正频率或导航模式,并由此推断用户可能患有视觉、运动或认知障碍的系统,并没有提出任何问题。它是在没有提问的情况下获得了答案——这要么在该条款的文字之外,要么正是该条款旨在防止的祸害本身,而目前尚无法院对此作出裁定。
不确定的是这一点是什么,但确定的是雇主最终所持有的东西。无论这种推断如何定性,其输出结果都是一份记录,与一名具名员工相关联,表明其可能患有残障。ADA要求,雇主所获取的关于员工的医疗信息必须保存在单独的表格和单独的档案中,并作为保密医疗记录处理。一个在通用产品分析管道内部生成残障相关推断、保存在供应商基础设施上、可被平台管理者查看的自适应无障碍系统,不太可能满足这一标准,而在大多数部署中,没有人考虑过这个问题,因为该系统是作为用户体验功能采购的,而非作为员工医疗信息的来源。
还要注意员工失去了什么。合理便利程序的存在,是为了让当事人掌控:是否披露、披露什么、向谁披露,以及提出什么请求。一个自适应系统替员工做出了这四项决定,却从未告知她这一点。相比一个悄悄判定她需要什么的系统,一份简明的表格和一位具名的决策者更能服务于当事人。
EEOC关于这些问题的相关指导文件——2022年5月发布的关于ADA以及使用软件、算法和人工智能评估求职者和员工的技术协助文件——将“不被允许的残障相关询问”列为算法引发ADA损害的三种主要机制之一,与“未能提供便利”和“筛除”并列。该文件已于2025年1月从该机构网站上撤下。其撤下改变的是这一解释的可获得性,而非法规的内容。
市场刚刚被告知了会发生什么
在本文写作前三个月,美国联邦贸易委员会(FTC)宣布了一项投诉及拟议命令,要求accessiBe支付一百万美元,以了结有关其歪曲其人工智能驱动的网页无障碍工具能力的指控。该公司曾推销一款插件,声称能使任何网站符合《网页内容无障碍指南》(WCAG),部分内容可在四十八小时内通过自动化流程立即、全面实现合规,并持续重新扫描以在内容变化时维持合规。FTC指控该产品并未做到这一点,在菜单、标题、表格、图片和录音等基本组成部分上均存在缺陷,并且该公司还将付费背书包装成看似独立的评价。拟议命令禁止该公司声称其自动化产品能够使网站符合WCAG,或长期维持合规,除非有证据支持该声明。
无障碍叠加层是目前最接近自适应无障碍的先例,而其教训并非“自动化无法提供帮助”。而是:叠加在一个本身不具无障碍性的底层系统之上的自动化调整,产生的是“看似可访问”的表象,而非真正的可访问性,而部署它的组织获得的正是这种表象,作为其辩护。叠加层当年的营销话术恰恰与如今自适应无障碍的宣传如出一辙:不要止步于合规,要创新;技术会实时调整;无障碍将变得自动化。数百个使用叠加层的组织在网页无障碍诉讼中被起诉,而叠加层并未帮助他们,反而暴露了他们。
一个组织若仅凭供应商“它能适应每一位用户”的说法就采纳了一套个性化系统,其所做的购买与此如出一辙,只不过在这种情境下,受影响的是员工而非网站访客,而适用的法规还赋予了个人诉权。
“适应”正被当作“合理便利”的替代品来推销,而这一点目前正处于诉讼之中
实际的危险不在于自适应系统会失败,而在于它们的存在被当作已经履行了提供合理便利的义务。
2025年3月,美国公民自由联盟(ACLU)、科罗拉多州ACLU分会、Public Justice以及Eisenberg and Baum律所代表一名聋人及原住民员工,向科罗拉多州公民权利司和EEOC提交了一份投诉。根据公开的诉讼文件,她曾要求在自动化视频面试中使用人工生成的字幕作为合理便利,该请求以“该平台的自动字幕已足够”为由被拒绝。据称面试中部分内容根本没有字幕。两家公司均否认这些指控,此事最终将通过调查而非评论来定论。
无论结果如何,这一事实模式恰恰点明了风险所在。雇主的立场是:自动化的自适应功能使得所请求的便利变得没有必要。这正是自适应无障碍营销所宣扬的核心卖点。一个采纳该技术并内化了这套营销说辞的组织,实际上采纳了一种目前正在被检验的辩护理由,它应当明白,这正是当下争议的焦点,而不是回避争端的一种方式。
辅助技术不是无障碍计划
最后一个区分很重要,因为该主张往往会将两者混为一谈。诸如Seeing AI和Google Lookout之类的应用程序属于辅助技术:是盲人或低视力人士自己选择、配置、控制、并可随时放弃使用的工具。它们属于用户本人。其治理由用户自己掌控,其价值是真实存在的。
雇主部署的自适应界面则是另一种性质的对象。它属于机构,被施加于当事人身上而非由她操作,无论她是否愿意都会运行,并且会生成由雇主持有的数据。从第一类工具的成功推论出第二类工具的安全性,是这一领域中最核心的分析错误,而这种错误之所以反复出现,是因为两者都被冠以“无障碍人工智能”之名。
将消费级辅助应用当作组织无障碍状况的证据来引用,还存在一个更隐蔽的问题。如果一名盲人员工是靠自己找到、安装并在业余时间学会使用的应用程序来在职场中导航,那么该组织并没有提供无障碍环境,而是从她的自主行为中受益。将这一点算作机构提供的便利,会掩盖一项尚未履行的义务。相关的问题不在于员工找到了什么工具,而在于组织自身的文档、系统和物理环境在没有这些工具的情况下是否具有无障碍性。
该原则真正要求的是什么
无障碍应当去适应人,而不是相反。这一原则本身是正确的。由此得出的结论不是“推断”,而是“自主决定”:由当事人明确说明她需要什么,系统按照她所说明的去执行。这正是“偏好控制”与“检测引擎”之间的区别,也是整个治理问题的关键所在。
任何考虑采用这类系统的组织,都应遵循以下六点。
- 以书面形式询问供应商:该系统是推断用户特征,还是应用用户自行声明的偏好。如果是推断,询问它推断的是什么、依据什么信号、推断结果存储在何处、谁能查看、保留多久。保存好这份答复。
- 只要能达到相同效果,应优先选择“声明偏好”而非“检测”。一个由员工自己控制的设置面板,能实现同样的适应效果,却不带有任何推断问题,并且让员工自己掌控其披露内容。
- 将系统生成的任何残障相关推断,在处理上都视为保密医疗信息,存放在具有访问限制的独立存储中,并在部署之前而非之后确认供应商的架构允许这样做。
- 在政策以及合理便利流程本身中明确声明:自动化的自适应功能不限制、也不能替代提出合理便利请求的权利,并对负责处理此类请求的人员进行相应培训。
- 拒绝接受合规声明。任何声称某产品能够自动实现或维持符合某项无障碍标准的说法,除非附有证据支持,否则都应被视为缺乏依据的营销宣传——这如今也正是FTC的立场。
- 修复底层系统。将自适应修正应用于一个本身不具无障碍性的文档、仪表盘或工作流程,产生的只是表层的临时性修改。修复源头虽然更慢、在演示中不那么亮眼,却是唯一能持久奏效的做法。
结语
个性化无障碍被宣传为绕过合理便利流程摩擦的一种方式:无需表格、无需披露、无需等待、无需尴尬的对话。它试图消除的这种摩擦,在很大程度上正是残障人士借以掌控关于自己的信息、并说明自己实际需要什么的那个过程。消除它并不会消除分类本身,只会把分类从一场员工能够参与的对话,转移到一个她看不见的系统里。
技术本身不是问题,其中许多确实将被证明真正有用。问题在于宣传的说法——当前所宣扬的“无障碍可以是自动的、自适应的、完整的,而无需任何人做出任何决定”这一说法,正是已经在相邻市场引发一起联邦执法行动和一波诉讼浪潮的同一种说法。它在网站领域并不成立,在职场中也不会更成立,因为在职场中被“适应”的对象是拥有私人诉权的员工,而保护他们的法规自1990年起便已生效。
参考文献
- 美国公民自由联盟、科罗拉多州公民自由联盟、公共正义组织以及Eisenberg & Baum LLP律师事务所。向科罗拉多州民权司及美国平等就业机会委员会提交的投诉,2025年3月19日。
- 1990年《美国残障人法》,42 U.S.C. § 12112(d),关于体检、残障相关询问及医疗信息保密性的规定。
- 美国联邦贸易委员会,关于accessiBe, Inc.案,案卷号2223156;投诉及拟议命令于2025年1月3日公布;最终命令于2025年4月发布。
- 美国平等就业机会委员会,《美国残障人法与使用软件、算法及人工智能评估求职者和员工》,EEOC-NVTA-2022-2,2022年5月12日;于2025年1月27日从该机构网站撤下。
- 《网页内容无障碍指南》,万维网联盟。