2025年1月23日,第14179号行政命令《消除人工智能领域美国领导地位的障碍》撤销了上届政府的人工智能行政命令,并指示联邦机构审查并撤回与人工智能相关的政策。数日之内,这一实际后果就波及到了就业领域。
什么发生了变化,什么没有变化
1月27日,平等就业机会委员会从其网站上撤下了人工智能指南,包括2022年5月发布的关于《美国残疾人法》以及使用软件、算法和人工智能评估求职者和员工的技术协助文件、其配套的《劳动者提示》摘要,以及2023年5月发布的涉及第七章的技术协助文件。联邦合同合规项目办公室撤下了其面向联邦承包商的人工智能与平等就业机会指南。劳工部指出,由就业与无障碍技术合作组织于2024年9月发布的《人工智能与包容性招聘框架》,以及其自身于2024年10月发布的人工智能最佳实践,可能已不再反映当前政策。
大量评论将这些撤销解读为雇主风险的降低。这种解读混淆了指南与法律。技术协助文件是解释性的。它们说明的是某一机构如何理解某项法规,以及打算如何行使其执法裁量权。它们并不创设义务,其撤回也不会消灭该义务。《美国残疾人法》制定于1990年,至今未作修订。第一章仍然禁止在雇佣条款和条件中基于残疾进行歧视,仍然要求在不构成过度负担的情况下提供合理便利,仍然禁止使用会筛除残疾人的资格标准和筛选标准,除非该标准与工作相关且符合业务必要性,并且仍然限制在有条件录用之前进行与残疾相关的询问和体检。29 C.F.R. 第1607部分的《雇员甄选程序统一指南》仍然要求甄选程序的使用者保留影响记录,并在存在影响的情况下保留有效性证据。29 C.F.R. 第1602部分的记录保存条例仍然要求保留申请记录,一旦提起指控,还须保留相关记录直至最终裁决。
1月份撤销的并非责任,而是通知。雇主失去的是那份用通俗语言告诉他们哪些做法被该机构认为存在问题及其原因的文件。风险依然存在,而地图已经消失。
风险依然存在,而地图已经消失。
为什么残疾风险的运作方式不同于偏见风险
招聘中针对算法风险的主流应对方式是偏见审计,而主流指标是五分之四规则,该规则比较不同群体之间的录用率,并将低于百分之八十的比率视为不利影响的证据。纽约市第144号地方法自2023年7月起生效,要求对自动化就业决策工具进行年度独立偏见审计,并公开发布结果。供应商越来越倾向于将审计结果作为保证进行营销。
这套体系并不适用于残疾问题,而这种不匹配是结构性的,而非审计质量的问题。基于群体的统计影响测试需要稳定、已知、相互排斥的类别,且每个类别中要有足够数量的成员以支持比率比较。种族和性别大致符合这些条件。残疾则不然。它的异质性达到了单一类别几乎没有分析意义的程度,因为聋人申请者、盲人申请者、有运动障碍的申请者以及有精神障碍的申请者在便利需求和互动模式上几乎毫无共同之处。它也常常未被披露,因为申请人没有义务表明身份,而且有强烈的动机不这样做。在任何单一职位招聘中,它往往发生率较低,即使存在身份识别信息,这也会使子群体比较缺乏统计效力。而根据《美国残疾人法》,分析的基本单位是个人而非群体,因为筛除主张所询问的是某一标准是否倾向于排除某位残疾个人,而拒绝提供合理便利的主张所询问的是当某个人提出某一请求时发生了什么。
这一后果值得明确说明。一个自动化甄选系统可以通过其所接受的每一项偏见审计,在所测量的每个类别上都发布明显高于五分之四阈值的影响比率,却仍然可能逐一排除残疾申请人,这种排除在个案层面可诉,却在统计层面不可见。审计结果并不是符合《美国残疾人法》的证据。如今供应商普遍将其呈现为这种证据,这就形成了一份记录在案的文件,证明雇主依赖了一种并未针对相关风险的保证。
这也是为什么那种被广泛重复的说法——设计良好的算法能减少人为偏见,从而为残疾候选人创造公平竞争环境——应被视为缺乏证据支持。这一说法对某些形式的偏见或许成立。但目前没有公开的证据基础证明其对残疾问题同样成立,而这些系统运作的机制反而暗示了相反的结论。模型对与从以往成功候选人中习得的分布的一致程度进行评分。而残疾,在这些系统最常测量的维度上,恰恰体现为对该分布的不一致。
2025年3月的投诉揭示了什么
2025年3月19日,美国公民自由联盟、科罗拉多州公民自由联盟、公共正义组织以及Eisenberg and Baum LLP律师事务所代表一名聋人及原住民女性向科罗拉多州民权司和平等就业机会委员会提起投诉。该女性在申请晋升时被要求完成一次自动化视频面试。投诉指控存在违反《美国残疾人法》、第七章及《科罗拉多反歧视法》的行为。根据公开的诉状,她曾请求将人工生成的字幕作为合理便利措施,但该请求以平台的自动字幕已经足够为由被拒绝,尽管如此,面试的部分内容仍然没有字幕,随后她因涉及沟通方面的理由被拒绝录用。雇主表示这些指控没有根据,并称其为所有候选人都提供合理便利。供应商表示该投诉没有根据,并且基于对所用技术的不准确假设。这些均为指控与否认,案件是否存在合理理由将由相关机构调查确定。
无论结果如何,这一事实模式正是雇主应当纳入建模考量的情形,因为它并不依赖于证明某一模型存在偏见。它取决于三个普通的问题:该测评对这名候选人而言是否可以无障碍使用?是否有人提出过便利请求,回应又是什么?雇主能否说明该测评所衡量的内容,以及为何该构念与工作相关?
还需注意该理论所不需要的内容。它不需要任何比较性统计数据,不需要专家对模型进行还原分析,也不需要差异影响分析。证据只是一份注明日期的便利请求、对该请求的回应以及一个不利结果。这样的证据组合成本低廉,而且正是由雇主自身的记录所形成的。
无障碍性、便利措施与有效性是三项不同的义务
当前的许多讨论混淆了本应独立运作的区分,而将它们混为一谈会产生只解决一项义务、却使另外两项悬而未决的合规方案。
无障碍性是界面的一种属性。测评平台能否用屏幕阅读器操作、媒体是否配有字幕、时间安排是否可以调整,这些问题关乎候选人能否完全接触到该任务。这是大多数组织已经解决的一层,通常是通过供应商的合规声明来实现的。
便利措施是一项程序性义务。它要求在测评开始之前就告知候选人可以进行修改,要求某项请求触发的是一个互动过程而非表格式的拒绝,要求有明确的决策者,并要求存在一条不会使使用它的人本身处于不利地位的替代路径。一个在各方面在技术上都无障碍的平台,如果没有人告诉申请人存在替代方案,仍然可能引发拒绝提供便利措施的诉讼。
有效性是测量本身的一种属性。它询问的是系统所打分的内容是否对应于该工作的某项要求。这是几乎无人涉及的一层,也是自动化视频与语音测评风险最大的地方。当某个系统对流利度、发音速率、反应延迟、语调、面部情感,或被标注为“沟通”或“投入度”的构念进行打分时,雇主应当能够说明该工作的哪项职责需要这一属性,以及依据什么证据。已发表的研究记录了自动语音识别对于语音特征超出训练分布范围的说话者——包括带有种族化语音特征以及非典型或有语言障碍的说话者——存在显著的词错误率差异,这正是伊利诺伊大学于2022年设立专门的“语音无障碍项目”以收集此类数据的原因。当候选人通过手语译员进行手语表达时,被打分的文字记录是译员的转述,而非候选人本人的表达,译员的措辞选择及处理延迟被归属到了候选人身上。系统产生了一个数字。但它衡量的并不是候选人本人。
州层面及其时间表
联邦层面的收缩并不意味着该领域已无监管,州层面的时间表对规划而言十分重要。伊利诺伊州第3773号众议院法案于2024年8月签署生效,修订了《伊利诺伊人权法》,禁止在整个雇佣周期中歧视性地使用人工智能,并要求在使用此类系统时通知申请人和员工,该法自2026年1月1日起生效。科罗拉多州2024年5月签署的第24-205号参议院法案对用于就业等重大决策中的高风险系统的开发者和部署者施加了义务,生效日期为2026年2月1日,尽管州长在签署时曾邀请立法机构对其进行修订,因此在该日期之前进行修订应属可能。弗吉尼亚州本可建立类似框架的第2094号众议院法案已于2025年3月被否决。纽约市第144号地方法继续有效。
州层面的立法方向趋向于通知与披露义务,而非实质性的注意义务。雇主应当按照这样的假设进行规划:他们实际将面临的义务是说明自己在做什么,而能够证明自己所做之事的义务,将通过诉讼而非监管机构而降临。
当前应采取的行动
以下事项可由现有的人力资源部门完成,无需外部协助。
- 盘点每一个涉及甄选决策的系统,包括简历解析、排序、淘汰性问题、基于聊天的初步筛选,以及自动化视频或语音测评。要包括申请人跟踪系统中默认启用的功能,这些功能最常被忽视。
- 对每个系统,以书面形式说明其衡量的内容,以及该构念对应于哪项已记录的工作要求。如果无法给出答案,则说明该系统正在对一个未经验证的标准进行打分。
- 确认候选人在测评开始之前——而非之后——就被告知存在替代或调整后的测评方式,并且该通知出现在测评本身之中,而非隐藏在招聘页面深处。
- 调取过去二十四个月内与自动化测评相关的每一项便利请求。记录请求内容、决策者、提供的措施以及结果。这份档案在任何指控中都会被要求提交,应当在被他人审查之前先行自查。
- 以书面形式向供应商索取每个打分构念的有效性证据,以及按语音和沟通特征细分的准确性数据。保留其回复,包括拒绝答复,这本身也是证明雇主知情状态的有用证据。
- 确认每次决策时生效的分数及配置在适用的保存期限内得以保留。仅为生成排名而计算后即被丢弃的分数,日后将无法作出解释。
- 将任何偏见审计结果仅视为关于种族和性别类别的证据,不要在内部或对外将其表述为符合《美国残疾人法》的证据。
结语
人工智能可以切实扩大残疾人获得工作的机会。实时字幕、语音转文字以及自适应界面已经做到了这一点,经合组织2023年关于人工智能与劳动力市场中残疾问题的评估记录了真实的成效。这些成效来自辅助性应用,在这类应用中,技术为人服务。它们并不会自动延伸到评估性应用之中,在评估性应用中,技术衡量的是人本身,而当前那种从前者推及后者的论证倾向,正是这一领域中核心的分析性错误。
2025年1月联邦指南的撤销改变了雇主被告知的内容。它并没有改变雇主所承担的义务。真正能够为自身招聘决策进行辩护的组织,并非那些购买了最先进工具或发布了最令人安心的审计报告的组织。而是那些能够说明其系统衡量了什么、这与工作有何关联、当候选人要求不同处理方式时发生了什么、以及是谁做出了决定的组织。
参考文献
- 美国公民自由联盟、科罗拉多州公民自由联盟、公共正义组织以及Eisenberg & Baum LLP律师事务所。向科罗拉多州民权司及美国平等就业机会委员会提交的投诉,2025年3月19日。
- 1990年《美国残疾人法》第一章,42 U.S.C. § 12112。
- 高伟绅律师事务所(Clifford Chance)。《面向残疾人的包容性人工智能:关键考量》。2024年。
- 科罗拉多州第24-205号参议院法案,《关于在与人工智能系统交互中的消费者保护》,2024年5月17日签署。
- 行政命令14179号《消除美国人工智能领导地位的障碍》，2025年1月23日。
- 伊利诺伊州众议院第3773号法案，修订《伊利诺伊人权法案》，2024年8月9日签署。
- 《2021年纽约市地方法144号》，自动化就业决策工具。
- 经济合作与发展组织（OECD）。《利用人工智能支持残障人士进入劳动力市场》，2023年。
- 美国平等就业机会委员会。《美国残疾人法案与使用软件、算法及人工智能评估求职者与雇员》，EEOC-NVTA-2022-2，2022年5月12日。该文件已于2025年1月27日从该机构官网撤下。
- 《雇员选拔程序统一指南》，29 C.F.R. 第1607部分；记录保存要求，29 C.F.R. 第1602部分。