Skip to content
跳到正文

人工智能治理与数字风险

免于繁文缛节,却仍需为决策负责:小型机构与非营利组织的人工智能治理

Novara Consulting Group 在“AI治理与数字风险”分类下的横幅:绿色方框中的分类名称,背景为薄雾笼罩的松林。
下载 PDF

不对称之处

关于人工智能监管与小型组织的传统说法是:合规负担最沉重地落在最无力承受的一方身上,而阈值和豁免的存在正是为了纠正这种失衡。这种说法说对了一半,而说错的那一半恰恰才是要害所在。

小型雇主和非营利组织确实被豁免于正在兴起的相当一部分监管体系之外。但它们几乎完全被豁免错了方向。这些豁免适用于披露、评估和记录制度——也就是本该促使组织仔细审视其已在使用的自动化工具的那部分框架。它们并不适用于底层的就业歧视法规,这些法规在雇员达到十五人时即生效,且赋予个人诉权、个案责任理论,并不要求原告证明雇主具备专业知识。

一个组织被豁免于本可发现问题的程序,却完全暴露于未能发现问题所带来的后果之中。

最终的净效应是:一个组织被豁免于本可发现问题的程序,却完全暴露于未能发现问题所带来的后果之中。Novara Consulting Group 的立场是,对于雇员人数大致在两百人以下的组织而言,这种不对称而非成本,才是治理风险的决定性因素,而通常给小型雇主的建议——等到越过某个阈值再说——几乎是可选策略中最糟糕的一种。

小型组织实际上被豁免于什么

阈值结构是真实存在的,值得梳理,但需附带说明:这些规定大多是新近出台的,有几项尚未生效,还有一项仍处于规则制定阶段,因此适用性应以具有法律效力的正式文本为准进行核实,而非依据包括本文在内的任何概述。

科罗拉多州参议院第24-205号法案于2024年5月签署,预计于2026年2月1日生效,该法案对用于就业等重大决策中的高风险系统的开发者和部署者施加义务,并对雇员不足五十名全职员工的部署者给予有条件豁免。《加州消费者隐私法》适用于达到其覆盖标准的企业,主要是年总收入超过两千五百万美元,或处理大量消费者数据的企业,其对“受覆盖企业”的定义以营利性运营为前提,这使得大多数非营利组织完全不受其约束。加州隐私保护局已将关于自动化决策技术的拟议法规推进至正式规则制定阶段,若按草案通过,这些规则将延续相同的覆盖阈值。在联邦层面,《雇员甄选程序统一指南》为雇员不足一百人的使用者提供了简化的记录保存要求。

综合来看,一个三十人规模的组织在大多数司法管辖区使用现成的求职者跟踪系统,并无义务进行影响评估、公布偏见审计、提供使用前通知,或维持大型雇主必须维持的组件级影响记录。它不会被审查。没有人会过问。

它们未被豁免于什么

《民权法案》第七章和《美国残疾人法》适用于雇员十五人及以上的雇主。《雇佣年龄歧视法》的适用门槛是二十人。这些法规不设“专业能力”抗辩,不为使用自动化工具的小雇主提供安全港,也没有任何条款因雇主是购买而非自行开发产生决策的系统而减轻其义务。

购买行为同样不会转移责任。雇主始终是做出就业决策的一方,而不断发展的判例法表明,供应商可能被追加为被告,而非取代雇主成为被告。2024年7月,加州北区联邦地区法院允许针对一家筛选软件供应商的诉讼继续进行,理由是该供应商在使用其工具的雇主中充当了代理人角色,这一判决动摇了“责任可以干净利落地分配给编写代码一方”的假设。工具是“开箱即用”的产品,组织内无人真正理解它,这并非抗辩理由,而是一种自认。

残疾相关的法律理论尤其值得强调,因为这些恰恰是小型组织最可能面对、也最没有能力抗辩的情形。当候选人要求对评估进行调整而未获提供时,即产生“未提供合理便利”的诉讼理由。当某项甄选标准倾向于排除残疾人士,而雇主无法证明该标准与职位相关且符合业务必要性时,即产生“筛除”诉讼理由。这两者都不需要跨申请人群体的比较统计数据,也不需要专家重建模型。两者都可通过由请求、回应和结果组成的个人记录来证明——而这正是雇主自己制作并保存的记录。2025年3月向科罗拉多州民权司和美国平等就业机会委员会(EEOC)提交的一份投诉,代表一名聋人及原住民雇员,涉及一次自动化视频面试和一项被拒绝的字幕请求,其情形正与此完全吻合。两家公司均否认相关指控,但无论结果如何,该诉讼的形态都具有启示意义。

提起这类诉讼成本低廉,而应诉成本并不会随被告规模缩小而相应降低。EEOC在2023年与iTutorGroup达成的同意令,解决了关于软件被设置为拒绝超过特定年龄申请人的指控,最终以365,000美元和解。这一数额对大型雇主而言尚可承受,但对大多数非营利组织来说却可能是致命的。

小型组织为何在结构上更为暴露

规模不仅无法提供保护,反而会主动恶化处境,原因有四项,且会相互叠加。

第一是配置问题。小型组织运行的是供应商的默认设置。它并未选择筛选标准,未设定阈值,而且往往不知道其求职者跟踪系统中哪些功能在对候选人打分,因为其中几项功能是在实施时被启用、此后从未被审查过的。当有人问起是谁配置了这些标准、依据是什么时,诚实的回答是:组织内无人做过这件事。

第二是议价能力。真正能保护雇主的,是合同条款:分数保留、版本识别、历史决策的可重现性、验证证据的获取权、在调查中的配合义务。这些都是在采购环节协商确定的,而一个签署标准订购表的三十人非营利组织,实际上根本没有能力去协商这些条款。最有效的单一防御手段,恰恰是小型组织最难获得的。

第三是记录问题。联邦记录保存义务(29 C.F.R. Part 1602)要求保存申请记录,一旦指控被提出,还须保存所有相关材料直至最终处理完毕。要重建十八个月前某位申请人被拒绝的原因,需要当时的分数、输入数据以及系统配置都被完整保留。小型组织依赖的是供应商的数据管理方式,而供应商通常在排名完成后就丢弃分数,它们往往是在急需这些数据时才发现这一点。

第四是缺乏专职负责此事的人员。大型雇主拥有法律顾问、合规职能部门,以及至少会提出疑问的隐私官。而小型组织只有一名执行主任、一名负责管理求职者跟踪系统的办公室经理,以及一个从未讨论过此事的董事会。

非营利组织的情况更为糟糕

非营利组织承担着一种没有企业对应物的额外风险,而这种风险并非法律层面的。

一个以残疾、无障碍、公平或劳动力发展为使命的组织,若通过一种对非典型言语、手语翻译沟通或非常规情感表达方式施加惩罚的自动化评估来筛选申请人,就会面临一种无论法律结果如何都无法摆脱的“使命完整性”问题。诉求是否站得住脚并不重要。单凭这一指控本身,其内在逻辑的自洽程度,远超针对一家普通制造商的同类指控,因为该组织自身的公开立场恰恰提供了这种矛盾的佐证。资助方会读到这些指控。该组织所服务的社群也会读到,加入这个组织正是因为认同其使命的员工同样也会读到。

这并非针对某种不太可能发生的情景所做的假设性推演。残疾服务机构、社区健康中心、法律援助机构和公共机构,使用的是与其他所有人相同的商业求职者跟踪系统和自动化视频面试产品,通常使用的是入门级套餐,通常沿用默认设置,而且通常无人examined过该评估究竟衡量的是什么。最有可能雇用残疾人士、在谈论这一议题时也最具公信力的这个领域,运行的却是与它所批评的领域完全相同的、未经审视的筛选基础设施。

本可提供帮助的指南恰恰消失了

此刻还存在一个特有的难题。小型组织并不读法规原文,它们读的是通俗易懂的指导说明,而关于这一主题的通俗指导说明已于2025年1月被撤下。

EEOC撤下了其人工智能相关材料,包括2022年5月发布的、关于《美国残疾人法》与使用软件、算法和人工智能评估求职者及员工的技术协助文件,以及为劳动者撰写的配套摘要。劳工部指出,2024年9月发布的、专门用于帮助雇主在部署这些工具时不排斥残疾候选人的“人工智能与包容性招聘框架”,可能已不再反映当前政策。这些文件原本正是面向本文所描述的这类组织的、最易获取的入口。

相关法规本身并未改变。改变的是:对这些法规要求内容进行免费、通俗解释的渠道消失了,而最依赖这些解释的组织,恰恰是最没有预算聘请律师来替代它的那些组织。

在这种规模下实际可行的做法

这里给出的建议并非一套合规项目。一个三十人规模的组织无法运作这样的项目,也不应尝试。以下内容可以在现有员工几天的时间内完成,并能涵盖大部分可获得的保护。

  1. 盘点你实际在运行什么。列出招聘流程中软件对候选人进行评估、排名、筛选或打分的每一个环节,包括简历解析、淘汰性问题、评估模块以及基于聊天的初筛。包括在实施时默认启用的功能。大多数首次进行此项盘点的组织,都会发现至少有一个系统在打分,而此前无人知晓。
  2. 关闭你无法解释的功能。如果没有人能说清楚某项功能衡量的是什么、为何与该职位相关,正确的做法是将其停用,而不是把它记录下来。这一选项对小型组织而言是可行的,对大型组织而言则基本不可行,这也是本清单中收益最高的单一举措。
  3. 以书面形式向供应商提出五个问题。这项功能衡量的是什么。你们是否保留分数及配置信息,保留多久。能否重现十八个月前的某个具体决策。该功能所衡量内容有何验证证据支持。该产品支持何种便利调整途径。保留这些回答。拒绝回答本身也是一种答案,同样值得保留。
  4. 在需要之前,先建立便利调整途径。指定负责决策的人员,设定响应时限,确保存在不会使使用者处于不利地位的替代评估方式,并在评估环节本身而非仅在招聘页面上说明其可用性。这是本文件中成本最低的管控措施,也正好针对你最可能面对的那类诉求。
  5. 保存便利调整档案。每一次请求、由谁决定、提供了什么、结果如何,都应记录在案。一旦有指控提出,这些记录将被要求出示,而你应当先于他人审阅它们。
  6. 合同续签时,要求明确数据保留与可重现性条款。你可能得不到这些条款。但提出要求并被拒绝,远胜于根本不问——无论是从治理的角度,还是从记录所能证明组织当时知悉情况的角度来看,都是如此。

结语

小型组织理应获得大型组织所拥有的工具,这一主张本身没有问题,而技术确实降低了构建高效招聘基础设施的成本。然而,衡量由此产生的决策的标准并未随之降低,小型组织所获得的并非一套更宽松的标准,而是一份更单薄的书面记录。

这些豁免是真实存在的,但它们只是免于被追问的豁免,而不是免于承担答案的豁免。一个说不清自己的筛选工具究竟衡量什么的三十人组织,与一个同样说不清楚的三万人组织,处于相同的法律处境之中——只是前者拥有更少的资源去解决这一问题,而如果它是一个以使命为驱动的组织,一旦这个问题在公众场合被提出,它将失去的东西要多得多。

参考文献

  • 美国公民自由联盟、科罗拉多州公民自由联盟、公共正义组织以及Eisenberg & Baum LLP律师事务所。向科罗拉多州民权司及美国平等就业机会委员会提交的投诉,2025年3月19日。
  • 1990年《美国残疾人法》第一章,42 U.S.C. § 12112;1964年《民权法》第七章,42 U.S.C. § 2000e;《就业年龄歧视法》,29 U.S.C. § 621。
  • 《加州消费者隐私法》,Cal. Civ. Code § 1798.140,关于受规管企业的定义;加州隐私保护局关于自动化决策技术的拟议法规,已于2024年11月进入正式立法程序。
  • 科罗拉多州参议院第24-205号法案,于2024年5月17日签署,预定生效日期为2026年2月1日。
  • EEOC诉iTutorGroup公司案,案号1:22-cv-02565(纽约东区联邦地区法院),2023年8月和解令。
  • Mobley诉Workday公司案,案号3:23-cv-00770(加利福尼亚北区联邦地区法院),2024年7月驳回动议裁定。
  • 《2021年纽约市地方法144号》,自动化就业决策工具。
  • 美国劳工部与就业与无障碍技术合作组织,《人工智能与包容性招聘框架》,2024年9月。
  • 美国平等就业机会委员会,《美国残障人法与使用软件、算法及人工智能评估求职者和员工》,EEOC-NVTA-2022-2,2022年5月12日;于2025年1月27日从该机构网站撤下。
  • 《雇员选拔程序统一指南》,29 C.F.R. 第1607部分,包括§ 1607.15A(1);平等就业机会委员会记录保存要求,29 C.F.R. 第1602部分。
引用本文
Grizzle, H. M. (2025, April 13). Exempt from the Paperwork, Liable for the Decision: Artificial Intelligence Governance for Small Organizations and Nonprofits. Novara Consulting Group. https://www.novaracg.com/2025/04/13/exempt-from-the-paperwork-liable-for-the-decision-artificial-intelligence-governance-for-small-organizations-and-nonprofits/

订阅 Novara Consulting Group

新文章直接发送至您的收件箱。

Consult