姗姗来迟的就绪模型
大多数组织性AI就绪框架都存在一个损害其效力的结构性特征。它们把能力建设排在管控之前。数据基础首先建立,应用第二步部署,而伦理或信任层则在第三步引入,通常以指导原则、宗旨以及对公平和透明的承诺来表述。这种顺序看似直观,因为它映照了工作实际获得资助的方式,也是目前流行的大多数就绪模型所推荐的顺序。
这也正是导致当今就业AI领域可见失败的顺序。等到伦理层设计出来时,它本应管控的系统早已投入生产,采购已经结束,合同条款已经固定,供应商选择已成定局,组织的实际选项已经收窄为文档记录和信息披露。第三步才引入的治理并非治理,而是对第二步已做决策的事后辩护。
第三步才引入的治理并非治理。
纠正之道并非把伦理阶段提前。而是要认识到,伦理准则并非当前局面所需要的工具,把它当作工具本身就是错误所在。
为何原则不是管控手段
原则与工具之间的区别并非语义之争,治理文献对此已有足够细致的探讨,组织无需重新发现这一点。
萨拉蒙对政府工具的分析确立了这样一个观点:政策目标是通过具有可识别属性的工具来实现的——它们授权何种活动、由谁执行、要求何种合规、以及使其可被观察到的内容是什么。一项声明性的承诺做不到这些事中的任何一件。它表达了一种意图,却没有指明行为主体、触发条件、证据性产出,或者不履行时的后果。将此应用于人工智能领域,这一模式已被直接记录下来。约宾、延卡与瓦耶纳对全球AI伦理准则格局的调查发现,在高层次原则上存在相当程度的趋同,而在这些原则应如何解读、被理解为要求何种行动方面则存在明显分歧。米特尔施塔特的评估得出了更为尖锐的结论:在缺乏使原则在其他领域真正发挥作用的专业结构、问责机制和执行路径的情况下,仅凭原则无法保证人工智能符合伦理。
因此,一个以制定清晰伦理准则来应对就业AI风险的组织,实际上采用了证据基础最薄弱的干预手段。这并非因为公平与透明不是值得追求的目标,而是因为一项准则不产生任何具体成果,而组织实际面临的每一项义务都是通过具体成果来履行的。
以几乎每个就绪模型中都会出现的“算法运作透明度承诺”为例。按照所述条件,这一承诺是无法实现的。供应商不会披露模型架构,该类别中的大多数系统在承诺所暗示的意义上并不具有可解释性,而承诺算法透明度的组织已经承诺了它无法兑现、且必然会被追问的事情。可实现且更有用的承诺属于不同性质:即由组织可以指认的一方,按照既定周期,针对受保护群体产出结果的书面证据。这才是一种工具。它明确规定了谁在何时做什么,以及产生何种记录。
颠倒过来的就绪顺序
一个建立在工具而非原则之上的就绪模型,以不同的方式排列工作顺序,而这种重新排序是实质性的贡献,而非表面形式上的改变。
覆盖范围认定放在首位。在对任何系统的能力进行评估之前,组织必须能够回答:该系统的输出是否被用于做出、指导或实质性影响关于招聘、晋升、薪酬、岗位分配、纪律处分或继续雇用的决定。正是这一表述——而非系统在市场上被标榜的产品类别——决定了当前所有规制就业AI的制度体系所附带的义务。覆盖范围认定是一种工具,因为它产生记录、指定责任人,并触发一个明确定义的工作流程。它同时成本低廉,而且是唯一一个拖延越久成本越高的步骤。
数据治理随之而来,但需重新定义框架。就绪模型将数据目标描述为“单一真实来源”,这是一个数据质量目标。治理目标则不同且更为狭窄:组织必须能够确定某一具体推断所依据的数据是什么、产生于何时、来源如何。整洁、整合的数据支持更好的预测。有据可查的数据来源支持组织向监管者或原告说明一个人为何得到其所获结果的能力。只有后者才是一种治理能力,而组织完全可以在不具备后者的情况下拥有前者。
证据性要求应在采购阶段就已介入,而非事后补入。这正是组织尚能保有议价权的时点。偏见审计文档需明确方法论、所测试的群体类别以及样本人群。确认没有任何地理、教育或司龄衍生特征在实际上充当代理变量。明确规定通知和不利行动流程,以及由哪一方执行该流程。留存与导出条款须足以在适用追诉期内经受平台迁移的考验。这些条款在中标前均可协商,而中标后则无法再行协商,这正是主张这种顺序安排的全部理由所在。
部署阶段应带来监测,而非自我肯定。在实施之后真正重要的承诺,是按既定间隔进行的结果测试,因为在差异性影响标准之下,组织自认为其工具公平的信念并不能回答结果是否存在差异这一问题。唯有测量才能回答这一问题。
记录层完成闭环。与个人、版本、日期及经认证的路径相绑定的证明。留存架构须在创建之初即予设计。组织展示其所作所为的能力,是整个流程的产出,也是对立方唯一会看到的产出。
这一模型是一个循环,而非一架梯子,因为第一阶段会反复出现。系统会不断进入组织,常常是通过那些并不将其归类为就业决策技术的职能部门,因此覆盖范围认定是一种持续受监测的状态,而非一个已完成的项目。
以人才智能为例进行说明
目前流行的就绪模型通常将主动型人才智能——即对现有技能与未来需求进行映射、生成数据驱动的职业发展路径——置于第二阶段,排在治理层之前。这种排序颇具启示性,因为这项特定能力恰恰是整个就业AI类别中监管最为严格的能力之一,却几乎从未被如此认定。
一个能够映射员工能力并生成职业发展路径建议的系统,产出的评估会实质性地影响晋升和岗位分配。纽约市第144号地方法律涵盖晋升决策。伊利诺伊州对《人权法》的修正案,于2026年1月生效,涵盖晋升、纪律处分和解雇,并规定了与使用行为本身而非与结果相挂钩的通知义务。欧盟《人工智能法案》附件三是按功能而非按产品类别来列举晋升、任务分配和绩效评估的。一个在第二阶段部署人才智能、却到第三阶段才建立其信任框架的组织,实际上是先部署了一个受监管的系统,然后才为其撰写原则。
这就是常规顺序所带来的实际代价,而这并非假设情形。这正是组织获得其从未评估过的义务的通常路径。
这对咨询问题意味着什么改变
组织通常提出的问题是应当采用哪些AI工具。而真正决定其风险敞口的问题是,它们已经采用的系统中,哪些属于具有实质性影响的决策系统,以及针对每一个系统,它们持有哪些证据。
这是两个不同的问题,而第二个问题无需做出技术决策即可立即回答,成本低廉,且能产出一份持久的证据文件。它同时也是使后续技术决策具有可辩护性、而非仅仅出于热情的那个问题。一个能够就每一个涉及就业决策的系统说明其功能、所附带的义务、现有证据以及下一次审查负责人的组织,已经建立了某种东西。一个拥有一套伦理AI原则的组织,只是写下了某种东西。
将人工智能整合进人力资源运营并非一个技术项目。这一点常规模型说对了。它是一个治理项目,而治理是由工具构成的,而非由承诺构成的。
参考文献
- 萨拉蒙(Salamon, L. M.)编,《政府的工具:新治理指南》。牛津大学出版社,2002年。
- 约宾(Jobin, A.)、延卡(Ienca, M.)与瓦耶纳(Vayena, E.),《全球AI伦理准则格局》。《自然·机器智能》第1卷(2019年):389–399页。
- 米特尔施塔特(Mittelstadt, B.),《仅凭原则无法保证AI符合伦理》。《自然·机器智能》第1卷(2019年):501–507页。
- 美国国家标准与技术研究院,《人工智能风险管理框架(AI RMF 1.0)》,2023年1月。
- ISO/IEC 42001:2023,《信息技术——人工智能——管理体系》。
- 《纽约市行政法典》第20-870条及以下(2021年第144号地方法律)。
- 伊利诺伊州众议院第3773号法案,第103届大会(2024年),修订《伊利诺伊州人权法》,自2026年1月1日起生效。
- 欧盟法规2024/1689,附件三(4)。
- Novara Consulting Group,《发展例外:内部流动平台与雇佣人工智能治理的边界》,2025年5月。