发展例外:内部流动平台与就业人工智能治理的边界

没有任何成文法划定的边界

在就业领域,机构性AI治理已经高度一致地聚合于一条在现行法律中并无依据的边界。这条边界将招聘与发展区分开来。评估外部申请人的系统被视为决策技术,相应地配备了偏见审计、申请人告知、供应商文档和法律审查等机制。而评估现有员工内部晋升机会的系统,则被当作发展技术,按照适用于学习管理平台的审查标准进行采购。

这种区分在行政管理上颇具直觉性。外部候选人对组织而言是陌生人,组织对其负有程序义务。内部候选人已经受雇,已为组织所熟知,已身处雇佣关系之内。向其提供机会呈现为一种被授予的福利,而非作出的决定。这种区分在组织层面也得到强化,因为内部流动平台通常由人才发展部门主导,预算依照敬业度和留任目标编列,其评估标准是采用率而非决策质量。

无论是技术本身,还是成文法的措辞,都不支持这种区分。一个内部流动平台根据简历、项目履历、学习记录、绩效数据和行为信号推断员工能力,进而将员工与内部空缺职位进行匹配排名,这本身就是在生成一项会实质性影响晋升、薪酬和岗位分配的评估。这是一项关乎个人的重大决定。员工自愿使用该平台、组织将其输出描述为“建议”这一情形,并不能改变该决定本身的性质。

边界实际涵盖的范围

纽约市《第144号地方法》自2023年7月起已具可执行力,适用于被用来实质性协助或取代就业决策中自由裁量判断的自动化就业决策工具。该法规明确规定其适用范围涵盖招聘及晋升。其义务属于程序性而非实体性:须在前一年内完成独立偏见审计、公开发布审计摘要、并提前告知受影响个人。违规行为按次累计处罚,持续使用将被视为持续违规。

一个组织若已为其外部申请人筛选系统委托进行偏见审计,却将其内部人才市场平台视为不在适用范围之内,那么它所划定的界线并不为该条例所承认。只要内部系统对构成晋升的职位空缺进行员工评分或排名,审计义务即告适用。目前尚无公开证据表明执法机构在多大程度上已将执法触及内部流动部署,但迄今缺乏执法行动,并不能成为合规立场的可靠基础,尤其是在风险敞口每天都在累积的情况下。

这种模式并不局限于纽约。伊利诺伊州HB 3773法案于2024年8月颁布,定于2026年1月1日生效,该法案修订了《伊利诺伊人权法》,禁止使用对受保护群体产生歧视性影响的人工智能,禁止将邮政编码用作受保护特征的替代指标,并要求在招聘、雇用、晋升、惩戒或解雇相关决定中使用人工智能时予以告知。该告知义务因“使用”而触发,而非因“结果”而触发。歧视条款可通过《人权法》予以执行,该法赋予了私人诉诸救济的途径。

科罗拉多州SB 24-205法案于2024年5月颁布,定于2026年2月1日生效,该法案将就业决定认定为重大决定,并对部署者施加了防范算法歧视的合理注意义务,同时要求建立风险管理方案、开展影响评估并履行披露义务。该法案签署时附有州长的一封信,敦促在实施前对其进行立法修订,并且此后持续面临修订压力。其最终形态尚不确定。这种不确定性本身是一项治理考量因素,而非推迟行动的理由,因为一个将内部管控标准向最薄弱监管体制看齐的组织,将不得不在每届立法会期都重新校准其管控措施。

加利福尼亚州民权委员会一直在制定涉及就业领域自动化决策系统的法规,该立法的方向与上述模式一致。在欧盟,(EU) 2024/1689号条例已于2024年8月生效,将用于就业、劳动者管理和自雇准入的人工智能系统指定为附件III项下的高风险系统,明确包括用于影响晋升、任务分配和工作绩效评估决定的系统。相关系统的义务定于自2026年8月起适用。附件III的措辞针对的是系统所执行的功能,而非其所营销的产品类别,而内部流动引擎恰恰执行了所列举的这些功能。

证据问题

支持人工智能驱动的内部流动的商业论据,其流传形式经不起采购审查的检验。那些声称此类平台可将员工流失率降低三分之一,或敬业度工具可在特定年份内将留任率提升四分之一的数字,通过供应商内容的层层聚合传播,每项说法所标注的来源最终都指向另一则聚合内容。若追溯其原始研究,通常根本不存在。

第二种、也是更为严重的失真,涉及对真实研究的误读归因。领英《职场学习报告》及其相关的“职业发展指数”发现,在职业发展成熟度评分(以明确承诺、职位发布用语、领导技能普及程度和内部流动水平衡量)位居前五分之一的组织中,晋升至领导层的比例、员工任职年限以及学习者参与度,均显著高于位居后五分之一的组织。这是一项关于组织对职业发展投入程度的研究发现。但它在供应商材料中常被改写为关于人工智能工具效果的研究发现,而这既非该研究实际测量的内容,也非比较组之间所区分的内容。

可信记录所支持的结论要有限得多。包括联合利华、汇丰银行和施耐德电气在内的几家大型企业公开将自愿离职率的显著下降归因于内部人才市场平台的部署。分析师预测认为大型企业的采用率将大幅提升。案例证据显示内部职位填补速度加快、承包商支出减少。这些都是自我报告的运营结果和预测估计,而非受控评估,在任何可能被审计人员、监管机构或对方律师审阅的商业论证中,都应如实标明其性质。组织在部署后观察到的结果,与可归因于该系统的效果,二者之间的区别,正是治理存在的意义所在。

偏见主张需要证据,而非保证

为算法化内部流动提出的最常见理由是它能减少偏见。这一论点有一个站得住脚的前提。由管理者自由裁量控制的晋升存在有据可查的差异,人才囤积抑制了员工的可见度,内部空缺信息的不透明导致机会分配不均。关于哪些职位存在、谁可以申请的透明度本身具有独立的价值。

一致性不等于公平。

结论并不能从前提中自然得出。一个基于组织自身晋升历史数据训练出来的内部流动系统,将以更高的一致性、更广的适用范围和更低的可追溯性,复制该历史记录中的模式,其程度甚于其所辅助的那些管理者的判断。一致性不等于公平。亚马逊曾废弃的实验性招聘工具——在被发现对女性不利后被弃用——依然是一个明证,说明历史训练数据会固化历史结果,而该案例涉及的是外部招聘,其训练信号相对稀疏。内部流动系统所依据的,则是雇佣关系本身所积累的全部记录,包括绩效评级、项目分配和管理者评估,而这些记录各自都带有自身的分布历史。

由此带来的治理后果是:声称可减少偏见是一项需要证据支持的事实性主张,而不是可以凭空陈述的设计意图。在伊利诺伊州所采用的那种差别影响标准之下,雇主对某一工具能够改善公平性所持的善意信念,并不能回答结果是否因受保护群体而异这一问题。唯有结果检验才能回答这一问题。

治理层面的启示

可行的建议是:应在采购阶段而非事故发生后,将内部流动系统纳入就业AI治理的覆盖范围。

采购文档应要求供应商以合同条款的形式声明,系统输出是否被用于做出、指导或实质性影响有关晋升、薪酬、岗位分配或继续雇佣的决定。正是这一表述,而非该系统所营销的产品类别,决定了上文所述每一项监管制度下的适用范围。若供应商不愿以此措辞描述自身的输出结果,这本身就说明了一些问题。

偏见审计文档应作为授标条件予以要求,而非在部署后再行索取,且应注明审计方法、所审查的受保护群体类别、是否进行了交叉分析、审计所依据的样本群体以及审计日期。基于供应商客户整体群体所做的审计,并不等同于对部署组织自身结果所做的审计,这一区别应当被明确记录,而非被默认忽略。

模型文档应说明训练数据的来源以及用于推断的特征,并明确确认没有任何地理、教育或任职年限衍生变量充当受保护特征的替代指标。告知及不利行动处理流程应以合同条款明确规定,而非留待实施阶段再定,因为上述各项法规所规定的告知义务,无论供应商构建了何种系统,均由部署该系统的雇主承担。赔偿条款尤其值得关注,因为各州立法正在形成的趋势是限制将歧视责任转嫁给供应商。

这一切并非反对人工智能驱动的内部流动的论据。人才层面的理由是实实在在的,而不透明的自由裁量把关方式这一替代方案,也并不明显更优。本文的论点在于:被营销为员工体验举措的这一类系统,实际上是具有重大决策意义的基础设施,现行成文法的适用范围本已涵盖它,而那些在部署之后才发现这一点的组织,将不得不为已经影响了数个周期晋升走向的工具,事后补建治理机制。治理此类系统成本最低的时点,是在其被采购之前。

参考文献

• 欧洲议会和理事会2024年6月13日颁布的(EU) 2024/1689号条例,规定了人工智能协调统一规则,附件III(4)。
• 《纽约市行政法典》第20-870条及后续条款(2021年第144号地方法);消费者与劳工保护局最终规则,自2023年7月5日起生效。
• 伊利诺伊州众议院第3773号法案,第103届大会(2024年),修订《伊利诺伊州人权法》,自2026年1月1日起生效。
• 《科罗拉多州参议院第24-205号法案》,《关于人工智能系统交互中的消费者保护》(2024年),自2026年2月1日起生效。
• 领英学习,《2025年职场学习报告》及相关的“职业发展指数”方法论。
• 达斯汀,J。《亚马逊废弃对女性存在偏见的秘密AI招聘工具》。路透社,2018年10月10日。
• 麦肯锡公司,《以内部人才市场遏制人员流失》,麦肯锡人才谈话。