能力主张总体上是站得住脚的
关于人力资源工作中自主系统的运营理由并不需要太多辩护。一个无需人工逐步发起即可执行多步骤工作流程的系统,与规则引擎有着实质性的不同,而这种不同并非修辞上的。入职流程、文件分发、日程安排、状态沟通以及权限配置,都确实非常适合自主执行,而将这些流程自动化的组织,也确实回收了那些从未被有效利用过的产能。
无代码开发环境同样是一种真实的变革,而非营销噱头。人力资源专业人员对员工生命周期的理解,是依据需求文档进行开发的工程团队所不具备的,而将设计权交到真正理解流程的人手中的配置工具,会产生更好的流程。
这两点观察本身并无争议。有争议的是人们通常由此得出的推论,即:既然人力资源职能部门现在无需技术中介即可部署自主系统,它们就应当这样做。这种推论将技术中介视为瓶颈。更准确的理解是,它是一种管控,而那些移除了它却未能替代其原有功能的组织,并没有加速自身的运营。它们只是把一系列决策转移到了一个尚未被赋予相应资源去做出这些决策的职能部门。
自主性对法律地位改变了什么
真正重要的区分并非自动化与自主性之间的区别。而是:其输出结果影响对某个人的决策的系统,与其输出结果不涉及此类决策的系统之间的区别。而自主架构往往在无人察觉的情况下,使系统悄然跨越了这条界线。
以已成为该类别标准范例的漏斗顶端招聘代理为例。它根据既定资格筛选申请,进行初步筛选,向候选人通报状态,并为其推进的候选人安排面试。其益处通常被这样描述:招聘经理现在只需与经过预先筛选的候选人打交道。这种描述虽非有意为之,却精确地揭示了合规风险所在。如果招聘经理只看到了通过筛选的人,那么被排除的群体就未经任何人审查,而这种排除完全可归因于该系统。
如果招聘经理只看到了通过筛选的人,那么被排除的群体就未经任何人审查,而这种排除完全可归因于该系统。
纽约市《第144号地方法》适用于用于实质性协助或取代自由裁量决策的自动化就业决策工具,要求在过去一年内进行独立的偏见审计、公开发布审计摘要,并提前通知候选人。在没有人工审查排除情况的筛选代理,并非处于该定义的边缘地带,而正是其典型适用情形。伊利诺伊州《HB 3773法案》将于2026年1月生效,该法案将要求在招聘或雇用决策中使用人工智能时必须予以告知,并使歧视性影响可依据《人权法》提起诉讼,其告知义务依附于使用行为本身,而非依附于结果。科罗拉多州的法规目前预定于2026年初生效,但仍面临积极的修订压力,该法规将就业决策界定为具有重大影响的决策,并对部署者施加相应义务。欧盟《人工智能法案》附件三将就业系统列为高风险系统,相关义务将自2026年8月起适用。
这些法规体系中,没有一项为组织自行搭建的系统设有例外。相关义务附着于部署者身上。从供应商处采购筛选工具的组织,至少还能获得一份合同、一次供应商安全审查,以及在许多情况下供应商为其他客户所制作的审计文档。而用无代码构建工具自行组装出同等功能的组织,则不会获得任何这些文件,却承担着同样的义务。
这正是“排队审核流程曾是一种管控”这一说法的具体含义所在。技术接入流程正是数据保护评估被触发之处,供应商风险审查发生之处,留存与导出要求被明确之处,也是有人追问该系统如何处理个人数据之处。这些职能并非排队流程的附带特性,而是其存在的目的。移除排队流程也就移除了这些职能,而它们原本存在是为了履行的那些义务却依然存在。
情绪感知代理真正所处的位置
参与度监测代理负责管理脉搏调查、分析回应情绪,并在某部门士气下降时向领导层发出提醒,这一类代理值得比通常所受到的更为审慎的对待,因为其风险常常被错误识别。
需要明确指出的是,对调查回应进行基于文本的情绪分析,并不属于欧盟禁止职场情绪识别规定的适用范围。第5(1)(f)条中的禁止规定与该法案对“情绪识别系统”的定义相挂钩,该定义要求须从生物特征数据中进行推断,而欧盟委员会关于禁止行为的指南明确指出,从书面文本中推断情绪的系统并非基于生物特征数据,因而不属于该禁止规定的适用范围。那些得到相反建议的组织,所获得的建议是不准确的。
其适用范围随形式而非功能变化。如果脉搏调查是通过语音进行的,或者参与度信号来自录制的会议、视频面谈,或任何可据以分析声音或面部特征的输入,那么该分析即属于基于生物特征数据的推断,禁止规定便适用于此。其适用方式是作为一种禁止,而非作为高风险分类,这意味着无法通过文档记录加以补救。那些将情绪感知能力从书面调查扩展到会议分析的组织,可能正在跨越一条自己都不知道存在的界线,而这种扩展恰恰正是自主系统部署所容易带来的那种渐进式范围扩张。
而附着于基于文本版本的风险,则属于本土性质且性质不同的风险。设计中的两个特征导致了这一点。第一是通过颗粒度实现的去匿名化:一条声明某个指定部门士气下降的提醒,在规模不大的部门中实际上是可识别身份的,而它恰恰被发送给了该部门的领导层。参与度调查工具依赖于一种保密承诺,而一个将情绪分析结果路由给正被评估其行为的管理者的系统,实际上已在未披露的情况下撤回了这一承诺。第二点是,检测并上报集体员工不满情绪的自动化监测行为,正落入《国家劳资关系法》第7条所保护的领域。对受保护的协同活动进行监视属于不当劳动行为,而这一法定原则并不取决于任何特定总法律顾问的执法立场——该立场过去有所转变,未来也还会再次转变。一个已经构建出用于检测新兴集体不满并将其上报给管理层的系统的组织,理应在该系统运行之前让法律顾问加以审查。
真正没有问题的代理
并非每一种自主系统部署都具有这种风险特征,而这一区分值得明确指出,因为这正是各组织应当加以运用的区分。
负责分发材料、分配并跟踪培训完成情况、并在录用通知被接受后配置系统权限的入职代理,不对任何个人做出评估。雇用决策已经做出。该代理只是执行由此产生的后续事务性工作。其中没有排名、没有评分、没有排除,也没有针对个人的推断。它不受上述任何法规体系的约束,部署它的组织实现的是行政事务的自动化,而非判断的自动化。
这里的教训并非自主系统是危险的。而是:这一类别中包含着监管特征截然不同的各类系统,而这种特征取决于该系统是在评估人,还是在服务人。这个问题,对每个系统而言,只需一句话就能回答——前提是有人知道该去问这个问题,并且是在设计之时去问。而在十八个月之后,面对一个由各个团队自行搭建、却无人统一登记的代理组合,再去回答这个问题就会困难得多。
治理层面的启示
可操作的建议是:无代码代理部署需要一种轻量级的接入管控机制,原因恰恰在于它已经移除了那种重量级的管控机制,而这种管控机制的设计速度应当足够快,以至于它本身不会被人绕开。
对大多数情形而言,一个筛查性问题就足够了:该代理的输出是否影响对某个人的决策,包括筛选、排除、排名、排期优先级、上报或评估?回答“否”的代理可以继续推进。回答“是”的代理则进入一条明确界定的路径:针对适用司法管辖区进行覆盖范围判定、明确告知要求、确立审计义务、指定人工审查节点,并登记责任人。这一路径所需时间应以天计,而非周计,因为一种重新引入了它所取代的那种延迟的管控机制,终将像原先的机制一样被规避。
- 筛查性问题
该代理的输出是否影响对某个人的决策,包括筛选、排除、排名、排期优先级、上报或评估?
→ 关于某人的决定？ - 是否涉及对某人的决策?是 → 进入明确路径否 → 继续推进
- 继续
回答“否”的代理可以继续推进。
- 明确的路径
针对适用司法管辖区进行覆盖范围判定、明确告知要求、确立审计义务、指定人工审查节点,并登记责任人。
各组织还应维护一份已部署代理的登记名录,原因并不复杂:否则它们将根本没有这样一份名录。这些平台之所以有价值,正在于其分布式的可配置性,但这也意味着没有任何中央职能部门掌握完整清单,而一个无法列举其自动化决策系统的组织,也就无法确定自身在上述任何一套法规体系下所承担的义务。这份登记名录并非抽象意义上的治理文件,而是回答监管机构第一个问题的前提条件。
最后,各组织应当关注这些系统究竟记录了什么。自主系统平台会记录自身的执行过程,而这些日志是可被调取的。一个排除了四百名申请人的代理,已经就其排除依据创建了一份详细记录——由该组织持有、由该组织生成,并可供任何在诉讼中提出要求的人获取。这份记录要么是该组织最有力的证据,要么是最不利的证据,而决定它究竟是哪一种的,是某个在配置时根本没有考虑过这个问题的人。
人力资源职能部门应当掌控自身技术,这一前提是正确的。而掌控,也包含着随之而来的义务。
参考文献
《(欧盟)2024/1689号条例》第3(39)条、第5(1)(f)条及附件三(4);欧盟委员会,《禁止人工智能行为指南》,2025年2月。
《纽约市行政法典》第20-870条及以下(2021年第144号地方法律)。
伊利诺伊州众议院第3773号法案,第103届大会(2024年),修订《伊利诺伊州人权法》,自2026年1月1日起生效。
《科罗拉多州参议院第24-205号法案》(2024年)。
《国家劳资关系法》第7条,《美国法典》第29编第157条;第8(a)(1)条,《美国法典》第29编第158(a)(1)条。
Novara Consulting Group,《发展例外:内部流动平台与雇佣人工智能治理的边界》,2025年5月。