Skip to content
跳到正文

人工智能治理与数字风险

技能,而非关键词:推理、可审计性,以及雇主不应做出的主张

Novara Consulting Group 在“AI治理与数字风险”分类下的横幅:绿色方框中的分类名称,背景为薄雾笼罩的松林。
下载 PDF

主张

目前关于人工智能在招聘中应用的最实质性主张是,它能够实现按技能而非关键词招聘,并且这样做能产生更公平的结果、更广泛的机会和更多元化的团队。这是现有论点中最有力的一个,因为它不同于关于效率或参与度的说法,它指出了它所要取代之物的一个真实缺陷。关键词匹配是粗糙的。它奖励的是简历措辞而非能力,过滤掉了那些用不同语言描述同样工作的人,并编码了排除以非常规途径获得技能的候选人的资历代用指标。

以上所述皆属实,但这并不能证明这种替代在所声称的方面确实是一种改进。Novara Consulting Group的立场是:用推断的技能取代匹配的关键词,改变了这一工具的性质,而这种改变在治理层面具有重要意义;这些改变中的大多数使雇主的立场更难辩护而非更易辩护;并且与此相关的一项常见说法根本不应公开发表。

证据揭示的实践情况

在审视这项技术之前,值得先看看那些将基于技能的招聘作为政策采纳的机构中实际发生了什么。

2024年2月,哈佛商学院“未来工作管理”项目(Project on Managing the Future of Work)与Burning Glass Institute联合发布了一项研究,针对大型企业的11300个职位,考察了取消学位要求前后至少一年的招聘情况。取消该要求使无学士学位员工的招聘率平均提高了约3.5个百分点,但由于该变化仅适用于取消要求的一小部分职位,其对整个劳动力市场的净影响仅相当于每七百次招聘中不到一次。研究涵盖的近半数企业属于作者所称的“有名无实”类别,即宣称的承诺并未在招聘行为上产生可衡量的变化。

这一发现并非表明基于技能的招聘行不通。那些真正改变了招聘流程而不仅仅是招聘启事的企业确实出现了变化。这一发现表明的是,宣示与实践几乎完全脱节,而这种脱节之所以未被察觉,是因为没有人在衡量后者。打算采用这种方法的机构应当假定,除非进行衡量,否则自身的结果将与平均水平相似;并应将其言辞与招聘数据之间的差距,视为未来争议中最有可能被拿出来质疑的事项。

推断并未消除代用指标

这一技术性主张认为,技能模型能够透过表面词汇读取出潜在的能力。但它实际所做的,是从关键词过滤器所读取的同一份文件中,通过一条更长、更难以审查的推理链,得出技能归因。

该模型并不能观察到候选人是否具备管理项目的能力。它观察到的是某个雇主处的某个职位名称、任职时长,以特定语言加以描述,然后依据从既往数据中学习到的关联——即拥有类似头衔、就职于类似雇主的人被认为能做什么——来赋予某项技能。关键词过滤器所能利用的每一种代用指标,推断模型同样可以利用,而且还能利用更多,因为该模型可以借助机构声望、职业连续性、措辞惯例以及晋升模式,而这些是关键词列表无法呈现的。

那些能力在普通语料库中无法被“读懂”的候选人,曾因关键词过滤器而处于劣势,如今在模型下仍处于劣势,唯一的区别是,她再也无法看清原因何在。

这对于该方法本应惠及的候选人群体尤为重要。通过照护工作、社区组织、军队服役、非正式或家族企业、残疾自我管理或职业中断所获得的技能,恰恰是在取自常规就业履历的训练数据中代表性最差的技能。那些能力在普通语料库中无法被“读懂”的候选人,曾因关键词过滤器而处于劣势,如今在模型下仍处于劣势,唯一的区别是,她再也无法看清原因何在。

分类体系是一种建构物,而且是有人建构的

每一个基于技能的系统都依赖于一套分类体系:一份列举的技能清单、其定义、彼此之间的关系,以及被认定可以证明每项技能的证据。这套分类体系并非天然存在之物。它是由人构建的,其中编码了关于什么算作一项技能、哪些技能彼此可区分、以及什么可以证明拥有该技能的种种判断。

采用这些系统的机构几乎从不审查该分类体系,而在许多产品中也根本无法审查。其结果是,某一职位的资格定义被外包给了供应商的本体论,而使用该系统的雇主却仍将是被要求为其辩护的一方。当被问及为何将某项特定属性视为必要条件时,回答“这是供应商技能库中的规定”并不能算作有效回应。

用一件可审计的工具换取了一件不透明的工具

这是治理层面的关键所在,也是最常被忽视的一点。

关键词过滤器是一件糟糕的工具,却有一项重要优点:它是可读的。清单是可以被读取的。人们可以查看它,并观察到该过滤器要求某个与该职位毫无关系的术语,或排除了某个在特定行业或地区常用的同义词。当它产生不利影响时,可以识别出应对此负责的具体组成部分,因为这些组成部分是被逐一列举出来的。

技能推断模型不具备这两项特性中的任何一项。其判定标准无法被读取,其组成部分无法由雇主逐一审查,而某位候选人得出特定分数的原因,也无法从雇主所掌握的任何资料中还原出来。该机构用一件粗糙但透明的工具,换来了一件复杂却不透明的工具,并将这种交换描述为公平性的提升。它所提升的,是复杂程度;它所放弃的,则是使先前工具具有可辩护性的唯一因素。

这在现行联邦法律下会产生直接后果。《雇员甄选程序统一指南》要求,若整体甄选流程显示出不利影响,使用者须识别出哪些组成部分导致了这种影响,并为这些组成部分保留效度证据。一个由列举式过滤器构建的流程能够支持这种分析。而一个建立在供应商基础设施之上、排名后即丢弃分数的推断模型所构建的流程,通常无法支持这种分析。

以技能为框架提高了而非降低了效度证明的门槛

还有一个后果,是采用这种表述方式的机构通常没有考虑到的。

关键词过滤器不对其所衡量的内容作任何主张。它只是匹配字符串。而一个基于技能的系统则作出了明确断言:它衡量的是经过界定的、与职位相关的能力。这一断言是一项建构效度的主张,由雇主公开就其自身的甄选流程作出。

根据《统一指南》,若雇主的甄选程序产生了不利影响,该雇主应当提供证据证明该程序对该职位而言是有效的。一个公开将其流程描述为衡量特定职位相关技能的雇主,实际上是自愿设定了将来据以评判自己的框架,而且是在证明自己能够达到该标准之前就这样做了。因此,该机构应当能够就每一个被评分的构念回答:它对应于该职位哪一项有文件记录的职责,以及这种对应关系基于何种证据。如果回答是“供应商命名了这项技能”,那么该雇主就采纳了一项自己并未真正提出、也无法支持的效度主张。

不应作出的主张

有一项与基于技能招聘相关联的断言应当从所有对外沟通中删除:即该方法能产生更多元化的团队。

问题不在于多元化本身是不正当的目标。问题在于,这句话若被律师解读,便等于声明该机构的甄选流程会影响其员工队伍中受保护群体的构成比例。经1991年修订的《民权法案》第七章规定,在甄选或推荐申请人的过程中,基于种族、肤色、宗教、性别或民族出身而调整分数、使用不同的分数线,或以其他方式改变与就业相关测试结果的做法,均属违法。这里没有任何证据表明基于技能的工具会这样做。而这种公开的主张所带来的,是招致质疑——出现在雇主自己撰写、且无法撤回的文件中;而当下,此类质疑被提出的频率正在增加,同时第14281号行政命令已指示联邦机构降低对不利影响执法的优先级,却丝毫没有减少那些就人口构成结果作出肯定性表述的雇主所面临的风险。

此外还有一个基本的举证问题。一个宣称其流程能带来更多元化团队的机构,理应能够提供支持这一说法的前后数据对比,并对申请人群体构成和招聘规模加以控制。大多数机构做不到这一点,这意味着该主张既未经证实,也很不明智。

这种可站得住脚的表述方式是现成可用的,且不需要任何代价。该机构正在拓宽其愿意考虑的资格范围,已为每一项资格记录了与职位相关的依据,并对结果进行监测。这一表述是准确的,与目标相一致,且没有断言任何该机构不愿被要求去证明的内容。

部署前应确认的事项

五件事,应当在技能推断系统触及甄选决策之前,以书面形式、依据证据而非供应商说明作出回答。

  1. 该分类体系是什么,是谁构建的,该机构能否读取它。一个其技能定义无法被审查的系统,把资格的定义置于机构控制之外,却把辩护的责任留在了机构之内。
  2. 就每一个被评分的构念而言,它对应于该职位哪一项有文件记录的职责。这应当由该机构自行撰写,而非由供应商提供,并且应当在系统运行之前就已存在,而非在指控提出之后才补写。
  3. 每一项决定的分数、输入数据和模型版本是否都被保留,某一具体决定日后能否被复现。如果不能,该机构就无法进行《统一指南》所设想的组成部分分析,而它应当在需要之前就了解这一点。
  4. 该机构自身的招聘数据,在前后对比下显示出什么结果。鉴于已公开揭示的宣示与实践之间的差距,这是判断是否真正发生了变化的唯一途径,也是确立诚信度的记录依据。
  5. 该机构对外公开表述了什么,它能否证实其中的每一句话。关于招聘结果的宣传文案是可被发现取证的,而撰写这些文案的人,在日后这些文案被呈堂时,往往并未被征询意见。

结语

按技能而非关键词招聘是一个合理的目标,推动这一目标的对关键词匹配的批评也是正确的。然而当前的技术所实现的,并非消除代理指标,而是把它们转移到雇主无法审查的层面,同时伴随着雇主并未确立的构念效度公开声明,以及一项本不该做出的关于人口结构结果的声明。

将从这一转变中受益的组织,是那些把它当作一个测量问题而非采购决策来对待的组织:它们自行定义技能,记录与岗位相关的依据,保留记录,衡量实际发生的变化,并用能够在宣誓作证时站得住脚的语言描述结果。这比采用一套新词汇要费力得多。但这也是唯一被证明能真正推动改变的基于技能的招聘方式。

参考文献

  • 第14281号行政命令,《恢复机会平等与择优制度》,2025年4月23日。
  • Fuller, Joseph, 等. 《基于技能的招聘:从宣言到实践的漫长道路》. 哈佛商学院“管理未来工作项目”与Burning Glass Institute,2024年2月。
  • 1964年《民权法案》第七章(经修订),42 U.S.C. § 2000e-2,含 § 2000e-2(l)。
  • 《雇员选拔程序统一指南》,29 C.F.R. 第1607部分,含 §§ 1607.4 和 1607.15;EEOC 记录保存要求,29 C.F.R. 第1602部分。
引用本文
Grizzle, H. M. (2025, May 18). Skills, Not Keywords: Inference, Auditability, and the Claims Employers Should Not Make. Novara Consulting Group. https://www.novaracg.com/2025/05/18/skills-not-keywords-inference-auditability-and-the-claims-employers-should-not-make/

订阅 Novara Consulting Group

新文章直接发送至您的收件箱。

Consult