信函、简报和报告可以以其自身的排版方式显示。自动仅在您上方的设置均未另作要求时保持此效果。
Narrows the reading column so each line is shorter and your eyes travel less from one line to the next. Phones keep a full-width column.
Keep Full Width leaves tables, charts, code, videos and galleries at their full size, so nothing is squeezed out of shape.
Category
Artificial intelligence is rapidly becoming embedded in core business systems, digital platforms, and decision-making processes. As AI adoption accelerates, organizations face a growing set of governance, compliance, and operational risks that existing frameworks were not designed to address. This category examines the emerging risk landscape surrounding artificial intelligence, including algorithmic accountability, autonomous systems, platform governance, data integrity, and the growing presence of machine-generated activity within digital environments.
Articles in this section analyze how AI technologies can introduce new vulnerabilities, reshape information ecosystems, and challenge traditional oversight models. Topics may include autonomous AI agents, synthetic media, automated decision systems, digital trust erosion, regulatory developments, and enterprise governance strategies.
The goal of this section is to provide leaders, risk professionals, and policymakers with clear analysis of how AI systems intersect with organizational risk management, compliance obligations, and long-term digital resilience.
“AI战略尤其依赖于各个层面的人的参与,从数据质量到工作流程重新设计,再到用户采纳“
Read Now人工智能的应用正在消除那些历来培养未来人才的入门级职位。看似效率提升的表象,实则是组织能力培养方式的结构性转变。入门级工作长期以来一直是培训、知识传递和内部流动的基础。随着这些职位的消失,产生中层和领导人才的体系也随之消失。 这造成了一种延迟显现的劳动力风险。组织或许能够依靠更精简的团队维持短期业绩,但与此同时也削弱了内部人才梯队。久而久之,这将导致中层人才储备变薄、对外部招聘的依赖增加,以及领导力储备的差距不断扩大。这种影响不是立即显现的,而是逐渐累积的。 人工智能不仅改变了工作的完成方式,也改变了经验的积累方式。随着入门级职位的消失和人才梯队的削弱,人工智能带来的劳动力风险正日益凸显为一个关键问题。 这种转变是结构性的,而非暂时的 入门级职位并非孤立地被削减,而是被系统性地从现代工作流程中设计剔除。过去那些证明初级职位存在必要性的任务,包括数据整理、报告撰写、协调工作和文档记录,如今已被嵌入式人工智能工具吸收,这些工具直接在日常系统中运行。这种转变通常不会以裁员的形式呈现,而是通过一些表面上看似积极、实则蕴含更深层结构性影响的运营信号显现出来。 组织报告称团队变得更精简,这并非因为需求下降,而是因为完成相同产出所需的职位减少了。职位描述的要求在上移,即便是标注为入门级的职位,基本技能要求也在提高。与此同时,真正意义上的入门级职位发布数量在下降,这减少了进入职场的通道。这些变化常被解读为自然演变或效率提升。但实际上,它们反映的是组织内部工作分配方式的重新配置。 其结果不仅限于生产力层面。当入门级职位消失时,支撑职业早期发展的体系也随之被削弱。这种损失不仅限于就业机会的减少,还影响到员工如何获得经验、知识如何传递,以及组织如何维持内部成长。任务层面看似效率提升的表象,转化为人才梯队层面的侵蚀。 劳动力梯队从来都不是可有可无的 入门级职位在组织中一直发挥着双重作用。它们既提供即时的运营支持,同时也是长期能力培养的主要机制。通过这些职位,员工学习工作实际是如何完成的,建立起对决策的背景理解,并培养承担更大责任所需的判断力。久而久之,这形成了从入门级到中层、最终迈向领导层的结构化晋升路径。 这种晋升路径并非偶然形成的。它产生了维持内部流动的晋升通道,通过持续参与保存了机构知识,并提供了低风险的环境,让员工能够在没有高风险职位所伴随压力的情况下培养技能。这些功能是嵌入在入门级工作设计之中的,而非与之分离。 当这些职位消失时,组织失去的不仅仅是初级劳动力,更失去了培养经验丰富员工的体系。这种影响是逐渐显现的。在两到五年内,随着能够胜任更复杂职位的员工减少,中层人才储备开始变薄。从更长远来看,由于内部人才梯队无法提供具备足够经验深度的候选人,领导力方面的差距会变得更加明显。作为应对,组织将愈发依赖外部招聘,而这往往意味着更高的成本以及文化和运营上不匹配的更大风险。这是一种滞后显现的风险,但并非不确定的风险。人才梯队从来都不是可有可无的,它是根基所在。 人工智能实施缺失了关键的一环 大多数组织以狭隘的运营视角来推进人工智能的应用。其关注点在于降低成本、提高速度和优化产出,成功与否以任务完成的效率以及在不影响交付的情况下能够削减多少人员来衡量。流程效率成为主要目标,人工智能被部署为提升执行效率的工具。虽然这些目标本身并无不妥,但它们只反映了工作在组织中运作方式的一个维度。 通常未被纳入考量的是劳动力的连续性。被自动化取代的工作不仅仅具有运营价值,同时也承载着培养价值。入门级任务历来提供了员工逐步建立能力所需的重复训练、接触面和背景理解。当这些任务被取消时,培养这一层面也随之消失。 如果不考虑这一点,组织便会在无意间将培养性工作自动化到消失殆尽。职业早期的学习环境要么萎缩,要么彻底消失,使员工获得实践经验的机会越来越少。与此同时,职位职责变得压缩。要求不断提高,需要员工具备尚未有机会培养的能力水平。这一体系开始默认员工已具备相应经验,却未提供培养这种经验的途径。 这种情况无法仅靠调整招聘来解决。这不是寻找更优秀候选人或重新定义职位要求的问题,而是根植于工作设计方式的结构性问题。当劳动力发展未被视为系统设计的核心组成部分时,任务层面的效率提升就会转化为组织层面的能力缺口。这不是招聘问题,而是系统设计上的失败。 为何这一趋势在加速 这一转变的速度正在加快,因为几种结构性力量正同时汇聚。这些力量并非彼此独立,而是相互强化,加速了入门级工作的消失,并收紧了劳动力发展的约束条件。…
Read Now人工智能并非取代人力资源，而是在重塑它。 两件事正在同时发生，尽管人们常常将它们分开讨论，但二者实际上直接相关。企业一方面在削减招聘和运营岗位，另一方面却在加大对人工智能的投资。这并非巧合，也不是临时性调整，而是反映出组织在工作结构上发生更深层次转变所驱动的资源重新配置。 多年来，企业一直基于这样一个假设运作：增长需要人力投入的相应增加。随着招聘需求的扩大，组织不断增加招聘人员、协调人员和人力资源运营人员，以应对日益增长的复杂性。人力资源职能的设计初衷是为了扩展人力，确保员工生命周期的每个阶段都有相应的岗位来支持。这种方式形成了层层叠加的体系，工作要经过多个人手，每个人负责流程中的特定环节。 如今，这一模式正被重新定义。人工智能的进步使组织能够重新设计工作流程，使许多此前分段进行的任务不再依赖人工干预。诸如寻找候选人、筛选申请和协调面试等活动，以往需要多次交接，如今可以在集成系统内完成。其结果不仅仅是效率的提升，更是维持这些流程所需岗位数量的结构性减少。 随着这些系统吸收常规和重复性工作，围绕这些职能建立的岗位开始逐渐失去意义。这也解释了为什么招聘和运营岗位的削减会与人工智能投资的增加同时发生。这两种发展都是同一结构性变化的结果，而非彼此独立的趋势。组织并非只是用工具取代人力，而是在重新定义工作的底层设计。 这一转变要求人力资源领导者以不同的方式开展工作。他们不能再主要专注于管理人员和流程，而必须确定人类判断与自动化系统之间应如何分工。有关劳动力设计的决策越来越多地涉及评估哪些任务需要人类的自主判断，哪些任务可以标准化并通过人工智能驱动的流程来执行。 因此，先组建团队再配备工具的传统顺序正被颠倒。组织开始首先围绕系统能力设计工作流程，然后根据剩余部分来界定人类的角色。这标志着组织逻辑的根本性转变：系统构成工作的基础，而人类的贡献则被有策略地定位在这一框架之中。 因此，人工智能不再仅仅作为一种辅助工具发挥作用，而是逐渐嵌入到工作组织和执行方式的结构之中。从这个意义上说，人工智能正演变为劳动力架构的核心组成部分，不仅塑造任务的完成方式，也影响角色的界定以及组织在规模化运作中的方式。 “人工智能助手”的终结 过去几年里，人力资源团队一直将人工智能视为一种辅助工具，用于协助完成离散的任务。最常见的应用集中在提升效率上，比如简历筛选、通过聊天机器人进行候选人沟通以及面试安排。在这种框架下，人工智能被视为叠加在现有流程之上的增强手段，而非能够从根本上改变这些流程设计方式的力量。 这一阶段正在结束。人力资源领导者越来越意识到，最初采用人工智能的方式受限于对其能力的狭隘理解。将人工智能定位为帮手或数字助理，使组织将其影响限制在渐进式改进上，而非结构性变革。其结果是对现有工作流程进行了优化，却从未质疑这些流程本身是否还应以当前形式存在。 包括IBM和微软在内的大型组织的高管们，如今正在推动一种不同的模式。他们不再将人工智能视为与员工并行运作的事物，而是将其直接嵌入到运营工作流程的核心之中。这一转变反映出人们不再将人工智能视为人力角色的替代品，而是将其理解为工作执行方式的基础组成部分。 这种视角的转变具有重大意义。当人工智能被嵌入工作流程时，它不再是可以添加或移除的独立角色，而是成为系统本身的一部分，塑造任务如何启动、处理和完成。因此，组织不再问人工智能如何协助员工，而是思考在人工智能已经融入的环境中，工作应如何构建。 在实践层面，这意味着人工智能不再被视为劳动力中的一个角色，而是正在成为支撑组织运作方式的基础设施，既影响工作的设计，也影响该设计中人力投入的分配。 “人类+人工智能”团队正成为默认模式 2026年出现的最重要转变，并非人工智能取代人类工作，而是一种混合运营模式的常态化——即人类与人工智能协同运作。“人类对抗人工智能”的框架正逐渐过时，因为组织越来越多地设计出依赖双方互补优势的工作流程。这一演变反映出，当智能系统融入日常运营时，人们对工作执行方式有了更为务实的理解。 在这种模式下，人工智能主要负责处理高频、可重复且以流程为导向的任务，例如候选人搜寻、初步筛选和面试协调。这些职能得益于速度、一致性以及在不知疲倦的情况下处理大规模数据的能力。与此同时，在需要判断力、情境理解和人际互动的领域，人类专业人员仍然不可或缺，包括评估文化契合度、管理候选人体验以及做出基于风险考量的招聘决策。 这种分工并非纸上谈兵，而是已经在各行业的人才获取职能中逐渐成为标准做法。组织正在调整其招聘流程，让人工智能系统管理招聘工作流程的早期和中期阶段，而将人力投入保留在解读、判断和问责至关重要的环节。…
Read Now在过去一年里，软件领域发生了一件不寻常的事。构建一款应用的门槛不只是降低了，而是彻底崩塌了。由人工智能驱动的工具，让工程经验有限的个人也能在以往所需时间的极小一部分内设计、生成并发布应用。曾经需要数月协调开发才能完成的工作，如今几天之内就能拼装出来。 起初，这种扩张感觉像是进步。更多的构建者意味着更多的想法进入市场，更多的实验，更多的机会。包括苹果App Store在内的各大平台，基本上都在没有立即抵触的情况下吸纳了这股浪潮。 那个阶段正在结束。 拒绝浪潮开始 苹果已经开始拒绝越来越多主要通过快速AI辅助工作流生成的应用，这类应用常被非正式地称为“氛围编码（vibe coding）”。这些拒绝并非基于单一的技术违规或政策变更，而是反映出一种更广泛的评估模式。那些缺乏深度、结构重复、或功能价值极低的应用，正在审核过程中被过滤掉。 这并非对人工智能作为一种工具的否定。苹果仍在其整个生态系统中大力投资人工智能。被拒绝的是这一工具被使用的方式所产生的结果——当其产出的产品未能达到可用性、性能和差异化的基本预期时。 一次可预见的平台自我修正 从平台的角度来看，这一转变是可以预见的。 当生产速度超过质量控制的速度时，系统就会开始自我修正。App Store不仅仅是一个分发渠道，它是一个经过筛选的环境，用户信任直接影响着平台的价值。如果用户反复遇到感觉不完整、重复或执行粗糙的应用，这种信任就会被侵蚀。信任一旦下降，参与度随之下降，生态系统的长期稳定性也将面临风险。 当前这波AI生成应用带来了一个数量问题。这些应用中许多只能实现基本功能，却无法延伸到更多层面。它们往往复制现有的概念，却没有实质性的改进。它们勉强达到了“可运行”的门槛，却远未做到实用、可靠，或能长期吸引用户。 苹果的审核流程如今正充当着管理这一风险的控制点。 从可及性到差异化 这一发展也预示着一个更广泛的转变：各行业将如何评估由AI驱动的产品。AI应用的初期阶段优先考虑的是可及性和速度。快速创造的能力本身就是一种竞争优势。而随着市场充斥着相似的产出，这种优势正在减弱。 下一阶段的重点将是差异化与质量。 对于开发者和组织而言，这带来了一套不同的要求。开发过程中出现AI并不会减少对产品策略、用户体验设计或性能优化的需求。恰恰相反，这些要素的重要性反而在提升，因为如今进入的门槛已经如此之低，差异化必须来自执行力，而非可及性。…
Read NowMeta Platforms最近对Moltbook的收购,并不仅仅是又一起大型科技公司对初创企业的并购。它代表着下一代数字生态系统运作方式的一次结构性转变。Moltbook最初的设计目的,主要是让自主的人工智能(AI)代理彼此互动。在这种环境中,软件系统生成帖子、相互回应并交换信息,几乎无需人类的直接参与。 对于风险、合规与治理专业人士而言,这一发展引发了关于互联网未来架构的根本性问题。 机器对机器社交系统的兴起 传统社交媒体平台是围绕人类互动而构建的。其核心价值主张在于连接人与人,促进沟通,并让社群围绕共同兴趣形成。 AI代理社交网络改变了这一基本前提。主导对话的不再是人类用户,而是代表个人、企业或机构行事的自主系统。 这些系统可能具备以下能力: 与其他代理协商服务与交易 交换数据以完成运营任务 在各组织间协调自动化工作流程 在没有人类直接参与的情况下生成并放大信息 实际上,这引入了一个新的数字层面,使机器成为互联网社交基础设施中的积极参与者。 治理难题 代理驱动型网络的出现带来了现有监管框架无法应对的治理挑战。 主要关切包括: 身份与真实性 在以人类为中心的网络中,信任建立在“账户代表真实个人或可识别组织”这一假设之上。而在代理生态系统中,判断内容来源变得复杂得多。一个自主代理可能代表一家公司、一名开发者、一名用户,也可能是独立运行的合成系统。 若缺乏明确的身份框架,区分合法活动与操纵行为将变得困难。…
Read Now2026年最具决定性的治理挑战并非透明度本身。透明度只是组织如今运作所处的既定条件。更具实质意义的问题在于:机构是否拥有能够经受住持续审视的信息系统。治理越来越不是依据组织对自身的陈述来衡量,而是依据其信息能否在监管审查、诉讼、采购审查、调查性新闻报道或公众质询之下,证实这些陈述。 在过去数十年的大部分时间里,治理工作集中于制定政策、记录程序、实施合规框架,以及保存旨在证明组织尽职的记录。这些努力反映了这样一种治理环境:文件记录本身往往被视为足以证明组织已履行合理监督的证据。政策被要求存在。程序被要求书面记录。控制措施被要求形成文件。而这些文件是否准确反映了实际运作情况,往往只有在出现问题之后才会被审查。 那种环境已经改变。监管机构、法院、审计机构、保险公司、董事会、投资者,以及日益增多的公众,如今期望组织不仅证明政策的存在,更要证明这些政策在日常运作中确实按其所述发挥作用。文件记录已成为治理的起点,而非终点。机构的可信度如今取决于支撑组织决策的信息的质量、完整性和可追溯性。 其实际后果十分重大。核心治理问题不再是“你们是否有政策?”而是变成了“贵组织能否通过经得起检验的信息证明该政策确实按预期运作?”这是两个截然不同的问题。前者评估的是文件记录。后者评估的是产生、管理并保存组织知识的架构。 治理失败早在成为公开事件之前就已埋下伏笔 治理失败常被描述为孤立的丑闻。公众讨论往往聚焦于某一具体的披露事件、某次网络安全事故、某份不当泄露的文件,或某项监管认定,从而给人一种印象:似乎是单一事件引发了机构性的失败。而后续调查却很少支持这种解读。 更常见的情况是,那些高度引人注目的失败,恰恰是多年积累的治理弱点终于无法再被忽视的临界点。公众看到的是被曝光的文件。监管机构审查的是产生这份文件的记录。内部调查人员发现的是不一致的分类、分散的数据所有权、未经记录的流程变更、相互冲突的保留做法,以及无法被可靠重建的决策历史。表面上看似孤立的事件,往往只是更深层架构性问题的第一个可见症状。 各行各业的具体案例各不相同,但其背后的模式却惊人地一致。某份文件在发布时未对敏感信息进行编辑处理。某个应用程序接口将信息暴露给了本不应接触的对象。内部报告与公开披露中的陈述相互矛盾。供应商的陈述无法与实际运作证据相互印证。人工智能系统生成的建议无法追溯至经过验证的原始信息。尽管这些事件看似互不相关,但每一个都反映出同一种机构性弱点:该组织已经对自身的信息失去了信心。 这种信心的丧失,很少是因为某一名员工未能遵循程序所致。相反,它是随着组织规模扩大、采用新技术、部门合并、业务外包,以及在原本为完全不同目的而设计的信息系统之上不断叠加新的治理期望,而逐渐形成的。分类标准的演变并不均衡。责任被分散到多个业务部门。遗留应用系统继续与现代平台并行运作。人工变通做法逐渐取代了正式流程。随着时间推移,信息仍在组织内不断流转,但能够自信地解释其如何流转、为何变化,以及最终由谁行使权限的人却越来越少。 组织往往只有在信息必须经受外部审查时,才发现这些状况。到那个阶段,纠正单一一份文件已难以令人安心,因为问题已从“是否发生过一次失误”转变为“类似的弱点是否遍布整个机构”。 信息架构已成为治理基础设施 信息架构历来被理解为一门负责组织信息、构建存储库、提升可访问性的技术学科。尽管这些功能依然重要,但它们已不足以概括其机构层面的意义。信息架构已经成为治理基础设施,因为每一项具有实质影响的组织决策,归根结底都依赖于信息在收集、分类、存储、授权、检索与传达等复杂系统中准确流转。 高层决策所依赖的信息,在到达管理层之前,已经历了众多技术与人工流程的处理。监管申报依赖于跨多个部门收集的运营记录。人力资源决策整合了人事记录、政策指引、法律要求、便利安排文件,以及日益增多的算法建议。采购决策依赖于由不同组织职能部门生成的供应商披露、合同文件、财务分析和技术评估。这些决策没有一项独立于信息架构之外发生。它们正是信息架构的产物。 因此,治理再也无法与产生机构知识的系统相分离。那些无法解释信息如何产生、如何随时间变化、相互冲突的版本如何被协调、谁有权授权修改、记录如何被保存的组织,无论其书面政策看起来多么完备,都无法令人信服地证明自身的治理水平。 机构信任越来越依赖于这种能力。利益相关方评估的不仅仅是组织得出的结论。他们评估的是支撑这些结论的证据基础。当机构能够证明信息在其整个生命周期中始终保持完整、可追溯、内部一致并能经受独立验证时,信心便随之建立。而当组织无法解释自身的信息时,信心便随之瓦解。 人工智能暴露了一个既有的治理问题 人工智能对治理的基本义务本身改变甚微。组织一直以来都对支撑重大决策的信息质量负有责任。人工智能真正改变的,是该信息架构中的弱点在整个企业中传播的速度、规模与可见性。 以往需要经过顺序性人工审核的信息,如今持续流经能够在数秒内生成摘要、分类、建议、预测和运营决策的自动化工作流程。这些能力带来了可衡量的组织价值。但同时,它们也放大了以往仅局限于局部的缺陷。…
Read Now能力主张总体上是站得住脚的 关于人力资源工作中自主系统的运营理由并不需要太多辩护。一个无需人工逐步发起即可执行多步骤工作流程的系统,与规则引擎有着实质性的不同,而这种不同并非修辞上的。入职流程、文件分发、日程安排、状态沟通以及权限配置,都确实非常适合自主执行,而将这些流程自动化的组织,也确实回收了那些从未被有效利用过的产能。 无代码开发环境同样是一种真实的变革,而非营销噱头。人力资源专业人员对员工生命周期的理解,是依据需求文档进行开发的工程团队所不具备的,而将设计权交到真正理解流程的人手中的配置工具,会产生更好的流程。 这两点观察本身并无争议。有争议的是人们通常由此得出的推论,即:既然人力资源职能部门现在无需技术中介即可部署自主系统,它们就应当这样做。这种推论将技术中介视为瓶颈。更准确的理解是,它是一种管控,而那些移除了它却未能替代其原有功能的组织,并没有加速自身的运营。它们只是把一系列决策转移到了一个尚未被赋予相应资源去做出这些决策的职能部门。 自主性对法律地位改变了什么 真正重要的区分并非自动化与自主性之间的区别。而是:其输出结果影响对某个人的决策的系统,与其输出结果不涉及此类决策的系统之间的区别。而自主架构往往在无人察觉的情况下,使系统悄然跨越了这条界线。 以已成为该类别标准范例的漏斗顶端招聘代理为例。它根据既定资格筛选申请,进行初步筛选,向候选人通报状态,并为其推进的候选人安排面试。其益处通常被这样描述:招聘经理现在只需与经过预先筛选的候选人打交道。这种描述虽非有意为之,却精确地揭示了合规风险所在。如果招聘经理只看到了通过筛选的人,那么被排除的群体就未经任何人审查,而这种排除完全可归因于该系统。 纽约市《第144号地方法》适用于用于实质性协助或取代自由裁量决策的自动化就业决策工具,要求在过去一年内进行独立的偏见审计、公开发布审计摘要,并提前通知候选人。在没有人工审查排除情况的筛选代理,并非处于该定义的边缘地带,而正是其典型适用情形。伊利诺伊州《HB 3773法案》将于2026年1月生效,该法案将要求在招聘或雇用决策中使用人工智能时必须予以告知,并使歧视性影响可依据《人权法》提起诉讼,其告知义务依附于使用行为本身,而非依附于结果。科罗拉多州的法规目前预定于2026年初生效,但仍面临积极的修订压力,该法规将就业决策界定为具有重大影响的决策,并对部署者施加相应义务。欧盟《人工智能法案》附件三将就业系统列为高风险系统,相关义务将自2026年8月起适用。 这些法规体系中,没有一项为组织自行搭建的系统设有例外。相关义务附着于部署者身上。从供应商处采购筛选工具的组织,至少还能获得一份合同、一次供应商安全审查,以及在许多情况下供应商为其他客户所制作的审计文档。而用无代码构建工具自行组装出同等功能的组织,则不会获得任何这些文件,却承担着同样的义务。 这正是“排队审核流程曾是一种管控”这一说法的具体含义所在。技术接入流程正是数据保护评估被触发之处,供应商风险审查发生之处,留存与导出要求被明确之处,也是有人追问该系统如何处理个人数据之处。这些职能并非排队流程的附带特性,而是其存在的目的。移除排队流程也就移除了这些职能,而它们原本存在是为了履行的那些义务却依然存在。 情绪感知代理真正所处的位置 参与度监测代理负责管理脉搏调查、分析回应情绪,并在某部门士气下降时向领导层发出提醒,这一类代理值得比通常所受到的更为审慎的对待,因为其风险常常被错误识别。 需要明确指出的是,对调查回应进行基于文本的情绪分析,并不属于欧盟禁止职场情绪识别规定的适用范围。第5(1)(f)条中的禁止规定与该法案对“情绪识别系统”的定义相挂钩,该定义要求须从生物特征数据中进行推断,而欧盟委员会关于禁止行为的指南明确指出,从书面文本中推断情绪的系统并非基于生物特征数据,因而不属于该禁止规定的适用范围。那些得到相反建议的组织,所获得的建议是不准确的。 其适用范围随形式而非功能变化。如果脉搏调查是通过语音进行的,或者参与度信号来自录制的会议、视频面谈,或任何可据以分析声音或面部特征的输入,那么该分析即属于基于生物特征数据的推断,禁止规定便适用于此。其适用方式是作为一种禁止,而非作为高风险分类,这意味着无法通过文档记录加以补救。那些将情绪感知能力从书面调查扩展到会议分析的组织,可能正在跨越一条自己都不知道存在的界线,而这种扩展恰恰正是自主系统部署所容易带来的那种渐进式范围扩张。 而附着于基于文本版本的风险,则属于本土性质且性质不同的风险。设计中的两个特征导致了这一点。第一是通过颗粒度实现的去匿名化:一条声明某个指定部门士气下降的提醒,在规模不大的部门中实际上是可识别身份的,而它恰恰被发送给了该部门的领导层。参与度调查工具依赖于一种保密承诺,而一个将情绪分析结果路由给正被评估其行为的管理者的系统,实际上已在未披露的情况下撤回了这一承诺。第二点是,检测并上报集体员工不满情绪的自动化监测行为,正落入《国家劳资关系法》第7条所保护的领域。对受保护的协同活动进行监视属于不当劳动行为,而这一法定原则并不取决于任何特定总法律顾问的执法立场——该立场过去有所转变,未来也还会再次转变。一个已经构建出用于检测新兴集体不满并将其上报给管理层的系统的组织,理应在该系统运行之前让法律顾问加以审查。 真正没有问题的代理 并非每一种自主系统部署都具有这种风险特征,而这一区分值得明确指出,因为这正是各组织应当加以运用的区分。…
Read Now姗姗来迟的就绪模型 大多数组织性AI就绪框架都存在一个损害其效力的结构性特征。它们把能力建设排在管控之前。数据基础首先建立,应用第二步部署,而伦理或信任层则在第三步引入,通常以指导原则、宗旨以及对公平和透明的承诺来表述。这种顺序看似直观,因为它映照了工作实际获得资助的方式,也是目前流行的大多数就绪模型所推荐的顺序。 这也正是导致当今就业AI领域可见失败的顺序。等到伦理层设计出来时,它本应管控的系统早已投入生产,采购已经结束,合同条款已经固定,供应商选择已成定局,组织的实际选项已经收窄为文档记录和信息披露。第三步才引入的治理并非治理,而是对第二步已做决策的事后辩护。 纠正之道并非把伦理阶段提前。而是要认识到,伦理准则并非当前局面所需要的工具,把它当作工具本身就是错误所在。 为何原则不是管控手段 原则与工具之间的区别并非语义之争,治理文献对此已有足够细致的探讨,组织无需重新发现这一点。 萨拉蒙对政府工具的分析确立了这样一个观点:政策目标是通过具有可识别属性的工具来实现的——它们授权何种活动、由谁执行、要求何种合规、以及使其可被观察到的内容是什么。一项声明性的承诺做不到这些事中的任何一件。它表达了一种意图,却没有指明行为主体、触发条件、证据性产出,或者不履行时的后果。将此应用于人工智能领域,这一模式已被直接记录下来。约宾、延卡与瓦耶纳对全球AI伦理准则格局的调查发现,在高层次原则上存在相当程度的趋同,而在这些原则应如何解读、被理解为要求何种行动方面则存在明显分歧。米特尔施塔特的评估得出了更为尖锐的结论:在缺乏使原则在其他领域真正发挥作用的专业结构、问责机制和执行路径的情况下,仅凭原则无法保证人工智能符合伦理。 因此,一个以制定清晰伦理准则来应对就业AI风险的组织,实际上采用了证据基础最薄弱的干预手段。这并非因为公平与透明不是值得追求的目标,而是因为一项准则不产生任何具体成果,而组织实际面临的每一项义务都是通过具体成果来履行的。 以几乎每个就绪模型中都会出现的“算法运作透明度承诺”为例。按照所述条件,这一承诺是无法实现的。供应商不会披露模型架构,该类别中的大多数系统在承诺所暗示的意义上并不具有可解释性,而承诺算法透明度的组织已经承诺了它无法兑现、且必然会被追问的事情。可实现且更有用的承诺属于不同性质:即由组织可以指认的一方,按照既定周期,针对受保护群体产出结果的书面证据。这才是一种工具。它明确规定了谁在何时做什么,以及产生何种记录。 颠倒过来的就绪顺序 一个建立在工具而非原则之上的就绪模型,以不同的方式排列工作顺序,而这种重新排序是实质性的贡献,而非表面形式上的改变。 覆盖范围认定放在首位。在对任何系统的能力进行评估之前,组织必须能够回答:该系统的输出是否被用于做出、指导或实质性影响关于招聘、晋升、薪酬、岗位分配、纪律处分或继续雇用的决定。正是这一表述——而非系统在市场上被标榜的产品类别——决定了当前所有规制就业AI的制度体系所附带的义务。覆盖范围认定是一种工具,因为它产生记录、指定责任人,并触发一个明确定义的工作流程。它同时成本低廉,而且是唯一一个拖延越久成本越高的步骤。 数据治理随之而来,但需重新定义框架。就绪模型将数据目标描述为“单一真实来源”,这是一个数据质量目标。治理目标则不同且更为狭窄:组织必须能够确定某一具体推断所依据的数据是什么、产生于何时、来源如何。整洁、整合的数据支持更好的预测。有据可查的数据来源支持组织向监管者或原告说明一个人为何得到其所获结果的能力。只有后者才是一种治理能力,而组织完全可以在不具备后者的情况下拥有前者。 证据性要求应在采购阶段就已介入,而非事后补入。这正是组织尚能保有议价权的时点。偏见审计文档需明确方法论、所测试的群体类别以及样本人群。确认没有任何地理、教育或司龄衍生特征在实际上充当代理变量。明确规定通知和不利行动流程,以及由哪一方执行该流程。留存与导出条款须足以在适用追诉期内经受平台迁移的考验。这些条款在中标前均可协商,而中标后则无法再行协商,这正是主张这种顺序安排的全部理由所在。 部署阶段应带来监测,而非自我肯定。在实施之后真正重要的承诺,是按既定间隔进行的结果测试,因为在差异性影响标准之下,组织自认为其工具公平的信念并不能回答结果是否存在差异这一问题。唯有测量才能回答这一问题。 记录层完成闭环。与个人、版本、日期及经认证的路径相绑定的证明。留存架构须在创建之初即予设计。组织展示其所作所为的能力,是整个流程的产出,也是对立方唯一会看到的产出。 这一模型是一个循环,而非一架梯子,因为第一阶段会反复出现。系统会不断进入组织,常常是通过那些并不将其归类为就业决策技术的职能部门,因此覆盖范围认定是一种持续受监测的状态,而非一个已完成的项目。 以人才智能为例进行说明…
Read Now供应商能够拉动的指标 合规技术的营销对象是它能够改善的那项指标，而在策略管理这一类别中，该指标几乎总是完成率。企业采购一套平台，自动化提醒随即启用，一个原本仅有百分之四十确认率的组织，在一个季度内就能达到百分之九十以上。这种改善是真实的，能在仪表盘上直观呈现，也能向董事会汇报。但就其本身而言，它却难以说明该组织是否因此获得了任何额外的自我防御能力。 难点并不在于完成率毫无意义。覆盖率确实是一个实际问题，一个连让员工确认其制度都做不到的组织，存在着值得纠正的缺陷。难点在于，完成率是一种分布性指标，却被当作证明性指标来使用，而这两者恰恰在记录接受审查的那一刻产生分歧。一份确认记录之所以成为证据，并非因为它存在，而是因为它确立了归属关系：即某一具体个人——而非仅仅某一账户——在某一具体日期，针对某一具体文件，实施了某一具体行为。完成率衡量的是存在多少条记录，却无法衡量其中是否有任何一条确立了这种归属关系。 这一区分并非纸上谈兵，其所依据的法律比大多数策略管理项目所假设的更为古老、也更为成熟。 法院如何处理一份确认记录 加州上诉法院在Ruiz v. Moss Bros. Auto Group一案中的裁决，至今仍是对该问题最具启发意义的已公开判例，部分原因在于，该案中的雇主已经做到了大多数组织认为已经足够的程度。 该雇主试图依据一份员工确认表中所载的协议来强制执行仲裁。它提交了已签署的文件，文件上印有该员工的姓名，随后附有电子签名的标注以及精确到秒的时间戳。它还提交了一份来自公司业务经理的声明，证明每位员工都被要求使用唯一的登录账号和密码登录公司人力资源系统，以查阅并以电子方式签署该确认表。换言之，该雇主持有一份完整的确认记录，该记录经由身份验证登录生成，附有时间戳并被妥善存档。在任何完成率仪表盘上，这名员工都属于已合规。 法院认定该雇主未能履行其举证责任。电子签名在加州法律下明确有效，法院也特别指出，认证标准本身并不难达到。法院所指出的，是一种推理上的缺口。该声明证明了所有员工都被要求登录并签署，却并未证明是这名员工实施了这一行为。能够证明该记录归属于该个人本人、而非仅仅与该个人账户相关联的证据并不存在，该申请因此败诉。无论是在加州、还是在其他地方采纳的相应电子交易法中，相关法律条文的关键在于该电子签名是否为本人所为，而一个无法将其流程说明与具体记录相连接的组织，尚未回答这一问题。 法院持续将此类争议视为事实密集型的审查，其裁决取决于雇主能够多具体地描述某条个人记录是如何产生的。决定性的变量并非是否获得了某份确认，而是该组织能否具体地还原出：该个人是通过怎样的过程接触到该文件并对其采取了行动。 为何快速整改会产生薄弱的记录 还存在一个更少被注意到的问题，涉及完成率通常是如何被提升的。 一场在三十天内将组织的确认率从百分之四十提升到百分之九十六的活动，其实现方式是对此前从未参与的人群施以自动化的提醒序列。由此产生的记录具有一些可被发现、且并不有利的共同特征：它们在时间上高度聚集；它们跟随不断升级的提示而出现；在系统捕获到的情况下，其停留时间往往短于阅读该文件所需的时间。原告若想证明其同意只是敷衍了事，在这些数据中所掌握的事实依据，反而可能比雇主更为有力。 问题的关键并不在于自动化本身不当，也不在于提醒机制有何不妥，而在于：产生有利头条指标的那同一套仪器设备，同时也生成了可能被用来作出不利推断的详细行为记录，而组织很少去审视自己的确认系统在记录完成事件的同时，还记录了哪些内容。一份在四次自动升级提醒后获得的确认，针对一份十九页的文件，仅用十一秒便完成签署——这是该组织自己创造、并将被要求提交的记录。它究竟是加强还是削弱该组织的立场，取决于在实施阶段就已确定、事后无法挽回的种种事实。…
Read Now组织评估其雇佣合规状况时,通常会问自己的政策是否是最新的。这是一个错误的问题,或者至少是一个不充分的问题,因为它把合规当作文件的属性,而不是组织有朝一日可能需要证实的主张。真正相关的问题更窄、也更难回答。如果监管机构、原告律师或收购方要求组织证明某项具体义务在某个具体日期针对某个具体人员已经履行,该组织能否拿出相应的记录? 治理项目很少建模的一种不对称性 这两个问题之间的距离,正是当下大多数雇佣风险积累的地方。一个组织可以持有在每一细节上都实质合规的政策体系,却依然无法证明任何个人收到了必要的通知、确认了必要的披露,或获得了必要的机会。实质合规与可证明的合规是两种独立的能力,由不同的基础设施支撑,而政策审查只能产出其中一种。 这种不对称之所以变得更加重要,是因为雇佣监管的性质已经发生了转变。近年来新颁布的义务中,相当一部分属于程序性而非实质性规定。它并不告诉雇主应做出何种决定,而是告诉雇主必须向谁披露什么内容、在多长时间内披露,并由此暗示事后必须能够证明这一切。这类义务将证据要求作为其主要的合规界面。政策文件可以声明组织将会合规,却无法证明组织已经合规。 产生记录而非规则的义务 2025年陆续生效的薪酬透明度法规极为清晰地体现了这一模式,而且它们所体现的领域,恰恰是大多数组织将其归类为招聘信息格式问题、而非治理问题的领域。 伊利诺伊州对《同工同酬法》的修订自2025年1月1日起生效,适用于全美范围内雇员人数达到十五人及以上的雇主,要求招聘信息中包含薪酬或薪资范围,以及福利和其他报酬的一般说明。这部分属于政策与模板事务,可在一个修订周期内完成纠正。真正无法在一个修订周期内完成纠正的条款紧随其后:雇主在对外发布某职位招聘信息后的十四天内,必须向现有员工宣布、张贴、公布或以其他方式告知该晋升机会。该法规同样适用于晋升和调岗的招聘信息,而不仅限于对外招聘。 请思考这项义务实际上要求组织能够拿出什么。不是一份声明内部通知确实存在的政策,而是针对每一条招聘信息、带有日期戳的记录,证明某条对外招聘信息于某个具体日期发布,并且相应的内部公告在随后十四天内发出——针对每一条受规制的招聘信息,并在适用的诉讼时效期内予以保存。没有任何政策文件能够生成这份记录。没有任何年度政策审查能够察觉其缺失。一个拥有堪称典范的内部流动政策、却没有按招聘信息逐条留存审计轨迹的组织,已经满足了它向自己提出的问题,却未能满足外界将向它提出的问题。 这种模式在2025年这批法规中反复出现。明尼苏达州的要求与伊利诺伊州同日生效,适用门槛为三十名员工,并明确禁止开放式区间,这使得一种起草习惯直接变成了违规行为。新泽西州的法规自2025年6月1日起生效,适用门槛为十名员工。佛蒙特州紧随其后,于2025年7月1日生效,适用门槛为五名员工,是要求招聘信息披露的各州中门槛最低的。马萨诸塞州则于当年晚些时候分阶段实施。这些新规叠加在加利福尼亚、科罗拉多、纽约、华盛顿、马里兰等州此前已有的法规之上,而那些较早的法规也并未止步不前。 为何时效性衰减速度快于审查周期的发现速度 这一监管环境有三个特征,使得年度或两年一次的政策审查作为一种控制手段失效。 第一是门槛的异质性。仅2025年这批法规,适用门槛就分别设定为五人、十人、十五人和三十人,且计算方式各不相同,有的按州内员工人数计算,有的按全美员工人数计算。因此,一个组织的受规制状态取决于其员工构成而非总部所在地,并且它会在没有任何刻意行为的情况下发生变化。跨州增长,或哪怕仅仅是招募一名远程员工,都可能使雇主落入其在上次审查时未曾评估的监管体系之中。组织内部没有任何信号会提示这一变化已经发生。 第二是通过远程办公产生的管辖范围延伸。这些法规中有若干项适用于可能在该州境内履行的职位,而与雇主所在地无关。因此,一条远程招聘信息在该职位可被履行的每一个司法管辖区内都构成一条招聘信息,这意味着单条职位需求的合规界面,取决于组织所宣传的地理范围,而非其实际打算招聘的地点。组织很少记录这一范围决定,因此事后也无法重建它。 第三是这些义务附着于事件而非期间。政策是一种常设文件,可以按计划进行审查。而十四天内部通知义务则分别附着于每一条招聘信息。因此,合规并非组织在两次审查之间所处的某种状态,而是一系列离散的履行行为,每一次要么产生了记录,要么没有,其总体状况无法事后追溯确立。 其结果是,一个按十八个月周期审查其政策体系的组织,不仅仅是在内容上滞后。它衡量的是错误的对象。政策在整个周期内可能始终是正确的,而与此同时,证据记录却在不断出现审查根本无法察觉、且后续任何修正都无法弥补的缺口。 确认与版本控制作为证据工具 员工确认与文件版本控制通常被视为行政性的日常事务。更准确地说,它们是使组织的实质合规变得可证明的工具,理应以这一功能为出发点加以规定。 一份确认记录确立的是具体的事项:某位具名个人在某个记录在案的日期,被出示了某份文件的某个特定版本。这三个要素中的每一个都至关重要,而确认系统通常只捕获其中第一项和第三项。当组织无法确立员工所确认的是政策的哪个版本时,该确认所证明的仅仅是员工确认了“某物”,这在实质上远弱于该义务所设想的记录,而且在版本之间的相关条款存在差异的情况下,其效力甚至可能不如完全没有记录。因此,版本控制并非文件管理上的便利之举,而是使确认具有证据效力、而非仅具行政意义的关键要素。…
Read Now