Skip to content
跳到正文

人工智能治理与数字风险

当工作被委托给机器时,治理就成为了工作本身

Novara Consulting Group 在“AI治理与数字风险”分类下的横幅:绿色方框中的分类名称,背景为薄雾笼罩的松林。
下载 PDF
音频洞察
也可在以下平台收听 Spotify

围绕AI智能体的讨论正在迅速发展,而这种讨论的框架在操作层面上是不完整的。

主流叙事聚焦于速度、规模和效率。各组织在追问:能节省多少工时,能增强多少岗位的能力,工作流程能被多快实现自动化。这种思路将AI智能体视为一层生产力工具,假定它们只是叠加在现有系统之上,单纯加速已经存在的流程。但在实践中,具备自主行为能力的AI所带来的影响要深远得多。它改变了决策发生的位置、行动被触发的方式,以及组织内部由谁——或由什么——掌握运营权力。

AI智能体并非被动工具。它能够解读输入信息、应用逻辑、生成输出,并在许多情况下发起跨系统的下游操作。它可以分诊员工请求、起草对客户的回复、总结合规文档、筛选申请人、升级问题,并影响信息在部门之间的流动方式。一旦这些能力与业务系统连接起来,该智能体就不再只是辅助工作,而是在参与工作。这一区别至关重要,因为参与意味着暴露,暴露需要控制,控制需要治理。

一旦这些能力与业务系统连接起来,该智能体就不再只是辅助工作,而是在参与工作。

大多数组织尚未跟上这一转变。它们正在将具备自主行为能力的工具部署于为人类决策者设计的环境中。这些环境假定问责可以追溯到具体的人,假定意图可以被评估,假定错误可以通过人类推理进行调查。当AI智能体在缺乏相应治理结构的情况下被引入时,这些假设便开始瓦解。决策受到不承担传统意义上问责的系统的影响。行动基于概率性输出而采取。记录生成的速度和数量超过了审查的能力。组织依然照常运转,但围绕责任的清晰度开始被侵蚀。

这正是风险开始悄然积累之处。它不会立即以失败的形式呈现,而是以模糊性的形式呈现。一封没有人明确批准的回复被发出。一项没有人完全验证的建议被采纳。一个工作流按照系统逻辑执行,却并不符合组织的本意。当这些事件孤立发生时,看起来似乎是可控的。但当它们在人力资源、合规、财务和客户运营等多个职能部门中同时出现时,便开始形成模式。正是这些模式,构成了监管风险、声誉风险和内部失灵开始显现的根源。

根本问题并不在于AI智能体本身具有风险,而在于它们被部署进了治理的空白地带。各组织在明确“智能体被允许做什么”之前,就先在追问“智能体能够做什么”。它们在建立边界之前就开放了访问权限。它们在明确监督机制之前就连接了系统。这样做,实际上等于在没有记录授权条款的情况下下放了权力。

以治理为先的方法则颠倒了这一顺序。它首先明确智能体在组织中的角色:它支持哪些职能,能够访问哪些数据,可以发起哪些行动,哪些决策需要人工验证,以及在输出结果不确定或错误时存在哪些升级路径。这些并非理论层面的考量,而是操作层面的必要条件。缺少这些条件,组织将无法可靠地解释工作是如何完成的,也无法说明谁应对结果负责。

对于中小型组织而言,其面临的利害关系往往比表面看起来更为严峻。这类组织通常资源有限,采用AI是为了扩展产能、减少人工工作量,并在与大型企业的竞争中保持竞争力。这使得具备自主行为能力的AI极具吸引力,同时也带来了快速部署的强烈动机。治理常被视为可以留待日后再处理的事项,等系统投入使用之后再说。但事实上,治理才是决定该系统能否持续运行的关键。缺乏治理,效率上的收益会被不稳定性所抵消:在一个环节节省的时间,会在另一个环节因处理错误、不一致性和下游影响而损失殆尽。

此外,还存在一个尚未得到充分重视的结构性劳动力影响。随着AI智能体承担起入门级和行政性工作,它们改变了组织长期以来所依赖的人才发展路径。初级岗位历来兼具劳动支持和培训基地的双重功能,使个人得以积累背景知识、培养判断力,并逐步晋升至更复杂的职责岗位。当这些岗位被削减或重新配置时,未来专业人才的储备通道就会变得不稳定。组织可能在获得短期效率提升的同时,削弱了自身的长期能力。这并非一种假设性的结果,而是在没有重新设计技能培养方式的情况下移除基础性工作所带来的可预见后果。

在这一背景下,治理不仅限于风险缓释,它还成为维系组织连续性的机制。它确保在任务实现自动化的同时,知识仍能被捕捉、审查和传承。它界定了人类监督应如何演变,而非消失。它围绕决策的形成方式建立起结构,即便这些决策是受系统而非个人影响而做出的。

对具备自主行为能力的AI采取成熟的方法,需要认识到其实施并非一个技术性的里程碑,而是一次运营层面的转型。它要求技术、政策与领导层之间实现协调一致,要求对流程进行清晰的文档记录,建立明确的问责结构,并对系统在真实条件下的表现进行持续评估。它要求组织将AI智能体视为其运营模式中的参与者,而不是在幕后默默运行的隐形工具。

在这一环境中取得成功的组织,不会是那些部署智能体数量最多、速度最快的组织。它们将是那些清楚了解权力在其系统内所在之处、并确保以对待人类角色同等严格标准对其进行治理的组织。它们将清楚决策是如何做出的,行动是如何触发的,以及结果是如何被审查的。它们能够毫不含糊地向监管机构、员工乃至自身解释其系统的运作方式。

AI智能体的发展轨迹已经十分清晰,它们融入日常运营的程度将持续扩大。问题的关键不在于组织是否会使用它们,而在于组织是否会建立起支撑其运行所需的治理结构。

引用本文
Grizzle, H. M. (2026, April 30). When Work Is Delegated to Machines, Governance Becomes the Work. Novara Consulting Group. https://www.novaracg.com/hmn/2026/04/30/when-work-is-delegated-to-machines-governance-becomes-the-work/

订阅 Novara Consulting Group

新文章直接发送至您的收件箱。

Consult