新兴人工智能保障市场的度量范围，以及它仍留给买方自行判断的部分
Heather M. Grizzle Novara Consulting Group 2026年9月
人工智能保障正在成为一个产业。这句话在两年前还只是推测，如今却已是如实陈述。英国科学、创新与技术部统计显示，截至2024年，国内保障市场已有逾五百家企业，总增加值约为十亿英镑，并预测到2035年市场规模将接近一百九十亿英镑；该部于2025年9月发布了《可信第三方人工智能保障路线图》，阐明了政府打算如何帮助该市场走向成熟。2026年6月，该路线图催生了一个机构：一个由BCS担任主席、由techUK召集其行业顾问组的联盟，首年任务是起草一份针对保障从业者的自愿道德准则、构建一套技能与能力框架，并厘清开发者必须向审计其系统的人员披露哪些信息。与此同时，认证途径也在不断整合。ISO/IEC 42001为人工智能提供了一套管理体系标准，ISO/IEC 42006:2025则规定了对照该标准开展审计的机构应满足的要求，包括英国的UKAS和美国的ANAB在内的各国认可机构，已在2025年至2026年间陆续向认证机构授予认可资格。
这正是一个新兴职业诞生之初该有的样貌：有标准、有认可机制、有初具雏形的能力框架、有正在形成的道德准则，也有可以立得住脚的公众信任主张。那些一直在等待一个公认答案——如何判断一个人工智能系统是否值得信赖——的机构，现在终于有了可以指向的东西。
它们应当仔细审视这东西究竟指向了什么。
管理体系并非系统本身
ISO/IEC 42001在结构上与ISO/IEC 27001相似。它是一套管理体系标准，这意味着它所认证的是某一组织已经建立、记录并维持了一套管理人工智能的流程，且该流程须接受内部审计和持续改进。它并不认证该管理体系内所建造的任何特定系统所产出的结果是否合格。这并非该标准的缺陷，而是管理体系标准本身的性质所在。混淆之处出现在下游的采购环节：一纸证书被读解为对产品的一种声明，而不是对生产者的一种声明。
这一区分在输出结果正是采购全部意义所在之处最为关键。一家销售自动手语翻译产品的供应商，可以持有一份经正规认可、证明其人工智能管理体系运作良好的证书，同时交付的却是一套流利的聋人用户根本无法理解的输出内容。证书上的内容没有一处是虚假的。但其中也没有一处回答了采购机构真正需要答案的问题，即站在柜台前、考场里，或是纪律听证会面前的那个人，能否接收到他们能够理解的信息。
规模数据印证了这一点，而非与之相悖。行业汇编数据显示，截至2026年年中，全球通过ISO/IEC 42001认证的组织约有三百五十家。相比之下，ISO 9001的持证组织超过一百万家。该标准尚属年轻，采用处于早期阶段，这本不足为奇。真正值得注意的是，在采购谈判中，少数几份证书已经被要求承担何等沉重的解释分量，而买方又多么少地去追问这份证书究竟证明了什么。
| 问题 | ISO/IEC 42001证书能否回答 | 采购机构的实际需求 |
|---|---|---|
| 供应商是否已就人工智能治理建立了文档化流程？ | 是的 | 有用但不充分 |
| 这些流程是否经过内部审计并持续改进？ | 是的 | 有用但不充分 |
| 该版本的系统是否产出了合格的结果？ | 否 | 是的 |
| 依赖该输出结果的人能否理解它？ | 否 | 是的 |
延期推迟了截止日期，却没有化解难题
欧盟的时间表如今已发生转变，这将在未来十八个月内持续塑造各机构的行为方式。关于人工智能的《数字综合法案》已作为（欧盟）2026/1744号条例获得通过，于2026年7月24日公布，并自7月27日起生效。该条例将附件三中独立系统的高风险义务延后至2027年12月2日，将附件一所列受监管产品中嵌入的人工智能的相关义务延后至2028年8月2日。第50条规定的透明度义务并未延期，自2026年8月2日起适用，但对于在此之前已经上市的生成式系统，设有一段延至2026年12月2日的短暂宽限期。
延期背后的原因才是实质所在。原定时间表的前提，是假定届时已存在一个运作正常的生态体系：欧洲标准化委员会与欧洲电工标准化委员会出台的统一技术标准、获指定并配备充足资源的各国市场监督机构，以及能够履行合格评定职责的公告机构。然而到2025年末，这一生态体系显然尚未成形。立法者选择设定固定的新日期，而非与标准可用性挂钩的弹性机制，理由是可预见性比浮动触发条件更有利于合规。
坦率而言，这等于承认，为高风险系统产出证据所需的机制尚未建成。监管时钟之所以被拨后，是因为举证基础设施的建设滞后了。这与证据已经存在、只是截止日期不太方便的情形，是截然不同的两回事。
《数字综合法案》后欧盟人工智能法案的义务安排
- 2026年7月24日（欧盟）2026/1744号条例公布
- 2026年7月27日《数字综合法案》生效
- 2026年8月2日第50条透明度义务开始适用
- 2026年12月2日已上市生成式系统的宽限期结束
- 2027年12月2日高风险义务适用于附件三所列独立系统
- 2028年8月2日高风险义务适用于嵌入附件一所列产品的人工智能
然而，采购并不会延期。各机构是按预算周期、拨款时间表，以及本财年必须填补的服务缺口所设定的日程来进行采购的。从现在到2027年12月之间，采购无障碍人工智能系统的公共机构将会收到三样东西：如果供应商持有的话，一份管理体系证书；一份自我合规声明；以及一份无障碍合规报告。第一样说的是生产者本身。第二样则是自说自话，这正是问题所在。第三样，按照市场已经形成的惯常格式，是一份由供应商自行撰写的文件，将产品与一套并未考虑到生成式手语因素而制定的技术标准清单进行比对。这三样东西，没有一样能证明输出结果确实有效。
| 文档 | 撰写方 | 针对对象 | 能否证明输出结果有效 |
|---|---|---|---|
| 管理体系证书（ISO/IEC 42001） | 经认可的认证机构 | 制作方的治理流程 | 否 |
| 合规自我声明 | 供应商 | 供应商自身的声明 | 否 |
| 无障碍合规报告 | 供应商 | 并非为生成式手语制定的技术标准 | 否 |
横向市场看不到什么
路线图自身的诊断在此颇具启发性。它指出了影响可信第三方保障市场的四项制约因素：保障活动本身的质量，包括这样一个观察——现有相当一部分人工智能治理工具所依赖的指标可能具有实质误导性；兼具技术、法律、伦理及行业专业能力的从业者稀缺；保障提供方难以获取其所需的训练数据、模型细节和内部文档；以及协作开发新保障方法的激励机制薄弱。
这四项制约因素中，有三项在领域层面影响最为剧烈。横向保障框架可以告诉一家机构，某供应商是否维护了风险登记册。但它无法告诉该机构，该系统是否再现了手语中承载否定、疑问构式、话题化和条件标记的非手部语法特征，因为横向保障既没有针对该问题的词汇体系，也没有分配称职的评估者。它无法评估训练语料库的建立是否经过语料中签署者的同意、是否在允许商业部署的许可下完成、这些签署者的流利程度是否经过核实。它无法区分精心策划的演示与实际部署。它也无法判断供应商所引用、作为手语质量证明的自动化指标是否衡量了任何相关内容——而对于生成式手语而言，目前根本不存在经过验证的自动化质量指标，这使得作为可理解性证据提供的翻译类近似分数不是薄弱证据，而是一种范畴错误。
目前正在构建的能力框架或许最终能够触及部分此类问题。但它尚未做到，而且路线图自身的时间表也未给从业者认证设定日期。在此期间，这一空白恰恰出现在后果最严重的地方。被部署到医疗接诊、紧急通知、公交播报和就业流程中的系统，正是失败后果最难以挽回的系统，也正是通用保障市场最没有能力审查的系统。
| 买方需要得到解答的问题 | 横向保障 | 领域层面评估 |
|---|---|---|
| 供应商是否维护了有文档记录的人工智能管理体系？ | 已审查 | 已审查 |
| 输出是否承载非手部语法（否定；疑问；话题化；条件句）？ | 无相关词汇体系或称职评估者 | 由流利的聋人评审员审查 |
| 训练语料库是否获得商业用途许可，并从流利程度经过核实的签署者处取得同意收集？ | 未审查 | 已审查 |
| 证据来自实际部署还是精心策划的演示？ | 无法区分 | 已审查 |
| 所引用的质量指标是否衡量了可理解性？ | 无法判断 | 已审查；目前不存在针对生成式手语的经验证自动化指标 |
Novara Consulting Group 所持的立场
保障需要一个对象。问题不在于某供应商在抽象意义上是否治理良好，而在于某一特定版本的特定系统，是否能产生适合特定用途的输出，并由必须依赖该输出的人来加以评判。其余一切都只是替代指标，而替代指标会悄然累积，直到某机构误以为自己买到了证据，实则买到的只是一堆文书。
替代指标会悄然累积，直到某机构误以为自己买到了证据，实则买到的只是一堆文书。
Heather M. Grizzle
手语无障碍信任指数（Sign Language Access Trust Index）正是建立在这一前提之上。它是一套基于标准的评估工具，围绕五大信任领域和四十项计分指标构建，对证据充分性与系统信任度分别采用不同的量表，以避免一个文档完备的弱系统与一个文档匮乏的未知系统被混为同一评级。其部署风险分级依附于具体部署而非系统本身，理由是同一翻译引擎在博物馆说明牌场景与出院医嘱场景中所承载的风险截然不同。该评估标准已公开发布并可供引用，以知识共享署名许可证的形式存入并获得数字对象标识符，使买方、供应商或评论者都能阅读该方法并对其提出质疑。
| 评级 | 依附对象 | 所解答的问题 |
|---|---|---|
| 证据充分性 | 系统 | 是否有足够的证据可以对该系统作出判断？ |
| 系统信任度 | 系统 | 这些证据能否表明该输出适合使用? |
| 部署风险 | 部署情况 | 在这种场合下,输出失误会造成多大的伤害(博物馆说明文字不同于出院须知)? |
有三项承诺使该工具有别于一般合规性测试。未经一名聋人评审员同意,不得发布评估结论,其依据在于:承受系统不足所带来后果的群体,才具备判断系统是否充分的能力,而在设计决策做出之后才提供的咨询并不构成治理。该机构在任何手语人工智能供应商中均无财务利益,不接受来自受评方的任何或有报酬、推荐费或股权支付,也不会因评估结论不利而调整收费——这直接应对了此前每一个建立保障市场的行业都曾深陷其中的利益冲突问题。该方法也明确说明了自身的局限性:一份公开证据审查报告只说明找到了什么、没找到什么,记录了所检索过的信息来源,无论是否找到相关材料,并指出哪些指标本来就不太可能有公开证据可查,以便读者能够区分这究竟是供应商的失职,还是方法本身的局限。
关于当前处境,有两点应当明确说明,而非含糊暗示。Novara Consulting Group 并非经认可的认证机构,该指数也不是一项认证方案;目前尚不存在针对手语人工智能领域专项评估的认可方案,若暗示情况并非如此,则属于失实陈述。该指数所产出的,是一份有据可查、可复现的证据结论,采购机构可以据此作出决策、在招标记录中加以说明、并提交给法律顾问。其次,将该工具应用于迄今已评估的各家供应商,得出的结论是一致的:没有一家达到最高信任等级,而原因是普遍性的,并非个别偶然。市场上普遍缺乏由无商业利益关系方开展的输出独立验证。这是一项关于整个领域的结论,而非针对其中某一家公司。
买方在2027年12月之前应当提出的要求
延期带来了一个窗口期,而窗口期既可能被善用,也可能被浪费。若被浪费,便会变成十八个月未经审视的供应商声明式采购,直到系统已经承担实际运行责任之后,合规清算才姗姗来迟。若被善用,则正是机构建立起日后义务将默认其已具备的证据习惯的时期。
其实际要求可以精简到足以写进招标文件中。询问该证书究竟认证的是什么,并要求供应商以书面形式说明,该证书所涵盖的究竟是管理体系,还是所销售系统本身的性能表现。要求提供在拟部署环境中生成的证据,而非演示环境中的证据,并明确注明运行条件。要求披露训练语料的来源、持有该语料所依据的许可,以及语料中被记录人员同意该用途所依据的基础。要求提供由该语言的流利使用者给出的理解度证据,并附带其方法说明,若以自动化质量评分取而代之,则应将其视为一个尚未解答的问题,而非答案。要求供应商指明在输出发生失误时负责问责的职位。在部署涉及法律效力或不可逆后果的情形下,要求必须有一名合格的人类始终处于流程之中,因为就现有证据而言,这一类别中没有任何系统已准备好充当最后一道防线。
- 供应商以书面形式说明其证书所涵盖的是管理体系,还是所销售系统本身的性能表现
- 证据是在明确注明运行条件的拟部署环境中生成的,而非在演示环境中生成
- 披露训练语料来源、许可,以及手语者同意的依据
- 理解度证据来自该语言的流利使用者,并附带方法说明;以自动化评分代替则视为尚未解答的问题
- 供应商指明在输出发生失误时负责问责的职位
- 在输出涉及法律效力或不可逆后果之处,须有一名合格的人类始终处于流程之中
这一切都无需等待一项统一标准、一个被通知机构,或一项目前尚不存在的专业认证方案。它只需要机构下定决心,让保障真正围绕其所购买的实际事物展开。
参考文献
英国科学、创新与技术部,可信第三方人工智能保障路线图(2025年9月)。
英国计算机协会(BCS)与 techUK,人工智能保障联盟成立材料(2026年6月)。
(欧盟)2026/1744号条例(《人工智能数字综合法案》),于2026年7月24日发布,2026年7月27日生效,修订(欧盟)2024/1689号条例。
ISO/IEC 42001:2023,信息技术、人工智能、管理体系。
ISO/IEC 42006:2025,人工智能管理体系审核与认证机构要求。
Grizzle, H. M.,SLAT 指数评估标准,第2.0版,Novara Press,2026年7月24日。DOI 10.5281/zenodo.21537271。