Skip to content

Category

Deaf Led AI Goverance

Deaf-Led AI Governance centers control over how AI systems are designed, trained, and deployed, ensuring that sign language and Deaf experience are treated as foundational inputs rather than post-production fixes. It addresses how data is sourced, how models interpret visual language, and how platforms determine visibility and interaction. Without this layer, accessibility remains reactive, inconsistently applied, and dependent on systems that were not built to understand the language they process.

This approach shifts the focus from features to structure. It examines who defines standards, who controls training data, and who is accountable for outcomes when AI systems misinterpret or misrepresent Deaf communication. It also considers how governance decisions affect risk across compliance, product performance, and user trust.

By embedding Deaf leadership into system design and oversight, Deaf-Led AI Governance establishes conditions where language integrity, cultural context, and accuracy are preserved at scale. The result is not simply more accessible technology, but systems that perform more reliably because they are built on complete, representative inputs rather than partial adaptations.

All articles
Deaf Led AI Goverance August 23, 2026

The Coordinates of Trust

NOVARA CONSULTING GROUP  ·  NCG SPECIAL ARTICLE The Coordinates of Trust A governance reading of Google DeepMind’s SL2T…

Read Now
Deaf Led AI Goverance August 17, 2026

AI能够翻译。但谁来为风险翻译担责?

每一次AI部署都会把风险转嫁给某个人。在大多数情况下,风险落在最没有能力发现错误、也最没有权力提出质疑的人身上。 Heather M. Grizzle Novara Consulting Group 2026年8月17日 本月早些时候,我写过一篇关于Google DeepMind手语翻译研究的文章,并指出演示并不等同于证据。当时的反馈让我有所收获。几乎没有人反对这一区分的重要性。相反,许多人提出了一个显而易见的后续问题:如果演示还不够,那么谁应该决定一个系统何时才算足够优秀可以部署,当它出错时又该由谁来负责? 这个问题并非手语所独有。它是当前AI治理领域尚未解决的核心问题,而且它有一个值得直接使用的名字。姑且称之为问责缺口。 什么是AI问责缺口? AI问责缺口,是指一个系统能够做到什么,与当它把这件事做糟时,任何可识别的一方应当承担何种责任之间的距离。每当一个组织部署AI系统的速度,快过其建立起验证系统输出、听取受影响者意见、以及在输出有误时纠正或停止部署的机制的速度,这一缺口便会出现。 这一缺口首先并不是一个技术问题。模型的失败方式是可以预见的,工程师们通常也会坦率地承认这些失败模式。这个缺口是一个制度问题。各机构正在采购其无法评估输出的系统,将其部署到错误会带来后果的场景中,却没有保留任何切实可行的机制来查明系统是否正常运作。 能力、可靠性与问责是三种不同的证据 大多数采购讨论把这三者当作一回事。它们并不是一回事,而将它们区分开来,是机构采购方能做出的最有价值的一步。 能力证据表明系统能够在供应商所选定的条件下完成某项任务。演示、基准测试分数和试点录像都属于能力证据。它们回答的是“这是否可行”这个问题。 可靠性证据表明系统在采购方将实际遇到的各类人群、场景与条件下——包括供应商未曾选定的那些——的表现如何。分类细化的性能数据、独立测试以及实际部署中的错误率,都属于可靠性证据。它们回答的是“这出错的频率有多高,又是对谁而言”这个问题。…

Read Now
Deaf Led AI Goverance August 15, 2026

演示不等于证据:谷歌DeepMind的手语人工智能接下来必须证明什么

8月12日,谷歌DeepMind宣布推出SL2T,这是一款多语言手语转文本模型,并已开始通过Pixel 11上的Gboard和实时转录(Live Transcribe)功能将其投入消费产品中。首个版本将美国手语(ASL)翻译成英语,计划支持更多设备和手语种类,DeepMind表示,该底层模型的训练数据超过10万小时,涵盖50多种手语。无论从哪个角度衡量,这都标志着手语人工智能跨越了一条重要的界线:从研究实验室走向了普通人可以随身携带的产品。 这一跨越意义重大,但不应被误解为其他事物。技术上的突破与经过验证的部署是两回事,而当所涉及的技术处理的是一个历史上被边缘化的语言社群所使用的自然语言时,这一区别就显得尤为重要。SL2T现在提出的问题不是模型在演示中是否有效,而是其背后的证据能否承受这次部署将施加于其上的重压。 功不可没之处 这次发布不应被简单归入科技公司在没有听障人士参与的情况下为听障人士打造产品的老套故事中。据谷歌DeepMind介绍,听障人士全程参与了该项目,从概念构思、数据收集到用户研究和影响评估。该公司还成立了人工智能手语顾问委员会(AISLAC),其成员包括与全国聋人协会、罗切斯特理工学院国家聋人技术学院、聋人专业艺术网络以及世界聋人联合会有关联的代表。随发布同时,DeepMind与AISLAC联合发布了一份影响评估报告。 该报告做了一件在手语人工智能领域仍属罕见的事情:明确指出该系统不应在哪些场合使用。SL2T 1.0被明确描述为一种低风险的辅助输入工具。它未曾被设计或验证用于医疗保健、法律诉讼、教育、就业决策、政府福利认定或其他高风险场景,报告明确指出,该技术不应替代合格的手语翻译员,也不应成为机构规避无障碍义务的手段。这就是治理,理应得到认可。但这也仅仅是治理的开始。 基准测试是证据,但不是完整的证据基础 DeepMind报告称其表现强劲。在FLEURS-ASL测试中,SL2T据称取得了70分的零样本BLEURT分数,高于此前任何已报告的结果,此外还在PRESTO-ASL(一种单手版FLEURS-ASL变体)和FSboard指拼数据上进行了进一步评估。该公司还与听障谷歌员工进行了发布前测试,与听障参与者开展了外部日记研究,并由北美地区的AISLAC成员进行了实际操作评估。这些都是有意义的证据形式,都不应被轻视。 但正是在这里,公众对人工智能的讨论往往变得不够精确,因为已证实的性能表现并不等同于全面的验证。一个模型可以在选定的基准测试中表现出色,同时在不同人群、环境、语言变体、手语风格、设备和使用场景中仍存在严重缺陷。DeepMind自己的报告也承认了这一点。该模型在处理语法复杂性、非手部标记、地区性手语、多义手语、指拼、专有名词、非常规摄像头位置、弱光环境、俚语以及较长的对话语境时都可能遇到困难。它还可能生成错误的“幽灵文本”,或在打手语者尚未完成表达之前就仓促给出预测性猜测。 这些都不是无关紧要的边缘情况。面部表情、头部动作、空间结构、分类词以及地区差异和话语语境,并非手语的装饰性元素,而是手语本身。一个系统若能很好地处理引用形式的词汇,却在面部和打手语空间所承载的语法方面步履蹒跚,那它并未真正解决手语翻译问题;它只解决了其中一部分,而未解决的那部分,会不成比例地落在不同的打手语群体身上。 接下来的问题是数据细分 正是这种不均衡,使得下一阶段的证据工作变得至关重要。DeepMind承认,目前尚未针对年龄、性别、种族、地区、社会方言以及黑人美国手语(Black ASL)等变量对基准测试表现进行充分的数据细分。报告还指出,针对患有运动障碍或动作模式非典型的打手语者所开展的正式评估仍然有限,且该模型既未针对18岁以下儿童进行训练,也未对其进行正式评估。 一个汇总性能数字无法告诉我们该系统对黑人美国手语使用者的服务是否与对其他人群同样出色,无法说明它如何处理高度地区化的手语,也无法说明准确率在不同年龄群体间如何变化。它无法告诉我们该模型对肢体差异、震颤、脑瘫、关节炎或其他影响动作的病症患者表现如何,也无法说明准确率是否会随摄像角度、光线、肤色对比度、打手语速度、打手语空间或设备而变化。它无法区分那些仅仅改变措辞的错误与那些改变含义的错误。它更无法回答隐藏在这一切之下的问题:谁来决定何种程度的错误是可以接受的,以及对谁而言可以接受。最后这个问题,无论工程团队多么能干,都无法由其自行裁定。 参与不等于独立验证 还有一点值得细究。AISLAC是一种有意义的治理机制;听障组织的参与、用户研究以及联合影响评估都很重要。但顾问性参与与独立技术评估发挥的是不同的功能。目前公开的证据由开发方自行进行的评估、在项目自身治理架构内组织的用户和顾问所参与的测试,以及由谷歌DeepMind与AISLAC参与者共同撰写的报告构成。这是一个真实的证据基础,但它并非独立复现。…

Read Now
Deaf Led AI Goverance August 4, 2026

本应存在却仍未出现的证据

第五参数 Novara Consulting Group · Novara Press · 无障碍人工智能治理与证据期刊 《第五参数》第1卷·第13期 作者 Heather M. Grizzle ORCID 0009-0005-2605-8256 证据日期 截至2026年8月…

Read Now
Deaf Led AI Goverance July 27, 2026

同意缺口:手语人工智能翻译系统中未披露的数据收集

执行摘要 无论是为识别、翻译还是基于虚拟人形象生成而构建的手语人工智能,在结构上都依赖于对Deaf和重听用户进行视频或生物特征采集。这种依赖性造成了一个数据治理问题,而这一问题所受到的机构审查远少于本系列此前几期所记录的语言和理解层面的失败。在NCG依据SLAT(Sign Language Access Trust)框架审查过的供应商范围内,关于收集了什么数据、数据保留多久、是否被用于训练未来模型、以及是否与第三方共享等方面的披露,情况充其量是参差不齐,最坏情况则是完全缺失。这并不是在声称任何特定供应商存在恶意行为。现有公开证据尚不足以将意图归咎于任何具名公司,本期内容也并不作此归咎。这是在指出:市场尚未形成与所涉数据敏感性相匹配的披露标准,而这一缺口是一种治理失败,与任何单个供应商的行为无关。下文提出的政策立场认为,同意与披露的充分性应被视为采购环节的准入门槛,而非在功能评估之后才考虑的次要事项。 政策问题 手语采集本质上就是生物特征采集。手语使用者手部动作、面部语法及身体姿态的视频,并非类似于提交给文本系统的一句打字文本那样的附带性输入。它具有独一无二的可识别性,其定义本身就编码了残障状态信息,而在许多司法管辖区,它符合受到更高保护的生物特征数据或特殊类别数据的法定定义。例如,伊利诺伊州的《生物特征信息隐私法》(BIPA)要求在采集生物特征标识符之前必须提供书面通知并获得同意,并且不以证明实际损害为前提即可追究责任。欧盟《通用数据保护条例》(GDPR)将揭示与残障相关的信息以及用于身份识别的某些生物特征数据,归类为第9条下的特殊类别数据,要求在普通同意之外提供明确的法律依据。加利福尼亚州的《消费者隐私法》(CCPA)与《隐私权法》(CPRA)也对生物特征信息施加了各自的披露与选择退出义务。 尽管存在上述监管环境,面向消费者的手语人工智能产品却往往依赖于并非针对Deaf用户或生物特征采集而拟定的通用服务条款。NCG所做的供应商快照调查中反复出现三类缺陷:其一,没有单独或显著的披露说明视频输入构成受特定法定保护的生物特征数据;其二,没有明确说明所采集的视频或由此衍生的特征是否被保留用于模型训练,若是,保留多久、享有何种删除权利;其三,没有以无障碍格式进行披露,也就是说,同意条款本身往往未被翻译成ASL,或未以数据被收集人群可使用的格式呈现。最后这一点并非细枝末节。一种要求以书面第二语言具备读写能力才能理解自身生物特征数据将被如何处理的披露机制,对于英语读写能力参差不齐、且以ASL作为主要理解语言的人群而言,并不能真正构成知情同意。 机构分析 造成这一缺口的机构性动因是结构性的,而非阴谋性的。手语人工智能仍是一个年轻的产品类别,大多数供应商是小型公司,使用的是整个软件行业通用的隐私政策模板,即便有所调整也十分有限。与此同时,机构层面的采购流程历来是依据功能性标准来评估这些产品:虚拟人形象呈现是否清晰可辨,识别系统是否达到可接受的准确度,供应商在开发过程中是否有Deaf员工参与。数据治理则被当作法律或IT合规问题,在实质性采购决策之后才加以处理,如果有处理的话。这种先后顺序本身就是真正的治理失败。等到数据治理方面的缺陷显现出来——无论是通过数据泄露、监管调查,还是来自数据被采集的Deaf社群的公开批评——机构关系与财务承诺早已确立,此时要求补救的筹码相应也就更弱。 此外还存在一个与同意问题相邻、但在分析上有所区别的训练数据来源问题。有若干手语人工智能系统部分建立在取自公开发布内容的视频语料库之上,其中包括Deaf ASL使用者及教育工作者在社交平台上创作的内容。这种使用是否落在平台自身服务条款的范围之内,是否构成版权法意义上的合理使用,以及那些手语出现在相关素材中的个人是否曾被切实告知其内容将被用于训练商业人工智能系统,这些都是尚未解决的问题——NCG尚未就任何特定供应商对此进行独立核实,本文在此也不将其断言为既定事实。就治理而言,关键在于:评估这些系统的采购官员几乎无从了解训练数据的来源情况,而当前行业内的披露规范也并未要求供应商提供此类信息。 治理影响 一家采购手语人工智能的机构,并不仅仅是翻译工具的购买者。当该系统处理学生、患者、员工或公众的实时视频时,该机构在大多数适用的隐私框架下同时也是数据控制者或处理者,并且无论其供应商的数据处理暴露风险在购买时是否已被披露,该机构都会承接这种暴露风险。一家在部署前未对供应商的数据收集、保留及训练使用做法进行核实的机构,无法向其自身的利益相关方、监管机构,或数据被采集的Deaf个人声称自己已履行了数据保护义务。无论供应商实际行为如何,这一点都成立,因为缺乏经核实的披露本身就是治理缺陷,与任何特定供应商是否最终被证明在负责任地处理数据无关。 NCG政策立场 NCG的立场是:数据治理与隐私披露的充分性应在手语人工智能采购中发挥准入门槛的作用,应在功能表现评估之前而非之后加以评估。若供应商无法就所收集的生物特征数据种类、保留期限、是否以及如何用于模型训练、以及存在何种删除权利,提供清晰、可通过ASL获取、符合司法管辖区要求的披露,则应被视为不具备机构部署资格,无论其在评估其他方面的语言或技术表现如何。这一立场已经在SLAT框架的“数据治理与隐私”以及“透明度与披露”两个领域中得到落实,本期内容主张,鉴于机构所面临的法定风险暴露,以及不可及的同意语言对受影响人群造成的理解障碍,这些领域相对于该框架当前的权重设定,理应获得更高的权重。 实施考量 评估手语人工智能的采购官员应要求供应商作为响应条件,提供涵盖上述四项要素的书面数据治理披露文件,要求该披露除书面英文版本外还应提供ASL视频格式版本,并将供应商拒绝或无法提供此类披露视为不利认定,与系统的功能表现无关。已有部署的机构应开展回溯性审查,而非等到合同续签时才处理,因为治理风险暴露是从部署之日起累积的,而非从发现问题之日起累积。若无法核实供应商训练数据的来源,机构应要求就数据来源的合法性提供合同保证,而不应将无法获得答复视为中性的未知状态。…

Read Now
Deaf Led AI Goverance July 22, 2026

采购剧场问题:程序性保障、证据性保障与无障碍AI的治理

执行摘要 Institutions acquiring artificial intelligence systems for communication access are increasingly confident that they have managed risk, and…

Read Now
Deaf Led AI Goverance July 15, 2026

谁来审计审计记录?AI生成的合规声明与采购难题

The history of public procurement can be read, in part, as the history of documentary trust. Governments rarely…

Read Now
Deaf Led AI Goverance July 14, 2026

谁来审计审计记录?AI生成的合规声明与采购难题

The history of public procurement can be read, in part, as the history of documentary trust. Governments rarely…

Read Now
Deaf Led AI Goverance July 12, 2026

NCG Insight: From Disney’s ASL Fragmentation to the SLxAI Governance Gap

Disney’s limited ASL rollout is not an isolated execution choice. It is a clean analog for what is…

Read Now
Deaf Led AI Goverance July 12, 2026

THE FIFTH PARAMETER: ISSUE 009: Beyond Procurement: Why Sign Language Artificial Intelligence Has Become a Public Policy Agenda

Artificial intelligence has become an increasingly significant component of contemporary public administration, reshaping how governments allocate resources, procure…

Read Now
1 2 3
Consult