Skip to content

Category

Deaf Led AI Governance

Deaf-Led AI Governance centers control over how AI systems are designed, trained, and deployed, ensuring that sign language and Deaf experience are treated as foundational inputs rather than post-production fixes. It addresses how data is sourced, how models interpret visual language, and how platforms determine visibility and interaction. Without this layer, accessibility remains reactive, inconsistently applied, and dependent on systems that were not built to understand the language they process.

This approach shifts the focus from features to structure. It examines who defines standards, who controls training data, and who is accountable for outcomes when AI systems misinterpret or misrepresent Deaf communication. It also considers how governance decisions affect risk across compliance, product performance, and user trust.

By embedding Deaf leadership into system design and oversight, Deaf-Led AI Governance establishes conditions where language integrity, cultural context, and accuracy are preserved at scale. The result is not simply more accessible technology, but systems that perform more reliably because they are built on complete, representative inputs rather than partial adaptations.

All articles
Deaf Led AI Governance July 15, 2026

谁来审计审计记录?AI生成的合规声明与采购难题

公共采购的历史,在某种程度上可以被解读为文件信任的历史。政府很少在审查源代码之后才采购软件。大学不会独立检查学习管理系统所声称的每一项安全控制措施,医院也不会例行重新进行医疗软件供应商已完成的无障碍测试。采购依赖的是介于采购方与产品本身之间的文件陈述。认证、技术报告、审计结果、符合性评估以及无障碍符合性报告之所以存在,正是因为直接验证成本高昂、专业性强,且往往不切实际。因此,机构购买的不仅是产品,还有为这些产品提供支持的证据。 这种安排一直都需要判断力。VPAT从来都不是为了证明无障碍性确实存在而设计的。它被设计为供应商依据公认无障碍标准进行评估的结构化呈现。采购官员即便高度依赖该文件本身,也理解这一区别。该报告之所以具有分量,并非因为它拥有独立的法律权威,而是因为编制该报告通常需要有人投入大量时间对产品进行评估。制作该文件所投入的努力,尽管并不完美,却成为了制作背后证据所投入努力的一种代替指标。 生成式人工智能在不改变文件外观的情况下,破坏了这种关系。 一个机构现在能够在极短的时间内,制作出技术上流畅、内部逻辑一致、格式专业且具有说服力的无障碍文件。标准被正确引用,技术术语被恰当使用,其结构与采购官员在过去二十年间审阅过的数千份符合性报告如出一辙。然而,这些特征都无法揭示该文件究竟反映的是广泛的无障碍测试、有限的内部审查,还是根本没有任何有意义的评估。写作的精巧程度,正日益与证据的可靠程度相脱节。 这并非反对人工智能的论点。文件编制历来就是一种翻译行为。工程师将软件行为转化为技术性发现,无障碍专家将这些发现转化为采购语言,采购官员再将技术语言转化为采购决策。生成式人工智能只是加速了这一翻译过程中的某一环节。困难出现在翻译被误认为是验证之时。一份写得很好的报告可能准确描述了一项严谨的评估,但也可能描述的是从未经独立审查的假设。文件本身并不能提供可靠的方式来区分这两种可能性。 其后果比乍看之下更为深远。采购文件中现在包含的文件,往往在外观上大体相似,尽管它们所代表的证据基础可能截然不同。一份无障碍符合性报告可能总结了由经验丰富的无障碍专业人员采用自动化与人工相结合的方法所进行的独立测试;另一份可能只代表从未经过外部审查的内部工程评估;第三份可能准确记录了广泛的测试,同时借助生成式人工智能来提升条理与可读性;第四份则可能几乎完全根据产品规格说明和营销材料生成,而底层软件从未真正依据无障碍标准接受评估。一旦被简化为一份格式专业的报告,这些文件尽管基础迥异,却在采购记录中占据着同样的证据空间。 因此,传统的采购问题已不如从前那样有用。多年来,无障碍评估的核心在于产品是否符合技术标准。然而,越来越重要的问题在于该结论所依据的基础是什么。当制作有说服力文件的成本已大幅下降时,符合性声明的存在本身已不再具有多大的说明意义。采购官员反而需要了解该声明本身的来源信息:由谁进行了评估、采用了哪些方法、自动扫描是否辅以人工测试、辅助技术用户是否参与其中、结论是否可被独立复现,以及支持性证据是否仍可供外部审查。这些问题关乎证据而非无障碍本身,但它们却日益决定着无障碍声明是否值得机构信赖。 近期的采购指南已开始反映这一更广泛的转变。公共部门指南不再将文件提交视为尽职调查的终点,而是日益强调实证性、可复现性、方法透明度以及独立验证。因此,一份无障碍符合性报告的意义,与其说在于其存在本身,不如说在于它能否引导采购官员找到经得起有意义审查的证据。该报告之所以有价值,并非因为它宣称合规,而是因为它解释了为何这一宣称应当被采信。 其影响远远超出无障碍采购的范畴。人工智能已大幅降低了在几乎所有治理领域中制作有说服力的机构文件的成本。安全评估、风险分析、治理声明、实施计划、隐私文件以及采购叙述,都可以以日益流畅的方式、以日益减少的努力起草完成。然而,这些文件所依赖的实际工作,却依旧难以获得同等程度的加速。独立测试仍需合格的评估人员,验证仍依赖可复现的方法论,证据依然源自观察而非撰写。由此产生的失衡因而是结构性的,而非技术性的。陈述的生产速度,已远远超过了这些陈述所描述之事实的生产速度。 正是在这样的背景下,证据治理变得日益重要。手语无障碍信任框架(Sign Language Access Trust,SLAT Framework)的开发前提是:文件不应脱离产生它的机构流程而被独立评估。该框架并不将供应商的声明视为自证成立,而是审查治理结构、验证方法、透明度做法、披露质量,以及支持性证据的来源。核心问题不在于是否作出了某项声明,而在于是否存在足够的证据,使一个理性的采购方能够在做出影响无障碍性、公共支出及法律问责等重大决策时,合理依赖该声明。 公共采购长期以来依赖文件性证物,因为机构无法独立验证呈交给它们的每一项技术性主张。这种依赖不太可能消失。发生改变的,是文件与制作该文件历来所需投入的努力之间的关系。随着人工智能持续降低具有说服力的技术写作的成本,采购实践必将更加重视支撑这些文件的证据的质量、可追溯性与独立性。无障碍采购未来的可信度,将不再主要取决于符合性报告的精巧程度,而是取决于各机构区分文件陈述与可证实事实的能力。 作者说明 Heather M.…

Read Now
Deaf Led AI Governance July 14, 2026

谁来审计审计记录?AI生成的合规声明与采购难题

公共采购的历史,在某种程度上可以被解读为文件信任的历史。政府很少在审查源代码之后才采购软件。大学不会独立检查学习管理系统所声称的每一项安全控制措施,医院也不会例行重新进行医疗软件供应商已完成的无障碍测试。采购依赖的是介于采购方与产品本身之间的文件陈述。认证、技术报告、审计结果、符合性评估以及无障碍符合性报告之所以存在,正是因为直接验证成本高昂、专业性强,且往往不切实际。因此,机构购买的不仅是产品,还有为这些产品提供支持的证据。 这种安排一直都需要判断力。VPAT从来都不是为了证明无障碍性确实存在而设计的。它被设计为供应商依据公认无障碍标准进行评估的结构化呈现。采购官员即便高度依赖该文件本身,也理解这一区别。该报告之所以具有分量,并非因为它拥有独立的法律权威,而是因为编制该报告通常需要有人投入大量时间对产品进行评估。制作该文件所投入的努力,尽管并不完美,却成为了制作背后证据所投入努力的一种代替指标。 生成式人工智能在不改变文件外观的情况下,破坏了这种关系。 一个机构现在能够在极短的时间内,制作出技术上流畅、内部逻辑一致、格式专业且具有说服力的无障碍文件。标准被正确引用,技术术语被恰当使用,其结构与采购官员在过去二十年间审阅过的数千份符合性报告如出一辙。然而,这些特征都无法揭示该文件究竟反映的是广泛的无障碍测试、有限的内部审查,还是根本没有任何有意义的评估。写作的精巧程度,正日益与证据的可靠程度相脱节。 这并非反对人工智能的论点。文件编制历来就是一种翻译行为。工程师将软件行为转化为技术性发现,无障碍专家将这些发现转化为采购语言,采购官员再将技术语言转化为采购决策。生成式人工智能只是加速了这一翻译过程中的某一环节。困难出现在翻译被误认为是验证之时。一份写得很好的报告可能准确描述了一项严谨的评估,但也可能描述的是从未经独立审查的假设。文件本身并不能提供可靠的方式来区分这两种可能性。 四份报告,一个证据空间 其后果比乍看之下更为深远。采购文件中现在包含的文件,往往在外观上大体相似,尽管它们所代表的证据基础可能截然不同。一份无障碍符合性报告可能总结了由经验丰富的无障碍专业人员采用自动化与人工相结合的方法所进行的独立测试;另一份可能只代表从未经过外部审查的内部工程评估;第三份可能准确记录了广泛的测试,同时借助生成式人工智能来提升条理与可读性;第四份则可能几乎完全根据产品规格说明和营销材料生成,而底层软件从未真正依据无障碍标准接受评估。一旦被简化为一份格式专业的报告,这些文件尽管基础迥异,却在采购记录中占据着同样的证据空间。 从符合性到溯源性 因此,传统的采购问题已不如从前那样有用。多年来,无障碍评估的核心在于产品是否符合技术标准。然而,越来越重要的问题在于该结论所依据的基础是什么。当制作有说服力文件的成本已大幅下降时,符合性声明的存在本身已不再具有多大的说明意义。采购官员反而需要了解该声明本身的来源信息:由谁进行了评估、采用了哪些方法、自动扫描是否辅以人工测试、辅助技术用户是否参与其中、结论是否可被独立复现,以及支持性证据是否仍可供外部审查。这些问题关乎证据而非无障碍本身,但它们却日益决定着无障碍声明是否值得机构信赖。 近期的采购指南已开始反映这一更广泛的转变。公共部门指南不再将文件提交视为尽职调查的终点,而是日益强调实证性、可复现性、方法透明度以及独立验证。因此,一份无障碍符合性报告的意义,与其说在于其存在本身,不如说在于它能否引导采购官员找到经得起有意义审查的证据。该报告之所以有价值,并非因为它宣称合规,而是因为它解释了为何这一宣称应当被采信。 一种结构性失衡,而非技术性失衡 其影响远远超出无障碍采购的范畴。人工智能已大幅降低了在几乎所有治理领域中制作有说服力的机构文件的成本。安全评估、风险分析、治理声明、实施计划、隐私文件以及采购叙述,都可以以日益流畅的方式、以日益减少的努力起草完成。然而,这些文件所依赖的实际工作,却依旧难以获得同等程度的加速。独立测试仍需合格的评估人员,验证仍依赖可复现的方法论,证据依然源自观察而非撰写。由此产生的失衡因而是结构性的,而非技术性的。陈述的生产速度,已远远超过了这些陈述所描述之事实的生产速度。 证据治理 正是在这样的背景下,证据治理变得日益重要。手语无障碍信任框架(Sign Language Access Trust,SLAT Framework)的开发前提是:文件不应脱离产生它的机构流程而被独立评估。该框架并不将供应商的声明视为自证成立,而是审查治理结构、验证方法、透明度做法、披露质量,以及支持性证据的来源。核心问题不在于是否作出了某项声明,而在于是否存在足够的证据,使一个理性的采购方能够在做出影响无障碍性、公共支出及法律问责等重大决策时,合理依赖该声明。…

Read Now
Deaf Led AI Governance July 12, 2026

NCG观察:从迪士尼ASL(美国手语)碎片化问题看SLxAI治理缺口

迪士尼有限度的ASL推广并非孤立的执行选择。它是当前正在手语人工智能生态系统中展开的现象的一个清晰缩影。模式完全相同,不同的只是交付机制。 从NCG的视角来看,这不是一个关于动画的故事,也不是对其初衷的批评。这是一个关于组织在无障碍功能位于核心架构之外时如何应对的系统性叙事。迪士尼的失败并非因为缺乏能力,恰恰相反,它展现的是能力的存在。这家制片厂投入资源培养聋人表演者、重建动画制作流程,并尊重ASL作为一门独立语言而非英语衍生物的语言结构。达到这种执行水平需要纪律、预算和文化意识。问题在于这些投入之后发生了什么。 无障碍功能被部署为一种受限的增强项,而非产品的持续性属性。三首歌曲被精心翻译和重新制作动画,而周围的叙事内容却未做任何调整。其结果不是包容,而是分割。聋人观众被邀请进入某些时刻,随后又被排除在连续性之外。系统释放出可及性的信号,却在结构上将其扣留。这种矛盾在发布时并不明显,只有在实际使用中才会显现出来。 这正是目前在手语人工智能市场中出现的相同架构姿态,在SLxAI Summit 2026上可以观察到这一点。供应商展示的并非不完整的技术,而是在严格受控边界内高度打磨的输出成果。虚拟形象在演示中流畅地打手语,翻译在短序列中显得连贯一致。视觉层面极具说服力,给人一种无障碍功能已经全面落地的印象。而实际展示出来的东西要狭窄得多。这些系统能够生成可及的时刻,却尚无法保证系统本身具有可及性。 这种区别并非语义层面的,而是运作层面的。无论是在迪士尼的案例中,还是在SLxAI的部署中,无障碍功能都是作为一层附加物存在的。它被应用于特定的片段、场景或提示,而不是作为一种贯穿整个沟通流程的持续性条件被嵌入其中。一旦无障碍功能被当作附加层来处理,失败就不再是例外,而是必然。唯一的变量是失败发生在何处。在迪士尼的模式中,断裂发生在歌曲与叙事之间。在SLxAI系统中,断裂发生在提示之间、语境转换之处,或语言边缘情形中。在这两种情况下,用户都会经历连续性的丧失,而系统本身却不会披露这一点。 这正是治理介入的地方。大多数评估这些技术的组织目前仍停留在输出验证的层面。他们只是在问:手语看起来是否正确,动作是否自然,翻译在某个具体实例中是否与预期含义相符。这些检查是必要的,但并不充分。真正的问题在于:系统能否在整个交互过程中始终保持准确性、语境把握和语言完整性而不出现退化。这不是一个创意层面的问题,而是一个系统可靠性的问题。 市场目前对视觉逼真度的执着,掩盖了标准更深层次的缺失。目前没有被广泛采纳的框架来衡量手语人工智能中的连续性。没有一致的方法来验证多轮交互中的语境保持情况。也没有强制执行的披露模式,来告知用户虚拟形象的输出是概率性的而非确定性的。缺乏这些结构,组织部署的工具在孤立情况下看似稳定,但在连续序列中却仍未经证实。这正是迪士尼无意中揭示出的同一状况:高投入并不能弥补碎片化的架构。 在规模扩大时,风险特征会急剧分化。迪士尼的局限性造成的是一种不完整的娱乐体验,虽然明显,但影响有限。而在企业和面向公众的环境中,SLxAI系统所传递的信息可能带有法律、医疗或财务方面的后果。连续性的断裂不再只是一种不便,而是成为潜在伤害的爆发点。当一个系统无法保证意义从一个时刻延续到下一个时刻时,它就不能被定位为可靠的无障碍解决方案。它变成了一个被包装成确定性接口的概率性接口。 这一时刻之所以意义重大,是因为迪士尼和SLxAI供应商实际上都是在从不同方向解决同一个问题。迪士尼是在为一种传统内容模式补装无障碍功能,而SLxAI供应商则是从零开始将无障碍功能构建进全新的沟通层。然而两者最终都得出了相同的结构性结果,因为它们共享着同样的底层假设:无障碍功能被视为一种可以被应用的东西,而不是一种必须被持续维持的东西。 一个成熟的模式会颠覆这一假设。无障碍功能不会在特定节点才被触发,而是会在整个系统中持续存在,并受制于界定准确性、连续性和失败披露的标准。在这样的模式下,问题不再是单一输出是否正确,而是系统能否在时间推移、语境变化和条件波动下始终保持正确。这正是区分“演示”与“部署”的门槛。 这里得出的结论并不是迪士尼做得不够好,也不是说SLxAI为时过早。而是两者都处于一种过渡性架构之中,在这种架构里,能力的发展已经超过了治理的步伐。市场目前正处于这样一个节点:视觉层面的概念验证已不再足够。下一阶段需要的是结构性问责。若缺少这一点,无障碍功能将继续在某些瞬间中显现,却在动态运作中失效。 迪士尼无意中揭示的事实 迪士尼在ASL整合方面所展现出的严肃程度,是大多数组织从未达到过的。这项工作反映出这样一种理解:手语不能被当作英语的视觉覆盖层来处理,ASL中的意义是通过空间语法、时机把握和全身表达构建出来的,而非孤立的手部动作。这种理解转化为了具体的运营决策。聋人表演者参与塑造语言的传达方式,而不仅仅是在事后被请来做验证。动画工作流程经过重新调整,以支持非手动标记、节奏变化,以及准确传达意义所需的身体表现力。系统在适应语言,而不是把语言压缩进既有的限制之中。就执行层面而言,这不是象征性的无障碍功能,而是技术上过硬、具有文化意识、且是有意为之的成果。 这正是为何其结果的重要性超出了这个项目本身。当一个组织展现出这种水平的能力时,评价的重点就会从“付出的努力”转向“可靠性”。问题不再是无障碍功能能否被制作出来,而是无障碍功能能否被持续维持下去。用户面对的不是孤立的输出内容,而是一段要么连贯、要么不连贯的完整体验。 迪士尼的实施方案中显现出的正是这种连续性的断裂。无障碍功能出现在特定的片段中,随后随着更广泛的叙事在没有任何调整的情况下继续展开而逐渐消退。系统没有维持一种一致的状态,而是在“可及”与“不可及”的状态之间切换,却没有在这些转换之间保留理解的连贯性。从用户的角度来看,意义先被建立起来,随后又被打断,需要反复重新调整自己的理解方向。这不会被体验为部分包容,而是被体验为沟通层本身的不稳定。 这种不稳定的根源并非制作质量上的缺陷。可及的片段达到了很高的标准。问题出在架构层面:无障碍功能被当作一种可以在特定节点被应用的东西,而不是作为系统的一种恒定属性被维持。以生产为重心的评价模式评估的是各个组成部分是否达到质量预期,按此标准,这项工作是成功的。而以系统为重心的评价模式评估的是这些组成部分能否在整个交互过程中持续存在而不出现退化,按此标准,这个设计并不成立。…

Read Now
Deaf Led AI Governance July 12, 2026

第五参数:第 009 期:超越采购:手语人工智能为何成为公共政策议题

人工智能已日益成为当代公共行政的重要组成部分,重塑了政府配置资源、采购服务、提供公共项目以及与公民互动的方式(Wirtz et al., 2019;Zuiderwijk et al., 2021)。人工智能在公共部门的迅速扩张引发了学界对算法治理、数字政府、公共价值与行政创新的广泛关注,这反映出人们日益认识到新兴技术正在改变政府的实践与制度(Margetts & Dunleavy, 2013;Cordella & Bonina, 2012;Moore, 1995)。在这一更广泛的变革之中,手语人工智能(SLxAI)已成为无障碍技术领域最具影响力的发展之一。计算机视觉、多模态机器学习与计算语言学的进步,大幅提升了计算系统识别、生成与翻译手语的能力,为扩大Deaf社群的沟通渠道创造了新的机遇(Bragg et al., 2019)。因此,学界的关注理所当然地集中于通过日益复杂的算法、更大规模的数据集以及更先进的语言模型来提升技术能力。与此同时,商业投资加速推动了人工智能赋能的无障碍产品的发展,使手语人工智能日益成为公共服务提供中一个切实可行的组成部分。 尽管取得了这些进展,但对于政府采用人工智能赋能的无障碍技术所伴随的制度性责任,学界给予的关注相对有限。现有研究已在人工智能伦理、可信人工智能、算法问责、残障政策与数字政府等方面做出了重要贡献,但这些文献大多沿着各自独立的学科轨迹发展(Jobin…

Read Now
Deaf Led AI Governance July 12, 2026

最后一片未被开发的资源:在人工智能中剥削聋人

几十年来,聋人一直在进行一场大多数社会几乎未曾察觉的斗争。他们争取让世人承认手语是真正的语言。他们与压制甚至彻底禁止手语的教育体制抗争。他们与那些把沟通无障碍视为麻烦而非公民权利的雇主抗争。他们与那些将失聪等同于无能的错误观念抗争。在这场斗争的大部分历程中,社会一直把手语当作一个需要解决的问题,而不是一项值得保护的语言与文化资产。讽刺的是,如今科技公司发现了手语数据的经济价值,整个话语几乎在一夜之间发生了转变。曾经被各机构边缘化的这门语言,突然被描述为下一代人工智能系统不可或缺的原料。 这一转变发生得如此迅速,以至于许多人尚未停下来审视其影响。整个科技行业中,各类机构都在招募聋人参与者来审阅视频、验证翻译、标注手语样本、测试识别系统、评估虚拟形象输出,并为旨在提升机器学习性能的数据集做出贡献。这些邀请常常被包装成无障碍、包容、创新和社区参与的语言。参与者往往会因其付出的时间获得报酬,许多人也真诚地相信自己正在帮助创造能够造福未来几代聋人的工具。参与本身并无本质问题。真正令人担忧的是,当参与与治理、所有权、透明度和长期问责脱节时会发生什么。 机器背后隐形的劳动力 大多数人想象中的人工智能,是工程师坐在电脑屏幕前所取得的一项技术成就。而现实要复杂得多。人工智能系统在能够执行哪怕最基本的任务之前,都需要大量由人类生成的信息。每一个识别系统都必须经过训练。每一个模型都必须经过评估。每一个预测都必须与人类判断进行比对。每一个输出出错时都必须被纠正。在人工智能面向公众展示的背后,存在着一支庞大却鲜少被承认其劳动的隐形劳动力。就手语技术而言,这支劳动力中很大一部分是聋人个体,他们的语言专业知识构成了这些系统赖以建立的基础。 为何手语数据具有独特价值 手语数据之所以具有独特价值,是因为它所包含的远不止单个的手语词汇。手语通过手部动作、面部表情、眼神注视、身体姿态、空间关系、时间节奏以及非手部语法标记之间复杂精妙的相互作用来表达。意义并不仅仅存在于双手之中,意义遍布整个身体。一个细微的面部动作可以将一个陈述句变为疑问句。身体朝向的转变可以改变叙述视角。空间参照的变化可以彻底改变一次互动的含义。当各类机构收集手语数据时,他们收集的不仅仅是词汇。他们收集的是一整套在聋人社群中历经数代演化而来的复杂语言系统。 一种无法被制造出来的资源的经济学 这一现实所带来的经济影响难以被忽视。随着人工智能投资持续扩大,数据集已成为科技行业最具价值的资产之一。投资者习惯性地评估企业是否拥有独特的训练数据来源。研究人员竞相获取规模更大、代表性更强的数据集。各类机构越来越清楚地认识到,数据的稀缺性可以转化为竞争优势。在这样的环境下,手语数据代表着一种无法通过规模化合成手段生成的资源。它必须来自真实的手语使用者。它必须来自真实的语言使用群体。它必须来自那些其亲身经历无法被算法复制、也无法在实验室里制造出来的真实社群。 参与并不等同于权力 从历史上看,技术快速扩张的时期往往会造成这样一种局面:创造价值的人所获得的收益,远远少于掌控基础设施的人。在工业化进程中,工人提供劳动,而所有权却积累到了别处。在社交媒体兴起的过程中,用户生成内容,而平台却积累了财富。如今,人工智能行业正在制造类似的关于所有权、参与和收益分配的问题。问题不在于聋人个体是否应当参与手语人工智能项目。问题在于,参与本身是否被误当成了赋权。为一个系统贡献数据,并不会自动赋予对该系统如何被治理、部署、营销或货币化的影响力。 缺失的护栏 全面护栏的缺失使这些问题变得更加迫切。目前尚不存在一个被普遍接受的框架,来规范手语数据集应当如何被收集、管理、许可、留存、转让或再利用。也不存在一个行业范围的标准,要求供应商披露这些贡献将如何被纳入未来的产品之中。同样不存在一个被普遍认可的认证程序,来确定某个手语人工智能系统是否经过了独立的语言学审查。采购负责人、大学、医疗系统、学区以及残障权益组织常常发现自己在缺乏一致透明度标准的情况下评估各种技术。因此,影响整个社群的决策往往是在信息不完整的环境中做出的。 最重要的问题 这一领域面临的最重要问题,并不是手语人工智能能否被构建出来——这显然是可以做到的。更重要的问题在于,目前正在开发的这些系统,其构建方式是否尊重了那些使这些系统得以实现的语言所属的社群。技术进步与伦理治理并非相互对立的力量。事实上,可持续的创新二者缺一不可。手语人工智能的未来,最终将不是由其算法的精密程度所决定,而是由各类机构是否愿意在公众信任被耗尽之前建立起有意义的问责机制所决定。历史表明,当一个社群一再贡献价值却未能获得相应的透明度、影响力或保护时,就会产生怀疑。聋人社群完全有理由追问,这个新兴行业究竟是打算从这段历史中吸取教训,还是打算重蹈覆辙。

Read Now
Deaf Led AI Governance July 12, 2026

第五参数 | 第010期 | 合规不等于理解

一位负责评估手语虚拟形象系统的采购官员,几乎拥有评估一切事物的工具,唯独缺少评估真正重要之事的工具。针对静态加密与传输加密、数据驻留、分包商披露、正常运行时间保证、赔偿责任、冲突矿产,都有既定的问题清单。有《自愿性产品无障碍模板》,供应商会提供。有《第508条》核查清单,供应商会满足。整个流程结束后,档案完整无缺,评分表填写齐全,中标结果经得起审计推敲,然而自始至终,没有人问过:一位观看该系统输出内容的聋人是否真的看懂了它在表达什么。 这并非个别采购人员的疏忽——他们通常尽职尽责,只是在既有工具的框架内工作。这是工具本身的属性所致。无障碍合规文件所认证的,是替代渠道的存在,而非该渠道是否承载了意义。VPAT可以准确记录手语内容是与语音内容同步提供的,这一记录属实,但它丝毫不能说明这种手语表达对其本应服务的群体而言是否可以理解。表格上有一栏用来填写是否提供了替代方案,却没有一栏用来填写这一方案是否奏效。 其后果是一种悄然的倒置。凡有评估工具存在之处,证据的缺失会被记录为缺陷并遭到标记。凡无评估工具存在之处,证据的缺失则完全不留痕迹。语言层面的问题不是被草率地回答了,而是根本没有被提出,而这种“未被提出”在档案中不会留下任何痕迹。于是,沉默在下游被解读为满意,因为一份没有发现不利结果的完整评估,与一份根本无法记录不利结果的完整评估,看起来毫无二致。 评估结果显示了什么 Novara Consulting Group目前已依据SLAT框架,对七家手语人工智能供应商——Kara Technologies、SignAvatar、ChatSign、Silence Speaks、Sign-Speak、Signvrse以及GoSign.AI——进行了结构化评估。这些产品并不等同。它们在架构、成熟度、与聋人群体接触的认真程度,以及坦诚程度上都存在差异。有些企业的治理明显优于其他企业。数家企业聘用了聋人员工,还有少数企业由聋人拥有,或在生产环节中配备了认证聋人译员,这是一项真实的区别,也因此获得了相应评分。但没有一家达到“高度信任”等级。 每一个案例中,制约性的瓶颈都是同一个,而且都不是采购档案能够捕捉到的问题。没有任何一个案例对聋人用户进行过独立验证的手语输出理解测试:即由与结果无商业利益关系的第三方开展理解能力测试,如实报告其失败情形,并覆盖任何公开部署实际会遇到的方言、年龄、语域和语言熟练程度的全部范围。供应商公布的准确率数据,是供应商依据自身的参照数据、按自身设定的条件生成的,它衡量的是输出结果与目标之间的差距,而非输出结果与理解之间的差距。这是两种截然不同的量度,前者无论有多少,都无法替代后者。 一种相关的模式在这些评估快照中反复出现。营销宣传的表述始终领先于所声称的技术成熟度,而这种落差若将供应商自身的文件互相对照阅读,便一目了然。有关部署速度的宣称,往往未附带实现该速度所依据的条件。实际上按照两条截然不同路径运作的系统——一条高度依赖人工介入,另一条则基本实现自动化——在对外宣传语言中却被混为一谈。对于一家正在融资的公司而言,这种做法并不令人意外。但作为公共合同的证据基础,它是不合格的,而它之所以能够在采购环节中蒙混过关,原因在于整个流程中根本没有任何设计用来检验它。 这种缺失是结构性的 若将此解读为对供应商的指控,那将是一种错误的、也无益的解读。供应商提供的是采购方所要求的证据。采购要求SOC 2认证,SOC 2认证便应运而生。采购要求渗透测试摘要,渗透测试摘要便应运而生。而本刊在能够找到的任何评估工具中,从未发现有采购方要求手语人工智能供应商证明,在接近实际部署的条件下,聋人用户能够理解其手语输出。因此,这样的证据并不存在。市场恰恰提供了它被要求提供的东西。 这就将问题的杠杆点定位在了交易中采购方这一侧——这正是本刊自创刊以来一直坚持的论点,值得毫不含糊地重申。招标文件(RFP)并非一份行政性文件,而是一份证据基础的规格说明书。RFP要求什么,业界就会建立什么;RFP遗漏什么,业界就不会建立什么,这并非出于恶意,而是因为没有资金支持的证据是不会被产生出来的。一个机构拒绝写入的每一项要求,都是一项永远不会开展的研究。采购机制,正是将一个机构对不确定性的容忍度,转化为整个领域研究议程的方式。 严肃要求应有的样子 这一要求本身并不复杂——尽管满足它成本高昂,而这正是关键所在。对手语输出内容的理解能力评估,应当由未参与系统开发的聋人参与者完成,涵盖地区差异、年龄差异,以及部署过程中实际会遇到的语言熟练程度范围,包括那些最需要系统发挥作用、却最缺乏能力去弥补系统失误的用户。评估应由与结果无经济利益关系的第三方开展。评估报告应说明系统在何种条件下失效、会给用户带来何种后果,因为对采购方而言,一个系统的失效模式比其综合性能表现更具参考价值,而这恰恰是供应商演示文稿中最先被省略的内容。…

Read Now
Deaf Led AI Governance July 12, 2026

手语人工智能生态系统中的结构性利益冲突:治理独立性问题

围绕手语人工智能的公共讨论,表面上是一场关于技术的辩论。支持者强调创新轨迹,批评者列举风险,研究人员审视准确性指标,供应商则规划市场机遇。然而,在这些对话的技术性语言之下,潜藏着一个更为根本、却鲜有人深究的问题:负责治理手语人工智能的机构结构,是否与负责营销手语人工智能的商业结构保持了足够的独立性。 这不是关于任何单一组织的问题,而是关于生态系统架构的问题。 结构性问题及其例证 Signapse是一个有用的分析案例,并非因为该公司代表了不当行为,而是因为它代表了可见性。作为手语人工智能领域较为知名的参与者之一,Signapse尤为清晰地说明了治理参与、社区互动、行业合作与商业部署之间的界限,在结构上可能变得难以区分。 近年来,Signapse的领导层在有关无障碍标准、语言获取政策以及通信技术制度未来的讨论中,始终保持着公开发声的存在感。与此同时,该组织也在积极推进商业议程:拓展合作伙伴关系、争取部署合同,并将其人工智能手语技术定位于包括政府服务、公共信息基础设施和医疗保健在内的多个领域。若单独看待,这两类活动本身都不值得质疑。企业理应追求市场增长,高管理应为专业与政策讨论贡献专业知识。行业若无可见度便难以发展,领域若无跨部门合作也难以进步。 但当这两类活动在同一制度生态系统内同时运作,而区分二者的机制却缺失或发育不全时,分析层面的问题便随之显现。 治理与市场拓展:各自独立的职能 此处关注的并非商业利益与治理利益在同一领域内共存这一现象本身——在新兴技术领域中,这种共存在某种程度上是结构性地不可避免的。真正令人担忧的,是这些利益被混为一谈,以及这种混淆得以被制度化、正常化的条件。 治理与市场拓展服务于截然不同的目的。治理的存在是为了保护公共利益,它追问一项技术是否应当被部署、在何种条件下部署才是适当的,以及在部署之前必须建立哪些保障措施。市场拓展的存在则是为了扩大采用范围,它建立关系、培育机构信心,并为落地实施开辟路径。这两种职能可以在同一行业内并存,但不能被视为等同,也不应被允许相互替代。 当咨询机构、社区互动倡议、标准讨论及治理论坛中,包含了对所审议技术拥有直接经济利益的参与者时,一个关于制度设计的根本问题便浮现出来:独立监督在哪里终止,市场培育又从何处开始?更为关键的是,公共机构、Deaf社区与政策制定者应如何从外部识别这种区别? 如果一个组织在帮助塑造围绕手语人工智能的规范与政策格局的同时,又对该格局的扩张持有商业利益,那么透明度就不仅仅是一种职业礼仪,而是合法治理的结构性前提。 医疗保健:一个临界案例 当医疗保健进入部署讨论时,治理层面的风险显著加剧。与人工智能手语技术相关的公开材料日益将医疗保健列为优先市场。这一定位值得仔细审视,因为医疗保健与其他部署领域并不具有可比性。 医疗保健涵盖知情同意流程、诊断沟通、治疗指导、精神科服务、急诊医学以及临终关怀对话。这些环境中的沟通差错所带来的后果,远远超出服务质量下降的范畴——它们可能影响诊断结果、改变治疗轨迹、损害患者自主权,在紧急情况下甚至决定生死。当无障碍技术被定位于医疗保健场景时,其适用的治理门槛在类别上应远高于普通商业部署所适用的门槛。 同样的原则,在结合具体情境作出适当调整后,也适用于法律诉讼程序、公共安全通信、教育服务、就业流程以及政府福利管理。这些不仅仅是市场垂直领域,更是语言获取、公民权利与公共信任交汇的场域。这些领域中的部署决策,不应仅仅依据已证明的能力来指导,而应由独立、严谨地评估机构准备度、风险架构与问责机制来指导。 技术治理中反复出现的模式 手语人工智能生态系统所例证的这一结构性挑战并非新鲜事物,它在新兴技术治理的历史中反复出现,且表现出显著的一致性。 打造某项技术的组织,总是会发展出解释该技术的最深厚专业能力。而拥有最深厚解释性专业能力的组织,往往会在塑造公众认知、政策讨论与监管框架方面获得不成比例的影响力。随着时间推移,独立技术评估与行业倡导之间的区别,对外部观察者而言变得难以准确辨认。这一模式已经在社交媒体平台治理、面部识别部署、数字隐私监管、算法决策监督以及生成式人工智能系统治理等领域中显现。几乎没有经验依据可以支持这样一种预期,即手语人工智能能够在结构上免受同样的制度压力。…

Read Now
Deaf Led AI Governance July 12, 2026

大规模治理缺口:机构信任、商业化转型与索伦森问题

数十年来,Sorenson在Deaf社区的机构版图中占据着独特的地位。它的声誉并非建立在传统意义上的产品创新之上,而是建立在口译员、中继基础设施以及使Deaf个体能够跨越有声世界进行沟通的运营架构之上。对许多用户而言,Sorenson首先并不是一家科技公司,而是无障碍生态系统本身不可或缺的一部分。这种区别并非无关紧要。这种机构信任的积累是缓慢的,是多年持续服务交付的结果,它也成为一个组织所能拥有的最重要的资产之一。同时,它也带来了普通商业企业所不需承担的义务。 当一个积累了如此程度信任的组织大举进军人工智能领域时,公共讨论就不能仅仅停留在产品发布层面,而必须提出治理层面的问题。 清晰昭示的战略转型 Sorenson的方向性转变从未含糊。2025年1月,该公司收购了OmniBridge和Hand Talk,明确将这两笔交易定位为对AI驱动的手语翻译的战略投资。OmniBridge被描述为一个能够实现ASL(美国手语)使用者与英语使用者之间双向实时沟通的平台。Hand Talk则贡献了基于虚拟形象的AI手语生成能力。这两项收购均未被呈现为探索性研究,而是被描述为加速自动化手语翻译、确立Sorenson在下一代无障碍技术中地位这一有意为之之举措的组成部分。 这一发展轨迹仍在延续。2026年4月,Sorenson公开发布了两套AI手语翻译概念验证系统。第一套系统通过一个高度拟人的虚拟形象,将文本和视频内容转换为美国手语;第二套系统对ASL进行实时识别,并将其呈现为英语文本。Sorenson对这些系统的自我定位是:使Deaf手语使用者与听人之间无需人工口译员即可流畅交流。其确定的部署场景包括客服柜台、零售场所、交通枢纽、酒店服务环境以及职场沟通。 这种营销措辞我们并不陌生:包容、效率、扩大无障碍覆盖、减少沟通障碍。Sorenson也始终表示,在复杂且高语境依赖的沟通场景中,专业口译员依然不可或缺,并将AI定位为补充而非替代。这种表态或许完全出于真诚。但问题在于,治理框架不能建立在真诚这一前提之上,而必须建立在这样的前提之上:意图与结果会出现分歧,市场依据激励机制而非承诺行事,公司所声明的立场与机构采购决策之间的落差可能相当巨大。 作为治理变量的规模 Sorenson所带来的治理挑战,与规模更小的AI手语企业所带来的挑战并不等同。Sorenson不是一家在新兴市场中摸索前行的初创公司,而是围绕Deaf沟通无障碍构建起来的规模最大的组织之一,每年促成数亿次口译和字幕交互,并在其运营基础设施中雇用了数千名口译员。在任何行业中,能与其相媲美、对Deaf与听人在各种真实场景中如何沟通拥有如此机构性认知的组织都寥寥无几;能在这样的规模上拥有相当运营经验、或在无障碍采购市场中拥有相当影响力的组织,就更是凤毛麟角。 在这个语境下,规模不仅仅是一个商业变量,它是一个治理变量。一个组织在特定机构生态系统中越是庞大、越具影响力,其战略决策所带来的影响就越重大,而个体承诺作为独立监督替代品的不足之处就越发凸显。规模较小的供应商进入手语AI领域会引发合理的治理问题;而以Sorenson这样的机构体量进入同一领域,则会将这些问题的紧迫性提升到一个截然不同的层级。 关键问题已不再是Sorenson是否具备开发AI翻译系统的技术和组织能力——这个问题已有答案。关键问题在于,在这些系统在Sorenson所确定的目标市场环境中被广泛部署之前,是否存在足够的独立治理基础设施来评估其影响。 意图、市场行为与替代问题 Sorenson所声明的立场——即AI是对人工口译员的补充而非替代——既不应被不假思索地接受,也不应被不假思索地否定,而应接受结构性分析。 一家公司可以出于善意,公开承诺人工口译的首要地位,同时又在生产被采购机构视为替代品的工具。这两者并不矛盾,它们反映的是供应商所声明的意图与市场对现有产品之反应之间的区别。医疗系统、教育机构、政府部门以及私营雇主都面临持续的成本压力。一旦一种自动化解决方案能以人工口译服务成本的一小部分实现,机构走向替代的动机并不需要供应商的鼓励,它们源自采购逻辑本身。 因此,治理缺口并不在于Sorenson的意图,而在于该意图与将部署这项技术的各机构之实际行为之间的空间。一旦AI手语系统在低风险环境中变得足够熟悉,机构方面要求将部署范围扩大到高风险场景的压力就是一个可预见的、而非纯属推测的结果。零售和酒店服务领域的部署会让各组织对该技术产生认同感,这种认同感会催生扩大使用的呼声。采购人员会问:一个在交通枢纽表现良好的系统,是否可以用于临床问诊对话或劳动争议诉讼程序?纵观各行业的技术采用历史,几乎没有证据表明,仅凭供应商的承诺就能可靠地管控这种扩张动态。 为应对这一环境而设计的治理框架,必须依据实际的激励结构与可能的市场走向来校准,而不能依据对当前部署意图最乐观的解读来校准。 悬而未决的机构性问题…

Read Now
Deaf Led AI Governance July 12, 2026

治理无形之物:为何机构问责必须先于手语人工智能部署

围绕手语人工智能的讨论已经陷入一种熟悉的节奏。公告不断累积,演示层出不穷,平台纷纷涌现。每一轮循环都在强化同一种叙事:技术能力正在进步,沟通障碍正在消解,无障碍化的未来正被工程化地实现。措辞在一次次迭代中略有变化,但底层论点在结构上始终未变,因为创新正在到来,而且它的到来迫在眉睫。 这种叙事始终未能追问的是:技术能力是否真的是那个核心变量。 这种遗漏并非偶然。技术变革之所以能吸引公众关注,恰恰是因为它是可见的。机器可以被观察,演示可以被目睹,产品可以被评估。相比之下,治理在很大程度上发生在公众视野之外。监督框架不会吸引会议听众,问责机制不会激发投资者的热情,采购标准也很少出现在主流讨论中。然而历史记录是明确无误的:治理结构——或其缺失——才是常态性地决定新兴技术究竟是服务于公共利益,还是仅仅自我服务的因素。 在无障碍技术领域,这种动态变得尤为重要,因为其道德和政策风险与消费类创新所涉及的截然不同。一个出故障的电商平台带来的只是不便,一个失灵的社交媒体算法带来的只是挫败感,而无障碍方面的失败带来的则是一种性质完全不同的后果:将个人系统性地排除在沟通、参与以及行使其依法享有的权利之外。无障碍基础设施不足所造成的后果并非随机分布在人群中,它们恰恰集中在对该基础设施依赖程度最高的地方。 正是在这样的背景下,手语人工智能的治理缺口不仅显得值得关注,而且变得刻不容缓。 能力:必要但不充分的条件 当前施加于手语人工智能的主导评价框架提出的是一组一致的问题:虚拟形象能否做出可识别的手语?翻译模型能否达到可接受的准确率?系统能否在各种部署场景中实现规模化?这些都是合理的技术性问题。它们也是社会历来对几乎每一种新兴技术都会提出的问题——这些问题只触及功能性的门槛,却完全没有审视责任架构。 更为关键的一组问题涉及的是机构能力,而非系统性能。部署机构是否具备在部署前对这些系统进行严格评估的治理基础设施?它们是否维持了在部署后持续监测性能所必需的监督机制?当系统在高风险环境中出现失败时,它们是否承担、并且有能力承担实质性的问责? 这些问题难以得到直截了当的答案,部分原因在于该领域在提出这些问题上投入的精力相对有限。 NIST框架:作为机构的一面镜子 美国国家标准与技术研究院(NIST)的人工智能风险管理框架常被描述为管理人工智能系统的技术指南。仔细阅读会发现一种更为精确的描述:它其实是一套关于机构问责的框架,只是恰好涉及人工智能而已。 该框架最一以贯之的分析动作,是将注意力从技术本身引向部署技术的机构。谁定义了治理结构?谁绘制了相关部署场景中的风险图景?谁根据受影响群体的需求验证了系统性能?当结果偏离预期时,谁仍然承担责任?人工智能系统本身退居次要位置,取而代之浮现出来的是一场关于机构适任性的全面审视。 从这个角度来看,手语人工智能的部署既是一个技术性能问题,也同样是一个公共管理问题。设想一家公共机构正在评估一套基于人工智能的手语系统,用于医疗沟通、教育服务或应急管理。传统的评估方式只会问系统是否有效、成本是多少。而NIST框架要求的是一条严格得多的探究路径:Deaf群体成员是否有实质性地参与了系统评估?在高风险沟通情境中会出现哪些故障模式?是否存在投诉、纠正和系统撤回的机制?当沟通在关键时刻中断时,谁来承担责任? 这些不是工程问题,而是治理问题,而且它们的答案很少能在供应商的文档中找到。 沟通即基础设施 当我们考虑到通信技术在公共生活中所发挥的功能时,治理的必要性就变得更加突出。信息不仅仅是传输中的数据。信息塑造决策、调节对服务的获取、影响权利的行使,并界定个人参与公民和机构生活的条件。当人工智能被置于沟通过程中的中介位置时,对该技术的治理便与对获取本身的治理密不可分。 这并非一个抽象的担忧。手语人工智能正被部署,或正被积极考虑部署于沟通准确性直接关乎重大后果的场景:在临床环境中,误解会影响诊断和治疗;在教育环境中,翻译不足会加剧既有的不平等;在应急场景中,沟通失败可能危及生命。在所有这些场景中,人工智能系统能否做出可识别的手语,其重要性远逊于部署该系统的机构是否已履行其关怀、监督和问责的义务。 将能力等同于就绪状态,并假定在受控演示条件下有效的系统因此就适合部署于后果重大的公共场景——这或许是当前讨论中最重大的概念性谬误。…

Read Now
Deaf Led AI Governance July 7, 2026

公共采购超越科学证据时,手语人工智能面临的政策问题

政府部门正在证据基础尚未成熟之前购置语言无障碍系统。这是一场正在慢镜头中上演的公共问责危机。 采购时刻 各级政府机构正被要求在科学证据基础尚未成熟之前,就手语人工智能系统做出重大采购决策。这并非该技术最终是否会成熟的问题,而是当前供应商的宣称是否被当作已验证的事实来对待,尽管它们实际上仍只是未经证实的承诺。这一区别至关重要,尤其是当公共资金与聋人社群的无障碍权益处于风险之中时。 过去十八个月里,联邦、州和市政各级政府的无障碍事务官员、采购团队和IT部门开始收到手语人工智能系统的供应商推介。这些推介强调创新、效率和包容性,承诺以规模化方式扩大无障碍服务、降低成本、实现语言服务现代化。这些宣传极具说服力,而且恰逢一个制度性时刻——公共部门预算受限,而无障碍要求却在不断扩大。采购官员提出的问题很简单:“我们为什么不采用这项技术?” 答案同样简单,却较少被人说出口:“因为我们尚未获得独立证据证明这些系统确实如宣称的那样有效,而且我们对于在语言无障碍这一语境下‘有效’意味着什么,也尚无一致公认的标准。” 这不是一个技术层面的异议,而是一个治理层面的异议——即公共机构是否应当将缺乏必要问责结构的采购决策常态化,而这些问责结构本应用来保护受这些决策影响最深的人群。 技术承诺的吸引力 从公共机构采购逻辑的角度来看,手语人工智能之所以具有吸引力,理由完全合乎理性。该技术承诺在一个创新历来有限的领域带来突破;它暗示在历来依赖一对一人工传译的语境中实现可扩展性;它在预算压力下的系统中提供成本效益;它以包容与赋权自我定位,并与残障权利及无障碍要求相契合。 这些都是强有力的采购诱因。当一个组织同时面临扩大服务覆盖、降低成本、采用新兴技术的压力时,一个承诺三者兼得的解决方案,在推介的那一刻很难被拒绝。 然而,采购上的便利并不等同于民权合规。机构效率并不等同于语言学有效性。成本节约并不等同于社群安全。技术承诺的吸引力一再驱使公共部门在充分了解其现实影响之前就采纳相关系统。在无障碍领域,这种模式尤为危险,因为最有可能受到伤害的人群,往往不是那些决定是否采用该技术的人。 证据稀缺问题 许多手语人工智能系统在推广时都会宣称具备无障碍性、语言能力、包容性、语言可及性以及对聋人的赋权。这些宣称至关重要,回应了真实的需求。但这些宣称往往缺乏相应的证据体系支撑——而在公共机构将一个影响人们生活基本方面的系统常态化之前,这类证据体系本应是必要条件。 具体而言,这些系统的推广往往缺少以下要素: 由供应商组织之外的研究人员进行的独立评估; 透明且可公开获取的数据集; 记录系统在何种条件下无法完成何种任务的已发表错误分析; 来自实际运营环境中持续使用的现实部署证据;或 与聋人母语手语使用者及最依赖语言无障碍服务的群体共同开展的、以社群为本的风险评估。…

Read Now
1 2 3 4
Consult