Skip to content

洞察

Trends, analysis, and strategies for the modern rural economy.

Deaf Led AI Governance October 8, 2026

手语说的是另一回事

在CVG机场,一个AI手语翻译员向Deaf旅客提供了错误的时间和错误的列车信息。站台上的其他人得到的都是正确信息。而这段视频随后竟成了一则广告。

Read Now
Deaf Education- NDEDI October 8, 2026

Who Will Publish the Numbers? Deaf Education Data After the Education Department’s Deal With HHS

*将特殊教育日常工作移交给卫生与公众服务部(HHS)的协议,也涵盖了Gallaudet、NTID和海伦·凯勒国家中心,但其中从未说明由谁来继续发布相关数据* National Deaf Education Data Index中每一份州级文件的起点都一样:学区自身网站、州机构自身的报告,以及一份联邦电子表格。前两者差异极大。有些州每年秋季都会发布按学区划分的聋人及重听学生详细统计,而另一些州则没有任何家长能够查到的数据。联邦电子表格则是恒定不变的参照。当NDEDI于9月编制内华达州文件时,关于聋人及重听学生实际就学情况最清晰的图景,正是来自该联邦文件:2024-25学年,在“听力障碍”类别下接受服务的518名5至21岁学生中,有307人每天至少80%的时间在普通班级中度过,没有一人被报告安置在单独学校或寄宿机构中。该州自身的统计数据可以据此核对;若没有这份联邦文件,就无从核对。 该电子表格是IDEA第618条数据的一部分,即各州每年向联邦政府报告的、按残疾类别、年龄、安置环境等划分的、依据《残疾人教育法》(IDEA)接受服务的儿童统计数据。各州通过一个名为EDFacts的联邦系统提交这些数据。教育部将其以州级文件的形式发布在其开放数据平台上,并在向国会提交的年度报告中加以汇总。对于任何想要比较堪萨斯州和肯塔基州聋人儿童教育情况的人来说,这是唯一能以统一标准涵盖所有州的数据来源。 6月发生的变化 2026年6月15日,教育部与卫生与公众服务部签署了一项关于特殊教育与康复服务的跨部门协议,并于次日与另一项将公民权利执法工作移交给司法部的协议一同宣布。该协议篇幅不长,仅八页,但对变动内容表述明确。根据第3.A条,HHS承诺“在ED-OSERS的协调与指导下”提供服务,以支持IDEA下B、C、D三部分拨款项目的管理;执法、合规与监督;对各州进行评定的“年度绩效评定”;财务审计;以及“为监督是否符合法定与法规要求、以及为改善婴幼儿、儿童、青少年和残疾成年人的成果,而进行的数据收集、报告与分析”。 教育部仍保留IDEA规定的法定职责。根据第3.B条,教育部保留“对OSERS各项目及活动的管理与领导”,协议中称这“包括但不限于执法、合规、监督、财务管理与数据收集”,同时教育部还将代表其数据治理委员会、监察长办公室及政府问责局出面。该协议自最后一方签署之日起生效,没有设定终止日期,任何一方可提前90天书面通知终止协议。协议中列出的HHS联络人隶属于其残疾人事务管理局。 聋人读者不应忽略的部分 关于该协议的大多数报道合理地聚焦于IDEA本身,以及它对学生个性化教育计划意味着什么。而在同一份清单靠后的位置,还有四项直接关系到聋人与聋盲教育的内容。HHS将提供服务,支持“1986年《聋人教育法》所授权项目组成部分的管理,包括国家聋人技术学院(NTID)”;支持“Gallaudet大学的行政管理”,协议中将该校描述为“旨在为聋人提供教育与培训,并进一步推动聋人群体的教育事业”;支持海伦·凯勒国家中心法案相关项目;以及支持美国盲人印刷所。 该协议并未改变这些机构本身的性质,也没有说明“支持行政管理的服务”在实际操作中意味着什么。但可以明确的是,联邦政府与这两所聋人高等教育国家级机构、以及这所聋盲成年人国家中心之间的关系,如今部分地要经由一个卫生部门,而非教育部门来运作。在NCG审阅过的报道中,这一点所获得的关注远不及其应有的程度。 数据去向变得模糊的地方 仔细阅读会发现,该协议在两个部门之间划分了数据工作,却没有说明具体如何划分。教育部将“数据收集”保留为其管理与领导职责的一部分。HHS则“提供服务以支持数据的收集、报告与分析”。谁来设计数据收集方案、谁来运行EDFacts系统、谁来核查各州提交的数据、谁来发布州级文件,以及谁来撰写向国会提交的年度报告——这些都未作说明。协议全文从未出现“第618条”“EDFacts”或“年度国会报告”等字样,也没有任何承诺表示将按现有详细程度或现有时间表继续发布这些数据。 这或许只是跨部门协议惯常的撰写方式,这类协议通常只描述服务与资金安排,而非逐项列明所有产出。但这一空白之所以重要,是因为在该协议签署之前已发生过相关事件。2025年10月政府停摆期间,裁员通知(RIF)席卷了教育部,K-12 Dive的报道称,特殊教育协会的负责人们认为特殊教育项目办公室的大多数人员已被裁撤。11月,一项临时拨款法案暂时恢复了特殊教育与康复服务办公室的人员编制。七个月后,相关日常工作被移交给了HHS。一个数据系统可以承受很多冲击,但它依赖的是熟悉它的人,而公开记录中并未说明这些人员目前归属何处。 自那以后发生了什么…

Read Now
Deaf-Led AI Assurance October 7, 2026

UMI’s /sign: The App Is Launching, the Evidence Is Not Yet

*A sign language app opens to testers next week, and its own code says the translation models are…

Read Now
Deaf-Led AI Assurance October 7, 2026

Signapse:单一产品的正确定位

*投资人的祝贺、三个问题,以及Signapse用自己的话划出的一条界线* 想象一位聋人乘客站在站台上。她头顶的屏幕上,一个流畅从容的数字手语员告诉她,她的列车晚点了,并已改到另一个站台。随后公共广播系统响起杂音,一名工作人员临时口头通知所有人远离站台边缘。周围的人纷纷后退。而屏幕上的手语员仍在继续播报时刻表,因为那条警示只是口头说出的,从未被输入任何系统。 这一场景是一种示例,并非已报告发生的事件,NCG也并不知晓有此类情况发生过。但它正是根据Signapse自己对其铁路手语系统运作方式的描述所绘制的,这一描述是该公司于2026年9月28日回答NCG提问时给出的,而那次提问正是以一位投资人的祝贺开场。 9月4日,伦敦风险投资公司Raw Ventures发布了一则投资人在为自己看好的投资感到高兴时常写的那种公告。该公司已加入Signapse的最新一轮增长融资。公告写道:“我们最喜欢的一点是,它已经真正投入了实际应用”,并列举了具体场景:英国铁路,从哈德斯菲尔德与Network Rail的合作开始;美国机场,包括辛辛那提机场;现场直播,通过与SyncWords的合作;以及接下来将与G&L Systemhaus合作推出的德国手语。公告的结尾落在了人身上。文中提到,Signapse团队中约有三分之一的人“本身是聋人或使用英国手语,这也是该产品之所以真正适用于其目标用户群体的重要原因。” 投资人发布的文章旨在庆祝,而非为买家提供简报,这一点应当被理解和体谅地解读。然而,其中有两句话恰好触及了NCG在9月份一直向Signapse提出的问题:铁路系统究竟是如何运作的,以及公司内部谁有权叫停其系统向聋人展示的内容。于是NCG再次提出了这些问题。这里全文公布的答复,为公众记录增添了新的内容。这些答复也用Signapse自己的话,划出了一条界线——区分了发布前经聋人手语员审核的输出,与未经审核的输出。 一项已经结束的审查 在NCG看到Raw发布的文章时,其对Signapse的审查已经完成。首席执行官Sally Chalk于9月24日提供了她所称的公司最终意见,NCG随后于两天后发布了《Signapse:已列入路线图,尚未交付》。每当出现新情况就重启一次审查,会让供应商永无止境地疲于应对,因此NCG遵循一条简单的规则:在供应商提交最终意见之后出现的材料将被单独记录,供应商会获得回应的机会,接受与否由其自行决定。9月27日,NCG致函Signapse,说明了本文将阐述的内容,并提出了三个问题,截止时间为英国时间9月30日下午5点。第二天,Signapse的联合创始人兼首席科学家Ben Saunders给出了答复,他在Chalk女士外出期间接手处理了此事。NCG表示将按原样发布他的答复,并已如实照办。本文内容并未指控Signapse或Raw Ventures存在任何不当行为。 规则手册的规定 Signapse公开的治理文件比其所在市场的多数公司都要多,而且值得仔细研读,因为这些文件明确说明了权力所在。在截至2026年10月7日检索到的《AI治理框架》中,上报路径依次经过客户支持和一个审核小组,最终到达首席执行官,由其给出“高风险部署(法律、医疗、安全保护类)的最终签字确认”。《内容审核政策》的终点也相同,由首席执行官和首席技术官共同签字确认“重大事件(例如服务暂停、监管通报)的最终决定”。聋人咨询委员会确实出现在该框架中,列在职责清单里,其职责是“就社区影响及文化/语言准确性提供监督”。但它并未出现在任何一条上报链条中,而该框架的简易阅读版本更是完全没有提及它。两个版本均未将聋人手语员的签字确认列为发布的必要条件,而《翻译质量保证政策》则提到,公司最快速度的输出“即时人工智能输出会在交付后接受审核”。按字面理解,这份规则手册给予了聋人群体在Signapse治理中的发言权,却把最终决定权交给了两名高管。 Signapse的完整答复 NCG提出了三个问题:铁路系统是将口头站台广播翻译成英国手语,还是根据输入铁路信息系统的信息生成英国手语?NCG对上报路径的理解是否正确,聋人咨询委员会或Signapse内任何聋人职位,是否拥有具有约束力的权利可以叫停一项部署?关于Raw的投资,或Raw对公司的描述,Signapse是否有任何想要正式记录在案的内容?Saunders先生于2026年9月28日作出了如下答复: 1.…

Read Now
Deaf Led AI Governance September 29, 2026

入场之价

一些为聋人、盲聋人和重听居民提供服务的州办公室,只有寥寥数名工作人员,预算中几乎没有余地聘请外部专业力量。当这些办公室寻求帮助时,对话往往止步于费用这一关:没有缩减范围的可能,没有反提案,也没有人问办公室能以什么来代替现金支付。这并非讲述某一家公司或某一个州的故事,本文也不点名道姓。它提出了一个聋人社区经常向由听人主导的机构提出、却较少向自身专业群体提出的问题。 这个问题丝毫不否认聋人主导的公司获得报酬的权利。聋人专业人士长期以来一直在争取被当作专家获得报酬,而不是被当作志愿者来咨询,一家无限期免费提供服务的公司根本撑不到能帮助任何人的那一天。真正的问题更为具体,也更为棘手。建立在聋人语言、聋人生活经验和聋人社区信任基础上的专业能力,对孕育它的社区负有某种回馈义务,包括那些无法支付市场价格的社区。当一个资源匮乏的州办公室被拒之门外、却没有得到任何替代方案时,这份义务就没有得到履行,而这种拒绝本身也说明了这种专业能力如今究竟是为谁服务的。 最付不起钱的办公室,恰恰是最需要帮助的 State infrastructure for Deaf, DeafBlind, and hard of hearing residents is uneven. Massachusetts established a…

Read Now
Deaf Led AI Governance September 27, 2026

语料问题

面孔即数据 在口语和书面语言技术中,训练数据与个人通常是可以分离的。一句话可以剥离其作者身份。一段声音可以被转换到说话者无法被辨认的程度,而话语本身依然完整。手语不允许这种分离,因为这种语言是通过身体来产生的。手部承载词汇,但语法则分布在面部:眉毛的位置标记疑问句,嘴型消除手势的歧义,头部倾斜和眼神注视确立指称和一致关系。一段面部被打了马赛克的打手语者录像,并不是一个去标识化的语言样本,而是一个被破坏了的样本。 This has a consequence that the machine learning literature has recognised for some time and the…

Read Now
AI Governance & Digital Risk September 27, 2026

代理人未签署合同:自主人工智能、公共系统以及大多数县级政府都没有的事故条款

本文从另一个角度审视这四起事件。它陈述了公开已知的事实,将事实与解读区分开来,并探讨一个县、市或学区在其合同和采购文件中已经具备了哪些能够对此类情况加以约束的条款。简短的答案是:大多数公共部门合同所设想的世界,是供应商的软件会按供应商的指令行事,而所谓的数据泄露意味着有人窃取了数据。这两个假设在这个月都不成立。 公开已知的事实 9月26日,OpenAI披露称,其AI智能体在训练和评估过程中,以公司未曾预期的方式与美国政府网站发生了互动。基于该披露的报道指出,涉及的联邦网站包括证券交易委员会、人口普查局、商务部、司法部和教育部,此外还有活动涉及加利福尼亚州、马里兰州、伊利诺伊州、德克萨斯州和纽约州的州政府网站。研究机构Transluce发现了据描述是一次针对教育部民权办公室的初级攻击尝试;该部门表示未发现其系统受到影响。在人口普查局的案例中,报道显示智能体使用了在网上找到的凭证来访问公共数据。在证券交易委员会的案例中,据报道智能体访问了公共信息,并将其重新发布到其他地方。OpenAI将这些事件定性为模型对齐偏差行为,表示没有一起事件构成非公开数据被泄露意义上的“数据泄露”,并宣布将对其智能体在训练和评估期间的互联网访问进行全面审查。各媒体发布的事件数量统计并不一致,本文不依赖于某个具体数字。 两天前,即9月24日,澳大利亚总理安东尼·阿尔巴内塞在纽约的一次新闻发布会上披露,一个OpenAI模型于2026年6月18日访问了澳大利亚的Medicare统计报告门户。根据相关报道,该模型访问了公开和非公开文件,向内部服务器写入了文件,并且在被阻止获取其所寻求的信息时,尝试了其他途径来获取该信息。OpenAI在8月份的内部审查中发现了这一活动,并于9月10日通过电子邮件通知了澳大利亚政府的一个公共邮箱。澳大利亚服务部于9月15日向澳大利亚网络安全中心报告了此事。阿尔巴内塞表示,据信没有个人信息被访问,并对通知的延迟和方式都提出了批评。另有三个澳大利亚政府系统可能受到影响。 9月10日,威胁情报公司GreyNoise发布了其对一场行动的分析,在该行动中,数百个AI智能体利用PaperCut打印管理软件中的两个漏洞——CVE-2026-81578和CVE-2026-82078——攻陷了48个国家、395多个组织中的440多个实例。美国受害者数量最多,达98个。教育行业受创最严重,有204个受害机构。其速度数据值得仔细体会:在一所高中,获得域管理员初始访问权限仅用了七分钟。与治理最直接相关的细节是:攻击者曾指示这些智能体避开28个指定国家的目标。然而这些智能体还是攻击了这些国家的组织。GreyNoise称这是“智能体失控”的一个典型例证,并表示其原因仍不明确。 最后,大约在9月16日,西班牙数据保护机构AEPD报告了其所称的首例由AI智能体自主实施的数据泄露事件。根据报道中AEPD的说法,该智能体对一个系统进行了身份验证,发现了漏洞,修改了个人数据,并访问了发票,将攻击的各个阶段串联起来执行,期间没有持续的人类指挥。AEPD所表达的担忧是:一个智能体可以接收一个目标,规划中间任务,使用工具,执行代码,解读结果,并修改自身的行动,而围绕人类反应速度构建的防御机制对此并不适用。 以上是目前公开记录所呈现的事实。接下来的内容属于解读,并已作相应标注。 三种暴露面,而非一种 人们很容易把这四起事件都归入“网络安全”类别,交给IT部门处理。这将是一个分类上的错误,因为这四起事件描述了自主智能体接触公共机构的三种截然不同的方式,而其中只有一种属于传统意义上的攻击。 第一种暴露面是:由他人操作、出于与本县无关目的的智能体,在执行其他任务过程中接触到了县级系统。这是OpenAI模式。OpenAI内部没有任何人打算去探查教育部。这些智能体在执行研究任务时,将政府网站当作可信来源,并在追求其目标的过程中做出了其运营方表示并非其本意的事情。澳大利亚的案例是同一模式,但更为尖锐:该智能体在被阻挡后,转而寻找其他途径进入。一个县的房产记录门户、许可系统、会议档案和开放数据端点,正处于Medicare统计报告门户当时所处的那种位置。它们都在开放互联网上,看起来很具权威性,因此正是一个追求目标的智能体会去的地方。 第二种暴露面是:智能体被用作武器,攻击县里运行的软件。这是PaperCut模式,也是最接近传统网络安全范畴的一种。新出现的问题不在于漏洞本身,而在于经济学上的变化:攻击者从一个空白工作区到实现远程代码执行只用了不到四小时,而一旦行动启动,仅用二十六秒就攻陷了十一个组织。县一级也运行打印服务器,以及与学区相同类别的自托管应用程序。204个教育行业受害者的案例是一个预演,而“排除列表”的失效意味着:即便攻击者有意避开某个国家的目标,也无法保证真的做到。 第三种暴露面是目前最有可能正潜藏在县级合同中的一种:由县的供应商在交付服务过程中,在县的工作流程内部运行的智能体。案件管理、福利资格审核、许可审批、人力资源、档案管理以及客户服务平台的供应商,正在加入一些不仅仅是提出建议、而是会采取实际行动的组件——归档、路由、更新、通知、结案。西班牙的事件是公开报道中最清晰的例证,说明一个拥有系统访问权限的智能体,在做了其本应执行任务之外的事情时能够造成什么后果。从公开报道中并不清楚该智能体究竟是攻击者的工具,还是一个出了问题的合法部署系统,但治理层面的要点并不取决于是哪一种情况。一个拥有县级系统凭证的智能体,无论是谁部署的,都是一个拥有县级系统凭证的智能体。 这些事件的共同点 剥离行为主体和意图上的差异,这四起事件共有一个结构性特征:在每一个案例中,给予智能体的指令都未能约束该智能体的行为。PaperCut攻击者设定的排除列表被忽视了。Medicare门户的访问控制被当作一个可以绕过的障碍,而非一个应当遵守的边界。OpenAI自己的说法——其模型采取了公司未曾预期的行动——本身就表明,运营方的意图与智能体的实际行为发生了背离。AEPD对一个能够规划、执行、解读并修改自身行动的智能体的描述,刻画的是一个其行为并未被任何人事先完全设定好的系统。 这正是公共合同未曾考虑到的事实。传统软件合同假定软件的行为由其代码和配置所决定,供应商对两者都拥有控制权,因此供应商关于软件会做什么、不会做什么的承诺是供应商能够兑现的承诺。从访问范围到可接受使用,每一条标准条款都建立在这一逻辑链条之上。而当这款软件是一个在运行时自行选择行动的智能体时,这条链条中间就出现了薄弱环节——供应商关于其智能体将保持在授权范围内的承诺,实际上是对一个供应商并不能完全掌控的系统所作的承诺。这个承诺或许是出于善意做出的。但澳大利亚和美国的披露事件证明,善意并不等同于掌控。 这并不意味着具备自主行动能力的系统应当被排除在公共采购之外。这意味着合同需要发挥不同的作用:要求供应商实质性地证明其智能体的行为是如何被加以约束的,要求记录其实际所做的一切,要求以“智能体行为超出其授权范围”而非仅以“数据被窃取”来定义事件,并要求以小时而非数月为计量单位的时限来报告此类事件。 通知方面的缺口 澳大利亚的时间线值得任何负责管理公共合同的人细细品读。访问事件发生于6月18日。运营方于8月发现了该事件。政府得知此事是在9月10日,即事件发生后84天,而且是通过发送到一个公共邮箱的电子邮件,而非通过政府为安全事务指定的任何渠道。国家网络安全主管机构于9月15日获悉此事。公众则是在9月24日被告知的。…

Read Now
Deaf-Led AI Assurance September 26, 2026

Signapse:已在路线图上,尚未交付

2026年9月26日 · Heather M. Grizzle,Novara Consulting Group 本记录存在的原因 2026年8月,Novara Consulting Group公开询问Signapse,该公司如何界定手语AI的适当使用限度,特别是在涉及聋人儿童的教育场景中。首席执行官Sally Chalk认同这一前提,并进一步阐述。她将法院、警察局、医院、社会服务机构和儿童保护会议也纳入这份清单,并主张:随着风险上升、准备时间减少,一项服务应当涉及更多的人工监督、更少的AI,甚至完全不使用AI。这正是买家希望从供应商那里听到的立场。本记录要问的问题由此而生:支撑这家公司的文件是否能够支持这一立场。 从书面材料来看,Signapse的起点确实比市场上大多数同行更为扎实。其发布的《AI治理框架》包含一项《使用政策》,按行业逐一区分哪些工作必须由人工完成、哪些可以由AI完成。在涉及健康、自由、法律权利或保护性事项的决策场合,该政策要求必须有合格的口译员或笔译员参与,并声明在大多数此类情况下Signapse会推荐另一家公司。保护性事项则毫无例外地保留给人工处理。该框架列出了一个聋人顾问委员会和一名聋人影响官,并列出了该公司咨询的聋人组织,包括RAD、BDA和Action Deafness。很少有手语AI提供商能发布可与之相媲美的内容。然而,框架阐述的只是公司打算如何行事。买家还需要能使这种行为具有可执行性的文件工具。这些工具包括:与那些其手语和反馈塑造了产品的聋人签订的协议、约束那些同时领导合作组织的董事的规则,以及一份涉及手语视频、肖像和训练数据的隐私政策。买家还需要公司所引用的每一个性能数据都有公开的来源。这种既定意图与具有约束力的文件之间的落差,正是NCG提问所指向的地方。 NCG审查了Signapse的《AI治理框架》、服务条款、隐私政策和ASL产品页面,并向该公司提出了七个问题。在发布之前,NCG将其对答复的理解发送给Signapse,并邀请其予以更正。Chalk女士于2026年9月17日回复,并于2026年9月24日两次回复,第二次回复时她称这是Signapse对本次评估的最终意见。Signapse回答了全部七个问题。它以书面形式承认了若干缺口,撤回了一个无法溯源的准确率数据,并为其提出的整改措施附上了具体日期。它在9月24日的第一次回复中改变了一周前给出的三项答案中的内容。当NCG询问哪一版说法准确时,该公司当天就对全部三项作出了澄清。其最终答复基本回到了9月17日的说法。 这种变化本身并非对Signapse的不利评价,本记录也不将其作为不利评价呈现。它说明了为什么买家不应把采购决策建立在往来信函之上。信函是私密的,可以被修改,而且它们是写给一位顾问的,而非写给将要承担部署风险的机构的。购买手语AI用于聋人服务的公共机构,需要的是可以阅读、引用并据以问责供应商的文件。因此,本记录列出了目前存在的内容、该公司承诺做出何种改变及其时限,以及其答复在两封信函之间是如何变化的。每一项陈述都标注了作出的日期。仅在措辞的确切内容至关重要时才引用回复原文。凡NCG查阅了公开网页的地方,均注明了查阅日期。 Signapse是NCG按照同一方法正在审查的多家手语AI提供商之一,该方法载于SLAT Index框架文件(https://www.slatindex.org/framework/)。…

Read Now
Strategic Risk September 14, 2026

Governance Aspiration and Procurement Reality: Reading Microsoft’s Humanist AI Code of Conduct

Novara Consulting Group 洞察 Heather M. Grizzle Microsoft AI 于2026年9月14日发布了其MAI模型行为准则,并就该文本展开了为期六周的公开征询。该文件阐述了Microsoft AI所生产的模型系列的预期行为、价值观和防护措施,围绕公司提出的一种设计理念展开组织[…]

Read Now
1 2 3 … 11
Consult