Deaf-Led AI Assurance

Signapse:已在路线图上,尚未交付

2026年9月26日 · Heather M. Grizzle,Novara Consulting Group 本记录存在的原因 2026年8月,Novara Consulting Group公开询问Signapse,该公司如何界定手语AI的适当使用限度,特别是在涉及聋人儿童的教育场景中。首席执行官Sally Chalk认同这一前提,并进一步阐述。她将法院、警察局、医院、社会服务机构和儿童保护会议也纳入这份清单,并主张:随着风险上升、准备时间减少,一项服务应当涉及更多的人工监督、更少的AI,甚至完全不使用AI。这正是买家希望从供应商那里听到的立场。本记录要问的问题由此而生:支撑这家公司的文件是否能够支持这一立场。 从书面材料来看,Signapse的起点确实比市场上大多数同行更为扎实。其发布的《AI治理框架》包含一项《使用政策》,按行业逐一区分哪些工作必须由人工完成、哪些可以由AI完成。在涉及健康、自由、法律权利或保护性事项的决策场合,该政策要求必须有合格的口译员或笔译员参与,并声明在大多数此类情况下Signapse会推荐另一家公司。保护性事项则毫无例外地保留给人工处理。该框架列出了一个聋人顾问委员会和一名聋人影响官,并列出了该公司咨询的聋人组织,包括RAD、BDA和Action Deafness。很少有手语AI提供商能发布可与之相媲美的内容。然而,框架阐述的只是公司打算如何行事。买家还需要能使这种行为具有可执行性的文件工具。这些工具包括:与那些其手语和反馈塑造了产品的聋人签订的协议、约束那些同时领导合作组织的董事的规则,以及一份涉及手语视频、肖像和训练数据的隐私政策。买家还需要公司所引用的每一个性能数据都有公开的来源。这种既定意图与具有约束力的文件之间的落差,正是NCG提问所指向的地方。 NCG审查了Signapse的《AI治理框架》、服务条款、隐私政策和ASL产品页面,并向该公司提出了七个问题。在发布之前,NCG将其对答复的理解发送给Signapse,并邀请其予以更正。Chalk女士于2026年9月17日回复,并于2026年9月24日两次回复,第二次回复时她称这是Signapse对本次评估的最终意见。Signapse回答了全部七个问题。它以书面形式承认了若干缺口,撤回了一个无法溯源的准确率数据,并为其提出的整改措施附上了具体日期。它在9月24日的第一次回复中改变了一周前给出的三项答案中的内容。当NCG询问哪一版说法准确时,该公司当天就对全部三项作出了澄清。其最终答复基本回到了9月17日的说法。 这种变化本身并非对Signapse的不利评价,本记录也不将其作为不利评价呈现。它说明了为什么买家不应把采购决策建立在往来信函之上。信函是私密的,可以被修改,而且它们是写给一位顾问的,而非写给将要承担部署风险的机构的。购买手语AI用于聋人服务的公共机构,需要的是可以阅读、引用并据以问责供应商的文件。因此,本记录列出了目前存在的内容、该公司承诺做出何种改变及其时限,以及其答复在两封信函之间是如何变化的。每一项陈述都标注了作出的日期。仅在措辞的确切内容至关重要时才引用回复原文。凡NCG查阅了公开网页的地方,均注明了查阅日期。 Signapse是NCG按照同一方法正在审查的多家手语AI提供商之一,该方法载于SLAT Index框架文件(https://www.slatindex.org/framework/)。…

Read Now