看着医疗系统把实验性的手语AI当作又一项可以优化的运营成本来对待,这种做法让人深感不安。
医院不是不成熟无障碍技术的试验场。杂货订单翻译错误只是不便,但手术并发症、用药剂量、精神科评估或紧急同意书的解释一旦被误译,却可能改变一个人的人生轨迹。
这一区别之所以重要,是因为围绕手语AI的公共讨论,大多仍停留在演示、会议舞台、投资者演示文稿和精心剪辑的社交媒体片段这一安全世界里。这些系统几乎总是在理想条件下展示:节奏干净、短语简单、词汇可预测、情感复杂度极低,环境也经过设计,让技术看起来天衣无缝。而真实的医疗沟通并非如此运作。
医疗环境是混乱的。患者会哭泣,医生会互相打断,护士一边分心多任务一边快速说话,家属会同时提问。术语会随着专科、紧急程度和语境而迅速变化。一位讨论腹痛的患者可能突然披露创伤史、用药混乱、家庭暴力、自杀念头,或是他们自己都难以完全描述清楚的症状。人类译员在困难环境中尚且举步维艰,因为医疗沟通本身就极为复杂。假装这种复杂性会因为屏幕上的化身能够比划出手语就消失不见,这不是创新,而是幻想。
最令人担忧的部分,未必是这项技术本身的存在。无论人们喜不喜欢,人工智能都会在无障碍领域中持续演进。真正令人担忧的是,一些机构在治理结构、验证标准、问责机制和临床保障措施尚未成熟到足以让人信任之前,就在积极推动其大规模部署,试图使其“正常化”。
当聋人专业人士自己也参与推广那些仍带有未解决风险的系统时,这种担忧变得更加令人不安。仅有聋人参与,并不能自动使一款产品变得合乎伦理。代表性无法替代问责,就如同营销无法替代安全测试一样。一位聋人创始人、顾问、开发者或咨询师,仍然可能帮助推动某款产品进入这样的环境:一旦失败,后果将直接落在聋人患者身上。
而做出采购决策的人,往往无法独立评估他们所购买产品的质量。
这正是没有人愿意坦诚讨论的治理缺口。
代表性无法替代问责,就如同营销无法替代安全测试一样。
大多数医院管理者、采购官员、合规官员和技术高管都是听人。许多人对ASL完全没有掌握。他们可能无法识别语法扭曲、语义偏移、缺失的语境信息、不自然的面部语法、节奏失误、分类词不准确,或那些能彻底改变翻译质量的细微含义变化。对于没有语言学框架进行批判性评估的人来说,一个打磨精致的化身可能显得极具说服力。
这造成了一种危险局面:视觉上的精美可能被误认为是沟通的可靠性。
然而,医疗法律并不依据“感觉”运作。根据《美国残疾人法案》(ADA)、第504条款和第1557条款的义务,医疗服务提供者仍然有责任确保有效的沟通渠道。AI供应商的存在,并不能将这一责任从机构身上转移出去。如果翻译系统在关键的医疗沟通中失效,患者仍将承受后果,无论该技术在采购演示中看起来多么令人印象深刻。
而医疗沟通失误很少是小事。
涉及过敏、用药说明、精神症状、出院限制、拒绝治疗或知情同意程序的误解,可能造成远超一般不便的责任风险。更重要的是,它可能损害患者自主权本身。聋人患者不应仅仅因为机构认为自动化听起来很“现代”,就被迫成为大规模无障碍实验的非自愿参与者。
在手语AI系统进一步深入医疗环境之前,基准期望应当极其严格。
- 应存在独立的语言学验证。
- 母语手语使用者应参与严格测试。
- 失败情况应予以公开记录。
- 人工升级渠道应始终随时可用。
- 患者应保留拒绝自动化系统、转而选择合格译员的权利。
- 盲聋人士的无障碍需求应单独评估,而非作为事后补充考虑。
- 临床风险分级应在部署之前就已建立,而非事故发生之后才制定。
目前,该行业的大部分注意力似乎仍集中在证明手语AI“能够运作”本身,却跳过了一个远为重要的问题:在沟通错误可能带来改变人生后果的环境中,它是否能够安全运作。
这不是一个小疏漏。
这就是整个问题的核心所在。
聋人群体不应仅仅因为某项技术看起来具有未来感,或因为有聋人专业人士与其相关联,就被迫为其鼓掌喝彩。无障碍技术应当接受与任何其他影响人类健康、公民权利、机构责任和公众信任的系统同等的审视。