无障碍、专业知识与合法性问题
每个时代都会催生一些技术,它们的出现似乎领先于管理它们所需的制度。铁路在现代安全监管出现之前就已经改变了交通运输。广播在社会建立发牌与监督规范之前就已经重塑了通信方式。互联网在政府、教育工作者和公民理解它将如何深刻改变公共生活之前,就已连接了数十亿人。人工智能如今正处于类似的地位。其能力迅速扩展,应用日益增多,倡导者也自信地谈论着变革。然而,在这种兴奋之下,潜藏着一个更为安静、也更为重要的问题:谁有权决定一项技术何时才算准备好,可以成为人们所依赖的系统的一部分?
这个问题看似简单,实则不然。现代社会已经习惯于权威结构。医生需要获得执照。建筑师需遵循专业标准。飞机制造商须经过严格的认证程序。公共基础设施项目须接受审查与监督。这些体系并非完美,但它们反映了一个被广泛接受的原则:当决策会对他人产生重大后果时,权威不应仅由热情、专业知识或市场需求来决定,还必须伴随问责。潜在影响越大,就越需要能够评估风险的合法机制。
无障碍技术在这一格局中处于一种特殊位置。它们常被呈现为赋能的工具,而非治理的对象。其目的是消除障碍、增加参与、扩大机会。这样的目标很难被反对。然而,良好的初衷从未消除对监督的需要。事实上,历史表明恰恰相反:一项使命看起来越崇高,人们就越容易忽视这样一个问题——谁有权代表他人定义成功、评估准备程度、并承担风险。
这种张力在技术创新时期表现得尤为明显。新系统往往在评估其标准出现之前就已问世。早期采用者进行试验。倡导者宣扬各种可能性。供应商推销各种功能。机构寻求效率提升。社区寻求融入。每一方都带来了不同的视角,但没有哪一方必然拥有普遍公认的权威,来决定试验何时应当转化为实施。其结果是形成了一个治理真空:尽管人们对谁应当做出决策仍存在不确定性,决策却仍在不断被做出。
这一真空常常由“可见度”来填补。有影响力的个人凭借声誉获得权威。组织凭借熟悉度获得合法性。技术凭借采用率获得可信度。然而,可见度并不等同于合法性。历史上不乏这样的例子:某些想法在获得可靠性之前就已获得了流行度。市场奖励创新,却并不总是奖励审慎。公众的热情或许能加速采用,但热情无法替代证据,影响力也无法替代问责。
可见性与合法性并不相同。
无障碍领域尤具挑战性,因为失败的后果往往分布不均。决定部署某项技术的人,未必是承担其失败后果的人。采购官员可能批准一套系统,供应商可能对其进行营销,会议听众可能为其欢呼。然而,由此产生的风险最终可能落在依赖该系统进行教育、就业、医疗、紧急通信或公民参与的个人身上。做出决策的权威与承担后果的责任,并不总是位于同一处。
这一现实提出了一些令人不安的问题。谁来决定一项无障碍技术何时准确到足以供公众使用?谁来确定可接受的风险水平?谁来判断透明度是否充分?谁来评估关于有效性的说法?在许多领域,这类问题本应通过正式机构、专业标准或监管框架来解决。然而,无障碍领域的创新往往运作于一个更为碎片化的环境中。决策分散在供应商、倡导者、采购官员、研究人员、资助者和社区组织之间。责任变得共担,权威变得分散,问责变得难以追溯。
问题并不在于缺乏专业知识。无障碍社群拥有非凡的专业知识。研究人员贡献技术知识,从业者贡献专业经验,社区成员贡献切身经历,政策制定者贡献制度视角。问题在于,专业知识本身无法回答权威问题。专业知识说明了什么是可以做到的,而权威则决定谁应当判断是否应当去做。混淆这两个概念,可能会产生技术上令人瞩目、但制度上却十分脆弱的系统。
这一区别之所以重要,是因为权威归根结底关乎合法性。合法的权威不仅仅是影响结果的能力,更是向受影响者证明决策正当性的能力。一个合法的权威结构能够解释标准为何存在、风险如何评估,以及在发生失败时存在何种纠正机制。它之所以能建立信心,并非因为错误不可能发生,而是因为当错误发生时,问责依然清晰可见。信任源自尽责的管理,而非完美无缺。
无障碍创新的未来,不仅取决于技术的进步,也取决于治理的进步。人类社会用了数百年时间,发展出能够评估安全性、管理风险、分配责任的制度。人工智能如今促使无障碍社群思考:对于那些日益中介着沟通、参与与获取的技术而言,是否也需要建立类似的结构。问题已不再是创新是否会继续——它必将继续。问题在于,权威是否会与之同步发展。
因此,未来十年最重要的治理问题,或许与算法、数据集或性能指标关系不大,而更可能关乎一个古老得多的问题。在一个社会能够判断一项技术是否值得信赖之前,它首先必须确定谁拥有做出这一判断的权威。在这一问题得到解答之前,关于创新的讨论都将是不完整的。我们将继续追问技术是否有效,却忽略了追问:是谁决定“有效”就已足够。