所有人给出的建议在机制层面上都是错误的
针对研究生使用人工智能的标准建议大致如下:把它当作工具而非替代品,自己动脑思考,并且要明白教师是敏锐的,最终会察觉到缺乏深度的作品。前两条主张是成立的。第三条是错误的,而这个错误至关重要,因为它描述的是一种人类判断的过程,而这种过程如今在很大程度上已被取代。
大多数院校检测人工智能使用,靠的并非经验丰富的阅读者的辨识力。它们依靠的——或者说自认为依靠的——是嵌入在提交平台中的自动分类器,这些分类器会为文档赋予一个概率分数,并将其纳入学术诚信审查流程。因此,研究生面临的问题不是教授是否会察觉到肤浅的思考,而是统计分类器是否会标记她的写作,以及一旦被标记,她将面临什么后果。
Novara Consulting Group 的立场是:高等教育中的人工智能检测是一种自动化决策系统,会对个人做出具有实质后果的判定;它被部署时所经历的验证,远低于院校对几乎任何其他影响学生地位的工具通常要求的水平;而且其错误分布对多语言写作者和残障写作者影响最为沉重。治理问题出在制度层面,后果却落在个人身上。
检测器所测量的对象
人工智能写作检测器并不能识别作者身份。它估算的是一段文本在统计意义上有多“不寻常”,主要通过两个指标:困惑度(perplexity),衡量在给定前文的情况下每个词的可预测程度;以及突发性(burstiness),衡量文档中句子结构和长度的变化程度。高度可预测且结构统一的文本,会被判定为更可能是机器生成的。
这就是整个机制,而将其如此直白地表述出来,问题便暴露无遗。检测器测量的并非某人是否写了某段文字,而是这段文字是否不寻常,并将“不寻常”当作“属于人类”的证据。谨慎、朴实、结构一致、用词保守的写作,会被判定为“像机器”,因为这正是该模型用来代替“机器特征”的替代指标。
这会产生一群特定且可预见的被误判者,而这绝非随机分布。
错误率,以及谁在承受它
2023年7月发表于Patterns期刊的一项研究,由斯坦福大学的Liang及其同事完成,发现在所测试的七种检测器中,非母语英语使用者撰写的TOEFL作文,约有百分之六十一被标记为人工智能生成,而母语为英语者所写的可比文本,其误报率则接近于零。这些作文是由通过标准化考试来证明其英语水平的真实人类所写。作者直接指出了其中的机制:检测器是根据文本困惑度进行判断的,而使用第二语言写作会产生更低的困惑度。
Independent testing has repeatedly failed to support vendor accuracy claims. Weber-Wulff and colleagues, publishing in the International Journal for Educational Integrity in December 2023, evaluated a range of detection tools across multiple document types and concluded that they were neither accurate nor reliable. Vendors, for their part, generally decline to publish a false positive rate for their products, which means an institution adopting one cannot state the error rate of an instrument it is using in disciplinary proceedings.
院校已开始据此采取行动。范德堡大学(Vanderbilt University)于2023年8月停用了Turnitin的人工智能检测功能,并公布了促成这一决定的简单算术:百分之一的误报率,应用于七万五千份提交的论文上,每年将产生约七百五十起错误指控。此后其他院校也纷纷跟进,自那以来已发布的大学指导方针的方向,是将检测器分数视为进行调查的提示,而非视为定论。
还有一个市场事实,理应纳入任何机构层面的评估之中。数家营销检测工具的供应商,同时也在营销旨在规避检测(包括规避它们自家检测工具)的“人性化”产品。在任何其他保障性场景中,一个既卖测试又卖通过测试之手段的供应商,理应被取消提供其中任何一项的资格。
在任何其他保障性场景中,一个既卖测试又卖通过测试之手段的供应商,理应被取消提供其中任何一项的资格。
这一机制波及的人群,以及为何这是错误的对象
已有文献记录的这种差异,涉及的是非母语英语写作者,其原因是机械性的,而非神秘莫测的。基于困惑度的检测,会惩罚更简单的词汇和更规则的语法构造。使用第二语言写作的人,恰恰会产生这样的特征,这并非因为其写作是机器生成的,而是因为用第二语言构造出不寻常的措辞,远比构造出正确的措辞更难。
同样的机制还波及了一个几乎从未受到关注的群体,而这正是本公司存在的意义所在——去关注这一群体。
一位母语是美国手语(ASL)的聋人(Deaf)写作者,写英语时相当于在使用第二语言,由此产生的句法保守性,恰恰正是检测器判定为“像机器”的特征。一名患有阅读障碍的学生,若使用文字预测、语法辅助或结构化写作支持——这些都是常见且往往经过正式批准的辅助措施——所产生的文本会经过辅助工具的规范化处理。一名患有运动障碍、通过语音转文字进行写作的学生,其产生的文本会受到听写软件自身语言模型的影响。一名使用翻译辅助工具的学生,其输出会带有翻译系统本身的统计特征。
在每一种情形中,正是这项辅助措施引发了标记。使用了院校批准的辅助手段的学生,反而比不需要这种手段的学生更可能被指控,而这项指控附带一个数字,却没有任何关于该数字所衡量内容的解释。她随后被要求证明自己独立完成了作品——这是要求她证明一件不存在的事,而她恰恰是最没有能力满足这一要求的人。
一个院校,若既批准了某项辅助技术的使用,又同时运行一个会惩罚该技术输出结果的检测器,那么它就在自己的纪律处分流程中埋下了一个自相矛盾之处。院校很可能并未察觉这一点,因为残障服务办公室与学术诚信办公室通常并不会审查彼此所使用的工具。高等院校依据《美国残疾人法案》(Americans with Disabilities Act)及《康复法案》(Rehabilitation Act)第504条,负有提供学业调整措施、并避免采用会将残障学生排除在外的做法的义务。一种系统性地标记经批准的辅助措施所产生成果的检测做法,与这两项义务都难以相容。
其证据标准低于任何可比事物
不妨考虑一下:在依据任何其他会影响学生地位的自动化工具采取行动之前,院校通常会要求具备哪些条件。
一项入学考试需要公开的效度证据、既定的信度、跨人口群体表现的详实记录,以及站得住脚的分数线。一项引发诚信转介程序的监考工具,至少需要录像可供复查。一项残障认定需要相关文件记录以及一位具名的决策者。而一个院校若仅凭一个无从解释的数值分数——该分数由一种供应商拒绝披露其错误率的工具生成——就做出具有实质后果的决定,通常会被认为是武断行事。
人工智能检测分数却被区别对待,而原因似乎在于其“外观归属”而非原则本身。它们是嵌入在院校已经信任的查重工具内部出现的,看起来就像旁边那个相似度指数一样,而且它们是通过采购流程被采用的,而非通过学术治理程序。相似度指数至少指向一份学生可以查阅并质疑的原始文献。而人工智能分数则什么都不指向。没有来源,没有段落,没有比对,学生也没有任何途径去审查这项指控的依据。
更好的院校做法是把检测器的输出当作分诊手段而非证据:将其视为开启对话的提示,让学生在对话中解释自己的论证思路,梳理自己的草拟过程,并讨论所用的资料来源。这才是正确的姿态,但值得注意的是,这种做法本身也是一种让步。如果检测器的输出仅仅是“需要更仔细审视”的一个理由,而真正决定结果的是这番审视过程本身,那么检测器实际上是一种决定“哪些学生会被调查”的机制。鉴于上述错误分布,它就是一种决定“多语言学生和残障学生更常被调查”的机制。
研究生实际应该怎么做
有用的建议不是要更努力地让自己“听起来像人”,这种建议既是一种贬低,也是不可能实现的。真正有用的做法,是保留记录——原因和任何面对无法解释的自动化裁定的机构应当保留记录的原因一样:这类指控在没有过程证据的情况下是无法被证伪的,而过程证据必须在需要之前就被创造出来。
在能保留版本历史的环境中起草文稿,并且不要关闭这项功能。一份有着两个月修改痕迹的文档,其证明力是任何关于写作风格的争辩都无法比拟的。保留研究笔记、带注释的资料来源和提纲,并注明日期。若使用了辅助工具或语言支持工具,应依照课程规定的政策提前披露,而非等到被标记后才披露,因为提前披露能把一种辩护转化为一份记录。若某项辅助措施涉及写作支持,应确保残障服务办公室已将其记录在案,并且要明白这份记录如今同时也是诚信文件。此外,要能够口头讲清楚论证思路,这不是因为教授的主观判断才是保障,而是因为这类问题真正得以解决,靠的正是这种结构化的对话。
这一切都与欺骗无关。这只是任何人在面对一个无法被审查、却可能对自己做出指控、并要求自己反驳的系统时,理应采取的做法。
院校应当建立的机制
有四个问题,学术诚信办公室应当在检测器的输出结果送达学生之前就能够回答。
- 这一工具的误报率是多少,基于什么样的样本群体测得,由谁确立。如果供应商拒绝说明,这本身就是一项调查结论,应当被如实记录下来,而不是被当作信息缺失来处理。
- 该工具在院校所服务的各类群体中的表现分别如何,包括多语言学生、国际学生以及使用经批准的辅助技术的学生。如果一所院校服务着这些群体,却无法回答这一问题,那就说明它尚未针对自身的具体情境评估过这一工具。
- 该输出结果被赋予多大的证据权重,这一点是否已书面明确规定,以及是否有任何不利认定完全建立在其基础之上。如果仅凭一个分数就能启动一项处分程序,那么该院校就是把一种未经验证的工具当作了触发纪律处分的依据。
- 谁来审查经批准的辅助措施与检测输出结果之间的相互作用。如果无人负责此事,该院校就应当假定这种相互作用是不利的,因为这一机制必然导致这种结果。
结语
主张研究生应当独立思考、捍卫自己的观点、培养真才实学而非走捷径的建议是正确的,而且在任何时代都会是正确的。但这一建议并未回应学生实际面临的风险——他们所面临的风险,不是被发现思想肤浅,而是被一个衡量统计学“不寻常性”的分类器标记,进而被要求证明一件不存在的事。
这种风险的分布是不均衡的,而其分布方式恰恰与诚信政策本应产生的效果背道而驰。最有可能被错误指控的学生,是那些用第二语言写作的人、那些以第一语言进行手语表达的人,以及那些使用了院校正式批准的辅助措施的人。他们之所以更频繁地被调查,并非因为他们更可能作弊,而是因为一种本应代表“机器写作”的替代指标,结果却变成了代表“受限制状态下写作”的替代指标。
院校并非有意选择了这一结果。它们是在一次未经验证的采购决策中获得了这一结果,而且只要没有人提出那些本应在部署之前就提出的问题,它们就将继续产生这一结果。
参考文献
Liang, Weixin, Mert Yuksekgonul, Yining Mao, Eric Wu, and James Zou. “GPT Detectors Are Biased Against Non-Native English Writers.” Patterns 4, no. 7 (July 2023).
Weber-Wulff, Debora, et al. “Testing of Detection Tools for AI-Generated Text.” International Journal for Educational Integrity 19 (December 2023).
Vanderbilt大学教学中心,关于关闭Turnitin人工智能检测功能的声明,2023年8月。
1990年《美国残疾人法案》和1973年《康复法案》第504条,适用于高等院校及学术调整事宜。