一起被质疑的闯红灯摄像头罚单揭示了关于AI治理、私营供应商、公共数据与机构问责的什么问题
Novara Consulting Group | AI治理 × 地方政府 | 2026年8月
一位居民打开市政府寄来的信封，里面是一项指控：一张十字路口的照片、一个时间戳、一张放大的车牌图像，以及一份缴款通知。车辆登记在他名下。他说照片拍摄时他远在数英里之外。本能的疑问，也是此类纠纷中通常争论的焦点，是摄像头是否正常运作。车牌是否读取正确，信号灯是否确实为红色，设备是否经过校准和认证。这些问题很重要，但也是能提出的最小的问题。为了给这家机构最有利的假设，姑且假定每一个问题的答案都是肯定的。假定摄像头完全按设计运行，流程也完全按规定执行。治理问题依然存在，因为摄像头从未观察到罚单所指控的事情。它观察到的是一辆车。而罚单指控的是一个人。
自动执法项目不是一台摄像头。它是一条推论链。传感器观察到一个事件。软件将该事件与一条记录相关联。行政流程将这种关联转化为一项指控。指控启动对某个具名个人的执法行动。这条链上的每一个环节都是政府做出的决定，无论机构内部是否有人将其体验为一个决定；地方政府也不会因为在自身与公众之间插入一套自动系统和一家私营承包商，就能免除对这些决定的责任。当技术观察一个事件、将其与一条记录相关联、生成一项指控并启动执法时，这条链中的每一步推论都必须受到治理。问题不仅仅在于摄像头是否准确读取了车牌，而在于政府能否证明，关于一辆车的证据是如何变成对一个人的指控的。
一张有争议的交通罚单是一个小案子，赌注也小，而这恰恰是它有用之处。在这个规模下，系统的每一个组成部分都可以被审视，而这个案例所暴露出的失败模式并非交通摄像头所特有。它是公共机构部署的自动决策系统的标准失败模式。有五处失误值得关注，而没有一处与摄像头本身有关。
观察变成了归责
据称，该系统确认了一辆车闯红灯进入十字路口。如果这属实，那确实是一项真正的证据成就：在没有警官在场的情况下，产生了一份带时间戳的照片记录。但该系统记录的事件，并非罚单所指控的行为。系统确认的是一辆车做了什么。它没有确认任何关于谁在驾驶的信息。执法流程将登记车主身份视为足以发起指控的依据，而这样做，就在从未获取转化所需证据的情况下，把关于一件物品的事实转化成了对一个人的指称。
这种转化不是一个技术步骤，而是一个法律和制度层面的步骤，而在大多数照相执法制度中，它是通过法规而非证据来实现的。车主责任规则之所以存在，是因为识别驾驶者很困难，而对车主开罚单在行政上更容易操作，许多州的立法机关有意做出了这种权衡，通常做法是将违规行为定义为民事性质，并将责任附加到登记记录上。政府或许有权做出这种权衡，但无权在不透明的情况下做出。当一份罚单被措辞为对收件人行为的认定，而其底层记录实际上只能支持对收件人财产的认定时，该机构就夸大了自身的证据。这是自动化治理领域普遍存在的一种反复出现的失误：系统产生的是关于物品、记录和代理指标的事实，而机构却悄悄地将这些事实升格为对人的指称。
人工审核可能比宣传的要狭隘
这类项目通常会用一句听起来像治理的话来辩护：每张罚单在发出前都经过警官审核。这句话应该引出一个很少有人追问的问题，那就是警官到底审核了什么。如果审核只是确认照片中的车牌与登记数据库中的车辆相符，那么人工验证的只是这条链条中机器最擅长处理的那一环，而完全没有触及机器根本无法处理的那一环——驾驶者身份。真正关键的推论、责任真正取决于的那个推论，未经任何人审查就通过了整个流程。
“人工介入”是一种治理主张，而不是人员配置描述。只有当人工被恰当地安置、被授权、并具备能力去评估那个关键推论，并且在证据不足以支持时真正拥有停止流程的裁量权时，这句话才有分量。一个职能仅限于确认机器已经确认之事的审核者，并非在履行监督，而是在履行追认。宣称有人工审核的机构，欠公众一份准确的说明：人工审核的究竟是什么，人工有权拒绝的是什么，以及审核者实际拒绝的频率有多高。若无法给出这样的说明，这句话所起的作用只是在流程本身未能提供的地方，充当心理安慰。
举证责任转嫁给了居民
第三项失误源于前两项。由于系统无法确认谁在驾驶，而审核环节也未曾尝试去确认，该项目通过转移的方式来解决身份认定问题。本应由政府在做出指控之前先确认谁实施了违规行为，结果却变成要求登记车主进入一个行政流程，提供信息，并将责任转移出去——在有些制度下是指认实际驾驶者，在另一些制度下则是证明自己当时不在场。申辩的机会是存在的，但只有在系统已经采取行动之后才存在，而不作为的默认后果就是承担责任。这种顺序很重要。一项必须被主动推翻的指控，与一项必须先被证明的指控，是权力的两种不同行使方式。
法院此前已经认定过这种结构。在State v. Kuhlman案（明尼苏达州，2007年）中，明尼苏达州最高法院裁定明尼阿波利斯市的照相执法条例无效，理由是该条例与该州统一交通法相冲突，并推断其“推定登记车主即为驾驶者”的做法消除了无罪推定，将举证责任转嫁给了被指控者。这项裁决的教训并不是说自动执法本质上是不合法的，而是说举证责任的分配是一项首要的治理决策。决定谁必须证明什么、代价多大、在什么时限内证明、以及沉默会有什么后果，是关于国家与其治理的人民之间关系的决定。它不能默认由供应商的工作流程来继承，居民也不应该在收到信封时才第一次发现这项决定是如何做出的。
公共执法被导入了私人基础设施
这项指控的每一个组成部分都存放在某个地方，而在由供应商运营的项目中，其中很大一部分可能存放在政府之外。图像、车牌读取结果、时间戳、登记查询、违规记录、缴款数据，以及居民申诉的内容，都可能经由承包商构建和控制的系统传输或存储。公众有权就这些不起眼却重要的问题获得准确答案：谁可以访问这些信息，依据何种授权；数据存储在哪里，受哪个司法辖区的法律管辖；数据保留多长时间，保留期限是取决于罚单的处理结果，还是取决于供应商的便利；数据是否可能以任何形式被重复使用、汇总、分析或出售；以及当合同终止、供应商被收购或供应商倒闭时，数据会如何处置。居民无法选择不被一个在公共十字路口运行的执法项目拍摄。在这种被迫暴露的情况下产生的数据，是公共权力的产物，其治理不能默认套用一份公众从未见过的商业协议的条款。
在这个特定领域中，这些并非凭空的忧虑。照相执法有着记录在案的激励错位历史，包括按开出的罚单数量向承包商支付报酬的薪酬结构，以及采购腐败问题，其中最突出的是围绕芝加哥闯红灯项目的行贿丑闻，该案导致了联邦定罪。得克萨斯州在多年争议之后，于2019年在全州范围内禁止了闯红灯摄像头。这一切并不能证明供应商都是坏行为者，它证明的是：供应商终究是供应商——具有商业动机的私营企业，在一个本应服从完全不同激励机制的职能中运作。这是一种需要被治理的状况，而不是一项需要被诉讼的指控，而它只能通过合同条款来治理。
问责变得分散到消失不见
问谁应对这项指控负责，这个项目会给出支离破碎的答案。摄像头检测到了事件。供应商运营了系统。警官核对了车牌。市政府批准了该项目。州法律构建了罚单制度。每一个参与方都可以如实报告，自己那有限的职能按设计运行了，而且每一方在自己的边界内都是对的。然而，这些职能的输出结合在一起，构成了对一个具名个人的政府指控，而此人声称自己当时远在数英里之外，却没有任何一个参与方对这个复合行为负责。
这正是自动化悄悄瓦解问责制的机制，不是通过恶意或故障，而是通过分解。责任被拆分成若干部分，直到它不再具体存在于任何地方。治理的存在正是为了防止出现这种结果。在这个机构内部，某处必须有一个办公室，由一位具名的负责人担任，对系统就公众成员所做出的指称负责，有权为这些指称作出回应，并有义务对其进行纠正。如果项目内部没有任何人能够说这项指控是他们的，那么政府就打造了一台生产指控的机器，而没有人愿意为之负责。
检测何时转化为权力
系统可能准确识别了一辆车，而机构却错误地将某种行为归咎于某个人。这不仅仅是一个技术上的区别。这正是自动检测转化为政府权力的临界点。目前采购流程所评估的几乎一切，都停留在这条界线的“检测”一侧：设备精度、供应商认证、校准计划、正常运行时间承诺、单价。而在制度层面真正重要的几乎一切，都位于“归责”一侧：证据能够支持什么，政府允许自己从机器输出中得出哪些推论，当推论受到质疑时由谁承担举证责任，以及出错时由谁来负责。一项只审查摄像头而默认接受指控的采购，评估的是产品，却忽视了权力。
这一切都与所涉组件是否够格称为人工智能无关。车牌识别是机器视觉；其余大部分可能只是普通软件和行政工作流程。治理义务附着于推论链本身，而非代码的复杂程度，这正是这种模式得以推而广之的原因。同样的链条——从观察到关联，再到指控，再到执法——存在于枪声探测、福利欺诈检测、自动吊销驾照，以及地方政府购买的每一套类似系统中。密歇根州的自动化失业保险系统，在审计和诉讼追上它之前，曾错误指控数万名居民欺诈，正是这同一种架构在灾难性规模上的运作。闯红灯摄像头只不过是小到足以被整体看清的那个版本。
采购必须治理什么
地方政府所购买的不仅仅是摄像头、算法或行政平台。他们购买的是参与公共权力行使的系统，而采购正是这种参与被界定之处。这也是政府拥有全部筹码的最后时刻。签字之前，一切条款都可谈；部署之后，治理就变成了补救。
因此，采购必须治理的不仅仅是性能与价格。它必须治理证据，要求合同和罚单本身准确说明系统能够确认什么、不能确认什么。它必须治理推论，明确规定哪些从机器输出到法律主张的转化是被允许的，以及每一项转化由谁授权。它必须治理数据，在拍摄第一张图像之前就确定好保管权、访问权限、保留期限、重复使用、安全性和退出机制。它必须治理人工审核，明确规定审核者必须独立确认什么，并赋予审核者阻止发出罚单的真正权力。它必须治理可申辩性，如实说明该项目给居民带来的负担，并公开为这种分配方式辩护。它必须治理供应商激励机制，将报酬与执法数量脱钩。它还必须治理责任归属，指定一个办公室，对系统给它所触及的人们带来的影响负责。
这一切都不是乌托邦式的空想，因为其中一部分已经成为法律。当明尼苏达州在2024年——距Kuhlman案近二十年后——重新启用自动执法时，它是通过州立法来实现的，授权了一个条件严格限定的四年试点项目，而不是通过地方法规。该法规要求首次违规给予警告，强制要求提前设置标志并公布摄像头位置，要求进行独立评估并向州议会提交报告，禁止根据违规或罚单发出数量向私营承包商支付报酬，并要求实施该项目的政府对供应商的数据处理方式进行审计。无论人们如何评判该项目的可取性，这一法律工具都具有启示意义。明尼苏达州最高法院废除的那项条例，与州议会授权的这项试点计划之间的区别，不在于摄像头本身，而在于围绕摄像头、在部署之前、以可执行条款写就的治理规则。这正是Novara Consulting Group以“Operational AI Governance™”这一名义所践行的准则：在政府仍握有笔的时候，把治理原则转化为采购办公室真正能够执行的工具。
政府可以外包技术，但不能外包为该技术对公众所做之事作出正当说明的责任。