Lo que revela una citación disputada de una cámara de semáforo en rojo sobre la gobernanza de la IA, los proveedores privados, los datos públicos y la responsabilidad institucional
Novara Consulting Group | Gobernanza de la IA × Gobierno Local | Agosto de 2026
Un residente abre un sobre de su ciudad y encuentra dentro una acusación: una fotografía de una intersección, una marca de tiempo, una imagen ampliada de una matrícula y una exigencia de pago. El vehículo está registrado a su nombre. Él dice que estaba a kilómetros de distancia cuando se tomó la fotografía. La pregunta instintiva, y aquella en torno a la cual se argumentan la mayoría de las disputas de este tipo, es si la cámara funcionó. Si la matrícula se leyó correctamente, si el semáforo estaba realmente en rojo, si el equipo estaba calibrado y certificado. Esas preguntas importan, y también son las preguntas más pequeñas disponibles. Supongamos, en favor del mejor argumento de la institución, que la respuesta a todas ellas es sí. Supongamos que la cámara funcionó exactamente como fue diseñada y que el proceso operó exactamente como estaba escrito. El problema de gobernanza sobrevive intacto, porque la cámara nunca observó lo que la citación afirma. Observó un vehículo. La citación acusa a una persona.
Un programa de aplicación automatizada no es una cámara. Es una cadena de inferencias. Un sensor observa un evento. Un software asocia el evento con un registro. Un proceso administrativo convierte la asociación en una acusación. La acusación inicia la aplicación de la ley contra una persona nombrada. Cada eslabón de esa cadena es una decisión que el gobierno ha tomado, ya sea que alguien dentro de la institución la experimente o no como una decisión, y un gobierno local no escapa de la responsabilidad de esas decisiones insertando un sistema automatizado y un contratista privado entre él mismo y el público. Cuando la tecnología observa un evento, lo asocia con un registro, genera una acusación e inicia la aplicación de la ley, cada inferencia de esa cadena debe estar gobernada. La cuestión no es simplemente si la cámara leyó con precisión una matrícula. Es si el gobierno puede justificar cómo la evidencia sobre un vehículo se convirtió en una acusación contra una persona.
Una citación de tránsito disputada es un caso pequeño con implicaciones pequeñas, lo cual es precisamente lo que la hace útil. A esta escala se puede examinar cada componente del sistema, y el patrón de fallo que el caso expone no es específico de las cámaras de tráfico. Es el patrón de fallo estándar de los sistemas de decisión automatizados desplegados por instituciones públicas. Cinco fallos merecen atención, y ninguno de ellos tiene que ver con la cámara.
La observación se convirtió en atribución
Según se informa, el sistema estableció que un vehículo entró en la intersección en contra de la señal. Si eso es exacto, es un logro probatorio genuino: un registro fotográfico con marca de tiempo de un evento, producido sin la presencia de un oficial. Pero el evento que el sistema registró no es la conducta que alega la citación. El sistema estableció lo que hizo un vehículo. No estableció nada sobre quién conducía. El proceso de aplicación de la ley trató la propiedad registrada como suficiente para iniciar una acusación, y al hacerlo convirtió un hecho sobre un objeto en una afirmación sobre una persona sin haber obtenido nunca la evidencia que esa conversión requiere.
Esa conversión no es un paso técnico. Es un paso legal e institucional, y en la mayoría de los regímenes de aplicación por fotografía se logra mediante estatuto en lugar de mediante prueba. Las normas de responsabilidad del propietario existen porque identificar a los conductores es difícil y citar a los propietarios es administrativamente fácil, y las legislaturas de muchos estados han hecho ese intercambio deliberadamente, generalmente definiendo la infracción como civil y vinculando la responsabilidad al registro de matriculación. Un gobierno puede tener derecho a hacer ese intercambio. No tiene derecho a hacerlo de manera invisible. Cuando una citación llega presentada como una constatación sobre la conducta del destinatario mientras que el registro subyacente solo respalda una constatación sobre la propiedad del destinatario, la institución ha exagerado su propia evidencia. Este es un fallo recurrente en la gobernanza automatizada en general: los sistemas producen hechos sobre objetos, registros y indicadores indirectos, y las instituciones, calladamente, promueven esos hechos a afirmaciones sobre personas.
La revisión humana puede haber sido más limitada de lo anunciado
Los programas de este tipo se defienden habitualmente con una frase que suena a gobernanza: un oficial revisa cada citación antes de emitirla. La frase merece una pregunta de seguimiento que rara vez recibe, que es qué, exactamente, revisa el oficial. Si la revisión consistió en confirmar que la matrícula en la fotografía coincide con el vehículo en la base de datos de registro, entonces el humano validó el único eslabón de la cadena que la máquina maneja mejor y dejó intacto el único eslabón que la máquina no puede abordar en absoluto, a saber, la identidad del conductor. La inferencia material, la inferencia de la que en realidad depende la responsabilidad, pasó por el proceso sin ser examinada por nadie.
«Humano en el circuito» es una afirmación de gobernanza, no una descripción de personal. Solo tiene peso cuando el humano está posicionado, autorizado y equipado para evaluar la inferencia que importa, y posee una discreción genuina para detener el proceso cuando la evidencia no lo respalda. Un revisor cuya función se limita a confirmar lo que la máquina ya ha establecido no está ejerciendo supervisión; el revisor está ejerciendo ratificación. Las instituciones que anuncian una revisión humana le deben al público un relato preciso de lo que el humano examina, lo que el humano está facultado para rechazar y con qué frecuencia el revisor realmente rechaza algo. Cuando ese relato no puede producirse, la frase está haciendo un trabajo de tranquilización que el proceso mismo no está haciendo.
La carga se transfirió al residente
El tercer fallo se deriva de los dos primeros. Debido a que el sistema no pudo establecer quién conducía, y la revisión no lo intentó, el programa resolvió la cuestión de identidad transfiriéndola. En lugar de que el gobierno estableciera quién cometió la infracción antes de formular una acusación, se exigió al propietario registrado que entrara en un proceso administrativo, aportara información y redirigiera la responsabilidad, en algunos regímenes identificando al conductor real y en otros documentando su propia ausencia. La posibilidad de impugnación existía, pero existía solo después de que el sistema ya hubiera actuado, y la consecuencia predeterminada de no hacer nada era la responsabilidad. La secuencia importa. Una acusación que debe ser activamente desmontada es un ejercicio de poder diferente al de una acusación que primero debe probarse.
Los tribunales han reconocido esta estructura antes. En State v. Kuhlman (Minn. 2007), la Corte Suprema de Minnesota invalidó la ordenanza de aplicación por fotografía de Minneapolis, sosteniendo que entraba en conflicto con las leyes de tránsito uniformes del estado y razonando que su presunción de que el propietario registrado era el conductor eliminaba la presunción de inocencia y trasladaba la carga de la prueba al acusado. La lección de esa decisión no es que la aplicación automatizada sea inherentemente ilegal. Es que la asignación de la carga de la prueba es una decisión de gobernanza de primer orden. Decidir quién debe probar qué, a qué costo, en qué plazo y con qué consecuencia por el silencio es una decisión sobre la relación entre el estado y las personas que gobierna. No puede heredarse por defecto del flujo de trabajo de un proveedor, y los residentes no deberían descubrir por primera vez cómo se tomó esa decisión cuando llega el sobre.
La aplicación pública se canalizó a través de infraestructura privada
Cada elemento de la acusación reside en algún lugar, y en un programa operado por un proveedor, gran parte de él puede residir fuera del gobierno. Las imágenes, las lecturas de matrículas, las marcas de tiempo, las búsquedas de registro, los registros de infracciones, los datos de pago y el contenido de las impugnaciones de los residentes pueden pasar por, o almacenarse en, sistemas que el contratista construye y controla. El público tiene derecho a respuestas precisas a preguntas poco glamurosas: quién puede acceder a la información y bajo qué autorización; dónde se almacena y bajo la ley de qué jurisdicción; cuánto tiempo se conserva, y si la conservación sigue el trámite de la citación o la conveniencia del proveedor; si puede reutilizarse, agregarse, analizarse o venderse de alguna forma; y qué sucede con ella cuando termina el contrato, cuando el proveedor es adquirido o cuando el proveedor quiebra. Un residente no puede optar por no ser fotografiado por un programa de aplicación de la ley en una intersección pública. Los datos generados bajo ese tipo de exposición obligada son un artefacto de la autoridad pública, y su gobernanza no puede quedar por defecto en manos de los términos de un acuerdo comercial que el público nunca ha visto.
Estas no son ansiedades hipotéticas en este mercado en particular. La aplicación por fotografía tiene una historia documentada de incentivos mal alineados, incluidas estructuras de compensación que pagaban a los contratistas por citación emitida, y de corrupción en la contratación, sobre todo el esquema de sobornos en torno al programa de semáforos en rojo de Chicago, que produjo condenas federales. Texas respondió a años de controversia prohibiendo las cámaras de semáforo en rojo en todo el estado en 2019. Nada de esto establece que los proveedores sean actores malintencionados. Establece que los proveedores son proveedores: empresas privadas con incentivos comerciales, que operan dentro de una función que se supone debe responder a incentivos completamente distintos. Esa es una condición que debe gobernarse, no una acusación que deba litigarse, y solo puede gobernarse en el contrato.
La responsabilidad se distribuyó lo suficiente como para desaparecer
Pregunte quién es responsable de la acusación y el programa responde en fragmentos. La cámara detectó el evento. El proveedor operó el sistema. Un oficial verificó la matrícula. La ciudad autorizó el programa. La ley estatal estructuró la citación. Cada participante puede informar con veracidad que su propia función limitada funcionó según lo diseñado, y cada uno tiene razón dentro de su propio límite. Sin embargo, los resultados de esas funciones se combinaron en una acusación gubernamental contra una persona específica que dice que estaba a kilómetros de distancia, y ningún participante individual es dueño del acto compuesto.
Este es el mecanismo silencioso mediante el cual la automatización disuelve la responsabilidad, no a través de la mala fe o el mal funcionamiento, sino a través de la descomposición. La responsabilidad se divide en componentes hasta que no existe en ningún lugar en particular. La gobernanza existe para prevenir precisamente este resultado. En algún lugar de la institución debe haber una oficina, ocupada por una persona con nombre propio, que sea responsable de las afirmaciones que el sistema hace sobre los miembros del público, facultada para responder por esas afirmaciones y obligada a corregirlas. Si nadie dentro del programa puede decir que la acusación fue suya, el gobierno ha construido una máquina para producir acusaciones que nadie está dispuesto a asumir.
Donde la detección se convierte en poder
El sistema puede haber identificado con precisión un vehículo mientras la institución atribuía de manera inexacta una conducta a una persona. Eso no es simplemente una distinción técnica. Es el punto en el que la detección automatizada se convierte en poder gubernamental. Casi todo lo que los procesos de contratación evalúan actualmente reside en el lado de la detección de esa línea: la precisión del equipo, las certificaciones del proveedor, los calendarios de calibración, los compromisos de tiempo de actividad, el precio unitario. Casi todo lo que importa institucionalmente reside en el lado de la atribución: lo que la evidencia puede respaldar, qué inferencias se permite el gobierno extraer del resultado de la máquina, quién soporta la carga cuando se impugna una inferencia y quién responde cuando está equivocada. Una contratación que escudriña la cámara y da por sentada la acusación ha evaluado el producto e ignorado el poder.
Nada de esto depende de si los componentes involucrados califican como inteligencia artificial. El reconocimiento de matrículas es visión artificial; gran parte del resto puede ser software ordinario y flujo de trabajo administrativo. La obligación de gobernanza se adhiere a la cadena de inferencia, no a la sofisticación del código, razón por la cual el patrón se generaliza. La misma cadena, de observación a asociación a acusación a aplicación, se encuentra dentro de la detección de disparos de arma, la detección de fraude en prestaciones sociales, la suspensión automatizada de licencias y todo sistema comparable que compra un gobierno local. El sistema automatizado de seguro de desempleo de Michigan, que acusó falsamente a decenas de miles de residentes de fraude antes de que las auditorías y los litigios lo alcanzaran, era esta misma arquitectura operando a escala catastrófica. La cámara de semáforo en rojo es simplemente la versión lo suficientemente pequeña como para verse en su totalidad.
Lo que la contratación debe gobernar
Los gobiernos locales no están simplemente comprando cámaras, algoritmos o plataformas administrativas. Están comprando sistemas que participan en la autoridad pública, y la contratación es donde esa participación se define. También es el último momento en el que el gobierno tiene pleno poder de negociación. Antes de la firma, todos los términos están disponibles. Después del despliegue, la gobernanza se convierte en remediación.
La contratación debe, por lo tanto, gobernar algo más que el rendimiento y el precio. Debe gobernar la evidencia, exigiendo que el contrato y la propia citación establezcan con precisión lo que el sistema puede y no puede acreditar. Debe gobernar la inferencia, especificando qué conversiones de resultado de máquina a afirmación legal están permitidas y quién autoriza cada una. Debe gobernar los datos, resolviendo la custodia, el acceso, la conservación, la reutilización, la seguridad y la salida antes de que se capture la primera imagen. Debe gobernar la revisión humana, definiendo lo que el revisor debe determinar de manera independiente y otorgándole autoridad real para detener la emisión. Debe gobernar la impugnabilidad, dando cuenta honestamente de la carga que el programa impone a los residentes y defendiendo públicamente esa asignación. Debe gobernar los incentivos del proveedor, desvinculando la compensación del volumen de aplicación de la ley. Y debe gobernar la responsabilidad, nombrando a la oficina que responde por lo que el sistema hace a las personas a las que afecta.
Nada de esto es utópico, porque parte de ello ya es ley. Cuando Minnesota regresó a la aplicación automatizada en 2024, casi dos décadas después de Kuhlman, lo hizo mediante legislación estatal que autorizaba un proyecto piloto de cuatro años estrictamente condicionado, en lugar de mediante una ordenanza local. El estatuto exige una advertencia para una primera infracción, obliga a la señalización previa y a la publicación de las ubicaciones de las cámaras, requiere una evaluación independiente e informes a la legislatura, prohíbe pagar a los contratistas privados en función del número de infracciones o citaciones emitidas, y exige que el gobierno que implementa el programa audite las prácticas de datos de su proveedor. Sea cual sea la conclusión a la que se llegue sobre la sensatez del programa, el instrumento es instructivo. La diferencia entre la ordenanza que la Corte Suprema de Minnesota anuló y el proyecto piloto que la legislatura autorizó no es la cámara. Es la gobernanza redactada en torno a la cámara, antes del despliegue, en términos exigibles. Esa es la disciplina que Novara Consulting Group practica como Operational AI Governance™: convertir los principios de gobernanza en instrumentos que una oficina de contratación pueda ejecutar realmente mientras el gobierno todavía sostiene la pluma.
Un gobierno puede externalizar la tecnología. No puede externalizar su obligación de justificar lo que esa tecnología le hace al público.