Tartışmalı bir kırmızı ışık ihlali cezası, yapay zeka yönetişimi, özel tedarikçiler, kamu verisi ve kurumsal hesap verebilirlik hakkında ne ortaya koyuyor
Novara Consulting Group | Yapay Zeka Yönetişimi × Yerel Yönetim | Ağustos 2026
Bir sakin, belediyesinden gelen zarfı açar ve içinde bir suçlama bulur: bir kavşağın fotoğrafı, bir zaman damgası, büyütülmüş bir plaka görüntüsü ve bir ödeme talebi. Araç onun adına kayıtlıdır. Fotoğrafın çekildiği sırada kilometrelerce uzakta olduğunu söyler. İçgüdüsel soru, ve bu tür anlaşmazlıkların büyük çoğunluğunun etrafında döndüğü soru, kameranın doğru çalışıp çalışmadığıdır. Plaka doğru okundu mu, ışık gerçekten kırmızı mıydı, ekipman kalibre edilip sertifikalandırıldı mı. Bu sorular önemlidir, ama aynı zamanda sorulabilecek en küçük sorulardır. Kurumun lehine olacak en iyi senaryoyu varsayalım: bunların her birinin cevabı evet olsun. Kameranın tam olarak tasarlandığı gibi çalıştığını ve sürecin tam olarak yazıldığı gibi işlediğini varsayalım. Yönetişim sorunu yine de yerli yerinde durur, çünkü kamera cezanın iddia ettiği şeyi hiçbir zaman gözlemlemedi. Kamera bir aracı gözlemledi. Ceza ise bir kişiyi suçluyor.
Otomatik bir uygulama programı bir kamera değildir. Bu bir çıkarım zinciridir. Bir sensör bir olayı gözlemler. Yazılım olayı bir kayıtla ilişkilendirir. İdari bir süreç bu ilişkilendirmeyi bir iddiaya dönüştürür. İddia, adı belirtilen bir birey aleyhine uygulamayı başlatır. Bu zincirdeki her halka, kurum içinde kimse bunu bir karar olarak deneyimlemese bile, hükümetin verdiği bir karardır ve bir yerel yönetim, kendisiyle kamu arasına otomatik bir sistem ve özel bir yüklenici yerleştirerek bu kararların sorumluluğundan kaçamaz. Teknoloji bir olayı gözlemlediğinde, onu bir kayıtla ilişkilendirdiğinde, bir iddia ürettiğinde ve uygulamayı başlattığında, bu zincirdeki her çıkarımın yönetilmesi gerekir. Mesele yalnızca kameranın plakayı doğru okuyup okumadığı değildir. Mesele, hükümetin bir araç hakkındaki kanıtın nasıl bir kişiye yönelik suçlamaya dönüştüğünü gerekçelendirip gerekçelendiremeyeceğidir.
Tartışmalı bir trafik cezası, küçük bahisleri olan küçük bir davadır ve onu kullanışlı kılan tam olarak budur. Bu ölçekte sistemin her bileşeni incelenebilir ve davanın ortaya çıkardığı başarısızlık örüntüsü trafik kameralarına özgü değildir. Bu, kamu kurumları tarafından dağıtılan otomatik karar sistemlerinin standart başarısızlık örüntüsüdür. Beş başarısızlık dikkat çekmeyi hak ediyor ve hiçbiri kamerayla ilgili değil.
Gözlem, atıfa dönüştü
Sistem, bir aracın sinyale karşı kavşağa girdiğini tespit ettiğini bildirdi. Bu doğruysa, gerçek bir kanıtsal başarıdır: bir memur orada olmadan üretilmiş, zaman damgalı fotoğrafik bir olay kaydı. Ama sistemin kaydettiği olay, cezanın iddia ettiği davranış değildir. Sistem, bir aracın ne yaptığını tespit etti. Aracı kimin kullandığına dair hiçbir şey tespit etmedi. Uygulama süreci, bir suçlamayı başlatmak için kayıtlı sahipliği yeterli saydı ve bunu yaparken bir nesne hakkındaki bir gerçeği, bu dönüşümün gerektirdiği kanıtı hiç elde etmeden bir kişi hakkında bir iddiaya dönüştürdü.
Bu dönüşüm teknik bir adım değildir. Hukuki ve kurumsal bir adımdır ve çoğu fotoğraflı uygulama rejiminde bu dönüşüm kanıtla değil, yasayla gerçekleştirilir. Araç sahibi sorumluluğu kuralları, sürücüleri tespit etmenin zor, sahipleri cezalandırmanın ise idari açıdan kolay olması nedeniyle var olur ve birçok eyaletteki yasama organları bu takası bilinçli olarak yapmıştır, genellikle ihlali hukuki bir mesele olarak tanımlayıp sorumluluğu kayıt siciline bağlayarak. Bir hükümetin bu takası yapmaya hakkı olabilir. Ama bunu görünmez şekilde yapmaya hakkı yoktur. Bir ceza, alıcının mülkü hakkında yalnızca bir tespiti destekleyen temel kayıta dayanırken, alıcının davranışına dair bir tespit kisvesiyle geldiğinde, kurum kendi kanıtını abartmış demektir. Bu, genel olarak otomatik yönetişimde tekrarlayan bir başarısızlıktır: sistemler nesneler, kayıtlar ve vekiller hakkında gerçekler üretir, kurumlar ise bu gerçekleri sessizce insanlar hakkında iddialara terfi ettirir.
İnsan incelemesi reklamı yapıldığından daha dar olabilir
Bu tür programlar genellikle yönetişim gibi görünen bir cümleyle savunulur: her ceza yayınlanmadan önce bir memur tarafından incelenir. Bu cümle, nadiren sorulan bir takip sorusunu hak ediyor: memurun tam olarak neyi incelediği. Eğer inceleme, fotoğraftaki plakanın kayıt veritabanındaki araçla eşleştiğini doğrulamaktan ibaretse, insan makinenin en iyi yaptığı tek halkayı onaylamış ve makinenin hiç ele alamadığı tek halkayı, yani sürücünün kimliğini dokunulmamış bırakmış demektir. Asıl önemli olan çıkarım, yani sorumluluğun gerçekten dayandığı çıkarım, hiç kimse tarafından incelenmeden süreçten geçmiştir.
“Döngüde insan” bir personel tanımı değil, bir yönetişim iddiasıdır. Yalnızca insanın önemli olan çıkarımı değerlendirecek şekilde konumlandırıldığında, yetkilendirildiğinde ve donatıldığında ve kanıt desteklemediğinde süreci durdurma konusunda gerçek bir takdir yetkisine sahip olduğunda ağırlık taşır. İşlevi makinenin zaten tespit ettiğini doğrulamakla sınırlı olan bir inceleyici denetim yapmıyor; onay veriyor demektir. İnsan incelemesi reklamını yapan kurumlar, kamuya insanın tam olarak neyi incelediğine, insanın neyi reddetme yetkisine sahip olduğuna ve inceleyicinin ne sıklıkla gerçekten reddettiğine dair kesin bir açıklama borçludur. Bu açıklama yapılamadığında, bu ifade sürecin kendisinin yapmadığı bir güven verme işini üstlenmiş olur.
Yük sakine kaydırıldı
Üçüncü başarısızlık ilk ikisinden kaynaklanır. Sistem aracı kimin kullandığını tespit edemediğinden ve inceleme bunu denemediğinden, program kimlik sorununu çözmek için onu başkasına devretti. Hükümetin bir suçlama yapmadan önce ihlali kimin işlediğini tespit etmesi yerine, kayıtlı sahibin idari bir sürece girmesi, bilgi sağlaması ve sorumluluğu yönlendirmesi istendi; bazı rejimlerde gerçek sürücüyü belirleyerek, bazılarında ise kendi yokluğunu belgeleyerek. İtiraz imkânı vardı, ama yalnızca sistem zaten harekete geçtikten sonra vardı ve hiçbir şey yapmamanın varsayılan sonucu sorumluluktu. Sıralama önemlidir. Aktif olarak çürütülmesi gereken bir suçlama, önce kanıtlanması gereken bir suçlamadan farklı bir güç kullanımıdır.
Mahkemeler bu yapıyı daha önce de tanımıştır. State v. Kuhlman (Minn. 2007) davasında, Minnesota Yüksek Mahkemesi, Minneapolis’in fotoğraflı uygulama yönetmeliğini, eyaletin tekdüze trafik yasalarıyla çeliştiği gerekçesiyle geçersiz kılmış ve kayıtlı sahibin sürücü olduğu varsayımının masumiyet karinesini ortadan kaldırdığı ve ispat yükünü sanığa kaydırdığı gerekçesine dayandırmıştır. Bu kararın dersi, otomatik uygulamanın doğası gereği hukuka aykırı olduğu değildir. Ders şudur: yük dağılımı birinci dereceden bir yönetişim kararıdır. Kimin neyi, hangi maliyetle, hangi zaman çizelgesinde ve sessiz kalmanın hangi sonucuyla kanıtlaması gerektiğine karar vermek, devletle yönettiği insanlar arasındaki ilişkiye dair bir karardır. Bu karar, bir tedarikçinin iş akışından varsayılan olarak devralınamaz ve sakinler bunun nasıl verildiğini ilk kez zarf geldiğinde keşfetmemelidir.
Kamu uygulaması özel altyapı üzerinden yürütüldü
Suçlamanın her unsuru bir yerde bulunur ve bir tedarikçi tarafından işletilen bir programda bunun büyük bir kısmı hükümetin dışında bulunabilir. Görüntüler, plaka okumaları, zaman damgaları, kayıt sorguları, ihlal kayıtları, ödeme verileri ve sakinlerin itirazlarının içeriği, yüklenicinin inşa ettiği ve kontrol ettiği sistemlerden geçebilir veya bu sistemlerde depolanabilir. Kamu, gösterişsiz sorulara kesin cevaplar alma hakkına sahiptir: bilgiye kim, hangi yetkilendirmeyle erişebilir; bilgi nerede ve hangi yargı bölgesinin yasasına tabi olarak depolanır; ne kadar süreyle saklanır ve saklama süresi cezanın sonucunu mu yoksa tedarikçinin rahatlığını mı takip eder; herhangi bir biçimde yeniden kullanılabilir, toplulaştırılabilir, analiz edilebilir veya satılabilir mi; ve sözleşme sona erdiğinde, tedarikçi satın alındığında veya iflas ettiğinde bu bilgiye ne olur. Bir sakin, bir kamu kavşağında bir uygulama programı tarafından fotoğraflanmayı reddedemez. Bu tür zorunlu maruziyet altında üretilen veri, kamu otoritesinin bir ürünüdür ve yönetişimi, kamunun hiç görmediği bir ticari anlaşmanın şartlarına varsayılan olarak bırakılamaz.
Bunlar bu özel pazarda varsayımsal kaygılar değildir. Fotoğraflı uygulamanın, yükleniciye kesilen her ceza başına ödeme yapan tazminat yapıları da dahil olmak üzere, belgelenmiş bir yanlış hizalanmış teşvikler tarihi ve federal mahkumiyetlerle sonuçlanan, en belirgin şekilde Chicago’nun kırmızı ışık programını çevreleyen rüşvet planı gibi tedarik yolsuzluğu tarihi vardır. Teksas, yıllarca süren tartışmalara 2019’da eyalet genelinde kırmızı ışık kameralarını yasaklayarak yanıt verdi. Bunların hiçbiri tedarikçilerin kötü niyetli aktörler olduğunu kanıtlamaz. Kanıtladığı şey, tedarikçilerin tedarikçi olduğudur: tamamen farklı teşviklere hesap vermesi gereken bir işlevin içinde faaliyet gösteren, ticari teşviklere sahip özel firmalar. Bu, dava edilecek bir suçlama değil, yönetilmesi gereken bir koşuldur ve ancak sözleşme içinde yönetilebilir.
Hesap verebilirlik, kaybolacak kadar dağıtık hale geldi
Suçlamadan kimin sorumlu olduğunu sorun, program parçalar halinde cevap verir. Kamera olayı tespit etti. Tedarikçi sistemi işletti. Bir memur plakayı kontrol etti. Belediye programı yetkilendirdi. Eyalet yasası cezayı yapılandırdı. Her katılımcı, kendi sınırlı işlevinin tasarlandığı gibi çalıştığını doğru şekilde bildirebilir ve her biri kendi sınırları içinde haklıdır. Yine de bu işlevlerin çıktıları, kilometrelerce uzakta olduğunu söyleyen belirli bir kişiye yönelik hükümet suçlamasında birleşti ve hiçbir tek katılımcı bu bileşik eylemin sahibi değildir.
Bu, otomasyonun kötü niyet ya da arıza yoluyla değil, parçalanma yoluyla hesap verebilirliği sessizce eritmesinin mekanizmasıdır. Sorumluluk, hiçbir yerde özel olarak var olmayana kadar bileşenlere bölünür. Yönetişim tam olarak bu sonucu önlemek için vardır. Kurumun bir yerinde, ismi olan bir kişinin işgal ettiği, sistemin halk hakkında yaptığı iddialardan sorumlu olan, bu iddialara cevap verme yetkisine sahip ve bunları düzeltmekle yükümlü bir makam bulunmalıdır. Programın içindeki hiç kimse suçlamanın kendisine ait olduğunu söyleyemiyorsa, hükümet kimsenin sahiplenmek istemediği suçlamalar üreten bir makine inşa etmiş demektir.
Tespitin güce dönüştüğü nokta
Sistem bir aracı doğru şekilde tespit etmiş olabilirken, kurum bir davranışı yanlış bir şekilde bir kişiye atfetmiş olabilir. Bu yalnızca teknik bir ayrım değildir. Bu, otomatik tespitin hükümet gücüne dönüştüğü noktadır. Tedarik süreçlerinin şu anda değerlendirdiği hemen her şey bu çizginin tespit tarafında yer alır: ekipman doğruluğu, tedarikçi sertifikaları, kalibrasyon programları, çalışma süresi taahhütleri, birim fiyatı. Kurumsal açıdan önemli olan hemen her şey ise atıf tarafında yer alır: kanıtın neyi destekleyebileceği, hükümetin makine çıktısından kendine hangi çıkarımları yapmasına izin verdiği, bir çıkarım itiraz edildiğinde yükü kimin taşıdığı ve yanlış olduğunda kimin cevap verdiği. Kamerayı inceleyip suçlamayı varsayan bir tedarik süreci, ürünü değerlendirmiş ve gücü göz ardı etmiş demektir.
Bunların hiçbiri, ilgili bileşenlerin yapay zeka olarak nitelendirilip nitelendirilmediğine bağlı değildir. Plaka tanıma makine görüşüdür; geri kalanın çoğu sıradan yazılım ve idari iş akışı olabilir. Yönetişim yükümlülüğü, kodun sofistike olmasına değil, çıkarım zincirine bağlıdır ve bu örüntü bu yüzden genelleşir. Gözlemden ilişkilendirmeye, oradan iddiaya, oradan uygulamaya giden aynı zincir, silah sesi tespiti, sosyal yardım dolandırıcılığı tespiti, otomatik ehliyet iptali ve bir yerel yönetimin satın aldığı her karşılaştırılabilir sistemin içinde yer alır. Denetimler ve davalar yetişmeden önce on binlerce sakini yanlış bir şekilde dolandırıcılıkla suçlayan Michigan’ın otomatik işsizlik sigortası sistemi, aynı mimarinin yıkıcı bir ölçekte işlemesiydi. Kırmızı ışık kamerası, basitçe bütünüyle görülebilecek kadar küçük versiyondur.
Tedarikin yönetmesi gereken şey
Yerel yönetimler yalnızca kamera, algoritma veya idari platform satın almıyor. Kamu otoritesine katılan sistemler satın alıyorlar ve bu katılımın tanımlandığı yer tedariktir. Aynı zamanda hükümetin tam kaldıraca sahip olduğu son andır. İmzadan önce her koşul mevcuttur. Dağıtımdan sonra yönetişim, düzeltmeye dönüşür.
Bu nedenle tedarik, performans ve fiyattan daha fazlasını yönetmelidir. Kanıtı yönetmelidir; sözleşmenin ve cezanın kendisinin sistemin tam olarak neyi tespit edip edemeyeceğini belirtmesini zorunlu kılarak. Çıkarımı yönetmelidir; makine çıktısından hukuki iddiaya hangi dönüşümlere izin verildiğini ve her birini kimin yetkilendirdiğini belirterek. Veriyi yönetmelidir; ilk görüntü yakalanmadan önce gözetim, erişim, saklama, yeniden kullanım, güvenlik ve çıkış konularını çözerek. İnsan incelemesini yönetmelidir; inceleyicinin bağımsız olarak neyi belirlemesi gerektiğini tanımlayarak ve inceleyiciye yayını durdurma konusunda gerçek bir yetki vererek. İtiraz edilebilirliği yönetmelidir; programın sakinlere yüklediği yükü dürüstçe hesaba katarak ve bu dağılımı kamuoyu önünde savunarak. Tedarikçi teşviklerini yönetmelidir; tazminatı uygulama hacminden ayırarak. Ve sorumluluğu yönetmelidir; sistemin dokunduğu insanlara yaptıkları için hesap veren makamı adlandırarak.
Bunların hiçbiri ütopik değildir, çünkü bir kısmı zaten yasadır. Minnesota, Kuhlman’dan neredeyse yirmi yıl sonra 2024’te otomatik uygulamaya döndüğünde, bunu yerel bir yönetmelik yoluyla değil, dar koşullu dört yıllık bir pilot programı yetkilendiren eyalet yasaması yoluyla yaptı. Yasa, ilk ihlal için bir uyarı zorunlu kılar, önceden tabela ve yayınlanmış kamera konumlarını şart koşar, bağımsız değerlendirme ve yasama meclisine raporlar gerektirir, özel yüklenicilere ihlal veya ceza sayısına göre ödeme yapılmasını yasaklar ve uygulayıcı hükümetin tedarikçisinin veri uygulamalarını denetlemesini şart koşar. Programın akıl kârlılığı hakkında kişi ne sonuca varırsa varsın, bu araç öğreticidir. Minnesota Yüksek Mahkemesi’nin iptal ettiği yönetmelik ile yasama organının yetkilendirdiği pilot program arasındaki fark kamera değildir. Fark, dağıtımdan önce, uygulanabilir şartlarla kameranın etrafına yazılan yönetişimdir. Bu, Novara Consulting Group’un Operational AI Governance™ olarak uyguladığı disiplindir: yönetişim ilkelerini, hükümet hâlâ kalemi elinde tutarken bir tedarik ofisinin gerçekten uygulayabileceği araçlara dönüştürmek.
Bir hükümet teknolojiyi dışarıdan tedarik edebilir. Ama bu teknolojinin kamuya ne yaptığını gerekçelendirme görevini dışarıdan tedarik edemez.