Yönetici Özeti
İletişim erişimi için yapay zeka sistemleri satın alan kurumlar, riski yönettiklerine dair giderek daha fazla güven duyuyor ve bu güven giderek daha az hak ediliyor. Bu güven; tamamlanmış kontrol listeleri, tedarikçi belgeleri, senaryolaştırılmış gösterimler, müzakere edilmiş garanti ifadeleri ve dosyalanmış erişilebilirlik beyanları gibi kanıtlara dayanmaktadır. Her bir kanıt gerçektir. Ancak bunların hiçbiri, ayrı ayrı ya da toplu olarak, kurumun gerçekten cevaplanmasını istediği soruyu yanıtlamak üzere tasarlanmamıştır: sistemin, satın alınma amacı olan konuşlandırma bağlamında güvenli, güvenilir ve uygun şekilde performans gösterip göstermeyeceği sorusunu.
Bu sayı, bu durumu tedarik tiyatrosu olarak adlandırmakta ve bunun kötü niyetten değil yapısal nedenlerden kaynaklandığını savunmaktadır. Tedarik profesyonelleri usul eksiksizliği nedeniyle ödüllendirilir. Tedarikçiler ise ikna edici gösterimler nedeniyle ödüllendirilir. Her iki taraf da, merkezi performans sorusu hiç incelenmeden yükümlülüklerini tamamen yerine getirebilir. Çözüm daha fazla belgelendirme değildir. Çözüm, gerekli adımların atılıp atılmadığını soran usul güvencesinden, toplanan kanıtın gerçeği ortaya çıkarmaya muktedir olup olmadığını soran kanıt temelli güvenceye doğru yönetişim standardında bir kaymadır.
Novara Consulting Group'un görüşü, bu ayrımın kamu sektörü yapay zeka yönetişiminin belirleyici yetkinliği haline geleceği ve kurumların bu kanıt kapasitesini başarısızlıktan sonra değil, konuşlandırmadan önce şimdiden inşa etmeye başlamaları gerektiği yönündedir.
Politika Sorunu
Yönetişim, faaliyetlerle değil; gerçekleştirilen faaliyetlerin gerçeği ortaya çıkarmaya muktedir olup olmadığıyla ölçülür. Mevcut erişilebilirlik yapay zekası tedariklerinin çoğu bu testten geçememektedir; bunun nedeni sürecin dikkatsizce yürütülmesi değil, sürecin farklı bir ürün sınıfı için tasarlanmış olmasıdır.
Geleneksel tedarik araçları, bir ürünün yeteneklerinin sabit, gözlemlenebilir ve büyük ölçüde üretici tarafından açıklanmış olduğunu varsayar. Bu varsayım altında, kanıt toplamak performansı doğrulamak için makul bir vekil ölçüttür. Dilsel erişimi aracılık eden yapay zeka sistemleri ise bu varsayımın her yönünü ihlal eder. Performans; işaretleyene, kayda, bölgesel farklılığa, aydınlatmaya, kamera geometrisine, gecikmeye, konu alanına ve bu yayının adını aldığı el dışı dilbilgisel özelliklerin varlığına ya da yokluğuna göre değişir. Kontrollü bir gösterimde yeterli performans gösteren bir sistem, klinik bir kabul görüşmesinde, disiplin duruşmasında ya da acil durum iletişiminde ciddi şekilde kötüleşebilir. Standart bir kanıt paketinde bu kötüleşmeyi ortaya çıkaracak hiçbir şey yoktur.
Üç karıştırma bu sorunu sürdürmektedir. Belgelendirme, doğrulama olarak ele alınmaktadır; oysa belgelendirme bir tedarikçinin ne iddia ettiğini kaydeder, sistemin ne yaptığını değil. Sertifikasyon, performans olarak ele alınmaktadır; oysa sertifikasyon genellikle çıktı kalitesine değil süreç uygunluğuna tanıklık eder. Uygunluk, etkinlik olarak ele alınmaktadır; oysa uygunluk, teknik bir standarda hizalanmayı ölçer, sağır veya işitme güçlüğü çeken bir kullanıcının işlevsel iletişimsel erişim sağlayıp sağlamadığını değil. Bu üç kavram arasında ayrım yapamayan bir tedarik süreci, tamamladığı form sayısıyla doğru orantılı olarak kurumsal risk üretir, çünkü tamamlanan her form bilgiyi artırmadan güveni artırır.
Kurumsal Analiz
Teşvik yapısı, bu örüntünün sürekliliğini herhangi bir kötü niyet açıklamasından çok daha ikna edici biçimde açıklamaktadır. Tedarik ofisleri, gerekli adımların atılıp atılmadığını inceleyen, adımların epistemik açıdan yeterli olup olmadığını değil, denetim rejimleri altında faaliyet gösterir. Tedarikçi erişilebilirlik uygunluk raporu, gösterim kaydı ve müzakere edilmiş sözleşme dili içeren bir dosya denetimden geçer. Kurumun, sistemi temsil edici koşullarda temsil edici sağır kullanıcılara karşı bağımsız olarak test ettiğini ve yetersiz bulduğunu belgeleyen bir dosya ise program riski ve siyasi maruziyet yaratır. Sistem birinci dosyayı ödüllendirir.
Tedarikçiler simetrik bir teşvikle karşı karşıyadır. Erişilebilirlik yapay zekası pazarları, gösterim kalitesini, anlatı tutarlılığını ve sözleşmeye ulaşma hızını ödüllendirir. Tedarikçilerden nadiren başarısızlık koşullarını açıklamaları istenir ve bunları tek taraflı olarak açıklamak rekabetçi bir maliyet getirir. Mevcut ticari işaret dili yapay zeka sistemlerinin, bağımsız olarak oluşturulmuş, konuşlandırmayı temsil eden test koşullarına karşı yayınlanmış sonuçlarla değerlendirildiğine dair kamuya açık bir kanıt henüz bulunmamaktadır. Böyle bir kanıtın yokluğunda, pazarlama iddiaları ve kendi kendine üretilmiş belgeler varsayılan olarak kurumsal kayıt haline gelir.
Etkilenen nüfus, kalan riski üstlenir. Sağır ve işitme güçlüğü çeken kullanıcılar genellikle tedarik sürecinin tarafı değildir, kabul testlerinde nadiren temsil edilirler ve sistemle ancak kurumsal güven oluşturulduktan ve sözleşme imzalandıktan sonra karşılaşırlar. Bu noktada ispat yükü tersine döner. Kullanıcının, gerekli özenin gösterildiğini ve sistemin uygun bulunduğunu iddia eden kurumsal bir kayda karşı, sistemin başarısız olduğunu kanıtlaması gerekir. Bu tersine dönüş, tedarik tiyatrosunun işlevsel zararıdır ve tamamen meşru aktörlerin meşru prosedürleri izlemesiyle üretilir.
Bakmama kararı, kendi başına bir yönetişim kararıdır.
Yönetim geleneğinin araçları çerçevesinde anlaşıldığında, tedarik idari bir formalite değil, bir kamu eylemi aracıdır ve aracın seçimi kimin konuşmaya yetkili kılındığını, neyin kanıt sayıldığını ve hesap verebilirliğin nerede konumlanacağını belirler. Nedensel anlatılar literatürüyle birlikte okunduğunda, erişilebilirlik yapay zekası başarısızlığına ilişkin hâkim anlatı bir kaza öyküsüdür; bu öyküde öngörülemeyen teknoloji ara sıra yetersiz performans gösterir ve hiçbir aktör sorumluluk taşımaz. Burada öne sürülen kanıt temelli çerçeveleme ise farklı bir anlatıyı destekler: en azından ihmalkârlık anlatısını. Bu başarısızlıklar öngörülebilirdir, gerçekleştikleri koşullar önceden keşfedilebilir niteliktedir ve bakmama kararının kendisi bir yönetişim kararıdır.
Yönetişim Sonuçları
Usul güvencesinden kanıt temelli güvenceye geçiş, kurumların farklı bir soru dizisi sormasını ve yanıtları arka plan bilgisi olarak değil kabul kriteri olarak ele almasını gerektirir. Öne sürülen iddiayı hangi kanıt desteklemektedir ve bu kanıt performans kanıtı mıdır yoksa süreç kanıtı mı? Kanıtı kim, sonuçla hangi ticari ilişki içinde ve hangi metodolojik şeffaflıkla üretmiştir? Sonuç, tedarikin başarılı olmasında çıkarı bulunmayan bir taraf tarafından bağımsız olarak yeniden üretilebilir mi? Sistem hangi özel koşullarda, hangi oranda ve kullanıcı popülasyonları genelinde hangi şiddet dağılımıyla başarısız olmaktadır? Ve bu başarısızlıklar konuşlandırma sırasında ortaya çıktığında, hangi taraf, hangi mekanizma yoluyla, hangi zaman çizelgesinde ve etkilenen bireye hangi çözüm yolu sunularak sorumluluk taşımaktadır?
Bu sorular yalnızca kanıt standardını yükseltmekle kalmaz. Hesap verebilirliği de yeniden konumlandırır. Bu soruları yanıtlayan bir tedarik dosyası, kurumun ne bildiğini, ne zaman bildiğini ve neyi kabul ettiğini belirler. Bu soruları yanıtlamayan bir tedarik dosyası ise yalnızca kurumun bir süreci tamamladığını belirler. Kuruluşların kullanım bağlamını tanımlamasını ve kalan riski belgelemesini gerektiren risk temelli çerçeveler de dahil olmak üzere gelişmekte olan yönetişim beklentileri altında, ikinci dosyayı savunmak giderek zorlaşmaktadır.
Burada söz konusu olan yetkinlik, kurumun güveni kanıttan ayırt etme kapasitesidir. Bu kapasite kontrol listelerinde bulunmaz. Değerlendirme araçlarında, temsil edici test koşullarını belirleyebilme yeteneğinde ve bir tedarikçi iddiasını bir bulgu değil bir hipotez olarak ele alma istekliliğinde bulunur.
NCG Politika Pozisyonu
Novara Consulting Group, erişilebilirlik yapay zekası tedarikinin kanıt temelli güvence ile yönetilmesi gerektiğini savunmakta ve aşağıdaki pozisyonların bu ilkeden kaynaklandığını kabul etmektedir.
Tedarikçi tarafından üretilen belgeler, doğrulama gerektiren bir iddia olarak ele alınmalı, asla doğrulamanın kendisi olarak görülmemelidir. Tedarik kaydındaki işlevi, tedarikçinin ne iddia ettiğini ortaya koymaktır; bu da bir kanıt meselesi değil, bir hesap verebilirlik meselesidir.
Bağımsız değerlendirme, sistemin hizmette karşılaşacağı kullanıcı popülasyonları, dilsel kayıtlar, konu alanı ve çevresel koşullar dahil olmak üzere, gerçek konuşlandırma bağlamını temsil eden koşullar altında gerçekleştirilmelidir. Başka herhangi bir koşul altında yapılan değerlendirme, kurumun sormadığı bir soruyu yanıtlar.
Başarısızlık koşulları, ihale öncesinde olumlu şekilde açıklanmalı ve sözleşmeyle ele alınmalıdır. Başarısızlık modları belgelenmemiş bir sistem, beraberinde ne kadar belge gelirse gelsin değerlendirilmemiş demektir.
Sağır ve işitme güçlüğü çeken paydaşlar, yalnızca konuşlandırma sonrası geri bildirimde değil, kabul kriterleri ve değerlendirme tasarımında da yer almalıdır. Kurumsal güven oluştuktan sonraki katılım, yalnızca isimde danışma anlamına gelir.
Başarısızlığa ilişkin sorumluluk, satın alma noktasında açıkça atanmalı; etkilenen bireye, yalnızca sözleşme yapan kuruma değil, tanımlanmış bir çözüm yolu ve yükseltme mekanizması sunulmalıdır.
Uygulama Hususları
Kanıt temelli bir duruş benimseyen kurumlar üç pratik sürtüşmeyi önceden öngörmelidir. Birincisi zaman çizelgesidir. Bağımsız değerlendirme, satın alma döngülerini uzatır ve bu uzamanın, tedarik ofisi tarafından sessizce üstlenilmek yerine önceden liderliğe savunulması gerekir. En kalıcı savunma karşılaştırmalı olanıdır: konuşlandırma öncesi değerlendirmenin maliyeti, hizmette keşfedilen başarısızlıklardan kaynaklanan düzeltme, sözleşme feshi ya da dava maliyetine karşı tartılmalıdır.
İkincisi yetkinliktir. Çoğu kurum, işaret dili yapay zekası için temsil edici değerlendirme koşulları tasarlayacak iç uzmanlığa şu anda sahip değildir ve bu uzmanlığın yokluğu sıklıkla tedarikçi belgelerine güvenmek için bir gerekçe olarak yanlış yorumlanır. Bu durum, daha doğru biçimde dışsal değerlendirme kapasitesi için bir gereksinim olarak okunmalıdır.
Üçüncüsü piyasa tepkisidir. Kanıt temelli tedarike alışkın tedarikçiler değerlendirme gerekliliklerine direnebilir ve bazıları katılmayı reddedebilir. Kurumlar, bir tedarikçinin konuşlandırmayı temsil eden koşullar altında değerlendirilmeyi istememesinin kendi başına bir kanıt olduğunu ve satın alma sırasında elde edilebilecek en bilgilendirici sinyallerden biri olduğunu kabul etmelidir.
Uygulamanın anlamlı olması için tam kapsamlı olması gerekmez. Kurumlar, mevcut ihale araçlarına kanıt temelli sorular ekleyerek, başarısızlık koşulu açıklamasını bir yanıt verme kriteri olarak zorunlu kılarak ya da ihaleyi başarılı bağımsız değerlendirmeye bağlı kılarak başlayabilir. Her adım, kurumsal kaydı güvenden kanıta doğru taşır.
Kapanış Pozisyonu
Yapay zeka yönetişiminin geleceği, hangi kurumun en fazla sayıda uygunluk belgesi topladığıyla değil, hangi kurumların güveni kanıttan ayırt edebilecek tedarik sistemleri inşa ettiğiyle belirlenecektir.
Kaynakça
- Salamon, L. M. (Ed.). (2002). The Tools of Government: A Guide to the New Governance. Oxford University Press.
- Stone, D. (2012). Policy Paradox: The Art of Political Decision Making (3. baskı). W. W. Norton.
- National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1.
- International Organization for Standardization. (2023). ISO/IEC 42001:2023, Bilgi teknolojisi – Yapay zeka – Yönetim sistemi.
- Information Technology Industry Council. Voluntary Product Accessibility Template (VPAT). Rehabilitation Act'in 508. Bölümü kapsamında referans gösterilen erişilebilirlik uygunluk raporlama aracı.
- Avrupa Parlamentosu ve Konseyi'nin yapay zeka konusunda uyumlaştırılmış kurallar belirleyen (AB) 2024/1689 sayılı Tüzüğü.
- Novara Consulting Group. The Fifth Parameter, Sayı 002, “The Procurement Trap.”
- Novara Consulting Group. The Fifth Parameter, Sayı 011 / Politika No. 2, “The Accountability Gap.”
Yazarın Notu
Heather M. Grizzle-Odland, Novara Consulting Group LLC'nin Kurucusu ve CEO'sudur; burada yapay zeka erişilebilirlik yönetişimi, işaret dili yapay zeka tedariki, kurumsal hesap verebilirlik ve kamu sektörü teknoloji denetimi üzerine odaklanmaktadır. Sign Language Access Trust Framework™'ün geliştiricisi ve kurumların yeni teknolojileri değerlendirirken sıklıkla gözden kaçırdığı yönetişim sorularını inceleyen bir yayın olan The Fifth Parameter'ın yazarıdır.
Çalışmaları; kanıt, hesap verebilirlik, Deaf önderliğindeki yönetişim ve teknik uygunluk ile gerçek dünyadaki erişilebilirlik arasındaki boşluk üzerine odaklanmaktadır.