Yapay zeka ajanları etrafındaki tartışma hızla ilerliyor ve operasyonel açıdan eksik bir şekilde çerçeveleniyor.
Hâkim anlatı hız, ölçek ve verimliliğe odaklanıyor. Kuruluşlar kaç saat tasarruf edilebileceğini, kaç rolün güçlendirilebileceğini ve iş akışlarının ne kadar hızlı otomatikleştirilebileceğini soruyor. Bu düşünce tarzı, yapay zeka ajanlarını bir üretkenlik katmanı olarak ele alıyor. Bunların mevcut sistemlerin üzerine oturduğunu ve zaten var olanı sadece hızlandırdığını varsayıyor. Pratikte ise, ajan tabanlı yapay zeka çok daha önemli bir şey yapıyor. Kararların nerede alındığını, eylemlerin nasıl tetiklendiğini ve bir kuruluş içinde operasyonel yetkiyi kimin veya neyin taşıdığını değiştiriyor.Bir yapay zeka ajanı pasif bir araç değildir. Girdileri yorumlayabilir, mantık uygulayabilir, çıktılar üretebilir ve çoğu durumda sistemler genelinde sonraki aşamadaki eylemleri başlatabilir. Çalışan taleplerini önceliklendirebilir, müşterilere yanıt taslakları hazırlayabilir, uyumluluk belgelerini özetleyebilir, başvuru sahiplerini eleyebilir, sorunları üst makamlara iletebilir ve departmanlar arasında bilgi akışını etkileyebilir. Bu yetenekler iş sistemlerine bağlandığında, ajan artık işe yardımcı olmaktan çıkar. İşin bir parçası haline gelir. Bu ayrım önemlidir çünkü katılım, maruziyet getirir. Maruziyet kontrol gerektirir. Kontrol ise yönetişim gerektirir.
Bu yetenekler iş sistemlerine bağlandığında, ajan artık işe yardımcı olmaktan çıkar. İşin bir parçası haline gelir.
Çoğu kuruluş bu dönüşüme henüz ayak uyduramadı. Ajan tabanlı araçları, insan karar vericiler için tasarlanmış ortamların içine yerleştiriyorlar. Bu ortamlar, sorumluluğun bir kişiye kadar izlenebileceğini varsayar. Niyetin değerlendirilebileceğini varsayar. Hataların insan muhakemesi yoluyla araştırılabileceğini varsayar. Karşılık gelen bir yönetişim yapısı olmadan bir yapay zeka ajanı devreye sokulduğunda, bu varsayımlar çözülmeye başlar. Kararlar, geleneksel anlamda sorumluluk taşımayan sistemler tarafından etkilenir. Eylemler, olasılıksal çıktılara dayanarak alınır. Kayıtlar, incelemenin hızını ve hacmini aşan bir biçimde üretilir. Kuruluş faaliyetine devam eder, ancak sorumluluğa dair netlik aşınmaya başlar.
İşte risk sessizce burada birikmeye başlar. Hemen bir başarısızlık olarak ortaya çıkmaz. Belirsizlik olarak ortaya çıkar. Hiç kimsenin açıkça onaylamadığı bir yanıt gönderilir. Hiç kimsenin tam olarak doğrulamadığı bir öneri takip edilir. Bir iş akışı, sistem mantığıyla uyumlu ancak kurumsal niyetle uyumlu olmayan bir şekilde yürütülür. Bu olaylar tek başına meydana geldiğinde yönetilebilir görünür. İnsan kaynakları, uyumluluk, finans ve müşteri operasyonları gibi işlevler genelinde meydana geldiğinde ise kalıplar oluşturmaya başlarlar. Düzenleyici maruziyetin, itibar riskinin ve iç çöküşlerin ortaya çıkmaya başladığı yer tam da bu kalıplardır.
Altta yatan sorun, yapay zeka ajanlarının doğası gereği riskli olması değildir. Sorun, bunların yönetişim boşluklarına konuşlandırılmasıdır. Kuruluşlar, ajanların ne yapmasına izin verildiğini tanımlamadan önce ne yapabileceklerini soruyorlar. Sınırları belirlemeden önce erişimi mümkün kılıyorlar. Denetimi tanımlamadan önce sistemleri birbirine bağlıyorlar. Bunu yaparak, fiilen yetkiyi devrediyor ama bu devrin şartlarını belgelemiyorlar.
Önce yönetişim yaklaşımı bu sırayı tersine çevirir. Ajanın kuruluş içindeki rolünü tanımlamakla başlar. Hangi işlevleri desteklediği. Hangi verilere erişebildiği. Hangi eylemleri başlatabildiği. Hangi kararların insan onayı gerektirdiği. Çıktılar belirsiz veya hatalı olduğunda hangi üst makama iletme yollarının mevcut olduğu. Bunlar teorik düşünceler değildir. Operasyonel gerekliliklerdir. Bunlar olmadan kuruluş, işin nasıl yürütüldüğünü veya sonuçlardan kimin sorumlu olduğunu güvenilir biçimde açıklayamaz.
Küçük ve orta ölçekli kuruluşlar bağlamında, görünenden çok daha yüksek riskler söz konusu olabiliyor. Bu kuruluşlar genellikle kaynak kısıtlamasıyla karşı karşıyadır. Kapasiteyi genişletmek, elle yapılan iş yükünü azaltmak ve daha büyük firmalarla rekabet edebilmek için yapay zekayı benimsiyorlar. Bu da ajan tabanlı yapay zekayı son derece cazip kılıyor. Aynı zamanda hızlı bir şekilde devreye alma konusunda güçlü bir teşvik yaratıyor. Yönetişim, sistem yerleştikten sonra ele alınabilecek bir konu olarak algılanıyor. Gerçekte ise yönetişim, sistemin sürdürülebilir olup olmayacağını belirleyen şeydir. Yönetişim olmadan, verimlilik kazanımları istikrarsızlıkla dengelenir. Bir alanda kazanılan zaman, başka bir alanda hataları, tutarsızlıkları ve sonraki aşamadaki etkileri yönetmekle kaybedilir.
Tam olarak ele alınmayan yapısal bir iş gücü sonucu da var. Yapay zeka ajanları giriş seviyesi ve idari görevleri üstlendikçe, kuruluşların tarihsel olarak güvendiği gelişim yollarını değiştiriyorlar. Alt kademe roller hem iş gücü desteği hem de eğitim zemini işlevi görmüştür. Bireylerin bağlam oluşturmasına, muhakeme geliştirmesine ve daha karmaşık sorumluluklara doğru ilerlemesine olanak tanımışlardır. Bu roller azaltıldığında veya yeniden yapılandırıldığında, gelecekteki uzmanlık için gereken yetişme hattı daha az istikrarlı hale gelir. Kuruluşlar kısa vadeli verimlilik kazanırken aynı zamanda uzun vadeli yeteneklerini zayıflatabilirler. Bu varsayımsal bir sonuç değildir. Becerilerin nasıl geliştirileceğini yeniden tasarlamadan temel işleri ortadan kaldırmanın öngörülebilir bir etkisidir.
Bu bağlamda yönetişim, yalnızca risk azaltmayla sınırlı değildir. Kurumsal sürekliliği korumanın bir mekanizması haline gelir. Görevler otomatikleştirildikçe bilginin hâlâ kaydedildiğini, gözden geçirildiğini ve aktarıldığını garanti eder. İnsan denetiminin ortadan kalkmak yerine nasıl geliştiğini tanımlar. Kararlar bireyler yerine sistemler tarafından etkilense bile, kararların nasıl alındığına dair bir yapı oluşturur.
Ajan tabanlı yapay zekaya yönelik olgun bir yaklaşım, uygulamanın teknik bir kilometre taşı olmadığını kabul eder. Bu, operasyonel bir geçiştir. Teknoloji, politika ve liderlik arasında uyum gerektirir. Süreçlerin açık biçimde belgelenmesini, tanımlanmış sorumluluk yapılarını ve sistemlerin gerçek koşullarda nasıl performans gösterdiğinin sürekli değerlendirilmesini gerektirir. Kuruluşların, yapay zeka ajanlarını arka planda görünmez biçimde çalışan araçlar olarak değil, işletim modellerinin katılımcıları olarak ele almasını gerektirir.
Bu ortamda başarılı olan kuruluşlar, en çok ajanı en hızlı şekilde devreye alanlar olmayacak. Sistemlerinde yetkinin nerede bulunduğunu anlayan ve bunun insan rollerine uygulanan titizlikle yönetilmesini sağlayan kuruluşlar olacaklar. Kararların nasıl alındığını, eylemlerin nasıl tetiklendiğini ve sonuçların nasıl gözden geçirildiğini bilecekler. Sistemlerini düzenleyicilere, çalışanlara ve kendilerine belirsizlik olmadan açıklayabilecekler.
Yapay zeka ajanlarının izlediği yörünge açıktır. Günlük operasyonlara entegrasyonları genişlemeye devam edecek. Soru, kuruluşların bunları kullanıp kullanmayacağı değildir. Soru, bunları desteklemek için gereken yönetişim yapılarını kurup kurmayacaklarıdır.