Çok geç gelen bir hazır olma modeli
Çoğu kurumsal yapay zeka hazır olma çerçevesi, kendilerini baltalayan ortak bir yapısal özelliği paylaşır. Denetimden önce yetkinliği sıralarlar. Önce veri temelleri oluşturulur, ikinci olarak uygulamalar devreye alınır ve üçüncü olarak bir etik veya güven katmanı tanıtılır; bu katman genellikle yönergeler, ilkeler ve adalet ile şeffaflığa yönelik taahhütler biçiminde ifade edilir. Bu sıralama sezgiseldir, çünkü işin fiilen nasıl finanse edildiğini yansıtır ve dolaşımdaki hazır olma modellerinin çoğunun önerdiği sıralama da budur.
Bu aynı zamanda, istihdam yapay zekasında şimdi görünür hale gelen başarısızlıkları üreten sıralamadır. Bir etik katmanı tasarlandığında, yönetmesi gereken sistemler zaten üretimdedir, tedarik süreci kapanmıştır, sözleşme şartları sabitlenmiştir, tedarikçi seçimi geri alınamaz hale gelmiştir ve kuruluşun pratik seçenekleri belgeleme ve ifşayla sınırlanmıştır. Üçüncü adımda getirilen yönetişim, yönetişim değildir. İkinci adımda alınan kararların geriye dönük meşrulaştırılmasıdır.
Üçüncü adımda getirilen yönetişim, yönetişim değildir.
Düzeltme, daha erken bir etik aşaması eklemek değildir. Düzeltme, etik ilkelerin bu durumun gerektirdiği araç olmadığını ve onları öyleymiş gibi ele almanın bizzat hatanın kendisi olduğunu kabul etmektir.
İlkeler neden kontrol mekanizması değildir
Bir ilke ile bir araç arasındaki ayrım anlamsal bir mesele değildir ve yönetişim literatüründe kuruluşların yeniden keşfetmesine gerek kalmayacak kadar titizlikle incelenmiştir.
Salamon'un hükümet araçları analizi, politika hedeflerinin, hangi faaliyeti yetkilendirdiği, kimin uyguladığı, hangi uyumu zorunlu kıldığı ve neyi gözlemlenebilir kıldığı gibi tanımlanabilir özelliklere sahip araçlar aracılığıyla gerçekleştirildiğini ortaya koyar. Beyan edilmiş bir taahhüt bunların hiçbirini yapmaz. Bir failden, bir tetikleyiciden, kanıtsal bir çıktıdan veya performans gösterilmemesinin bir sonucundan bahsetmeksizin yalnızca bir niyeti ifade eder. Yapay zekaya uygulandığında, bu örüntü doğrudan belgelenmiştir. Jobin, Ienca ve Vayena'nın küresel yapay zeka etik yönergeleri manzarasına ilişkin araştırması, üst düzey ilkelerde belirgin bir yakınsama bulurken, bu ilkelerin nasıl yorumlandığı ve ne gerektirdiklerinin anlaşılması konusunda belirgin bir ayrışma tespit etmiştir. Mittelstadt'ın değerlendirmesi, ilkelerin diğer alanlarda işlevsel hale gelmesini sağlayan mesleki yapılar, hesap verebilirlik mekanizmaları ve uygulama yolları olmaksızın, tek başlarına etik yapay zekayı garanti edemeyeceği sonucuna daha keskin biçimde ulaşmıştır.
Dolayısıyla istihdam yapay zekası riskine açık etik yönergeler geliştirerek yanıt veren bir kuruluş, kanıt kaydı en zayıf olan müdahaleyi benimsemiş olur. Bunun nedeni, adalet ve şeffaflığın değersiz hedefler olması değildir. Nedeni, bir yönergenin hiçbir somut çıktı üretmemesi ve kuruluşun fiilen karşı karşıya olduğu her yükümlülüğün somut çıktılar aracılığıyla yerine getirilmesidir.
Neredeyse her hazır olma modelinde yer alan, algoritmaların nasıl çalıştığına dair şeffaflık taahhüdünü ele alalım. Bu taahhüt, beyan edildiği şekliyle ulaşılabilir değildir. Tedarikçiler model mimarisini ifşa etmeyecektir, bu kategorideki çoğu sistem taahhüdün ima ettiği anlamda yorumlanabilir değildir ve algoritmik şeffaflık vaat eden bir kuruluş, teslim edemeyeceği ve hakkında sorgulanacağı bir şey vaat etmiş olur. Ulaşılabilir ve daha kullanışlı olan taahhüt ise türünden farklıdır: korunan sınıflar genelinde sonuçlara ilişkin, belirtilen bir sıklıkla üretilen ve kuruluşun kimliğini belirleyebildiği bir tarafça hazırlanan belgelenmiş kanıt. Bu bir araçtır. Kimin neyi, ne zaman yaptığını ve hangi kaydın ortaya çıktığını belirtir.
Tersine çevrilmiş hazır olma sıralaması
İlkeler yerine araçlar üzerine kurulu bir hazır olma modeli, işi farklı şekilde sıralar ve bu yeniden sıralama, sunumsal bir değişiklik değil asıl katkının kendisidir.
Önce kapsam belirlemesi gelir. Herhangi bir sistem yetkinlik açısından değerlendirilmeden önce, kuruluş sistemin çıktılarının işe alım, terfi, ücretlendirme, görevlendirme, disiplin veya istihdamın sürdürülmesiyle ilgili kararları yapmak, yönlendirmek veya önemli ölçüde etkilemek için kullanılıp kullanılmadığını yanıtlayabilmelidir. Bu formülasyon, bir sistemin pazarlandığı ürün kategorisi değil, istihdam yapay zekasını yöneten her rejimde hangi yükümlülüklerin devreye girdiğini belirler. Kapsam belirlemesi bir araçtır çünkü bir kayıt üretir, bir sorumlu atar ve tanımlanmış bir iş akışını tetikler. Aynı zamanda ucuzdur ve ertelendikçe daha pahalı hale gelen tek adımdır.
Veri yönetişimi onu izler, ancak yeniden çerçevelenmiş biçimde. Hazır olma modelleri veri hedefini tek bir gerçek kaynağı olarak tanımlar, ki bu bir veri kalitesi hedefidir. Yönetişim hedefi ise farklı ve daha dardır: kuruluş, belirli bir çıkarımın hangi verilerden, ne zaman ve hangi köken bilgisiyle elde edildiğini belirleyebilmelidir. Temiz, entegre veriler daha iyi tahminleri destekler. Belgelenmiş veri kökeni ise, bir kişinin neden aldığı sonucu aldığına dair bir düzenleyiciye veya davacıya yanıt verme yeteneğini destekler. Yalnızca ikincisi bir yönetişim yetkinliğidir ve bir kuruluş birincisine tamamen sahip olup ikincisinden tamamen yoksun olabilir.
Kanıtsal gereklilikler sonradan değil, tedarik aşamasında devreye girer. Kuruluşun pazarlık gücünü elinde tuttuğu nokta burasıdır. Metodolojiyi, test edilen sınıfları ve popülasyonu belirten önyargı denetimi belgeleri. Coğrafi, eğitimsel veya kıdeme dayalı hiçbir özelliğin vekil olarak işlev görmediğinin teyidi. Bildirim ve olumsuz eylem iş akışının ve bunu hangi tarafın yürüttüğünün belirtilmesi. İlgili zamanaşımı süresi boyunca platform geçişinden sağ çıkacak yeterlilikte saklama ve dışa aktarma şartları. Bunların her biri ihale öncesinde pazarlığa açıktır ve sonrasında açık değildir; bu da sıralamanın tüm gerekçesidir.
Devreye alma izleme getirir, onay değil. Uygulama sonrasında önem taşıyan taahhüt, belirli bir aralıkta sonuç testidir, çünkü farklı etki standardı altında kuruluşun aracının adil olduğuna dair inancı, sonuçların farklılaşıp farklılaşmadığı sorusuna yanıt vermez. Yanıt veren yalnızca ölçümdür.
Kayıt katmanı döngüyü tamamlar. Kişi, sürüm, tarih ve kimlik doğrulamalı yola bağlı tasdik. Oluşturulduğu andan itibaren tasarlanmış saklama mimarisi. Kuruluşun ne yaptığını gösterebilme yeteneği, tüm sıralamanın çıktısıdır ve karşı tarafın görebileceği tek çıktıdır.
Model, ilk aşamanın tekrar etmesi nedeniyle bir merdiven değil bir döngüdür. Sistemler, çoğunlukla onları istihdam karar teknolojisi olarak sınıflandırmayan işlevler aracılığıyla kuruluşlara sürekli olarak girer ve bu nedenle kapsam belirlemesi tamamlanmış bir proje değil, izlenen bir koşuldur.
Açıklayıcı örnek olarak yetenek istihbaratı
Dolaşımdaki hazır olma modelleri, genellikle mevcut becerileri gelecekteki gerekliliklerle eşleştiren ve veri odaklı kariyer yolları üreten proaktif yetenek istihbaratını, yönetişim katmanının önünde, ikinci aşamaya yerleştirir. Bu yerleştirme öğreticidir çünkü söz konusu özel yetkinlik, tüm istihdam yapay zekası kategorisi içinde en ağır şekilde düzenlenenlerden biridir ve neredeyse hiçbir zaman öyle tanınmaz.
Çalışan yetkinliğini haritalayan ve kariyer yolu önerileri üreten bir sistem, terfi ve görevlendirmeyi önemli ölçüde etkileyen değerlendirmeler üretmektedir. New York City'nin 144 Sayılı Yerel Yasası terfi kararlarını kapsar. İnsan Hakları Yasası'nın Ocak 2026'da yürürlüğe girecek Illinois değişikliği, terfi, disiplin ve işten çıkarmayı kapsar ve sonuca değil kullanıma bağlı bildirim yükümlülükleri getirir. AB Yapay Zeka Yasası'nın Ek III'ü, terfi, görev dağılımı ve performans değerlendirmesini ürün kategorisine göre değil işleve göre sıralar. İkinci aşamada yetenek istihbaratını devreye alan ve üçüncü aşamada güven çerçevesine ulaşan bir kuruluş, düzenlenen bir sistemi devreye almış ve ardından hakkında ilkelerini yazmış olur.
Bu, geleneksel sıralamanın pratik bedelidir ve varsayımsal değildir. Kuruluşların değerlendirmedikleri yükümlülükleri edindikleri olağan yoldur.
Bunun danışmanlık sorusu için değiştirdiği şey
Kuruluşların sorduğu soru, hangi yapay zeka araçlarını benimsemeleri gerektiğidir. Maruziyetlerini belirleyen soru ise, zaten benimsemiş oldukları sistemlerden hangilerinin önemli karar sistemleri olduğu ve her biri hakkında hangi kanıtlara sahip oldukları sorusudur.
Bunlar farklı sorulardır ve ikincisi, bir teknoloji kararı gerektirmeden, düşük maliyetle ve çıktı olarak kalıcı bir somut ürünle derhal yanıtlanabilir. Aynı zamanda sonraki teknoloji kararlarını yalnızca coşkulu değil savunulabilir kılan sorudur. Bir istihdam kararına dokunan her sistem için neyi yaptığını, hangi yükümlülüklerin devreye girdiğini, hangi kanıtların mevcut olduğunu ve bir sonraki incelemenin kime ait olduğunu belirtebilen bir kuruluş bir şey inşa etmiştir. Bir dizi etik yapay zeka ilkesine sahip bir kuruluş ise bir şey yazmıştır.
Yapay zekayı insan kaynakları operasyonlarına entegre etmek bir teknoloji projesi değildir. Geleneksel modellerin doğru anladığı kısım budur. Bu bir yönetişim projesidir ve yönetişim taahhütlerle değil araçlarla kurulur.
Kaynakça
- Salamon, L. M., ed. The Tools of Government: A Guide to the New Governance. Oxford University Press, 2002.
- Jobin, A., Ienca, M., ve Vayena, E. “The global landscape of AI ethics guidelines.” Nature Machine Intelligence 1 (2019): 389–399.
- Mittelstadt, B. “Principles alone cannot guarantee ethical AI.” Nature Machine Intelligence 1 (2019): 501–507.
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), Ocak 2023.
- ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system.
- New York City Administrative Code § 20-870 ve devamı (144 Sayılı Yerel Yasa, 2021).
- Illinois House Bill 3773, 103. Genel Kurul (2024), Illinois İnsan Hakları Yasası’nı değiştiren, 1 Ocak 2026’da yürürlüğe giren düzenleme.
- Regulation (EU) 2024/1689, Ek III(4).
- Novara Consulting Group, “Gelişim İstisnası: İç Hareketlilik Platformları ve İstihdam Yapay Zekası Yönetişiminin Sınırları,” Mayıs 2025.