Kurumsal insan kaynakları teknolojisi, daha önce hiçbir zaman karşılayamayacağı organizasyonlar için erişilebilir hale geldi. Yönetişim sorunu, onunla birlikte neyin gelmediğidir.
Demokratikleşme argümanının doğru olan yanı
Kurumsal insan kaynakları teknolojisi, daha önce hiçbir zaman karşılayamayacağı organizasyonlar için erişilebilir hale geldi. Yirmi kişilik kar amacı gütmeyen bir kuruluş artık ayda bir abonelikle, kendisinden bin kat büyük işverenlerin kullandığı aynı ürünleri kullanarak başvuru sıralaması, yapılandırılmış değerlendirme, katılım analitiği, beceri çıkarımı ve kişiselleştirilmiş öğrenme sunumu yürütebiliyor. Bu gerçek bir değişim ve bu konudaki coşku yersiz değil. Büyük şirketlerde yoğunlaşmış olan kapasite artık geniş çapta dağıtılmış durumda.
Bu gözlemle birlikte genellikle öne sürülen argüman, dağılımın yalnızca kapasiteye değil avantaja da ilişkin olduğu ve küçük, misyon odaklı kuruluşların bu sistemleri iyi kullanma konusunda şirketlerden daha avantajlı konumda olabileceğidir; çünkü bu kuruluşlar daha yalın, daha çevik ve büyük bir insan kaynakları departmanının taşıdığı bürokratik yükten uzaktır. Novara Consulting Group'un görüşü, bu son iddianın gerçek riski tersine çevirdiği ve bu tersine çevirmenin sektör için temel yönetişim sorunu olduğudur.
Yük, hesap verebilirliktir.
Yük, hesap verebilirliktir. Büyük bir işverenin insan kaynakları fonksiyonunun, verimsizlik gibi görünen katmanların altında barındırdığı şey, bir dizi kontroldür: bir araç devreye alınmadan önce hukuki inceleme, bir tedarikçi yönetim süreci, kayıt saklama, bir sistemin neyi ölçtüğünü soran bir uyum görevlisi ve bir karar yanlış göründüğünde bunu fark etmek görevi içeren bir iş ortağı. Büyük şirketler bu araçları, bu katmanın zaten mevcut olduğu bir ortama uyarladı. Misyon odaklı kuruluşlar ise aynı araçları bu katman olmadan benimsiyor ve bu eksikliğin bir fayda olduğu söyleniyor.
Kutunun içinde gelmeyen şey
Yazılım aynı. Yazılımın etrafındaki her şey ise dört açıdan farklı ve bu farklar birbirini güçlendiriyor.
Kimse onu yapılandırmadı. Küçük bir kuruluş, tedarikçinin varsayılan ayarlarıyla çalışır. Eleme kriterlerini kendisi seçmemiştir, eşik değerlerini belirlememiştir ve çoğu zaman hangi özelliklerin adayları puanladığını bile bilmez, çünkü birçoğu uygulama sırasında etkinleştirilmiş ve hiç gözden geçirilmemiştir. Sonunda gelen 'kriterleri kim, neye dayanarak belirledi' sorusunun cevabı yoktur.
Kimse onu incelemedi. İletişim tarzını ölçen bir değerlendirmenin işle ilgisi olup olmadığını soracak bir hukuk danışmanı, çıkarım sonuçlarının nerede saklandığını soracak bir gizlilik birimi ve doğrulama kanıtı isteyecek bir satın alma ofisi yoktur. Satın alma kararı, bir emsal kuruluşun tavsiyesi üzerine bir genel müdür tarafından verilmiştir.
Kimse pazarlık yapamaz. Bir işvereni gerçekten koruyan kontroller sözleşmeseldir: puan saklama, sürüm tanımlama, geçmiş bir kararı yeniden üretebilme yeteneği, doğrulama kanıtına erişim, bir soruşturmada iş birliği. Bunlar satın alma aşamasında belirlenir. Standart bir sipariş formu imzalayan yirmi kişilik bir kuruluşun bunları elde edecek pazarlık gücü yoktur; bu da en etkili savunmanın bu ölçekte en az erişilebilir olan savunma olduğu anlamına gelir.
Ve yasal taban yerinden oynamaz. Title VII ve Americans with Disabilities Act on beş çalışana, Age Discrimination in Employment Act yirmi çalışana uygulanır. Otomatik araçlar için gelişmişlik savunması yoktur, küçük işveren güvenli limanı yoktur ve sistem satın alındığı için yükümlülükte herhangi bir azalma söz konusu değildir. Gelişmekte olan içtihat, tedarikçinin bir davalının yerine değil, davalıya ek olarak eklenebileceğini öne sürüyor; Temmuz 2024'te Kuzey Kaliforniya Bölge Mahkemesi, bir eleme yazılımı tedarikçisine karşı açılan davaların, tedarikçinin araçlarını kullanan işverenlerin acentesi olarak hareket ettiği teorisi üzerinden devam etmesine izin verdi. Aracın kutu içinde gelmiş olması ve kuruluştaki kimsenin onu anlamamış olması bir savunma değildir. Bu bir itiraftır.
Silinmesi gereken iddia
Misyon odaklı insan kaynaklarında yapay zeka hakkında yaygın olarak öne sürülen önermeler arasında, nitelendirilmek yerine tamamen kaldırılması gereken bir tanesi vardır: bu sistemlerin önyargıya dirençli olduğu veya bilinçsiz önyargıyı azalttığı ve daha adil işe alım sağladığı iddiası.
Bunu destekleyen herhangi bir kamuya açık kanıt tabanı yoktur ve mevcut kanıtlar tam tersi yönü işaret etmektedir. Önceki başarılı adaylar üzerinde eğitilmiş sistemler bir dağılıma uyumu puanlar ve en sık puanladıkları boyutlar olan iletişim, akıcılık, duygu durumu ve yanıt süresi, engelliliğin, aksanlı konuşmanın ve alışılmadık geçmişlerin sapma olarak kaydedildiği boyutlardır. Mart 2025'te Colorado Civil Rights Division ve EEOC (Equal Employment Opportunity Commission) nezdinde Sağır ve Yerli bir çalışan adına açılan bir şikayet, otomatik bir video mülakatta tam olarak bu örüntüyü iddia etmektedir; her iki şirket de iddiaları reddetmekte ve konu tartışmalıdır, ancak zarar teorisi artık adı geçen taraflarla kamu kaydında yer almaktadır.
Güvence olarak sunulan denetim mekanizması bu iddiayı düzeltmez. 2024 ACM Fairness, Accountability, and Transparency Konferansı'nda sunulan araştırma, New York City'nin önyargı denetimi gerekliliğine uyumu yaklaşık dört yüz işveren genelinde incelemiş ve olumlu beyan oranlarının tek haneli düşük rakamlarda olduğunu, yayınlanan denetimlerin neredeyse tamamının dörtte dört beşte dört eşik değerinin üzerinde etki oranları bildirdiğini bulmuştur; bu dağılım denetlenen sistemlerden çok, denetim yaptıranlar hakkında bir şey söylemektedir. Ve bu araçlar ırk ve cinsiyeti ölçmektedir. Engelliliği ölçemezler, çünkü işverenler koşullu bir teklif öncesinde hangi başvuranların engelli olduğunu yasal olarak bilemez ve soramazlar.
Misyon odaklı bir kuruluş için bu sadece bir doğruluk sorunu değildir. Kamuya açık olarak adil işe alıma bağlılık gösteren ve özel olarak bir tedarikçinin adalet iddiasına güvenen bir kuruluş, kanıtlayamayacağı bir iddiayı, güvenilirliğinin asıl varlığı olduğu alanda benimsemiş olur. Doğru tutum, bu sistemlerin önyargı konusunda kanıtlanmamış olduğunu, kuruluşun sonuçları kendisinin izlediğini ve bu konuyu devretmediğini söylemektir.
Küçük ekip analitiği, yapısı gereği anonimliği ortadan kaldırır
Gerçek zamanlı katılım ve performans analitiğinin küçük ekiplerin destekleyici ortamlar oluşturmasına olanak tanıdığı önermesi ayrı bir ele alışı hak ediyor, çünkü bu ölçekte kurumsal ölçekten farklı bir şey yapıyor.
Katılım analitiği, toplu içgörü vaadiyle satılır: kuruluş kişileri değil örüntüleri görür. Bu vaat, bireyleri gizleyecek kadar büyük hücre boyutlarına bağlıdır. Üç ekipten oluşan yirmi beş kişilik bir kuruluşta, ekip bazında duygu durumu veya katılımı bildiren bir gösterge paneli, altı ila dokuz tanınabilir kişi hakkında bilgi vermektedir ve onu okuyan herhangi bir yönetici kimin kim olduğunu bilir. Kıdem, rol veya konuma göre segmentlere ayrıldığında raporlama bireyseldir. Anonimlik nominaldir ve hakkında rapor tutulan kişiler bunu genellikle liderlikten çok önce anlar.
Bunun iki sonucu vardır. Birincisi, verinin güvenilir olmaktan çıkmasıdır, çünkü yanıtlarının kime ait olduğunun anlaşılabileceğini doğru şekilde çıkaran çalışanlar buna göre cevap verir; organizasyonların yüksek katılım gösteren ve kimsenin beklemediği bir istifanın yaşandığı gösterge panellerine sahip olmasının nedeni budur. İkincisi yasaldır. Analitik; refah, stres, tükenmişlik veya ilgisizlik çıkarımı yaptığında, kuruluş tanınabilir çalışanlar hakkında sağlıkla ilişkili bilgi üretiyor olabilir. ADA, çalışanlarla ilgili tıbbi bilgilerin ayrı ve gizli olarak tutulmasını zorunlu kılar ve tedarikçi altyapısında, platformu yöneten herkesin görebileceği genel amaçlı bir analitik üründe yer alan bir çıkarımın bu standardı karşılaması pek olası değildir. Kimse bu soruyu düşünmemiştir, çünkü sistem bir kültür aracı olarak satın alınmıştır.
Aynı mantık beceri çıkarımı ve kişiselleştirilmiş öğrenme için de geçerlidir. Beceri açıklarını tespit edip gelişimi hedefleyen bir sistem, kimin yatırım alacağını belirleyen bir profil üretmektedir. Çıkarılmış bir profil temelinde gelişim tahsis etmek bir istihdam kararıdır ve böyle bir karar olarak incelenebilir. Eğer çıkarım, yaş veya engellilikle ilişkili kıdem, rol geçmişi veya katılım sinyallerine dayanıyorsa, kuruluş bir riski fayda olarak kaydetmiş demektir.
Yalın bir kuruluşun gerçekten koruması gereken şey
Tavsiye, bu büyüklükteki bir kuruluşun yürütemeyeceği ve girişmemesi gereken bir uyum programı değildir. Diğer sorumlulukları olan tek bir kişi tarafından yürütülmeye dayanabilecek küçük bir dizi kontroldür. Bu ölçekte maliyetleri düşüktür ve kurumsal yükten ithal edilmeye değer olan kısımdır.
Neyin çalıştığını bilin. Yazılımın bir kişiyi değerlendirdiği, sıraladığı, filtrelediği, puanladığı veya profilini çıkardığı her noktayı, uygulama sırasında varsayılan olarak etkinleştirilen özellikler dahil olmak üzere listeleyin. Bunu ilk kez yapan kuruluşların çoğu, kimsenin puanlama yaptığını bilmediği en az bir sistem bulur.
Açıklanamayanı kapatın. Bir özelliğin neyi ölçtüğünü ve işle neden ilgili olduğunu kimsenin ifade edemediği durumlarda, belgelemek yerine devre dışı bırakın. Bu seçenek küçük kuruluşlar için gerçekten mevcut, büyük kuruluşlar için ise büyük ölçüde mevcut değildir ve bu listedeki en yüksek getirili eylemdir.
Tedarikçiye yazılı olarak sorun ve cevabı saklayın. Bu özellik neyi puanlıyor. Hangi sinyallerden ne çıkarım yapıyor ve çıkarım nerede saklanıyor. Puanları ve yapılandırmayı ne kadar süre saklıyorsunuz ve on sekiz ay önceki bir kararı yeniden üretebiliyor musunuz. Hangi doğrulama kanıtı mevcut. Ürün hangi uyum sağlama (accommodation) yolunu destekliyor. Bir ret de bir cevaptır ve saklanmaya değerdir.
İhtiyaç duyulmadan önce uyum sağlama yolunu oluşturun. Kimin karar vereceğini belirleyin, bir süre belirleyin, kullanan kişiyi dezavantajlı duruma düşürmeyecek alternatif bir değerlendirmenin var olduğundan emin olun ve bunun mevcudiyetini bir kariyer sayfasında değil, değerlendirmenin kendisinde belirtin. Taleplerin ve sonuçların dosyasını tutun. Bu, mevcut en ucuz kontroldür ve gelme olasılığı en yüksek olan iddiayı ele alır.
Herhangi bir insan analitiği için bir taban belirleyin. Belirtilen bir minimum büyüklüğün altındaki gruplar hakkında raporlama yapılmaması, bireysel atıf yapılmaması ve refah veya sağlık hakkında çıkarımların genel amaçlı bir sistemde saklanmaması.
Yenileme sırasında saklama ve yeniden üretim koşullarını sorun. Talep reddedilebilir. Sormak ve reddedilmek, bir şikayet dosyalandıktan sonra yazılan bir memorandumdan maddi olarak çok daha iyi bir kurumsal özen kanıtıdır.
Sonuç
Daha önce karşılayamayan kuruluşlara kurumsal kapasitenin dağıtılması gerçek bir kazançtır ve sektör bunu kabul etmelidir. Dağıtılmamış olan şey, bu sistemleri oluşturuldukları kuruluşlar içinde yönetilebilir kılan mekanizmadır ve şu anda bu eksikliği tanımlamak için kullanılan dil, çeviklik, yalınlık, yükten özgürlük, eksik olanı gizlemektedir.
Otomatik eleme uygulayan yirmi kişilik bir kuruluş, yirmi bin kişilik bir kuruluşla aynı yükümlülüklere sahiptir, ancak bunları karşılamak için daha az kaynağa sahiptir ve eğer misyon odaklıysa, karşılayamadığında kaybedeceği çok daha fazlasına sahiptir. Bu açığı kapatan kontroller bu ölçekte pahalı değildir. Bunlar bir liste, bir dizi soru, yazılı bir dosya ve neyin kapatılacağına dair bir karardır. Bunları kuran kuruluşlar yalnızca daha güvenli olmakla kalmayacak. Sistemlerinin ne yaptığını bilecekler, ki bu da bu konuşmadaki herkesin varsaydığı ve neredeyse kimsenin doğrulamadığı şeydir.
Kaynakça
- American Civil Liberties Union, ACLU of Colorado, Public Justice ve Eisenberg & Baum LLP. Colorado Sivil Haklar Bölümü'ne ve A.B.D. Eşit İstihdam Fırsatı Komisyonu'na dosyalanan şikayet, 19 Mart 2025.
- Americans with Disabilities Act of 1990, 42 U.S.C. § 12112, tıbbi muayeneler, engellilikle ilgili sorular ve gizlilik hakkındaki § 12112(d) dahil; Title VII of the Civil Rights Act of 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
- Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), davanın reddi talebine ilişkin karar, Temmuz 2024.
- New York Şehri 2021 Yerel Yasa No. 144, Otomatikleştirilmiş İstihdam Karar Araçları.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607; EEOC kayıt tutma gereklilikleri, 29 C.F.R. Part 1602.
- Wright, Lucas, ve diğerleri. “Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability.” Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency.