İddialar ve bunları desteklemek için gereken ölçüm
İnsan kaynaklarında yapay zekâ için standart iş gerekçesi, beş iddia etrafında istikrar kazanmıştır: daha hızlı ve daha iyi işe alım, daha düşük idari maliyet, öngörücü işgücü planlaması, gelişmiş elde tutma ve otomatikleştirilmiş uyumluluk. Bu iddialar, tedarikçi materyallerinde, konferans programlarında ve uzman yorumlarında o kadar tutarlı bir şekilde tekrarlanmaktadır ki, artık kanıt gerektiren önermeler değil, arka plan varsayımları olarak işlev görmektedir.
Kanıt gerektirirler ve bunu üretmenin önündeki engel teknoloji değildir. İnsan kaynakları bu döneme, büyük kurumsal işlevler arasında en zayıf ölçüm altyapısıyla girdi. Finans, denetlenmiş tabloları vardır. Operasyonların verimlilik ve hata oranları vardır. İnsan kaynaklarının ise değişken biçimde tanımlanmış, nadiren doğrulanmış, bir müdahaleden önce nadiren temel seviyesi belirlenmiş ve çoğu zaman değerlendirilen ürünün tedarikçisi tarafından üretilen bir dizi ölçütü vardır. Bir otomatik araç devreye almadan önce işe alım sürecinin performansını ölçemeyen bir kuruluş, sonrasında da iyileşmeyi ölçemez ve getiri olarak raporladığı şey genellikle hiçbir zaman karşılaştırılabilir olmamış iki rakam arasındaki farktır.
Novara Consulting Group'un görüşü, insan kaynaklarında yapay zekâ iş gerekçelerindeki temel sorunun getirilerin olmaması değil olduğudur. Bazı getiriler gerçektir ve aşağıda açıklanmaktadır. Sorun, getirilerin, altta yatan ölçümün destekleyemeyeceği bir kesinlik düzeyinde ileri sürülmesi, buna karşın onları dengeleyecek maliyetlerin modelden tamamen hariç tutulmasıdır. Bu şekilde oluşturulan bir hesaplama bir yatırım analizi değildir. İçinde bir para birimi simgesi bulunan bir savunuculuk belgesidir.
İçinde bir para birimi simgesi bulunan bir savunuculuk belgesidir.
Gerçekten ölçülebilir olan şey ve bunun değeri
Beş standart iddia, birbirinden net biçimde ayrılan iki sınıfa ayrılır ve bu ayrım iddiaların kendisinden daha öğreticidir.
İlk sınıf, gerçekten ölçülebilir ve nispeten mütevazı etkileri içerir. İşe alımda döngü süresi ölçülebilir, çoğu aday takip sisteminde yerleşik bir temel değere sahiptir ve planlama, eleme ve yazışmaların otomasyonuna tepki verir. Bordro ve yan hak yönetiminde işlem başına idari maliyet ölçülebilir, bu süreçlerdeki hata oranları da öyle. Bu işlevleri otomatikleştiren kuruluşlar genellikle tasarruf elde eder ve bu tasarruflar kanıtlanabilir.
İki önemli çekince var. Birincisi, bordro ve yan hak yönetiminde belgelenen tasarrufların çoğunun, mevcut yapay zekâ neslinden on yıllarca önce var olan ve tedarikçi konumlandırmalarında ile buna dayalı iş gerekçelerinde sıklıkla yapay zekâ olarak yeniden etiketlenen iş akışı otomasyonu ve kural tabanlı işlemeden kaynaklanmasıdır. Köklü süreç otomasyonu tasarruflarını yeni bir yapay zekâ satın alımına atfetmek, o satın alımın ölçülen getirisini şişirir ve daha önemlisi nedensel mekanizmayı yanlış atfeder; bu da kuruluşun faydayı neyin yarattığı konusunda yanlış bir ders çıkarması anlamına gelir. İkinci çekince, bu tasarrufların mutlak olarak çarpıcı olmadığıdır. Tek başlarına, şu anda yapılan kurumsal taahhütleri haklı çıkarmazlar.
İkinci sınıf, gerçek olmaları hâlinde önemli olacak ama şu anda ölçülemeyen etkileri içerir: işe alım kalitesinin iyileşmesi, elde tutmanın iyileşmesi ve daha iyi işgücü planlaması. İş gerekçesini taşıyan iddialar bunlardır ve bunu, büyüklüklerinin ölçümle sınırlandırılmamış olması nedeniyle tam olarak başarırlar.
İşe alım kalitesi bir ölçüt değildir
İşe alım kalitesi, neredeyse her işe alım teknolojisi iş gerekçesindeki taşıyıcı iddiadır ve doğrulanmış ortak bir tanımı yoktur. Kuruluşa bağlı olarak ilk yıl performans değerlendirmesi, doksan günlük elde tutma, on iki aylık elde tutma, işe alan yöneticinin memnuniyeti, verimliliğe ulaşma süresi veya bunların birkaçının birleşimi olarak somutlaştırılır; her birinin farklı ölçüm özellikleri vardır ve hiçbirinin işe alım etkinliğinin bir ölçütü olarak yerleşik yapı geçerliliği yoktur.
Bunun sonucu, işe alım kalitesinde iddia edilen herhangi bir iyileşmenin büyük ölçüde tanım seçiminin bir yapıntısı olmasıdır. İşe alım kalitesini doksan günlük elde tutma olarak tanımlayan ve önceki uzun süreli çalışanlara benzeyen adayları eleyen bir araç devreye alan bir kuruluş bir iyileşme gözlemleyecektir. İşe alımın iyileştiğini öğrenmemiştir. Bir vekil göstergeyi optimize etmek üzere kurgulanmış bir sistemin o vekil göstergeyi hareket ettirdiğini öğrenmiştir. Tedarikçinin hem aracı hem de ölçüm çerçevesini sağladığı durumlarda ki bu yaygındır, bulgu kanıttan çok totolojiye yakındır.
Bu, metodolojik titizliğin çok ötesinde önem taşır. 29 C.F.R. Part 1607'de yer alan Çalışan Seçme Prosedürleri Hakkında Tek Tip Kılavuzlar uyarınca, seçme süreci olumsuz etki gösteren bir işverenin, prosedürün iş için geçerli olduğuna dair kanıt sunması beklenir. Ölçüte dayalı geçerlilik, savunulabilir bir iş performansı ölçütü gerektirir. Kendi görevleri için işe alım kalitesinin tam olarak ne anlama geldiğini söyleyemeyen ve ölçüt ölçütünün kendisinin önyargısız olduğunu gösteremeyen bir kuruluş, çerçevenin öngördüğü kanıta sahip değildir. İş gerekçesini şişiren ölçüm zayıflığı, hukuki savunmayı zayıflatan zayıflıkla aynıdır; bu da metodolojik bir sorun ile sorumluluk sorununun aynı sorun olduğu nadir bir örnektir.
Öngörücü işten ayrılma ve doğruluk açığı
Öngörücü işgücü planlaması ayrı bir ele alışı hak ediyor, çünkü yayınlanan performans ile uygulanan performans arasındaki mesafe burada en geniştir ve hukuki risk en az anlaşılandır.
Çalışan işten ayrılma tahminine ilişkin akademik literatür, rutin olarak doksanların üst sınırında doğruluk rakamları bildirmektedir. Bu rakamlar büyük ölçüde az sayıda kıyaslama veri setinde, başta yaklaşık 1.470 kayıtlık IBM İnsan Kaynakları Analitiği setinde ve yaygın olarak dolaşan yaklaşık 15.000 kayıtlık bir Kaggle insan kaynakları setinde üretilmekte ve genellikle SMOTE (Synthetic Minority Over-sampling Technique, Sentetik Azınlık Aşırı Örnekleme Tekniği) gibi örnek artırma teknikleriyle yapay sınıf dengeleme sonrasında elde edilmektedir. Bunlar algoritmaları birbiriyle karşılaştırmak için meşru metodolojik tercihlerdir. Bir işverenin kendi işgücü üzerindeki saha performansına ilişkin tahminler değildir ve sanki öyleymiş gibi bir iş gerekçesinde asla yer almamalıdır. Uçuş riski modelleri için gerçekçi saha doğruluğuna dair uygulayıcı değerlendirmesi bundan belirgin biçimde düşüktür, yüzde yetmiş ile seksen aralığındadır ve alandaki analistler yüzde doksanın üzerindeki tedarikçi iddialarına sürekli şüpheyle yaklaşmaktadır.
Yüzde seksen ile doksanların üst sınırı arasındaki fark bu uygulamada bir yuvarlama farkı değildir, çünkü taban oran düşüktür. Çoğu kuruluşta gönüllü işten ayrılma yıllık yüzde yirmi'nin çok altındadır; bu da güçlü bir genel doğruluğa sahip bir modelin bile gerçek pozitiflerden önemli ölçüde fazla yanlış pozitif üretebileceği anlamına gelir. Bir işten ayrılma modelinde, yanlış pozitif, ayrılma olasılığı yüksek olarak hatalı biçimde tanımlanan bir çalışandır.
Yönetişim sorusu hemen ardından gelir ve yatırım getirisi çerçevesi bunu gizler. Kuruluş o isimle ne yapar? Cevap hiçbir şey ise, model hiçbir getiri üretmemiştir. Cevap herhangi bir şey ise, ister farklılaştırılmış elde tutma teklifleri, ister değiştirilmiş gelişim yatırımı, ister uzun vadeli görevlerden dışlanma, ister değiştirilmiş yedekleme değerlendirmesi olsun, kuruluş bir tahmine dayanarak bir birey hakkında farklılaştırılmış bir istihdam kararı almıştır. Bu bir istihdam eylemidir ve yasallığı skoru neyin belirlediğine bağlıdır. Bu modelleri oluşturmaya ilişkin kılavuzlar rutin olarak çalışan demografik bilgilerinin dahil edilmesini önermekte, yaş ve kıdemi modele bağlam kazandıran girdiler arasında saymaktadır. Modele yaş bilgisini besleyen, çıktıyı gelişim yatırımını tahsis etmek için kullanan ve belirli bir çalışanın neden o şekilde puanlandığını yeniden kuramayan bir işveren, bir Yaş Ayrımcılığı İstihdam Yasası (Age Discrimination in Employment Act) riski oluşturmuş ve bunu deftere bir fayda olarak kaydetmiştir.
Otomatikleştirilmiş uyumluluk, bir uyumluluk yükümlülüğünü ortadan kaldırmaz
Yapay zekânın iş hukukuna ve iç politikaya uyumu sağladığı iddiası, iş gerekçelerinden tamamen çıkarılmalıdır; bu, araçların işe yaramaz olmasından değildir. Kaçırılan molaları, fazla mesai eşiklerini, sınıflandırma anomalilerini veya izin yönetimi hatalarını işaretleyen izleme sistemleri gerçekten değerli olabilir ve bunlar için operasyonel gerekçe makuldür.
Başarısız olan kelime 'sağlar' kelimesidir. Bir izleme sistemi yasal bir yükümlülüğü ortadan kaldırmaz; işverenin sahiplendiği çıktılar üretir. Sistem olası bir ihlali işaretler ve hiç kimse harekete geçmezse, kuruluş bildirimi kanıtlayan tarihli bir iç kayıt oluşturmuş olur ki bu, hiç izleme yapmamaktan maddi olarak daha kötüdür. Sistem meydana gelen bir ihlali işaretlemezse, işveren herhangi bir savunma elde etmemiştir, çünkü bir tedarikçi aracına güvenmek, Adil Çalışma Standartları Yasası (Fair Labor Standards Act) veya Eşit İstihdam Fırsatı Komisyonu'nun (EEOC) uyguladığı yasalar kapsamında uyumsuzluk için tanınan bir mazeret değildir. Sistemin belirlemeleri düzenli bir şekilde yanlışsa, işveren hatayı otomatikleştirmiş ve ölçeklendirmiştir.
Ocak 2025'teki gelişmeler bunu daha iyi değil daha kötü hale getiriyor. EEOC, Engelli Amerikalılar Yasası'na ilişkin Mayıs 2022 teknik yardımı ve Başlık VII'ye ilişkin Mayıs 2023 teknik yardımı da dahil olmak üzere yapay zekâ kılavuzunu web sitesinden kaldırdığında, işverenler ajansın hangi uygulamaları sorunlu gördüğünü söyleyen yorumlayıcı materyali kaybetti. Yasalar değişmedi. O zamandan beri geri çekilmiş bir kılavuza göre yapılandırılmış bir uyumluluk aracı artık belirtilmiş bir referans standardı olmaksızın işlemektedir ve bu açığı tedarikçi değil, işveren taşımaktadır.
Dolayısıyla uyumluluk otomasyonu, bir yükümlülüğü ortadan kaldırmak yerine belgeleme ve yanıt yükümlülüğü ekler. Bu yükümlülüğün bir maliyeti vardır, bu maliyet gerçektir ve modelin maliyet tarafında yer almalıdır.
Modelin dışarıda bıraktığı maliyetler
Çoğu insan kaynakları yapay zekâ iş gerekçesi, lisans ücretleri, uygulama hizmetleri ve bir miktar eğitim ödeneğinden oluşan bir maliyet tarafı içerir. Bu, yazılımın edinim maliyetidir. En azından aşağıdakileri de ek olarak içeren otomatikleştirilmiş bir istihdam karar sisteminin işletme maliyeti değildir.
Doğrulama çalışması, yani her sistemin puanladığı şeyin işin belgelenmiş bir gereksinimiyle örtüştüğünü ortaya koyan analiz, bununla birlikte sistem veya görev değiştiğinde gereken yeniden doğrulama. Uyumlaştırma (accommodation) yolu işletimi, yani talep üzerine alternatif bir değerlendirme sunma kalıcı kapasitesi; belirlenmiş karar vericiler, tanımlanmış geri dönüş süresi ve bir form yerine işleyen bir etkileşimli süreç. Kayıt saklama ve yeniden üretim kapasitesi, yani 29 C.F.R. Part 1602 kapsamında öngörülen saklama süresi boyunca herhangi bir bireysel karar için puanı, girdileri ve yürürlükteki sistem yapılandırmasını üretebilme yeteneği. İzleme, yani tedarikçi özetine güvenmek yerine sonuçların periyodik olarak test edilmesi. Keşif ve idari soruşturmalarda tedarikçi iş birliği ki bu maliyetlidir, müzakere edilmedikçe standart ticari koşullarda bulunmaz ve gerektiğinde işverene fatura edilir. Ve yukarıdakilerden sorumlu, belirlenmiş kişi anlamına gelen iç yönetişim işlevinin kendisi, ki bu çoğu kuruluşta şu anda mevcut değildir ve oluşturulması ya da dış kaynaklı sağlanması gerekir.
Bu işletme maliyetlerinin yanında, neredeyse hiçbir iş gerekçesinin fiyatlandırmadığı ve artık varsayımsal olmayan koşullu bir sorumluluk bulunmaktadır. Ağustos 2023'te EEOC, belirli yaşların üzerindeki başvuru sahiplerini reddetmek üzere yapılandırılmış yazılım nedeniyle iTutorGroup ile 365.000 dolar karşılığında uzlaştı; bu, basit bir yapılandırma kararı için somut bir rakamdır. Temmuz 2024'te California Kuzey Bölgesi, bir eleme yazılımı tedarikçisine karşı açılan davaların, tedarikçinin araçlarını kullanan işverenlerin aracı olarak hareket ettiği savıyla devam etmesine izin verdi; bu, sorumluluğun ya tamamen işverende ya da tamamen tedarikçide olduğu ve sözleşmeyle net biçimde dağıtılabileceği yaygın varsayımı sarsmaktadır. Mart 2025'te Amerikan Sivil Özgürlükler Birliği (ACLU), Colorado ACLU'su, Public Justice ve Eisenberg and Baum, Colorado Sivil Haklar Bölümü ve EEOC'ye, otomatik bir video mülakat ve reddedilen altyazı uyumlaştırmasına ilişkin olarak Deaf ve Yerli bir çalışan adına bir şikâyet dilekçesi sundu; her iki şirket de bu iddiayı reddetmektedir. Bu iddia bireyselleştirilmiştir, karşılaştırmalı istatistik gerektirmez ve açılması masrafsızdır.
Doğru yaklaşım bir uzlaşma rakamını tahmin etmek değildir. Riski açıkça belirtmek, sistemik uygulama iddialarının standart istihdam uygulamaları sorumluluk poliçelerinin kapsamı dışında sıklıkla kaldığını not etmek ve riski azaltan yönetişim kontrollerinin ertelenmek yerine dağıtımın bir parçası olarak finanse edilmesini gerektirmektir.
Bu kalemleri ekleyen bir kuruluş, yatırımın yine de mantıklı olduğunu sıklıkla görecektir. Bu iyi bir sonuçtur ve mesele bu değildir. Mesele, ortaya çıkan rakamın bir yönetim kuruluna, bir denetçiye ve nihayetinde bir mahkemeye savunulabilir olmasıdır; mevcut rakam bunu yapamaz.
Savunulabilir bir yapı
Aşağıdakiler, incelemeye dayanabilen ve mevcut bir insan kaynakları ve finans işlevi tarafından oluşturulabilecek bir iş gerekçesi üretir.
- Temel seviyeyi dağıtımdan sonra değil önce belirleyin: döngü süresi, işe alım başına maliyet, işlem başına idari maliyet, hata oranları ve segmente göre işten ayrılma; her biri en az önceki dört çeyrek için ölçülmüş olmalı.
- Otomasyon tasarruflarını yapay zekâ tasarruflarından ayırın. İddia edilen hangi faydaların, yapay zekâ satın alımı olmadan da mevcut olacak kural tabanlı iş akışı işlemesinden kaynaklandığını belirtin ve bunları ayrı fiyatlandırın.
- Herhangi bir değişikliği ölçmeden önce işe alım kalitesini kendi görevleriniz için açıkça tanımlayın, ölçüt ölçütünü belirtin ve sınırlamalarını belirtin. Tanımlanamıyorsa, bunda iyileşme iddiasında bulunmayın.
- Herhangi bir öngörücü model için kıyaslamadan türetilmiş doğruluk rakamlarını reddedin. Kuruluşun kendi verileri üzerindeki saha performansını gerektirin; taban oranı belirtilmeli ve yanlış pozitif hacmi yüzde yerine personel sayısı olarak ifade edilmelidir.
- Bireysel düzeyde puan üreten her model için, dağıtımdan önce puandan hangi eylemin takip edeceğini belgeleyin ve bu eylemi bir analitik çıktısı olarak değil bir istihdam kararı olarak incelenmesini sağlayın.
- Yukarıda adı geçen işletme yükümlülüklerini tek seferlik uygulama değil, tekrarlayan maliyet olarak fiyatlandırın.
- Sorumluluğu azaltan kontrollerle birlikte, bir tutar atanmış olsun ya da olmasın, koşullu yükümlülüğü ifşa edilmiş bir kalem olarak belirtin.
- Edinim sırasında doğrulama kanıtını, saha performans verilerini ve çoğaltma yeteneğini sözleşme şartları olarak zorunlu kılın. Her türlü reddi muhafaza edin; zira bu, kuruluşun neyi bildiğine dair başlı başına bir bilgidir.
Sonuç
İnsan kaynaklarında yapay zekâ için gerçek bir iş gerekçesi vardır ve bu, şu anda dolaşımda olandan daha mütevazı ve daha savunulabilir niteliktedir. Bu gerekçe, idari süreçlerde döngü süresi, işlem maliyeti ve hata azaltımına dayanır; bunların tümü kanıtlanabilir niteliktedir. Bu gerekçe, işe alım kalitesi, elde tutma ya da fonksiyonun ölçüm pratiğinin destekleyemeyeceği ve modelin fiyatlandırmadığı sorumluluk riski taşıyan öngörü doğruluğu iddialarına dayanmaz.
Bu sistemlerden kalıcı getiri bildirecek kuruluşlar, en erken benimseyenler ya da en çok satın alanlar olmayacaktır. Bunlar, dağıtımdan önce ölçüm yapan, her sistemin neyi puanladığını ve bunun işle neden ilgili olduğunu söyleyebilen ve yönetişim aygıtını kaçınılması gereken bir masraf değil sahip olma maliyetinin bir parçası olarak ele alan kuruluşlar olacaktır. Ölçülmemiş faydaya ve fiyatlandırılmamış riske dayanan getiri, getiri değildir. Bu bir tahmindir ve aradaki fark, birisi hesabın nasıl çıktığını sorduğu anda ortaya çıkar.
Kaynakça
- American Civil Liberties Union, ACLU of Colorado, Public Justice ve Eisenberg & Baum LLP. Colorado Sivil Haklar Bölümü'ne ve A.B.D. Eşit İstihdam Fırsatı Komisyonu'na dosyalanan şikayet, 19 Mart 2025.
- EEOC v. iTutorGroup, Inc., No. 1:22-cv-02565 (E.D.N.Y.), rıza kararı Ağustos 2023.
- Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), davanın reddi talebine ilişkin karar, Temmuz 2024.
- Society for Human Resource Management. “The Dangers of Using Predictive Analytics to Gauge Employee Flight Risk.” 2023.
- U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 Mayıs 2022, ve Select Issues: Assessing Adverse Impact in Software, Algorithms, and Artificial Intelligence Used in Employment Selection Procedures Under Title VII, 18 Mayıs 2023. Her ikisi de 27 Ocak 2025 tarihinde kurum web sitesinden kaldırılmıştır.
- Çalışan Seçim Prosedürlerine İlişkin Tekdüzen Kılavuzlar, 29 C.F.R. Bölüm 1607; kayıt tutma gereklilikleri, 29 C.F.R. Bölüm 1602.