Maruziyetin gerçekte nerede yattığı
İnsan kaynaklarında yapay zekâya yönelik ilginin büyük bölümü seçime odaklanmıştır: kimin elenip değerlendirildiği, kimin terfi ettirildiği ve bunun hangi temele dayandığı. Bu odak haklıdır ve bu firma bu konuda uzun uzadıya yazmıştır. Ancak bu odak, en hızlı büyüyen uygulamayı neredeyse tamamen incelenmemiş bırakmıştır.
Üretken sistemler artık bir işverenin hukuki konumunu oluşturan belgeleri taslak haline getirmek, güncellemek ve yerelleştirmek için kullanılmaktadır. El kitapları. Uyarlama prosedürleri. İzin politikaları. İş tanımları. Disiplin standartları. Soruşturma şablonları. Çok eyaletli uyum ekleri. İddia şudur: tarihsel olarak yavaş ve pahalı olan bu çalışma artık anında üretilebilir ve mevzuat değiştikçe sürekli güncel tutulabilir.
Novara Consulting Group’un konumu şudur: bu uygulama, otomatik elemeden daha büyük ve daha acil bir risk taşımaktadır; bunun nedeni belgenin kendi doğasına özgüdür: bir politika operasyonel bir belge değildir. Kanıttır. Davalarda ortaya çıkar, kurum soruşturmalarında atıf yapılır, çalışanlar ona güvenir ve işi, söylediği ile gerçekte olan arasındaki boşluğu bulmak olan kişiler tarafından işverenin aleyhine okunur. Hukuki konumunu köken kaydı olmadan üreten bir kuruluş, kendisi hakkında kimsenin açıklayamayacağı büyük hacimde delil niteliğinde materyal yaratmış olur.
Politika, delildir
Bir istihdam uyuşmazlığında, işverenin yazılı politikası aynı anda birkaç işlev görür ve her biri aleyhte işleyebilir.
İşverenin çalışanlara ne söylediğini ortaya koyar; bu, güvene dayalı talepler açısından ve pek çok eyalette, taslağa ve feragatnamelere bağlı olarak sözleşme oluşumu açısından önem taşır. İşverenin kendisi için koyduğu standardı ortaya koyar; belirli davadaki davranışı bu standarda göre değerlendirilecektir. Kendi belirlediği prosedürü izlemeyen bir işveren, prosedürü sessiz kalan bir işverene kıyasla maddi olarak daha kötü bir konumdadır. İşverenin ne bildiğini ortaya koyar, çünkü bir hukuki gerekliliği ele alan bir politika, o gerekliliğin farkında olunduğunu gösterir. Ve tutarlılığı ya da tutarsızlığı ortaya koyar, çünkü farklı çalışanlara farklı şekilde uygulanan bir politika, ayrımcılık tespitine giden olağan delil yoludur.
Bunların hiçbiri yeni değildir. Yeni olan şey, belgenin artık makul görünürlüğü optimize eden bir sistem tarafından, avukat olmayan bir kişi tarafından, hangi otoritenin danışıldığına veya hangi muhakemenin yürütüldüğüne dair hiçbir kayıt bırakmayan bir süreçte üretilmiş olabilmesidir.
Bu durum, işverenin doğru olup olmadığını belirlemeden bir hukuki konum benimsediğini ortaya koyar.
Karşı taraf avukatı, uyarlama prosedürünü kimin kaleme aldığını, belirli bir hükmün hangi temelle dahil edildiğini ve hangi hukuki otoritenin bunu desteklediğini sorduğunda, bunu bir üretken sistemin oluşturduğu ve birinin tonunu gözden geçirdiği yanıtı iyi bir yanıt değildir. Bu yalnızca yetersiz bir yanıt değildir; işverenin doğru olup olmadığını belirlemeden bir hukuki konum benimsediğini ortaya koyar.
Halüsinasyon kaynaklı otorite ve insan kaynaklarının neden hukuk biriminden daha kötü konumda olduğu
Üretken sistemlerin güvenli görünümlü ama tamamen uydurma hukuki atıflar üretme eğilimi belgelenmiştir ve sonuçları vardır. 2023 yılında New York Güney Bölgesi’ndeki federal bir mahkeme, bir sohbet botu tarafından üretilen ve doğrulanmamış, var olmayan mahkeme kararlarını içeren bir dilekçe sunan avukatlara yaptırım uygulamıştır. Benzer olaylar pek çok yargı bölgesinde yaşanmıştır ve bu örüntü artık bu alanda çalışan herkese tanıdık gelmektedir.
Bu tartışma açısından önemli olan gözlem şudur: onlar avukattı. Bir atfın kontrol edilmesi gerektiğini fark edecek eğitime, bunu kontrol etmek için gereken veri tabanlarına erişime ve başarısızlığı yaptırıma tabi kılan mesleki yükümlülüklere sahiptiler. Hata yine de tekrar tekrar meydana geldi.
Çok eyaletli bir izin politikası kaleme alan bir insan kaynakları uzmanının bu avantajların hiçbiri yoktur. Çoğu zaman atıf yapılan hükmün var olup olmadığını söyleyemez, bunu doğrulayacak araştırma araçlarına sahip değildir ve işine bağlı herhangi bir doğrulama yükümlülüğü taşımaz. Çıktı akıcı, yapılandırılmış, uygun şekilde ihtiyatlı gelir ve okuduğu her yetkin politika gibi biçimlendirilmiştir. Akıcılık tam olarak bu sistemlerin en iyi ürettiği şeydir ve tam olarak uzman olmayan bir okuyucunun doğruluğun yerine koyduğu ölçüttür.
En önemli hatalar aynı zamanda en az görünür olanlardır. Uydurma bir atıf, en azından biri kontrol etmeyi düşündüğünde kontrol edilebilir. İnce bir şekilde yanlış ifade edilmiş bir standart ise öyle değildir: etkileşimli sürecin, işverenin ihtiyacın farkına vardığı anda değil, çalışanın belge sunduğu anda başladığını tanımlayan bir politika mükemmel okunur ve iki yıl sonra uyarlama sağlamama tespitine yol açacak şekilde yanlıştır.
Sürekli uyum, teknolojinin işleyiş biçimi değildir
Bir üretken sistemin eyaletler ve ülkeler genelinde değişen mevzuata uyum sağladığı ve sürekli uyumu güvence altına aldığı iddiası, tedarikçi belirli bir mekanizma tanımlayamadığı sürece yanlış kabul edilmelidir.
Bir dil modelinin bir eğitim kesim tarihi vardır. Yetkili ve güncel tutulan bir hukuki kaynağa karşı erişim (retrieval) yapılmadığı sürece, eğitim verisinde göründüğü haliyle hukuku üretir ve kullanıcıya yanıtın eskimiş olduğuna dair hiçbir işaret vermez. İstihdam hukuku bu sınırlama için en kötü olası alanlardan biridir: ücret şeffaflığı gereklilikleri, ücretli izin hakları, rekabet yasağı kısıtlamaları, maaş geçmişi yasakları ve çalışma programı kuralları, herhangi bir statik derlemeyi aşan bir hızla yargı bölgeleri genelinde çoğalmış ve değişmiştir. Bugün üretilen bir politika, on sekiz ay önce değiştirilmiş bir gerekliliği tanımlayabilir ve bunu kendinden emin bir şekilde tanımlayacaktır.
Çok yargı bölgeli durum, pazarlandığı gibi en iyi değil, en kötü durumdur. Yerelleştirme, elli küsur rejimden hangisinin geçerli olduğunu, bunların nasıl etkileşime girdiğini ve yerel gerekliliğin federal tabanı nerede aştığını bilmeyi gerektirir. Bu, güncel uzman bilgiye en çok bağımlı olan görevdir ve hatanın, çıktıyı talep eden kişi tarafından fark edilme olasılığının en düşük olduğu görevdir, çünkü o kişi yerelleştirmeyi tam olarak bilmediği için talep etmiştir.
Bir kuruluş ayrıca bu iddianın şeklini de tanımalıdır. Ocak 2025’te Federal Ticaret Komisyonu (Federal Trade Commission), otomatik ürününün herhangi bir web sitesini erişilebilirlik standartlarına uygun hale getirebileceğini ve içerik değiştikçe bu uyumu sürdürebileceğini iddia eden bir erişilebilirlik yazılımı sağlayıcısının bir milyon dolar ödemesini şart koşmuştur. Teknik bir standartla sürekli otomatik uyum, farklı bir standart hakkında yapılan aynı iddiadır ve bir düzenleyici ile karşılaştığında ayakta kalamamıştır.
Denetime hazır olma durumu tersine dönmüştür
Önerme, üretilen belgelemenin denetime hazırlık sağladığını ileri sürer. Gerçekte tam tersini üretir ve nedenini anlamak, bu değerlendirmelerin gerçekte neyi test ettiğini netleştirir.
Bir denetçi, bir kurum soruşturmacısı veya karşı taraf uzmanı temel olarak bir politikanın var olup olmadığını sormaz. Varlık, önemsiz bir şekilde gösterilebilir. Asıl sorular şunlardır: kuruluş bu politikanın geçerli gerekliliği karşıladığını nasıl belirlemiştir, bu belirlemeyi kim yapmıştır, hangi otoriteye dayanmışlardır, en son ne zaman güncel hukuka göre gözden geçirilmiştir ve son revizyonda ne değişmiştir ve neden.
Üretilen belgeleme bunların hiçbirine yanıt vermez. Belgeyi üretirken, belgeye ağırlık kazandıran kaydı yok eder. İnce, tarihli ve sade bir şekilde kaleme alınmış bir politikaya ve isimlendirilmiş bir avukat tarafından belgelenmiş yıllık bir incelemeye sahip bir kuruluş, kaynağını kimsenin açıklayamadığı kapsamlı, güncel görünümlü, elli eyaletli bir politika setine sahip bir kuruluştan çok daha güçlü bir konumdadır.
İş tanımı bir hukuki belgedir
Standart listedeki bir madde ayrı bir ele alışı hak ediyor, çünkü bu genellikle pazarlama metni olarak görülmektedir ve aslında bu işlevin ürettiği en önemli sonuçlu belgelerden biridir.
ADA (Amerikan Engelliler Yasası) kapsamında, nitelikli bir birey, pozisyonun temel işlevlerini yerine getirebilen kişidir ve uygulama yönetmelikleri, ilan verilmeden veya mülakat yapılmadan önce hazırlanan yazılı iş tanımlarını bu temel işlevlerin ne olduğuna dair kanıt olarak tanımlamaktadır. Kimsenin gerçekte yerine getirmediği görevleri listeleyen veya genel bir şablondan kopyalanmış fiziksel ya da duyusal gereklilikleri içeren üretilmiş bir iş tanımı, aynı anda iki şey yapar: işi yapabilecek adayları eler ve davacıya, belirtilen gerekliliğin hiçbir zaman temel olmadığını gösteren işverenin kendi belgesini sağlar.
Aynı belge, Adil Çalışma Standartları Yasası (Fair Labor Standards Act) kapsamındaki istisna sınıflandırması analizinde de ağırlık taşır; burada soruşturma gerçek görevlere dayansa da, yazılı tanım işverenin bu görevleri ne olarak temsil ettiğinin kanıtıdır. Ayrıca, Birörnek Yönergeler (Uniform Guidelines) kapsamında herhangi bir seçim prosedürünün işle ilgililiğinin değerlendirildiği kaynaktır.
Üretilmiş iş tanımları caziptir çünkü bunları yazmak sıkıcıdır ve üretilmiş olanlar iyi okunur. Aynı zamanda küçük bir taslak kolaylığının delil sorununa dönüştüğü noktadır ve fiziksel gereklilikler bölümü bunun en sık gerçekleştiği yerdir.
Sohbet botu, işverenin bağlı olduğu tavsiyeyi verir
Son uygulama, çalışan politika sorularını talep üzerine yanıtlayan bir yapay zekâ asistanı, belirli ve yeterince takdir edilmeyen bir riski devreder.
İzin hakkı, uyarlama prosedürü veya şikâyet yönlendirmesi hakkında soru soran ve bir yanıt alan bir çalışan, bu yanıtı işvereninden almış demektir. Sistem ona hak sahibi olduğu bir izin için uygun olmadığını söylerse ve o izni almazsa, işveren yasal bir hakka müdahale etmiş olur ve Aile ve Tıbbi İzin Yasası (Family and Medical Leave Act) kapsamında müdahale, kasıt gerektirmez. Sistem ona uyarlama sürecinin, sağlamak zorunda olmadığı tıbbi belgeler gerektirdiğini söylerse ve o talebinden vazgeçerse, işverenin elinde caydırıcılığın yazılı bir kaydıyla birlikte bir uyarlama sağlamama sorunu vardır. Sistem bir taciz şikâyetini hiçbir zaman bir karar vericiye ulaşmayan bir kanala yönlendirirse, işverenin bildirim savunması kendi sistemi tarafından zayıflatılmış olur.
Buradan doğrudan üç kontrol çıkar. Konuşmalar kaydedilmeli ve saklanmalıdır, çünkü bunlar işveren beyanlarıdır ve talep edilecektir. İzin, uyarlama, şikâyet veya soruşturmayla ilgili herhangi bir sorgu, yanıtlanmak yerine isimlendirilmiş bir insana yönlendirilmelidir, çünkü bunlar yanlış bir yanıtın dava konusu olabileceği ve anında yanıtın değerinin en düşük olduğu kategorilerdir. Ve arayüz, genel bilgi sağladığını ve uygunluğu ya da hak sahipliğini belirlemediğini açıkça belirtmelidir.
Neyin belirlenmesi gerektiği
Bir üretken sistem, kuruluşun güveneceği veya bir çalışanın okuyacağı herhangi bir şey üretmeden önce belirlenmesi gereken altı madde.
- Üretilen her belge için bir köken kaydı tutun: neyin üretildiği, hangi kaynağın kontrol edildiği, kim tarafından, hangi tarihte ve gözden geçirmede neyin değiştirildiği. Tarihsiz ve atıfsız politika, başarısızlık modudur.
- Hukuki bir standart, hak veya prosedür belirten herhangi bir şey için hukuki inceleme şart koşun ve incelemeyi yapanın adını ve tarihini bir iç not olarak değil, belgenin bir parçası olarak ele alın.
- Mevzuat güncelliği iddia eden herhangi bir tedarikçiden mekanizmayı tanımlamasını isteyin: hangi yetkili kaynağa erişildiği, ne sıklıkla ve bir hüküm değiştiğinde kullanıcının nasıl uyarıldığı. Eğer yanıt modelin hukuki materyal üzerinde eğitildiği ise, ürün iddia edildiği şeyi yapmıyor demektir.
- İş tanımlarını hukuki belgeler olarak ele alın. Temel işlevleri ve her türlü fiziksel, duyusal veya iletişimsel gereklilikleri, görevdeki kişilerin fiilen yaptıklarıyla karşılaştırarak gözden geçirin ve inceleme tarihini belirtin.
- Çalışanlara yönelik asistan konuşmalarını kaydedin ve saklayın; izin, uyarlama (accommodation), şikayet ve soruşturma sorularını bir kişiye yönlendirin.
- Üretilen belgelendirmeyi, ne kurum içinde ne de kurum dışında, denetime hazır olma durumu olarak sunmayın. Denetime hazır olmak, belge değil, inceleme kaydıdır.
Sonuç
İnsan kaynakları belgelendirmesinde üretken yapay zeka desteğine ilişkin gerekçe gerçektir. Taslak hazırlamak gerçekten yavaştır, bu işlev gerçekten yetersiz kaynaklara sahiptir ve iyi denetlenen bir ilk taslak, teknolojinin meşru bir kullanımıdır.
Bu uygulamayı diğerlerinden farklı kılan şey, çıktısının kanıt niteliği taşımasıdır. Eleme sistemleri, işverenin yeniden oluşturmakta zorlanabileceği kararlar üretir. Belgelendirme sistemleri ise işverenin kendi sesiyle, yazılı olarak, hacimli bir şekilde ve hızla sorumlu tutulacağı ifadeler üretir. Kendi personel el kitabını üreten kuruluş, sıradan bir işi otomatikleştirmiş değildir. Söylediği şeyi okumadan, gelecekteki bir anlaşmazlıkta kendi tarafını kaleme almıştır ve bu belgeyle, kontrolü elinde olmadığı koşullar altında yeniden karşılaşacaktır.
Gereken disiplin mütevazıdır: doğrulayın, kaynak gösterin, tarihlendirin ve kimin karar verdiğinin kaydını tutun. Aracı kullanmak ile araç tarafından ifşa olmak arasındaki fark, tamamen bu disiplinden ibarettir.
Kaynakça
Americans with Disabilities Act of 1990, 42 U.S.C. § 12111(8); 29 C.F.R. § 1630.2(n)(3), ilan verilmeden veya mülakat yapılmadan önce hazırlanan yazılı iş tanımları da dahil olmak üzere temel işlevlere ilişkin kanıtlar.
Family and Medical Leave Act, 29 U.S.C. § 2615(a)(1), korunan haklara müdahalenin yasaklanması.
Fair Labor Standards Act, 29 U.S.C. § 201 ve devamı, fiili görevlere dayalı muafiyet analizi.
Federal Ticaret Komisyonu, accessiBe, Inc. Davası, Dosya No. 2223156, şikayet ve önerilen karar 3 Ocak 2025'te açıklanmıştır.
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023), bir yapay zeka aracı tarafından üretilen uydurma mahkeme içtihatlarının sunulmasına karşı verilen yaptırımlar.
Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607.