23 Ocak 2025 tarihinde, Yapay Zekada Amerikan Liderliğinin Önündeki Engellerin Kaldırılması başlıklı 14179 sayılı Başkanlık Kararnamesi, önceki yönetimin yapay zeka kararnamesini yürürlükten kaldırdı ve federal kurumlara yapay zekayla ilgili politikaları gözden geçirip geri almaları talimatını verdi. Günler içinde, bunun pratik sonuçları istihdam alanına ulaştı.
Ne değişti, ne değişmedi
27 Ocak'ta, Eşit İstihdam Fırsatı Komisyonu, web sitesinden yapay zeka rehberliğini kaldırdı; bunlar arasında, iş başvurusunda bulunanları ve çalışanları değerlendirmek amacıyla yazılım, algoritma ve yapay zeka kullanımına ilişkin Engelli Amerikalılar Yasası hakkında Mayıs 2022 tarihli teknik yardım belgesi, buna eşlik eden Çalışanlar İçin İpuçları özeti ve Title VII'yi ele alan Mayıs 2023 tarihli teknik yardım belgesi de bulunuyordu. Federal Sözleşme Uyumluluğu Programları Ofisi, federal yükleniciler için yapay zeka ve eşit istihdam fırsatına ilişkin rehberliğini kaldırdı. Çalışma Bakanlığı, Partnership on Employment and Accessible Technology tarafından Eylül 2024'te yayımlanan Yapay Zeka ve Kapsayıcı İşe Alım Çerçevesi'nin ve kendi Ekim 2024 tarihli yapay zeka en iyi uygulamalarının artık mevcut politikayı yansıtmayabileceğini belirtti.
Bu kaldırmalara ilişkin pek çok yorum, bunları işverenlerin maruz kaldığı risklerde bir azalma olarak okudu. Bu okuma, rehberliği yasayla karıştırmaktadır. Teknik yardım belgeleri yorumlayıcıdır. Bir kurumun bir yasayı nasıl anladığını ve icra takdir yetkisini nasıl kullanmayı amaçladığını açıklarlar. Yükümlülüğü yaratmazlar ve geri çekilmeleri yükümlülüğü ortadan kaldırmaz. Engelli Amerikalılar Yasası 1990 yılında yürürlüğe girmiştir ve değiştirilmemiştir. Title I, istihdamın şart ve koşullarında engelliliğe dayalı ayrımcılığı hâlâ yasaklamakta, aşırı güçlük olmadıkça makul uyum sağlanmasını hâlâ zorunlu kılmakta, kriter işle ilgili ve iş gereksinimiyle tutarlı olmadıkça engelli bireyleri eleyen nitelik standartlarının ve seçim kriterlerinin kullanımını hâlâ yasaklamakta ve koşullu bir teklif öncesinde engellilikle ilgili soruları ve tıbbi muayeneleri hâlâ kısıtlamaktadır. 29 C.F.R. Bölüm 1607'de yer alan Çalışan Seçim Prosedürlerine İlişkin Tekdüzen Kılavuzlar, seçim prosedürü kullanıcılarına hâlâ etki kayıtlarını tutmalarını ve etki mevcut olduğunda geçerlilik kanıtlarını saklamalarını emretmektedir. 29 C.F.R. Bölüm 1602'deki kayıt tutma yönetmelikleri, başvuru kayıtlarının korunmasını ve bir şikayet dosyalandığında, nihai karara kadar ilgili kayıtların korunmasını hâlâ zorunlu kılmaktadır.
Ocak ayındaki geri çekmelerin kaldırdığı şey sorumluluk değildi. Bildirimdi. İşverenler, hangi uygulamalarının kurum tarafından sorunlu görüldüğünü ve nedenini açık dille anlatan belgeyi kaybettiler. Maruz kalınan risk devam ediyor ve harita yok oldu.
Maruz kalınan risk devam ediyor ve harita yok oldu.
Engellilik riski neden önyargı riski gibi davranmaz
Algoritmik işe alım riskine verilen baskın tepki önyargı denetimidir ve baskın ölçüt, gruplar arasındaki seçim oranlarını karşılaştıran ve yüzde seksenin altındaki bir oranı olumsuz etki kanıtı olarak kabul eden dörtte dört kuralıdır. Temmuz 2023'ten beri yürürlükte olan New York Şehri'nin 144 Sayılı Yerel Yasası, otomatik istihdam karar araçlarının yıllık bağımsız önyargı denetimini ve sonuçların kamuya açık olarak yayımlanmasını zorunlu kılmaktadır. Satıcılar denetim sonuçlarını giderek bir güvence olarak pazarlamaktadır.
Bu düzenek engelliliğe pek uygun değildir ve bu uyumsuzluk denetim kalitesinden ziyade yapısal bir sorundur. Grup istatistiksel etki testi, oran karşılaştırmasını destekleyecek kadar üyeye sahip, istikrarlı, bilinen, birbirini dışlayan kategoriler gerektirir. Irk ve cinsiyet bu koşullara yaklaşır. Engellilik ise yaklaşmaz. O kadar heterojendir ki, tek bir kategori analitik açıdan neredeyse anlamsızdır; çünkü Deaf bir başvuru sahibinin, görme engelli bir başvuru sahibinin, motor bozukluğu olan bir başvuru sahibinin ve psikiyatrik engeli olan bir başvuru sahibinin uyum ihtiyaçları ve etkileşim örüntüleri arasında neredeyse hiçbir ortak yan yoktur. Sıklıkla açıklanmamıştır, çünkü başvuru sahiplerinin kendilerini tanımlama yükümlülüğü yoktur ve bunu yapmamak için güçlü teşvikleri vardır. Herhangi bir tek iş ilanında genellikle düşük yaygınlıktadır, bu da tanımlama mevcut olsa bile alt grup karşılaştırmalarını yetersiz güce sahip bırakır. Ve ADA kapsamında analiz birimi gruptan ziyade bireydir, çünkü bir eleme iddiası bir kriterin engelli bir bireyi dışlamaya meyilli olup olmadığını sorar, bir uyum sağlamama iddiası ise bir kişinin bir talepte bulunduğunda ne olduğunu sorar.
Sonuç açıkça ifade edilmeyi hak ediyor. Otomatik bir seçim sistemi, üzerinde yapılan her önyargı denetimini geçebilir, ölçülen her kategoride dörtte dört eşiğinin rahatlıkla üzerinde bir etki oranı yayımlayabilir ve yine de engelli başvuru sahiplerini, bireysel olarak dava edilebilir ancak istatistiksel olarak görünmez bir şekilde, birer birer dışlamaya devam edebilir. Denetim sonuçları ADA uyumluluğunun kanıtı değildir. Bunları böyle sunmak -ki artık yaygın bir satıcı uygulamasıdır- işverenin riski ele almayan bir güvenceye dayandığına dair belgelenmiş bir kayıt oluşturur.
Bu aynı zamanda, iyi tasarlanmış algoritmaların insan önyargısını azalttığı ve dolayısıyla engelli adaylar için oyun alanını eşitlediği şeklinde yaygın olarak tekrarlanan iddianın kanıtsız olarak ele alınması gerektiğinin de nedenidir. Bu, bazı önyargı biçimleri için doğru olabilir. Engellilik için bunu kanıtlayan kamuya açık bir kanıt tabanı yoktur ve bu sistemlerin işleyiş mekanizması tam tersini düşündürmektedir. Modeller, önceki başarılı adaylardan öğrenilen bir dağılıma uygunluğu puanlar. Bu sistemlerin en sık ölçtüğü boyutlarda, engellilik tam olarak bu dağılıma uyumsuzluğun ne gibi göründüğüdür.
Mart 2025 şikayeti neyi gösteriyor
19 Mart 2025 tarihinde, Amerikan Sivil Özgürlükler Birliği, Colorado ACLU, Public Justice ve Eisenberg and Baum LLP, bir terfi için başvurduğunda otomatik bir video görüşmesini tamamlaması istenen Deaf ve Yerli bir kadın adına Colorado Sivil Haklar Bölümü'ne ve EEOC'ye bir şikayet dosyaladı. Şikayet, ADA, Title VII ve Colorado Ayrımcılıkla Mücadele Yasası'nın ihlal edildiğini iddia etmektedir. Kamuya açık dosyalara göre, kadın makul bir uyum olarak insan tarafından oluşturulan altyazı talep etmiş, bu talep platformun otomatik altyazılarının yeterli olacağı gerekçesiyle reddedilmiş, buna rağmen görüşmenin bazı kısımları altyazısız kalmış ve kadın daha sonra iletişimle ilgili gerekçelerle reddedilmiştir. İşveren, iddiaların dayanaksız olduğunu ve tüm adaylara makul uyum sağladığını belirtmektedir. Satıcı, şikayetin dayanaksız olduğunu ve kullanılan teknoloji hakkında yanlış bir varsayıma dayandığını belirtmektedir. Bunlar iddialar ve inkarlardır ve bir kurum soruşturması, haklı bir sebep olup olmadığını belirleyecektir.
Sonuç ne olursa olsun, bu olay örgüsü işverenlerin modellemesi gereken türdendir, çünkü bir modelin önyargılı olduğunu kanıtlamaya bağlı değildir. Üç sıradan soruya bağlıdır. Değerlendirme bu aday için erişilebilir miydi. Bir uyum talep edildi mi ve yanıt ne oldu. İşveren, değerlendirmenin neyi ölçtüğünü ve bu kavramın neden işle ilgili olduğunu açıklayabilir mi.
Ayrıca bu teorinin neyi gerektirmediğine de dikkat edin. Karşılaştırmalı istatistik, bir modelin uzman tarafından yeniden inşası veya farklı etki analizi gerektirmez. Kanıt, tarihli bir uyum talebi, buna verilen bir yanıt ve olumsuz bir sonuçtur. Bu kanıt profili oluşturulması ucuzdur ve işverenin kendi kayıtları tarafından yaratılır.
Erişilebilirlik, uyum ve geçerlilik birbirinden farklı üç yükümlülüktür
Mevcut tartışmanın büyük bir kısmı, bağımsız işleyen ayrımları birbirine karıştırmakta ve bunları birleştirmek, bir yükümlülüğü ele alırken diğer ikisini açık bırakan uyumluluk programları ortaya çıkarmaktadır.
Erişilebilirlik, arayüzün bir özelliğidir. Değerlendirme platformunun bir ekran okuyucuyla kullanılıp kullanılamayacağı, medyanın altyazılı olup olmadığı ve zamanlamanın ayarlanıp ayarlanamayacağı, adayın göreve ulaşıp ulaşamayacağına dair sorulardır. Bu, çoğu kuruluşun ele aldığı katmandır; genellikle bir satıcı uygunluk beyanı yoluyla.
Uyum, bir süreç yükümlülüğüdür. Adayların değerlendirme başlamadan önce değişikliklerin mevcut olduğunun kendilerine söylenmesini, bir talebin biçimsel bir reddiye değil etkileşimli bir süreci tetiklemesini, bir karar vericinin belirlenmesini ve bunu kullanan kişiyi dezavantajlı duruma düşürmeyen alternatif bir yolun var olmasını gerektirir. Her açıdan teknik olarak erişilebilir bir platform, kimse başvuru sahibine bir alternatifin var olduğunu söylemediyse yine de bir uyum sağlamama iddiası doğurabilir.
Geçerlilik, ölçümün bir özelliğidir. Sistemin puanladığı şeyin işin bir gereksinimine karşılık gelip gelmediğini sorar. Bu, hemen hemen hiç kimsenin ele almadığı katmandır ve otomatik video ve konuşma değerlendirmesinin en açık olduğu yer burasıdır. Bir sistem akıcılığı, telaffuz hızını, yanıt gecikmesini, tonlamayı, yüz ifadesini veya iletişim ya da katılım olarak etiketlenen bir kavramı puanladığında, işveren işin hangi görevinin bu özelliği gerektirdiğini ve hangi kanıta dayandığını belirtebilmelidir. Yayımlanmış araştırmalar, konuşması eğitim dağılımının dışında kalan konuşmacılar için -ırksallaştırılmış konuşma örüntüleri ve atipik veya bozuk konuşma dahil- otomatik konuşma tanımada önemli kelime hata oranı eşitsizlikleri belgelemektedir; bu nedenle Illinois Üniversitesi 2022'de bu tür verileri toplamak için özel bir Speech Accessibility Project kurmuştur. Bir aday bir tercüman aracılığıyla işaret dili kullandığında, puanlanan dökümantasyon adayın ifadesinden ziyade tercümanın çevirisidir ve tercümanın sözcük seçimleri ile işlem gecikmesi adaya atfedilir. Sistem bir sayı üretir. Adayı ölçmemektedir.
Eyalet katmanı ve zaman çizelgesi
Federal geri çekilme alanı tamamen boşaltmamaktadır ve eyalet takvimi planlama açısından önemlidir. Ağustos 2024'te imzalanan Illinois 3773 Sayılı Meclis Yasası, Illinois İnsan Hakları Yasası'nı değiştirerek istihdam yaşam döngüsü boyunca yapay zekanın ayrımcı kullanımını yasaklamakta ve bu tür sistemler kullanıldığında başvuru sahiplerine ve çalışanlara bildirim yapılmasını zorunlu kılmaktadır; yürürlük tarihi 1 Ocak 2026'dır. Mayıs 2024'te imzalanan Colorado'nun 24-205 Sayılı Senato Yasası, istihdam dahil önemli kararlarda kullanılan yüksek riskli sistemlerin geliştiricilerine ve kullananlarına yükümlülükler getirmekte olup yürürlük tarihi 1 Şubat 2026'dır; ancak vali, imza sırasında yasama değişikliğine davette bulunmuş olup bu tarihten önce değişiklik yapılması muhtemel görülmelidir. Benzer bir çerçeve oluşturacak olan Virginia'nın 2094 Sayılı Meclis Yasası, Mart 2025'te veto edilmiştir. New York Şehri'nin 144 Sayılı Yerel Yasası yürürlükte kalmaya devam etmektedir.
Eyalet katmanının yönü, esaslı özen yükümlülüklerinden ziyade bildirim ve açıklamaya doğrudur. İşverenler, fiilen karşılaşacakları yükümlülüğün ne yaptıklarını söylemek olacağı varsayımıyla planlama yapmalı ve yaptıklarını kanıtlayabilme yükümlülüğünün bir düzenleyici aracılığıyla değil dava yoluyla geleceğini öngörmelidir.
Şimdi yapılması gerekenler
Aşağıdakiler mevcut bir insan kaynakları fonksiyonu tarafından tamamlanabilir ve dış yardım gerektirmez.
- Bir seçim kararına dokunan her sistemi envantere alın; özgeçmiş ayrıştırma, sıralama, eleme soruları, sohbet tabanlı ön eleme ve otomatik video veya konuşma değerlendirmesi dahil. Bir başvuru takip sisteminde varsayılan olarak etkinleştirilen ve en sık gözden kaçırılan özellikleri de dahil edin.
- Her sistem için, neyi ölçtüğünü ve bu kavramın hangi belgelenmiş iş gereksinimine karşılık geldiğini yazılı olarak belirtin. Bir yanıt mevcut olmadığında, sistem doğrulanmamış bir kriteri puanlıyor demektir.
- Adaylara değerlendirme başlamadan önce, sonrasında değil, bir alternatif veya değiştirilmiş değerlendirmenin mevcut olduğunun söylendiğini ve bu bildirimin bir kariyer sayfasına gömülü olmak yerine değerlendirmenin kendisinde yer aldığını doğrulayın.
- Son yirmi dört ay içinde otomatik bir değerlendirmeyle ilişkili her uyum talebini geri getirin. Neyin talep edildiğini, kimin karar verdiğini, neyin sağlandığını ve sonucun ne olduğunu kaydedin. Bu dosya herhangi bir şikayette sunulacaktır ve başka biri incelemeden önce gözden geçirilmelidir.
- Satıcıdan yazılı olarak, puanlanan her kavram için geçerlilik kanıtı ve konuşma ile iletişim özelliklerine göre ayrıştırılmış doğruluk verisi isteyin. Bir ret dahil olmak üzere yanıtı saklayın; bu, işverenin bilgi durumuna dair kendi başına yararlı bir kanıttır.
- Her kararın alındığı sırada yürürlükte olan puanların ve yapılandırmanın geçerli saklama süresi boyunca korunduğunu doğrulayın. Bir sıralama üretmek için hesaplanıp sonra atılan puanlar daha sonra açıklanamaz.
- Herhangi bir önyargı denetimi sonucunu yalnızca ırk ve cinsiyet kategorileriyle ilgili bir kanıt olarak değerlendirin ve bunu ne kurum içinde ne de kurum dışında ADA uyumluluğunun kanıtı olarak sunun.
Sonuç
Yapay zeka, engelli bireyler için işe erişimi önemli ölçüde genişletebilir. Gerçek zamanlı altyazılama, konuşmadan metne dönüştürme ve uyarlanabilir arayüzler bunu zaten yapmıştır ve OECD'nin işgücü piyasasında yapay zeka ve engellilik üzerine 2023 değerlendirmesi gerçek kazanımları belgelemektedir. Bu kazanımlar, teknolojinin kişiye hizmet ettiği destekleyici uygulamalardan gelmektedir. Teknolojinin kişiyi ölçtüğü değerlendirici uygulamalara otomatik olarak aktarılmazlar ve birinciden ikinciye doğru akıl yürütme eğilimi bu alandaki temel analitik hatadır.
Ocak 2025'te federal rehberliğin geri çekilmesi, işverenlere söylenenleri değiştirdi. İşverenlerin borçlu olduklarını değiştirmedi. İşe alım kararlarını savunabilecek olan kuruluşlar, en gelişmiş aracı satın alanlar veya en güven verici denetimi yayımlayanlar değildir. Sistemlerinin neyi ölçtüğünü, bunun işle neden ilgili olduğunu, bir aday farklı bir şey istediğinde ne olduğunu ve kimin karar verdiğini söyleyebilenlerdir.
Kaynakça
- American Civil Liberties Union, ACLU of Colorado, Public Justice ve Eisenberg & Baum LLP. Colorado Sivil Haklar Bölümü'ne ve A.B.D. Eşit İstihdam Fırsatı Komisyonu'na dosyalanan şikayet, 19 Mart 2025.
- Americans with Disabilities Act of 1990, Title I, 42 U.S.C. § 12112.
- Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
- Colorado Senato Yasası 24-205, Yapay Zeka Sistemleriyle Etkileşimde Tüketici Korumalarına İlişkin, 17 Mayıs 2024 tarihinde imzalandı.
- Yürütme Emri 14179, Yapay Zekada Amerikan Liderliğinin Önündeki Engellerin Kaldırılması, 23 Ocak 2025.
- Illinois 3773 Sayılı Meclis Yasa Tasarısı, Illinois İnsan Hakları Yasası'nı değiştiren, 9 Ağustos 2024 tarihinde imzalandı.
- New York Şehri 2021 Yerel Yasa No. 144, Otomatikleştirilmiş İstihdam Karar Araçları.
- OECD. Engelli Bireyleri İş Gücü Piyasasında Desteklemek İçin Yapay Zeka Kullanımı. 2023.
- ABD Eşit İstihdam Fırsatı Komisyonu. Engelli Amerikalılar Yasası ve İş Başvurusunda Bulunanları ve Çalışanları Değerlendirmek İçin Yazılım, Algoritma ve Yapay Zeka Kullanımı, EEOC-NVTA-2022-2, 12 Mayıs 2022. 27 Ocak 2025 tarihinde kurum web sitesinden kaldırıldı.
- Çalışan Seçim Prosedürlerine İlişkin Tekdüzen Kılavuzlar, 29 C.F.R. Bölüm 1607; kayıt tutma gereklilikleri, 29 C.F.R. Bölüm 1602.