Evraktan Muaf, Karardan Sorumlu: Küçük Kuruluşlar ve Kâr Amacı Gütmeyen Kurumlar için Yapay Zeka Yönetişimi

Asimetri

Yapay zeka düzenlemesi ve küçük kuruluşlar hakkındaki geleneksel görüş, uyum yükümlülüklerinin en çok bunlara katlanma gücü en az olanların üzerine düştüğü ve eşiklerle muafiyetlerin bu dengesizliği düzeltmek için var olduğu yönündedir. Bu görüş kısmen doğrudur ve yanlış olduğu kısım, önemli olan kısımdır.

Küçük işverenler ve kâr amacı gütmeyen kuruluşlar, gelişmekte olan mekanizmanın büyük bir kısmından gerçekten muaftır. Ancak yanlış kısımdan neredeyse tamamen muaftırlar. Muafiyetler, kuruluşun zaten kullanmakta olduğu otomatikleştirilmiş araçları yakından incelemesini zorunlu kılacak olan kısma, yani ifşa, değerlendirme ve belgeleme rejimlerine uygulanır. Bu muafiyetler, on beş çalışana uygulanan ve bireysel dava hakkı, bireysel sorumluluk teorileri içeren ve davacının işverenin sofistike olduğunu kanıtlamasını gerektirmeyen temel istihdam ayrımcılığı yasalarına uygulanmaz.

Sorunu bulacak olan süreçten muaf tutulan ama sorunu bulmamış olmanın sonucuna tamamen açık bir kuruluş.

Nihai etki, sorunu bulacak olan süreçten muaf tutulan ama sorunu bulmamış olmanın sonucuna tamamen açık bir kuruluştur. Novara Consulting Group'un görüşü, bu asimetrinin, maliyetten ziyade, yaklaşık iki yüz çalışanın altındaki kuruluşlar için belirleyici yönetişim riski olduğu ve küçük işverenlere verilen standart tavsiyenin, yani bir eşik aşılana kadar beklemenin, mevcut en kötü stratejilerden biri olduğu yönündedir.

Küçük kuruluşların gerçekte neyden muaf olduğu

Eşik yapısı gerçektir ve haritalanmaya değerdir; ancak şu uyarıyla: bu araçların çoğu yenidir, birkaçı henüz yürürlüğe girmemiştir ve biri hâlâ mevzuat hazırlama sürecindedir, dolayısıyla uygulanabilirlik, bu dahil özetlere değil, yürürlükteki metne göre teyit edilmelidir.

Mayıs 2024'te imzalanan ve 1 Şubat 2026'da yürürlüğe girmesi planlanan Colorado Senato Yasası 24-205, istihdam dahil önemli kararlarda kullanılan yüksek riskli sistemlerin geliştiricileri ve dağıtıcıları için yükümlülükler getirmekte ve elli tam zamanlı çalışandan az olan dağıtıcılar için koşullu bir muafiyet taşımaktadır. California Tüketici Gizliliği Yasası, kapsam testlerini karşılayan işletmeleri, esas olarak yıllık brüt geliri yirmi beş milyon doların üzerinde olan ya da önemli miktarda tüketici verisi işleyen işletmeleri kapsamakta ve kapsanan işletme tanımı kâr amaçlı faaliyet üzerine kurulu olduğundan, bu da çoğu kâr amacı gütmeyen kuruluşu tamamen kapsam dışında bırakmaktadır. California Gizlilik Koruma Ajansı, otomatik karar alma teknolojisine ilişkin önerilen düzenlemeleri resmi mevzuat hazırlama sürecine taşımıştır ve bu kurallar taslak haliyle kabul edilirse aynı kapsam eşiklerini taşıyacaktır. Federal düzeyde, Çalışan Seçim Prosedürlerine İlişkin Tek Tip Kılavuzlar, yüz çalışandan az olan kullanıcılar için basitleştirilmiş kayıt tutma imkanı sunmaktadır.

Bir arada okunduğunda, çoğu yargı bölgesinde hazır bir başvuru takip sistemi kullanan otuz kişilik bir kuruluş, bir etki değerlendirmesi yapma, bir önyargı denetimi yayımlama, kullanım öncesi bildirim sağlama veya daha büyük bir işverenin tutması gereken bileşen düzeyindeki etki kayıtlarını tutma yükümlülüğü altında değildir. Denetlenmeyecektir. Kimse sormayacaktır.

Neyden muaf olmadıkları

Medeni Haklar Yasası'nın VII. Başlığı ve Engelliler Amerikan Yasası, on beş veya daha fazla çalışanı olan işverenler için geçerlidir. Yaş Ayrımcılığı İstihdam Yasası yirmi çalışanda geçerli olmaktadır. Bu yasalar, sofistike olmama savunması, otomatik araçlar için küçük işveren güvenli limanı veya kararı üreten sistemi satın almış olmasının yarattı değil de inşa etmiş olmasının yarattığı bir farkla işverenin yükümlülüklerini azaltan hiçbir hüküm içermez.

Satın alma, sorumluluğu da devretmez. İşveren, istihdam kararını veren taraf olmaya devam eder ve gelişmekte olan içtihat hukuku, satıcının bir tarafın yerine geçmek yerine davalı olarak eklenebileceğini öne sürmektedir. Temmuz 2024'te Kuzey California Bölge Mahkemesi, bir tarama yazılımı satıcısına karşı açılan davaların, satıcının araçlarını kullanan işverenlerin acentesi olarak hareket ettiği teorisiyle devam etmesine izin verdi; bu da sorumluluğun kodu yazan tarafa temiz bir şekilde tahsis edilebileceği varsayımını sarsmaktadır. Aracın kutulu gelmiş olması ve kuruluştaki hiç kimsenin onu anlamamış olması bir savunma değildir. Bu bir itiraftır.

Engellilik teorileri özellikle vurgulanmayı hak etmektedir, çünkü bunlar küçük bir kuruluşun en çok karşılaşma olasılığı yüksek ve savunmaya en az hazırlıklı olduğu teorilerdir. Bir uyum sağlamama iddiası, bir adayın bir değerlendirmede bir değişiklik talep etmesi ve bunu alamaması durumunda ortaya çıkar. Bir eleme iddiası, bir seçim kriterinin engelli bir bireyi dışlama eğiliminde olması ve işverenin kriterin işle ilgili olduğunu ve iş gerekliliğiyle tutarlı olduğunu gösterememesi durumunda ortaya çıkar. Hiçbiri, bir başvuru havuzu genelinde karşılaştırmalı istatistikler gerektirmez. Hiçbiri bir modeli yeniden inşa edecek bir uzman gerektirmez. Her ikisi de bir talep, bir yanıt ve bir sonuçtan oluşan, işverenin oluşturduğu ve elinde tuttuğu bireysel bir kayıt üzerinden kanıtlanır. Mart 2025'te Colorado Sivil Haklar Bölümü ve EEOC'ye (Fırsat Eşitliği İstihdam Komisyonu) Sağır ve Yerli bir çalışan adına yapılan, otomatik bir video mülakat ve reddedilen bir altyazı talebine ilişkin şikayet tam olarak bu şekli izlemektedir. Her iki şirket de iddiaları reddetmekte olup, sonuç ne olursa olsun iddianın şekli öğretici niteliktedir.

Bu tür iddiaların açılması ucuzdur ve savunma maliyeti davalının büyüklüğüyle orantılı olarak küçülmez. EEOC'nin iTutorGroup ile 2023 yılındaki, yazılımın belirli yaşların üzerindeki başvuranları reddedecek şekilde yapılandırıldığı iddialarını çözen uzlaşma kararı 365.000 dolarda sonuçlanmıştır. Bu rakam büyük bir işveren için atlatılabilir niteliktedir. Çoğu kâr amacı gütmeyen kuruluş için ise varoluşsal niteliktedir.

Küçük kuruluş neden yapısal olarak daha fazla maruz kalıyor

Büyüklük sadece koruma sağlamamakla kalmaz. Birbirini güçlendiren dört nedenden ötürü konumu aktif olarak kötüleştirir.

Birincisi yapılandırmadır. Küçük bir kuruluş satıcının varsayılan ayarlarıyla çalışır. Tarama kriterlerini seçmemiştir, eşikleri belirlememiştir ve genellikle başvuru takip sisteminin hangi özelliklerinin adayları puanladığını bilmez, çünkü birçoğu uygulama aşamasında etkinleştirilmiş ve bir daha hiç gözden geçirilmemiştir. Kriterleri kimin ve neye göre yapılandırdığı sorusu geldiğinde, dürüst yanıt kuruluştaki hiç kimsenin bunu yapmadığıdır.

İkincisi kaldıraçtır. Bir işvereni gerçekten koruyan kontroller sözleşmeseldir: puan saklama, sürüm tanımlama, geçmişteki bir kararın yeniden üretilmesi, doğrulama kanıtına erişim, bir soruşturmada işbirliği. Bunlar edinim aşamasında müzakere edilir ve standart bir sipariş formunu imzalayan otuz kişilik bir kâr amacı gütmeyen kuruluşun bunları müzakere etme konusunda gerçekçi bir imkanı yoktur. En etkili tek savunma, küçük kuruluşların elde etmesi en zor olan savunmadır.

Üçüncüsü kayıttır. 29 C.F.R. Bölüm 1602'deki federal kayıt tutma yükümlülükleri, başvuru kayıtlarının korunmasını ve bir şikayet dosyalandığında, nihai karara kadar ilgili her şeyin korunmasını gerektirir. On sekiz ay önce belirli bir başvuranın neden reddedildiğini yeniden oluşturmak, o zaman geçerli olan puanın, girdilerin ve sistem yapılandırmasının saklanmış olmasını gerektirir. Küçük kuruluşlar, genellikle sıralamadan sonra puanları atan satıcının veri uygulamalarına güvenirler ve bunu tam olarak o veriye ihtiyaç duydukları anda öğrenirler.

Dördüncüsü, bu işin kimsenin işi olmamasıdır. Daha büyük işverenlerin en azından soracak bir danışmanı, uyum işlevi ve gizlilik görevlisi vardır. Küçük bir kuruluşun ise bir icra direktörü, başvuru takip sistemini yöneten bir ofis yöneticisi ve bunu hiç tartışmamış bir yönetim kurulu vardır.

Kâr amacı gütmeyen kuruluş durumu daha kötüdür

Kâr amacı gütmeyen kuruluşlar, kurumsal eşdeğeri olmayan ek bir maruziyet taşır ve bu yasal değildir.

Misyonu engellilik, erişilebilirlik, eşitlik veya işgücü geliştirme ile ilgili olan ve alışılmadık konuşmayı, yorumlanmış iletişimi veya standart dışı davranışı cezalandıran otomatik bir değerlendirme aracılığıyla adayları tarayan bir kuruluş, herhangi bir yasal sonucun ötesinde hayatta kalan bir misyon bütünlüğü sorununa sahiptir. İddianın haklı olup olmaması önemli değildir. İddianın kendisi, bir üreticiye karşı olduğu gibi tutarsız olmayacak şekilde, kuruluşun kamuoyundaki duruşunun çelişkiyi sağlaması nedeniyle tutarlıdır. Fon sağlayıcılar bu iddiaları okur. Kuruluşun hizmet verdiği topluluklar da okur, misyon nedeniyle katılan personel de okur.

Bu, olası olmayan bir senaryoya uygulanan varsayımsal bir akıl yürütme değildir. Engellilik hizmetleri kuruluşları, toplum sağlık merkezleri, hukuki yardım sağlayıcıları ve kamu kurumları, herkes gibi aynı ticari başvuru takip sistemlerini ve aynı otomatik video mülakat ürünlerini, genellikle giriş seviyesi katmanda, genellikle varsayılan ayarlarla ve genellikle değerlendirmenin neyi ölçtüğünü hiç kimsenin incelemediği şekilde kullanmaktadır. Engelli bireyleri istihdam etme olasılığı en yüksek olan ve bu konuda konuştuğunda en güvenilir olan sektör, eleştirdiği sektörle aynı incelenmemiş tarama altyapısını çalıştırmaktadır.

Yardımcı olacak rehberlik ortadan kalktı

Bu ana özgü ek bir zorluk vardır. Küçük kuruluşlar düzenlemeleri okumazlar; sade dilde yazılmış rehberliği okurlar ve bu konudaki sade dilde yazılmış rehberlik Ocak 2025'te kaldırılmıştır.

EEOC, Mayıs 2022'de yayımlanan, Engelliler Amerikan Yasası ile iş başvuranlarını ve çalışanları değerlendirmek için yazılım, algoritma ve yapay zeka kullanımına ilişkin teknik yardım belgesi ve buna eşlik eden, işçiler için yazılmış özet dahil olmak üzere yapay zeka materyallerini kaldırmıştır. Çalışma Bakanlığı, Eylül 2024'te yayımlanan ve işverenlerin bu araçları engelli adayları dışlamadan kullanmasına yardımcı olmak için özel olarak geliştirilen Yapay Zeka ve Kapsayıcı İşe Alım Çerçevesi'nin artık mevcut politikayı yansıtmıyor olabileceğini belirtmiştir. Bu belgeler, tam olarak burada tarif edilen kuruluşlar için erişilebilir giriş noktasıydı.

Yasalar değişmedi. Değişen şey, bu yasaların ne gerektirdiğine dair ücretsiz, okunabilir açıklamanın artık mevcut olmamasıdır ve ona en çok güvenen kuruluşlar, bunu bir danışmanla değiştirecek bütçesi olmayan kuruluşlardır.

Bu ölçekte gerçekten başarılabilecek şey

Öneri bir uyum programı değildir. Otuz kişilik bir kuruluş bunu işletemez ve denememelidir. Aşağıdakiler, mevcut bir personelin birkaç günlük zamanında başarılabilir ve mevcut korumanın çoğunu kapsar.

1. Gerçekte neyi çalıştırdığınızı envanterleyin. İşe alım sürecinde yazılımın bir adayı değerlendirdiği, sıraladığı, filtrelediği veya puanladığı her noktayı listeleyin; özgeçmiş ayrıştırma, eleme soruları, değerlendirme modülleri ve sohbet tabanlı ön eleme dahil. Uygulama aşamasında varsayılan olarak etkinleştirilmiş özellikleri dahil edin. Bunu ilk kez yapan çoğu kuruluş, kimsenin puanladığını bilmediği en az bir sistem bulur.
2. Açıklayamadığınızı kapatın. Bir özelliğin neyi ölçtüğünü ve işle ne ilgisi olduğunu kimse söyleyemiyorsa, doğru eylem bunu belgelemek değil, devre dışı bırakmaktır. Bu seçenek küçük kuruluşlar için mevcuttur ve büyük kuruluşlar için büyük ölçüde mevcut değildir, bu da listedeki en yüksek getirili tek adımdır.
3. Satıcıya yazılı olarak beş soru sorun. Bu özellik neyi puanlıyor. Puanı ve yapılandırmayı saklıyor musunuz, ne kadar süreyle. On sekiz ay önceki belirli bir kararı yeniden üretebilir misiniz. Ölçtüğü şeye dair hangi doğrulama kanıtı mevcut. Ürün hangi uyum sağlama yolunu destekliyor. Yanıtları saklayın. Bir ret de bir yanıttır ve saklanmaya değer.
4. İhtiyaç duymadan önce uyum sağlama yolunu kurun. Kararı kimin vereceğini belirleyin, bir dönüş süresi belirleyin, onu kullanan kişiyi dezavantajlı duruma düşürmeyen alternatif bir değerlendirmenin mevcut olduğundan emin olun ve mevcudiyetini bir kariyer sayfasında değil, değerlendirmenin kendisinde belirtin. Bu, bu belgedeki en ucuz kontroldür ve karşılaşma olasılığınız en yüksek olan iddiayı ele alır.
5. Uyum sağlama dosyasını tutun. Her talep, kimin karar verdiği, ne sağlandığı, sonucun ne olduğu. Bir şikayet dosyalanırsa sunulacaktır ve önce sizin tarafınızdan gözden geçirilmelidir.
6. Sözleşme yenilendiğinde, saklama ve yeniden üretim koşullarını isteyin. Bunları alamayabilirsiniz. Sormak ve reddedilmek, hem yönetişim açısından hem de kaydın kuruluşun neyi bildiğini gösterdiği açısından sormamaktan önemli ölçüde daha iyidir.

Sonuç

Küçük kuruluşların büyük kuruluşların sahip olduğu araçlara erişimi hak ettiği önermesi, gittiği yere kadar doğrudur ve teknoloji, yetkin işe alım altyapısının maliyetini gerçekten düşürmüştür. Düşürülmemiş olan şey, sonuçta ortaya çıkan kararların yargılandığı standarttır ve küçük kuruluşlara verilen şey daha hafif bir standart değil, daha hafif bir kağıt izidir.

Muafiyetler gerçektir ve bunlar sorgulanmaktan muafiyettir. Yanıttan muafiyet değildir. Tarama aracının neyi ölçtüğünü söyleyemeyen otuz kişilik bir kuruluş, bunu söyleyemeyen otuz bin kişilik bir kuruluşla aynı yasal konumdadır; ancak çözmek için daha az kaynağa sahiptir ve eğer misyon odaklı bir kuruluşsa, soru kamuoyunda sorulduğunda kaybedecek çok daha fazla şeyi vardır.

Kaynakça

• American Civil Liberties Union, ACLU of Colorado, Public Justice ve Eisenberg & Baum LLP. Colorado Sivil Haklar Bölümü'ne ve A.B.D. Eşit İstihdam Fırsatı Komisyonu'na dosyalanan şikayet, 19 Mart 2025.
• Americans with Disabilities Act of 1990, Title I, 42 U.S.C. § 12112; Title VII of the Civil Rights Act of 1964, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
• California Consumer Privacy Act, Cal. Civ. Code § 1798.140, kapsam dahilindeki işletme tanımı; California Privacy Protection Agency'nin otomatik karar alma teknolojisine ilişkin önerilen yönetmeliği, Kasım 2024'te resmi kural yapım sürecine taşındı.
• Colorado Senate Bill 24-205, 17 Mayıs 2024'te imzalandı, yürürlük tarihi 1 Şubat 2026 olarak planlandı.
• EEOC v. iTutorGroup, Inc., No. 1:22-cv-02565 (E.D.N.Y.), rıza kararı Ağustos 2023.
• Mobley v. Workday, Inc., No. 3:23-cv-00770 (N.D. Cal.), davanın reddi talebine ilişkin karar, Temmuz 2024.
• New York Şehri 2021 Yerel Yasa No. 144, Otomatikleştirilmiş İstihdam Karar Araçları.
• U.S. Department of Labor ve Partnership on Employment & Accessible Technology, AI and Inclusive Hiring Framework, Eylül 2024.
• U.S. Equal Employment Opportunity Commission, The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 Mayıs 2022; 27 Ocak 2025'te kurum web sitesinden kaldırıldı.
• Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607, § 1607.15A(1) dahil; EEOC kayıt tutma gereklilikleri, 29 C.F.R. Part 1602.