23 stycznia 2025 r. rozporządzenie wykonawcze nr 14179, Removing Barriers to American Leadership in Artificial Intelligence, uchyliło rozporządzenie wykonawcze poprzedniej administracji dotyczące sztucznej inteligencji i poleciło agencjom federalnym dokonanie przeglądu oraz wycofanie polityk związanych z AI. W ciągu kilku dni praktyczne konsekwencje dotarły do kontekstu zatrudnienia.
Co się zmieniło, a co nie
27 stycznia Komisja ds. Równych Szans Zatrudnienia (Equal Employment Opportunity Commission) usunęła ze swojej strony internetowej wytyczne dotyczące sztucznej inteligencji, w tym dokument pomocy technicznej z maja 2022 r. dotyczący ustawy o osobach niepełnosprawnych (Americans with Disabilities Act) oraz wykorzystania oprogramowania, algorytmów i sztucznej inteligencji do oceny kandydatów do pracy i pracowników, towarzyszące mu podsumowanie Tips for Workers, a także dokument pomocy technicznej z maja 2023 r. dotyczący Tytułu VII. Biuro ds. Zgodności z Federalnymi Umowami (Office of Federal Contract Compliance Programs) usunęło swoje wytyczne dotyczące sztucznej inteligencji i równych szans zatrudnienia dla wykonawców federalnych. Departament Pracy zauważył, że opublikowane we wrześniu 2024 r. przez Partnership on Employment and Accessible Technology ramy AI and Inclusive Hiring Framework, a także jego własne najlepsze praktyki dotyczące sztucznej inteligencji z października 2024 r., mogą już nie odzwierciedlać obecnej polityki.
Wiele komentarzy odczytało te usunięcia jako zmniejszenie narażenia pracodawców na odpowiedzialność. Taka interpretacja myli wytyczne z prawem. Dokumenty pomocy technicznej mają charakter interpretacyjny. Wyjaśniają, w jaki sposób agencja rozumie ustawę i w jaki sposób zamierza korzystać ze swobody w zakresie egzekwowania prawa. Nie tworzą one obowiązku, a ich wycofanie go nie znosi. Ustawa o osobach niepełnosprawnych (Americans with Disabilities Act) została uchwalona w 1990 r. i nie była nowelizowana. Tytuł I nadal zakazuje dyskryminacji ze względu na niepełnosprawność w warunkach zatrudnienia, nadal wymaga rozsądnego dostosowania, chyba że stanowiłoby to nadmierne obciążenie, nadal zakazuje stosowania standardów kwalifikacyjnych i kryteriów selekcji, które eliminują osoby z niepełnosprawnościami, chyba że kryterium jest związane z pracą i zgodne z koniecznością biznesową, oraz nadal ogranicza pytania dotyczące niepełnosprawności i badania lekarskie przed złożeniem warunkowej oferty pracy. Jednolite wytyczne dotyczące procedur selekcji pracowników (Uniform Guidelines on Employee Selection Procedures), 29 C.F.R. część 1607, nadal nakazują użytkownikom procedur selekcji prowadzenie dokumentacji wpływu, a tam, gdzie wpływ taki występuje, dowodów trafności. Przepisy dotyczące prowadzenia dokumentacji, 29 C.F.R. część 1602, nadal wymagają przechowywania dokumentacji dotyczącej aplikacji, a po złożeniu skargi – przechowywania odpowiedniej dokumentacji aż do ostatecznego rozstrzygnięcia.
To, co zostało usunięte w styczniu, nie dotyczyło odpowiedzialności. Dotyczyło powiadomienia. Pracodawcy stracili dokument, który informował ich, prostym językiem, które z ich praktyk agencja uznawała za problematyczne i dlaczego. Narażenie pozostaje, a mapa zniknęła.
Narażenie pozostaje, a mapa zniknęła.
Dlaczego narażenie związane z niepełnosprawnością nie zachowuje się jak narażenie związane z uprzedzeniami
Dominującą odpowiedzią na ryzyko algorytmiczne w rekrutacji jest audyt pod kątem uprzedzeń, a dominującym miernikiem jest zasada czterech piątych, która porównuje wskaźniki selekcji między grupami i traktuje wskaźnik poniżej osiemdziesięciu procent jako dowód niekorzystnego wpływu. Lokalna ustawa nr 144 miasta Nowy Jork (Local Law 144), obowiązująca od lipca 2023 r., wymaga corocznego niezależnego audytu pod kątem uprzedzeń zautomatyzowanych narzędzi decyzyjnych w zatrudnieniu oraz publicznego udostępniania wyników. Dostawcy coraz częściej promują wyniki audytów jako gwarancję zgodności.
Ten aparat jest słabo dopasowany do kwestii niepełnosprawności, a niedopasowanie to ma charakter strukturalny, a nie wynika z jakości audytu. Testowanie wpływu na poziomie statystyki grupowej wymaga stabilnych, znanych, wzajemnie wykluczających się kategorii z wystarczającą liczbą członków w każdej z nich, aby umożliwić porównanie wskaźników. Rasa i płeć w przybliżeniu spełniają te warunki. Niepełnosprawność – nie. Jest ona na tyle niejednorodna, że pojedyncza kategoria ma niewielkie znaczenie analityczne, ponieważ potrzeby w zakresie dostosowania i wzorce interakcji kandydata Głuchego, kandydata niewidomego, kandydata z niepełnosprawnością ruchową i kandydata z niepełnosprawnością psychiczną nie mają ze sobą prawie nic wspólnego. Jest ona często nieujawniana, ponieważ kandydaci nie mają obowiązku się identyfikować, a mają silne powody, by tego nie robić. Jest ona często mało liczna w ramach pojedynczego naboru, co sprawia, że porównania podgrup mają zbyt małą moc statystyczną, nawet tam, gdzie identyfikacja istnieje. A zgodnie z ADA jednostką analizy jest osoba, a nie grupa, ponieważ roszczenie dotyczące eliminacji pyta, czy kryterium ma tendencję do wykluczania konkretnej osoby z niepełnosprawnością, a roszczenie dotyczące braku dostosowania pyta, co się stało, gdy jedna osoba złożyła jeden wniosek.
Konsekwencję warto wyrazić wprost. Zautomatyzowany system selekcji może przejść każdy przeprowadzony na nim audyt pod kątem uprzedzeń, opublikować wskaźnik wpływu wyraźnie powyżej progu czterech piątych dla każdej mierzonej kategorii, a mimo to wykluczać kandydatów z niepełnosprawnościami pojedynczo, w sposób, który jest możliwy do zaskarżenia indywidualnie i niewidoczny statystycznie. Wyniki audytu nie są dowodem zgodności z ADA. Przedstawianie ich jako takich, co obecnie jest powszechną praktyką dostawców, tworzy udokumentowany zapis, że pracodawca polegał na zapewnieniu, które nie odnosiło się do tego ryzyka.
To także powód, dla którego powszechnie powtarzane twierdzenie, że dobrze zaprojektowane algorytmy zmniejszają ludzkie uprzedzenia, a tym samym wyrównują szanse kandydatów z niepełnosprawnościami, należy traktować jako niepoparte dowodami. Może to być prawdą w przypadku niektórych form uprzedzeń. Nie istnieje publiczna baza dowodowa potwierdzająca to w odniesieniu do niepełnosprawności, a mechanizm działania tych systemów sugeruje coś przeciwnego. Modele oceniają zgodność z rozkładem wyuczonym na podstawie wcześniejszych udanych kandydatów. Niepełnosprawność, w wymiarach najczęściej mierzonych przez te systemy, jest dokładnie tym, jak wygląda niezgodność z tym rozkładem.
Co pokazuje skarga z marca 2025 r.
19 marca 2025 r. American Civil Liberties Union, ACLU of Colorado, Public Justice oraz kancelaria Eisenberg and Baum LLP złożyły skargę do Colorado Civil Rights Division oraz EEOC w imieniu Głuchej kobiety pochodzenia rdzennoamerykańskiego, od której wymagano odbycia zautomatyzowanej rozmowy wideo, gdy ubiegała się o awans. Skarga zarzuca naruszenia ADA, Tytułu VII oraz Colorado Anti-Discrimination Act. Według publicznych dokumentów, poprosiła ona o napisy tworzone przez człowieka jako rozsądne dostosowanie, wniosek ten został odrzucony z uzasadnieniem, że wystarczające będą automatyczne napisy platformy, mimo to części rozmowy pozostały bez napisów, a następnie została ona odrzucona z powodów dotyczących komunikacji. Pracodawca twierdzi, że zarzuty są bezpodstawne i że zapewnia rozsądne dostosowania wszystkim kandydatom. Dostawca twierdzi, że skarga jest bezpodstawna i opiera się na błędnym założeniu dotyczącym użytej technologii. Są to zarzuty i zaprzeczenia, a dochodzenie agencji ustali, czy istnieją podstawy do działania.
Niezależnie od wyniku, ten układ faktów to ten, który pracodawcy powinni modelować, ponieważ nie wymaga on udowodnienia, że model jest obciążony uprzedzeniami. Zależy on od trzech zwykłych pytań. Czy ocena była dostępna dla tego kandydata. Czy złożono wniosek o dostosowanie i jaka była odpowiedź. Czy pracodawca potrafi wyjaśnić, co mierzyła ocena i dlaczego ta cecha jest związana z pracą.
Warto też zauważyć, czego ta teoria nie wymaga. Nie wymaga ona żadnych statystyk porównawczych, żadnej eksperckiej rekonstrukcji modelu ani analizy niekorzystnego wpływu. Dowodem jest datowany wniosek o dostosowanie, odpowiedź na niego oraz niekorzystny wynik. Taki profil dowodowy jest tani do zebrania i powstaje z własnej dokumentacji pracodawcy.
Dostępność, dostosowanie i trafność to trzy różne obowiązki
Znaczna część obecnej dyskusji zaciera rozróżnienia, które funkcjonują niezależnie, a ich łączenie prowadzi do programów zgodności, które zajmują się jednym obowiązkiem, pozostawiając otwarte dwa pozostałe.
Dostępność jest właściwością interfejsu. To, czy platforma oceny może być obsługiwana za pomocą czytnika ekranu, czy media mają napisy i czy czas trwania może zostać dostosowany, to pytania o to, czy kandydat w ogóle może dotrzeć do zadania. To warstwa, którą zajęła się większość organizacji, zazwyczaj poprzez deklarację zgodności dostawcy.
Dostosowanie jest obowiązkiem proceduralnym. Wymaga ono, aby kandydaci zostali poinformowani przed rozpoczęciem oceny, że dostępne są modyfikacje, aby wniosek uruchamiał proces interaktywny, a nie formalne odrzucenie, aby wyznaczona była osoba podejmująca decyzję oraz aby istniała alternatywna ścieżka, która sama w sobie nie stawia w niekorzystnej sytuacji osoby, która z niej skorzystała. Platforma technicznie dostępna pod każdym względem nadal może stać się podstawą roszczenia o brak dostosowania, jeśli nikt nie poinformował kandydata, że istnieje alternatywa.
Trafność jest właściwością pomiaru. Pyta ona, czy to, co ocenia system, odpowiada wymogowi stanowiska pracy. To warstwa, którą prawie nikt się nie zajął, i to tutaj zautomatyzowana ocena wideo i mowy jest najbardziej narażona. Tam, gdzie system ocenia płynność, tempo artykulacji, opóźnienie odpowiedzi, prozodię, mimikę twarzy lub cechę określaną jako komunikacja czy zaangażowanie, pracodawca powinien być w stanie wskazać, który obowiązek na danym stanowisku wymaga tej cechy i na jakiej podstawie dowodowej. Opublikowane badania dokumentują znaczne różnice we wskaźniku błędów słów w automatycznym rozpoznawaniu mowy dla osób, których mowa wykracza poza rozkład danych treningowych, w tym wzorce mowy zróżnicowane rasowo oraz mowę atypową lub zaburzoną, dlatego też Uniwersytet Illinois utworzył w 2022 r. dedykowany Speech Accessibility Project w celu gromadzenia takich danych. Tam, gdzie kandydat posługuje się językiem migowym za pośrednictwem tłumacza, oceniany transkrypt jest tłumaczeniem tłumacza, a nie wypowiedzią kandydata, a wybory leksykalne i opóźnienie przetwarzania tłumacza są przypisywane kandydatowi. System generuje liczbę. Nie mierzy on kandydata.
Warstwa stanowa i jej harmonogram
Wycofanie się władz federalnych nie oczyszcza pola, a harmonogram stanowy ma znaczenie dla planowania. Ustawa Izby Reprezentantów stanu Illinois nr 3773 (Illinois House Bill 3773), podpisana w sierpniu 2024 r., nowelizuje Illinois Human Rights Act, zakazując dyskryminacyjnego wykorzystania sztucznej inteligencji na wszystkich etapach zatrudnienia oraz wymagając powiadamiania kandydatów i pracowników o stosowaniu takich systemów, co wejdzie w życie 1 stycznia 2026 r. Ustawa Senatu Kolorado nr 24-205 (Colorado Senate Bill 24-205), podpisana w maju 2024 r., nakłada obowiązki na twórców i wdrażających systemy wysokiego ryzyka wykorzystywane w istotnych decyzjach, w tym w zatrudnieniu, z datą wejścia w życie 1 lutego 2026 r., choć gubernator przy podpisywaniu ustawy zasugerował jej legislacyjną rewizję, a nowelizację przed tą datą należy uznać za prawdopodobną. Ustawa Izby Reprezentantów stanu Wirginia nr 2094 (Virginia House Bill 2094), która ustanowiłaby podobne ramy, została zawetowana w marcu 2025 r. Lokalna ustawa nr 144 miasta Nowy Jork (Local Law 144) nadal obowiązuje.
Kierunek warstwy stanowej zmierza ku powiadomieniu i ujawnianiu informacji, a nie ku merytorycznym obowiązkom staranności. Pracodawcy powinni planować z założeniem, że obowiązki, z którymi się faktycznie zmierzą, polegają na informowaniu o tym, co robią, a obowiązek wykazania, co zrobili, pojawi się za pośrednictwem sporów sądowych, a nie regulatora.
Co robić teraz
Poniższe działania może wykonać istniejący dział kadr i nie wymaga to zewnętrznej pomocy.
- Sporządź inwentaryzację każdego systemu, który ma wpływ na decyzję selekcyjną, w tym analizy CV, rankingowania, pytań eliminacyjnych, wstępnej selekcji za pomocą czatu oraz zautomatyzowanej oceny wideo lub mowy. Uwzględnij funkcje domyślnie włączone w systemie śledzenia kandydatów, które są najczęściej pomijane.
- Dla każdego systemu wskaż pisemnie, co mierzy i jakiemu udokumentowanemu wymogowi stanowiska odpowiada ta cecha. Tam, gdzie nie ma odpowiedzi, system ocenia niezwalidowane kryterium.
- Upewnij się, że kandydaci są informowani o dostępności alternatywnej lub zmodyfikowanej oceny przed rozpoczęciem oceny, a nie po, oraz że powiadomienie znajduje się w samej ocenie, a nie jest ukryte na stronie kariery.
- Odzyskaj każdy wniosek o dostosowanie związany z zautomatyzowaną oceną z ostatnich dwudziestu czterech miesięcy. Zapisz, o co wnioskowano, kto podjął decyzję, co zostało zapewnione i jaki był wynik. Ten dokument zostanie przedstawiony w każdej skardze i należy go przejrzeć, zanim zrobi to ktoś inny.
- Zwróć się do dostawcy, na piśmie, o dowody walidacji dla każdej ocenianej cechy oraz o dane dotyczące dokładności z podziałem według cech mowy i komunikacji. Zachowaj odpowiedź, w tym odmowę, która sama w sobie jest użytecznym dowodem stanu wiedzy pracodawcy.
- Upewnij się, że wyniki oraz konfiguracja obowiązująca w momencie każdej decyzji są przechowywane przez odpowiedni okres retencji. Wyników obliczonych w celu stworzenia rankingu, a następnie odrzuconych, nie da się później wyjaśnić.
- Traktuj każdy wynik audytu pod kątem uprzedzeń wyłącznie jako dowód dotyczący kategorii rasy i płci i nie przedstawiaj go wewnętrznie ani zewnętrznie jako dowodu zgodności z ADA.
Podsumowanie
Sztuczna inteligencja może znacząco poszerzyć dostęp do pracy dla osób z niepełnosprawnościami. Napisy w czasie rzeczywistym, zamiana mowy na tekst i adaptacyjne interfejsy już to zrobiły, a ocena OECD z 2023 r. dotycząca AI i niepełnosprawności na rynku pracy dokumentuje realne korzyści. Korzyści te wynikają z zastosowań wspomagających, w których technologia służy osobie. Nie przenoszą się one automatycznie na zastosowania oceniające, w których technologia ocenia osobę, a obecna tendencja do wnioskowania z pierwszego o drugim jest głównym błędem analitycznym w tej dziedzinie.
Wycofanie wytycznych federalnych w styczniu 2025 r. zmieniło to, co jest przekazywane pracodawcom. Nie zmieniło tego, co pracodawcy są winni. Organizacje, które będą w stanie obronić swoje decyzje rekrutacyjne, to nie te, które kupiły najbardziej zaawansowane narzędzie lub opublikowały najbardziej uspokajający audyt. To te, które potrafią powiedzieć, co mierzą ich systemy, dlaczego ma to znaczenie dla stanowiska, co się stało, gdy kandydat poprosił o coś innego, i kto podjął decyzję.
Bibliografia
- American Civil Liberties Union, ACLU of Colorado, Public Justice oraz Eisenberg & Baum LLP. Skarga złożona do Colorado Civil Rights Division oraz U.S. Equal Employment Opportunity Commission, 19 marca 2025 r.
- Americans with Disabilities Act z 1990 r., Tytuł I, 42 U.S.C. § 12112.
- Clifford Chance. Inclusive AI for People with Disabilities: Key Considerations. 2024.
- Ustawa Senatu Kolorado nr 24-205 (Colorado Senate Bill 24-205), Concerning Consumer Protections in Interactions with Artificial Intelligence Systems, podpisana 17 maja 2024 r.
- Rozporządzenie wykonawcze 14179, Usuwanie barier dla amerykańskiego przywództwa w sztucznej inteligencji, 23 stycznia 2025 r.
- Ustawa Izby Reprezentantów stanu Illinois nr 3773, nowelizująca Illinois Human Rights Act, podpisana 9 sierpnia 2024 r.
- Lokalna ustawa miasta Nowy Jork nr 144 z 2021 r., Zautomatyzowane narzędzia decyzyjne w zatrudnieniu.
- OECD. Using AI to Support People with Disabilities in the Labour Market. 2023.
- U.S. Equal Employment Opportunity Commission. The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 maja 2022 r. Usunięte ze strony internetowej agencji 27 stycznia 2025 r.
- Jednolite wytyczne dotyczące procedur selekcji pracowników, 29 C.F.R. część 1607; wymogi dotyczące prowadzenia dokumentacji, 29 C.F.R. część 1602.