Zwolnieni z biurokracji, odpowiedzialni za decyzję: Zarządzanie sztuczną inteligencją w małych organizacjach i organizacjach non-profit

Asymetria

Konwencjonalna narracja na temat regulacji sztucznej inteligencji i małych organizacji głosi, że obciążenia związane z przestrzeganiem przepisów spadają najciężej na tych, którzy najmniej są w stanie je udźwignąć, oraz że progi i zwolnienia istnieją po to, by skorygować tę nierównowagę. Ta narracja jest w połowie słuszna, a ta druga połowa, w której się myli, jest tą, która ma znaczenie.

Mali pracodawcy i organizacje non-profit są w rzeczywistości zwolnieni z dużej części powstającego aparatu regulacyjnego. Są zwolnieni niemal w całości z niewłaściwej części. Zwolnienia dotyczą reżimów ujawniania informacji, oceny i dokumentacji, czyli tych elementów ram regulacyjnych, które zmusiłyby organizację do dokładnego przyjrzenia się zautomatyzowanym narzędziom, z których już korzysta. Nie obejmują one natomiast podstawowych ustaw o dyskryminacji w zatrudnieniu, które mają zastosowanie już przy piętnastu pracownikach i przewidują prywatne prawo do powództwa, zindywidualizowane teorie odpowiedzialności oraz brak wymogu, by powód udowadniał, że pracodawca dysponował zaawansowaną wiedzą techniczną.

Organizacja zwolniona z procesu, który znalazłby problem, i w pełni wystawiona na konsekwencje jego nieznalezienia.

Efekt netto to organizacja zwolniona z procesu, który znalazłby problem, i w pełni wystawiona na konsekwencje jego nieznalezienia. Stanowisko Novara Consulting Group jest takie, że to właśnie ta asymetria, a nie koszt, stanowi kluczowe ryzyko związane z zarządzaniem dla organizacji zatrudniających mniej więcej do dwustu pracowników, oraz że standardowa rada udzielana małym pracodawcom, aby czekać do przekroczenia progu, jest niemal najgorszą z dostępnych strategii.

Z czego małe organizacje są naprawdę zwolnione

Struktura progowa jest realna i warta zmapowania, z zastrzeżeniem, że większość tych instrumentów jest niedawna, kilka jeszcze nie weszło w życie, a jeden wciąż znajduje się w procesie tworzenia przepisów wykonawczych, w związku z czym zastosowanie przepisów należy potwierdzać w oparciu o obowiązujący tekst, a nie o streszczenia, w tym niniejsze.

Ustawa Senatu Kolorado 24-205, podpisana w maju 2024 roku i mająca wejść w życie 1 lutego 2026 roku, nakłada obowiązki na twórców i podmioty wdrażające systemy wysokiego ryzyka wykorzystywane w decyzjach o istotnych skutkach, w tym w zatrudnieniu, i przewiduje warunkowe zwolnienie dla podmiotów wdrażających zatrudniających mniej niż pięćdziesięciu pracowników pełnoetatowych. Kalifornijska ustawa o ochronie prywatności konsumentów (California Consumer Privacy Act) obejmuje przedsiębiorstwa spełniające jej kryteria objęcia, przede wszystkim roczny przychód brutto przekraczający dwadzieścia pięć milionów dolarów lub przetwarzanie znacznych ilości danych konsumenckich, a jej definicja objętego przedsiębiorstwa opiera się na działalności nastawionej na zysk, co wyłącza spod niej niemal wszystkie organizacje non-profit. Kalifornijska Agencja Ochrony Prywatności (California Privacy Protection Agency) skierowała proponowane przepisy dotyczące zautomatyzowanych technologii decyzyjnych do formalnego procesu legislacyjnego, a przepisy te, jeśli zostaną przyjęte w obecnym kształcie, będą zawierać te same progi objęcia. Na szczeblu federalnym Jednolite Wytyczne dotyczące Procedur Selekcji Pracowników (Uniform Guidelines on Employee Selection Procedures) przewidują uproszczone prowadzenie dokumentacji dla użytkowników zatrudniających mniej niż stu pracowników.

Czytane łącznie, organizacja licząca trzydzieści osób, korzystająca z gotowego systemu śledzenia kandydatów, w większości jurysdykcji nie ma obowiązku przeprowadzania oceny skutków, publikowania audytu stronniczości, dostarczania powiadomienia przed użyciem ani prowadzenia szczegółowych zapisów dotyczących poszczególnych komponentów, które musi prowadzić większy pracodawca. Nie zostanie poddana kontroli. Nikt nie zapyta.

Z czego nie są zwolnione

Tytuł VII Ustawy o Prawach Obywatelskich (Civil Rights Act) oraz Ustawa o Amerykanach Niepełnosprawnych (Americans with Disabilities Act) mają zastosowanie do pracodawców zatrudniających piętnastu lub więcej pracowników. Ustawa o Dyskryminacji ze względu na Wiek w Zatrudnieniu (Age Discrimination in Employment Act) ma zastosowanie od dwudziestu pracowników. Te ustawy nie przewidują obrony opartej na zaawansowaniu technicznym, nie przewidują bezpiecznej przystani dla małych pracodawców korzystających z narzędzi zautomatyzowanych ani żadnego przepisu zmniejszającego obowiązki pracodawcy z tego powodu, że zakupił, a nie zbudował system, który wygenerował decyzję.

Zakup nie przenosi też odpowiedzialności. Pracodawca pozostaje stroną podejmującą decyzję o zatrudnieniu, a rozwijające się orzecznictwo sugeruje, że dostawca może zostać dodany jako pozwany, a nie zastąpić pracodawcę w tej roli. W lipcu 2024 roku Sąd Okręgowy dla Północnego Dystryktu Kalifornii dopuścił dalsze prowadzenie roszczeń przeciwko dostawcy oprogramowania przesiewowego na podstawie teorii, że dostawca działał jako agent pracodawców korzystających z jego narzędzi, co podważa założenie, iż odpowiedzialność można jednoznacznie przypisać tej stronie, która napisała kod. To, że narzędzie przyszło w pudełku i że nikt w organizacji go nie rozumiał, nie jest obroną. To przyznanie się.

Teorie dotyczące niepełnosprawności zasługują na szczególne podkreślenie, ponieważ to one są najbardziej prawdopodobne do wystąpienia wobec małej organizacji i najtrudniejsze do obrony. Roszczenie o niezapewnienie racjonalnego dostosowania powstaje, gdy kandydat prosi o modyfikację oceny i jej nie otrzymuje. Roszczenie o dyskryminujące wykluczenie powstaje, gdy kryterium selekcji ma tendencję do wykluczania osoby z niepełnosprawnością, a pracodawca nie potrafi wykazać, że kryterium jest związane z pracą i zgodne z koniecznością biznesową. Żadne z nich nie wymaga statystyk porównawczych w puli kandydatów. Żadne nie wymaga eksperta do odtworzenia modelu. Oba dowodzi się na podstawie indywidualnego zapisu składającego się z wniosku, odpowiedzi i wyniku – zapisu, który pracodawca sam tworzy i przechowuje. Skarga złożona w marcu 2025 roku do Kolorado Civil Rights Division oraz EEOC (Equal Employment Opportunity Commission) w imieniu Głuchego i rdzennego pracownika, dotycząca zautomatyzowanej rozmowy wideo i odrzuconej prośby o napisy, przebiega dokładnie w tym schemacie. Obie firmy zaprzeczają zarzutom, a sam kształt roszczenia jest pouczający niezależnie od wyniku.

Takie roszczenia są tanie w złożeniu, a koszt ich obrony nie maleje proporcjonalnie do wielkości pozwanego. Ugoda EEOC z 2023 roku z firmą iTutorGroup, rozstrzygająca zarzuty, że oprogramowanie było skonfigurowane tak, by odrzucać kandydatów powyżej określonego wieku, opiewała na 365 000 dolarów. Ta kwota jest do przetrwania dla dużego pracodawcy. Dla większości organizacji non-profit jest egzystencjalna.

Dlaczego mała organizacja jest strukturalnie bardziej narażona

Wielkość nie tylko nie chroni. Czynnie pogarsza sytuację, z czterech powodów, które się kumulują.

Pierwszym jest konfiguracja. Mała organizacja działa na ustawieniach domyślnych dostawcy. Nie wybrała kryteriów selekcji, nie ustaliła progów i często nie wie, które funkcje jej systemu śledzenia kandydatów oceniają kandydatów punktowo, ponieważ kilka z nich włączono w momencie wdrożenia i nigdy ich nie przejrzano. Gdy pojawia się pytanie, kto skonfigurował kryteria i na jakiej podstawie, uczciwa odpowiedź brzmi: nikt w organizacji.

Drugim jest siła przetargowa. Mechanizmy kontrolne, które naprawdę chronią pracodawcę, mają charakter umowny: przechowywanie wyników, identyfikacja wersji, odtworzenie historycznej decyzji, dostęp do dowodów walidacyjnych, współpraca w ramach dochodzenia. Są one negocjowane przy zakupie, a trzydziestoosobowa organizacja non-profit podpisująca standardowy formularz zamówienia nie ma realnej możliwości ich wynegocjowania. Najskuteczniejsza pojedyncza linia obrony to ta, którą małe organizacje najmniej mogą uzyskać.

Trzecim jest zapis. Federalne obowiązki dotyczące prowadzenia dokumentacji zawarte w 29 C.F.R. Część 1602 wymagają zachowania dokumentacji aplikacyjnej, a po wniesieniu skargi – zachowania wszystkiego, co istotne, aż do ostatecznego rozstrzygnięcia. Odtworzenie powodów, dla których konkretny kandydat został odrzucony osiemnaście miesięcy wcześniej, wymaga, by wynik, dane wejściowe i konfiguracja systemu obowiązująca w tamtym czasie zostały zachowane. Małe organizacje polegają na praktykach dotyczących danych stosowanych przez dostawcę, który zazwyczaj usuwa wyniki po rankingu, a dowiadują się o tym dokładnie w momencie, gdy potrzebują tych danych.

Czwartym jest brak kogokolwiek, kto zajmowałby się tym zawodowo. Więksi pracodawcy mają radców prawnych, funkcję zgodności oraz inspektora ochrony prywatności, który przynajmniej zapyta. Mała organizacja ma dyrektora wykonawczego, kierownika biura administrującego systemem śledzenia kandydatów i zarząd, który nigdy o tym nie dyskutował.

Przypadek organizacji non-profit jest gorszy

Organizacje non-profit niosą dodatkowe ryzyko, które nie ma odpowiednika w świecie korporacyjnym, i nie jest ono natury prawnej.

Organizacja, której misja dotyczy niepełnosprawności, dostępności, równości lub rozwoju siły roboczej, i która przesiewa kandydatów za pomocą zautomatyzowanej oceny karzącej nietypową mowę, komunikację tłumaczoną przez tłumacza lub niestandardowy afekt, ma problem integralności misji, który przetrwa każde rozstrzygnięcie prawne. Nie ma znaczenia, czy roszczenie jest zasadne. Sam zarzut jest spójny w sposób, w jaki nie byłby wobec producenta, ponieważ publiczne stanowisko organizacji dostarcza sprzeczności. Darczyńcy czytają te zarzuty. Czytają je też społeczności, którym organizacja służy, oraz pracownicy, którzy dołączyli do niej ze względu na misję.

To nie jest hipotetyczne rozumowanie zastosowane do mało prawdopodobnego scenariusza. Organizacje świadczące usługi dla osób z niepełnosprawnościami, centra zdrowia społecznościowego, dostawcy pomocy prawnej i agencje publiczne korzystają z tych samych komercyjnych systemów śledzenia kandydatów oraz tych samych produktów do zautomatyzowanych rozmów wideo, co wszyscy inni, zazwyczaj na poziomie podstawowym, zazwyczaj z ustawieniami domyślnymi, i zazwyczaj bez zbadania przez kogokolwiek tego, co dana ocena mierzy. Sektor, który najprawdopodobniej zatrudnia osoby z niepełnosprawnościami i który jest najbardziej wiarygodny, gdy mówi o tym, że to robi, korzysta z tej samej niezbadanej infrastruktury przesiewowej, co sektor, który krytykuje.

Wskazówki, które mogłyby pomóc, po prostu zniknęły

Istnieje dodatkowa trudność szczególna dla tego momentu. Małe organizacje nie czytają przepisów; czytają wytyczne napisane prostym językiem, a wytyczne napisane prostym językiem na ten temat zostały usunięte w styczniu 2025 roku.

EEOC usunęła swoje materiały dotyczące sztucznej inteligencji, w tym pomoc techniczną z maja 2022 roku dotyczącą Ustawy o Amerykanach Niepełnosprawnych (Americans with Disabilities Act) oraz wykorzystania oprogramowania, algorytmów i sztucznej inteligencji do oceny kandydatów do pracy i pracowników, wraz z towarzyszącym jej streszczeniem napisanym dla pracowników. Departament Pracy (Department of Labor) zauważył, że opublikowane we wrześniu 2024 roku Ramy Sztucznej Inteligencji i Inkluzywnego Zatrudniania (AI and Inclusive Hiring Framework), opracowane specjalnie po to, by pomóc pracodawcom wdrażać te narzędzia bez wykluczania kandydatów z niepełnosprawnościami, mogą już nie odzwierciedlać aktualnej polityki. Te dokumenty stanowiły dostępny punkt wejścia dokładnie dla organizacji opisanych w niniejszym tekście.

Ustawy się nie zmieniły. Zmieniło się to, że darmowe, czytelne wyjaśnienie tego, czego one wymagają, zniknęło, a organizacje, które najbardziej na nim polegały, to te, które nie mają budżetu, by zastąpić je obsługą prawną.

Co jest faktycznie osiągalne na tę skalę

Rekomendacja nie jest programem zgodności. Trzydziestoosobowa organizacja nie jest w stanie go prowadzić i nie powinna próbować. Poniższe działania są możliwe do wykonania w ciągu kilku dni pracy istniejącego pracownika i obejmują większość dostępnej ochrony.

1. Zinwentaryzuj, co faktycznie wykorzystujesz. Wypisz każdy punkt procesu rekrutacji, w którym oprogramowanie ocenia, rankinguje, filtruje lub punktuje kandydata, w tym parsowanie CV, pytania eliminacyjne, moduły oceny oraz wstępną selekcję opartą na czacie. Uwzględnij funkcje domyślnie włączone podczas wdrożenia. Większość organizacji robiących to po raz pierwszy znajduje przynajmniej jeden system, o którym nikt nie wiedział, że punktuje kandydatów.
2. Wyłącz to, czego nie potrafisz wyjaśnić. Jeśli nikt nie potrafi stwierdzić, co mierzy dana funkcja i dlaczego ma to znaczenie dla stanowiska, właściwym działaniem jest jej wyłączenie, a nie dokumentowanie. Ta opcja jest dostępna dla małych organizacji i w dużej mierze niedostępna dla dużych, i jest to pojedynczy krok o najwyższej skuteczności na tej liście.
3. Zadaj dostawcy pięć pytań na piśmie. Co mierzy ta funkcja. Czy przechowujecie wynik i konfigurację, i jak długo. Czy możecie odtworzyć konkretną decyzję sprzed osiemnastu miesięcy. Jakie dowody walidacyjne istnieją dla tego, co mierzy. Jaką ścieżkę dostosowania wspiera produkt. Zachowaj odpowiedzi. Odmowa też jest odpowiedzią i warto ją zachować.
4. Zbuduj ścieżkę dostosowania, zanim będzie potrzebna. Wskaż osobę, która podejmuje decyzję, ustal termin realizacji, upewnij się, że istnieje alternatywna ocena, która nie stawia w gorszej sytuacji osoby, która z niej korzysta, i podaj jej dostępność na samej ocenie, a nie na stronie kariery. To najtańszy mechanizm kontrolny w tym dokumencie i odpowiada na roszczenie, z którym najprawdopodobniej się zetkniesz.
5. Prowadź dokumentację dostosowań. Każdy wniosek, kto podjął decyzję, co zostało zapewnione, jaki był wynik. Zostanie ona przedstawiona, jeśli zostanie złożona skarga, i powinieneś przejrzeć ją najpierw sam.
6. Gdy umowa jest odnawiana, zapytaj o warunki przechowywania i odtwarzania danych. Możesz ich nie otrzymać. Zapytanie i odmowa są istotnie lepsze niż niezapytanie, zarówno z punktu widzenia zarządzania, jak i tego, co dokumentacja pokazuje na temat tego, co organizacja wiedziała.

Podsumowanie

Twierdzenie, że małe organizacje zasługują na dostęp do narzędzi, jakie mają duże, jest słuszne, jak dotąd, a technologia rzeczywiście obniżyła koszt posiadania sprawnej infrastruktury rekrutacyjnej. To, co nie zostało obniżone, to standard, według którego oceniane są wynikające z niej decyzje, a to, co otrzymały małe organizacje, to nie lżejszy standard, lecz lżejszy ślad dokumentacyjny.

Zwolnienia są realne i są zwolnieniami z bycia pytanym. Nie są zwolnieniami z odpowiedzi. Organizacja licząca trzydzieści osób, która nie potrafi powiedzieć, co mierzy jej narzędzie przesiewowe, znajduje się w tej samej sytuacji prawnej co organizacja licząca trzydzieści tysięcy osób, która tego nie potrafi, dysponując mniejszymi zasobami, by to rozwiązać, a jeśli jest organizacją kierującą się misją, mając znacznie więcej do stracenia, gdy pytanie zostanie zadane publicznie.

Bibliografia

• American Civil Liberties Union, ACLU of Colorado, Public Justice oraz Eisenberg & Baum LLP. Skarga złożona do Colorado Civil Rights Division oraz U.S. Equal Employment Opportunity Commission, 19 marca 2025 r.
• Ustawa o Amerykanach Niepełnosprawnych z 1990 r. (Americans with Disabilities Act), Tytuł I, 42 U.S.C. § 12112; Tytuł VII Ustawy o Prawach Obywatelskich z 1964 r., 42 U.S.C. § 2000e; Ustawa o Dyskryminacji ze względu na Wiek w Zatrudnieniu, 29 U.S.C. § 621.
• Kalifornijska Ustawa o Ochronie Konsumentów (California Consumer Privacy Act), Cal. Civ. Code § 1798.140, definicja podmiotu objętego ustawą; proponowane przepisy Kalifornijskiej Agencji Ochrony Prywatności dotyczące zautomatyzowanych technologii decyzyjnych, skierowane do formalnego procesu legislacyjnego w listopadzie 2024 r.
• Ustawa Senatu Kolorado nr 24-205, podpisana 17 maja 2024 r., planowana data wejścia w życie: 1 lutego 2026 r.
• EEOC v. iTutorGroup, Inc., nr 1:22-cv-02565 (E.D.N.Y.), ugoda sądowa (consent decree), sierpień 2023.
• Mobley v. Workday, Inc., nr 3:23-cv-00770 (N.D. Cal.), postanowienie w sprawie wniosku o oddalenie powództwa, lipiec 2024.
• Lokalna ustawa miasta Nowy Jork nr 144 z 2021 r., Zautomatyzowane narzędzia decyzyjne w zatrudnieniu.
• Departament Pracy USA oraz Partnership on Employment & Accessible Technology, AI and Inclusive Hiring Framework, wrzesień 2024 r.
• Amerykańska Komisja ds. Równych Szans Zatrudnienia (U.S. Equal Employment Opportunity Commission), The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 maja 2022 r.; usunięte ze strony internetowej agencji 27 stycznia 2025 r.
• Jednolite wytyczne dotyczące procedur selekcji pracowników (Uniform Guidelines on Employee Selection Procedures), 29 C.F.R. Część 1607, w tym § 1607.15A(1); wymogi EEOC dotyczące prowadzenia dokumentacji, 29 C.F.R. Część 1602.