Technologia kadrowa klasy korporacyjnej stała się dostępna dla organizacji, których nigdy wcześniej nie byłoby na nią stać. Pytanie z zakresu zarządzania brzmi: co się z nią nie pojawiło.
Co argument demokratyzacji trafia poprawnie
Technologia kadrowa klasy korporacyjnej stała się dostępna dla organizacji, których nigdy wcześniej nie byłoby na nią stać. Dwudziestoosobowa organizacja non-profit może dziś prowadzić ranking kandydatów, ustrukturyzowaną ocenę, analitykę zaangażowania, wnioskowanie o umiejętnościach oraz spersonalizowane dostarczanie szkoleń w ramach miesięcznej subskrypcji, korzystając z tych samych produktów bazowych, które wdrażają pracodawcy tysiąc razy większy. To realna zmiana i entuzjazm wobec niej nie jest nieuzasadniony. Możliwości, które niegdyś były skoncentrowane w dużych korporacjach, są teraz szeroko dostępne.
Argument zwykle przytaczany obok tej obserwacji głosi, że dystrybucji podlegają nie tylko możliwości, ale i przewaga, oraz że mniejsze organizacje kierujące się misją mogą być w rzeczywistości lepiej przygotowane do dobrego wykorzystania tych systemów niż korporacje, ponieważ są szczuplejsze, bardziej zwinne i wolne od biurokratycznego balastu, jaki niesie duży dział kadr. Stanowisko Novara Consulting Group jest takie, że to ostatnie twierdzenie odwraca faktyczne ryzyko, i że to odwrócenie stanowi centralny problem zarządzania dla całego sektora.
Balast to odpowiedzialność.
Balast to odpowiedzialność. Pod warstwami, które wyglądają jak nieefektywność, dział kadr dużego pracodawcy zawiera zestaw mechanizmów kontrolnych: przegląd prawny przed wdrożeniem narzędzia, proces zarządzania dostawcami, przechowywanie dokumentacji, specjalistę ds. zgodności, który pyta, co dany system mierzy, oraz partnera biznesowego, do którego obowiązków należy zauważanie, gdy decyzja wygląda podejrzanie. Duże korporacje wdrażały te narzędzia do środowiska, w którym ta warstwa już istniała. Organizacje kierujące się misją wdrażają te same narzędzia bez niej, a mówi się im, że jej brak jest korzyścią.
Czego nie było w pudełku
Oprogramowanie jest takie samo. Wszystko wokół oprogramowania jest inne, w czterech aspektach, które się nawarstwiają.
Nikt go nie skonfigurował. Mała organizacja korzysta z ustawień domyślnych dostawcy. Nie wybrała kryteriów selekcji, nie ustaliła progów i często nie wie, które funkcje oceniają kandydatów, ponieważ kilka z nich zostało włączonych przy wdrożeniu i nigdy nie poddano ich przeglądowi. Pytanie, które w końcu się pojawia – kto ustalił kryteria i na jakiej podstawie – pozostaje bez odpowiedzi.
Nikt tego nie sprawdził. Nie ma radcy prawnego, który zapytałby, czy ocena mierząca styl komunikacji ma związek z danym stanowiskiem, nie ma funkcji ds. prywatności pytającej, gdzie przechowywane są wyniki wnioskowania, ani działu zaopatrzenia proszącego o dowody walidacji. Zakupu dokonał dyrektor naczelny na podstawie rekomendacji organizacji partnerskiej.
Nikt nie może tego negocjować. Mechanizmy kontrolne, które faktycznie chronią pracodawcę, mają charakter umowny: przechowywanie wyników, identyfikacja wersji, możliwość odtworzenia historycznej decyzji, dostęp do dowodów walidacji, współpraca w ramach dochodzenia. Są one ustalane na etapie zakupu. Dwudziestoosobowa organizacja podpisująca standardowy formularz zamówienia nie ma żadnej siły przetargowej, by je uzyskać, co oznacza, że najskuteczniejsza linia obrony jest jednocześnie najmniej dostępna przy tej skali działania.
A próg prawny się nie przesuwa. Tytuł VII oraz Americans with Disabilities Act obowiązują już przy piętnastu pracownikach, a Age Discrimination in Employment Act przy dwudziestu. Nie istnieje żadna obrona oparta na braku zaawansowania ani bezpieczna przystań dla małych pracodawców w zakresie narzędzi zautomatyzowanych, ani też żadne zmniejszenie zakresu obowiązków z tego powodu, że system został zakupiony, a nie zbudowany samodzielnie. Rozwijające się orzecznictwo sugeruje, że dostawca może zostać dodany jako pozwany, a nie zastąpić pracodawcę w tej roli; w lipcu 2024 roku sąd Northern District of California zezwolił na kontynuowanie roszczeń wobec dostawcy oprogramowania przesiewowego w oparciu o teorię, że działał on jako agent pracodawców korzystających z jego narzędzi. Fakt, że narzędzie przyszło w pudełku i że nikt w organizacji go nie rozumiał, nie jest linią obrony. To przyznanie się do winy.
Twierdzenie do odrzucenia
Spośród tez powszechnie wysuwanych na temat sztucznej inteligencji w kadrach organizacji kierujących się misją, jedną należy nie tyle doprecyzować, co całkowicie usunąć: że systemy te są odporne na stronniczość albo że redukują nieświadome uprzedzenia i prowadzą do sprawiedliwszej rekrutacji.
Nie ma publicznej bazy dowodowej na poparcie tej tezy, a dostępne dowody wskazują na odwrotny kierunek. Systemy wytrenowane na wcześniejszych udanych kandydatach oceniają zgodność z rozkładem, a wymiary, wedle których najczęściej oceniają – komunikacja, płynność wypowiedzi, afekt i czas reakcji – to wymiary, wzdłuż których niepełnosprawność, akcent w mowie i nieznane tło rejestrują się jako odchylenie. Skarga złożona w marcu 2025 roku do Colorado Civil Rights Division oraz EEOC (Equal Employment Opportunity Commission) w imieniu Głuchego i rdzennego pracownika zarzuca dokładnie taki wzorzec w zautomatyzowanej rozmowie wideo; obie firmy zaprzeczają zarzutom, a sprawa jest sporna, ale teoria szkody jest już teraz częścią jawnego zapisu publicznego, z nazwanymi stronami.
Aparat audytowy oferowany jako zapewnienie nie naprawia tego twierdzenia. Badania przedstawione na konferencji ACM dotyczącej sprawiedliwości, odpowiedzialności i przejrzystości w 2024 roku zbadały zgodność z wymogiem audytu stronniczości w Nowym Jorku wśród blisko czterystu pracodawców i wykazały wskaźniki pozytywnego publikowania na poziomie niskich pojedynczych cyfr, przy czym niemal wszystkie opublikowane audyty wykazywały wskaźniki wpływu powyżej progu czterech piątych – rozkład, który mówi więcej o tym, kto zleca audyty, niż o systemach poddawanych audytowi. A instrumenty te mierzą rasę i płeć. Nie mogą mierzyć niepełnosprawności, ponieważ pracodawcy nie wiedzą i nie mogą zgodnie z prawem pytać przed złożeniem warunkowej oferty, którzy kandydaci są osobami z niepełnosprawnościami.
Dla organizacji kierującej się misją nie jest to jedynie problem dokładności. Organizacja, która publicznie deklaruje zaangażowanie w sprawiedliwą rekrutację, a prywatnie polega na zapewnieniu dostawcy o uczciwości systemu, przyjęła twierdzenie, którego nie może potwierdzić, właśnie w obszarze, w którym jej wiarygodność jest głównym atutem. Właściwym stanowiskiem jest uznanie, że systemy te są niesprawdzone pod względem stronniczości, że organizacja sama monitoruje wyniki i że nie przekazała tej kwestii w ręce dostawcy.
Analityka małych zespołów deanonimizuje z definicji
Twierdzenie, że analityka zaangażowania i wyników w czasie rzeczywistym pozwala małym zespołom tworzyć wspierające środowiska, zasługuje na osobne rozpatrzenie, ponieważ przy tej skali działa ono inaczej niż na poziomie przedsiębiorstwa.
Analityka zaangażowania sprzedawana jest pod hasłem wglądu zagregowanego: organizacja widzi wzorce, nie ludzi. Założenie to opiera się na wielkości grup wystarczająco dużych, by zasłonić jednostki. W organizacji liczącej dwadzieścia pięć osób, podzielonej na trzy zespoły, panel raportujący nastrój lub zaangażowanie zespołowe raportuje w rzeczywistości o sześciu do dziewięciu rozpoznawalnych osobach, a każdy menedżer, który go czyta, wie, kto jest kim. Segmentacja według stażu pracy, stanowiska lub lokalizacji sprawia, że raportowanie staje się indywidualne. Anonimowość jest nominalna, a osoby, o których mowa w raporcie, zazwyczaj rozumieją to na długo wcześniej niż kierownictwo.
Wynikają z tego dwie konsekwencje. Pierwsza polega na tym, że dane przestają być wiarygodne, ponieważ pracownicy, którzy słusznie domyślają się, że odpowiedzi są przypisywalne, odpowiadają odpowiednio do tego, co jest sposobem, w jaki organizacje kończą z panelami wykazującymi wysokie zaangażowanie i rezygnacją, której nikt nie przewidział. Druga jest natury prawnej. Tam, gdzie analityka wnioskuje o samopoczuciu, stresie, wypaleniu lub braku zaangażowania, organizacja może generować informacje zbliżone do medycznych o możliwych do zidentyfikowania pracownikach. ADA wymaga, aby informacje medyczne o pracownikach były przechowywane osobno i poufnie, a wniosek spoczywający w ogólnym produkcie analitycznym na infrastrukturze dostawcy, widoczny dla każdego, kto administruje platformą, raczej nie spełni tego standardu. Nikt nie rozważył tej kwestii, ponieważ system zakupiono jako narzędzie kulturowe.
To samo rozumowanie dotyczy wnioskowania o umiejętnościach i spersonalizowanego uczenia się. System, który identyfikuje luki kompetencyjne i ukierunkowuje rozwój, tworzy profil decydujący o tym, kto otrzyma inwestycję. Przydzielanie rozwoju na podstawie wywnioskowanego profilu jest decyzją kadrową i podlega weryfikacji jako takiej. Jeśli wnioskowanie opiera się na stażu pracy, historii stanowisk lub sygnałach zaangażowania skorelowanych z wiekiem lub niepełnosprawnością, organizacja wytworzyła ekspozycję na ryzyko i zarejestrowała ją jako korzyść.
Co szczupła organizacja powinna faktycznie zachować
Rekomendacja nie dotyczy programu zgodności, którego organizacja tej wielkości nie jest w stanie prowadzić i nie powinna próbować. Chodzi o niewielki zestaw mechanizmów kontrolnych, które może obsługiwać jedna osoba mająca też inne obowiązki. Są tanie przy tej skali i stanowią tę część korporacyjnego balastu, którą warto zaimportować.
Wiedz, co działa. Sporządź listę wszystkich punktów, w których oprogramowanie ocenia, rankinguje, filtruje, punktuje lub profiluje osobę, w tym funkcji włączonych domyślnie przy wdrożeniu. Większość organizacji robiących to po raz pierwszy odkrywa przynajmniej jeden system, o którym nikt nie wiedział, że punktuje.
Wyłącz to, czego nie można wyjaśnić. Tam, gdzie nikt nie potrafi powiedzieć, co dana funkcja mierzy i dlaczego ma to znaczenie dla stanowiska, wyłącz ją, zamiast ją dokumentować. Ta opcja jest faktycznie dostępna dla małych organizacji i w dużej mierze niedostępna dla dużych, i jest to działanie o najwyższym zwrocie z tej listy.
Zapytaj dostawcę na piśmie i zachowaj odpowiedź. Co ocenia ta funkcja. Co wnioskuje, na podstawie jakich sygnałów i gdzie przechowywany jest wynik wnioskowania. Czy przechowujecie wyniki i konfigurację, jak długo, i czy możecie odtworzyć decyzję sprzed osiemnastu miesięcy. Jakie istnieją dowody walidacji. Jaką ścieżkę dostosowania wspiera produkt. Odmowa jest również odpowiedzią i warto ją zachować.
Zbuduj ścieżkę dostosowań, zanim będzie potrzebna. Wskaż, kto decyduje, ustal termin realizacji, zapewnij istnienie alternatywnej oceny, która nie stawia w niekorzystnej sytuacji osoby z niej korzystającej, i podaj informację o jej dostępności bezpośrednio przy samej ocenie, a nie na stronie z ofertami pracy. Prowadź rejestr wniosków i wyników. To najtańszy z dostępnych mechanizmów kontrolnych i odpowiada na roszczenie najbardziej prawdopodobne do wystąpienia.
Ustal próg dla wszelkiej analityki dotyczącej ludzi. Brak raportowania o grupach poniżej określonej minimalnej wielkości, brak indywidualnej atrybucji i brak zachowywania wniosków dotyczących samopoczucia lub zdrowia w systemie ogólnego przeznaczenia.
Przy odnowieniu umowy zapytaj o warunki przechowywania i odtwarzania danych. Prośba może zostać odrzucona. Samo zapytanie i odmowa stanowią znacznie lepszy dowód staranności instytucjonalnej niż memorandum napisane po wniesieniu zarzutu.
Podsumowanie
Dystrybucja możliwości klasy korporacyjnej do organizacji, których wcześniej nie było na nie stać, to realny zysk, i sektor powinien go wykorzystać. Nie rozpowszechniono natomiast aparatu, który czynił te systemy możliwymi do nadzorowania wewnątrz organizacji, dla których je zbudowano, a język obecnie używany do opisywania jego braku – zwinność, szczupłość, wolność od balastu – przesłania to, czego brakuje.
Dwudziestoosobowa organizacja wdrażająca zautomatyzowaną selekcję kandydatów ma takie same obowiązki jak organizacja licząca dwadzieścia tysięcy osób, przy mniejszych zasobach, by im sprostać, a jeśli kieruje się misją, ma znacznie więcej do stracenia, gdy im nie sprosta. Mechanizmy kontrolne zamykające tę lukę nie są kosztowne przy tej skali działania. To lista, zestaw pytań, pisemny rejestr i decyzja o tym, co wyłączyć. Organizacje, które je wdrożą, nie będą po prostu bezpieczniejsze. Będą wiedziały, co robią ich systemy, a to jest coś, co wszyscy inni w tej dyskusji zakładają, a niemal nikt nie zweryfikował.
Bibliografia
- American Civil Liberties Union, ACLU of Colorado, Public Justice oraz Eisenberg & Baum LLP. Skarga złożona do Colorado Civil Rights Division oraz U.S. Equal Employment Opportunity Commission, 19 marca 2025 r.
- Americans with Disabilities Act z 1990 roku, 42 U.S.C. § 12112, w tym § 12112(d) dotyczący badań medycznych, zapytań związanych z niepełnosprawnością i poufności; Tytuł VII Civil Rights Act z 1964 roku, 42 U.S.C. § 2000e; Age Discrimination in Employment Act, 29 U.S.C. § 621.
- Mobley v. Workday, Inc., nr 3:23-cv-00770 (N.D. Cal.), postanowienie w sprawie wniosku o oddalenie powództwa, lipiec 2024.
- Lokalna ustawa miasta Nowy Jork nr 144 z 2021 r., Zautomatyzowane narzędzia decyzyjne w zatrudnieniu.
- Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. część 1607; wymogi EEOC dotyczące prowadzenia dokumentacji, 29 C.F.R. część 1602.
- Wright, Lucas, i in. „Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability”. Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency.