Gdzie faktycznie tkwi ryzyko
Większość uwagi poświęconej sztucznej inteligencji w dziale kadr skupiała się na rekrutacji: kto jest weryfikowany, oceniany, awansowany i na jakiej podstawie. To zainteresowanie jest uzasadnione i ta firma pisała o tym obszernie. Pozostawiło to jednak najszybciej rozwijające się zastosowanie niemal całkowicie niezbadane.
Systemy generatywne są obecnie wykorzystywane do tworzenia, aktualizowania i lokalizowania dokumentów, które stanowią stanowisko prawne pracodawcy. Regulaminy pracy. Procedury dostosowań. Polityki urlopowe. Opisy stanowisk. Standardy dyscyplinarne. Szablony dochodzeń. Wieloanejkowe (wielostanowe) dodatki dotyczące zgodności. Argument sprzedażowy głosi, że ta praca, historycznie powolna i kosztowna, może zostać wykonana natychmiast i utrzymywana w stałej aktualności w miarę zmian przepisów.
Stanowisko Novara Consulting Group jest takie, że to zastosowanie niesie większe i bardziej bezpośrednie ryzyko niż zautomatyzowana rekrutacja, z powodu specyficznego dla samego artefaktu: polityka nie jest dokumentem operacyjnym. Jest dowodem. Jest przedstawiana w postępowaniach sądowych, cytowana w dochodzeniach prowadzonych przez urzędy, na niej polegają pracownicy, i jest odczytywana przeciwko pracodawcy przez osoby, których zadaniem jest znalezienie rozbieżności między tym, co mówi, a tym, co się wydarzyło. Organizacja, która wygenerowała swoje stanowisko prawne bez zachowania pochodzenia, stworzyła dużą ilość dopuszczalnego materiału dowodowego na swój temat, za który nikt w organizacji nie może wziąć odpowiedzialności.
Polityka jako dowód rzeczowy
W sporze pracowniczym pisemna polityka pracodawcy pełni jednocześnie kilka funkcji, i każda z nich działa na jego niekorzyść.
Ustala, co pracodawca powiedział pracownikom, co ma znaczenie dla zaufania i, w wielu stanach, w zależności od sformułowań i zastrzeżeń, dla powstania stosunku umownego. Ustala standard, który pracodawca sam sobie wyznaczył, w odniesieniu do którego jego postępowanie w konkretnej sprawie będzie oceniane; pracodawca, który nie przestrzegał własnej deklarowanej procedury, znajduje się w zdecydowanie gorszej sytuacji niż ten, którego procedura milczała na dany temat. Ustala, co pracodawca wiedział, ponieważ polityka odnosząca się do wymogu prawnego świadczy o świadomości tego wymogu. I ustala spójność lub jej brak, ponieważ polityka stosowana różnie wobec różnych pracowników jest zwykłą drogą dowodową prowadzącą do stwierdzenia dyskryminacji.
Nic z tego nie jest nowe. Nowe jest to, że dokument mógł zostać wytworzony przez system, który optymalizuje pod kątem wiarygodności, przez osobę niebędącą prawnikiem, w procesie niepozostawiającym żadnego zapisu o tym, jaki autorytet został skonsultowany ani jaki osąd został zastosowany.
Ustala, że pracodawca przyjął stanowisko prawne bez ustalenia, czy było ono prawidłowe.
Gdy prawnik strony przeciwnej zapyta, kto sporządził procedurę dostosowań, na jakiej podstawie uwzględniono konkretny zapis i jaki autorytet prawny go popiera, odpowiedź, że wytworzył go system generatywny, a ktoś sprawdził ją pod kątem tonu, nie jest dobrą odpowiedzią. Jest nie tylko bezużyteczna; ustala, że pracodawca przyjął stanowisko prawne bez ustalenia, czy było ono prawidłowe.
Zmyślone podstawy prawne i dlaczego dział kadr jest w gorszej sytuacji niż dział prawny
Tendencja systemów generatywnych do tworzenia pewnych siebie, lecz całkowicie zmyślonych cytatów prawnych jest udokumentowana i brzemienna w skutki. W 2023 roku sąd federalny w Southern District of New York ukarał prawników, którzy złożyli pismo procesowe zawierające orzeczenia sądowe, które nie istniały, wygenerowane przez chatbota i niezweryfikowane. Podobne incydenty miały miejsce w licznych jurysdykcjach, a wzorzec jest już znany każdemu praktykującemu prawnikowi.
Istotna obserwacja dla tej dyskusji jest taka, że byli to prawnicy. Mieli szkolenie pozwalające rozpoznać, że cytat musi zostać sprawdzony, dostęp do baz danych potrzebnych do jego weryfikacji oraz obowiązki zawodowe, które czyniły niepowodzenie podstawą do sankcji. Błąd i tak wystąpił wielokrotnie.
Specjalista ds. kadr sporządzający wieloanejkową politykę urlopową nie ma żadnej z tych przewag. Często nie jest w stanie stwierdzić, czy cytowany przepis istnieje, nie ma narzędzi badawczych, by to potwierdzić, i nie ciąży na niej żaden zawodowy obowiązek weryfikacji dotyczący jej pracy. Wynik przychodzi płynny, uporządkowany, odpowiednio zastrzeżony i sformatowany jak każda kompetentna polityka, jaką czytała. Płynność jest dokładnie tym, co te systemy wytwarzają najlepiej, i dokładnie tym, czego czytelnik niebędący specjalistą używa jako wskaźnika dokładności.
Błędy, które mają największe znaczenie, są też najmniej widoczne. Zmyślony cytat jest przynajmniej możliwy do sprawdzenia, gdy ktoś pomyśli, by go sprawdzić. Subtelnie błędnie przedstawiony standard już nie: polityka opisująca proces interaktywny jako rozpoczynający się od momentu złożenia dokumentacji przez pracownika, a nie od momentu, gdy pracodawca dowiaduje się o potrzebie, czyta się doskonale, a jest błędna w sposób, który dwa lata później doprowadzi do stwierdzenia niezapewnienia dostosowania.
Ciągłe dostosowanie nie jest tym, jak działa ta technologia
Twierdzenie, że system generatywny dostosowuje się do zmieniających się przepisów w różnych stanach i krajach, zapewniając ciągłą zgodność, należy uznać za fałszywe, chyba że dostawca potrafi opisać konkretny mechanizm.
Model językowy ma punkt odcięcia danych szkoleniowych. W braku wyszukiwania w autorytatywnym i aktualizowanym źródle prawnym, wytwarza on prawo w takiej postaci, w jakiej pojawiło się w danych szkoleniowych, bez żadnego sygnału dla użytkownika, że odpowiedź jest nieaktualna. Prawo pracy jest jedną z najgorszych możliwych dziedzin dla tego ograniczenia: wymogi dotyczące przejrzystości wynagrodzeń, uprawnienia do płatnego urlopu, ograniczenia dotyczące zakazu konkurencji, zakazy pytania o historię wynagrodzeń oraz zasady planowania harmonogramów rozprzestrzeniły się i zmieniały w różnych jurysdykcjach w tempie przewyższającym możliwości jakiegokolwiek statycznego korpusu danych. Polityka wygenerowana dziś może opisywać wymóg, który został zmieniony osiemnaście miesięcy temu, i opisze go z pełnym przekonaniem.
Przypadek obejmujący wiele jurysdykcji jest najgorszym, a nie najlepszym scenariuszem, wbrew temu, jak jest on reklamowany. Lokalizacja wymaga wiedzy, który z ponad pięćdziesięciu reżimów prawnych ma zastosowanie, jak wzajemnie na siebie oddziałują i gdzie lokalny wymóg przewyższa federalny poziom minimalny. To zadanie najbardziej zależne od aktualnej wiedzy specjalistycznej i takie, w którym błąd jest najmniej prawdopodobny do zauważenia przez osobę zlecającą wykonanie, ponieważ poprosiła ona o lokalizację właśnie dlatego, że tego nie wiedziała.
Organizacja powinna też rozpoznać kształt tego twierdzenia. W styczniu 2025 roku Federalna Komisja Handlu (Federal Trade Commission) nakazała dostawcy oprogramowania ułatwiającego dostępność zapłacić milion dolarów za oświadczenia, że jego zautomatyzowany produkt może sprawić, że dowolna strona internetowa będzie zgodna ze standardami dostępności, i utrzymywać tę zgodność w miarę zmian treści. Ciągła zautomatyzowana zgodność z normą techniczną to to samo twierdzenie, sformułowane w odniesieniu do innego standardu, i nie przetrwało ono zderzenia z organem regulacyjnym.
Gotowość na audyt jest odwrócona
Twierdzenie głosi, że wygenerowana dokumentacja zapewnia gotowość na audyt. Wytwarza ona efekt odwrotny, a zrozumienie dlaczego wyjaśnia, co te postępowania faktycznie sprawdzają.
Audytor, śledczy urzędowy czy ekspert strony przeciwnej nie pyta przede wszystkim, czy polityka istnieje. Istnienie jest trywialnie łatwe do wykazania. Pytania brzmią: w jaki sposób organizacja ustaliła, że ta polityka spełnia obowiązujący wymóg, kto podjął tę decyzję, na jakim autorytecie się oparł, kiedy była ostatnio weryfikowana pod kątem aktualnego prawa oraz co zmieniono przy ostatniej rewizji i dlaczego.
Wygenerowana dokumentacja nie odpowiada na żadne z tych pytań. Tworzy artefakt, jednocześnie niszcząc zapis, który nadaje temu artefaktowi wagę. Organizacja z ubogą, przestarzałą, prosto sporządzoną polityką i udokumentowanym corocznym przeglądem przeprowadzonym przez imiennie wskazanego prawnika znajduje się w zdecydowanie silniejszej pozycji niż organizacja z obszernym, pozornie aktualnym zestawem polityk dla pięćdziesięciu stanów, którego pochodzenia nikt nie potrafi opisać.
Opis stanowiska jako instrument prawny
Jeden element ze standardowej listy zasługuje na odrębne potraktowanie, ponieważ rutynowo traktuje się go jako materiał marketingowy, a w rzeczywistości jest jednym z najbardziej doniosłych dokumentów wytwarzanych przez tę funkcję.
Zgodnie z ADA (Americans with Disabilities Act), osobą kwalifikowaną jest ta, która może wykonywać zasadnicze funkcje stanowiska, a przepisy wykonawcze wskazują pisemne opisy stanowisk przygotowane przed ogłoszeniem naboru lub rozmowami kwalifikacyjnymi jako dowód na to, czym są te zasadnicze funkcje. Wygenerowany opis stanowiska, który wymienia obowiązki, których nikt faktycznie nie wykonuje, lub który zawiera wymagania fizyczne bądź sensoryczne skopiowane z ogólnego szablonu, czyni dwie rzeczy jednocześnie: eliminuje kandydatów, którzy mogliby wykonywać tę pracę, oraz dostarcza powodowi własny dokument pracodawcy pokazujący, że dany wymóg nigdy nie był zasadniczy.
Ten sam dokument ma znaczenie w analizie klasyfikacji zwolnionej z przepisów nadgodzinowych na mocy Fair Labor Standards Act, gdzie badanie koncentruje się na faktycznych obowiązkach, ale pisemny opis stanowi dowód na to, czym pracodawca przedstawił te obowiązki jako będące. Jest to również źródło, w odniesieniu do którego ocenia się związek z pracą jakiejkolwiek procedury selekcji na mocy Uniform Guidelines.
Wygenerowane opisy stanowisk są atrakcyjne, ponieważ ich pisanie jest żmudne, a te wygenerowane dobrze się czytają. Są też punktem, w którym drobna wygoda w redagowaniu staje się problemem dowodowym, a sekcja dotycząca wymagań fizycznych jest miejscem, gdzie dzieje się to najczęściej.
Chatbot udziela porad, którymi pracodawca jest związany
Ostatnie zastosowanie, asystent sztucznej inteligencji odpowiadający na bieżąco na pytania pracowników dotyczące polityki firmy, przenosi konkretne i niedocenione ryzyko.
Pracownik, który pyta o uprawnienia do urlopu, procedurę dostosowań lub sposób zgłaszania skarg i otrzymuje odpowiedź, otrzymał ją od swojego pracodawcy. Jeśli system powie jej, że nie przysługuje jej urlop, do którego ma prawo, a ona z niego nie skorzysta, pracodawca naruszył jej ustawowe prawo, a naruszenie na mocy Family and Medical Leave Act nie wymaga zamiaru. Jeśli powie jej, że proces dostosowania wymaga dokumentacji medycznej, której nie jest zobowiązana dostarczyć, a ona zrezygnuje z wniosku, pracodawca ma problem z niezapewnieniem dostosowania, z pisemnym zapisem tego czynnika zniechęcającego. Jeśli skieruje skargę dotyczącą molestowania do kanału, który nigdy nie dociera do osoby decyzyjnej, obrona pracodawcy oparta na powiadomieniu zostaje podważona przez jego własny system.
Wynikają z tego bezpośrednio trzy mechanizmy kontrolne. Rozmowy powinny być rejestrowane i przechowywane, ponieważ stanowią oświadczenia pracodawcy i będą żądane. Każde zapytanie dotyczące urlopu, dostosowania, skargi lub dochodzenia powinno być kierowane do konkretnej, imiennie wskazanej osoby, a nie uzyskiwać automatyczną odpowiedź, ponieważ są to kategorie, w których błędna odpowiedź rodzi odpowiedzialność, a wartość natychmiastowej reakcji jest najniższa. Interfejs powinien też jasno stwierdzać, że dostarcza ogólnych informacji i nie ustala uprawnień ani prawa do świadczeń.
Co należy ustalić
Sześć elementów, zanim system generatywny wytworzy cokolwiek, na czym organizacja będzie polegać lub co przeczyta pracownik.
- Prowadź zapis pochodzenia dla każdego wygenerowanego dokumentu: co zostało wytworzone, jakie źródło sprawdzono, przez kogo, w jakiej dacie i co zmieniono podczas przeglądu. Polityka bez daty i bez wskazanego autora to scenariusz awarii.
- Wymagaj przeglądu prawnego dla wszystkiego, co stwierdza standard prawny, uprawnienie lub procedurę, i traktuj nazwisko oraz datę osoby dokonującej przeglądu jako część dokumentu, a nie jako wewnętrzną notatkę.
- Zapytaj każdego dostawcę twierdzącego o aktualność regulacyjną, by opisał mechanizm: jakie autorytatywne źródło jest przeszukiwane, jak często i w jaki sposób użytkownik jest powiadamiany, gdy dany przepis się zmienił. Jeśli odpowiedź brzmi, że model został wytrenowany na materiale prawnym, produkt nie robi tego, co się twierdzi.
- Traktuj opisy stanowisk jak dokumenty prawne. Porównaj podstawowe obowiązki oraz wszelkie wymagania fizyczne, sensoryczne lub komunikacyjne z tym, co faktycznie robią osoby zatrudnione na danym stanowisku, i opatrz przegląd datą.
- Rejestruj i przechowuj rozmowy asystenta skierowane do pracowników oraz przekazuj zapytania dotyczące urlopów, dostosowań, skarg i postępowań wyjaśniających do odpowiedniej osoby.
- Nie przedstawiaj wygenerowanej dokumentacji jako gotowości do audytu, ani wewnętrznie, ani na zewnątrz. Gotowość do audytu to zapis przeglądu, a nie sam dokument.
Podsumowanie
Argumenty przemawiające za wykorzystaniem wsparcia generatywnego w dokumentacji kadrowej są realne. Tworzenie dokumentów jest rzeczywiście czasochłonne, funkcja kadrowa rzeczywiście cierpi na niedobór zasobów, a dobrze nadzorowany pierwszy szkic jest uzasadnionym zastosowaniem tej technologii.
Tym, co odróżnia to zastosowanie od innych, jest fakt, że jego wynik stanowi dowód. Systemy selekcji generują decyzje, które pracodawca może mieć trudność odtworzyć. Systemy dokumentacyjne generują oświadczenia, za które pracodawca będzie odpowiadał — wypowiedziane jego własnym głosem, na piśmie, w dużej ilości i w szybkim tempie. Organizacja, która generuje swój regulamin pracowniczy, nie zautomatyzowała zwykłej czynności. Napisała swoją stronę przyszłego sporu, nie czytając tego, co napisała, i spotka się z tym dokumentem ponownie w warunkach, nad którymi nie będzie miała kontroli.
Wymagana dyscyplina jest skromna: weryfikuj, przypisuj autorstwo, datuj i prowadź zapis tego, kto podjął decyzję. Ta dyscyplina stanowi całą różnicę między korzystaniem z narzędzia a byciem przez nie zdemaskowanym.
Bibliografia
Americans with Disabilities Act z 1990 r., 42 U.S.C. § 12111(8); 29 C.F.R. § 1630.2(n)(3), dowody dotyczące podstawowych obowiązków, w tym pisemne opisy stanowisk przygotowane przed ogłoszeniem naboru lub rozmowami kwalifikacyjnymi.
Family and Medical Leave Act, 29 U.S.C. § 2615(a)(1), zakaz ingerowania w prawa chronione.
Fair Labor Standards Act, 29 U.S.C. § 201 i nast., analiza zwolnień na podstawie rzeczywistych obowiązków.
Federal Trade Commission, In the Matter of accessiBe, Inc., File No. 2223156, skarga i proponowane postanowienie ogłoszone 3 stycznia 2025 r.
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023), sanctions for submission of fabricated judicial citations generated by an artificial intelligence tool.
Uniform Guidelines on Employee Selection Procedures, 29 C.F.R. Part 1607.