Wyjątek dotyczący rozwoju: Wewnętrzne platformy mobilności i granice zarządzania AI w zatrudnieniu

Granica, której nie wyznacza żadna ustawa

Instytucjonalne zarządzanie sztuczną inteligencją w zatrudnieniu doszło, z zauważalną konsekwencją, do granicy, która nie pojawia się nigdzie w obowiązującym prawie. Granica ta oddziela rekrutację od rozwoju. Systemy oceniające zewnętrznych kandydatów traktowane są jako technologia decyzyjna i otrzymują odpowiedni aparat: audyty pod kątem błędów systematycznych, powiadomienia dla kandydatów, dokumentację dostawcy oraz przegląd prawny. Systemy oceniające istniejących pracowników pod kątem wewnętrznych możliwości traktowane są jako technologia rozwojowa i są nabywane zgodnie ze standardami przeglądu właściwymi dla platformy do zarządzania nauczaniem.

Rozróżnienie to jest intuicyjne z administracyjnego punktu widzenia. Zewnętrzni kandydaci są dla organizacji obcymi osobami, wobec których organizacja ma zobowiązanie proceduralne. Wewnętrzni kandydaci są już zatrudnieni, już znani, już wewnątrz relacji. Rozszerzenie na nich możliwości rozwoju przedstawia się jako przyznana korzyść, a nie podjęta decyzja. Rozróżnienie to jest też wzmacniane organizacyjnie, ponieważ platformy mobilności wewnętrznej są zazwyczaj sponsorowane przez funkcje rozwoju talentów, budżetowane w ramach celów zaangażowania i retencji, oraz oceniane na podstawie wskaźników wdrożenia, a nie jakości podejmowanych decyzji.

Ani technologia, ani brzmienie przepisów nie uzasadniają tego rozróżnienia. Platforma mobilności wewnętrznej, która wnioskuje o kompetencjach pracownika na podstawie CV, historii projektów, zapisów szkoleniowych, danych dotyczących wyników pracy oraz sygnałów behawioralnych, a następnie szereguje pracowników względem wewnętrznych ofert, generuje ocenę, która istotnie wpływa na awans, wynagrodzenie i przydział zadań. Jest to decyzja o istotnym znaczeniu dla danej osoby. Okoliczność, że dana osoba dobrowolnie zgłosiła się do platformy, oraz że organizacja opisuje wynik jako rekomendację, nie zmienia charakteru podejmowanego rozstrzygnięcia.

Co faktycznie obejmuje ten obszar regulacyjny

Nowojorska ustawa Local Law 144 obowiązuje od lipca 2023 roku i obejmuje zautomatyzowane narzędzia decyzyjne w zatrudnieniu, wykorzystywane do istotnego wspomagania lub zastępowania uznaniowego podejmowania decyzji dotyczących zatrudnienia. Ustawa wyraźnie stwierdza, że obejmuje rekrutację oraz awans. Jej obowiązki mają charakter proceduralny, a nie materialny: niezależny audyt pod kątem błędów systematycznych przeprowadzony w ciągu poprzedniego roku, publiczne udostępnienie podsumowania audytu oraz wcześniejsze powiadomienie osób, których to dotyczy. Kary naliczane są za każde naruszenie, a dalsze korzystanie z narzędzia traktowane jest jako naruszenie ciągłe.

Organizacja, która zleciła audyty pod kątem błędów systematycznych dla selekcji zewnętrznych kandydatów, a jednocześnie traktuje swój wewnętrzny rynek talentów jako wyłączony z zakresu, wyznaczyła granicę, której nie uznaje przepis. Tam, gdzie system wewnętrzny ocenia lub szereguje pracowników pod kątem ofert stanowiących awans, obowiązek audytu ma zastosowanie. Publicznie dostępne dowody nie wskazują jeszcze, jak konsekwentnie organy egzekwujące prawo obejmowały wdrożenia mobilności wewnętrznej, jednak brak dotychczasowego egzekwowania przepisów stanowi słabą podstawę do przyjęcia pozycji zgodności, zwłaszcza że ekspozycja narasta każdego dnia.

Ten wzorzec wykracza poza Nowy Jork. Illinois HB 3773, uchwalona w sierpniu 2024 roku i mająca wejść w życie 1 stycznia 2026 roku, zmienia Illinois Human Rights Act, zakazując stosowania sztucznej inteligencji powodującej dyskryminacyjne skutki wobec grup chronionych, zabraniając wykorzystywania kodów pocztowych jako wskaźnika zastępczego dla cech chronionych oraz wymagając powiadomienia zawsze, gdy sztuczna inteligencja jest wykorzystywana w decyzjach dotyczących rekrutacji, zatrudnienia, awansu, dyscypliny lub zwolnienia. Obowiązek powiadomienia dotyczy samego użycia, a nie wyniku. Przepis dotyczący dyskryminacji jest egzekwowalny na mocy Human Rights Act, który przewiduje prywatną ścieżkę dochodzenia roszczeń.

Kolorado SB 24-205, uchwalona w maju 2024 roku i mająca wejść w życie 1 lutego 2026 roku, określa decyzje dotyczące zatrudnienia jako decyzje istotne i nakłada na podmioty wdrażające obowiązek należytej staranności wobec dyskryminacji algorytmicznej, wraz z programami zarządzania ryzykiem, ocenami skutków oraz obowiązkami ujawniania informacji. Ustawa została podpisana wraz z towarzyszącym pismem gubernatora wzywającym do rewizji legislacyjnej przed jej wdrożeniem, i od tego czasu podlega stałej presji na wprowadzenie poprawek. Jej ostateczny kształt pozostaje niepewny. Niepewność ta sama w sobie stanowi kwestię związaną z zarządzaniem, a nie powód do odroczenia działań, ponieważ organizacja, która kalibruje swoje mechanizmy kontroli wewnętrznej według najsłabszego obowiązującego reżimu, będzie musiała je rekalibrować przy każdej sesji legislacyjnej.

Kalifornijska Rada ds. Praw Obywatelskich (Civil Rights Council) opracowuje przepisy dotyczące zautomatyzowanych systemów decyzyjnych w zatrudnieniu, a kierunek tych prac legislacyjnych jest spójny z powyższym wzorcem. W Unii Europejskiej Rozporządzenie (UE) 2024/1689 weszło w życie w sierpniu 2024 roku i określa systemy sztucznej inteligencji przeznaczone do wykorzystania w zatrudnieniu, zarządzaniu pracownikami oraz dostępie do samozatrudnienia jako systemy wysokiego ryzyka na mocy Załącznika III, wyraźnie obejmując systemy wykorzystywane do podejmowania decyzji wpływających na awans, przydział zadań oraz ocenę wyników pracy. Obowiązki dotyczące tych systemów mają mieć zastosowanie od sierpnia 2026 roku. Treść Załącznika III odnosi się do pełnionej funkcji, a nie do kategorii produktu w obrocie handlowym, a silniki mobilności wewnętrznej pełnią wymienione tam funkcje.

Problem dowodowy

Biznesowe uzasadnienie dla wspieranej przez AI mobilności wewnętrznej krąży w formie, która nie wytrzyma weryfikacji w procesie zakupowym. Dane twierdzące, że platformy te zmniejszają rotację pracowników o jedną trzecią, lub że narzędzia angażujące podniosą retencję o jedną czwartą w określonym roku, rozprzestrzeniają się poprzez agregacje treści dostawców, w których każde twierdzenie ma przypisane źródło prowadzące do kolejnej agregacji. Badanie źródłowe, jeśli się go poszuka, zazwyczaj nie istnieje.

Drugie, bardziej istotne zniekształcenie dotyczy błędnego przypisania rzetelnych badań. Raport LinkedIn Workplace Learning Report oraz powiązany z nim Career Development Index stwierdzają, że organizacje znajdujące się w górnym kwintylu pod względem dojrzałości rozwoju kariery, mierzonej deklarowanymi zobowiązaniami, treścią ofert pracy, obecnością umiejętności przywódczych oraz poziomem mobilności wewnętrznej, wykazują znacznie wyższe wskaźniki awansu na stanowiska kierownicze, dłuższy staż pracy pracowników oraz większe zaangażowanie uczących się niż organizacje z dolnego kwintyla. Jest to ustalenie dotyczące inwestycji organizacyjnych w rozwój kariery. Jest ono rutynowo przeformułowywane w materiałach dostawców jako ustalenie dotyczące wpływu narzędzi sztucznej inteligencji, co nie odpowiada ani temu, co zostało zmierzone, ani temu, co odróżnia grupy porównawcze.

To, co potwierdza wiarygodny materiał dowodowy, jest węższe. Kilka dużych przedsiębiorstw, w tym Unilever, HSBC i Schneider Electric, publicznie przypisało znaczące obniżenie dobrowolnej rotacji pracowników wdrożeniom wewnętrznych rynków talentów. Prognozy analityków przewidywały znaczne upowszechnienie wśród dużych przedsiębiorstw. Dowody przypadków wskazują na szybsze obsadzanie stanowisk wewnętrznych oraz zmniejszone wydatki na kontraktorów. Są to samodzielnie zgłoszone wyniki operacyjne oraz szacunki prognostyczne, a nie kontrolowana ocena, i powinny być tak przedstawiane w każdym uzasadnieniu biznesowym, które będzie czytane przez audytora, organ regulacyjny lub stronę przeciwną w sporze. Rozróżnienie pomiędzy wynikiem zaobserwowanym przez organizację po wdrożeniu a efektem przypisywanym systemowi jest rozróżnieniem, które zarządzanie ma za zadanie zachować.

Twierdzenie o redukcji błędów systematycznych wymaga dowodów, nie zapewnień

Najczęściej podawanym uzasadnieniem dla algorytmicznej mobilności wewnętrznej jest to, że zmniejsza ona błędy systematyczne. Argument ten ma obronną przesłankę. Uznaniowy awans kontrolowany przez menedżera niesie ze sobą dobrze udokumentowane dysproporcje, gromadzenie talentów przez menedżerów ogranicza widoczność pracowników, a nieprzejrzystość w zakresie wewnętrznych ofert powoduje nierówny rozkład możliwości. Przejrzystość w zakresie istniejących stanowisk oraz tego, kto może się o nie ubiegać, ma samoistną wartość.

Spójność nie oznacza równości.

Wniosek nie wynika z przesłanki. System mobilności wewnętrznej wyszkolony na podstawie własnej historii awansów organizacji odtworzy wzorce zawarte w tej historii z większą spójnością, szerszym zastosowaniem i mniejszą identyfikowalnością niż menedżerowie, których osąd ów system uzupełnia. Spójność nie oznacza równości. Porzucenie eksperymentalnego narzędzia rekrutacyjnego Amazon, po tym jak stwierdzono, że dyskryminuje kobiety, pozostaje stałym dowodem na to, że historyczne dane szkoleniowe kodują historyczne wyniki, przy czym sprawa dotyczyła rekrutacji zewnętrznej, gdzie sygnał szkoleniowy jest stosunkowo skąpy. Systemy mobilności wewnętrznej działają na podstawie skumulowanego zapisu samej relacji zatrudnienia, w tym ocen wyników pracy, przydziałów do projektów oraz ocen menedżerskich, z których każdy niesie własną historię rozkładu.

Konsekwencją dla zarządzania jest to, że twierdzenie o redukcji błędów systematycznych stanowi stwierdzenie faktyczne wymagające dowodów, a nie intencję projektową, którą można po prostu przytoczyć. W ramach standardu dyskryminacji pośredniej przyjętego przez stan Illinois, dobra wiara pracodawcy co do tego, że narzędzie poprawia sprawiedliwość, nie odpowiada na pytanie, czy wyniki różnią się między grupami chronionymi. Jedynie testowanie wyników odpowiada na to pytanie.

Implikacje dla governance

Rekomendacja operacyjna jest taka, aby systemy mobilności wewnętrznej zostały objęte zakresem zarządzania sztuczną inteligencją w zatrudnieniu na etapie zakupu, a nie dopiero w przypadku incydentu.

Dokumentacja zakupowa powinna wymagać od dostawcy oświadczenia, w sformułowaniach umownych, czy wyniki systemu są wykorzystywane do podejmowania, kierowania lub istotnego wpływania na decyzje dotyczące awansu, wynagrodzenia, przydziału zadań lub kontynuacji zatrudnienia. To sformułowanie, a nie kategoria produktu, pod którą system jest sprzedawany, determinuje zakres regulacyjny we wszystkich wyżej omówionych reżimach. Dostawca niechętny do określenia swoich własnych wyników w tych kategoriach przekazał tym samym istotną informację.

Dokumentacja audytu pod kątem błędów systematycznych powinna być wymagana jako warunek przyznania zamówienia, a nie żądana po wdrożeniu, i powinna określać metodologię audytu, badane kategorie grup chronionych, czy przeprowadzono analizę intersekcjonalną, populację, na której przeprowadzono audyt, oraz datę. Audyt przeprowadzony na zagregowanej populacji klientów dostawcy nie jest audytem wyników organizacji wdrażającej system, a to rozróżnienie powinno zostać odnotowane, a nie przyjęte milcząco.

Dokumentacja modelu powinna określać pochodzenie danych szkoleniowych oraz cechy, na podstawie których dokonywane są wnioskowania, wraz z wyraźnym potwierdzeniem, że żadna zmienna geograficzna, edukacyjna ani wynikająca ze stażu pracy nie działa jako wskaźnik zastępczy dla cechy chronionej. Procesy powiadomień oraz działań niekorzystnych powinny być określone umownie, a nie pozostawione do etapu wdrożenia, ponieważ obowiązki powiadomienia wynikające z omawianych przepisów ciążą na pracodawcy wdrażającym system niezależnie od tego, co stworzył dostawca. Sformułowania dotyczące odpowiedzialności odszkodowawczej wymagają szczególnej uwagi, ponieważ pojawiający się wzorzec w przepisach stanowych ogranicza możliwość przeniesienia odpowiedzialności za dyskryminację na dostawców.

Nic z powyższego nie stanowi argumentu przeciwko wspieranej przez AI mobilności wewnętrznej. Uzasadnienie dotyczące talentów jest merytoryczne, a alternatywa w postaci nieprzejrzystego, uznaniowego odźwiernictwa nie jest wyraźnie lepsza. Argument polega na tym, że kategoria systemu wprowadzanego na rynek jako inicjatywa dotycząca doświadczenia pracownika jest funkcjonalnie istotną infrastrukturą decyzyjną, że obszar regulacyjny już ją obejmuje, oraz że organizacje, które odkryją to po wdrożeniu, będą musiały dostosowywać zarządzanie do narzędzi, które przez kilka cykli kształtowały już awanse. Najtańszym momentem na objęcie takiego systemu zarządzaniem jest moment przed jego nabyciem.

Bibliografia

• Rozporządzenie (UE) 2024/1689 Parlamentu Europejskiego i Rady z dnia 13 czerwca 2024 r. ustanawiające zharmonizowane przepisy dotyczące sztucznej inteligencji, Załącznik III(4).
• New York City Administrative Code § 20-870 i nast. (Local Law 144 z 2021 r.); ostateczne przepisy Department of Consumer and Worker Protection, obowiązujące od 5 lipca 2023 r.
• Illinois House Bill 3773, 103. Zgromadzenie Ogólne (2024), zmieniający Illinois Human Rights Act, wchodzący w życie 1 stycznia 2026 r.
• Colorado Senate Bill 24-205, dotyczący ochrony konsumentów w interakcjach z systemami sztucznej inteligencji (2024), wchodzący w życie 1 lutego 2026 r.
• LinkedIn Learning, Workplace Learning Report 2025, oraz powiązana metodologia Career Development Index.
• Dastin, J. „Amazon scraps secret AI recruiting tool that showed bias against women”. Reuters, 10 października 2018 r.
• McKinsey & Company, „Stave off attrition with an internal talent marketplace”, McKinsey Talks Talent.