Model gotowości, który pojawia się zbyt późno
Większość organizacyjnych ram gotowości AI ma wspólną cechę strukturalną, która je podważa. Ustawiają one zdolności operacyjne przed kontrolą. Najpierw tworzone są fundamenty danych, następnie wdrażane są aplikacje, a na trzecim miejscu wprowadzana jest warstwa etyki lub zaufania, zwykle opisywana w kategoriach wytycznych, zasad i zobowiązań do rzetelności i przejrzystości. Taka kolejność jest intuicyjna, ponieważ odzwierciedla sposób, w jaki faktycznie finansowana jest praca, i jest to kolejność zalecana przez większość obecnie funkcjonujących modeli gotowości.
To również kolejność, która powoduje porażki widoczne obecnie w AI wykorzystywanej w zatrudnieniu. Do czasu zaprojektowania warstwy etyki systemy, które miałaby ona regulować, są już w produkcji, zamówienia zostały zamknięte, warunki umowne są ustalone, wybór dostawcy jest przesądzony, a praktyczne możliwości organizacji zawęziły się do dokumentacji i ujawniania informacji. Zarządzanie wprowadzone na etapie trzecim nie jest zarządzaniem. Jest retrospektywnym uzasadnieniem decyzji podjętych na etapie drugim.
Zarządzanie wprowadzone na etapie trzecim nie jest zarządzaniem.
Korektą nie jest dodanie etapu etycznego wcześniej. Polega ona na uznaniu, że wytyczne etyczne nie są instrumentem, jakiego wymaga sytuacja, i że traktowanie ich jako takiego instrumentu jest samo w sobie błędem.
Dlaczego zasady nie są mechanizmami kontroli
Rozróżnienie między zasadą a instrumentem nie jest kwestią semantyczną i zostało na tyle dokładnie zbadane w literaturze dotyczącej zarządzania, że organizacje nie muszą odkrywać go na nowo.
Analiza narzędzi rządzenia autorstwa Salamona ustala, że cele polityczne są realizowane za pomocą instrumentów posiadających określone właściwości: jaką działalność upoważniają, kto nimi administruje, jakie zgodności wymuszają i co czynią obserwowalnym. Deklarowane zobowiązanie nie spełnia żadnej z tych funkcji. Wyraża intencję bez wskazania podmiotu działającego, wyzwalacza, wyniku dowodowego czy konsekwencji za niewykonanie. Zastosowany do sztucznej inteligencji wzorzec ten został bezpośrednio udokumentowany. Badanie Jobin, Ienca i Vayeny dotyczące globalnego krajobrazu wytycznych etycznych AI wykazało znaczną zbieżność w zakresie zasad ogólnych, przy jednoczesnej wyraźnej rozbieżności co do sposobu ich interpretacji i tego, czego miały wymagać. Ocena Mittelstadta doszła do ostrzejszego wniosku, że same zasady nie są w stanie zagwarantować etycznej sztucznej inteligencji wobec braku struktur zawodowych, mechanizmów odpowiedzialności i ścieżek egzekwowania, które czynią zasady operacyjnymi w innych dziedzinach.
Organizacja, która odpowiada na ryzyko związane z AI w zatrudnieniu poprzez opracowanie jasnych wytycznych etycznych, przyjęła zatem interwencję o najsłabszych dowodach skuteczności. Nie dlatego, że rzetelność i przejrzystość są niegodnymi celami. Lecz dlatego, że wytyczna nie tworzy żadnego artefaktu, a każdy obowiązek, przed którym faktycznie stoi organizacja, jest wypełniany właśnie poprzez artefakty.
Rozważmy zobowiązanie do przejrzystości działania algorytmów, które pojawia się niemal w każdym modelu gotowości. Nie jest ono możliwe do spełnienia na zadeklarowanych warunkach. Dostawcy nie ujawnią architektury modelu, większość systemów tej kategorii nie jest interpretowalna w sensie, jaki sugeruje to zobowiązanie, a organizacja, która obiecała przejrzystość algorytmiczną, obiecała coś, czego nie może dostarczyć i o co zostanie zapytana. Osiągalne i bardziej użyteczne zobowiązanie jest innego rodzaju: udokumentowane dowody wyników w podziale na chronione grupy, generowane w określonych odstępach czasu, przez stronę, którą organizacja może zidentyfikować. To jest instrument. Określa, kto co robi, kiedy, i jaki powstaje zapis.
Odwrócona sekwencja gotowości
Model gotowości zbudowany na instrumentach, a nie na zasadach, porządkuje pracę inaczej, a ta zmiana kolejności stanowi wkład merytoryczny, a nie jedynie zmianę prezentacji.
Ustalenie zakresu obowiązywania jest pierwszym krokiem. Zanim jakikolwiek system zostanie oceniony pod kątem funkcjonalności, organizacja musi być w stanie odpowiedzieć, czy wyniki działania systemu są wykorzystywane do podejmowania, kierowania lub istotnego wpływania na decyzje dotyczące zatrudniania, awansu, wynagrodzenia, przydziału zadań, dyscypliny lub dalszego zatrudnienia. To właśnie to sformułowanie, a nie kategoria produktu, pod którą sprzedawany jest dany system, determinuje, jakie obowiązki wiążą się z nim w ramach wszystkich obecnie obowiązujących regulacji dotyczących AI w zatrudnieniu. Ustalenie zakresu obowiązywania jest instrumentem, ponieważ tworzy zapis, przypisuje właściciela i uruchamia określony przebieg pracy. Jest to też tani krok, i jedyny, który staje się droższy im dłużej jest odkładany.
Zarządzanie danymi następuje później, w przeformułowanej postaci. Modele gotowości opisują cel dotyczący danych jako jedno źródło prawdy, co jest celem z zakresu jakości danych. Cel zarządzania jest inny i węższy: organizacja musi być w stanie ustalić, z jakich danych wynikała dana inferencja, kiedy i z jakim pochodzeniem. Czyste, zintegrowane dane wspierają lepsze przewidywania. Udokumentowane pochodzenie danych wspiera zdolność odpowiedzi organowi regulacyjnemu lub powodowi na pytanie, dlaczego dana osoba otrzymała taki, a nie inny wynik. Tylko ta druga zdolność jest zdolnością zarządzania, a organizacja może posiadać tę pierwszą, nie mając wcale drugiej.
Wymogi dowodowe wchodzą w grę na etapie zamówień, a nie później. To właśnie wtedy organizacja zachowuje jeszcze przewagę negocjacyjną. Dokumentacja audytu pod kątem stronniczości, wskazująca metodologię, testowane grupy i populację. Potwierdzenie, że żadna cecha wywodząca się z lokalizacji geograficznej, wykształcenia czy stażu pracy nie pełni funkcji zmiennej zastępczej. Określenie procedury powiadomienia i niekorzystnej decyzji oraz tego, która strona ją wykonuje. Warunki przechowywania i eksportu danych wystarczające, by przetrwać migrację platformy w obowiązującym okresie przedawnienia. Każdy z tych elementów jest negocjowalny przed udzieleniem zamówienia i nie jest negocjowalny potem, co stanowi cały argument za taką kolejnością.
Wdrożenie wiąże się z monitorowaniem, a nie z potwierdzeniem. Zobowiązanie, które ma znaczenie po wdrożeniu, to testowanie wyników w określonych odstępach czasu, ponieważ przy standardzie dyskryminacji pośredniej przekonanie organizacji, że jej narzędzie jest sprawiedliwe, nie stanowi odpowiedzi na pytanie, czy wyniki się różnią. Tylko pomiar jest odpowiedzią.
Warstwa ewidencyjna zamyka cykl. Poświadczenie powiązane z osobą, wersją, datą i uwierzytelnioną ścieżką. Przechowywanie zaprojektowane już w momencie tworzenia. Zdolność organizacji do wykazania, co zrobiła, jest wynikiem całej sekwencji, i jest to jedyny wynik, jaki kiedykolwiek zobaczy strona przeciwna.
Model ten jest cyklem, a nie drabiną, ponieważ pierwszy etap powtarza się. Systemy wchodzą do organizacji nieustannie, często za pośrednictwem funkcji, które nie klasyfikują ich jako technologii decyzji zatrudnieniowych, a zatem ustalanie zakresu obowiązywania jest stanem monitorowanym, a nie ukończonym projektem.
Inteligencja talentów jako przykład ilustrujący
Obecnie funkcjonujące modele gotowości zazwyczaj umieszczają proaktywną inteligencję talentów, czyli mapowanie istniejących umiejętności wobec przyszłych wymagań i generowanie opartych na danych ścieżek kariery, na drugim etapie, przed warstwą zarządzania. To umiejscowienie jest pouczające, ponieważ ta konkretna funkcjonalność należy do najbardziej regulowanych w całej kategorii AI w zatrudnieniu, a niemal nigdy nie jest za taką rozpoznawana.
System, który mapuje zdolności pracownika i generuje rekomendacje ścieżki kariery, tworzy oceny, które istotnie wpływają na awans i przydział zadań. Miejska ustawa lokalna nr 144 w Nowym Jorku obejmuje decyzje o awansie. Nowelizacja ustawy o prawach człowieka stanu Illinois, obowiązująca od stycznia 2026 roku, obejmuje awans, dyscyplinę i zwolnienie, i nakłada obowiązki powiadomienia powiązane z użyciem, a nie z wynikiem. Załącznik III do unijnego Aktu o sztucznej inteligencji wymienia awans, przydział zadań i ocenę wydajności według funkcji, a nie kategorii produktu. Organizacja, która wdraża inteligencję talentów na etapie drugim, a dociera do swoich ram zaufania na etapie trzecim, wdrożyła system podlegający regulacji, a następnie napisała o nim swoje zasady.
To praktyczny koszt konwencjonalnej sekwencji, i nie jest to hipotetyczne. To zwyczajna droga, dzięki której organizacje nabywają zobowiązania, których nigdy nie oceniły.
Co to zmienia w kwestii doradztwa
Pytanie, które zadają sobie organizacje, brzmi: które narzędzia AI powinny przyjąć. Pytanie, które decyduje o ich ekspozycji na ryzyko, brzmi: które z już przyjętych systemów są systemami decyzyjnymi o istotnych konsekwencjach i jakie dowody organizacja posiada na temat każdego z nich.
To są różne pytania, a na drugie z nich można odpowiedzieć natychmiast, bez podejmowania decyzji technologicznej, przy niskim koszcie, i z trwałym artefaktem jako wynikiem. Jest to też pytanie, które sprawia, że kolejne decyzje technologiczne stają się uzasadnione, a nie jedynie entuzjastyczne. Organizacja, która potrafi stwierdzić, dla każdego systemu dotykającego decyzji zatrudnieniowej, co on robi, jakie obowiązki się z nim wiążą, jakie dowody istnieją i kto odpowiada za kolejny przegląd, zbudowała coś. Organizacja posiadająca zestaw etycznych zasad AI napisała coś.
Integracja sztucznej inteligencji z działaniami kadrowymi nie jest projektem technologicznym. To przynajmniej konwencjonalne modele ujmują słusznie. Jest to projekt dotyczący zarządzania, a zarządzanie jest konstytuowane przez instrumenty, nie przez zobowiązania.
Bibliografia
- Salamon, L. M., red. The Tools of Government: A Guide to the New Governance. Oxford University Press, 2002.
- Jobin, A., Ienca, M. i Vayena, E. „The global landscape of AI ethics guidelines”. Nature Machine Intelligence 1 (2019): 389–399.
- Mittelstadt, B. „Principles alone cannot guarantee ethical AI”. Nature Machine Intelligence 1 (2019): 501–507.
- National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework (AI RMF 1.0), styczeń 2023.
- ISO/IEC 42001:2023, Information technology — Artificial intelligence — Management system.
- New York City Administrative Code § 20-870 i nast. (Local Law 144 z 2021 roku).
- Illinois House Bill 3773, 103. Zgromadzenie Ogólne (2024), zmieniający Illinois Human Rights Act, wchodzący w życie 1 stycznia 2026 r.
- Rozporządzenie (UE) 2024/1689, Załącznik III(4).
- Novara Consulting Group, „The Development Exception: Internal Mobility Platforms and the Perimeter of Employment AI Governance”, maj 2025.