Adaptacja wymaga wykrycia: problem zarządzania w spersonalizowanej dostępności miejsca pracy

Co zakłada ta teza

Argument za adaptacyjną dostępnością jest prosty i atrakcyjny. Zamiast budować jeden interfejs i wymagać od każdego pracownika dostosowania się do niego, wdraża się systemy, które same dostosowują się do każdej osoby, w sposób ciągły i bez proszenia o to. Dostępność staje się osobista, natychmiastowa i niewidoczna. Towarzyszące temu sformułowanie zazwyczaj brzmi, że to dostępność powinna dostosowywać się do ludzi, a nie ludzie do niej.

Sformułowanie to jest słuszne jako zasada, ale mylące jako specyfikacja, ponieważ ukrywa, czego wymaga adaptacja. System nie może dostosować się do osoby, której nie sklasyfikował. Aby powiększyć tekst dla jednego pracownika, a nie dla innego, uprościć pulpit, zmienić czas reakcji czy sposób wprowadzania danych, system musi najpierw ustalić, że dana osoba tego potrzebuje. Personalizacja to klasyfikacja, a w miejscu pracy klasyfikacją, o którą chodzi, jest niepełnosprawność.

Personalizacja to klasyfikacja, a w miejscu pracy klasyfikacją, o którą chodzi, jest niepełnosprawność.

To jest problem zarządzania, a nie szczegół wdrożenia. Pracodawca wdrażający system, który wnioskuje, którzy z jego pracowników są niepełnosprawni, zbudował coś zupełnie innego niż funkcję dostępności. Zbudował mechanizm, który w sposób ciągły generuje informacje o niepełnosprawności pracowników, bez prośby, bez ujawnienia i bez procesu, jaki prawo przewiduje właśnie w tym celu.

Klasyfikacja to coś, co prawo pracy ogranicza najbardziej

Amerykańska ustawa o osobach niepełnosprawnych (Americans with Disabilities Act, ADA) zabrania pracodawcom wymagania badań lekarskich lub zadawania pytań dotyczących tego, czy pracownik jest osobą niepełnosprawną, bądź dotyczących charakteru lub stopnia tej niepełnosprawności, chyba że zapytanie jest związane z pracą i zgodne z koniecznością biznesową. Ograniczenie to jest celowo szerokie, a Komisja ds. Równych Szans Zatrudnienia (Equal Employment Opportunity Commission, EEOC) od dawna interpretuje je jako obejmujące zapytania mogące wywołać informacje o niepełnosprawności, a nie tylko pytania bezpośrednie.

To, czy silnik wnioskujący dokonuje zapytania w rozumieniu ustawy, pozostaje kwestią otwartą i powinno się ją określać jako otwartą, a nie rozstrzygniętą w którąkolwiek stronę. System, który monitoruje poziom powiększenia, czas zatrzymania wzroku, częstość błędów, sposób wprowadzania danych, częstotliwość poprawek lub wzorce nawigacji i na tej podstawie wnioskuje, że użytkownik prawdopodobnie ma zaburzenie wzroku, motoryki lub funkcji poznawczych, niczego nie zapytał. Uzyskał odpowiedź bez pytania, co albo wykracza poza literę przepisu, albo stanowi dokładnie to nadużycie, przed którym przepis ma chronić, a żaden sąd jeszcze nie miał okazji rozstrzygnąć, które z tych dwóch jest prawdą.

Nieotwarte jest natomiast to, co w efekcie posiada pracodawca. Niezależnie od tego, jak scharakteryzuje się wnioskowanie, wynikiem jest zapis, powiązany z konkretnym pracownikiem, wskazujący na prawdopodobną niepełnosprawność. ADA wymaga, aby informacje medyczne uzyskane o pracownikach były przechowywane na osobnych formularzach, w osobnych aktach i traktowane jako poufna dokumentacja medyczna. System adaptacyjnej dostępności generujący wnioski powiązane z niepełnosprawnością wewnątrz ogólnego potoku analityki produktowej, przechowywany na infrastrukturze dostawcy, widoczny dla każdego, kto administruje platformą, raczej nie spełni tego standardu, a w większości wdrożeń nikt nie rozważył tej kwestii, ponieważ system został zakupiony jako funkcja doświadczenia użytkownika, a nie jako źródło informacji medycznych o pracownikach.

Warto też zauważyć, co traci pracownik. Proces ubiegania się o dostosowanie istnieje po to, by dać osobie kontrolę: czy ujawnić informacje, co ujawnić, komu i o co poprosić. System adaptacyjny decyduje o tych czterech kwestiach w imieniu pracownika i nigdy jej o tym nie informuje. Jednostce lepiej służy zwykły formularz i wyznaczona osoba decyzyjna niż system, który po cichu ustala, czego potrzebuje.

Odpowiednie wytyczne EEOC w tych kwestiach, techniczna pomoc z maja 2022 roku dotycząca ADA oraz wykorzystania oprogramowania, algorytmów i sztucznej inteligencji do oceny kandydatów do pracy i pracowników, wymieniały niedopuszczalne zapytania związane z niepełnosprawnością jako jeden z trzech głównych mechanizmów algorytmicznej szkody w rozumieniu ADA, obok niezapewnienia dostosowania i mechanizmu wykluczającego (screen-out). Dokument ten został usunięty ze strony internetowej agencji w styczniu 2025 roku. Jego usunięcie zmieniło dostępność wyjaśnienia, nie zmieniło treści ustawy.

Rynek właśnie dowiedział się, co się dzieje

Trzy miesiące przed napisaniem tego tekstu Federalna Komisja Handlu (Federal Trade Commission) ogłosiła skargę i proponowany nakaz zobowiązujący firmę accessiBe do zapłaty miliona dolarów w ramach ugody dotyczącej zarzutów, że wprowadzała w błąd co do możliwości swojego narzędzia dostępności internetowej opartego na AI. Firma reklamowała wtyczkę, twierdząc, że może sprawić, iż dowolna strona internetowa będzie zgodna z Wytycznymi dotyczącymi dostępności treści internetowych (Web Content Accessibility Guidelines, WCAG), częściowo natychmiast i w pełni poprzez zautomatyzowany proces w ciągu czterdziestu ośmiu godzin, z ciągłym ponownym skanowaniem w celu utrzymania zgodności w miarę zmiany treści. FTC twierdziła, że produkt tego nie robił, zawodząc w podstawowych elementach, takich jak menu, nagłówki, tabele, obrazy i nagrania, oraz że firma formatowała płatne rekomendacje tak, by wyglądały jak niezależne recenzje. Proponowany nakaz zakazuje firmie twierdzenia, że jej zautomatyzowane produkty mogą sprawić, że strona internetowa będzie zgodna z WCAG lub utrzyma tę zgodność w czasie, bez dowodów potwierdzających to twierdzenie.

Nakładka dostępności (accessibility overlay) jest najbliższym dostępnym precedensem dla adaptacyjnej dostępności, a wnioskiem nie jest to, że automatyzacja nie może pomóc. Jest nim to, że automatyczne dostosowanie nałożone na niedostępny system bazowy daje pozory dostępu, a nie sam dostęp, oraz że organizacje je wdrażające zyskują te pozory jako swoją obronę. Nakładki były sprzedawane dokładnie w takim samym tonie, jakim dziś posługuje się oferta adaptacyjnej dostępności: nie tylko spełniaj wymogi, innowuj; technologia dostosowuje się w czasie rzeczywistym; dostępność staje się automatyczna. Setki organizacji korzystających z nakładek zostały pozwane w sprawach o dostępność internetową, a nakładka im nie pomogła. Zidentyfikowała je.

Organizacja, która wdraża system personalizacji na podstawie twierdzenia dostawcy, że dostosowuje się on do każdego użytkownika, dokonuje tego samego zakupu, w kontekście, w którym osobami dotkniętymi są pracownicy, a nie odwiedzający stronę internetową, i gdzie obowiązująca ustawa przewiduje indywidualne prawo do wniesienia powództwa.

Adaptacja jest oferowana jako substytut dostosowania, a to jest obecnie przedmiotem sporów sądowych

Praktyczne niebezpieczeństwo nie polega na tym, że systemy adaptacyjne zawodzą. Polega na tym, że ich istnienie traktuje się jako wypełnienie obowiązku zapewnienia dostosowania.

W marcu 2025 roku Amerykańska Unia Swobód Obywatelskich (American Civil Liberties Union), ACLU of Colorado, Public Justice oraz Eisenberg and Baum złożyły skargę do Colorado Civil Rights Division oraz EEOC w imieniu Głuchej i rdzennej amerykańskiej pracownicy. Według publicznie dostępnych dokumentów, poprosiła ona o napisy tworzone przez człowieka jako rozsądne dostosowanie do zautomatyzowanej rozmowy kwalifikacyjnej nagrywanej na wideo, a jej prośba została odrzucona z uzasadnieniem, że wystarczą automatyczne napisy platformy. Twierdzi się, że części rozmowy w ogóle nie zostały napisane. Obie firmy zaprzeczają zarzutom, a sprawa zostanie rozstrzygnięta w drodze dochodzenia, a nie komentarza.

Niezależnie od wyniku, ten stan faktyczny dokładnie określa ryzyko. Stanowisko pracodawcy było takie, że automatyczna funkcja adaptacyjna sprawiała, że żądane dostosowanie było niepotrzebne. Jest to dokładnie teza, którą marketing adaptacyjnej dostępności przedstawia jako swoją główną korzyść. Organizacja, która wdraża tę technologię i przyjmuje ten przekaz marketingowy, przyjęła linię obrony, która obecnie jest testowana, i powinna rozumieć, że jest to właśnie ta linia obrony, a nie sposób uniknięcia sporu.

Technologia wspomagająca nie jest programem dostępności

Ostatnie rozróżnienie, ponieważ teza ma tendencję do jego zacierania. Aplikacje takie jak Seeing AI i Google Lookout to technologie wspomagające: narzędzia, które osoba niewidoma lub słabowidząca wybiera, konfiguruje, kontroluje i może porzucić. Należą do użytkownika. Ich zarządzanie leży w gestii użytkownika, a ich wartość jest realna.

Adaptacyjny interfejs wdrażany przez pracodawcę to obiekt zupełnie innego rodzaju. Należy do instytucji, jest stosowany wobec danej osoby, a nie obsługiwany przez nią, działa niezależnie od tego, czy ona tego chce, i generuje dane, które posiada pracodawca. Wnioskowanie z sukcesu pierwszej kategorii o bezpieczeństwie drugiej jest centralnym błędem analitycznym w tej dziedzinie, i powraca, ponieważ obie kategorie określa się jako AI dla dostępności.

Istnieje też cichszy problem związany z powoływaniem się na konsumenckie aplikacje wspomagające jako dowód postawy organizacji wobec dostępności. Jeśli niewidomy pracownik porusza się po miejscu pracy za pomocą aplikacji, którą sam znalazł, zainstalował i nauczył się obsługiwać we własnym czasie, organizacja nie zapewniła dostępności. Skorzystała z tego, że on to zrobił, a traktowanie tego jako instytucjonalnego zapewnienia dostępności zaciemnia niewypełniony obowiązek. Istotne pytanie nie dotyczy tego, jakie narzędzia znaleźli pracownicy. Dotyczy tego, czy własne dokumenty, systemy i środowisko fizyczne organizacji są dostępne bez nich.

Czego naprawdę wymaga ta zasada

Dostępność powinna dostosowywać się do ludzi, a nie odwrotnie. Zasada ta jest słuszna. To, co z niej wynika, to nie wnioskowanie, lecz samostanowienie: osoba określa, czego potrzebuje, a system robi to, co zostało określone. To jest różnica między kontrolą preferencji a silnikiem wykrywania, i to jest cała kwestia zarządzania.

Z tego wynika sześć wniosków dla każdej organizacji rozważającej wdrożenie takich systemów.

1. Zapytaj dostawcę, na piśmie, czy system wnioskuje o cechach użytkownika, czy stosuje preferencje zadeklarowane przez użytkownika. Jeśli wnioskuje, zapytaj, o czym wnioskuje, na podstawie jakich sygnałów, gdzie wnioskowanie jest przechowywane, kto może je zobaczyć i jak długo jest przechowywane. Zachowaj odpowiedź.
2. Preferuj zadeklarowane preferencje nad wykrywaniem wszędzie tam, gdzie można osiągnąć ten sam rezultat. Panel ustawień kontrolowany przez pracownika zapewnia to samo dostosowanie bez żadnego z problemów związanych z wnioskowaniem, i pozostawia pracownikowi kontrolę nad własnym ujawnieniem informacji.
3. Traktuj każde wnioskowanie związane z niepełnosprawnością generowane przez system jako poufną informację medyczną do celów obsługi, przechowywaną osobno z ograniczonym dostępem, i potwierdź, że architektura dostawcy na to pozwala przed wdrożeniem, a nie po nim.
4. Stwierdź wprost, zarówno w polityce, jak i w samym procesie dostosowania, że automatyczne funkcje adaptacyjne nie ograniczają ani nie zastępują prośby o rozsądne dostosowanie, i przeszkol odpowiednio osoby zajmujące się takimi wnioskami.
5. Odrzucaj twierdzenia o zgodności. Każde oświadczenie, że produkt automatycznie osiąga lub utrzymuje zgodność ze standardem dostępności, powinno być traktowane jako niepotwierdzone twierdzenie marketingowe, chyba że towarzyszą mu dowody, co jest obecnie także stanowiskiem FTC.
6. Napraw system bazowy. Adaptacyjna korekta zastosowana do niedostępnego dokumentu, pulpitu lub procesu pracy daje tymczasową modyfikację powierzchni. Naprawa u źródła jest wolniejsza, mniej efektowna podczas prezentacji i jedyną rzeczą, która działa trwale.

Podsumowanie

Spersonalizowana dostępność jest przedstawiana jako sposób na ominięcie tarć związanych z procesem dostosowania: bez formularzy, bez ujawniania informacji, bez opóźnień, bez niezręcznej rozmowy. Tarcie, które proponuje się usunąć, to w dużej mierze proces, dzięki któremu osoba niepełnosprawna sprawuje kontrolę nad informacjami o sobie i określa, czego faktycznie potrzebuje. Usunięcie go nie eliminuje klasyfikacji. Przenosi klasyfikację z rozmowy, w której uczestniczy pracownik, do systemu, którego nie widzi.

Technologia nie jest problemem i wiele z niej okaże się naprawdę użyteczne. Problemem jest twierdzenie, a twierdzenie obecnie głoszone - że dostępność może być automatyczna, adaptacyjna i kompletna bez konieczności podejmowania przez kogokolwiek jakiejkolwiek decyzji - jest tym samym twierdzeniem, które już doprowadziło do federalnego działania egzekucyjnego i fali sporów sądowych na pokrewnym rynku. Nie było prawdziwe w odniesieniu do stron internetowych. Nie jest bardziej prawdziwe w odniesieniu do miejsc pracy, gdzie osobami, do których się dostosowuje, są pracownicy posiadający prywatne prawo do powództwa i ustawę, która chroni ich od 1990 roku.

Bibliografia

• American Civil Liberties Union, ACLU of Colorado, Public Justice oraz Eisenberg & Baum LLP. Skarga złożona do Colorado Civil Rights Division oraz U.S. Equal Employment Opportunity Commission, 19 marca 2025 r.
• Ustawa o osobach niepełnosprawnych z 1990 roku (Americans with Disabilities Act of 1990), 42 U.S.C. § 12112(d), dotycząca badań lekarskich, zapytań związanych z niepełnosprawnością oraz poufności informacji medycznych.
• Federalna Komisja Handlu (Federal Trade Commission), W sprawie accessiBe, Inc., akta nr 2223156; skarga i proponowany nakaz ogłoszone 3 stycznia 2025 roku; nakaz ostateczny kwiecień 2025 roku.
• Amerykańska Komisja ds. Równych Szans Zatrudnienia (U.S. Equal Employment Opportunity Commission), The Americans with Disabilities Act and the Use of Software, Algorithms, and Artificial Intelligence to Assess Job Applicants and Employees, EEOC-NVTA-2022-2, 12 maja 2022 r.; usunięte ze strony internetowej agencji 27 stycznia 2025 r.
• Wytyczne dotyczące dostępności treści internetowych (Web Content Accessibility Guidelines), World Wide Web Consortium.