Dostępność, ekspertyza i problem legitymizacji
Każda epoka wytwarza technologie, które zdają się wyprzedzać instytucje potrzebne do ich regulowania. Koleje zmieniły transport, zanim powstały nowoczesne przepisy bezpieczeństwa. Radio przekształciło komunikację, zanim społeczeństwa ustaliły normy licencjonowania i nadzoru. Internet połączył miliardy ludzi na długo przed tym, jak rządy, nauczyciele i obywatele zrozumieli, jak głęboko zmieni on życie publiczne. Sztuczna inteligencja zajmuje dziś podobną pozycję. Jej możliwości rozwijają się szybko, jej zastosowania mnożą się codziennie, a jej zwolennicy z przekonaniem mówią o transformacji. Jednak pod tym entuzjazmem kryje się cichsze, lecz bardziej doniosłe pytanie. Kto ma uprawnienia, by zdecydować, kiedy technologia jest gotowa stać się częścią systemów, od których zależą ludzie?
Pytanie to wydaje się zwodniczo proste. Nowoczesne społeczeństwa są przyzwyczajone do struktur władzy. Lekarze otrzymują licencje. Architekci przestrzegają standardów zawodowych. Producenci samolotów poddają się rozbudowanym procesom certyfikacji. Projekty infrastruktury publicznej przechodzą przegląd i nadzór. Systemy te nie są doskonałe, ale odzwierciedlają powszechnie akceptowaną zasadę: gdy decyzje niosą istotne konsekwencje dla innych, uprawnienie do ich podejmowania nie powinno wynikać jedynie z entuzjazmu, wiedzy eksperckiej czy popytu rynkowego. Musi mu towarzyszyć odpowiedzialność. Im większy potencjalny wpływ, tym większa potrzeba istnienia uprawnionych mechanizmów zdolnych ocenić ryzyko.
Technologie wspomagające dostępność zajmują w tym krajobrazie szczególną pozycję. Często są przedstawiane jako narzędzia upodmiotowienia, a nie przedmioty nadzoru. Ich celem jest usuwanie barier, zwiększanie uczestnictwa i poszerzanie możliwości. Trudno sprzeciwiać się takim celom. Jednak dobre intencje nigdy nie zniosły potrzeby nadzoru. Historia sugeruje wręcz coś przeciwnego. Im bardziej szczytna wydaje się misja, tym łatwiej pomija się pytania o to, kto posiada uprawnienia, by definiować sukces, oceniać gotowość i przyjmować ryzyko w imieniu innych.
To napięcie staje się szczególnie widoczne w okresach innowacji technologicznych. Nowe systemy często powstają, zanim istnieją standardy pozwalające je oceniać. Wcześni użytkownicy eksperymentują. Orędownicy promują możliwości. Dostawcy reklamują funkcje. Instytucje poszukują efektywności. Społeczności dążą do włączenia. Każdy uczestnik wnosi inną perspektywę, lecz żaden niekoniecznie posiada powszechnie uznawane uprawnienia, by decydować, kiedy eksperymentowanie powinno przejść w etap wdrożenia. Efektem jest próżnia w zakresie nadzoru, w której decyzje nadal są podejmowane mimo niepewności co do tego, kto powinien je podejmować.
Próżnię tę często wypełnia widoczność. Osoby wpływowe zdobywają autorytet dzięki reputacji. Organizacje zyskują legitymację dzięki rozpoznawalności. Technologie zyskują wiarygodność dzięki powszechnemu wdrożeniu. Jednak widoczność to nie to samo co legitymacja. Historia zna niezliczone przykłady idei, które zdobyły popularność, zanim zdobyły niezawodność. Rynki nagradzają innowacyjność. Nie zawsze nagradzają ostrożność. Entuzjazm publiczny może przyspieszyć wdrożenie, lecz entuzjazm nie może zastąpić dowodów. Wpływ również nie może zastąpić odpowiedzialności.
Widoczność to nie to samo co legitymizacja.
Dostępność stanowi szczególnie trudny przypadek, ponieważ konsekwencje niepowodzenia są często rozłożone nierównomiernie. Osoby decydujące o wdrożeniu danej technologii nie zawsze są tymi samymi osobami, które ponoszą konsekwencje, gdy technologia zawodzi. Urzędnik odpowiedzialny za zamówienia może zatwierdzić system. Dostawca może go promować. Publiczność konferencyjna może go chwalić. Jednak wynikające z tego ryzyko może ostatecznie spaść na osoby, które polegają na tym systemie w zakresie edukacji, zatrudnienia, opieki zdrowotnej, komunikacji w sytuacjach kryzysowych czy udziału w życiu obywatelskim. Uprawnienie do podjęcia decyzji i odpowiedzialność za życie z jej skutkami nie zawsze spoczywają w tym samym miejscu.
Ta rzeczywistość rodzi niewygodne pytania. Kto decyduje, kiedy technologia wspomagająca dostępność jest wystarczająco dokładna do zastosowania publicznego? Kto ustala akceptowalne poziomy ryzyka? Kto decyduje, kiedy przejrzystość jest wystarczająca? Kto ocenia twierdzenia dotyczące skuteczności? W wielu sektorach takie pytania byłyby rozstrzygane przez formalne instytucje, standardy zawodowe lub ramy regulacyjne. Innowacje w zakresie dostępności często funkcjonują jednak w bardziej rozdrobnionym środowisku. Decyzje są rozproszone między dostawców, orędowników, urzędników ds. zamówień, badaczy, fundatorów i organizacje społecznościowe. Odpowiedzialność staje się wspólna. Uprawnienia stają się rozmyte. Rozliczalność staje się trudna do zlokalizowania.
Wyzwaniem nie jest brak wiedzy eksperckiej. Społeczności działające na rzecz dostępności dysponują nadzwyczajną wiedzą. Badacze wnoszą wiedzę techniczną. Praktycy wnoszą doświadczenie zawodowe. Członkowie społeczności wnoszą rzeczywistość przeżywaną na co dzień. Decydenci wnoszą perspektywę instytucjonalną. Problem polega na tym, że sama wiedza ekspercka nie odpowiada na pytanie o uprawnienia. Wiedza ekspercka wyjaśnia, co można zrobić. Uprawnienie decyduje o tym, kto powinien rozstrzygać, czy należy to zrobić. Mylenie tych pojęć może prowadzić do systemów, które są imponujące pod względem technicznym, lecz kruche pod względem instytucjonalnym.
To rozróżnienie ma znaczenie, ponieważ uprawnienie ostatecznie dotyczy legitymacji. Prawowita władza to nie tylko zdolność wpływania na wyniki. To zdolność uzasadnienia decyzji wobec osób, których one dotyczą. Prawowita struktura władzy potrafi wyjaśnić, dlaczego istnieją standardy, w jaki sposób ocenia się ryzyko i jakie mechanizmy istnieją w celu korekty, gdy dochodzi do niepowodzeń. Buduje ona zaufanie nie dlatego, że błędy są niemożliwe, lecz dlatego, że odpowiedzialność pozostaje widoczna, gdy błędy się zdarzają. Zaufanie rodzi się nie z doskonałości, lecz z odpowiedzialnego zarządzania.
Przyszłość innowacji w zakresie dostępności będzie zależeć nie tylko od postępu technologicznego, lecz również od postępu w zakresie zarządzania. Społeczeństwa spędziły wieki, rozwijając instytucje zdolne do oceny bezpieczeństwa, zarządzania ryzykiem i przypisywania odpowiedzialności. Sztuczna inteligencja stawia teraz przed społecznościami zajmującymi się dostępnością wyzwanie rozważenia, czy porównywalne struktury są niezbędne dla technologii, które w coraz większym stopniu pośredniczą w komunikacji, uczestnictwie i dostępie. Pytanie nie brzmi już, czy innowacje będą kontynuowane. Będą. Pytanie brzmi, czy wraz z nimi rozwinie się uprawniona władza.
Najważniejsze pytanie dotyczące zarządzania w nadchodzącej dekadzie może więc mieć niewiele wspólnego z algorytmami, zbiorami danych czy wskaźnikami wydajności. Może ono zamiast tego dotyczyć znacznie starszego problemu. Zanim społeczeństwo zdoła zdecydować, czy technologii można zaufać, musi najpierw ustalić, kto posiada uprawnienia, by taki osąd wydać. Dopóki to pytanie nie zostanie rozstrzygnięte, debaty na temat innowacji pozostaną niepełne. Nadal będziemy pytać, czy technologie działają, zaniedbując pytanie, kto zdecydował, że samo działanie wystarczy.