Rozmowa o AI w języku migowym zaczyna budzić mój niepokój, i nie dlatego, że uważam, iż technologia powinna przestać się rozwijać.
Niepokoi mnie to, jak szybko ludzie zaczynają promować awatary AI migające jako przyszłość dostępności, unikając przy tym szczerych rozmów o tym, czym te systemy naprawdę są, jak działają i gdzie zaczynają się ich ograniczenia.
W tej chwili wiele bardzo różnych technologii wrzuca się do jednego worka pod tymi samymi etykietami. Dla przeciętnej słyszącej osoby oglądającej demo w internecie wszystko wygląda tak samo. Na ekranie pojawia się migający awatar, ruchy wyglądają płynnie, renderowanie wygląda dopracowane, i nagle ludzie zaczynają mówić tak, jakbyśmy byli świadkami nadejścia w pełni funkcjonalnego tłumaczenia przez AI.
Jednak rzeczywistość kryjąca się za tymi pokazami jest często znacznie bardziej skomplikowana.
Niektóre systemy są mocno zależne od ludzi działających w tle. Niektóre opierają się na scenariuszowej treści. Niektóre to nagrania z motion capture przeniesione na awatara. Niektóre wciąż są eksperymentalnymi technologiami działającymi w ściśle kontrolowanych warunkach. Inne próbują generować migowe komunikaty dynamicznie i wciąż zmagają się z niespójnością, rozumieniem kontekstu i niezawodnością komunikacji.
Te różnice mają znaczenie.
Kto naprawdę może ocenić jakość
Problem polega na tym, że większość słyszących interesariuszy nie jest w stanie samodzielnie ocenić jakości komunikacji migowej. Administrator szpitala, urzędnik państwowy, okręg szkolny, inwestor czy specjalista ds. zamówień może obejrzeć dopracowane demo i założyć, że komunikacja jest poprawna tylko dlatego, że awatar wygląda przekonująco.
Tymczasem widzowie Głusi mogą od razu zauważyć problemy dotyczące gramatyki, tempa, kontekstu, mimiki twarzy czy znaczenia, których słyszący decydenci sami nie są w stanie dostrzec.
To tworzy niebezpieczną nierównowagę.
Technologie wspomagające dostępność wkraczają teraz w środowiska, w których błędy komunikacyjne niosą poważne konsekwencje. Opieka zdrowotna, edukacja, transport, komunikacja w sytuacjach kryzysowych, usługi w zakresie zdrowia psychicznego, sprawy prawne i usługi publiczne — wszystkie one zależą od dokładnego i sensownego dostępu do komunikacji. Jeśli instytucje zaczną wierzyć, że wizualnie imponujące systemy AI są automatycznie równoważne wykwalifikowanemu wsparciu komunikacji przez człowieka, to nie firmy promujące tę technologię jako pierwsze poniosą tego konsekwencje.
Poniosą je osoby Głuche.
Jeśli instytucje zaczną wierzyć, że wizualnie imponujące systemy AI są automatycznie równoważne wykwalifikowanemu wsparciu komunikacji przez człowieka, to nie firmy promujące tę technologię jako pierwsze poniosą tego konsekwencje.
Pytania, które nie powinny budzić kontrowersji
Najbardziej frustruje mnie to, jak trudno stało się zadawać rozsądne pytania bez bycia traktowanym jak „przeciwnik innowacji”.
Pytania takie jak:
- Jak ten system został zwalidowany?
- Kto brał udział w testowaniu?
- Czy był oceniany przez osoby migające natywnie?
- Jak sprawdza się podczas prawdziwych rozmów, a nie tylko w scenariuszowych demonstracjach?
- Jakie są warunki awarii?
- Co dzieje się w sytuacjach awaryjnych?
- Jak wspiera użytkowników DeafBlind?
- Gdzie wciąż istnieje nadzór człowieka?
To nie są wrogie pytania.
To są pytania, które powinny zostać zadane, zanim systemy zostaną wdrożone w rzeczywistych środowiskach związanych z dostępnością.
Narzędzie wspomagające, a nie zastępujące
Nie twierdzę, że AI nie ma miejsca w dziedzinie dostępności. Uważam, że technologia może zdecydowanie wspomagać procesy komunikacyjne, wsparcie napisów, koordynację oraz pewne środowiska niższego ryzyka. Istnieje jednak zasadnicza różnica między wykorzystywaniem technologii jako narzędzia wspomagającego a traktowaniem niedokończonych systemów jako zamienników rzeczywistego dostępu do komunikacji.
Społeczność Głuchych spędziła dekady, walcząc o ideę, że dostęp do komunikacji jest prawem, a nie udogodnieniem. To nie powinno nagle zniknąć tylko dlatego, że pojawił się nowy trend technologiczny.
Innowacja bez przejrzystości staje się marketingiem.
Innowacja bez odpowiedzialności staje się ryzykiem.
A innowacja bez szczerej dyskusji na temat ograniczeń może bardzo szybko stać się kolejną sytuacją, w której od osób z niepełnosprawnościami oczekuje się tolerowania porażek, podczas gdy wszyscy inni z dystansu świętują postęp.