Streszczenie
Sztuczna inteligencja języka migowego, niezależnie od tego, czy jest budowana do rozpoznawania, tłumaczenia, czy generowania opartego na awatarach, zależy strukturalnie od rejestrowania wideo lub danych biometrycznych użytkowników Głuchych i niedosłyszących. Ta zależność tworzy problem zarządzania danymi, który spotkał się ze znacznie mniejszą kontrolą instytucjonalną niż błędy językowe i dotyczące zrozumienia udokumentowane w poprzednich wydaniach tej serii. W całym krajobrazie dostawców, który NCG przeanalizowało w ramach frameworku SLAT (Sign Language Access Trust), ujawnianie informacji o tym, co jest zbierane, jak długo jest przechowywane, czy jest wykorzystywane do trenowania przyszłych modeli oraz czy jest udostępniane stronom trzecim, jest w najlepszym razie niespójne, a w najgorszym – nieobecne. Nie jest to twierdzenie, że jakikolwiek konkretny dostawca działał w złej wierze. Publiczne dowody nie wspierają jeszcze przypisania intencji żadnej nazwanej firmie, i niniejsze wydanie takiego przypisania nie dokonuje. Jest to twierdzenie, że rynek nie wypracował jeszcze standardu ujawniania informacji adekwatnego do wrażliwości danych, których to dotyczy, oraz że ta luka stanowi błąd zarządzania niezależny od postępowania jakiegokolwiek pojedynczego dostawcy. Poniższe stanowisko polityczne argumentuje, że adekwatność zgody i ujawniania informacji powinna być traktowana jako kryterium dopuszczające w procesie zamówień, a nie kwestia drugorzędna rozpatrywana po ocenie funkcjonalnej.
Problem polityki
Rejestrowanie języka migowego jest rejestrowaniem biometrycznym. Nagranie wideo rąk osoby migającej, mimiki twarzy pełniącej funkcję gramatyczną oraz pozycji ciała nie jest danymi wejściowymi o charakterze incydentalnym, porównywalnymi do zdania wpisanego do systemu tekstowego. Jest unikalnie identyfikujące, z definicji koduje informacje o statusie niepełnosprawności i w wielu jurysdykcjach spełnia ustawową definicję danych biometrycznych lub danych szczególnej kategorii podlegających wzmocnionej ochronie. Na przykład illinoiska ustawa Biometric Information Privacy Act (BIPA) wymaga pisemnego powiadomienia i zgody przed zebraniem identyfikatorów biometrycznych oraz nakłada odpowiedzialność niezależną od dowodu rzeczywistej szkody. Unijne RODO (Rozporządzenie o Ochronie Danych Osobowych) klasyfikuje dane ujawniające informacje związane z niepełnosprawnością, a także określone dane biometryczne wykorzystywane do identyfikacji, jako dane szczególnej kategorii na mocy Artykułu 9, wymagając wyraźnej podstawy prawnej wykraczającej poza zwykłą zgodę. Kalifornijskie ustawy CCPA (California Consumer Privacy Act) i CPRA (California Privacy Rights Act) nakładają własne obowiązki ujawniania informacji i rezygnacji w odniesieniu do danych biometrycznych.
Mimo tego krajobrazu regulacyjnego, produkty sztucznej inteligencji języka migowego skierowane do konsumentów często opierają się na ogólnych regulaminach świadczenia usług, które nie zostały opracowane z myślą o użytkownikach Głuchych ani o rejestrowaniu danych biometrycznych. W migawkach dostawców przeprowadzonych przez NCG widoczne są trzy powtarzające się braki: po pierwsze, brak odrębnego lub widocznego ujawnienia, że dane wideo stanowią dane biometryczne podlegające szczególnym ochronom ustawowym; po drugie, brak jasnego stwierdzenia, czy zarejestrowane wideo lub wyprowadzone z niego cechy są przechowywane do celów trenowania modeli, a jeśli tak, to jak długo i na jakich warunkach prawa do usunięcia danych; po trzecie, brak ujawnienia informacji w dostępnym formacie, co oznacza, że sam język zgody często nie jest tłumaczony na ASL ani prezentowany w formacie użytecznym dla populacji, której dane są zbierane. Ta ostatnia kwestia nie jest formalnością. System ujawniania informacji, który wymaga umiejętności czytania w pisanym drugim języku, aby zrozumieć, co dzieje się z własnymi danymi biometrycznymi, nie funkcjonuje jako świadoma zgoda dla populacji, w której znajomość języka angielskiego w piśmie jest bardzo zróżnicowana, a ASL jest podstawowym językiem rozumienia.
Rejestracja języka migowego jest rejestracją biometryczną.
Analiza instytucjonalna
Dynamika instytucjonalna, która wytwarza tę lukę, ma charakter strukturalny, a nie spiskowy. AI języka migowego to młoda kategoria produktów, a większość dostawców to małe firmy działające na tych samych ogólnych szablonach polityki prywatności stosowanych w całej branży oprogramowania, dostosowywanych minimalnie, jeśli w ogóle. Tymczasem procesy zamówień na poziomie instytucjonalnym historycznie oceniały te produkty na podstawie kryteriów funkcjonalnych: czy awatar renderuje się w sposób zrozumiały, czy system rozpoznawania osiąga akceptowalną dokładność, czy dostawca zatrudnia osoby Deaf zaangażowane w rozwój produktu. Zarządzanie danymi traktowane było jako kwestia zgodności prawnej lub IT, rozpatrywana po podjęciu merytorycznej decyzji zakupowej, jeśli w ogóle była rozpatrywana. Ta kolejność stanowi rzeczywiste niedociągnięcie w zarządzaniu. Zanim niedociągnięcie w zarządzaniu danymi wyjdzie na jaw — poprzez naruszenie danych, dochodzenie regulacyjne lub publiczną krytykę ze strony społeczności Deaf, której dane były wykorzystywane — relacja instytucjonalna i zobowiązanie finansowe są już ustanowione, a możliwość wymuszenia naprawy jest odpowiednio słabsza.
Istnieje również kwestia pochodzenia danych treningowych, która jest blisko związana z problemem zgody, ale analitycznie od niego odrębna. Kilka systemów sztucznej inteligencji języka migowego zostało zbudowanych częściowo na korpusach wideo pochodzących z publicznie zamieszczonych treści, w tym treści tworzonych przez Głuchych użytkowników ASL i edukatorów na platformach społecznościowych. Czy takie wykorzystanie mieści się w zakresie regulaminu danej platformy, czy stanowi dozwolony użytek w rozumieniu prawa autorskiego oraz czy osoby, których migowanie widoczne jest w tych nagraniach, zostały w sposób znaczący poinformowane, że ich treści zostaną wykorzystane do trenowania komercyjnego systemu AI – to pytania otwarte, których NCG nie zweryfikowało niezależnie dla żadnego konkretnego dostawcy i których nie przedstawia tutaj jako ustalonego faktu. Z punktu widzenia zarządzania istotne jest to, że urzędnicy odpowiedzialni za zamówienia oceniający te systemy mają niemal zerowy wgląd w pochodzenie danych treningowych, a obecne normy ujawniania informacji w branży nie wymagają od dostawców ich dostarczania.
Implikacje dla zarządzania
Instytucja nabywająca sztuczną inteligencję języka migowego nie jest wyłącznie nabywcą narzędzia tłumaczeniowego. Tam, gdzie system działa na nagraniach wideo na żywo uczniów, pacjentów, pracowników lub członków społeczeństwa, instytucja jest również administratorem lub podmiotem przetwarzającym dane w rozumieniu większości obowiązujących ram ochrony prywatności i dziedziczy ekspozycję zarządczą wynikającą z praktyk dostawcy dotyczących danych, niezależnie od tego, czy ta ekspozycja została ujawniona w momencie zakupu. Instytucja, która nie zweryfikowała praktyk dostawcy w zakresie zbierania, przechowywania i wykorzystywania danych do trenowania modeli przed wdrożeniem, nie może zapewnić swoich interesariuszy, organów regulacyjnych ani Głuchych osób, których dane są rejestrowane, że spełniła własne obowiązki w zakresie ochrony danych. Jest to prawdziwe niezależnie od rzeczywistego postępowania dostawcy, ponieważ brak zweryfikowanego ujawnienia informacji sam w sobie stanowi błąd zarządzania, niezależnie od tego, czy dany dostawca okaże się odpowiedzialnie obchodzić się z danymi.
Stanowisko polityczne NCG
Stanowisko NCG jest takie, że adekwatność zarządzania danymi i ujawniania informacji o prywatności powinna funkcjonować jako kryterium dopuszczające w procesie zamówień na sztuczną inteligencję języka migowego, oceniane przed wydajnością funkcjonalną, a nie po niej. Niemożność przedstawienia przez dostawcę jasnego, dostępnego w ASL, odpowiedniego dla danej jurysdykcji ujawnienia informacji o tym, jakie dane biometryczne są zbierane, jak długo są przechowywane, czy i w jaki sposób są wykorzystywane do trenowania modeli oraz jakie istnieją prawa do usunięcia danych, powinna być traktowana jako dyskwalifikująca dla wdrożenia instytucjonalnego, niezależnie od wydajności językowej czy technicznej w innych aspektach oceny. Stanowisko to zostało już zoperacjonalizowane w domenach Zarządzania Danymi i Prywatności oraz Przejrzystości i Ujawniania Informacji frameworku SLAT, a niniejsze wydanie argumentuje, że te domeny zasługują na podwyższoną wagę w stosunku do obecnej kalibracji frameworku, biorąc pod uwagę ekspozycję ustawową, na jaką narażone są instytucje, oraz barierę w zrozumieniu, jaką niedostępny język zgody stwarza dla dotkniętej populacji.
Kwestie wdrożeniowe
Urzędnicy odpowiedzialni za zamówienia oceniający sztuczną inteligencję języka migowego powinni wymagać, jako warunku odpowiedzi dostawcy, pisemnego ujawnienia zasad zarządzania danymi obejmującego cztery powyższe elementy, wymagać, aby to ujawnienie było dostępne w formacie wideo w ASL oprócz pisemnego języka angielskiego, oraz traktować odmowę lub niemożność przedstawienia tego ujawnienia przez dostawcę jako negatywne ustalenie niezależne od wydajności funkcjonalnej systemu. Instytucje z istniejącymi wdrożeniami powinny przeprowadzić przegląd retrospektywny, zamiast czekać na odnowienie umowy, biorąc pod uwagę, że ekspozycja zarządcza narasta od daty wdrożenia, a nie od daty wykrycia. Tam, gdzie pochodzenie danych treningowych dostawcy nie może zostać zweryfikowane, instytucje powinny żądać gwarancji umownych dotyczących legalnego pozyskiwania danych, zamiast traktować brak odpowiedzi jako neutralną niewiadomą.
Bibliografia
- Biometric Information Privacy Act, 740 ILCS 14 (Illinois).
- California Consumer Privacy Act z 2018 r., ze zmianami wprowadzonymi przez California Privacy Rights Act, Cal. Civ. Code § 1798.100 i nast.
- Rozporządzenie (UE) 2016/679 (Ogólne rozporządzenie o ochronie danych), art. 9.
- Federal Trade Commission Act, 15 U.S.C. § 45 (nieuczciwe lub wprowadzające w błąd praktyki).
- Novara Consulting Group, Struktura Sign Language Access Trust (SLAT), 2026.