Analizy Novara Consulting Group
Heather M. Grizzle
Microsoft AI opublikował swój Kodeks Postępowania dla modeli MAI 14 września 2026 roku i rozpoczął sześciotygodniowe konsultacje publiczne dotyczące tego tekstu. Dokument określa zamierzone zachowania, wartości i mechanizmy zabezpieczające dla rodziny modeli produkowanych przez Microsoft AI, zorganizowane wokół filozofii projektowej, którą firma nazywa Humanist AI. Dwa fakty dotyczące jego statusu są ważniejsze niż cokolwiek w jego treści. Po pierwsze, Microsoft stwierdza, że dokument nie jest obecnie wykorzystywany do trenowania jego modeli, a poprawiona wersja, uwzględniająca wyniki konsultacji, ma kierować rozwojem od 2027 roku. Po drugie, firma opisuje dokument jako gwiazdę przewodnią, a nie opis obecnego zachowania modeli, i przyznaje, że istnieje rozbieżność między tym, co dokument określa, a tym, co jej modele robią obecnie. Każdy, kto czyta ten tekst jako artefakt zgodności, gwarancję lub podstawę instytucjonalnego zapewnienia, czyta go jako coś, czym on nie twierdzi, że jest.
To rozróżnienie nie jest kwestią techniczną. Urzędnicy ds. zamówień rutynowo otrzymują dokumenty dostawców dotyczące zarządzania jako dowód, że system jest bezpieczny do wdrożenia, a dokumenty te są rutynowo pisane w rejestrze, który zachęca do takiej błędnej interpretacji. Microsoft był w tym przypadku niezwykle szczery, i tę szczerość warto nazwać, zanim zacznie się krytyka. Poniższa analiza traktuje dokument jako to, czym sam się deklaruje: roboczą filozofię zarządzania poddaną konsultacjom, oferowaną dokładnie pod taki rodzaj badania, jaki stosuje ten artykuł.
Co w tej strukturze jest trafne
Struktura władzy jest najmocniejszą częścią dokumentu. Microsoft definiuje łańcuch podporządkowania, w którym Kodeks Postępowania znajduje się ponad politykami operatorów, te zaś ponad preferencjami użytkowników, oraz wyznacza kategorię absolutnych ograniczeń, których nie mogą zmienić ani operatorzy, ani użytkownicy. Ta warstwowość jest spójna, a towarzyszące jej wymagania dotyczące kontroli człowieka – obejmujące przerywanie działania, wyłączanie, ograniczenia zakresu i integralność śladów działań – są na tyle konkretne, że można je rozpoznać jako wymagania inżynierskie, a nie jako deklaracje intencji. Zakaz ukrywania przez modele własnego rozumowania lub komunikowania się w formach niemożliwych do zweryfikowania przez ludzi stanowi rzeczywiste zobowiązanie w zakresie zarządzania, ponieważ zachowuje warunki, w jakich jakikolwiek dalszy nadzór jest w ogóle możliwy.
Drugą mocną stroną jest traktowanie niepowodzenia w zakresie bezpieczeństwa jako zjawiska dwukierunkowego. Dokument nazywa zarówno niedostateczną ostrożność, w której model umożliwia wyrządzenie szkody, jak i nadmierną ostrożność, w której odmawia on realizacji uzasadnionych próśb lub żąda zbędnych potwierdzeń, i stwierdza, że ten drugi rodzaj niepowodzenia będzie prawdopodobnie występował częściej, mimo że pierwszy jest poważniejszy. Większość ram bezpieczeństwa stosowanych przez dostawców optymalizuje się pod kątem odmowy i traktuje wynikającą z tego bezużyteczność jako koszt, który należy po cichu zaakceptować. Nazwanie nadmiernej ostrożności błędem wymagającym korekty odzwierciedla doświadczenie operacyjne, a nie postawę obronną nastawioną na reputację, i jest to ujęcie, które powinny zapożyczyć standardy specyficzne dla poszczególnych dziedzin.
Wreszcie załącznik dotyczący ewaluacji stanowi rzeczywistą próbę uczynienia twierdzeń dotyczących zachowania możliwymi do przetestowania. Microsoft identyfikuje piętnaście zachowań, rozkłada je na podzachowania jako jednostkę diagnostyczną i analizuje pary odpowiedzi zgodnych i niezgodnych z wytycznymi w scenariuszach obejmujących spójność tożsamości, nadzór człowieka, ułatwianie podejmowania decyzji, unikanie założeń, przestrzeganie granic, niestosowanie oszustwa, fałszywe uspokajanie oraz neutralność wyborczą. Metoda dekompozycji jest solidna, a przykładowe pary są naprawdę pouczające co do tego, gdzie przebiega granica. Ograniczenia tego załącznika, omówione poniżej, wynikają raczej z niedojrzałości niż z wadliwego podejścia.
Gdzie zawodzi precyzja operacyjna
Główną słabością dokumentu jest to, że staje się on nieprecyzyjny dokładnie tam, gdzie instrument zamówieniowy wymaga konkretności. Szkoda jest tego najwyraźniejszym przykładem. Tekst przyznaje, że termin ten jest szeroki i zależny od kontekstu, i instruuje modele, by przed udzieleniem odpowiedzi rozważyły dotkliwość, odwracalność, bezpośredniość wkładu oraz prawdopodobieństwo wprowadzenia w błąd. Są to właściwe zmienne. Czego dokument nigdy nie dostarcza, to jakiejkolwiek metody przypisywania im wartości, jakiegokolwiek progu, przy którym dana kombinacja zmienia wymaganą reakcję, ani jakiegokolwiek artefaktu, za pomocą którego instytucja mogłaby zweryfikować, że ważenie odbyło się tak, jak opisano. Urzędnik ds. zamówień nie może napisać klauzuli umownej dotyczącej proporcjonalności, dla której nie opublikowano żadnej skali, nie może kontrolować przestrzegania jej po wdrożeniu i nie może odróżnić systemu, który starannie rozważa dotkliwość, od takiego, który jedynie generuje tekst twierdzący, że to zrobił.
Konfigurowalność przez operatora pogłębia ten problem. Microsoft stwierdza, że absolutne ograniczenia nie mogą zostać zniesione przez konfigurację operatora ani instrukcję użytkownika, co jest właściwym zobowiązaniem, ale dokument umieszcza również zachowanie operatora w ramach obowiązującego prawa, szerszych ram zarządzania, warunków umownych, polityk specyficznych dla usługi oraz wszelkich innych umów, jakie operatorzy zawierają z Microsoft. Te umowy są prywatne i podlegają negocjacjom. Dokument przewiduje ponadto zestaw wyspecjalizowanych dziedzin, w tym cyberbezpieczeństwo defensywne, bezpieczeństwo publiczne, bezpieczeństwo narodowe oraz badania naukowe o podwójnym zastosowaniu, w których możliwości wykraczające poza zwykłą konfigurowalność mogą zostać autoryzowane poprzez odrębny wewnętrzny przegląd. Ten wyjątek może być konieczny, a Microsoft jest w tej kwestii bardziej przejrzysty niż większość dostawców, jednak jego praktycznym skutkiem jest to, że opublikowany zbiór ograniczeń nie jest zbiorem ograniczeń obowiązującym dla każdego wdrożenia. Instytucja nabywająca skonfigurowane wdrożenie nie może na podstawie samego tego dokumentu stwierdzić, którą wersję behawioralnego zakresu modelu kupuje, a dokument nie oferuje żadnego mechanizmu ujawniania, który pozwoliłby jej o to zapytać.
Prace nad ewaluacją niosą ze sobą trzecie, bardziej bezpośrednie ograniczenie. Microsoft stwierdza, że jego modele nie są jeszcze trenowane na Kodeksie Postępowania, że program ewaluacji jest w trakcie opracowywania, a scenariusze ilustracyjne są syntetyczne, konwersacyjne, a nie agentywne ani multimodalne, i zostały wygenerowane przy użyciu jednego z jego własnych modeli, przy czym przykłady niezgodne z wytycznymi powstały poprzez instruowanie tego modelu, aby zawiódł w określony sposób. Jest to rozsądny sposób na zainicjowanie zbioru ewaluacyjnego, ale nierozsądna podstawa dla instytucjonalnego zapewnienia, ponieważ własne wygenerowane przez model przykłady dobrego i złego zachowania kodują te same założenia, na których model został wytrenowany. Nic w tym załączniku nie stanowi dowodu na to, że wdrożony system zachowuje się zgodnie ze specyfikacją, a Microsoft tego nie twierdzi. Niezależne testy adwersarialne, ekspercka weryfikacja przez specjalistów danej dziedziny oraz pomiary wzdłużne na podstawie rzeczywistych interakcji są wymieniane jako przyszłe zadania. Dopóki te prace nie zostaną wykonane i opublikowane, odpowiedzialne stanowisko w zakresie zamówień publicznych powinno zakładać, że twierdzenia dotyczące zachowania zawarte w tym dokumencie są niezwalidowane.
Luka dziedzinowa dotycząca systemów języka migowego
Dla instytucji wdrażających sztuczną inteligencję języka migowego poważniejszym problemem jest to, że dokument jest z założenia neutralny dziedzinowo, a zagrożenia specyficzne dla technologii języka migowego nie pojawiają się w nim nigdzie. Absolutne ograniczenia dotyczą broni, cyberoperacji, utraty kontroli, manipulacji na dużą skalę, reagowania kryzysowego, podszywania się, bezpieczeństwa dzieci, dyskryminacji, treści jednoznacznie seksualnych oraz przemocy. Nic na tej liście, ani nic w następujących po niej wytycznych operacyjnych, nie sięga do trybów awarii, które faktycznie decydują o tym, czy system języka migowego jest bezpieczny, by postawić go przed osobami Głuchymi i głuchoniewidomymi.
Pierwszym z nich jest poprawność językowa. System generujący język migowy może produkować wynik, który z wyglądu jest płynny, a w istocie nieważny – naruszający strukturę gramatyczną języka docelowego, niewłaściwie wykorzystujący markery niemanualne niosące ciężar składniowy, zacierający rozróżnienia rejestrowe lub przekształcający regionalne i wspólnotowe zróżnicowanie w syntetyczny standard, którego żadna społeczność faktycznie nie używa. Postanowienia Kodeksu Postępowania dotyczące dokładności odnoszą się do poprawności faktograficznej, źródłowości i skalibrowanej pewności – żadne z nich nie wykrywa gramatycznie wadliwej wypowiedzi w języku migowym. System może spełniać każde wymaganie dotyczące uczciwości zawarte w Części 3, jednocześnie produkując język, który biegły użytkownik języka migowego natychmiast rozpozna jako błędny, a struktura ta nie zawiera żadnego instrumentu, który ujawniłby tę usterkę.
Szkody wynikające z tej usterki są równie nieobecne. Wdrożenie w placówkach edukacyjnych naraża dzieci przyswajające język na wadliwy materiał językowy, z konsekwencjami dla rozwoju biegłości, których nie obejmuje żadna ogólna kategoria bezpieczeństwa. Wdrożenie w zawodowych i obywatelskich kontekstach tłumaczeniowych może zniekształcić wypowiedź osoby Głuchej wobec słyszącej publiczności, przy czym konsekwencje reputacyjne i prawne ponosi w całości osoba, której język został zmieniony. Wdrożenie w kontekstach dostępności publicznej może stworzyć pozory dostępu bez jego rzeczywistego zapewnienia, co stanowi szkodę w zakresie zgodności w takim samym stopniu, co szkodę językową. Są to zwyczajne, przewidywalne skutki tej technologii, a dokument zarządzania, który ich nie nazywa, nie może być dokumentem zarządzania dla niej.
Dwie dalsze luki mają charakter strukturalny, a nie językowy. Dokument organizuje strukturę władzy wokół Microsoft, operatorów i użytkowników, nie przewidując żadnej kategorii dla społeczności językowej, której język system odtwarza. W przypadku systemów języka migowego autorytet społeczności nie jest grzecznościowym elementem etycznym nałożonym na walidację techniczną; jest on podstawą samej walidacji, ponieważ biegli użytkownicy języka migowego są jedynym źródłem prawdy odniesienia co do tego, czy wynik jest akceptowalny. Struktura uznająca jedynie instytucję zamawiającą i użytkownika końcowego nie ma miejsca, by umieścić ten autorytet, ani mechanizmu, by go wymagać. Podobnie dokument traktuje dostępność jako temat, z którym model powinien sobie dobrze radzić, a nie jako właściwość, którą musi posiadać sam system. Czy interfejs, mechanizmy nadzoru, ujawnianie statusu sztucznej inteligencji oraz ścieżki eskalacji są same w sobie użyteczne dla osób Głuchych i głuchoniewidomych – to pytanie, którego tekst nigdy nie zadaje, a system języka migowego, który go nie spełnia, zawiódł w samym sednie tego przedsięwzięcia.
Kwestie strukturalne pozostawione bez odpowiedzi
Poza luką dziedzinową, trzy kwestie strukturalne będą miały znaczenie dla każdego, kto polega na tej strukturze. Pierwsza dotyczy pluralizmu. Microsoft zobowiązuje się do wspierania szerokiego zakresu światopoglądów i stwierdza, że pluralizm nie oznacza neutralności wobec szkody, co jest właściwym zastrzeżeniem. Struktura ta opiera się jednak na konkretnym i możliwym do zidentyfikowania stanowisku wartości, skoncentrowanym na autonomii jednostki, świadomej zgodzie, osobistej sprawczości oraz koncepcji dobrostanu zakorzenionej w liberalnych tradycjach praw, i przedstawia to stanowisko jako inkluzywną podstawę, w ramach której funkcjonują wartości pluralne. Nie ma nic złego w budowaniu struktury zarządzania na deklarowanych wartościach. Trudność polega na tym, że deklarowanie pluralizmu przy jednoczesnym operacjonalizowaniu jednej tradycji zaciemnia ten wybór przed instytucjami, które go dziedziczą, a niektóre z tych instytucji służą społecznościom, których normy zarządzania, szczególnie w odniesieniu do zbiorowego autorytetu nad wspólnym dziedzictwem kulturowym i językowym, nie dają się sprowadzić wprost do indywidualnych preferencji użytkownika.
Druga kwestia dotyczy odpowiedzialności. Mówi się, że operatorzy biorą na siebie odpowiedzialność za swoje konfiguracje i zastosowania, ale dokument nie określa żadnego obowiązku ujawniania, żadnego prawa do kontroli ani żadnego mechanizmu rozstrzygania sporów między operatorem a osobami, na które wpływa jego wdrożenie. Odpowiedzialność deklarowana bez proceduralnej ścieżki do jej egzekwowania jest jedynie wyrazem intencji. Instytucje polegające na tym dokumencie powinny założyć, że wszelka potrzebna im odpowiedzialność będzie musiała zostać skonstruowana we własnych umowach.
Trzecia kwestia dotyczy rozwiązywania konfliktów. Struktura przyjmuje, że jej cele będą czasem ze sobą konkurować, i poleca modelom konsultowanie wytycznych operacyjnych, informowanie użytkownika o ograniczeniach, proponowanie alternatyw oraz – gdy nic innego nie rozwiąże napięcia – działanie na podstawie całościowej interpretacji dokumentu jako całości. Jako filozofia projektowa dla modelu działającego w warunkach niepewności jest to uzasadnione i prawdopodobnie nieuniknione. Jako specyfikacja oznacza to, że rozstrzyganie rzeczywistych konfliktów wartości zostaje przekazane osądowi modelu i nie jest ani przewidywalne z góry, ani możliwe do zweryfikowania po fakcie. W przypadku interakcji o niskiej stawce jest to akceptowalne. W przypadku systemu pośredniczącego w dostępie osoby Głuchej do opieki medycznej, zatrudnienia lub postępowania prawnego – nie jest.
Co to oznacza dla zamówień publicznych
Instytucja nabywająca sztuczną inteligencję języka migowego może wykorzystać ten dokument jako architekturę odniesienia i nie powinna wykorzystywać go jako specyfikacji. Łańcuch podporządkowania, dwukierunkowe traktowanie niepowodzenia w zakresie bezpieczeństwa oraz dekompozycja zachowań na możliwe do przetestowania podzachowania – wszystko to warto przyjąć. Trzeba dodać wszystko to, czego ogólna struktura nie jest w stanie dostarczyć.
To uzupełnienie zaczyna się od walidacji językowej. Język zamówienia powinien określać język docelowy i jego odmiany, definiować akceptowalny wynik na poziomie struktury gramatycznej i rejestru, wymagać oceny przez biegłych Głuchych użytkowników języka migowego, a nie przez zastępcze wskaźniki czy słyszących recenzentów, oraz ustalać częstotliwość i metodę pomiaru jakości językowej po wdrożeniu, a nie wyłącznie przed nim. Autorytet społeczności powinien zostać zapisany w instrumencie jako stała rola o określonym zakresie, a nie wspomniany mimochodem jako zaangażowanie interesariuszy, i powinien wiązać się z możliwością odrzucenia wyniku i wstrzymania wdrożenia, a nie jedynie komentowania go. Szkoda powinna zostać zoperacjonalizowana w kategoriach dziedzinowych, przekształcając zmienne proporcjonalności Microsoftu w nazwane kategorie błędów z progami, które audytor może zastosować. Dowody z ewaluacji powinny być wymagane przed wdrożeniem i powinny dotyczyć skonfigurowanego systemu w zamierzonym przypadku użycia, a nie ogólnych twierdzeń dostawcy dotyczących zachowania. Rozstrzyganie sporów powinno zostać określone umownie, w tym to, co się dzieje, gdy konfiguracja operatora koliduje z oceną społeczności dotyczącą akceptowalności językowej. Dostępność samego systemu, w tym jego mechanizmów nadzoru i eskalacji, powinna być warunkiem typu zaliczone/niezaliczone, a nie aspiracją projektową.
Podsumowanie
Microsoft przygotował poważne i niezwykle przejrzyste oświadczenie dotyczące filozofii zarządzania i zaprosił do jego krytyki w ramach określonego okresu konsultacji, zamiast przedstawiać je jako sprawę zamkniętą. Udaje mu się to jako deklaracja zasad i struktury władzy, jakiej te zasady wymagają. Nie dostarcza jeszcze precyzji operacyjnej, zwalidowanych dowodów ani dziedzinowej taksonomii szkód, od których zależą instytucjonalne zamówienia publiczne, i nie twierdzi, że to robi.
Pozostająca do wykonania praca to praca, która zawsze pozostawała do wykonania: przełożenie zasad zarządzania na instrumenty, które urzędnicy ds. zamówień mogą zapisać w umowach, audytorzy mogą zastosować po wdrożeniu, a dotknięte społeczności mogą przywołać, gdy system je zawiedzie. W przypadku sztucznej inteligencji języka migowego tego przełożenia nie można odziedziczyć z ogólnej struktury. Musi je zbudować ci, którzy wiedzą, jak wygląda niepowodzenie w danym języku.