Rada, jakiej udziela większość, jest błędna co do mechanizmu
Standardowa rada udzielana doktorantom w sprawie sztucznej inteligencji brzmi mniej więcej tak: traktuj ją jako narzędzie, a nie substytut, myśl samodzielnie i pamiętaj, że wykładowcy są spostrzegawczy i prędzej czy później zauważą pracę pozbawioną głębi. Pierwsze dwa twierdzenia są słuszne. Trzecie jest fałszywe, a jego fałszywość ma znaczenie, ponieważ opisuje proces ludzkiego osądu, który został w dużej mierze zastąpiony.
Większość instytucji nie wykrywa użycia sztucznej inteligencji dzięki wnikliwości doświadczonych czytelników. Wykrywa je – a przynajmniej tak sądzi – za pomocą automatycznych klasyfikatorów wbudowanych w platformy do składania prac, które przypisują dokumentowi wynik prawdopodobieństwa i przekazują go do procesu dotyczącego rzetelności akademickiej. Pytanie, przed jakim staje doktorantka, nie brzmi zatem, czy profesor zauważy powierzchowne myślenie. Brzmi ono: czy klasyfikator statystyczny oznaczy jej tekst, i co się z nią stanie, jeśli to zrobi.
Stanowisko Novara Consulting Group jest takie, że wykrywanie AI w szkolnictwie wyższym to zautomatyzowany system decyzyjny wydający decyzje niosące konsekwencje dla osób, że jest on wdrażany z mniejszą walidacją, niż instytucje wymagają niemal od każdego innego narzędzia wpływającego na status studenta, oraz że rozkład jego błędów uderza najmocniej w osoby wielojęzyczne i osoby z niepełnosprawnościami piszące. Problem zarządczy ma charakter instytucjonalny. Konsekwencje mają charakter indywidualny.
Co mierzy detektor
Detektor tekstu generowanego przez AI nie identyfikuje autorstwa. Szacuje on, jak statystycznie niezwykły jest dany tekst, przede wszystkim za pomocą perpleksji, która mierzy, jak przewidywalne jest każde słowo w odniesieniu do poprzedzającego tekstu, oraz tzw. burstiness, czyli zmienności struktury i długości zdań w dokumencie. Tekst wysoce przewidywalny i jednolity strukturalnie jest oceniany jako bardziej prawdopodobnie wygenerowany maszynowo.
To cały mechanizm, a jego jasne przedstawienie uwidacznia problem. Detektor nie mierzy tego, czy dana osoba coś napisała. Mierzy to, czy tekst jest niezwykły, i traktuje niezwykłość jako dowód człowieczeństwa. Pismo staranne, proste, spójne strukturalnie i leksykalnie powściągliwe jest oceniane jako maszynopodobne, ponieważ właśnie to stanowi dla modelu zastępczy wskaźnik maszynowości.
Powoduje to powstanie konkretnej i przewidywalnej populacji fałszywych oskarżeń, i nie jest to populacja przypadkowa.
Wskaźniki błędów i kto je ponosi
Badania opublikowane w Patterns w lipcu 2023 roku przez Lianga i współpracowników ze Stanford wykazały, że detektory oznaczały około sześćdziesiąt jeden procent esejów TOEFL napisanych przez osoby, dla których angielski nie jest językiem ojczystym, jako wygenerowane przez AI, przy niemal zerowych wskaźnikach fałszywych wyników pozytywnych dla porównywalnych tekstów pisanych przez rodzimych użytkowników angielskiego, we wszystkich siedmiu testowanych detektorach. Były to eseje napisane przez ludzi, którzy zdali standaryzowany egzamin potwierdzający znajomość języka angielskiego. Autorzy wskazali mechanizm wprost: detektory opierały się na perpleksji tekstu, a pisanie w drugim języku generuje niższą perpleksję.
Niezależne testy wielokrotnie nie potwierdzały deklaracji dokładności podawanych przez dostawców. Weber-Wulff i współpracownicy, publikując w International Journal for Educational Integrity w grudniu 2023 roku, ocenili szereg narzędzi wykrywających w różnych typach dokumentów i stwierdzili, że nie są one ani dokładne, ani wiarygodne. Dostawcy z kolei zasadniczo odmawiają publikowania wskaźnika fałszywych wyników pozytywnych dla swoich produktów, co oznacza, że instytucja wdrażająca takie narzędzie nie może podać wskaźnika błędu instrumentu, którego używa w postępowaniach dyscyplinarnych.
Instytucje zaczęły reagować na ten problem. Vanderbilt University wyłączył funkcję wykrywania AI w Turnitin w sierpniu 2023 roku, publikując wyliczenie, które uczyniło tę decyzję oczywistą: jednoprocentowy wskaźnik fałszywych wyników pozytywnych zastosowany do siedemdziesięciu pięciu tysięcy złożonych prac daje około siedemset pięćdziesiąt niesłusznych oskarżeń rocznie. Inne instytucje poszły w ich ślady, a kierunek opublikowanych od tego czasu wytycznych uczelnianych zmierza ku traktowaniu wyniku detektora jako impulsu do dalszego dochodzenia, a nie jako ustalenia.
W każdej instytucjonalnej ocenie powinien znaleźć się jeszcze jeden fakt rynkowy. Kilku dostawców sprzedających narzędzia do wykrywania sprzedaje również produkty typu „humanizer”, zaprojektowane do obchodzenia wykrywania, w tym ich własnego. W jakimkolwiek innym kontekście zapewniania jakości dostawca sprzedający zarówno test, jak i sposób jego zdania, zostałby zdyskwalifikowany z dostarczania jednego i drugiego.
W jakimkolwiek innym kontekście zapewniania jakości dostawca sprzedający zarówno test, jak i sposób jego zdania, zostałby zdyskwalifikowany z dostarczania jednego i drugiego.
Kogo to dotyka i dlaczego jest to niewłaściwa grupa
Udokumentowana dysproporcja dotyczy osób piszących po angielsku jako drugim języku, a wyjaśnienie ma charakter mechaniczny, a nie tajemniczy. Wykrywanie oparte na perpleksji karze prostsze słownictwo i bardziej regularną konstrukcję gramatyczną. Osoba piszącą w drugim języku wytwarza dokładnie taki profil, nie dlatego, że tekst jest wygenerowany maszynowo, lecz dlatego, że konstruowanie niezwykłych sformułowań w drugim języku jest trudniejsze niż konstruowanie poprawnych sformułowań.
Ten sam mechanizm dotyka populacji, która nie otrzymała niemal żadnej uwagi, a to właśnie dla niej istnieje ta firma.
Osoba Głucha, której pierwszym językiem jest amerykański język migowy, pisze po angielsku jako w drugim języku, a wynikająca z tego powściągliwość składniowa jest dokładnie tym, co detektor ocenia jako maszynopodobne. Studentka z dysleksją korzystająca z predykcji tekstu, wsparcia gramatycznego lub ustrukturyzowanego wsparcia w pisaniu – wszystko to są zwyczajne i często formalnie zatwierdzone udogodnienia – wytwarza tekst, który został ujednolicony przez narzędzie wspomagające. Student z niepełnosprawnością ruchową, piszący za pomocą technologii zamiany mowy na tekst, wytwarza tekst ukształtowany przez własny model językowy oprogramowania dyktującego. Student korzystający z pomocy tłumaczeniowej wytwarza tekst niosący statystyczny ślad systemu tłumaczeniowego.
W każdym z tych przypadków to udogodnienie powoduje oznaczenie. Student korzystający ze wsparcia zatwierdzonego przez jego instytucję jest bardziej narażony na oskarżenie niż student, który tego wsparcia nie potrzebował, a oskarżenie przychodzi z liczbą bez żadnego wyjaśnienia, co ta liczba mierzy. Student jest wówczas zobowiązany udowodnić, że napisał własną pracę, co stanowi żądanie udowodnienia czegoś negatywnego, skierowane do osoby najmniej do tego przygotowanej.
Instytucja, która zatwierdziła udogodnienie w postaci technologii wspomagającej, a jednocześnie stosuje detektor karzący jej produkty, wbudowała sprzeczność we własny proces dyscyplinarny. Jest mało prawdopodobne, by to zauważyła, ponieważ biuro ds. obsługi osób z niepełnosprawnościami i biuro ds. rzetelności akademickiej zazwyczaj nie weryfikują nawzajem swoich narzędzi. Instytucje szkolnictwa wyższego mają obowiązki wynikające z Ustawy o Amerykanach z Niepełnosprawnościami oraz Sekcji 504 Ustawy o Rehabilitacji, polegające na zapewnianiu dostosowań akademickich i unikaniu praktyk, które wykluczają studentów z niepełnosprawnościami. Praktyka wykrywania, która systematycznie oznacza produkty zatwierdzonych udogodnień, pozostaje w niewygodnej sprzeczności z obydwoma tymi obowiązkami.
Standard dowodowy jest niższy niż w przypadku czegokolwiek porównywalnego
Rozważmy, czego instytucja wymagałaby przed podjęciem działań na podstawie jakiegokolwiek innego zautomatyzowanego narzędzia wpływającego na status studenta.
Test przyjęciowy wymagałby opublikowanych dowodów trafności, ustalonej rzetelności, udokumentowanej wydajności w różnych grupach demograficznych oraz uzasadnionego progu punktowego. Narzędzie do nadzorowania egzaminów, uruchamiające zgłoszenie naruszenia rzetelności, wymagałoby co najmniej możliwości przejrzenia nagrania. Orzeczenie o niepełnosprawności wymagałoby dokumentacji i wskazanej osoby podejmującej decyzję. Instytucję podejmującą konsekwencjalną decyzję na podstawie niewyjaśnionego wyniku liczbowego, wytworzonego przez narzędzie, którego wskaźnika błędu dostawca nie ujawni, zwykle uznano by za działającą arbitralnie.
Wyniki detekcji AI traktowane są inaczej, a powodem wydaje się być raczej gatunek narzędzia niż zasada. Pojawiają się one wewnątrz narzędzia antyplagiatowego, któremu instytucje już ufają, wyglądają jak towarzyszący im wskaźnik podobieństwa i zostały przyjęte w drodze zamówienia, a nie poprzez zarządzanie akademickie. Wskaźnik podobieństwa przynajmniej wskazuje dokument źródłowy, który student może sprawdzić i zakwestionować. Wynik AI nie wskazuje niczego. Nie ma źródła, fragmentu, porównania ani żadnego mechanizmu, dzięki któremu student mógłby zbadać podstawę oskarżenia.
Lepsza praktyka instytucjonalna traktuje wynik detektora jako wstępną selekcję, a nie dowód: jako impuls do rozpoczęcia rozmowy, w której studentka wyjaśnia swoją argumentację, przedstawia proces pisania i omawia swoje źródła. Jest to właściwe podejście, warto jednak zauważyć, co ono zakłada. Jeśli wynik detektora jest jedynie powodem do dokładniejszego przyjrzenia się sprawie, a to przyjrzenie się faktycznie decyduje o wyniku, to detektor jest mechanizmem decydującym o tym, którzy studenci zostaną poddani dochodzeniu. Biorąc pod uwagę opisany powyżej rozkład błędów, jest to mechanizm decydujący o tym, że studenci wielojęzyczni i studenci z niepełnosprawnościami są poddawani dochodzeniu częściej.
Co doktorantka powinna faktycznie zrobić
Użyteczna rada nie polega na tym, by bardziej starać się brzmieć po ludzku, co jest zarówno poniżające, jak i nieosiągalne. Polega ona na prowadzeniu dokumentacji, z tego samego powodu, dla którego każda instytucja stająca wobec niewyjaśnionego zautomatyzowanego ustalenia powinna prowadzić dokumentację: oskarżenie jest niemożliwe do obalenia bez dowodów dotyczących procesu, a dowody te trzeba stworzyć, zanim będą potrzebne.
Pisz w środowisku, które zachowuje historię wersji, i nie wyłączaj tej funkcji. Dokument z dwumiesięczną historią zmian jest rozstrzygający w sposób, w jaki żaden argument dotyczący stylu pisania nigdy nie będzie. Prowadź notatki badawcze, opatrzone adnotacjami źródła i konspekty, i opatruj je datami. Gdy korzystasz z narzędzia wspomagającego lub wsparcia językowego, ujawnij to z wyprzedzeniem zgodnie z ogłoszoną polityką kursu, a nie dopiero po oznaczeniu, ponieważ wcześniejsze ujawnienie przekształca obronę w dokumentację. Gdy udogodnienie obejmuje wsparcie w pisaniu, upewnij się, że biuro ds. obsługi osób z niepełnosprawnościami je udokumentowało, i miej świadomość, że ta dokumentacja jest teraz również dokumentacją dotyczącą rzetelności. I bądź w stanie wyjaśnić argumentację na głos, nie dlatego, że to spostrzegawczość profesora stanowi zabezpieczenie, lecz dlatego, że to właśnie w ustrukturyzowanej rozmowie te sprawy są faktycznie rozstrzygane.
Żadna z tych rzeczy nie dotyczy oszustwa. Jest to po prostu to, co każda osoba powinna zrobić, gdy system, którego nie można zbadać, może wysunąć wobec niej twierdzenie, do którego będzie musiała się ustosunkować.
Co powinna ustalić instytucja
Cztery pytania, na które biuro ds. rzetelności akademickiej powinno umieć odpowiedzieć, zanim wynik detektora dotrze do studenta.
- Jaki jest wskaźnik fałszywych wyników pozytywnych tego narzędzia, w jakiej populacji został ustalony i przez kogo. Jeśli dostawca nie chce tego podać, to jest to ustalenie samo w sobie i powinno zostać odnotowane jako takie, a nie traktowane jako brak informacji.
- Jaka jest zdezagregowana skuteczność narzędzia w poszczególnych populacjach obsługiwanych przez instytucję, w tym wśród studentów wielojęzycznych, studentów zagranicznych i studentów korzystających z zatwierdzonej technologii wspomagającej. Instytucja obsługująca te populacje, a niezdolna odpowiedzieć na to pytanie, nie oceniła narzędzia w odniesieniu do własnego kontekstu.
- Jaka waga dowodowa jest przypisana wynikowi, podana na piśmie, i czy jakiekolwiek niekorzystne ustalenie opiera się na nim. Jeśli sam wynik może zainicjować postępowanie, instytucja przyjęła niewalidowane narzędzie jako wyzwalacz działań dyscyplinarnych.
- Kto weryfikuje interakcję między zatwierdzonymi udogodnieniami a wynikami wykrywania. Jeśli nikt tego nie robi, instytucja powinna założyć, że ta interakcja jest niekorzystna, ponieważ mechanizm to gwarantuje.
Podsumowanie
Rada, by doktoranci myśleli samodzielnie, bronili własnych idei i rozwijali wiedzę ekspercką zamiast szukać skrótów, jest słuszna i byłaby słuszna w każdej epoce. Nie odpowiada ona jednak na ryzyko, z jakim studenci faktycznie się mierzą, które nie polega na tym, że zostaną uznani za powierzchownych, lecz na tym, że zostaną oznaczeni przez klasyfikator mierzący statystyczną niezwykłość i poproszeni o udowodnienie czegoś negatywnego.
To ryzyko jest rozłożone nierównomiernie, a jego rozkład jest odwrotnością tego, jaki polityka rzetelności ma w zamierzeniu wytwarzać. Studenci najbardziej narażeni na niesłuszne oskarżenie to ci, którzy piszą w drugim języku, ci, którzy migają w pierwszym, oraz ci, którzy korzystają z udogodnień formalnie zatwierdzonych przez ich instytucje. Są poddawani dochodzeniu częściej nie dlatego, że są bardziej skłonni do oszukiwania, lecz dlatego, że wskaźnik zastępczy dla pisma maszynowego okazuje się wskaźnikiem zastępczym dla pisania w warunkach ograniczenia.
Instytucje nie wybrały tego skutku. Nabyły go w decyzji zakupowej podjętej bez dowodów walidacyjnych i będą go nadal wytwarzać, dopóki ktoś nie zada pytań, które powinny zostać zadane przed wdrożeniem.
Bibliografia
Liang, Weixin, Mert Yuksekgonul, Yining Mao, Eric Wu i James Zou. „GPT Detectors Are Biased Against Non-Native English Writers”. Patterns 4, nr 7 (lipiec 2023).
Weber-Wulff, Debora i in. „Testing of Detection Tools for AI-Generated Text”. International Journal for Educational Integrity 19 (grudzień 2023).
Vanderbilt University Center for Teaching, oświadczenie w sprawie wyłączenia funkcji wykrywania AI w Turnitin, sierpień 2023.
Americans with Disabilities Act z 1990 roku oraz Section 504 of the Rehabilitation Act z 1973 roku, w odniesieniu do instytucji szkolnictwa wyższego i dostosowań akademickich.