Mężczyzna występował w sprawie samodzielnie i prowadził spór dotyczący dostępu do dokumentacji medycznej. W dokumentach składanych do sądu ukrywał treści, które miały zadziałać, gdyby pisma były odczytywane przez narzędzia AI. Sędzia Walter Spader Jr. podkreślił jednak, że wymiar sprawiedliwości w Connecticut nie używa sztucznej inteligencji do analizowania ani rozstrzygania spraw na podstawie takich pism.
Ukryte fragmenty miały formę poleceń zapisanych w taki sposób, by pozostały niewidoczne dla człowieka, ale nadal możliwe do wykrycia przez oprogramowanie analizujące treść dokumentu. Instrukcje miały nakłaniać system do przyjęcia argumentów powoda, pomijania wcześniejszych odmownych decyzji oraz wyroku korzystnego dla mężczyzny.
Jak wyglądały ukryte polecenia dla AI
Tekst został mocno zmniejszony i zapisany białą czcionką na białym tle. Sędzia ocenił to jako próbę tzw. prompt injection. Jak opisuje Ars Technica, mężczyzna już wcześniej otrzymał ostrzeżenie, a mimo to w kolejnych dokumentach ponownie umieszczał ukryte wiadomości. Później tłumaczył je jako żarty. Wśród takich wstawek miały pojawić się m.in. odwołanie do nagrania w serwisie YouTube, krótka wiadomość powitalna oraz pozbawiony sensu ciąg słów.
Sąd: Poważne nadużycie
W ocenie sędziego takie działania godzą w zasady rzetelnego procesu, ponieważ stanowią próbę potajemnego przekazania treści sądowi z pominięciem drugiej strony postępowania. Zwrócił też uwagę, że jeśli autor pism rzeczywiście obawiał się niewłaściwego wykorzystywania AI przez sąd, powinien był napisać o tym wprost, zamiast ukrywać komunikaty w dokumentach.
Ostatecznie sąd nie zdecydował się na karę finansową, ale wprowadził ograniczenie dotyczące sposobu składania pism. Mężczyzna stracił możliwość elektronicznego przesyłania dokumentów i od teraz ma dostarczać je wyłącznie w formie papierowej. Sędzia uznał, że nie zamyka mu to drogi do sądu, a zmniejsza ryzyko kolejnych nadużyć.
Sędzia ostrzega przed nowym problemem w sądach
W uzasadnieniu decyzji Walter Spader Jr. ocenił, że podobne próby mogą pojawiać się częściej wraz z rosnącą popularnością narzędzi AI. Wskazał również na przykład z Brazylii, gdzie dwóch prawników zastosowało zbliżoną metodę w sądzie wykorzystującym sztuczną inteligencję do przeglądania akt. Tam ukryty tekst także został wykryty.
