Tajny znak w tekście. Claude podpisuje treści wygenerowane przez AI 

Jak odróżnić tekst napisany przez człowieka od tego stworzonego przez sztuczną inteligencję? To pytanie staje się coraz trudniejsze, dlatego firmy rozwijające AI szukają sposobów na oznaczanie treści generowanych przez ich modele.

Anthropic, twórca Claude’a, zrobił właśnie kolejny krok w tym kierunku. Firma podpisała unijny Kodeks Praktyki dotyczący przejrzystości sztucznej inteligencji, zgodny z AI Act, i wprowadza technologię automatycznego znakowania generowanych treści.

Według opublikowanych informacji maszynowe znakowanie treści pojawiło się w nowych modelach Claude’a debiutujących od 2 sierpnia 2026 r.. System działa wszędzie tam, gdzie dostępny jest Claude, niezależnie od sposobu korzystania z modelu. Dotyczy to zarówno czatu Claude, jak i narzędzi dla programistów i firm, takich jak Claude Platform, Claude Code, Claude Cowork czy Claude Tag. Zabezpieczenie działa również w usługach chmurowych partnerów, m.in. AWS, Google Cloud i Microsoft Foundry.

Anthropic zapowiada także, że pracuje nad wprowadzeniem podobnego rozwiązania do starszych modeli.

Claude wykorzystuje dwie uzupełniające się metody znakowania treści. Pierwsza to niewidzialny znak wodny umieszczany bezpośrednio w wygenerowanym tekście. Dla czytelnika pozostaje on niewidoczny. Nie powinien też wpływać na znaczenie, jakość ani płynność tekstu.

Ukryty wzór ma pozostać w tekście nawet po jego skopiowaniu i wklejeniu w inne miejsce. Powinien również przetrwać niektóre modyfikacje treści. Dzięki temu specjalne narzędzia będą mogły sprawdzić, czy dany materiał został wygenerowany lub przetworzony przez Claude’a.

Druga metoda dotyczy plików. Jeśli Claude wygeneruje grafikę, np. w formacie SVG, PNG lub JPG, może dołączyć do niej cyfrowo podpisane informacje o pochodzeniu. Anthropic wykorzystuje w tym celu standard C2PA, który pozwala sprawdzić historię pochodzenia materiału i ustalić, czy był on później modyfikowany.

Jak wyjaśnia Alex Cui, CTO firmy GPTZero, współczesne znakowanie tekstu przez modele językowe może działać na zasadzie tzw. metody KGW. W uproszczeniu model podczas generowania kolejnych słów wykorzystuje tajny klucz do losowego podziału dostępnych tokenów na dwie grupy. Następnie delikatnie zwiększa prawdopodobieństwo wyboru tokenów z jednej z nich.

Dla czytelnika różnica jest praktycznie niezauważalna, ale odpowiedni detektor, znając klucz, może później przeanalizować tekst i sprawdzić, czy określona grupa słów pojawia się w nim podejrzanie często. Jeśli tak, może uznać, że tekst został wygenerowany przez model posiadający dany znak wodny.

Cui zaznacza jednocześnie, że nie jest to rozwiązanie nie do obejścia. Mocne przeredagowanie tekstu, zmiana składni czy zastępowanie fragmentów tekstem napisanym przez człowieka może osłabić lub całkowicie usunąć taki ślad. Problemem są również bardzo krótkie i przewidywalne teksty, w których model ma niewielką swobodę wyboru kolejnych słów. Znak wodny nie powinien być więc traktowany jako stuprocentowy dowód wykorzystania AI, lecz raczej jako statystyczny sygnał wskazujący na pochodzenie treści.

Anthropic podkreśla, że technologia ma swoje ograniczenia. Wykrycie znaku Claude’a nie oznacza automatycznie, że cała treść została napisana przez sztuczną inteligencję. Użytkownik może przecież napisać tekst samodzielnie, a następnie poprosić Claude’a jedynie o jego korektę, tłumaczenie czy streszczenie. W takim przypadku model również może pozostawić swój ślad.

Znakowanie tekstu może też zostać utracone przy bardzo mocnej redakcji, tłumaczeniu, skróceniu materiału do kilku słów czy innych znaczących zmianach. Podobnie jest z grafikami. Cyfrowe informacje o pochodzeniu pliku można utracić np. poprzez wykonanie zrzutu ekranu lub zapisanie materiału w innym formacie.

Nie jest to więc magiczny sposób na rozstrzygnięcie, czy dany tekst napisał człowiek, czy AI. To raczej dodatkowy mechanizm pozwalający sprawdzić pochodzenie materiału.