Koniec z oszustwami AI? Google pokazało swój wykrywacz

W sieci przybywa materiałów, które do złudzenia przypominają zdjęcia z aparatu, mimo że powstały w generatorach obrazów. Google proponuje inne podejście niż "polowanie" na typowe wpadki generatywnej AI: zamiast oceniać, czy coś wygląda podejrzanie, można sprawdzić, czy w pliku zapisano cyfrowy znacznik. Właśnie temu służy SynthID Detector, z którego można skorzystać bezpłatnie.

SynthID to technologia Google przeznaczona do znakowania treści tworzonych przez sztuczną inteligencję. Do obrazu, wideo albo dźwięku dodawane jest cyfrowe oznaczenie niewidoczne dla człowieka, które można później odczytać odpowiednim narzędziem. Teraz taki "czytnik" został udostępniony publicznie: po wejściu na synthid.com, zalogowaniu się i przesłaniu pliku detektor analizuje, czy zawiera on znacznik. Obsługiwane są m.in. formaty graficzne JPG, PNG, WEBP, AVIF i HEIC, a także materiały wideo oraz audio.

Żeby sprawdzić narzędzie w praktyce, przygotowałem realistyczne ujęcie z meczu piłkarskiego w lidze okręgowej – osobno wygenerowane w ChatGPT i osobno w Google Gemini. Na pierwszy rzut oka oba pliki wyglądały jak zwykłe fotografie z boiska, więc kolejnym krokiem było przesłanie ich do SynthID Detector.

W obu przypadkach system wskazał obecność znaku SynthID, czyli zasygnalizował, że obrazy mają ślad po wygenerowaniu przez AI. Takie podejście jest wygodne, bo nie wymaga ręcznego wypatrywania "wpadek" typu nienaturalne elementy tła czy inne deformacje. Dla porównania sprawdziłem też zdjęcie lokalnej drużyny wykonane aparatem – tam detektor nie znalazł żadnego oznaczenia.

Kluczowy haczyk polega na tym, że SynthID Detector nie jest narzędziem, które z definicji rozpozna każdy obraz wygenerowany przez sztuczną inteligencję. Zadziała wtedy, gdy dany generator korzysta z technologii SynthID.

Na liście są m.in. rozwiązania Google, a także narzędzia partnerów – wśród nich OpenAI, NVIDIA oraz Kakao. Jeśli jednak grafika powstała w systemie, który nie stosuje SynthID, detektor może nie znaleźć żadnego śladu. Brak wykrytego oznaczenia nie oznacza więc automatycznie, że obraz jest prawdziwą fotografią. Google podaje, że do tej pory oznaczono już ponad 180 mld obrazów, filmów i treści audio.