Google stworzył narzędzie do wykrywania treści AI. Ale jest haczyk
Narzędzie SynthID Detector nie analizuje struktury obrazu w poszukiwaniu anomalii typowych dla modeli generatywnych. Skupia się wyłącznie na poszukiwaniu niewidocznego znaku wodnego w standardzie SynthID.
Oznacza to, że algorytm reaguje tylko na pliki pochodzące z generatorów, które ten standard zaimplementowały. Twórcy wyliczają, że SynthID Detector jest w stanie rozpoznać treści wygenerowane przez narzędzia Google'a, OpenAI, Nvidii oraz Kakao. Wkrótce do listy mają zostać dopisane generatory Apple'a.
Wystarczy stworzyć grafikę w jakimkolwiek generatorze spoza tej krótkiej listy, by detektor Google'a okazał się całkowicie bezradny i nie wykrył ingerencji sztucznej inteligencji. Jaki więc sens takiego rozwiązania? To tak jakby wprowadzić na rynek alkomat, który reaguje wyłącznie na alkohole kilku wybranych marek.
Od 2024 roku pełni funkcję szefa działu Mobile w serwisie benchmark.pl. W latach 2012–2023 związany był z Komórkomanią, gdzie od 2015 roku sprawował rolę redaktora prowadzącego. Swoją wiedzę i pasję do technologii rozwijał również prowadząc oficjalne blogi dla takich globalnych marek jak Nokia, Microsoft i LG. Studiował na kierunku reklama i promocja na Wydziale Nauk Politycznych i Dziennikarstwa Uniwersytetu im. Adama Mickiewicza w Poznaniu. Poza technologią, jego zainteresowania obejmują kino, gry wideo, fizykę kwantową i astronomię.
