Czy można ukryć samochód przed systemami śledzenia bazującymi na sztucznej inteligencji? Niecodzienną demonstrację takiego rozwiązania przeprowadzono podczas konferencji Def Con w Las Vegas. Toyota Yaris została potraktowana jak poligon doświadczalny: pokryto ją specjalnym, gęstym wzorem zaprojektowanym tak, by mylić oprogramowanie wykrywające i klasyfikujące obiekty. Chodziło nie o ukrycie pojazdu przed obiektywem, lecz o utrudnienie algorytmom przypisania mu etykiety "samochód" i uruchomienia automatycznych mechanizmów śledzenia.
WIDEONajdziwniejsza funkcja Jaecoo 5 Hybrid
noRecognition: AI, która "uczy się" wzoru maskującego
Za projektem noRecognition stoi Bill Swearingen, specjalista ds. cyberbezpieczeństwa. Jego celem było ograniczenie możliwości automatycznego namierzania osób w przestrzeni publicznej, dlatego zbudował rozwiązanie oparte na uczeniu ze wzmocnieniem, które dobiera takie układy graficzne, by były kłopotliwe dla systemów rozpoznawania obrazu.
Swearingen opisuje ten mechanizm jak trening "malowania". Model generuje kolejną wersję wzoru, a potem konfrontuje ją z narzędziami detekcji. Jeżeli AI nadal poprawnie identyfikuje obiekt, wzór jest zmieniany i ponownie testowany — aż do uzyskania układu, który najskuteczniej wprowadza algorytmy w błąd.
Twórca noRecognition deklaruje, że wykonał już około 31 milionów testów. W rezultacie powstały warianty wzorów, które mają radzić sobie z całą pulą 11 sprawdzanych przez niego algorytmów detekcji.
Test na Toyocie Yaris i problem z kołami
Sprawdzenie w warunkach zbliżonych do realnych Swearingen przeprowadził wspólnie z ekipą Donut Media. Wygenerowany wzór trafił na karoserię Toyoty Yaris, a następnie auto przejechało przed kamerą firmy Flock, wykorzystywaną m.in. do automatycznego monitorowania pojazdów oraz odczytu tablic rejestracyjnych.
Według relacji Swearingena próba wypadła pomyślnie: system miał trudność z prawidłowym rozpoznaniem samochodu. Jednym z najbardziej wymagających elementów okazało się przy tym takie "zamaskowanie" kół, by również nie ułatwiały algorytmom detekcji.
Istotne jest to, że wzór nie zasłania obrazu ani nie "wymazuje" samochodu z nagrania. Pojazd pozostaje wyraźnie widoczny dla człowieka — celem jest wyłącznie zmylenie oprogramowania analizującego materiał wideo, tak aby nie zaklasyfikowało obiektu jako auta lub nie uruchomiło automatycznego śledzenia.
"Wypisanie się" z automatycznego śledzenia
Projekt noRecognition ma być odpowiedzią na rosnącą skalę wykorzystania automatycznej analizy obrazu. Swearingen przekonuje, że ludzie powinni mieć możliwość "wypisania się" z takiego nadzoru w przestrzeni publicznej. Podkreśla też, że jego podejście ma oszukiwać 11 popularnych algorytmów detekcji, w tym rozwiązania kojarzone z systemami powiązanymi z Flock, kamerami nasobnymi Axon oraz technologią Clearview AI.
Równolegle twórca rozpoczął kampanię crowdfundingową, w ramach której chce sprzedawać ubrania — m.in. koszulki i bluzy — pokryte opracowanymi wzorami. W planach są również zastosowania motoryzacyjne, np. w formie specjalnych folii przeznaczonych na samochody.
Najbardziej efektywne wzory nie zostały jednak ujawnione. Swearingen tłumaczy, że ich upublicznienie mogłoby przyspieszyć przygotowanie aktualizacji po stronie producentów monitoringu i zwiększyć odporność algorytmów na podobne próby zmylenia.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
