Nakleił na Toyotę Yaris "pelerynę niewidkę". AI nie wiedziała, co widzi

Czy można ukryć samochód przed systemami śledzenia bazującymi na sztucznej inteligencji? Niecodzienną demonstrację takiego rozwiązania przeprowadzono podczas konferencji Def Con w Las Vegas. Toyota Yaris została potraktowana jak poligon doświadczalny: pokryto ją specjalnym, gęstym wzorem zaprojektowanym tak, by mylić oprogramowanie wykrywające i klasyfikujące obiekty. Chodziło nie o ukrycie pojazdu przed obiektywem, lecz o utrudnienie algorytmom przypisania mu etykiety "samochód" i uruchomienia automatycznych mechanizmów śledzenia.

Za projektem noRecognition stoi Bill Swearingen, specjalista ds. cyberbezpieczeństwa. Jego celem było ograniczenie możliwości automatycznego namierzania osób w przestrzeni publicznej, dlatego zbudował rozwiązanie oparte na uczeniu ze wzmocnieniem, które dobiera takie układy graficzne, by były kłopotliwe dla systemów rozpoznawania obrazu.

Swearingen opisuje ten mechanizm jak trening "malowania". Model generuje kolejną wersję wzoru, a potem konfrontuje ją z narzędziami detekcji. Jeżeli AI nadal poprawnie identyfikuje obiekt, wzór jest zmieniany i ponownie testowany — aż do uzyskania układu, który najskuteczniej wprowadza algorytmy w błąd.

Twórca noRecognition deklaruje, że wykonał już około 31 milionów testów. W rezultacie powstały warianty wzorów, które mają radzić sobie z całą pulą 11 sprawdzanych przez niego algorytmów detekcji.

Sprawdzenie w warunkach zbliżonych do realnych Swearingen przeprowadził wspólnie z ekipą Donut Media. Wygenerowany wzór trafił na karoserię Toyoty Yaris, a następnie auto przejechało przed kamerą firmy Flock, wykorzystywaną m.in. do automatycznego monitorowania pojazdów oraz odczytu tablic rejestracyjnych.

Według relacji Swearingena próba wypadła pomyślnie: system miał trudność z prawidłowym rozpoznaniem samochodu. Jednym z najbardziej wymagających elementów okazało się przy tym takie "zamaskowanie" kół, by również nie ułatwiały algorytmom detekcji.

Istotne jest to, że wzór nie zasłania obrazu ani nie "wymazuje" samochodu z nagrania. Pojazd pozostaje wyraźnie widoczny dla człowieka — celem jest wyłącznie zmylenie oprogramowania analizującego materiał wideo, tak aby nie zaklasyfikowało obiektu jako auta lub nie uruchomiło automatycznego śledzenia.

Projekt noRecognition ma być odpowiedzią na rosnącą skalę wykorzystania automatycznej analizy obrazu. Swearingen przekonuje, że ludzie powinni mieć możliwość "wypisania się" z takiego nadzoru w przestrzeni publicznej. Podkreśla też, że jego podejście ma oszukiwać 11 popularnych algorytmów detekcji, w tym rozwiązania kojarzone z systemami powiązanymi z Flock, kamerami nasobnymi Axon oraz technologią Clearview AI.

Równolegle twórca rozpoczął kampanię crowdfundingową, w ramach której chce sprzedawać ubrania — m.in. koszulki i bluzy — pokryte opracowanymi wzorami. W planach są również zastosowania motoryzacyjne, np. w formie specjalnych folii przeznaczonych na samochody.

Najbardziej efektywne wzory nie zostały jednak ujawnione. Swearingen tłumaczy, że ich upublicznienie mogłoby przyspieszyć przygotowanie aktualizacji po stronie producentów monitoringu i zwiększyć odporność algorytmów na podobne próby zmylenia.