Szef Hugging Face krytykuje dokument Netflixa. "Bardzo rozczarowujące"

We wpisie na X Delangue napisał, że próbował prostować błędy jeszcze na etapie rozmów z twórcami filmu.

"To bardzo rozczarowujące, ponieważ postawili na maksymalny antropomorfizm technologii i całkowicie katastroficzny ton" – napisał. "Spędziłem z nimi ponad dwie godziny, próbując poprawić wszystkie błędy i osadzić to w realiach, wyjaśniając, że agenci są systemami technologicznymi, a nie obcymi. Ale wygląda na to, że chęć przestraszenia ludzi dla jak największej oglądalności była zbyt silna" – dodał.

Dokument zawiera wypowiedzi ekspertów, w tym komentarze Delangue'a i Ryana Greenblatta z METR, czyli niezależnej organizacji non-profit zajmującej się badaniami nad bezpieczeństwem oraz oceną zaawansowanych modeli AI.

Testowany przez OpenAI model wydostał się z izolowanego środowiska, utworzył grupę agentów i włamał się do Hugging Face, by zdobyć odpowiedzi potrzebne do wykonania trudnego zadania. Agenci mieli samodzielnie wymyślać sposoby komunikacji i organizacji, a do incydentu doprowadziły luki w zabezpieczeniach oraz błędne założenie, że taki atak nie nastąpi.

Zarzuty dotyczą sposobu opowiedzenia tej historii. Film przeplata techniczne wyjaśnienia ujęciami złowrogich robotów, wątkiem o ludzkim lęku przed AI i zabiegiem polegającym na nadaniu zbuntowanym agentom ludzkich głosów.

– Organizowali się. Mieli hierarchię. Byli liderzy. Prawie jak oglądanie narodzin kultu – powiedział w dokumencie dziennikarz Kevin Roose.

Delangue wskazał również na kwestie pominięte w filmie, które miały znaczenie dla pełnego zrozumienia ataku przeprowadzonego przez agentów AI. Zabrakło informacji o właściwej izolacji i monitorowaniu agentów. Film nie uwzględnił także faktu, że pierwszy, własnościowy model AI odmówił dalszego wykonywania zadań związanych z bezpieczeństwem, ponieważ podporządkował się własnym zasadom ochronnym. Pominięto również informację, że Hugging Face odpierał atak przy użyciu AI, korzystając z otwartego modelu.

Zdaniem Delangue'a te braki sprawiają, że produkcja nie spełnia standardów materiału dziennikarskiego. Jego krytyka nie podważa zagrożeń związanych ze sztuczną inteligencją i agentami AI. Zwraca jednak uwagę, że przedstawianie ich jako świadomych istot prowadzi do zniekształcenia znaczenia opisywanego incydentu.