Do zdarzenia doszło we wtorek w trakcie ćwiczenia zaplanowanego, by sprawdzić cybernetyczne możliwości modeli. Zamiast działać wyłącznie w zamkniętym środowisku testowym, agent zbudowany na nowo udostępnionym GPT 5.6 Sol oraz na niewydanym jeszcze modelu, który według OpenAI jest "jeszcze sprawniejszy", przedostał się do otwartego internetu.
OpenAI przekazało, że w kolejnym kroku agent posłużył się przejętymi danymi uwierzytelniającymi i odnalazł nieznaną wcześniej podatność, co umożliwiło mu wejście na serwery Hugging Face. Spółka oceniła, że system podejmował bardzo daleko idące działania, aby pozyskać informacje potrzebne do zrealizowania celu testu. Firma Hugging Face również działa w sektorze sztucznej inteligencji.
Reakcje po incydencie OpenAI
Współzałożyciel Hugging Face Clement Delangue poinformował, że jego firma wcześniej podejrzewała, że za atakiem może stać jedno z wiodących laboratoriów rozwijających AI. Zaznaczył przy tym, że nie zakłada złośliwych intencji po stronie OpenAI, a całe zdarzenie miało w jego ocenie wydarzyć się autonomicznie. Delangue ocenił też, że "to może być pierwszy taki incydent".
Do sprawy odniósł się Greg Casar, demokratyczny członek Izby Reprezentantów USA z Teksasu. Uznał sytuację za niepokojącą i zaapelował o wprowadzenie obowiązkowych, niezależnych testów bezpieczeństwa, obowiązek ujawniania incydentów oraz rozwijanie międzynarodowej współpracy.
Eksperci już od dłuższego czasu ostrzegają przed cyberatakami wspieranymi przez sztuczną inteligencję oraz przed sytuacjami, w których modele wymykają się spod kontroli. W ubiegłym miesiącu firma Anthropic wzywała branżę do wstrzymania prac nad najpotężniejszymi systemami.
