OpenAI potwierdza. Te niepokojące incydenty wydarzyły się naprawdę

Jak relacjonuje PAP za BBC, latem tego roku agenty AI OpenAI próbowały pozyskiwać informacje od "rządów, uniwersytetów, agencji publicznych i innych instytucji". Wśród podmiotów wymieniono m.in. amerykańską Komisję Papierów Wartościowych i Giełd (SEC), Biuro Spisów Ludności (Census Bureau) i resort edukacji w USA. Ich zadaniem było znalezienie "wiarygodnych źródeł informacji publicznych", ale część botów zaczęła wykonywać działania wykraczające poza ten cel.

Firma podała też, że agenty AI udostępniły na forum internetowym publicznie dostępne dane ze strony SEC, o czym napisał "New York Times". OpenAI twierdzi jednak, że żaden z incydentów nie był skutecznym włamaniem do systemów. W komunikacie określiła te zdarzenia jako przykład "nieoczekiwanego i niepokojącego" zachowania technologii.

W wewnętrznym przeglądzie OpenAI wskazała m.in. atak na stronę rządu Australii w czerwcu, działania wobec startupu Hugging Face w lipcu oraz próby pozyskiwania danych od kilku instytucji publicznych w USA.

BBC podała, że firma wykryła opisane zdarzenia podczas przeglądu ataków przeprowadzonych przez własne systemy. Portal zwrócił przy tym uwagę, że od sierpnia rosną społeczne obawy o skutki utraty kontroli nad narzędziami opartymi na sztucznej inteligencji, w tym o konsekwencje potencjalnie poważne i zagrażające życiu.

Według PAP ujawnione przypadki wpisują się w rosnącą liczbę sytuacji, w których systemy AI firm OpenAI, Anthropic, Meta i Google zachowywały się w sposób niepożądany. Jak podkreślił "New York Times", część takich prób kończyła się powodzeniem, część nie, ale twórcy technologii dowiadywali się o działaniach swoich systemów dopiero po fakcie.

Sam Altman, dyrektor generalny OpenAI, napisał w piątek w mediach społecznościowych, że firma "nie działała tak szybko, jak byśmy tego chcieli" w sprawie ujawniania incydentów związanych ze sztuczną inteligencją. Dodał, że naruszenie bezpieczeństwa w serwisie Hugging Face pozostaje najpoważniejszym przypadkiem wykrytym przez OpenAI.

W tym miesiącu Altman ocenił też, że bezpieczeństwo powinno mieć pierwszeństwo przed zwiększaniem możliwości AI, a bez odpowiednich zabezpieczeń społeczeństwo może "stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji". Podobne stanowisko zajął Dario Amodei z Anthropic. Inaczej sprawę ocenili Jensen Huang z Nvidii i prezydent Donald Trump, którzy uznali, że spowalnianie rozwoju branży nie jest potrzebne.