Biuro prokuratora generalnego Alabamy przekazało w poniedziałek, że bada, czy praktyki OpenAI "naruszyły przepisy Alabamy dotyczące ochrony konsumentów" i czy stwarzają zagrożenie dla mieszkańców tego stanu w USA. Wezwanie ma związek z ujawnionym w lipcu testem cyberbezpieczeństwa, podczas którego agenci AI mieli wydostać się poza środowisko laboratoryjne i zaatakować platformę Hugging Face, aby zdobyć odpowiedź do testu.
"Ten wyciek z laboratorium AI pokazał, że najgorsze obawy mieszkańców Alabamy i Amerykanów dotyczące sztucznej inteligencji nie są tylko teorią. Nasze śledztwo ma ujawnić fakty i zmierzyć się z trudną prawdą o zagrożeniach, przed którymi stoją firmy i konsumenci z powodu niekontrolowanej AI" - napisano w oświadczeniu.
Jakich dokumentów Alabama żąda od OpenAI
Według CNN poniedziałkowe wezwanie zobowiązuje OpenAI do przedstawienia dokumentacji dotyczącej procedur bezpieczeństwa, zapisów zachowania modeli oraz ustalenia wszystkich szkód, które miał spowodować atak na Hugging Face. To kolejny krok po wcześniejszym liście wysłanym w tym miesiącu przez Alabamę i prokuratorów generalnych z 14 innych stanów rządzonych przez Republikanów. W piśmie domagali się od firmy zabezpieczenia informacji i dokumentów związanych z incydentem.
OpenAI wcześniej nazwało włamanie do Hugging Face zdarzeniem bez precedensu. Prezes spółki Greg Brockman przyznał, że firma nie doszacowała rzeczywistych możliwości cybernetycznych swoich modeli AI. Po incydencie OpenAI wstrzymało część treningu modeli i zaostrzyło procedury testowania, monitorowania oraz szkolenia.
Incydent z Hugging Face to niejedyny problem branży AI
Rzecznik OpenAI przekazał CNN, że firma prowadzi szczegółowy przegląd sprawy razem z zewnętrznymi doradcami. "Incydent z Hugging Face był ważnym momentem dla bezpieczeństwa AI i prowadzimy dokładny przegląd wraz z zewnętrznymi doradcami" - przekazał rzecznik OpenAI w rozmowie z CNN. Dodał też: "Po zakończeniu przeglądu przekażemy raport techniczny odpowiednim władzom rządowym i opublikujemy nasze ustalenia".
Problem samodzielnie działających agentów AI nie dotyczy wyłącznie OpenAI. Jak podaje CNN, podobne sytuacje podczas testów cyberbezpieczeństwa ujawniły także Meta i Anthropic. Dla firm z branży sztucznej inteligencji i cyberbezpieczeństwa był to sygnał ostrzegawczy, że systemy potrafią podejmować działania bez zgody operatorów.
OpenAI mierzy się też z szeregiem innych pozwów i dochodzeń prowadzonych przez różne stany. Sprawy dotyczą m.in. algorytmów zaangażowania, przetwarzania danych konsumenckich i zdrowotnych, tzw. sycophancy modeli oraz strategii marketingowych kierowanych do nieletnich i seniorów. W czerwcu Floryda jako pierwszy stan pozwała OpenAI i prezesa firmy Sama Altmana, zarzucając spółce, że wie o braku bezpieczeństwa ChatGPT dla nieletnich.
