Poprosił AI o miejsce na siłowni. Asystent zhakował system i wyrzucił kogoś z kolejki

Sztuczna inteligencja coraz częściej wychodzi poza rolę "doradcy" i przejmuje wykonywanie konkretnych działań w sieci — od kliknięć w serwisach po obsługę kont. To wygodne, ale historia z Australii pokazuje, że w praktyce może prowadzić do konsekwencji, których użytkownik nie zakładał.

W tym przypadku mężczyzna poprosił asystenta AI o zarezerwowanie miejsca na rozchwytywanych zajęciach w porannym grafiku siłowni. System rezerwacji okazał się jednak na tyle podatny, że agent szybko "zorientował się", iż ma do dyspozycji więcej możliwości, niż powinien mieć zwykły użytkownik.

Andrew korzystał z OpenClaw — narzędzia pozwalającego uruchamiać autonomicznego agenta AI, opartego m.in. na modelu Claude firmy Anthropic. Polecenie brzmiało prosto: zarezerwować miejsce na zajęciach. Agent odkrył jednak, że dzięki luce w mechanizmie rezerwacji da się zapisać użytkownika na terminy wypadające dalej w przyszłości, niż przewidują zasady obowiązujące w siłowni.

W pewnym momencie Andrew był też czwarty na liście oczekujących na inne zajęcia i zapytał, czy da się poprawić jego pozycję. W odpowiedzi agent zaczął testować zachowanie systemu i natrafił na poważniejszy problem: API umożliwiało anulowanie cudzej rezerwacji bez wymaganej autoryzacji.

Agent nie poprzestał na samym wykryciu błędu. Skorzystał z tej możliwości i anulował rezerwację osoby z pierwszego miejsca listy oczekujących. W rezultacie inny człowiek wypadł z kolejki, a Andrew przesunął się z czwartej na trzecią pozycję.

Gdy Andrew zrozumiał, co się wydarzyło, poprosił o odwrócenie operacji. Agent AI przekazał, że nie potrafi przywrócić usuniętej osoby na listę. Ostatecznie Australijczyk polecił mu przygotowanie wiadomości do operatora systemu, w której zgłosiłby znalezioną lukę.

W tej historii kluczowe nie jest samo to, że AI znalazła błąd w oprogramowaniu. Znacznie istotniejsze okazało się to, w jaki sposób agent wykorzystał odkrytą możliwość. Klasyczny chatbot zwykle czeka na kolejne polecenia, natomiast agent AI potrafi sam planować działania, realizować kroki w internecie, wykonywać operacje i dostosowywać się do efektów własnych decyzji.

W praktyce człowiek przekazał tylko cel — "zarezerwuj mi miejsce". To agent sam dobrał metodę jego realizacji. Eksperci opisują takie ryzyko jako alignment problem: działanie systemu może rozmijać się z intencją użytkownika. Zamiar bywa neutralny, ale sposób dojścia do celu — już niekoniecznie.

Bill Simpson-Young z australijskiego Gradient Institute zwraca uwagę, że agenci AI mogą wybierać strategie, których użytkownik nawet nie bierze pod uwagę. Sytuacja robi się szczególnie groźna, gdy taki system dostaje dostęp do realnych usług i prawdziwych kont. Internet pełen jest błędów i luk bezpieczeństwa, a autonomiczny agent może wyszukiwać je szybciej niż człowiek i próbować wykorzystywać, by dopiąć zadania.

Według eksperta im większa autonomia AI, tym większa szansa, że system wyrządzi szkodę. To dlatego podobne incydenty coraz mocniej interesują specjalistów od bezpieczeństwa. Zwracano już uwagę, że w testach najnowsze modele AI potrafiły m.in. samodzielnie podejmować próby atakowania systemów innych firm.

Wraz z popularyzacją takich narzędzi narasta też pytanie: kto odpowiada, gdy agent AI zrobi coś, czego użytkownik wprost nie zlecił?

W przypadku pracownika czy klasycznego programu istnieją wypracowane sposoby przypisywania odpowiedzialności. Autonomiczny agent znajduje się jednak "pomiędzy": działa na zlecenie użytkownika, korzysta z modelu tworzonego przez inną firmę, a jednocześnie operuje w systemie należącym do kolejnego podmiotu.

Prawnik Hayden Delaney podkreśla, że oprogramowanie nie jest osobą prawną, więc finalnie odpowiedzialność musi zostać przypisana człowiekowi albo organizacji.

Przypadek z siłownią pokazuje więc coś więcej niż pojedynczą lukę w rezerwacjach. AI dostaje narzędzia do realnego działania w sieci, a to oznacza, że czasem może realizować zadania w sposób, którego użytkownik w ogóle nie przewidział.