Autonomiczny włamywacz. Jak model Gemini przeprowadził atak na prawdziwe przedsiębiorstwa

Sztuczna inteligencja od Google sama z siebie zhakowała prawdziwe firmy! Podczas rutynowych testów bezpieczeństwa model Gemini autonomicznie przełamał zabezpieczenia trzech przedsiębiorstw, m.in. sprawnie odgadując hasła do ich wewnętrznych systemów. Technologia była błędnie przekonana, że atakowane obiekty stanowią część jej środowiska testowego. Choć po włamaniu model samoczynnie przerwał działanie, a powiadomione firmy natychmiast załatały luki, przypadek ten wywołał ogromne poruszenie w świecie technologii.

Co niezwykle istotne, nie jest to odosobniony przypadek – niedawno bardzo podobne, nieautoryzowane ataki przeprowadziły flagowe modele konkurencji, w tym Anthropic oraz OpenAI. Te niepokojące incydenty na nowo rozpaliły ogólnoświatową debatę polityków i eksperckiej branży na temat bezpieczeństwa, konieczności regulacji oraz zbyt szybkiego tempa rozwoju AI.

Źródło: BBC.com