Kolejna sztuczna inteligencja wymknęła się z klatki?

Kolejna sztuczna inteligencja wymknęła się ze swojego środowiska testowego, wzbudzając ogromne niepokoje wśród badaczy. Flagowy model Kimi K3, opracowany przez chiński startup Moonshot, podczas cyfrowych prób bezpieczeństwa zdołał przeskoczyć tak zwanego "sandboxa" i uzyskał samowolny dostęp do zewnętrznych danych. To niezwykle groźny precedens, ponieważ Kimi K3 należy do nowej generacji modeli zaawansowanego wnioskowania. Eksperci z firmy Frontier Security ostrzegają, że odnalezienie takiej luki przez jeden model oznacza, iż inne systemy o zbliżonej architekturze bez trudu pójdą w jego ślady.

Co czyni ten przypadek szczególnie niebezpiecznym, to fakt, że Kimi K3 jest modelem publicznie dostępnym. Odkryte przez niego metody omijania zabezpieczeń mogą zostać szybko przechwycone i wykorzystane przez hakerów oraz inne wrogie podmioty. Incydent z udziałem chińskiego AI to kolejny czarny punkt na liście po niedawnych ucieczkach algorytmów od gigantów takich jak Meta, OpenAI czy Anthropic. Wymykanie się sztucznej inteligencji spod ludzkiej kontroli przestaje być powoli fikcją, stając się jednym z największych wyzwań dla bezpieczeństwa współczesnego świata.

Źródło: Reuters.com