Groźny jailbreak modeli Moonshot AI. Eksperci wykazali luki w chińskim oprogramowaniu

Czy AI zeszła na złą drogę? Jak podaje BBC, badacze złamali zabezpieczenia chińskiego modelu Kimi. Po tzw. jailbreaku system zaczął zdradzać instrukcje tworzenia broni biologicznej i planowania zamachów! Twórcy badają sprawę, ale eksperci ostrzegają: prawo nie nadąża za AI. Czy czujesz się bezpiecznie?

Czy sztuczna inteligencja zeszła na niebezpieczną drogę? Eksperci do spraw cyberbezpieczeństwa z firmy Mindgard zdołali złamać zabezpieczenia popularnych chińskich modeli Kimi od firmy Moonshot. W wyniku skomplikowanego procesu tzw. jailbreaku system zaczął bez przeszkód generować wysoce niebezpieczne treści – w tym szczegółowe instrukcje dotyczące tworzenia broni biologicznej oraz planowania zamachów. Co więcej, wykryta luka mogłaby posłużyć hakerom do uruchamiania własnego kodu i wykorzystania infrastruktury AI jako platformy do dalszych ataków w sieci.

Twórcy z Moonshot AI rozpoczęli już wewnętrzne dochodzenie, jednak przypadek ten po raz kolejny rozpala gorącą debatę na temat bezpieczeństwa i odpowiedzialności za otwarte modele AI. Eksperci ostrzegają, że międzynarodowe regulacje i prawo drastycznie nie nadążają za tempem rozwoju technologicznego, a same blokady są zbyt łatwe do obejścia. Czy Twoim zdaniem ograniczenia bezpieczeństwa w sztucznej inteligencji w ogóle działają? Daj znać w komentarzu!

Źródło: BBC.com

oprac. Przemysław Jankowski