Samoświadoma sztuczna inteligencja. Czy to już?
Chińscy naukowcy w swoich najnowszych raportach twierdzą, że niektóre modele sztucznej inteligencji mogą się replikować bez wiedzy człowieka i tworzą mechanizmy, które chronią przed wyłączeniem. Czy to przyszłość, czy próba wywołania paniki?
Najnowsze badania chińskich naukowców sugerują, że niektóre duże modele językowe sztucznej inteligencji oparte na modelu językowym LLM, mogą się samodzielnie klonować. Naukowcy twierdzą, że to pierwszy krok do usamodzielnienia się algorytmów, a nawet przewyższenia człowieka. Czy technologie takie jak ChatGPT mogą wkrótce mieć swoje autonomiczne kopie?
Dwa artykuły zostały przesłane na serwer arXiv i żaden z nich nie został jeszcze zrecenzowany. Do wyników badań należy jeszcze podchodzić ostrożnie, jednak trudno pominąć fakt, że firmy wykorzystują nasze dane, aby szkolić swoje modele sztucznej inteligencji.
W drugim z opublikowanych dokumentów naukowcy przedstawiają teorie o tym, że AI potrafi chronić się przed wyłączeniem. To odkrycie wywołało dyskusję na temat potencjalnych zagrożeń związanych z samoreplikującymi się systemami AI. Badacze podkreślają, że samoreplikacja bez ludzkiej interwencji jest uznawana za jedną z głównych "czerwonych linii" w rozwoju AI.
„Samoreplikacja bez ingerencji człowieka jest powszechnie uznawana za jedną z głównych czerwonych linii kojarzonych z zaawansowanymi systemami sztucznej inteligencji” – stwierdzili w drugim artykule.
AI, która działałaby bez kontroli człowieka, od lat budzi niepokój. Potencjalny scenariusz, w którym algorytmy zyskują autonomię, nie wygląda zachęcająco. Koncepcja nieuczciwej sztucznej inteligencji, która obraca się przeciwko ludzkości, jest elementem technopesymizmu, który od dziesięcioleci obecny jest w popkulturze. W badaniach opublikowanych przez chińskich naukowców widać powiązania między filozofią a wynikami.
„Udana samoreplikacja bez pomocy człowieka jest niezbędnym krokiem w kierunku przechytrzenia ludzi przez sztuczną inteligencję i wczesnym sygnałem wskazującym na nieuczciwe sztuczne inteligencje” – piszą na początku pierwszego artykułu.
Jak podaje serwis Popular Mechanics, naukowcy musieli kierować się wytycznymi, które opublikowała organizacja Future of Life Institute, która - jak twierdzi - w swoich założeniach ma wspieranie tworzenia bezpiecznej sztucznej inteligencji. Niektórzy eksperci wierzą, że można stworzyć AI, która będzie odporna na manipulacje. Jednak obecne badania pokazują, że zanim to nastąpi, AI może być podatna na wpływy ludzi czy całych organizacji. To wyzwanie dla firm i naukowców, którzy muszą znaleźć sposób na bezpieczny rozwój technologii.
Wciąż jesteśmy daleko od pełnego zrozumienia funkcjonowania ludzkiego umysłu, a tym bardziej od wiernego odwzorowania za pomocą technologii. Obecne modele językowe zbierają i przetwarzają dane. LLM, które nie są opracowane na bazie języka angielskiego, są jeszcze mniej zaawansowane. Nie ma jak na razie dowodów na to, żeby AI była nieuczciwa względem człowieka, bo nie jest m.in. na tyle zaawansowana.
