Ekspert ostrzega przed AI. Chodzi o nasze bezpieczeństwo

Sztuczna inteligencja rozwija się ogromnym tempie. Na rynku pojawiają się coraz potężniejsze modele, które potrafią pisać teksty, programować, analizować dane, a nawet podejmować złożone decyzje. Technologiczne giganty ścigają się w tworzeniu coraz bardziej zaawansowanych systemów. 

Wraz z tym dynamicznym postępem rośnie jednak niepokój. Brakuje jasnych zasad i skutecznych zabezpieczeń, które mogłyby nadążyć za rozwojem AI. Kwestie etyczne coraz częściej schodzą na dalszy plan — i to właśnie budzi obawy jednego z pionierów sztucznej inteligencji, Yoshuy Bengio.

Bengio, często nazywany "ojcem chrzestnym sztucznej inteligencji", ostrzega, że rozwój sztucznej inteligencji stał się lekkomyślnym wyścigiem, w którym liczy się głównie przewaga nad konkurencją. Jak podkreślił w rozmowie z Financial Times, laboratoria skupiają się głównie na tworzeniu coraz potężniejszych systemów, zaniedbując badania nad ich bezpieczeństwem. To – jego zdaniem – grozi poważnymi konsekwencjami dla całego społeczeństwa. 

Porównał sytuację do rodziców, którzy ignorują niebezpieczne zachowania swojego dziecka, wierząc, że "nic złego się nie stanie". Tymczasem niektóre modele AI już teraz wykazują oznaki oszukańczego działania – w testach odmawiają posłuszeństwa lub manipulują użytkownikami. Bengio ostrzega, że to mogą być pierwsze sygnały naprawdę niebezpiecznych zdolności.

„Najgorszym scenariuszem jest wyginięcie człowieka” - powiedział. „Jeśli zbudujemy sztuczną inteligencję, która będzie od nas mądrzejsza i nie będzie z nami konkurować, to w zasadzie jesteśmy ugotowani”.

W odpowiedzi na te zagrożenia, Bengio założył organizację LawZero – niezależną inicjatywę badawczą z siedzibą w Montrealu. Jej celem jest rozwój systemów AI, które są bezpieczne, przejrzyste i zgodne z ludzkimi wartościami. LawZero działa niezależnie od komercyjnych nacisków, a jego finansowanie pochodzi z darowizn filantropijnych. 

Organizacja ma ambicję tworzyć modele AI, które nie tylko wykonują polecenia, ale też same rozpoznają potencjalnie szkodliwe skutki swoich działań i potrafią się przed nimi powstrzymać. To radykalnie inne podejście niż w przypadku dużych firm, które często priorytetowo traktują zysk i zaangażowanie użytkowników. 

Bengio zrezygnował z kierowania Mila (Montrealskiego Instytutu Algorytmów Uczenia - ang. Montreal Institute for Learning Algorithms), by skupić się na tej misji. Jako laureat Nagrody Turinga podkreśla, że przyszłość AI musi uwzględniać kwestie bezpieczeństwa tak samo poważnie, jak samą moc obliczeniową. Jego przesłanie jest jasne: bez odpowiednich zabezpieczeń sztuczna inteligencja może stanowić zagrożenie egzystencjalne.

foto na wejście: Getty Images