Google tworzy „przycisk” do powstrzymania Buntu Maszyn

Ludzie od dekad próbują stworzyć coś potężnego – ale to niestety może być potężniejsze od nich i przejąć nad nimi kontrolę. Co więcej, z każdym dniem są coraz bliżej osiągnięcia tego celu. Nie dziwi więc, że osoby, takie jak Elon Musk czy Stephen Hawking ostrzegają nas na każdym kroku przed skutkami sytuacji, w której doszłoby do stworzenia czegoś na wzór Skynetu – robotów i algorytmów, które wyślizgnęły się spod ludzkiej kontroli. 

Czy można kontynuować prace nad sztuczną inteligencją i jednocześnie zabezpieczyć się przed niepowołanymi skutkami? Należąca do Google firma Deep Mind twierdzi, że tak. Ruszyły prace nad „czerwonym przyciskiem”, który może zapobiec „robokalipsie”.

Deep Mind rozwija narzędzia, które pozwolą człowiekowi w kilka chwil dezaktywować działanie robotów i sztucznej inteligencji, w określonym wcześniej zakresie. Chodzi o to, by człowiek mógł w każdym momencie przejąć kontrolę nad maszyną, która (na przykład w wyniku awarii) próbowałaby stawiać opór lub obrócić się przeciwko „właścicielowi”. 

Pozostaje oczywiście jeszcze kilka problemów do rozwiązania, jak na przykład to, jak zaimplementować nowe narzędzie we wszystkich maszynach. Po drugie, jaką możemy mieć pewność, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas? 

Ważne jednak, by coś w tej kwestii zrobić. Musimy (a właściwie: naukowcy muszą) pracować nad rozwiązaniami, dzięki którym, gdy maszyny rzeczywiście będą chciały się zbuntować, my będziemy gotowi.

Źródło: Neowin, Engadget, Google. Foto: Allstar/Paramount Pictures