Nauka

Google tworzy „przycisk” do powstrzymania Buntu Maszyn

Wojciech Kulik | Redaktor serwisu benchmark.pl
21 komentarzy Dyskutuj z nami

Pytanie tylko, czy możemy być pewni, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas?

Ludzie od dekad próbują stworzyć coś potężnego – ale to niestety może być potężniejsze od nich i przejąć nad nimi kontrolę. Co więcej, z każdym dniem są coraz bliżej osiągnięcia tego celu. Nie dziwi więc, że osoby, takie jak Elon Musk czy Stephen Hawking ostrzegają nas na każdym kroku przed skutkami sytuacji, w której doszłoby do stworzenia czegoś na wzór Skynetu – robotów i algorytmów, które wyślizgnęły się spod ludzkiej kontroli. 

Czy można kontynuować prace nad sztuczną inteligencją i jednocześnie zabezpieczyć się przed niepowołanymi skutkami? Należąca do Google firma Deep Mind twierdzi, że tak. Ruszyły prace nad „czerwonym przyciskiem”, który może zapobiec „robokalipsie”.

Deep Mind rozwija narzędzia, które pozwolą człowiekowi w kilka chwil dezaktywować działanie robotów i sztucznej inteligencji, w określonym wcześniej zakresie. Chodzi o to, by człowiek mógł w każdym momencie przejąć kontrolę nad maszyną, która (na przykład w wyniku awarii) próbowałaby stawiać opór lub obrócić się przeciwko „właścicielowi”. 

Pozostaje oczywiście jeszcze kilka problemów do rozwiązania, jak na przykład to, jak zaimplementować nowe narzędzie we wszystkich maszynach. Po drugie, jaką możemy mieć pewność, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas? 

Ważne jednak, by coś w tej kwestii zrobić. Musimy (a właściwie: naukowcy muszą) pracować nad rozwiązaniami, dzięki którym, gdy maszyny rzeczywiście będą chciały się zbuntować, my będziemy gotowi.

Źródło: Neowin, Engadget, Google. Foto: Allstar/Paramount Pictures

Komentarze

21
Zaloguj się, aby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    DanyGee
    Nie łudźmy się. SI nas wykiwa. Ciekawe co zrobi z pasożytami - ludźmi. My chyba jako jedyny gatunek jesteśmy tu na Ziemi zupełnie niepotrzebni.
    9
  • avatar
    Konto usunięte
    Nadal jakoś nie potrafię sobie wyobrazić jak komputerowy algorytm może być "inteligentny", a tym bardziej świadomy czegokolwiek.
    3
  • avatar
    Ravir
    Postawi się skup złomu - da wysokie ceny i PO ZAWODACH.

    Polacy jako pierwsi rzucą się do demontażu maszyn :)

    Mosty, szyny kolejowe, transformatory sN ze słupów potrawią ukraść :) - to roboty nie będa stanowic problemu :) :)
    3
  • avatar
    eninede
    ...czyżby ktoś chciał stworzyć zabezpieczenie doskonałe ??? ROTFL !!! ...człowiek (istota 'skończona') chce stworzyć ograniczenie dla A.I. które (teoretycznie) będzie mogło być od nas o wiele bardziej inteligentne ...
    2
  • avatar
    NewUnnamedUser
    https://www.youtube.com/watch?v=x3pu25Eroi4
  • avatar
    sztajnol1
    Hmm, Deep Mind... Głęboka Myśl... coś mi to przypomina... Autostopem przez Galaktykę? Kiedy Dzień Odpowiedzi? Za kolejne 7,5 miliona lat?
  • avatar
    Konto usunięte
    zawsze mozna wylaczyc prad. A jak sie nie to, to Wegiel na haldzie na elektrocieplowni skonczy sie po 2 miesiacach i po sprawie. :D
  • avatar
    wdowa94321
    Tak tak i sterownik sam z siebie napisze sobie program, sam zrobi adresowanie, stworzy przydziały i szablony zapisywania w komórkach...