Nauka

Google tworzy „przycisk” do powstrzymania Buntu Maszyn

z dnia 2016-06-06
Wojciech Kulik | Redaktor serwisu benchmark.pl
21 komentarzy Dyskutuj z nami

Pytanie tylko, czy możemy być pewni, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas?

Ludzie od dekad próbują stworzyć coś potężnego – ale to niestety może być potężniejsze od nich i przejąć nad nimi kontrolę. Co więcej, z każdym dniem są coraz bliżej osiągnięcia tego celu. Nie dziwi więc, że osoby, takie jak Elon Musk czy Stephen Hawking ostrzegają nas na każdym kroku przed skutkami sytuacji, w której doszłoby do stworzenia czegoś na wzór Skynetu – robotów i algorytmów, które wyślizgnęły się spod ludzkiej kontroli. 

Czy można kontynuować prace nad sztuczną inteligencją i jednocześnie zabezpieczyć się przed niepowołanymi skutkami? Należąca do Google firma Deep Mind twierdzi, że tak. Ruszyły prace nad „czerwonym przyciskiem”, który może zapobiec „robokalipsie”.

Deep Mind rozwija narzędzia, które pozwolą człowiekowi w kilka chwil dezaktywować działanie robotów i sztucznej inteligencji, w określonym wcześniej zakresie. Chodzi o to, by człowiek mógł w każdym momencie przejąć kontrolę nad maszyną, która (na przykład w wyniku awarii) próbowałaby stawiać opór lub obrócić się przeciwko „właścicielowi”. 

Pozostaje oczywiście jeszcze kilka problemów do rozwiązania, jak na przykład to, jak zaimplementować nowe narzędzie we wszystkich maszynach. Po drugie, jaką możemy mieć pewność, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas? 

Ważne jednak, by coś w tej kwestii zrobić. Musimy (a właściwie: naukowcy muszą) pracować nad rozwiązaniami, dzięki którym, gdy maszyny rzeczywiście będą chciały się zbuntować, my będziemy gotowi.

Źródło: Neowin, Engadget, Google. Foto: Allstar/Paramount Pictures

Ten artykuł pochodzi ze strony benchmark.pl

marketplace

Komentarze

21
Zaloguj się, żeby skomentować
avatar
Dodaj
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    Nie łudźmy się. SI nas wykiwa. Ciekawe co zrobi z pasożytami - ludźmi. My chyba jako jedyny gatunek jesteśmy tu na Ziemi zupełnie niepotrzebni.
    Zaloguj się
  • avatar
    Nadal jakoś nie potrafię sobie wyobrazić jak komputerowy algorytm może być "inteligentny", a tym bardziej świadomy czegokolwiek.
    Zaloguj się
  • avatar
    Postawi się skup złomu - da wysokie ceny i PO ZAWODACH.

    Polacy jako pierwsi rzucą się do demontażu maszyn :)

    Mosty, szyny kolejowe, transformatory sN ze słupów potrawią ukraść :) - to roboty nie będa stanowic problemu :) :)
  • avatar
    ...czyżby ktoś chciał stworzyć zabezpieczenie doskonałe ??? ROTFL !!! ...człowiek (istota 'skończona') chce stworzyć ograniczenie dla A.I. które (teoretycznie) będzie mogło być od nas o wiele bardziej inteligentne ...
    Zaloguj się
  • avatar
    https://www.youtube.com/watch?v=x3pu25Eroi4
  • avatar
    Hmm, Deep Mind... Głęboka Myśl... coś mi to przypomina... Autostopem przez Galaktykę? Kiedy Dzień Odpowiedzi? Za kolejne 7,5 miliona lat?
  • avatar
    zawsze mozna wylaczyc prad. A jak sie nie to, to Wegiel na haldzie na elektrocieplowni skonczy sie po 2 miesiacach i po sprawie. :D
    Zaloguj się
  • avatar
    Tak tak i sterownik sam z siebie napisze sobie program, sam zrobi adresowanie, stworzy przydziały i szablony zapisywania w komórkach...
    Zaloguj się