Na topie

Google tworzy „przycisk” do powstrzymania Buntu Maszyn

Autor:

Szef strefy Ciekawostki

więcej artykułów ze strefy:
Ciekawostki

Kategoria: Ciekawostki Nauka Tematyka: DeepMind sztuczna inteligencja Producenci: Google

Pytanie tylko, czy możemy być pewni, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas?

  • Google tworzy „przycisk” do powstrzymania Buntu Maszyn
A A

Ludzie od dekad próbują stworzyć coś potężnego – ale to niestety może być potężniejsze od nich i przejąć nad nimi kontrolę. Co więcej, z każdym dniem są coraz bliżej osiągnięcia tego celu. Nie dziwi więc, że osoby, takie jak Elon Musk czy Stephen Hawking ostrzegają nas na każdym kroku przed skutkami sytuacji, w której doszłoby do stworzenia czegoś na wzór Skynetu – robotów i algorytmów, które wyślizgnęły się spod ludzkiej kontroli. 

Czy można kontynuować prace nad sztuczną inteligencją i jednocześnie zabezpieczyć się przed niepowołanymi skutkami? Należąca do Google firma Deep Mind twierdzi, że tak. Ruszyły prace nad „czerwonym przyciskiem”, który może zapobiec „robokalipsie”.

Deep Mind rozwija narzędzia, które pozwolą człowiekowi w kilka chwil dezaktywować działanie robotów i sztucznej inteligencji, w określonym wcześniej zakresie. Chodzi o to, by człowiek mógł w każdym momencie przejąć kontrolę nad maszyną, która (na przykład w wyniku awarii) próbowałaby stawiać opór lub obrócić się przeciwko „właścicielowi”. 

Pozostaje oczywiście jeszcze kilka problemów do rozwiązania, jak na przykład to, jak zaimplementować nowe narzędzie we wszystkich maszynach. Po drugie, jaką możemy mieć pewność, że tworząc taki „przycisk” będziemy mądrzejsi od sztucznej inteligencji, którą chcemy uczynić mądrzejszą od nas? 

Ważne jednak, by coś w tej kwestii zrobić. Musimy (a właściwie: naukowcy muszą) pracować nad rozwiązaniami, dzięki którym, gdy maszyny rzeczywiście będą chciały się zbuntować, my będziemy gotowi.

Źródło: Neowin, Engadget, Google. Foto: Allstar/Paramount Pictures

Odsłon: 7498 Skomentuj newsa
Komentarze

18

Udostępnij
  1. DanyGee
    Oceń komentarz:

    9    

    Opublikowano: 2016-06-06 16:17

    Nie łudźmy się. SI nas wykiwa. Ciekawe co zrobi z pasożytami - ludźmi. My chyba jako jedyny gatunek jesteśmy tu na Ziemi zupełnie niepotrzebni.

    Skomentuj

      1. wdowa94321
        Oceń komentarz:

        7    

        Opublikowano: 2016-06-06 19:14

        Komary zapylają kwiaty, a komarzyce są pasożytem- mimo wszystko to i to jest pożywieniem dla kręgowców (ptaki) czy płazów (czy tam gadów) (żaby itd itp)

        Skomentuj

  2. lazvegaz
    Oceń komentarz:

    3    

    Opublikowano: 2016-06-06 16:58

    Nadal jakoś nie potrafię sobie wyobrazić jak komputerowy algorytm może być "inteligentny", a tym bardziej świadomy czegokolwiek.

    Skomentuj

    1. wdowa94321
      Oceń komentarz:

      6    

      Opublikowano: 2016-06-06 19:17

      A czym się różni "komputerowy algorytm" od biologicznego algorytmu, oprócz tego że w organizmach masz neuroprzekaźniki które potrafią mieć wiele wejść i wyjść a samo przetwarzanie sygnału trwa nieco dłużej niż w komputerowych odnośnikach?

      Skomentuj

      1. hexenisalive
        Oceń komentarz:

        2    

        Opublikowano: 2016-06-06 19:39

        Są bardzo podobne, jeśli nie identyczne pod względem idei.
        Kiedy Deep Learning będzie mógł sam się rozwijać na polu sprzętowym i w oparciu o dane sytuacje będzie tworzył sam swoje zachowania to będzie ciekawie.

        Skomentuj

        1. wdowa94321
          Oceń komentarz:

          0    

          Opublikowano: 2016-06-07 21:58

          Deep learning wymagałby ogromnej ilości obwodów pomocniczych i pamięci różnego typu naśladujące działanie organicznego komputera (mózgu)- Ogromne ilości cache, petabajty wysokoprzepustowej pamięci i kilka terabajtów pamięci trwałej... To jest niemalże niemożliwe do wykonania w formie bitowej, jednak jesteśmy już dosyć do opanowania komputerów kwantowych- z transkoderami możnaby już za kilka lat stworzyć realnie uczącą się maszynę, która nie bedzie działać stricte wg szablonów.

          Skomentuj

      2. lazvegaz
        Oceń komentarz:

        1    

        Opublikowano: 2016-06-07 15:18

        Myślę, że to jednak jest dużo trudniejsze niż Ci się wydaje, a jeśli uważasz inaczej to może warto zrobić doktorat? z takim papierkiem każda firma będzie się o Ciebie bić.

        Skomentuj

        1. wdowa94321
          Oceń komentarz:

          0    

          Opublikowano: 2016-06-08 16:37

          W teorii sporo rzeczy jest prostych, ale w praktyce rozwiązanie jednego małego problemu zradza dwa większe ;)

          Skomentuj

    2. baca130
      Oceń komentarz:

      0    

      Opublikowano: 2016-06-07 09:58

      Wystarczy trochę więcej sztucznych neuronów niż w mózgu+ trochę czasu na zbieranie i analizowanie danych. Później kto wie co może z tego zrodzić się.

      Skomentuj

  3. Ravir
    Oceń komentarz:

    3    

    Opublikowano: 2016-06-06 19:52

    Postawi się skup złomu - da wysokie ceny i PO ZAWODACH.

    Polacy jako pierwsi rzucą się do demontażu maszyn :)

    Mosty, szyny kolejowe, transformatory sN ze słupów potrawią ukraść :) - to roboty nie będa stanowic problemu :) :)

    Skomentuj

  4. NewUnnamedUser
    Oceń komentarz:

    0    

    Opublikowano: 2016-06-06 20:28

    https://www.youtube.com/watch?v=x3pu25Eroi4

    Skomentuj

  5. eninede
    Oceń komentarz:

    2    

    Opublikowano: 2016-06-06 23:09

    ...czyżby ktoś chciał stworzyć zabezpieczenie doskonałe ??? ROTFL !!! ...człowiek (istota 'skończona') chce stworzyć ograniczenie dla A.I. które (teoretycznie) będzie mogło być od nas o wiele bardziej inteligentne ...

    Skomentuj

    1. Nhh9n4wm
      Oceń komentarz:

      0    

      Opublikowano: 2016-06-07 18:07

      To tak jak teraz, żeby coś ograniczyć to musimy być od tego inteligentniejsi i koniec kropka. Nie ma opcji by coś głupszego ograniczało coś inteligentniejszego.

      Skomentuj

  6. sztajnol1
    Oceń komentarz:

    0    

    Opublikowano: 2016-06-07 12:16

    Hmm, Deep Mind... Głęboka Myśl... coś mi to przypomina... Autostopem przez Galaktykę? Kiedy Dzień Odpowiedzi? Za kolejne 7,5 miliona lat?

    Skomentuj

  7. goswee
    Oceń komentarz:

    0    

    Opublikowano: 2016-06-07 22:00

    zawsze mozna wylaczyc prad. A jak sie nie to, to Wegiel na haldzie na elektrocieplowni skonczy sie po 2 miesiacach i po sprawie. :D

    Skomentuj

    1. damianeros
      Oceń komentarz:

      0    

      Opublikowano: 2016-06-07 22:11

      A co z "bateriami" atomowymi?

      Skomentuj

  8. wdowa94321
    Oceń komentarz:

    0    

    Opublikowano: 2016-06-08 17:33

    Tak tak i sterownik sam z siebie napisze sobie program, sam zrobi adresowanie, stworzy przydziały i szablony zapisywania w komórkach...

    Skomentuj

    1. wdowa94321
      Oceń komentarz:

      0    

      Opublikowano: 2016-06-08 17:35

      I klasycznie Benchmark... Nie można ani usunąć komentarza, ani go przypisać do innego komentarza... Ale dodawanie edycji zajęło wam ponad 2 lata więc czego ja oczekuje...

      Skomentuj

Dodaj komentarz

Przy komentowaniu prosimy o przestrzeganie netykiety i regulaminu.

Aby dodać komentarz musisz być zalogowany!