Na topie

Stworzyli tak dobry algorytm SI, że aż go nie udostępnią - OpenAI

Autor:

Szef strefy Ciekawostki

więcej artykułów ze strefy:
Ciekawostki

Kategoria: Ciekawostki Nauka Tematyka: Na Topie sztuczna inteligencja

Naukowcy z organizacji OpenAI po raz pierwszy podjęli decyzję o nieudostępnianiu stworzonego przez siebie algorytmu. Sztuczna inteligencja okazała się zbyt dobra.

  • Stworzyli tak dobry algorytm SI, że aż go nie udostępnią - OpenAI
A A

OpenAI to (wspierana przez Elona Muska) organizacja non-profit rozwijająca sztuczną inteligencję pod takim kątem, by technologia mogła zaoferować praktyczne korzyści wszystkim ludziom. Ostatecznie (zgodnie z nazwą) zamierzała udostępniać publicznie swoje rozwiązania, aby osiągnąć wspomniany przed momentem cel. „Zamierzała”, bo częściowo zrezygnowała z tych planów. Powód? Stworzyła coś, co ją przeraziło.

Zbyt wielkie ryzyko

Naukowcy stojący za projektem OpenAI – jak czytamy na łamach The Guardian – zaprojektowali tak zaawansowany algorytm sztucznej inteligencji, że aż zaczęli się obawiać tego, jakie konsekwencje mogłoby nieść ze sobą jego udostępnienie i wykorzystanie. Mając na celu troskę o nasze wspólne bezpieczeństwo, podjęła decyzję o zmianie planów.

Algorytm nazywa się GPT2 i jest częścią większego systemu służącego do błyskawicznego identyfikowania fake newsów. On sam jest w stanie tworzyć własne wiadomości i jest w tym – jak przekonują naukowcy – tak dobry, że poziom manipulatorstwa i zakrzywiania rzeczywistości mógłby stać się tak duży, że aż stanowiłoby to realne zagrożenie dla społeczeństwa. 

(Za) dobry generator tekstu

Wyszkolony na około 10 milionach artykułów i publikowanych pod nimi komentarzach algorytm jest w stanie przerabiać autentyczne wiadomości na fałszywe i tworzyć zupełnie nowe teksty (które brzmią realistycznie, ale nie są prawdziwe), ale też na przykład dokańczać dzieła literackie. Innymi słowy: jest to generator tekstu o nadzwyczaj wysokim poziomie. 

GPT2 to pierwszy algorytm sztucznej inteligencji opracowany przez OpenAI, który został „zamknięty” ze względu na to, że okazał się zbyt dobry. Poprzednie twory grupy zostały uznane za zgodne z zasadami etycznymi i moralnymi, a następnie „uwolnione” i dziś są wykorzystywane między innymi w rozmaitych ośrodkach badawczych. 

Źródło: The Guardian, inf. własna. Ilustracja: TheDigitalArtist/Pixabay

Odsłon: 7879 Skomentuj newsa
Komentarze

19

Udostępnij
  1. levusek1992
    Oceń komentarz:

    8    

    Opublikowano: 2019-02-19 10:42

    Kiedyś dostaniemy ostro po tyłku przez SI. Ja na studiach już mocno oberwałem przez Sztuczną Inteligencje. Powtarzałem rok.

    Skomentuj

    1. victordeleco2
      Oceń komentarz:

      2    

      Opublikowano: 2019-02-19 11:24

      A ja napisałem licencjat ze sztucznej inteligencji. Stworzyłem własną sieć neuronową. Nie polecam :)

      Skomentuj

      1. kitamo
        Oceń komentarz:

        2    

        Opublikowano: 2019-02-19 14:51

        a teraz siedzisz na BMK i grasz w gierki :)

        Skomentuj

  2. kitamo
    Oceń komentarz:

    10    

    Opublikowano: 2019-02-19 11:03

    Ja jestem tak dobry w lekkoatletyce że odpusciłem sobie zupełnie olimpiade. To załamało by wielu innych zawodników.

    Skomentuj

  3. drfrank3nstein
    Oceń komentarz:

    3    

    Opublikowano: 2019-02-19 11:19

    Niech wypuszczą, to może portale od "newsów" zaczną pisać krótko i do rzeczy, a nie jakieś wodolejstwo.

    Skomentuj Historia edycji

    1. Michał 06
      Oceń komentarz:

      -6    

      Opublikowano: 2019-02-19 21:54

      już żydzi będą wiedzieli co z tym zrobić ;)

      Skomentuj

  4. sn00p
    Oceń komentarz:

    0    

    Opublikowano: 2019-02-19 11:41

    "Stworzyli tak dobry algorytm SI, że aż go nie udostępnią" Wojtek zlituj się! Wiem że w tym konkretnym przypadku "gimbaza" wie o co chodzi ale.... miej litość!!!

    Skomentuj

  5. Kapitan Nocz
    Oceń komentarz:

    2    

    Opublikowano: 2019-02-19 11:55

    o matko, to SI chyba wyłączyli po tym jak wygenerowało tego niusa :) Po jaką chol#$, ktoś w programie do identyfikacji fałszywych niusów dodaje funkcję ich tworzenia ?! To jak by Allegro opracowało algorytm do wyłapywania nieuczciwych sprzedawców a on sam zaczął handlować i wystawiać lewe aukcje :) Kolejny raz ludzie pokazują, że z inteligencją nie mają dużo wspólnego...

    Skomentuj

    1. BrumBrumBrum
      Oceń komentarz:

      -1    

      Opublikowano: 2019-02-19 15:18

      po prostu to SI wygenerowało kolejne 100 niby artykułów click bajtów na temat galaxy S10+ :) i ..... niesamowitych właściwościach pudełka w które zostanie zapakowany :D

      Skomentuj

  6. skypan
    Oceń komentarz:

    1    

    Opublikowano: 2019-02-19 12:36

    Zastanawia mnie ja AI poradziło by sobie z j.polskim ? Ponoć mamy jeden z trudniejszych języków do ogarnięcia. A słowo kurva ma tyle kontekstów, ze już sami się gubimy :)

    Skomentuj

    1. axelbest
      Oceń komentarz:

      -2    

      Opublikowano: 2019-02-19 14:17

      No kuFra!!

      Skomentuj

    2. Kapitan Nocz
      Oceń komentarz:

      0    

      Opublikowano: 2019-02-19 14:29

      no Polacy uwielbiają popadać w samozachwyt nad swoimi walorami, polski język jest tak masakratycznie trudny, że powinni znieść maturę z polskiego a już najlepszym wyznacznikiem jego trudności jest obecna polska dyplomacja, która ni jak nie potrafi się z zadnym innym narodem dogadać haha

      Skomentuj

  7. Grundi
    Oceń komentarz:

    0    

    Opublikowano: 2019-02-19 14:39

    Brzmi to trochę jak :

    Zrobiliśmy coś tak dobrego, że podbijame stawkę i sprzedamy to tylko na czarnym rynku za grube kokosy :D

    Skomentuj

  8. kitamo
    Oceń komentarz:

    2    

    Opublikowano: 2019-02-19 14:49

    Jakby go wypuścili to na BMK wycieło by połowę artykułów.

    Skomentuj

  9. Makkk
    Oceń komentarz:

    0    

    Opublikowano: 2019-02-19 14:56

    Bardziej przeraża mnie wizja wytworzenia samoświadomości takiej SI. Aczkolwiek kompletnie się na tym nie znam i nie wiem, czy jest to możliwe.

    Skomentuj

    1. xxx.514
      Oceń komentarz:

      0    

      Opublikowano: 2019-02-19 17:06

      Ostrożnie stwierdzę, iż nie bezpośrednio. Raczej będzie rozwijać się to w ten sposób, że ludzie stworzą proto-SI, a te z kolei stworzy ulepszoną wersję siebie. Ten twór mógłby już skomponować pełne SI z lub bez wiedzy ludzi. Ale to tylko gdybania - dowiemy się, gdy T-1000 zapuka do drzwi metaforycznie to ujmując.

      Skomentuj

    2. mgkiler
      Oceń komentarz:

      0    

      Opublikowano: 2019-02-19 20:46

      Samoświadome SI, czy SI obdarzone świadomością - to raczej wytwór Sci-Fi.

      Skomentuj

      1. rbialo
        Oceń komentarz:

        0    

        Opublikowano: 2019-02-20 01:15

        Pamiętam czasy, gdy np. zapis danych na czymś w rozmiarze obecnych kart pamięci był uznawany za wytwór SciFi, także wiesz...

        Skomentuj

  10. Michał 06
    Oceń komentarz:

    -1    

    Opublikowano: 2019-02-19 21:53

    Spamo-*eb

    Skomentuj

Dodaj komentarz

Przy komentowaniu prosimy o przestrzeganie netykiety i regulaminu.

Aby dodać komentarz musisz być zalogowany!