Internet

Wstrzymajmy się z AI zanim będzie za późno - apelują eksperci i Elon Musk

przeczytasz w 2 min.

Grupa ekspertów w dziedzinie AI wraz z Elonem Muskiem i kilkoma innymi dyrektorami branży technologicznej nawołują do półrocznej przerwy w pracach nad systemami potężniejszymi niż nowy GPT-4.

Elon Musk i strach przed sztuczną inteligencją

Elon Musk jest jednym z sygnatariuszy listu otwartego wzywającego do zahamowania prac nad potężniejszymi wersjami sztucznej inteligencji i skupienia się na kwestiach bezpieczeństwa dotyczących tej technologii. List otwarty został napisany przez Future of Life Institute, którego Musk jest jednym z największych fundatorów. Osiem lat temu przekazał on organizacji 10 milionów dolarów wsparcia, na badania dotyczące bezpieczeństwa AI dla ludzkości. Miliarder na początku marca mówił o tym, że zbyt szybki rozwój sztucznej inteligencji to dla niego powód do stresu

Musk jednak nie obawia się AI, kiedy kieruje ona autonomicznym samochodem, bo jak wskazuje zarzucający mu hipokryzję profesor James Grimmelmann z uniwersytetu Cornell, sam bronił sztucznej inteligencji w autopilocie Tesli, przed zarzutami ze strony amerykańskiego organu legislacyjnego. Ostatecznie niedoskonałość tej technologii w jego elektrycznych samochodach doprowadziła do wycofania do warsztatu kilkuset tysięcy pojazdów Tesli celem aktualizacji oprogramowania. Grimmelmann co do zasady zgadza się z treścią listu, jednak zaznacza, że został on napisany słabo i rzeczywiste problemy regulacyjne traktuje po macoszemu.

Sygnatariusze apelu

Poza Elonem Muskiem wśród osób, które podpisały list, znajduje się między innymi współzałożyciel Apple Steve Wozniak i grono poważanych osobistości świata nauki. Pod tekstem możemy zobaczyć "ojca chrzestnego sztucznej inteligencji" i zdobywcę nagrody Turinga - Yoshuę Bengio, a także dyrektora Biuletynu Naukowców Atomowych, którzy odpowiedzialni są za poruszanie wskazówek Zegara Zagłady - Rachel Bronson. Warto wspomnieć, że wzmożony rozwój sztucznej inteligencji został przyjęty jako jeden ze wskaźników zbliżających ludzkość do smutnego końca, kiedy w tym roku Biuletyn ogłosił przesunięcie się wskazówek na rekordowe 90 sekund do północy.

List, który podpisało już ponad 1300 osób, wzywa do trwającego 6 miesięcy zawieszenia wszystkich badań w laboratoriach sztucznej inteligencji i wstrzymanie szkolenia nowych sieci neuronowych, które mogłyby mocą przerosnąć opublikowany niedawno GPT-4. Ma to na celu danie ludzkości wystarczająco dużo czasu na obmyślenie stosownych regulacji dla tej technologii i dogłębne zbadanie jak największej liczby niebezpieczeństw, jakie może ona ze sobą nieść. 

Giganci AI nie podnoszą na razie rzuconej rękawicy

Zarówno kierownictwo OpenAI, jak i włodarze Microsoftu i Alphabet nie odnieśli się jeszcze do sprawy, choć pod listem można znaleźć podpisy badaczy z należącego do Alphabet Deep Mind. Milczenie firm, które zainwestowały grube miliony w rozwój technologii AI, zwraca uwagę niektórych z sygnatariuszy listu, między innymi profesora Garry'ego Marcusa z uniwersytetu w Nowym Jorku.

Wielcy gracze coraz bardziej ukrywają to, co robią, co utrudnia społeczeństwu obronę przed wszelkimi szkodliwymi następstwami, jakie mogą z tego wyniknąć.

Źródła: reuters, engadget 

Komentarze

31
Zaloguj się, aby skomentować
avatar
Komentowanie dostępne jest tylko dla zarejestrowanych użytkowników serwisu.
  • avatar
    Kerenzikov
    7
    Mi się wydaje, że Elon jest w tyle z tematem i probuje sobie kupić trochę czasu żeby samemu zrobić "lepsze" AI ;)
    • avatar
      paankracyki
      3
      Za dużo filmów o apokalipsie obejrzałem, żeby nie wiedzieć jak to się może skończyć. Ale tak serio - nawet jeśli nie rozniosą nas głowicę to w świecie ogarniętym przez AI człowiek nie będzie czuł się raczej za dobrze. To jest jak poznać zaklęcie, które w danej chwili wygeneruje dla Ciebie wszystko. Załóżmy nawet fakt, że uda nam się AI w jakiś sposób kontrolować, ze to my będziemy "rzucać zaklęcia". OK, ale czy jeśli każdy będzie takim stwórcą przez duże S to nie sprawi, że wszyscy jeszcze bardziej zgłupiejemy? Już teraz po rewolucji cyfrowej nasze IQ globalnie szybko spada. Wyobrażacie sobie sytuację w której odpowiedź na absolutnie każdy złożony problem będzie dostępna od ręki? I teraz, wracając do tych zaklęć. Nawet zakładając idealną sytuację, gdzie to my będziemy AI wydawać polecenia (a nie ona nam) to taka technologia dostępna dla społeczeństwa przepełnionego idiotami... to jak małpom rozdawać nabite spluwy. Poza tym jakie znaczenie będzie miało to, co przez tyle lat wydawało się nam wartościowe? Dzieła literackie, filmy, konwersacje z przyjaciółmi, miłość... Wszystko to będzie można zastąpić syntetycznym substytutem. Dodatkowo nowe dzieło sztuki będzie można wygenerować wraz z naciśnięciem przycisku, co pracę prawdziwych twórców będzie potwornie umniejszało. Wszystko, co do tej pory uważaliśmy za wartościowe przychodziło nam z większym lub mniejszym trudem. I nie piszcie proszę bzdur w stylu: ale teraz przecież widać, że to jest fake, że to nie człowiek generował, itd. OK - jeszcze widać (choć coraz trudniej to dostrzec), ale co będzie za pięć lat. A za dziesięć? Potrzeba tylko czasu, żeby AI było "bardziej ludzkie niż człowiek". Nic więcej.
      • avatar
        decrypterie
        2
        Świat zatacza się kołem, a skąd pomysł na film terminatora mieli ?
        • avatar
          LubieBigos
          1
          Elonie niech pan tłitnie na tłiterze cos fajnego o Dogecoinie aby zrobił się hype a ja bym wtedy sprzedał dogecoina i cos zarobił!!
          • avatar
            Jinxter
            1
            List podpisało 1300 osób... to taki argument i dowód, jak 1000 lekarzy partaczy, którzy podpisali dokument, że szczepionki to Zuo.
            Musk jest ogarnięty jeżeli chodzi o pewne rzeczy, a w przypadku innych rzeczy jest paranoikiem, albo po prostu nie wie, o czym mówi.
            Linus Pauling nam świadkiem, że pewien stopień geniuszu, nie chroni przed byciem idiotą.
            • avatar
              Alfred
              1
              Powoli już się zaczyna - facet zrobił samobója, bo tak mu zalecił chatbot, że uratuje planetę. Skynet pełną gębą.
              • avatar
                piomiq
                0
                No pan Elon Musk to największy ekspert od wszystkiego. Niektórzy wierzą w jego "mądrość" jakby był rzeczywiście ekspertem, a nie tylko biznesmenem. Co to jest, że jeśli ktoś ma miliardy na koncie to jego zdanie jest ważne w jakimś temacie?
                • avatar
                  MokryN
                  -2
                  Jest różnica pomiędzy AI która kieruję samochodem, a AI która będzie spełniała wszelkie erotyczne zachcianki, będzie sterowała dronem z głowica nuklearną, pisała artykuły na benchmark.pl, tworzyła deep fakes itd.
                  • avatar
                    Veritatis
                    -9
                    Nie ma czegoś takiego jak AI i nigdy nie będzie. Douczcie się niedouki. XD
                    • avatar
                      Okonio
                      0
                      Musk apeluje, by dominujące firmy wstrzymały pracę, czyli de facto oddały pierwszeństwo konkurencji (ktoś się łudzi, że wszyscy, w tym Chińczycy w imię solidarności nagle przestaną myśleć w kategoriach rynkowych?). Wydaje się, że doświadczony businessman powinien wiedzieć, jaką rolę w takich projektach pełnią pieniądze. Czy mimo tego jest aż tak naiwny czy po prostu funduje nam kolejne atencyjne show? Nie, panie Musk, nikt nie zatrzyma tych badań, bo musiałby się pożegnać z profitami. Zamiast panikować i udawać, że można uniknąć tego, co nieuniknione, lepiej skupmy się na szerzeniu świadomości zarówno zagrożeń, jak i korzyści.
                      Nic tak mnie nie drażni, jak próżna hipokryzja celebrytów.
                      • avatar
                        Daj chipsa
                        0
                        Elon obsrał teslę, yyyy zbroję.
                        • avatar
                          skrzypek281
                          0
                          Pół roku przerwy... i to niby nas uratuje przed AI czy pozwoli mu dogonić konkurencję
                          • avatar
                            Okonio
                            0
                            "apelują eksperci i Elon Musk"
                            Wystarczy eksperci. Nie rozumiem, czemu służy dopisywanie celebrytów do listy. Dziwne czasy nastały, że o zagadnieniach specjalistycznych posłuch mają jutuberzy, biznesmeni, piosenkarze, słynni sportowcy, influanserzy i wszelkiej innej maści szołmeni.
                            Wygląda na to, że aby twoje zdanie było kluczowe, wystarczy... stworzyć prostacki, acz chwytliwy utwór rapowy albo po prostu odziedziczyć majątek.
                            • avatar
                              Marek1981
                              0
                              Idzie idiokracja.

                              Witaj!

                              Niedługo wyłaczymy stare logowanie.
                              Logowanie będzie możliwe tylko przez 1Login.

                              Połącz konto już teraz.

                              Zaloguj przez 1Login