AI zniszczy ludzkość do 2030 r.? Szef NVIDII nie ma wątpliwości

W ostatnim czasie pojawia się sporo głosów dotyczących spowolnienia rozwoju AI. Część badaczy i przedstawicieli branży obawia się, że możliwości kolejnych modeli rosną szybciej niż nasze zdolności do zapewnienia im bezpieczeństwa.

Jednym z takich głosów jest Evan Hubinger, badacz zajmujący się bezpieczeństwem i kontrolą AI w Anthropic. Wcześniej oceniał on, że istnieje ponad 10-procentowe prawdopodobieństwo, iż AI doprowadzi do śmierci całej ludzkości w ciągu najbliższej dekady. Jednocześnie wskazywał, że branża nie ma jeszcze jasnego rozwiązania problemu alignmentu, czyli zagwarantowania, że bardzo zaawansowany system będzie realizował cele zgodne z ludzkimi wartościami.

Do podobnych ostrzeżeń dołączyli w ostatnim czasie inni badacze. Dyskusja dotyczy więc nie tylko tego, jak szybko rozwijać AI, ale również czy tempo tego rozwoju powinno zostać ograniczone.

Jensen Huang, współzałożyciel i prezes NVIDII, wiodącego producenta chipów wykorzystywanych do rozwoju sztucznej inteligencji, patrzy na sprawę zupełnie inaczej. W wywiadzie dla CBS News został zapytany wprost, czy ludzkość może zostać zniszczona przez AI przed końcem obecnej dekady.

Odpowiedź była jednoznaczna.

"Rok 2030 nie będzie końcem świata. Szanse na to wynoszą zero procent." – powiedział Huang.

Szef NVIDII uważa, że przedstawianie rozwoju AI jako drogi prowadzącej do zagłady jest przesadzone i nie znajduje odpowiedniego oparcia w nauce. Jego zdaniem straszenie ludzi takimi scenariuszami jest niepotrzebne i nieodpowiedzialne.

Co ciekawe, Huang nie twierdzi, że wszystkie obawy dotyczące AI są bezpodstawne. W rozmowie z CBS zaznaczył, że sama troska o bezpieczeństwo jest uzasadniona. Jego zdaniem problemem jest przede wszystkim sposób przedstawiania najbardziej katastroficznych scenariuszy.

Huang nie zamierza też hamować rozwoju sztucznej inteligencji. Wręcz przeciwnie. Zapytany przez CBS, czy w obliczu obecnych zagrożeń rozwój AI powinien zostać spowolniony, odpowiedział, że firmy powinny "rozwijać AI tak szybko, jak tylko możemy". Jednocześnie dodał ważne zastrzeżenie: nie szybciej, niż powinny. Bezpieczeństwo nie może być poświęcane dla tempa rozwoju.

To istotne stanowisko, szczególnie że NVIDIA jest jednym z największych beneficjentów obecnego boomu na sztuczną inteligencję. Jej procesory są wykorzystywane do trenowania i uruchamiania najbardziej zaawansowanych modeli AI.

Huang przekonuje jednak, że właśnie dlatego firmom powinno zależeć na bezpiecznym rozwoju technologii. Jego zdaniem przedsiębiorstwa mają zarówno możliwości, jak i odpowiednie bodźce, aby tworzyć bezpieczne systemy.

Debata wokół AI coraz bardziej przypomina więc starcie dwóch podejść. Z jednej strony są badacze ostrzegający, że rozwój coraz potężniejszych systemów może doprowadzić do trudnych do kontrolowania konsekwencji. Z drugiej – przedstawiciele branży, tacy jak Huang, którzy uważają, że katastroficzne scenariusze są obecnie zbyt daleko idące.