W ostatnim czasie pojawia się sporo głosów dotyczących spowolnienia rozwoju AI. Część badaczy i przedstawicieli branży obawia się, że możliwości kolejnych modeli rosną szybciej niż nasze zdolności do zapewnienia im bezpieczeństwa.
Jednym z takich głosów jest Evan Hubinger, badacz zajmujący się bezpieczeństwem i kontrolą AI w Anthropic. Wcześniej oceniał on, że istnieje ponad 10-procentowe prawdopodobieństwo, iż AI doprowadzi do śmierci całej ludzkości w ciągu najbliższej dekady. Jednocześnie wskazywał, że branża nie ma jeszcze jasnego rozwiązania problemu alignmentu, czyli zagwarantowania, że bardzo zaawansowany system będzie realizował cele zgodne z ludzkimi wartościami.
Do podobnych ostrzeżeń dołączyli w ostatnim czasie inni badacze. Dyskusja dotyczy więc nie tylko tego, jak szybko rozwijać AI, ale również czy tempo tego rozwoju powinno zostać ograniczone.
DLA CIEBIECyfrowy Polak - Wykluczenie cyfrowe
Jensen Huang daje AI 0 proc. szans
Jensen Huang, współzałożyciel i prezes NVIDII, wiodącego producenta chipów wykorzystywanych do rozwoju sztucznej inteligencji, patrzy na sprawę zupełnie inaczej. W wywiadzie dla CBS News został zapytany wprost, czy ludzkość może zostać zniszczona przez AI przed końcem obecnej dekady.
Odpowiedź była jednoznaczna.
"Rok 2030 nie będzie końcem świata. Szanse na to wynoszą zero procent." – powiedział Huang.
Szef NVIDII uważa, że przedstawianie rozwoju AI jako drogi prowadzącej do zagłady jest przesadzone i nie znajduje odpowiedniego oparcia w nauce. Jego zdaniem straszenie ludzi takimi scenariuszami jest niepotrzebne i nieodpowiedzialne.
Co ciekawe, Huang nie twierdzi, że wszystkie obawy dotyczące AI są bezpodstawne. W rozmowie z CBS zaznaczył, że sama troska o bezpieczeństwo jest uzasadniona. Jego zdaniem problemem jest przede wszystkim sposób przedstawiania najbardziej katastroficznych scenariuszy.
"Powinniśmy rozwijać AI tak szybko, jak się da"
Huang nie zamierza też hamować rozwoju sztucznej inteligencji. Wręcz przeciwnie. Zapytany przez CBS, czy w obliczu obecnych zagrożeń rozwój AI powinien zostać spowolniony, odpowiedział, że firmy powinny "rozwijać AI tak szybko, jak tylko możemy". Jednocześnie dodał ważne zastrzeżenie: nie szybciej, niż powinny. Bezpieczeństwo nie może być poświęcane dla tempa rozwoju.
To istotne stanowisko, szczególnie że NVIDIA jest jednym z największych beneficjentów obecnego boomu na sztuczną inteligencję. Jej procesory są wykorzystywane do trenowania i uruchamiania najbardziej zaawansowanych modeli AI.
Huang przekonuje jednak, że właśnie dlatego firmom powinno zależeć na bezpiecznym rozwoju technologii. Jego zdaniem przedsiębiorstwa mają zarówno możliwości, jak i odpowiednie bodźce, aby tworzyć bezpieczne systemy.
Dwie zupełnie różne wizje przyszłości
Debata wokół AI coraz bardziej przypomina więc starcie dwóch podejść. Z jednej strony są badacze ostrzegający, że rozwój coraz potężniejszych systemów może doprowadzić do trudnych do kontrolowania konsekwencji. Z drugiej – przedstawiciele branży, tacy jak Huang, którzy uważają, że katastroficzne scenariusze są obecnie zbyt daleko idące.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
