Sztuczna inteligencja marnuje miliardy. Wąskie gardła hamują rozwój

Wyścig o dominację w sztucznej inteligencji rozpędził się do granic możliwości. Najwięksi gracze kupują ogromne ilości zaawansowanych chipów (GPU), budują centra danych i inwestują miliardy dolarów. Mogłoby się wydawać, że to właśnie dostęp do sprzętu jest dziś największym wyzwaniem. 

Jak jednak opisuje serwis The Information, rzeczywistość wygląda inaczej. Nawet gdy firmy zdobywają upragnione GPU, często nie potrafią wykorzystać ich w pełni.

Drogie maszyny, niska efektywność

Problem tkwi w tym, jak działa proces trenowania modeli AI. Nie jest on ciągły ani równomierny. Zamiast tego przypomina serię nagłych zrywów – intensywne obliczenia przeplatają się z okresami analizy i decyzji. 

W efekcie ogromne klastry komputerów przez część czasu po prostu się “nudzą”. To przekłada się na niski poziom wykorzystania sprzętu, który kosztuje dziesiątki tysięcy dolarów za sztukę. 

Według danych przytoczonych przez The Information, nawet jedne z największych laboratoriów AI osiągają bardzo skromne wyniki. Wskaźnik wykorzystania mocy obliczeniowej potrafi spaść do poziomów, które eksperci określają jako zaskakująco niskie. 

Ułamek chipów w użyciu

Najwięksi gracze na rynku sztucznej inteligencji dysponują już zapasami liczącymi setki tysięcy procesorów graficznych. Przykładowo xAI kontroluje około 500–550 tys. chipów, co czyni ją jednym z największych właścicieli mocy obliczeniowej na świecie. Na pierwszy rzut oka to przewaga nie do przebicia. W praktyce jednak liczby te bywają mylące. Przy wykorzystaniu na poziomie około 11 proc. oznacza to, że realnie pracuje efektywnie tylko ułamek tej infrastruktury – odpowiadający mniej więcej kilkudziesięciu tysiącom chipów. 

Co ciekawe, konkurenci radzą sobie lepiej, ale wciąż daleko im do ideału. Najwięksi gracze, tacy jak Meta czy Google, osiągają poziomy rzędu 40–46 proc. wykorzystania, co i tak pokazuje, jak trudne jest efektywne zarządzanie AI w tak ogromnej skali.

Wąskie gardła technologii 

Źródłem problemu nie jest tylko organizacja pracy. Istnieją też twarde ograniczenia technologiczne. Jednym z nich jest tzw. “memory wall”. Nowoczesne modele potrzebują ogromnych ilości danych, które muszą być nieustannie przesyłane między pamięcią a procesorami. Problem w tym, że pamięć nie nadąża za tempem obliczeń. 

Drugim ograniczeniem jest infrastruktura sieciowa. Tysiące chipów muszą działać jednocześnie i być ze sobą zsynchronizowane. Wystarczy niewielkie opóźnienie w jednym miejscu, by spowolnić cały system. To trochę jak autostrada z perfekcyjnymi samochodami, na której co kilka kilometrów pojawia się wąskie gardło. 

Gra o dostęp do mocy

W takiej rzeczywistości pojawia się jeszcze jeden, bardziej ludzki problem. Niektórzy badacze starają się sztucznie zawyżać wskaźniki wykorzystania GPU. Powód jest prosty: nikt nie chce stracić dostępu do cennego sprzętu. Jeśli maszyny wyglądają na “zajęte”, trudniej je odebrać i przekazać innemu zespołowi.

To pokazuje, że w świecie AI nie chodzi już tylko o technologię, ale też o wewnętrzną rywalizację o zasoby. 

Chińska odpowiedź: mniej znaczy więcej

Ciekawą kontrę dla tego podejścia stanowi strategia rozwijana w Chinach. Tamtejsze firmy, ograniczone dostępem do najnowszych chipów, stawiają na efektywność zamiast skali. Nowe modele powstają tak, by działały przy mniejszym zapotrzebowaniu na moc obliczeniową. Zamiast gigantycznych systemów liczących setki miliardów parametrów, rozwijane są lżejsze, bardziej zoptymalizowane rozwiązania. 

To podejście może okazać się szczególnie atrakcyjne dla rynków, które nie dysponują ogromną infrastrukturą. 

Przyszłość: więcej nie zawsze znaczy lepiej

Dzisiejsze problemy branży AI pokazują jedno: sama liczba chipów nie gwarantuje sukcesu. Kluczowe staje się to, jak efektywnie potrafimy je wykorzystać. 

W świecie, w którym koszt pojedynczego komponentu liczony jest w dziesiątkach tysięcy dolarów, każda minuta bezczynności ma znaczenie. A prawdziwa innowacja może polegać nie na budowaniu większych systemów, lecz na mądrzejszym ich użyciu.

foto: NVIDIA