AMD pokazało potwora do AI. Ma obsługiwać modele z bilionem parametrów

Sztuczna inteligencja coraz częściej wychodzi z chmury i trafia na lokalne komputery. Problem w tym, że im większy model, tym większej mocy obliczeniowej i pamięci potrzebuje. AMD podczas targów IFA 2026 pokazało stację roboczą, która ma poradzić sobie nawet z modelami liczącymi bilion parametrów.

AMD Threadripper Halo Station na pierwszy rzut oka wygląda jak komputer dla przeciętnego użytkownika. W rzeczywistości to stacja robocza zaprojektowana przede wszystkim z myślą o lokalnym uruchamianiu wymagających modeli sztucznej inteligencji. Producent twierdzi, że jest to najwydajniejsza stacja robocza na świecie, a jednym z jej najciekawszych zastosowań ma być obsługa modeli AI z nawet bilionem parametrów.

Dlaczego to w ogóle robi wrażenie? Parametry można w dużym uproszczeniu traktować jako elementy, które model wykorzystuje do przechowywania wyuczonych zależności. Im większy model, tym zwykle większe są jego wymagania dotyczące pamięci i mocy obliczeniowej. W przypadku największych modeli nie wystarczy więc mocny procesor czy pojedyncza karta graficzna. Potrzebny jest sprzęt z ogromną ilością pamięci i bardzo dużą przepustowością.

Specyfikacja AMD Threadripper Halo Station

• Procesor: AMD Ryzen Threadripper PRO 9995WX (96 rdzeni/192 wątki Zen 5)
• Pamięć RAM: 2 TB (8x 256 GB) DDR5
• Płyta główna: ASUS Pro WS WRX90E-SAGE SE
• Akceleratory: 2× AMD Instinct MI350P (2x 144 GB HBM3E)
• Przepustowość pamięci GPU: do 4 TB/s na GPU
• Zasilacz: Corsair WS3000 3000 W

Całość wymaga także odpowiedniego chłodzenia, dlatego AMD zastosowało układ chłodzenia cieczą. Trudno się temu dziwić. Samo kilka potężnych akceleratorów AI może pobierać więcej energii niż kompletny, typowy komputer gamingowy. Tutaj trzeba jeszcze zasilić 96-rdzeniowy procesor, pamięć oraz całą pozostałą infrastrukturę.

Największą zaletą takiej stacji nie jest oczywiście możliwość odpalenia kolejnego chatbota. Chodzi o zastosowania profesjonalne, w których liczy się możliwość pracy z bardzo dużymi modelami bez wysyłania danych do zewnętrznej chmury.

Lokalne AI oznacza przede wszystkim większą kontrolę nad danymi. Firmy mogą przetwarzać poufne dokumenty, kod źródłowy czy dane klientów bez konieczności przesyłania ich do zewnętrznego dostawcy.

Dochodzi do tego kwestia kosztów. Przy intensywnym korzystaniu z dużych modeli rozliczenia za API i kolejne tokeny mogą szybko urosnąć do wysokich kwot. Własna infrastruktura pozwala przenieść znaczną część kosztów na zakup i utrzymanie sprzętu, zamiast płacić za każde kolejne zapytanie do chmury.

Oczywiście nie oznacza to, że taka stacja będzie opłacalna dla każdego. Wręcz przeciwnie – jej zastosowanie ma sens przede wszystkim tam, gdzie AI jest wykorzystywane bardzo intensywnie i gdzie lokalne przetwarzanie danych ma realną wartość.

Threadripper Halo Station pokazuje, jak szybko rosną wymagania związane z lokalną sztuczną inteligencją. Jeszcze niedawno "AI na własnym komputerze" kojarzyło się głównie z uruchamianiem niewielkich modeli. AMD pokazuje natomiast zupełnie inną skalę – setki gigabajtów pamięci HBM3E, terabajty przepustowości i możliwość połączenia kilku akceleratorów w jednej stacji roboczej.

Trzeba jednak pamiętać, że na ten moment nie wiadomo, czy AMD Threadripper Halo Station w ogóle trafi do regularnej sprzedaży. Producent nie podał również ceny urządzenia (można szacować, że wartość takiej konfiguracji to ok. 200 tys. zł).