Chatbot AI bez internetu. Google Gemma w nowej wersji już jest
Google wypuścił nowy model AI o oznaczeniu Gemma 4 12B. Stanowi on lokalną alternatywę dla chatbota Gemini, bo można go uruchomić na laptopie z 16 GB pamięci RAM i nie wymaga połączenia z chmurą, co gwarantuje pełną prywatność.
Google przekonuje, że Gemma 4 12B zachowuje zdrowy kompromis między możliwościami a wymaganiami sprzętowymi. Z jednej strony jest znacznie potężniejszy niż modele 4-miliardowe, a z drugiej lżejszy niż 26-miliardowe, dzięki czemu do działania wystarczy mu średniej klasy laptop.
To, co wyróżnia nową architekturę, to rezygnacja z zewnętrznych enkoderów multimodalnych. Zamiast tego dane wizualne i dźwiękowe trafiają bezpośrednio do rdzenia modelu, dzięki czemu zużywa znacznie mniej pamięci i działa efektywniej, oferując zaawansowane wnioskowanie przy obniżonym apetycie na zasoby systemowe.
Gemma 4 12B radzi sobie z analizą i przetwarzaniem tekstu, rozpoznawaniem obrazu czy transkrypcją nagrań audio, a to wszystko bez połączenia z chmurą. Z uwagi na lokalny charakter modelu, na większości laptopów działa on jednak znacznie wolniej niż modele chmurowe, a ponadto nie ma aktualnej wiedzy o świecie. W zamian zapewnia jednak całkowitą prywatność.
Model Gemma 4 12B można pobrać za darmo i uruchomić na kompatybilnym laptopie korzystając choćby z aplikacji LM Studio, Ollama czy Google AI Edge Gallery.
