Chatbot AI bez internetu. Google Gemma w nowej wersji już jest
Google wypuścił nowy model AI o oznaczeniu Gemma 4 12B. Stanowi on lokalną alternatywę dla chatbota Gemini, bo można go uruchomić na laptopie z 16 GB pamięci RAM i nie wymaga połączenia z chmurą, co gwarantuje pełną prywatność.
Google przekonuje, że Gemma 4 12B zachowuje zdrowy kompromis między możliwościami a wymaganiami sprzętowymi. Z jednej strony jest znacznie potężniejszy niż modele 4-miliardowe, a z drugiej lżejszy niż 26-miliardowe, dzięki czemu do działania wystarczy mu średniej klasy laptop.
To, co wyróżnia nową architekturę, to rezygnacja z zewnętrznych enkoderów multimodalnych. Zamiast tego dane wizualne i dźwiękowe trafiają bezpośrednio do rdzenia modelu, dzięki czemu zużywa znacznie mniej pamięci i działa efektywniej, oferując zaawansowane wnioskowanie przy obniżonym apetycie na zasoby systemowe.
Gemma 4 12B radzi sobie z analizą i przetwarzaniem tekstu, rozpoznawaniem obrazu czy transkrypcją nagrań audio, a to wszystko bez połączenia z chmurą. Z uwagi na lokalny charakter modelu, na większości laptopów działa on jednak znacznie wolniej niż modele chmurowe, a ponadto nie ma aktualnej wiedzy o świecie. W zamian zapewnia jednak całkowitą prywatność.
Model Gemma 4 12B można pobrać za darmo i uruchomić na kompatybilnym laptopie korzystając choćby z aplikacji LM Studio, Ollama czy Google AI Edge Gallery.
Od 2024 roku pełni funkcję szefa działu Mobile w serwisie benchmark.pl. W latach 2012–2023 związany był z Komórkomanią, gdzie od 2015 roku sprawował rolę redaktora prowadzącego. Swoją wiedzę i pasję do technologii rozwijał również prowadząc oficjalne blogi dla takich globalnych marek jak Nokia, Microsoft i LG. Studiował na kierunku reklama i promocja na Wydziale Nauk Politycznych i Dziennikarstwa Uniwersytetu im. Adama Mickiewicza w Poznaniu. Poza technologią, jego zainteresowania obejmują kino, gry wideo, fizykę kwantową i astronomię.
