Darmowa wersja ChatGPT dostała właśnie kopa. OpenAI wprowadza GPT-4o mini

Jedną z największych wad dużych modeli językowych jest ogromne zapotrzebowanie na moc obliczeniową, a tym samym na energię, co z kolei przekłada się na wysokie koszty użytkowania. 

Załóżmy, że jesteś programistą i chcesz stworzyć apkę pocztową, która wykorzystuje model GPT do generowania automatycznych odpowiedzi na maile. OpenAI pobierze od ciebie opłatę za każdą wygenerowaną wiadomość. Oczywiście chcesz zarabiać, więc przerzucisz ten koszt na swoich użytkowników. Dlatego im niższe koszty działania modelu, tym lepiej dla wszystkich. 

Nowy model promowany jest jako najtańszy LLM firmy OpenAI. Ta podaje swój cennik w przeliczeniu na milion tokenów, co ma stanowić ekwiwalent 750 000 słów lub książki liczącej 2500 stron. 

Oto porównanie cen wykorzystania modeli GPT-4o mini, GPT-4o oraz GPT-3.5 Turbo: 

Jak widać, GPT-4o mini jest o 70 proc. tańszy niż GPT 3.5 Turbo oraz o 97 proc. tańszy niż GPT-4o. Jednocześnie - jak wynika z przygotowanych przez OpenAI testów benchmarkowych - pod względem jakości działania plasuje się między nimi, a przy tym jest rekordowo szybki.  

Skoro GPT-4o mini jest lepszy, tańszy i szybszy niż 3.5 Turbo, nie dziwi, że OpenAI wdrożyło go już we własnej usłudze ChatGPT. Nowy model zastępuje wersję 3.5 w planach Free, Plus oraz Team. 

GPT-4o mini to model multimodalny, ale na razie potrafi jedynie analizować i generować tekst. W przyszłości mają do tego dołączyć obrazy, audio i video. 

Co to wszystko oznacza dla użytkowników? Po pierwsze - darmowa wersja ChatGPT powinna teraz udzielać lepszych odpowiedzi nawet po wyczerpaniu limitu wykorzystania GPT-4o. Po drugie - aplikacje wykorzystujące model technologię OpenAI mają szansę stać się w najbliższej przyszłości tańsze.