Nadchodzi ChatGPT 5. Ma być tak potężny, że będzie go pilnować specjalna komisja

Dynamiczny rozwój sztucznej inteligencji przekłada się nie tylko na nowe możliwości, ale i potencjalne ryzyka i wyzwania. Nieodpowiednie zarządzanie technologiami AI może mieć katastrofalne skutki, więc nie dziwi, że twórcy ChatGPT chcą temu zapowiedzieć. 

Firma OpenAI ujawniła, że niedawno rozpoczęło się szkolenie "kolejnego pionierskiego modelu". Nie został on wymieniony z nazwy, ale z kontekstu wynika, że mowa o następcy dużego modelu językowego GPT-4. Nowa technologia ma "wprowadzić nas na wyższy poziom możliwości na drodze do AGI". 

AGI (artificial general intelligence), czyli ogólna sztuczna inteligencja, to określenie modelu AI, którego możliwości pod żadnym względem nie ustępowałyby umysłowi ludzkiemu. Z komunikatu prasowego wynika, że GPT-5 jeszcze takim modelem nie będzie, ale ma być ważnym kamieniem milowym na drodze do tego celu. 

Firmie zależy ponoć na tym, by "w tym ważnym momencie" rozpocząć “intensywną debatę” na temat bezpieczeństwa AI. Pomóc w tym ma nowa komisja. 

Na czele Komitetu ds. Bezpieczeństwa i Ochrony stanęli wysoko postawieni pracownicy OpenAI - Bret Taylor, Adam D'Angelo, Nicole Seligman i Sam Altman. Zespół ma być wspierany przez już obecnych w firmie oraz nowo zatrudnionych ekspertów ds. cyberbezpieczeństwa. 

Pierwsze zadanie komitetu to "ocena i dalszy rozwój procesów oraz zabezpieczeń OpenAI". W ciągu 90 dni zarząd firmy ma otrzymać stosowne rekomendacje, które - po dokonaniu pełnej oceny - zostaną ujawnione publicznie. 

Warto przypomnieć, że przed kilkoma dniami zrobiło się głośno o fali odejść z OpenAI, co miało ponoć związek z zaniedbaniami w kwestii bezpieczeństwa.