Ministerstwo Cyfryzacji opublikowało w mediach społecznościowych wpis, w którym ostrzega przed zagrożeniami płynącymi z nieprzemyślanego wykorzystywania usługi ChatGPT w czasie realizacji uczelnianych projektów czy zadań. Chociaż w rękach wielu osób ChatGPT jest nieocenioną pomocą, nie zmienia to faktu, że bywa omylny, przez co nie można postrzegać go jako "idealnego" źródła pomagającego w odrabianiu prac - a niektórzy z pewnością tak robią.
Jak zwraca uwagę Ministerstwo Cyfryzacji, ChatGPT działa w oparciu o wiedzę, którą wcześniej został wytrenowany. Nie ma jednak umiejętności weryfikowania faktów, a mimo to potrafi tworzyć teksty brzmiące w pełni przekonująco - jedynie na podstawie tego, co wcześniej "odczytał" z innych artykułów. W konsekwencji może tworzyć odpowiedzi, które brzmią na przykład jak definicje z encyklopedii, mimo że nie ma całkowitej pewności, że udzielana odpowiedź czy porada jest prawdziwa.
ChatGPT to nie wszystko
Chociaż ChatGPT może być więc cennym narzędziem w rękach każdego studenta, warto znać jego ograniczenia. Podobnie jak każde inne oprogramowanie i usługa, bywa po prostu omylny, a przez to nie można traktować podawanej przez niego wiedzy jako ostatecznego rozwiązania danego problemu, bez wcześniejszej weryfikacji źródeł we własnym zakresie.
DLA CIEBIESamsung - przegląd oferty lodówek
Halucynacje AI to typowe zagrożenie przypisywane głównie chatbotom. Konieczność dostarczenia użytkownikowi możliwie szybkiej odpowiedzi na zadane pytanie i praca w oparciu o wiedzę, którą trudno zweryfikować przez automat, prowadzą do generowania odpowiedzi, które nie zawsze są zgodne z prawdą. Nie jest to intencjonalne działanie AI, jednak bez wątpienia z punktu widzenia użytkownika należy uznać je za wadę.
Redaktor Prowadzący dobreprogramy.pl, dziennikarz obszaru Technologie w Wirtualnej Polsce. Śledzi tematykę cyberbezpieczeństwa, systemów operacyjnych, aplikacji "dla każdego" oraz technologii w świecie motoryzacji i smart home. W branży od 2014 roku.
