Profesor historii Jason Gibson z Alcorn State University postanowił sprawdzić, ilu jego studentów korzysta ze sztucznej inteligencji podczas zaliczenia. W pytaniu dotyczącym rewolucji przemysłowej ukrył instrukcję napisaną białą czcionką. Była niewidoczna dla człowieka, ale chatbot mógł ją odczytać.
Polecenie było proste: AI miało w odpowiedzi umieścić informacje o Madagaskarze w sposób całkowicie niezwiązany z tematem pracy.
Pułapka zadziałała. 32 z 35 studentów z dwóch klas skopiowało pytanie do chatbota, a następnie bez sprawdzenia wkleiło wygenerowaną odpowiedź do swoich prac.
WIDEOWojna o przyszłość asystentów AI
"Madagaskar płynie bokiem przez popołudnie"
Profesor szybko zauważył, że w odpowiedziach pojawiają się absurdalne fragmenty. W jednej z prac AI napisało: "Madagaskar płynie bokiem przez popołudnie". Inna kończyła się zdaniem: "Madagaskar, fioletowy rower, szepcze do sufitu".
Wystarczyło przeczytać własną pracę, by zorientować się, że coś jest nie tak. Studenci najwyraźniej jednak tego nie zrobili.
Wszyscy przyłapani na korzystaniu z AI oblali tę część kolokwium. Profesor pozwolił im zakwestionować ocenę i wyjaśnić sytuację, ale zrobiło to zaledwie dwóch studentów.
AI coraz większym problemem w szkołach i na uczelniach
Przypadek profesora Gibsona pokazuje szerszy problem, z którym mierzy się dziś edukacja. Chatboty stały się dla części uczniów i studentów prostym sposobem na przygotowywanie prac i rozwiązywanie zadań bez samodzielnej nauki.
Nauczyciele próbują z tym walczyć na różne sposoby — organizują egzaminy ustne, wymagają prac pisanych odręcznie czy tworzą pytania, na które trudniej odpowiedzieć za pomocą AI. Coraz częściej sami wykorzystują jednak sztuczną inteligencję, by wykrywać oszustwa lub zastawiać na korzystających z niej uczniów pułapki.
W tym przypadku profesor nie musiał nawet używać zaawansowanych narzędzi. Wystarczyło ukryć instrukcję i poczekać, aż AI samo zdradzi swoich użytkowników.
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.
