AI dało się nabrać. Fake z Reddita "uśmiercił" Trumpa
AI dało się nabrać. Fake z Reddita "uśmiercił" Trumpa
Podsumowanie generowane przez AI w wyszukiwarce DuckDuckGo miało zasugerować, że Donald Trump nie żyje — choć informacja była całkowicie zmyślona. Fałszywy wątek miał wyjść z dyskusji na Reddicie, a dr Mateusz Łabuz z Uniwersytetu w Hamburgu zwraca uwagę, że modele językowe chętnie cytują fora, bo ich język brzmi dla odbiorców bardziej "ludzko".
Wyszukiwarka DuckDuckGo podała nieprawdziwe informacje o śmierci Trumpa
W ostatnich dniach pojawiły się doniesienia, że DuckDuckGo w sekcji podsumowań generowanych przez sztuczną inteligencję miało podawać fałszywą informację o śmierci Donalda Trumpa. W tej wersji wydarzeń prezydent Stanów Zjednoczonych miał umrzeć 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Kluczowe jest to, że nieprawdziwa historia miała zostać zaprezentowana jako wynik przygotowany przez AI, co mogło uwiarygadniać ją w oczach odbiorców.
Rząd USA chce testować modele AI na 30 dni przed premierą
Reddit jako źródło cytatów AI: skąd mógł wziąć się fake news?
Według opisywanego scenariusza mechanizm AI mógł oprzeć się na treściach z Reddita — serwisu działającego jak rozbudowane forum, podzielone na tematyczne społeczności (subreddity). Wskazywano m.in. na r/poisonai, gdzie użytkownicy mieli celowo produkować i rozpowszechniać przekaz o rzekomej śmierci prezydenta USA, licząc na to, że trafi on do systemów wykorzystujących duże modele językowe.
Dr Mateusz Łabuz z Uniwersytetu w Hamburgu (IFSH), autor książki "Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji", tłumaczył w rozmowie z PAP, że na Reddicie mogło chodzić o świadome ośmieszenie i "podejście" sztucznej inteligencji. Jak oceniał, część użytkowników miała działać z przekonaniem, że takie wątki z czasem mogą zacząć przenikać do modeli i być przez nie przywoływane.
To, że Reddit bywa wyjątkowo mocno obecny w odpowiedziach generowanych przez sztuczną inteligencję, potwierdzają przywołane badania. W analizie Peec AI z marca 2026 r. forum znalazło się na pierwszym miejscu wśród najczęściej cytowanych domen przez główne modele AI. Z kolei według agencji marketingowej The Digital Bloom w 2025 r. na części modeli odnotowano wzrost cytowań Reddita o ok. 450 proc.
Naturalny język, 116 mln użytkowników i "upvote". Co wybiera AI?
Dr Łabuz wskazywał trzy elementy, które mogą tłumaczyć, dlaczego Reddit tak dobrze "pasuje" do sposobu działania modeli. Po pierwsze chodzi o ogrom autentycznych wypowiedzi — materiał, na którym łatwo uczyć się stylu przypominającego codzienną rozmowę.
Ekspert podkreślał, że w wielu sytuacjach wypowiedź brzmi bardziej wiarygodnie, gdy model bazuje na języku forów niż na stylu encyklopedycznym czy książkowym. Drugą kwestią jest rozmiar i różnorodność dyskusji. Z danych serwisu ma wynikać, że Reddit gromadzi 116 mln aktywnych użytkowników dziennie, co przekłada się na masę komentarzy o różnych perspektywach. Trzecim elementem jest system oceniania treści: upvote’y i downvote’y. Zdaniem dr. Łabuza również takie sygnały mogą być dla AI wskazówką, gdy model "waży" wiarygodność i użyteczność danego wpisu.
Wątpliwości budzi jednak podatność modeli na treści tworzone przez użytkowników (UGC). Badanie naukowców z Uniwersytetu Cornell z czerwca br. ("Deep-research agents can be poisoned via user-generated content") ma pokazywać, że firmy mogą umieszczać w serwisach takich jak Reddit, Quora czy Wikipedia przekazy promocyjne po to, by wpływać na to, co zwróci sztuczna inteligencja.
Jeden z autorów publikacji, Hal Triedman, mówił portalowi 404 media, że nawet bardzo krótki fragment — "zaledwie 13 słów" — zaczerpnięty z serwisów UGC może sprawić, iż agenci AI dość konsekwentnie zaczną generować treści o charakterze spamu lub oszustwa. Jak podkreślał, przeprowadzenie takiej operacji ma być proste.
Dr Łabuz, pytany o ryzyko wynikające z cytowania forów przez AI, zwracał uwagę na zjawisko "LLM grooming". W tej technice sieć jest zalewana wieloma bardzo podobnymi komunikatami dezinformującymi, tak aby wpłynąć na to, co później "podaje" sztuczna inteligencja.
Ekspert przywołał też ustalenia badania portalu NewsGuard i organizacji American Sunlight Project: na przełomie 2024/2025 r. popularne modele językowe miały powielać w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej "Prawda".
Na koniec dr Łabuz zaznaczał, że Reddit — jak inne duże platformy — nie jest wolny od fałszywych treści. W jego ocenie Rosja i Chiny mogą obserwować takie miejsca i traktować je jako element "arsenału" działań informacyjnych. Dlatego w korzystaniu z modeli AI kluczowe pozostają czujność i sprawdzanie faktów. Jak podsumował ekspert: "Myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania".
Redaktor prowadzący serwis Benchmark.pl, dziennikarz technologiczny z ponad 15-letnim doświadczeniem. Specjalizuje się w tematach związanych ze sprzętem komputerowym, rozwojem technologii AI oraz trendami w branży IT. W swojej pracy stawia na rzetelność, praktyczne podejście i pasję do nowinek technologicznych, koncentrując się na ocenie produktów pod kątem ich wartości i opłacalności dla użytkowników. W wolnym czasie angażuje się w wolontariat, aktywnie spędza czas oraz rozwija swoje zainteresowania i pasje.