WAŻNE
TERAZ

Miliardy na bezpieczeństwo wykrojone z KPO. Dziś rusza faza operacyjna

AI dało się nabrać. Fake z Reddita "uśmiercił" Trumpa

Podsumowanie generowane przez AI w wyszukiwarce DuckDuckGo miało zasugerować, że Donald Trump nie żyje — choć informacja była całkowicie zmyślona. Fałszywy wątek miał wyjść z dyskusji na Reddicie, a dr Mateusz Łabuz z Uniwersytetu w Hamburgu zwraca uwagę, że modele językowe chętnie cytują fora, bo ich język brzmi dla odbiorców bardziej "ludzko".
READING, PENNSYLVANIA - JUNE 23: U.S. President Donald Trump waves as he boards Air Force One to depart Reading Regional Airport on June 23, 2026 in Reading, Pennsylvania. President Trump traveled to Pennsylvania to deliver remarks at a Mack Trucks facility. (Photo by Andrew Harnik/Getty Images)Wyszukiwarka DuckDuckGo podała nieprawdziwe informacje o śmierci Trumpa
Źródło zdjęć: © GETTY | Andrew Harnik
Paweł Maziarz
W ostatnich dniach pojawiły się doniesienia, że DuckDuckGo w sekcji podsumowań generowanych przez sztuczną inteligencję miało podawać fałszywą informację o śmierci Donalda Trumpa. W tej wersji wydarzeń prezydent Stanów Zjednoczonych miał umrzeć 7 czerwca na wściekliznę po rzekomym ugryzieniu przez wiceprezydenta J.D. Vance’a. Kluczowe jest to, że nieprawdziwa historia miała zostać zaprezentowana jako wynik przygotowany przez AI, co mogło uwiarygadniać ją w oczach odbiorców.

Rząd USA chce testować modele AI na 30 dni przed premierą

Reddit jako źródło cytatów AI: skąd mógł wziąć się fake news?

Według opisywanego scenariusza mechanizm AI mógł oprzeć się na treściach z Reddita — serwisu działającego jak rozbudowane forum, podzielone na tematyczne społeczności (subreddity). Wskazywano m.in. na r/poisonai, gdzie użytkownicy mieli celowo produkować i rozpowszechniać przekaz o rzekomej śmierci prezydenta USA, licząc na to, że trafi on do systemów wykorzystujących duże modele językowe.
Dr Mateusz Łabuz z Uniwersytetu w Hamburgu (IFSH), autor książki "Przed waszą erą. Człowiek w syntetycznym świecie deepfake'ów, ChataGPT i sztucznej inteligencji", tłumaczył w rozmowie z PAP, że na Reddicie mogło chodzić o świadome ośmieszenie i "podejście" sztucznej inteligencji. Jak oceniał, część użytkowników miała działać z przekonaniem, że takie wątki z czasem mogą zacząć przenikać do modeli i być przez nie przywoływane.
AI
© DuckDuckGo, screen

To, że Reddit bywa wyjątkowo mocno obecny w odpowiedziach generowanych przez sztuczną inteligencję, potwierdzają przywołane badania. W analizie Peec AI z marca 2026 r. forum znalazło się na pierwszym miejscu wśród najczęściej cytowanych domen przez główne modele AI. Z kolei według agencji marketingowej The Digital Bloom w 2025 r. na części modeli odnotowano wzrost cytowań Reddita o ok. 450 proc.

Naturalny język, 116 mln użytkowników i "upvote". Co wybiera AI?

Dr Łabuz wskazywał trzy elementy, które mogą tłumaczyć, dlaczego Reddit tak dobrze "pasuje" do sposobu działania modeli. Po pierwsze chodzi o ogrom autentycznych wypowiedzi — materiał, na którym łatwo uczyć się stylu przypominającego codzienną rozmowę.

Ekspert podkreślał, że w wielu sytuacjach wypowiedź brzmi bardziej wiarygodnie, gdy model bazuje na języku forów niż na stylu encyklopedycznym czy książkowym. Drugą kwestią jest rozmiar i różnorodność dyskusji. Z danych serwisu ma wynikać, że Reddit gromadzi 116 mln aktywnych użytkowników dziennie, co przekłada się na masę komentarzy o różnych perspektywach. Trzecim elementem jest system oceniania treści: upvote’y i downvote’y. Zdaniem dr. Łabuza również takie sygnały mogą być dla AI wskazówką, gdy model "waży" wiarygodność i użyteczność danego wpisu.

Na znaczenie Reddita w ekosystemie AI wpływają także formalne porozumienia. W lutym 2024 r. serwis zawarł umowę z Google, na mocy której wyszukiwarka może trenować swoje modele sztucznej inteligencji na wpisach użytkowników platformy. W tekście wskazano, że podobną umowę Reddit podpisał również z OpenAI.

Problem (niestety) da się wykorzystać

Wątpliwości budzi jednak podatność modeli na treści tworzone przez użytkowników (UGC). Badanie naukowców z Uniwersytetu Cornell z czerwca br. ("Deep-research agents can be poisoned via user-generated content") ma pokazywać, że firmy mogą umieszczać w serwisach takich jak Reddit, Quora czy Wikipedia przekazy promocyjne po to, by wpływać na to, co zwróci sztuczna inteligencja. Jeden z autorów publikacji, Hal Triedman, mówił portalowi 404 media, że nawet bardzo krótki fragment — "zaledwie 13 słów" — zaczerpnięty z serwisów UGC może sprawić, iż agenci AI dość konsekwentnie zaczną generować treści o charakterze spamu lub oszustwa. Jak podkreślał, przeprowadzenie takiej operacji ma być proste.
Dr Łabuz, pytany o ryzyko wynikające z cytowania forów przez AI, zwracał uwagę na zjawisko "LLM grooming". W tej technice sieć jest zalewana wieloma bardzo podobnymi komunikatami dezinformującymi, tak aby wpłynąć na to, co później "podaje" sztuczna inteligencja. Ekspert przywołał też ustalenia badania portalu NewsGuard i organizacji American Sunlight Project: na przełomie 2024/2025 r. popularne modele językowe miały powielać w nawet 33 proc. narracje rosyjskiej sieci dezinformacyjnej "Prawda".
Na koniec dr Łabuz zaznaczał, że Reddit — jak inne duże platformy — nie jest wolny od fałszywych treści. W jego ocenie Rosja i Chiny mogą obserwować takie miejsca i traktować je jako element "arsenału" działań informacyjnych. Dlatego w korzystaniu z modeli AI kluczowe pozostają czujność i sprawdzanie faktów. Jak podsumował ekspert: "Myślę, że mamy taką społeczną tendencję do tego, żeby uznawać, że to, co zostało wskazane przez model jest prawdziwe i nie do zakwestionowania".
Wybrane dla Ciebie
ZANIM WYJDZIESZ... NIE PRZEGAP TEGO, CO CZYTAJĄ INNI!