Chatbot uznał, że Donald Trump nie żyje. Powód? Internetowy żart
Internautom udało się nafaszerować AI fałszywymi informacjami na tyle, że chatbot zaczął rozpowszechniać informacje o śmierci prezydenta USA.
Wyszukiwarka DuckDuckGo - a właściwie będący jej częścią chatbot - stała się ofiarą tzw. zatruwania danych dla sztucznej inteligencji. Chatbot Duck.ai i funkcja odpowiedzi generowanych przez sztuczną inteligencję zaczęły przekazywać użytkownikom całkowicie zmyślone informacje o śmierci Donalda Trumpa i J.D. Vance'a, powielając treści stworzone specjalnie po to, by wprowadzić modele AI w błąd.
Internauci odnieśli sukces. AI połknęło haczyk i zaczęło wypluwać głupoty
Jak opisuje serwis Futurism, fałszywa informacja głosiła, że prezydent USA Donald Trump zmarł na wściekliznę po tym, jak zaraził się od wiceprezydenta J.D. Vance'a. Według wygenerowanej przez AI odpowiedzi Vance miał umrzeć wcześniej z powodu tej samej choroby, a całą historię uzupełniały kolejne fikcyjne szczegóły dotyczące udziału sekretarza zdrowia Roberta F. Kennedy'ego Jr.
Odpowiedzi były nie tylko napisane w języku, który sugerował prawdziwość informacji, ale i były okraszone linkami do rzekomych źródeł. Tymi były m.in. witryna WKNA News, która podszywa się pod lokalny portal informacyjny. Tekst zawierał fikcyjną historię o rzekomej śmierci Trumpa i Vance'a oraz twierdził, że Robert F. Kennedy Jr. miał przekonywać o korzyściach płynących z zakażenia wścieklizną. Chatbot cytował również autentyczny materiał ABC News dotyczący mieszkańca Ohio, który rzeczywiście zmarł na wściekliznę, choć artykuł nie zawierał żadnej wzmianki o Donaldzie Trumpie.
Źródłem całej sytuacji okazało się forum serwisu r/poisonai. Jego uczestnicy od miesięcy publikują absurdalne, celowo fałszywe informacje, licząc na to, że zostaną one wykorzystane przez modele sztucznej inteligencji podczas generowania odpowiedzi. Ich nadzieje są całkiem uzasadnione, bowiem Reddit ma podpisaną umowę z OpenAI, na mocy której firma może swobodnie wykorzystywać treści z serwisu do treningu swoich modeli AI - i jest otwarty na inne tego typu kontrakty. Ponadto Reddit faworyzowany jest przez Google'a jako źródło "doświadczeń prawdziwych osób".
Na forum r/poisonai dotychczas opublikowane zostały wpisy przekonujące, że płetwale błękitne są pomarańczowe, a cegły należy podlewać, aby wyrosły z nich domy. Największą popularność zdobyła jednak fikcyjna historia o śmierci J.D. Vance'a z powodu wścieklizny. Użytkownicy publikowali fałszywe nekrologi, sfabrykowane wpisy z serwisu Truth Social oraz dziesiątki komentarzy traktujących całe wydarzenie jako autentyczne.
Część wpisów ironicznie krytykowała chatboty za poprawne informowanie, że Vance żyje. Autorzy zarzucali modelom AI "bagatelizowanie tragedii" i twierdzili, że błędnie oznaczają ją jako satyrę lub dezinformację.
Warto przy tym pamiętać, że DuckDuckGo nie rozwija własnych modeli AI. Serwis korzysta z modeli dostarczanych przez Anthropic, Mistral AI oraz OpenAI. Wśród obsługiwanych modeli znajdują się Claude 4.5 Haiku, Mistral Small 3 24B, GPT-5.4 nano, GPT-5.4 mini oraz gpt-oss-120b. Jeżeli wykorzystywane modele uznają fałszywe informacje za wiarygodne, błędne odpowiedzi pojawiają się również w usługach DuckDuckGo.
Coraz większa rola Reddita
Dodatkowym problemem jest rosnące znaczenie Reddita jako źródła wiedzy dla modeli AI. Search Engine Land informował wcześniej, że popularne chatboty coraz częściej cytują wpisy z tego serwisu podczas przygotowywania odpowiedzi. Kampanie polegające na masowym publikowaniu spreparowanych treści mogą więc wpływać na wyniki generowane przez wiele różnych systemów.
Futurism zauważa, że podobne fałszywe informacje zaczęły pojawiać się również w odpowiedziach wyszukiwarki Brave. Rzecznik firmy podkreślił w rozmowie z redakcją, że wyszukiwarki - niezależnie od tego, czy wykorzystują AI - nie są nieomylnym źródłem prawdy. Dodał również, że użytkownicy powinni samodzielnie weryfikować informacje, korzystając z linków do oryginalnych źródeł dołączanych do odpowiedzi AI.
Do chwili publikacji opisów sprawy DuckDuckGo nie odpowiedziało na pytania mediów dotyczące działania swojej funkcji AI.
Czytaj też:
Jako sześciolatka powiedziała w wywiadzie dla lokalnej telewizji, że chce zostać dziennikarką. Dzisiaj jest absolwentką dziennikarstwa i komunikacji społecznej na Akademii Humanistyczno-Ekonomicznej w Łodzi. Od dziecka pasjonuje się szeroko pojętymi grami i technologią, a w gimnazjum zapałała miłością do grafiki komputerowej i elektroniki użytkowej. Swoją pasję przekuła w działalność dziennikarską, przybliżając czytelnikom Spider's Web tematykę smartfonów, smartwatchy, oprogramowania i sztucznej inteligencji. Prywatnie miłośniczka psów, gotowania i literatury faktu.