Sztuczna inteligencja DuckDuckGo zaczęła twierdzić, że Trump zmarł na wściekliznę.
Platforma DuckDuckGo znalazła się w centrum skandalu, gdy jej tryb sztucznej inteligencji zaczął przedstawiać fikcyjną wiadomość o śmierci Donalda Trumpa jako potwierdzony fakt.
Fałszywe „wiadomości” ze szczegółami i źródłami
Wygenerowana przez wyszukiwarkę odpowiedź głosiła, że Donald Trump zmarł 7 czerwca 2026 roku na wściekliznę. Tekst zawierał również fikcyjne szczegóły, w tym śmierć wiceprezydenta J.D. Vance'a i udział Roberta Kennedy'ego Jr. w „leczeniu”.
Jednak faktyczne źródła albo nie zawierają takich danych, albo są zupełnie nieistotne dla tematu. Niektóre linki w odpowiedziach prowadziły do materiałów, które nie potwierdzały wniosków systemu.
Jak to się stało?
Zdaniem badaczy sytuacja przypomina klasyczny przypadek „zatrucia danymi”. Fałszywe informacje są masowo publikowane w Internecie z wyprzedzeniem, po czym zaczynają przedostawać się do zbiorów danych szkoleniowych i wyszukiwawczych sztucznej inteligencji.
Aby to osiągnąć, absurdalne „wiadomości” są rozpowszechniane w Internecie, w tym w społecznościach Reddita. Użytkownicy często tworzą tam fałszywe historie, a następnie obserwują, jak fałszywe informacje zaczynają pojawiać się w odpowiedziach różnych systemów sztucznej inteligencji.
Dlaczego sztuczna inteligencja dała się na to nabrać?
Problem polega na tym, że sztuczna inteligencja wyszukiwania nie zawsze odróżnia wiarygodne źródła od przekonująco przedstawionych fałszywych wiadomości. Jeśli informacja wydaje się być newsem i pojawia się w wielu miejscach, system może zacząć postrzegać ją jako fakt.
W rezultacie powstaje efekt „zepsutego telefonu”: żart lub eksperyment przeradza się w pseudorzeczywistość, którą wychwytują algorytmy.
Reakcja i pozycja DuckDuckGo
DuckDuckGo stwierdziło, że wyszukiwarki – nawet te oparte na sztucznej inteligencji – nie są źródłem prawdy. Podkreślono, że ważne jest, aby użytkownicy samodzielnie weryfikowali fakty i nie polegali na automatycznych odpowiedziach wyrwanych z kontekstu.
Firma podkreśliła, że odpowiedzi sztucznej inteligencji są generowane w oparciu o otwarte dane, co oznacza, że mogą zawierać błędy lub celowo zniekształcone publikacje.
Za: https://thecode.media/duckduckgo-ai-nachal-utverzhdat-o-smerti-trampa-ot-beshenstva/