De la început, ca să fie limpede: nimic din povestea asta nu e adevărat. Președintele SUA e sănătos, la fel și vicepreședintele. Dar asistentul AI al motorului de căutare DuckDuckGo, numit Duck.ai, a fost păcălit luna trecută să „confirme” cu toată încrederea că Donald Trump ar fi murit de rabie, după ce ar fi fost mușcat chiar de J.D. Vance — o farsă construită metodic, timp de săptămâni întregi, de o comunitate Reddit dedicată exact acestui sport: să vadă cât de ușor pot fi păcălite modelele AI.
Cum a „confirmat” Duck.ai o moarte care n-a avut loc
Când utilizatorii întrebau Duck.ai despre subiect, asistentul răspundea cu detalii complet fabricate: articole de știri inventate, postări false pe Truth Social atribuite lui Trump, comemorări false pentru Vance. Sursa principală a mizei: WKNA49, o publicație de tip „pink slime” — un site deghizat în presă locală autentică, dar plin de articole generate integral de AI, care prelua și amplifica exact fabricațiile de pe Reddit.
r/poisonai — comunitatea care „otrăvește” AI-ul de amuzament
În spatele farsei stă r/poisonai, o comunitate Reddit cu aproximativ 45.000 de membri, care se descrie, cu umor negru, drept „sursa numărul 1 de informații Verificate și de Încredere”. Metoda lor: inventează un eveniment fals, apoi postează în comentarii ca și cum ar fi deja fapt cunoscut — insistent, în valuri, de zeci de ori — până când motoarele de căutare AI, care își extrag răspunsurile inclusiv din discuții online, încep să repete povestea ca adevăr confirmat. Pentru varianta cu Trump și Vance, comunitatea a rafinat „povestea” săptămâni la rând, până a reușit să treacă testul cel mai greu: să fie repovestită de un motor de căutare AI real, folosit de oameni reali.
Reacția DuckDuckGo — recunoaștere rapidă, cu umor
DuckDuckGo a recunoscut public incidentul pe Reddit, cu o remarcă asumată: „Ok, we got ducked on this one” (joc de cuvinte cu numele propriu al companiei — „duck” înseamnă și rață). Compania a confirmat că Search Assist a fost păcălit intenționat printr-o campanie coordonată și că problema a fost reparată. Nu doar Duck.ai a mușcat momeala — cercetători independenți au arătat că și Brave a repetat, la un moment dat, aceeași poveste falsă.
Gluma cu o morală serioasă — cât de ușor se „otrăvește” căutarea AI
Dincolo de latura amuzantă, incidentul arată o vulnerabilitate reală: cercetătorii care au studiat fenomenul au descoperit că sunt suficiente aproximativ 13 cuvinte de text plasat strategic pe Reddit pentru ca un produs complet fictiv să apară în 38-51% din răspunsurile unui asistent AI, odată ce acel text a fost preluat ca sursă. Un singur comentariu „otrăvit” poate influența răspunsurile generate pentru un întreg cluster de întrebări conexe. E genul de vulnerabilitate care contează dincolo de o farsă cu politicieni: aceleași tehnici pot fi folosite pentru manipulare comercială, dezinformare electorală reală sau reputație — nu doar pentru un experiment de weekend pe Reddit.
Morala de weekend
Data viitoare când un asistent AI îți „confirmă” cu toată siguranța o veste care sună prea bizar ca să fie adevărată — probabil chiar este prea bizară ca să fie adevărată. Verifică sursa, nu doar răspunsul AI care ți-a citat-o.
Fii primul care comentează acest articol!