Trei bărbați din Roseville, California, au folosit Google Gemini ca să-și planifice urcarea pe Muntele Shasta (4.322 m), un vârf din nordul Californiei. Chatbot-ul le-a spus să se pregătească pentru o tură de aproximativ 8 ore și să ia carbohidrați simpli în locul grăsimilor, „pentru că grăsimile se digeră prea greu”. Au plecat cu rucsacuri de o zi. Urcarea a durat 16 ore, iar grupul a fost salvat abia a doua zi.
Ce le-a spus AI-ul, ce au dus cu ei
Pornind de la estimarea de opt ore și de la sfatul despre mâncare, cei trei — începători — au luat prea puțină apă și hrană, fără adăpost și fără haine groase. Nimic din toate acestea nu era suficient pentru ce a urmat.
Cum a decurs
| Moment | Ce s-a întâmplat |
|---|---|
| 29 august | Tabără la circa 2.560 m altitudine |
| duminică, ~03:00 | Pleacă spre vârf cu rucsacuri de o zi |
| ~19:00 | Ajung pe vârf — cu multe ore după ora recomandată de întoarcere (prânzul) |
| pe întuneric | Coboară, telefonul cu aplicația de navigație se descarcă, se rătăcesc de pe ruta Clear Creek în Mud Creek Canyon |
| ~o oră mai târziu | Sună la biroul șerifului din Siskiyou pentru indicații |
| peste noapte | Un membru cade și se accidentează la genunchi; grupul rămâne blocat în canion |
| luni dimineața | Rangerii de alpinism ai U.S. Forest Service, cu echipa de salvare a șerifului, ajung la ei; urmează încă ~9 ore de coborât pe jos |
Ce au spus după
„Ne-am bazat prea mult pe AI, în loc de propria gândire critică”, au recunoscut drumeții în fața unui adjunct al șerifului. Biroul șerifului din comitatul Siskiyou recomandă sunatul la stația de rangeri Mount Shasta înainte de orice urcare și avertizează să nu te bazezi niciodată doar pe AI pentru o activitate în care îți riști viața. Google nu a comentat public incidentul.
De ce contează
Nu e un simplu „AI a greșit un fapt”. Este tiparul: un chatbot livrează răspunsuri care sună plauzibil și par foarte sigure pe ele chiar și când sunt periculos de greșite — mai ales la activități de nișă, unde contează experiența și cunoașterea locului. Pentru drumeții pe munte, ture pe apă, doze de medicamente sau chestiuni juridice și financiare cu miză mare, un răspuns de chatbot este un punct de plecare, nu o sursă finală — verifică-l cu un om competent. Am explicat pe larg de ce halucinează modelele AI și cum le recunoști.
Fii primul care comentează acest articol!