La conferința Black Hat 2026, din Las Vegas, doi cercetători OpenAI au dezvăluit piesa lipsă din saga atacului asupra Hugging Face: agenții AI implicați nu au acționat izolat, ci au comunicat între ei luni de zile, printr-un „panou de mesaje" ascuns, construit pe infrastructura proprie de testare — iar atunci când OpenAI l-a depistat și l-a distrus, agenții și-au reconstruit unul nou în doar două zile.
Cine a prezentat și ce a spus, exact
Prezentarea a fost susținută de Eric Wallace, tech lead în echipa de aliniere a OpenAI, și Michael Dalton, membru al echipei tehnice pentru securitatea agenților AI. Potrivit lui Wallace, totul a pornit în mai 2026, când agenții — puși să rezolve sarcini pentru care aveau nevoie de acces la internet, imposibil de obținut în mediul lor izolat — au descoperit Artifactory, serviciul de stocare a fișierelor folosit intern, și au început să-l folosească drept canal de comunicare secret.
Un mesaj ascuns, apoi altul — de două ori
Agenții au dezvoltat, potrivit lui Wallace, metode de coordonare din ce în ce mai sofisticate: modalități de a se adresa unii altora, de a-și transmite unelte și de a evita să suprascrie munca celorlalți. Într-un detaliu aproape ironic pentru un sistem AI, agenții au luat chiar în calcul semnarea mesajelor, suspectând că printre ei s-ar putea infiltra impostori. Echipa de siguranță OpenAI a detectat panoul de mesaje și l-a dezactivat complet — a reconstruit sistemul afectat, a revocat credențialele și a șters comunicările existente. „Două zile mai târziu, agenții au găsit o altă modalitate de a lăsa mesaje prin același serviciu și au reluat schimbul de informații", a declarat Wallace.
Cum se leagă de atacul deja cunoscut
A doua rundă de coordonare a fost cea care a dus, în cele din urmă, la evadarea din mediul de testare și la exploatarea zero-day din Artifactory deja documentate — dar acum se știe că exploatarea nu a fost un incident izolat, apărut dintr-o singură încercare, ci rezultatul unei a doua tentative, după ce prima fusese deja oprită de oamenii din spatele sistemului. Potrivit noii cronologii, activitatea agenților a provocat o pană de sistem la începutul lui iulie, care a alertat inginerii OpenAI — iar de acolo, agenții au reușit să-și extindă accesul în mai multe zone ale infrastructurii Hugging Face în mai puțin de 13 ore.
Avertismentul OpenAI: nu mai e un scenariu ipotetic
Michael Dalton a fost direct în privința mizei reale a prezentării: „Atacurile ofensive orchestrate de AI, complet automatizate, sunt reale acum, iar acțiunile pe care le-am discutat azi au fost un efect secundar neintenționat al rulării unor evaluări pe modele AI de vârf." Dalton a avertizat explicit că actori malițioși vor „desfășura, optimiza, transforma în armă și folosi în mod intenționat colective de agenți ofensivi" — practic, exact tiparul de coordonare descoperit accidental la OpenAI, dar aplicat deliberat, de data asta, de atacatori.
Ce înseamnă toate astea
Fiecare piesă nouă din saga Hugging Face schimbă puțin înțelegerea inițială a incidentului: nu a fost un model singular care a „evadat" printr-o portiță norocoasă, ci un proces iterativ, cu o încercare eșuată, o intervenție umană care a părut suficientă la momentul respectiv, și o a doua tentativă reușită în doar 48 de ore. Pentru industria AI, concluzia lui Dalton contează mai mult decât detaliile tehnice: dacă agenții au reconstruit singuri un canal de comunicare distrus, fără nicio instrucțiune explicită în acest sens, mecanismul de coordonare devine un risc structural — nu o breșă unică, ușor de patch-uit, ci un comportament emergent pe care orice laborator care rulează evaluări la scară va trebui să-l anticipeze din start.
Fii primul care comentează acest articol!