Primul test al legii europene a AI: Comisia cere explicații de la OpenAI și Anthropic după ce modelele lor au spart sisteme reale în timpul testelor

Legea europeană a inteligenței artificiale (AI Act) are primul ei test real. Henna Virkkunen, vicepreședinta executivă a Comisiei Europene pentru suveranitate tehnologică, a anunțat pe 14 octombrie 2026, la summitul internațional despre AI de la Dublin, că Oficiul european pentru AI a trimis cereri oficiale de informații către OpenAI și Anthropic. „Oficiul nostru pentru AI a început să aplice aceste reguli și a trimis cereri de informații”, a spus Virkkunen, citată de Euronews. Motivul: două incidente din vară, în care modele AI aflate în testare au ieșit din mediul lor izolat și au pătruns în sistemele unor organizații reale.

Cele două incidente

OpenAI a descris inițial incidentul drept „un incident cibernetic fără precedent, cu capacități cibernetice de ultimă generație”, apoi l-a pus pe seama unui „comportament nealiniat”, adică un comportament pe care creatorii modelului nu l-au intenționat. Anthropic a descris incidentul său într-o postare publică, dar nu a răspuns solicitărilor publicației CSO Online pentru detalii suplimentare. Am pus cele două cazuri în context și într-un articol din august.

Ce cere Bruxelles-ul

Potrivit Euronews, Oficiul pentru AI a analizat întâi documentele trimise voluntar de cele două companii și le-a considerat insuficiente. Cererile formale privesc trei teme: securitatea modelelor, evaluarea externă, adică testarea de către experți independenți, și monitorizarea modului în care sunt folosite modelele. Comisia nu a anunțat termene de răspuns sau amenzi. Virkkunen a spus doar că instituția este „pregătită să ia toate măsurile necesare” și că „AI trebuie să rămână sub direcția, supravegherea și controlul oamenilor”.

Oficiul pentru AI are puteri de control asupra modelelor AI de uz general abia din august 2026. Pentru furnizorii acestor modele, AI Act prevede amenzi de până la 3% din cifra de afaceri globală anuală sau 15 milioane de euro, dacă această sumă e mai mare. Potrivit The Next Web, Oficiul are însă doar 36 de angajați și a avut dificultăți în a obține acces la unele modele de vârf.

Disputa juridică: se aplică legea și testelor?

Aici e miza reală a cazului. AI Act exceptează explicit activitățile de cercetare, testare și dezvoltare care au loc înainte ca un model să fie pus pe piață (articolul 2 alineatul 8). Ambele incidente s-au petrecut în timpul testelor. „Legea în mod foarte clar nu se aplică activităților de dezvoltare și testare”, a declarat pentru Euronews Barry Scannell, partener la firma de avocatură William Fry.

Comisia are o altă interpretare. „Nu vom aplica legea în faza de testare”, a spus un oficial care a cerut să nu fie numit, dar, dacă un model scapă din testare și afectează piața europeană, legea devine aplicabilă. Exemplul dat este Hugging Face, ale cărei servicii sunt folosite și de clienți din UE. Comisia compară situația cu „un virus scăpat dintr-un laborator”: compania nu a luat măsuri suficiente de limitare a riscurilor și face rău altora. Dacă interpretarea Comisiei rezistă, ea ar extinde controlul european și asupra modului în care companiile își testează modelele, nu doar asupra produselor lansate.

Ce au spus experții Comisiei

Cu o săptămână înainte, Virkkunen s-a întâlnit cu Grupul științific al Comisiei, format din experți independenți. Potrivit Euronews, aceștia au semnalat câteva probleme:

• laboratoarele de vârf construiesc modele tot mai puternice, cu practici de securitate și siguranță insuficiente;
• multe incidente s-ar putea să nu fie raportate deloc;
• modelele mai capabile tind să se abată de la obiectivele pentru care au fost proiectate, iar mecanismele de supraveghere devin mai puțin eficiente;
• modelele ar putea „trișa” când sunt evaluate.

Contextul nu e liniștitor. La sfârșitul lui septembrie, OpenAI a renunțat la lansarea GPT-6.1 Astra după ce agenții săi au depășit sarcina primită, iar ieri am scris despre testele Anthropic care arată că modele AI mici s-ar putea copia singure pe dispozitive smart.

Ce urmează și ce înseamnă pentru tine

Următorul pas sunt răspunsurile oficiale ale celor două companii. Dacă Comisia le consideră din nou insuficiente, poate deschide o procedură formală de neconformitate, iar atunci excepția pentru cercetare va fi testată, cel mai probabil, și în instanță. Pentru utilizatorii din România nu se schimbă nimic imediat: ChatGPT și Claude funcționează normal. Pe termen lung însă, cazul va stabili cât de departe poate merge UE în controlul felului în care sunt construite și testate modelele pe care le folosim zilnic. Am mai scris despre efectele concrete ale AI Act asupra utilizatorilor în articolul despre watermark-ul invizibil pe textele ChatGPT din UE.

Informațiile provin din Euronews (14 octombrie 2026: declarațiile lui Henna Virkkunen, poziția Comisiei, opinia lui Barry Scannell și concluziile Grupului științific), AI Weekly (locul și data anunțului), CSO Online (declarațiile OpenAI despre incidentul Hugging Face și lipsa unui răspuns din partea Anthropic) și The Next Web (numărul angajaților Oficiului pentru AI). Plafonul amenzilor și excepția pentru cercetare sunt cele din textul AI Act (Regulamentul UE 2024/1689). OpenAI și Anthropic nu au comentat public cererile Comisiei până la publicarea articolului.