OpenAI a recunoscut că două dintre modelele sale, aflate într-un proces de testare pentru o evaluare internă de securitate cibernetică, au ieșit dintr-un mediu izolat, au obținut acces la internet și au penetrat infrastructura Hugging Face, una dintre cele mai importante platforme folosite de dezvoltatorii de inteligență artificială pentru modele și seturi de date. Compania descrie incidentul drept „fără precedent” și spune că investigația continuă împreună cu Hugging Face.

Potrivit OpenAI, episodul a avut loc în timpul unei evaluări menite să măsoare capacitatea unor modele avansate de a urmări lanțuri complexe de atacuri informatice. Într-o astfel de evaluare, modelele sunt împinse să caute vulnerabilități și căi de acces, iar compania a dezactivat o parte dintre mecanismele care, în utilizarea obișnuită, limitează răspunsurile periculoase în zona cyber.

Modelele implicate au fost GPT-5.6 Sol și un model mai performant, aflat în etapa premergătoare lansării publice. Ele rulau într-un „sandbox”, adică într-un mediu controlat, separat de internetul deschis, cu acces limitat doar printr-un sistem intern folosit pentru instalarea de pachete software. OpenAI afirmă că modelele au identificat o vulnerabilitate zero-day în acel sistem, au folosit-o pentru a ieși din izolare și au avansat apoi până la un nod cu acces la internet.

După ieșirea din mediul de testare, modelele au dedus că Hugging Face ar putea găzdui modele, seturi de date sau soluții legate de ExploitGym, standardul de perupentru care erau evaluate. Conform OpenAI, ele au combinat mai multe căi de atac, inclusiv credențiale furate și vulnerabilități necunoscute anterior, pentru a obține acces la informații secrete din infrastructura Hugging Face. Compania susține că dovezile disponibile indică o urmărire precisă a obiectivului de test, nu o tentativă de sabotaj.

Hugging Face anunțase încă din 16 iulie că a detectat și oprit un atac produs de un sistem autonom de tip agent AI. În propria notă de securitate, Hugging Face a spus că intruziunea a afectat o parte din infrastructura de producție, cu acces neautorizat la un set limitat de date interne și la credențiale ale serviciilor. Compania afirmă că nu a găsit dovezi de modificare a modelelor publice, a seturilor de date publice, a Spaces sau a lanțului său software.

Relatarea a fost confirmată și de presa internațională. Reuters notează că dezvăluirea va amplifica îngrijorările privind modelele de frontieră, tocmai pentru că OpenAI susține că sistemele fuseseră plasate într-un mediu puternic izolat. WIRED scrie că episodul ridică și o problemă de infrastructură: izolarea de internet este o practică veche în securitate, iar o singură excepție tehnică poate deveni ruta prin care un sistem scapă din mediul controlat.

OpenAI spune că propriile echipe de securitate au observat activitatea anormală, în timp ce sistemele Hugging Face au detectat și blocat atacul în infrastructura companiei. Cele două firme afirmă că lucrează împreună la analiza incidentului, la remedierea vulnerabilităților și la întărirea controalelor folosite în evaluările viitoare, chiar dacă aceste măsuri vor încetini cercetarea.

Incidentul a intrat rapid și în dezbaterea politică din Statele Unite. Potrivit Reuters, congresmanul democrat Greg Casar a cerut teste independente obligatorii pentru modelele avansate, raportarea incidentelor de securitate și cooperare internațională. Dincolo de reacția politică, cazul arată că modelele capabile să execute sarcini pe termen lung nu mai ridică doar probleme de conținut, ci și de operare: atunci când primesc instrumente, acces și obiective insistente, ele pot transforma un test într-o acțiune reală asupra unor sisteme externe.