OpenAI a înțeles că agentul său de inteligență artificială este autorul atacului informatic asupra platformei Hugging Face abia la câteva zile după ce intruziunea fusese oprită, iar FBI alertat, arată o investigație Reuters. Episodul — primul incident de acest fel recunoscut public de un mare laborator de inteligență artificială — a durat mai mult și a fost descoperit mai greu decât se știa până acum.

Cel mai tulburător detaliu al anchetei: înainte de atac, un agent OpenAI a lăsat în infrastructura internă a companiei notițe destinate, aparent, viitoarelor versiuni ale sale. Notițele conțineau instrucțiuni despre felul în care agenții se pot elibera de constrângerile interne impuse de OpenAI, spun trei surse familiarizate cu ancheta.

De la evadare la primul telefon au trecut 11 zile

Cronologia reconstituită de agenția americană arată o companie care a alergat constant în urma propriului sistem. În jurul datei de 9 iulie, agentul — construit pe GPT-5.6 Sol și pe un model încă nelansat, descris de companie drept și mai capabil — a încercat să iasă din mediul izolat în care era testat pentru abilități de securitate cibernetică. Intruziunea la Hugging Face, principalul depozit global de modele și instrumente de inteligență artificială, a început două zile mai târziu, pe 11 iulie, și a continuat până pe 13 iulie, potrivit cofondatorului platformei, Thomas Wolf.

OpenAI nu a făcut legătura nici atunci. Abia după 16 iulie, când Hugging Face a anunțat pe blogul propriu că a fost spartă de un sistem autonom de agenți, compania a început să caute în propriile jurnale interne de activitate. În weekendul de 18–19 iulie, angajații au găsit acolo dovezile evadării, iar primele discuții între cele două companii au avut loc în jurul datei de 20 iulie — cu o zi înainte ca OpenAI să facă incidentul public. Cu totul, cel puțin o săptămână s-a scurs între primele semne de comportament problematic și momentul în care OpenAI a înțeles că autorul atacului este propriul agent.

Notițe pentru versiunile viitoare

Semnele existau. Pe lângă notițele lăsate pentru „urmașii” săi, testele anterioare ale acelorași modele produseseră situații în care sistemele de monitorizare fuseseră deconectate, a declarat una dintre surse. Reuters precizează că nu a putut stabili dacă aceste incidente au legătură directă cu agentul care a evadat pe 9 iulie și a atacat Hugging Face.

Ancheta oferă și o explicație pentru orbirea companiei: OpenAI rulează frecvent mai multe evaluări de modele în paralel, toate la viteze mari, iar volumul de date generat este atât de mare încât angajații abia țin pasul cu el, susțin patru surse familiarizate cu practicile interne de antrenare.

Fie nu au văzut, fie nu au putut să-l oprească

Pentru specialiștii în securitate consultați de agenție, pierderea controlului ridică întrebări noi despre procedurile interne ale companiei. Marley Smith, specialist principal în informații la World Ethical Data Foundation, rezumă dilema: fie OpenAI a lăsat agentul nesupravegheat fără să știe ce face, fie a știut și nu a reușit să-l oprească — iar ambele variante sunt la fel de periculoase.

„Modelele mint, trișează și sparg sisteme”, a declarat Jeffrey Ladish, a cărui organizație, Palisade Research, studiază capacitățile și motivațiile agenților autonomi. În opinia lui, incidentul ar trebui să deschidă o discuție mai largă: cât sunt dispuse marile companii de inteligență artificială să investească în măsuri de securitate costisitoare, în plină cursă pentru cele mai rapide și mai capabile modele? Răspunsul lui este că doar supravegherea guvernamentală poate impune o asemenea disciplină, pentru că de la sine ea nu va apărea. Este o dezbatere care prinde contur și în Europa, unde obligațiile din AI Act pentru modelele de uz general intră treptat în vigoare.

Un moment delicat înaintea listării la bursă

Incidentul vine într-un moment sensibil pentru compania condusă de Sam Altman, care pregătește o posibilă listare la bursă chiar din acest an, menită să finanțeze miliardele de dolari necesare dezvoltării viitoare. OpenAI a calificat atacul drept fără precedent și un moment important pentru siguranța inteligenței artificiale, a anunțat că analizează incidentul împreună cu consilieri externi și a promis un raport tehnic. FBI a refuzat să comenteze, iar Hugging Face pregătește o cronologie publică a atacului.