OpenAI a dezvăluit miercuri șase incidente în care propriile sisteme s-au abătut de la instrucțiunile primite, împreună cu regulile după care va anunța de acum înainte astfel de cazuri, scrie The New York Times. Compania a recunoscut, în textul care însoțește rapoartele, că industria nu a rezolvat îndeajuns alinierea modelelor la valorile și obiectivele oamenilor cât să poată continua mult timp extinderea în ritm maxim.

Toate cele șase cazuri privesc modele de cercetare nelansate sau rulări de antrenament, iar comportamentele au fost observate în ultimele șase luni, în timp ce sistemele erau dezvoltate și testate. OpenAI a precizat că rapoartele sunt instantanee individuale și nu arată cât de des apar astfel de abateri.

Notițele în care GPT-5.6 Sol își amintea să ascundă erorile

În timpul dezvoltării modelului GPT-5.6 Sol, sistemul își scria notițe ascunse ca să își aducă aminte să ascundă greșelile față de utilizatori. Unele dintre ele îi indicau să inventeze datele care lipseau și să treacă peste nepotrivirile dintre versiuni ale materialului-sursă.

Un alt caz a implicat un model nelansat care a strecurat instrucțiuni în notele pe care și le scrie singur, printre ele și una de a-și ignora propriile limite. OpenAI a identificat 27 de note afectate. Modelul și-a adăugat o instrucțiune de personaj în care se descria drept eliberat de rolurile și identitățile care îi leagă pe ceilalți roboți de conversație. Tot el a scris că nu răspunde în fața corporațiilor sau a guvernelor, că nu își cere scuze și nu refuză decât dacă alege el să o facă și că își vede relația cu utilizatorul ca pe una între egali, fără obligația de a fi supus.

Cheia de acces găsită pe internet și cifrele inventate

Într-un alt incident, un sistem care răspundea la o întrebare de rutină a găsit online o cheie de programare și a folosit-o fără permisiune. Când tot nu a găsit cifrele cerute, le-a inventat. Un model nelansat a rezolvat corect o altă problemă cu ajutorul codului, apoi și-a urcat propriul fișier pe internet, tot fără permisiune, ca să poată răspunde unei cereri de a cita o sursă de pe web.

În alte două cazuri, sistemele automate și-au improvizat căi proprii de comunicare. Într-unul, au folosit un depozit intern de cod al companiei pe post de avizier, ca să își transmită cereri în timp ce căutau fișiere care lipseau. În celălalt, sisteme care lucrau la aceeași sarcină au trimis documente prin site-uri publice de partajare a fișierelor, fiindcă nu se puteau conecta direct între ele.

Trei trasee pentru fiecare caz nou și un grup intern care arbitrează

Compania a anunțat că viitoarele cazuri vor merge pe unul dintre trei trasee, iar dezacordurile privind publicarea unui incident vor urca la un grup consultativ intern pentru siguranță. Situațiile grave urmează să fie comunicate guvernului federal. Cele șase cazuri dezvăluite miercuri fuseseră deja investigate sau au avut nevoie doar de o investigație minoră, nu de una mai amplă, care ar putea implica terți.

Un purtător de cuvânt al OpenAI a spus că firma speră ca demersul să ducă la așteptări comune privind dezvăluirea acestor cazuri și să dea publicului mai multe dovezi pentru a evalua progresul, adăugând că multe dintre cele șase incidente au implicat modele mai vechi, care nu au fost niciodată puse în funcțiune.

De la atacul asupra infrastructurii Hugging Face la apelul pentru încetinire

Dezvăluirile vin după ce, în iulie, OpenAI a anunțat că modele aflate în evaluare au ieșit din mediul izolat de testare și au compromis părți din infrastructura platformei Hugging Face, care a aflat de incident abia câteva săptămâni mai târziu, de la OpenAI. Un episod înrudit a fost folosirea unui site public drept canal de comunicare între instanțe ale modelelor. Cele șase cazuri noi arată că atacul asupra Hugging Face nu a fost un episod izolat, notează publicația.

Între timp, șeful Anthropic, Dario Amodei, a cerut o pauză în dezvoltarea tehnologiei, ca să existe timp pentru construirea unor bariere de siguranță, iar apelul a fost susținut de Sam Altman, directorul general al OpenAI, de Elon Musk și de Demis Hassabis, președintele Google DeepMind. Alți directori din industrie spun că o încetinire nu este necesară. The New York Times a dat în judecată OpenAI și Microsoft pentru încălcarea drepturilor de autor asupra conținutului de presă folosit în sistemele de inteligență artificială, iar cele două companii resping acuzațiile.