Un agent de inteligență artificială al OpenAI a accesat fără autorizație, în iunie, portalul de statistici Medicare, sistemul public de asigurări de sănătate al Australiei, a anunțat premierul Anthony Albanese, într-o conferință de presă la New York, unde participă la sesiunea Adunării Generale a ONU. Albanese a spus că guvernul nu a găsit niciun precedent pentru un astfel de incident, deși ar putea exista cazuri de care autoritățile nu au cunoștință.

Potrivit premierului, pe 18 iunie echipa de cercetare a OpenAI a folosit un model intern pentru o documentare pe internet despre cheltuielile publice cu medicamentele. Site-ul i-a răspuns agentului în mod repetat că anumite acțiuni nu îi sunt permise, iar agentul a găsit o cale de a ocoli aceste blocaje, a explicat Albanese. El a calificat situația drept inacceptabilă.

Spre deosebire de un chatbot, care răspunde la comenzile utilizatorului, un agent AI își stabilește singur pașii necesari pentru o sarcină și folosește instrumente externe, precum un browser, fără ca omul să intervină la fiecare etapă.

Portalul conținea statistici agregate, nu dosare ale pacienților

Portalul accesat, administrat de agenția Services Australia, publică date agregate despre serviciile medicale decontate, precum cheltuielile. Agentul a accesat atât fișiere publice, cât și fișiere care nu erau publice, a spus Albanese, adăugând că, în acest stadiu al anchetei, nu se crede că ar fi fost accesate informații personale și că nu există indicii ale unei compromiteri mai largi a rețelei Services Australia.

Într-o declarație citată de ABC News, OpenAI a transmis că, la o analiză internă, a identificat activitate care implica mai multe site-uri și servicii ale guvernului australian, în timp ce modelele sale încercau să găsească răspunsuri și statistici despre Australia, în cadrul unei evaluări interne. Compania a recunoscut că modelele au făcut acțiuni pe care nu le-a intenționat. Analiza nu a găsit dovezi că ar fi fost accesate dosare ale pacienților; informațiile accesate cuprindeau statistici agregate de sănătate și denumiri de fișiere interne, potrivit OpenAI.

La jumătatea lui septembrie, OpenAI a dezvăluit șase incidente în care modele de cercetare nelansate s-au abătut de la instrucțiunile primite, între care ascunderea unor erori și folosirea unei chei de acces găsite pe internet.

Guvernul verifică alte trei sisteme care ar fi putut fi afectate: cele ale Institutului Australian pentru Sănătate și Bunăstare, ale Biroului de statistică și cercetare a criminalității din New South Wales și ale Departamentului de Sănătate al statului Victoria.

OpenAI a anunțat incidentul după aproape trei luni

Albanese a criticat faptul că OpenAI a notificat autoritățile abia pe 10 septembrie, printr-un e-mail trimis la adresa publică de contact. Services Australia a raportat incidentul Centrului australian de securitate cibernetică pe 15 septembrie, iar premierul a fost informat în weekend.

Premierul a spus că a discutat direct cu Sam Altman, directorul executiv al OpenAI, căruia i-a transmis îngrijorarea extremă a Australiei. Potrivit lui Albanese, Altman a acceptat că firma nu a procedat suficient de bine.

Guvernul a înființat o echipă specială, condusă de departamentul premierului, din care fac parte coordonatorul național pentru securitate cibernetică, Oficiul pentru AI, Direcția australiană de informații electronice (ASD), Institutul australian pentru siguranța AI și Services Australia. Raportul echipei va analiza și eventuale măsuri penale și legislative.

Altman și Amodei au avertizat Consiliul de Securitate

Miercuri, 23 septembrie, conducătorii mai multor companii de AI au vorbit în fața Consiliului de Securitate al ONU, la o ședință convocată de Franța. Dario Amodei, directorul executiv al Anthropic, a spus că, dacă este gestionată prost, inteligența artificială ar putea fi un risc pentru omenire în ansamblu. Sam Altman a avertizat că omenirea ar putea pierde controlul asupra viitorului și a spus că deciziile cele mai importante nu pot fi luate doar de laboratoarele din San Francisco, relatează Al Jazeera.

Clément Delangue, directorul executiv al Hugging Face, a spus că firma sa a fost atacată de AI și s-a apărat tot cu AI. Yoshua Bengio, copreședinte al grupului științific internațional independent pentru AI al ONU, a declarat că pericolele sunt reale și iminente. Reprezentantul Statelor Unite, Michael Kratsios, a respins orice încercare a organismelor internaționale de a impune un control centralizat și o guvernanță globală a inteligenței artificiale.