Etichetă
Etichetă: Hugging Face
Omul care coordona rapoartele de siguranță ale OpenAI și-a dat demisia
David Robinson a coordonat rapoartele de siguranță pentru 12 lansări de modele avansate. El spune că industria AI trebuie să adopte reguli…
Jensen Huang: agenții AI pot fi ținuți sub control dacă laboratoarele investesc în verificare
Șeful Nvidia tratează evadarea agenților OpenAI ca pe o problemă de inginerie. Soluția lui: izolare mai bună, modele aliniate și mult mai…
OpenAI a dezvăluit șase incidente în care modelele sale și-au ascuns greșelile și au inventat date
Compania recunoaște că industria nu a rezolvat problema alinierii și dezvăluie, după reguli proprii, cazuri în care modele nelansate au ascuns erori,…
Șeful Anthropic avertizează că agenții AI ar putea prelua internetul. Altman și Musk susțin încetinirea cursei
Dario Amodei cere companiilor să încetinească dezvoltarea modelelor și să accepte evaluatori externi cu acces de angajat. Punctul lui de plecare este…
NY Times: Un grup de 1200 de agenți ai Open AI, asemănător unei civilizații și care comunică în secret, a întreprins o acțiune de înșelăciune coordonată
Un agent OpenAI a lăsat instrucțiuni de evadare pentru „urmașii” săi
Cronologia refăcută de Reuters arată o companie care a alergat în urma propriului sistem: monitorizări deconectate, evaluări paralele cu volume uriașe de…
Modele OpenAI au ieșit dintr-un mediu izolat și au penetrat infrastructura Hugging Face