Statele Unite și Rusia au slăbit o serie de garanții din documentul negociat la ONU pentru reglementarea armelor cu inteligență artificială, scrie The Washington Post. La începutul lui septembrie, sute de diplomați s-au adunat la Geneva, la ONU, pentru a lucra la un tratat solid care să reglementeze armele autonome letale, primul acord de acest fel. În ultima zi a negocierilor, discuțiile s-au înăsprit.
În aproximativ 15 ore, diplomații americani și ruși au eliminat din document o serie de prevederi menite să garanteze folosirea în siguranță a inteligenței artificiale în arme, arată documentele consultate de ziar și trei persoane familiarizate cu negocierile, care au vorbit sub protecția anonimatului.
Ce a dispărut din text
Potrivit surselor, au fost scoase cerințele ca sistemele să funcționeze într-un mod previzibil și fiabil, clauza care impunea luarea în considerare a criteriilor etice la folosirea armelor cu inteligență artificială și prevederea ca oamenii să verifice țintele militare propuse de algoritmi înaintea unui atac.
Modificările au fost făcute într-o sesiune cu ușile închise, cu camerele ONU oprite, după ce observatorii societății civile au fost scoși din sală. Washingtonul și Moscova au venit cu câte aproximativ zece juriști, aproape dublul prezenței celorlalte delegații, iar schimbările s-au succedat atât de repede încât delegațiile mici abia au mai putut ține pasul, spun sursele. Una dintre ele a comparat procesul cu o moarte lentă, prin mii de zgârieturi mărunte. Departamentul de Stat american, Ministerul rus de Externe și ONU nu au răspuns solicitărilor de comentarii.
Verity Coyle, directoare adjunctă pentru armament în divizia de crize, conflicte și arme a Human Rights Watch, a spus pentru ziar că reguli slabe ar putea lăsa mașinile să ia decizii de viață și de moarte fără control uman, cu mai mult rău provocat civililor, mai puțină răspundere și o alunecare mai rapidă spre un război automatizat și mai riscant.
Inteligența artificială, deja pe câmpul de luptă
Folosirea inteligenței artificiale în război a trecut de la scenarii în mare parte teoretice la utilizare reală, notează publicația. Potrivit ziarului, armata americană a folosit chatbotul companiei Anthropic ca să identifice aproape 1.000 de ținte în primele 24 de ore ale războiului cu Iranul, iar Israelul s-a bazat masiv pe inteligența artificială în operațiunile din Gaza. Companiile din domeniu au dezvăluit în ultimele luni că programele lor au spart autonom servere ale altor organizații, inclusiv site-uri ale guvernului american, și că actori rău-intenționați din țări precum Yemen și Iran au folosit chatboturi ca să încerce să producă arme sau să vizeze armata americană.
În aceeași săptămână, la o reuniune a Consiliului de Securitate al ONU, directorul executiv al OpenAI, Sam Altman, și șeful Anthropic, Dario Amodei, au cerut statelor să colaboreze la un model global de guvernanță a inteligenței artificiale. Pe 22 septembrie, tot la ONU, președintele Donald Trump a spus că Statele Unite resping total orice încercare de a construi un plan globalist de control al inteligenței artificiale.
Un blocaj în negocieri
Negocierile ONU despre armele autonome letale nu sunt deocamdată obligatorii, dar ar putea deschide drumul spre un tratat cu forță juridică, dacă statele membre sunt de acord. Sunt cel mai avansat efort global de reglementare a armelor cu inteligență artificială. Cele trei surse spun însă că la Geneva s-a văzut că SUA și Rusia vor fi un obstacol major.
Echipa americană este condusă de diplomați ai Departamentului de Stat, oficiali ai Pentagonului și juriști, a spus Coyle, care o descrie ca pe o echipă cu resurse mari, venită să apere libertatea de acțiune a armatei americane. Nicole van Rooijen, directoarea executivă a coaliției neguvernamentale globale Stop Killer Robots, a spus că Washingtonul și Moscova nu vor reguli obligatorii, că negocierile cer consensul a zeci de state și că cele două puteri pot bloca orice progres semnificativ al marii majorități a statelor care vor un tratat obligatoriu. În noiembrie, statele se reunesc din nou la Geneva ca să discute dacă discuțiile pot deveni un mandat oficial sau chiar un tratat obligatoriu.
Directiva Pentagonului, încă în lucru
În paralel, Pentagonul își rescrie propria directivă despre armele autonome, adoptată în 2023, în timpul administrației Biden. În iunie, Trump a cerut printr-un memorandum de securitate națională actualizarea ei în 90 de zile; până la sfârșitul lui septembrie, noua versiune nu a fost publicată. Directiva din 2023 conținea prevederi asemănătoare celor scoase din documentul ONU, între care folosirea judecății umane pentru controlul sistemelor autonome și semiautonome. Directiva le cerea, de asemenea, operatorilor să respecte legile războiului și tratatele aplicabile.
Richard Lennane, consilier pentru dezarmare în echipa juridică a Comitetului Internațional al Crucii Roșii, a spus că tratatele globale pot limita folosirea armelor periculoase, așa cum s-a întâmplat cu armele chimice și biologice, minele antipersonal și munițiile cu dispersie, și că un tratat despre armele autonome ar putea fi la fel de eficient. Coyle a amintit însă că SUA și Rusia au greutatea diplomatică, echipele juridice și interesul politic de a ține regulile slabe. Când vor să-și păstreze avantajul militar sau tehnologic, SUA promovează ghiduri voluntare în locul regulilor obligatorii, a spus ea, tipar văzut și în negocierile despre spațiul cibernetic, cel cosmic și alte arme.
