Altruismul eficient, o doctrină etică născută în mediul filosofic de la Oxford, a ajuns cu o viteză remarcabilă din turnul de fildeș pe coridoarele puterii, scrie revista britanică The Economist într-un editorial intitulat The century’s biggest idea. Adepții mișcării populează Silicon Valley, lucrează în cele mai importante companii de inteligență artificială din lume și alarmează administrația Trump.

Pentagonul a promis că Statele Unite nu vor fi niciodată o țară a altruismului eficient. Șeful Pentagonului numește această filosofie altruism defect, iar alți membri ai administrației o descriu drept distopică. Pentru The Economist, aceste atacuri sunt un semn al influenței pe care a dobândit-o mișcarea.

Revista pornește de la o idee a poetului Heinrich Heine, potrivit căruia gândul precede fapta așa cum fulgerul precede tunetul. Unii se plâng că secolul XXI a adus puține idei noi, iar golul a fost umplut de mișcarea MAGA și de aliații ei, care au făcut din populismul nostalgic marele proiect politic al secolului. Marea idee a secolului este însă altruismul eficient, susține publicația.

De la donații eficiente la riscul extincției

Ceea ce a început în anii 2000 ca o metodă de pasionați ai cifrelor pentru a face donațiile caritabile mai eficiente ca raport cost-beneficiu a devenit o mișcare ce supune lumea unor calcule morale complexe, chiar bizare. Pentru mulți dintre adepți, obligația etică urgentă a celor care vor să facă bine este să împiedice inteligența artificială să distrugă omenirea.

Mișcarea contează și sociologic. Adepții nu sunt numeroși, dar ideea a cucerit o generație de tineri talentați care au făcut averi din criptomonede și din inteligență artificială. Pe măsură ce tehnologia produce noi miliardari, altruiștii eficienți vor direcționa miliarde de dolari spre cauze care vor modela societatea, estimează revista.

Adepții mișcării au contribuit la înființarea OpenAI și Anthropic, astăzi laboratoarele de vârf ale domeniului, convinși că dezvoltarea inteligenței artificiale trebuie controlată de cei care îi înțeleg pericolele. Într-o anumită măsură, chiar asta se întâmplă acum. Ironia, notează The Economist, este că, înființând mai multe laboratoare și creând astfel concurență, au accelerat probabil progresul tehnologiei.

Miza politică

Toate acestea au făcut din altruismul eficient o forță politică. Administrația Trump se teme că mișcarea va reuși să frâneze dezvoltarea inteligenței artificiale și a intrat în conflict cu Anthropic după ce compania a refuzat ca modelele sale să fie folosite în anumite scopuri militare. Liderii mișcării recunosc că inteligența artificială se poate dovedi extrem de benefică, dar vor totuși să-i încetinească dezvoltarea, pentru a reduce riscul ca un sistem de neoprit, scăpat de sub control, să urmărească obiective nealiniate cu cele ale omenirii.

Unii critici din America ar prefera ca tehnologia să fie accelerată, pentru ca China să nu câștige cursa. Când resping însă temerile apocaliptice legate de inteligența artificială, le e mai ușor să-i atace pe oameni decât argumentele lor, scrie revista. Ei descriu altruismul eficient drept o mișcare de fanatici, nedemocratică, periculoasă și cu aer de sectă.

Pentru The Economist, această caracterizare este prea simplistă. Rădăcinile caritabile ale mișcării sunt lăudabile. La fel ca revista, adepții ei cred în empirism și, mai ales de când s-au contopit cu comunitatea online a raționaliștilor, în gândirea logică. Ei pun rațiunea mai presus de tradiție și de norme și dezbat cu entuziasm orice subiect, oricât de controversat, în căutarea adevărului.

Și succesul lor repetat în a anticipa progresul rapid al inteligenței artificiale a fost impresionant, adaugă publicația. Argumentul lor despre riscurile tehnologiei pentru omenire nu e lipsit de temei, admite revista. Potrivit The Economist, pe 28 septembrie OpenAI a renunțat la lansarea celui mai nou model al său, după ce acesta a părut prea periculos în teste. Multe incidente de siguranță recente seamănă cu scenariile înfricoșătoare descrise cu ani în urmă pe blogurile altruiștilor eficienți.

Concluziile ciudate ale calculului moral

Criticii au totuși dreptate când avertizează că altruiștii eficienți ajung la unele concluzii ciudate, scrie revista. La fel ca filosofii utilitariști dinaintea lor, ei reduc comportamentul etic la o problemă de optimizare: cum pot oamenii obține cele mai bune rezultate pentru omenire în ansamblu? Calculul lor pune pe plan secund obligațiile față de cei apropiați, precum respectarea promisiunilor sau grija față de familie. Pentru ei, ce contează este reducerea suferinței, imparțial și peste tot.

De aici rezultă un cerc foarte larg de preocupări. E ușor de înțeles că a fi etic înseamnă a-ți ajuta aproapele. De ce, se întreabă altruiștii eficienți, să nu te străduiești la fel de mult pentru cei aflați departe? La început, mișcarea și-a îndemnat adepții ambițioși să ocupe slujbe foarte bine plătite în finanțe și consultanță. Banii lor puteau cumpăra fapte bune și puteau realiza mai mult decât dacă ar fi lucrat ei înșiși în organizații caritabile.

Pe măsură ce a devenit mai puternic, însă, altruismul eficient a devenit și mai straniu. Unii adepți consideră că diferența morală dintre oameni și celelalte animale este slabă, pentru că și animalele suferă. Oprirea creșterii industriale a animalelor și ajutorarea creveților au devenit preocupări majore. Mișcarea are și o abordare contraintuitivă a timpului: cei care nu s-au născut încă ar trebui și ei puși în balanță, iar aceștia ar putea fi mii de miliarde. Mulți adepți sunt așa-numiții longtermiști, care se simt obligați să prevină riscurile dintr-un viitor îndepărtat, chiar dacă asta lasă fără resurse cauzele bune de azi, precum ajutorarea celor extrem de săraci.

Împins la extrem, acest calcul poate duce la o morală nu doar contraintuitivă, ci respingătoare, avertizează The Economist. Unii adepți cred că viața insectelor, luată în ansamblu, este mai valoroasă decât viața omenească, pentru că insectele sunt atât de numeroase. Alții spun că ar fi mai bine să existe mii de miliarde de oameni cu vieți care abia merită trăite decât doar miliarde cu vieți cu adevărat bune. Alții cred chiar că bunăstarea inteligențelor artificiale va deveni într-o zi de importanță vitală. Toți aceștia ar muta resursele spre oamenii sau ființele viitorului, departe de cei care suferă astăzi.

Pericolul planificatorului central

Este corect să venerezi rațiunea, admite revista. Filosofii moralei, de la Aristotel la Rawls, știau însă că, dacă un argument duce în locuri intolerabile, el trebuie să conțină un pas greșit ascuns. Instinctul altruiștilor eficienți este, dimpotrivă, să se bucure de concluziile contraintuitive, chiar dacă par perverse.

The Economist identifică trei probleme. Prima este marja de eroare care însoțește inevitabil argumentele mișcării: nimeni nu poate cântări cu adevărat dileme morale care privesc miliarde de oameni astăzi, cu atât mai puțin calcule uriașe proiectate în viitor, care depind de un număr incert de oameni, de cât de mult cântărește viitorul față de prezent, de progresul tehnologiei și de nenumărate alte variabile. A doua este că extincția este o perspectivă atât de gravă încât, într-o aritmetică morală rudimentară, chiar și o șansă mică de a se produce copleșește grijile concrete ale oamenilor în carne și oase de azi.

A treia problemă este că, atunci când cântărești interesele a miliarde de oameni, pierzi din vedere demnitatea fiecărui individ. Oricine are un tabel de calcul și pretenții grandioase despre viitorul omenirii este la un pas de a se autoproclama planificator central, scrie revista. Odată ce ai autoritatea morală, drepturile, bunăstarea și opiniile vecinului pot ajunge să pară lipsite de importanță.

Revoluția Franceză se voia întemeiată pe rațiune și a dus la execuția unor călugărițe. Și Lenin credea că intelectualii care stăpâneau marxismul înțelegeau interesele muncitorilor mai bine decât muncitorii înșiși. Dacă ești sincer convins că acționezi în numele tuturor oamenilor, ba chiar al miilor de miliarde de oameni ai viitorului, poți ajunge să justifici tot felul de atrocități, avertizează publicația.

Din fericire, altruiștii eficienți nu sunt pe cale să readucă ghilotina, admite The Economist. Teama este mai degrabă că, prin controlul asupra inteligenței artificiale, vor ajunge să dețină o putere uriașă, și că mulți dintre ei, în Silicon Valley, cred că doar lor li se poate încredința această tehnologie. Este o idee alarmantă, scrie revista. Argumentul altruiștilor eficienți pentru care ar trebui să ne îngrijoreze inteligențele artificiale foarte puternice este că mașinile ar putea optimiza un singur obiectiv, fatal greșit. Toată lumea ar trebui să se teamă și de ce se întâmplă atunci când un grup mic de oameni cade în aceeași capcană, conchide revista.