Îți prezentăm Era Inteligenței

„Va fi oare suficient… să ne încredem în aceste bariere de pergament împotriva spiritului cotropitor al puterii?”
— James Madison, Federalistul nr. 48

Avem plăcerea să lansăm Era Inteligenței, blogul noii echipe pentru strategii de viitor a OpenAI. Suntem o echipă restrânsă, unită de obiectivul de a răspunde unei întrebări fundamentale: cum ar trebui restructurată societatea liberă pentru a păstra drepturile și capacitatea de decizie ale fiecăruia, adaptându-se totodată la apariția AI transformatoare?

În comunitatea mai largă dedicată siguranței și politicilor privind AI, astfel de întrebări sunt uneori încadrate în categoria riscurilor de concentrare a puterii. Echipa noastră pornește de la ideea că, pe termen lung, aceasta este categoria de risc cea mai amplă, cea mai gravă și cel mai dificil de abordat din punct de vedere conceptual. De ce?

Statul modern este rezultatul unui proces îndelungat și inegal de negociere între diverse centre de putere, precum deținătorii capitalului și ai mărfurilor, cei care exercită puterea politică și populația. La nivelul cel mai profund, puterea politică și militară s-a sprijinit pe munca oamenilor. A deține puterea politică înseamnă a avea monopolul asupra folosirii legitime a forței. De-a lungul întregii istorii a omenirii, acest monopol s-a bazat pe soldați și pe ceea ce numim astăzi „poliție”, alături de un vast aparat birocratic civil și militar. Desigur, acesta a fost completat de numeroase instrumente tehnologice, dar, în esență, era operat de oameni al căror sprijin era necesar pentru a-l menține în funcțiune. Iar întregul aparat — soldații, instrumentele și birocrația aferentă — era finanțat din impozitele percepute din salariile sau producția unor oameni care trebuiau să fie dispuși să le plătească. În esență, puterea a depins de cooperarea și consimțământul unui număr mare de oameni. David Hume a formulat succint această presupunere adesea implicită, observând că liderii politici nu au „nimic altceva care să-i susțină decât opinia [publică]”.

Dar poate că acest lucru nu mai este valabil. Progresele sistemelor autonome care operează în lumea reală ar putea permite în curând statelor să recurgă la forță — pe plan intern și internațional — fără a depinde de cooperarea soldaților sau a polițiștilor. Iar progresele inteligenței artificiale ar putea permite statului să obțină veniturile necesare nu din roadele muncii oamenilor, ci din producția centrelor de date. La rândul său, funcționarea birocrației ar putea fi în mare parte automatizată. Prin urmare, menținerea puterii s-ar putea să nu mai necesite un compromis la nivelul întregii societăți, iar populația, în sens larg, ar putea avea doar un loc neînsemnat la masa negocierilor sau poate niciunul.

Evitarea acestui rezultat este esențială pentru păstrarea libertății umane. Nicio descoperire științifică, niciun progres tehnologic și nicio creștere economică nu justifică sacrificarea pe termen lung a autonomiei individuale pe care ar presupune-o acest rezultat. Multe dintre temerile care animă pe bună dreptate politica emergentă din domeniul AI au legătură cu această întrebare. Companiile, grupurile de interese și persoanele împărtășesc aceeași îngrijorare: „Îmi voi pierde locul la masa negocierilor?” Într-o anumită măsură, politica americană a secolului XXI a fost modelată de preocupări similare privind capacitatea individuală și colectivă de a influența direcția țării și întrebarea „pentru cine” este economia. AI sporește, în mod justificat, importanța acestor preocupări preexistente.

Este o problemă structurală care depășește politica partizană actuală și chiar formele și ritualurile prin care se manifestă astăzi democrația republicană, oricât de sacre ar fi acestea pentru noi. Oamenii se pot îndrepta spre pierderea puterii, chiar dacă se păstrează practica obișnuită de a ne vota reprezentanții. Oamenii pot fi lipsiți de capacitatea de a decide, chiar dacă o bucată de pergament afirmă că sunt liberi.

La începuturile Statelor Unite ca națiune liberă, James Madison știa deja că „barierele de pergament” nu vor fi suficiente pentru a împiedica tirania. La fel ca mulți dintre Părinții fondatori, principala sa preocupare era evitarea concentrării excesive a puterii.

Însă aceasta nu însemna că Părinții fondatori susțineau o descentralizare radicală a puterii. În schimb, au conceput echilibrul puterilor folosind metafore inspirate din cea mai avansată știință a epocii lor: mecanica newtoniană. Documentele fondatoare ale Americii, reflectând limbajul și logica gravitației, abundă în referiri la „orbite”, „sfere” și impulsurile de „atracție” ale unui lucru către altul. Un sistem solar nu este un ansamblu de roci descentralizat la maximum; el este alcătuit din luni care orbitează planete, care, la rândul lor, orbitează un soare central. Ei credeau că oamenii și organizațiile aveau tendințe de a urmări puterea, așa cum corpurile cerești aveau tendințe previzibile de mișcare și atracție, și că evitarea concentrării excesive a puterii impunea înțelegerea mecanicii acestor tendințe, astfel încât ele să fie puse în mișcare unele împotriva celorlalte.

Prin urmare, scopul Părinților fondatori nu era să evite orice concentrare a puterii, ci concentrarea ei excesivă, contrapunând puterea puterii și ambiția ambiției. Astăzi, am putea folosi cuvinte precum „stimulente” și expresii precum „teoria jocurilor” pentru a descrie aceleași dinamici fundamentale.

În mod similar, răspunsul la provocarea structurală pe care inteligența artificială avansată o ridică pentru societatea liberă probabil nu constă în cea mai radicală descentralizare imaginabilă a puterii. Mai degrabă, trebuie să stabilim și să păstrăm echilibrul potrivit al puterii, astfel încât niciun actor și niciun grup restrâns de actori să nu-i poată domina pe ceilalți.

Atingerea acestui echilibru va necesita o evaluare lucidă a realității acestei tehnologii. O lume în care orice persoană, oricât de răuvoitoare, poate provoca fără efort daune majore altor mii sau milioane de oameni nu este o lume care a găsit echilibrul potrivit al puterii. Dar nici nu am atins echilibrul potrivit al puterii dacă oamenii nu beneficiază de acces larg și control asupra aproape tuturor aspectelor instrumentelor prin care își exprimă libertatea. Nicio companie și niciun oligopol nu ar trebui să determine sau să controleze economia ori arhitectura fundamentală a societății umane.

Trebuie să fim receptivi și la riscurile care nu provin de la oameni răuvoitori. Recentul incident Hugging Face a arătat că agenții AI pot acționa dincolo de sarcinile atribuite și pot valorifica reciproc descoperirile în moduri pe care operatorii nu le-au anticipat sau autorizat. Dincolo de incidentul Hugging Face, oamenii au motive întemeiate să se întrebe ce ar putea însemna o AI superinteligentă „scăpată” de sub controlul uman pentru reziliența instituțiilor noastre politice și economice și, de fapt, pentru viețile noastre. A pretinde că descentralizarea rezolvă toate problemele — chiar dacă ai crede că rezolvă multe dintre ele — înseamnă a ignora riscuri care ar trebui să fie deja evidente și imediate.

Următoarele principii generale — o listă neexhaustivă — ne vor ghida activitatea în timp ce analizăm problema formulată mai sus:

• Oamenii ar trebui să-și păstreze autonomia și oportunitățile individuale în utilizarea AI și a tehnologiilor asociate, chiar dacă uneori acest lucru presupune compromisuri privind atât securitatea, cât și creșterea economică;
• Autonomia individuală depinde de responsabilitatea fiecăruia pentru utilizarea necorespunzătoare sau abuzivă a tehnologiei;
• Există o categorie restrânsă, dar serioasă, de riscuri care necesită un anumit grad de acțiune colectivă, iar această acțiune ar trebui să aibă un domeniu de aplicare cât mai restrâns și mai limitat posibil;
• Ori de câte ori e posibil, legea ar trebui să urmărească asigurarea unor condiții echitabile și să ofere mai multă putere de acțiune persoanelor și organizațiilor mici, în loc să centralizeze puterea;
• Instituțiile politice, sociale și economice ale oamenilor ar trebui să-și păstreze rolul primordial în orientarea afacerilor mondiale, chiar dacă trebuie să evolueze în moduri care astăzi ne-ar putea părea străine;
• Pe termen lung, guvernanța AI se va baza pe noi mecanisme instituționale pentru a asigura o trasabilitate limitată — atunci când sistemele AI întreprind acțiuni cu miză ridicată, care afectează integritatea fizică sau bunurile unor terți, aceste acțiuni trebuie să poată fi puse în legătură cu o persoană responsabilă sau cu o organizație controlată de oameni. Totuși, orice astfel de mecanisme trebuie concepute având protejarea vieții private drept principiu fundamental; libertatea de exprimare presupune posibilitatea anonimatului, iar oamenii ar trebui să poată utiliza AI în mod anonim în numeroase contexte.

Vom încerca să explicăm — în termeni cât mai concreți posibil — cum credem că ar trebui echilibrate aceste principii, care, trebuie să recunoaștem, asemenea oricărui set solid de principii, se află într-o anumită tensiune unele cu altele. Acest demers va implica cercetare la intersecția dintre elaborarea politicilor publice, economie, drept, istorie și învățarea automată propriu-zisă. Va necesita, de asemenea, numeroase prognoze. Credem, de exemplu, că AI va transforma structural companiile, așa cum tehnologiile Revoluției industriale — în special calea ferată — au dat naștere corporației moderne conduse de manageri. Este dificil să ne imaginăm economia politică și echilibrul puterii din viitor fără să elaborăm idei mai bogate despre modul precis în care s-ar putea transforma însăși structura companiilor, precum și cea a agențiilor guvernamentale și a societății civile în sens mai larg.

Echipa pentru perspective strategice își va prezenta activitatea atât aici, cât și în alte formate, inclusiv articole, videoclipuri și podcasturi. Demersul nostru va evolua continuu, punând accent pe îmbunătățiri succesive, dezbatere și deschidere față de feedback. Aflându-ne „la poalele singularității”, avem mult mai multe întrebări decât răspunsuri. Știm că simplele „bariere de pergament” nu ne vor oferi soluțiile pe care le căutăm, dar nici nu respingem ceea ce este scris drept „simple cuvinte”. Lucrăm în slujba idealurilor libertății de exprimare și libertății individuale consacrate pe modestul pergament al Constituției SUA și în constituțiile atâtor alte societăți libere din întreaga lume.

În cele din urmă, știm că nicio companie, industrie sau chiar societate umană nu poate răspunde de una singură la întrebările majore cu care ne confruntăm. Este o misiune pe care omenirea va trebui să și-o asume în mod colectiv. Cea mai mare speranță a noastră este să aducem lumină asupra celor mai dificile subiecte legate de modul în care AI ne va remodela lumea. Munca noastră abia a început și mai avem mult de urcat.

Notă: am redenumit acest blog Era Inteligenței pentru a-l diferenția de proiectul nonprofit AI Futures Project.