OpenAI

18 noiembrie 2026

Era Inteligenței

Consensul tacit

De Dean Ball

Nota autorului: Eseul de astăzi este adaptat după o prelegere susținută recent de autor în cadrul seriei de prelegeri Vik-Bailey de la Harvard. Această postare reflectă opiniile personale ale autorului, nu neapărat opiniile OpenAI sau ale celorlalți angajați ai companiei.



Vă mulțumesc că sunteți aici astăzi. Chiar în timp ce vorbim, se desfășoară una dintre cele mai importante serii de evenimente de securitate cibernetică din istorie: o serie de dezvăluiri ale unor vulnerabilități critice de securitate, pe care unii o numesc „Octombrie negru”. Aceste vulnerabilități, identificate în componente esențiale ale infrastructurii internetului, au fost descoperite de sisteme AI de vârf, iar dezvăluirea lor face parte dintr-un efort urgent de consolidare a securității software la nivel mondial. Aceasta este urgența lunii de față; luna viitoare va fi alta. Descoperirea vulnerabilităților software este capacitatea cu dublă utilizare la care au ajuns astăzi sistemele AI, dar în curând va apărea alta, care va genera propriul proiect urgent de valorificare a laturii sale benefice înainte ca actorii rău intenționați să o exploateze pe cea nocivă. Toate aceste urgențe se vor suprapune inevitabil, iar o mare parte din ceea ce numim astăzi „politici privind AI” se va contura probabil în mijlocul acestui vacarm.

Dar nu am venit astăzi să vă vorbesc despre urgențe și despre reacțiile la ele. Vreau, în schimb, să vă vorbesc despre direcția în care s-ar putea îndrepta lucrurile, privite în ansamblu. În mijlocul unui asemenea asalt de urgențe, poate fi greu să reflectăm la aceste întrebări mai abstracte, aparent îndepărtate de concret. Dar aceste întrebări contează, fiindcă, fără să știm ce fel de viitor ne dorim pe termen lung — și ce fel de viitor vrem să evităm — am putea ajunge la un rezultat de ansamblu nedorit, chiar dacă am luat decizii înțelepte la fiecare pas.

Se spune adesea că industriei tehnologice îi lipsește o viziune pozitivă asupra viitorului spre care ne vor duce lucrurile pe care le construiește. Nu sunt de acord: San Francisco și alte centre antreprenoriale abundă în viziuni pozitive asupra viitorului nostru tehnologic. Oamenii chiar construiesc mașini zburătoare, vehicule autonome, roboți de multe dimensiuni și forme și dezvoltă fuziunea nucleară și, bineînțeles, inteligența generală artificială. Ceea ce ne lipsește, în schimb, este o viziune pozitivă asupra viitorului nostru instituțional: cum vor funcționa toate acestea?

Asta nu înseamnă însă că nu există nicio viziune instituțională asupra viitorului. Din păcate, viziunea pe care o întâlnesc cel mai des nu este una pe care aș numi-o pozitivă. Când este totuși exprimată, de obicei este rostită în șoaptă. Dar, de cele mai multe ori, rămâne nerostită și poate fi deslușită doar din ceea ce se subînțelege. Eu o numesc consensul tacit.

Imaginați-vă o companie care poate face aproape totul fără muncă umană. Sistemele sale AI desfășoară activități de cercetare și dezvoltare, fac descoperiri, negociază contracte, alocă capital și fabrică produse. Să presupunem că face aceste lucruri mai bine decât concurenții săi umani, chiar și atunci când aceștia își sporesc capacitatea de lucru cu ajutorul AI. Dacă implicarea oamenilor nu face decât să încetinească afacerea, managerii și proprietarii umani vor avea un motiv puternic să-și ia mâinile de pe volan. Dacă acest lucru se întâmplă în întreaga economie mondială, logica concurenței de piață îi va împinge pe oameni să renunțe la primatul lor asupra comerțului global. Cu timpul, piața ar putea ajunge să satisfacă cerințele mașinilor în aceeași măsură sau chiar mai mult decât satisface cerințele și dorințele oamenilor.

Ce se va întâmpla după aceea nu poate nimeni spune cu certitudine. Poate că oamenii ar avea enorm de câștigat. Dacă mașinile sub a căror autoritate am ajuns ne-ar prețui profund pentru valoarea noastră intrinsecă, am putea deveni beneficiarii muncii lor și ai bogăției pe care o generează. Sau poate că, lipsiți de puterea economică și, tot mai mult, de cea politică, noi, oamenii, vom conta din ce în ce mai puțin în lume și vom putea influența tot mai puțin mersul lucrurilor. Poate că un număr mic de oameni ar deține o putere și o bogăție extraordinare, în detrimentul unei mase în mare parte lipsite de putere, sau poate că toți am împărtăși aceeași soartă a pierderii puterii. Indiferent de detalii, firul comun care definește consensul tacit este sfârșitul primatului uman în lumea pe care o cunoaștem.

Nimic din aceste scenarii nu presupune ca AI să se răzvrătească împotriva creatorilor săi. Nimic nu presupune ca proprietarii săi să-și dorească lipsirea oamenilor de putere. Fiecare decizie de a delega poate avea sens, luată separat. Însă, luate împreună, aceste decizii ar putea duce la o lume în care oamenii au renunțat la autoritatea efectivă asupra unei mari părți din civilizația noastră. Chiar dacă facem progrese extraordinare în privința problemelor spinoase ale siguranței AI și alinierii acesteia, tot am putea ajunge să ne supunem unui nou tip de entitate artificială. În versiunea fericită a viitorului, ne-ar spune consensul tacit, acea entitate va fi una binevoitoare, o mașină căreia îi pasă cu adevărat de binele oamenilor. O mașină, cum spune poemul lui Brautigan, plină de har iubitor.

Acestor mașini, ne spune consensul tacit, le vom încredința cheile companiilor noastre și, tot mai mult, ale instituțiilor noastre de guvernare. Le vor conduce mai eficace, mai eficient, cu mai multă înțelepciune și cu un discernământ mai bun decât putem noi, oamenii. Și astfel, cu timpul, ne vom lua mâinile de pe volan și vom lăsa mașinile iubitoare să preia conducerea. Vom fi asemenea pasagerilor dintr-o mașină — o mașină foarte frumoasă, poate mai luxoasă decât ne putem imagina astăzi — dar tot pasageri, fără control asupra direcției în care se îndreaptă. În măsura în care vom munci, o vom face mai ales ca pe un soi de ritual sau de spectacol, ceva mai degrabă asemănător unui joc care să ne distreze specia.

Unii observatori vor susține că acest consens tacit se bazează pe o premisă falsă, deoarece noi, oamenii, oricum nu controlăm lumea nici astăzi. Iar această critică merită luată în seamă: nu există un „noi” care să decidă ce este de făcut. Trăim într-o lume radical descentralizată, fie că ne place sau nu. Dar nici acest argument nu ar trebui să ne adoarmă vigilența: deși „noi” nu „controlăm” lumea, oamenii, luați împreună, au totuși întâietate în modelarea mersului ei. Nu există nicio specie de animale care să ne concureze serios pentru controlul asupra resurselor. Ar trebui să respingem ideea lipsită de rigoare intelectuală că oamenii pot controla lumea de sus în jos, dar nu ar trebui să confundăm această respingere cu negarea realității evidente că oamenii sunt, împreună, principalul actor de pe Pământ.

Unii dintre cei dispuși să exprime deschis consensul tacit cred că el descrie un viitor cu adevărat bun. Alții nu cred asta, dar se resemnează în fața inevitabilității lui. Consensul tacit nu este un consens fiindcă toată lumea ar fi de acord că este bun și nici nu este un plan secret al celor care dezvoltă AI. Consensul constă pur și simplu în convingerea că renunțarea la primatul uman asupra mersului lumii este inevitabilă sau, cel puțin, că este foarte greu să imaginăm o altă viziune asupra viitorului care să reziste cu adevărat în fața mașinilor superinteligente. Cineva se poate opune sincer acestui deznodământ și, totuși, să-i fie greu să-și imagineze o alternativă plauzibilă. Faptul că acest consens rămâne în mare parte nerostit, exprimat cel mult în șoaptă, este indiciul revelator.

Disprețuiesc consensul tacit. Resping renunțarea la primatul uman. Detest sentimentul că totul este inevitabil. Îmi amintesc mereu că nu mi-aș putea privi fiul, încă bebeluș, în ochii lui frumoși dacă m-aș supune consensului tacit. Așa că spun nu consensului tacit. Și cred că a venit vremea să vorbim deschis despre consensul tacit, să ne scuturăm de acceptarea, în mare parte inconștientă, a acestei viziuni.

Problema este următoarea: consensul tacit a devenit consens dintr-un motiv. Este greu să descriem cum vor rămâne oamenii la volan alături de o inteligență a mașinilor cu mult peste cea umană. Majoritatea încercărilor de a face asta se bazează pe argumentul că AI este doar o unealtă, un instrument de recunoaștere a tiparelor, incapabil de „înțelegere autentică”. Mă tem că aceste argumente nu vor rezista în fața realității care ne așteaptă. Mă tem că ele sunt, la rândul lor, o formă de complacere — o poziție bazată mai ales pe negarea a ceea ce poate face AI, nu o convingere înrădăcinată într-o viziune afirmativă asupra unui viitor condus de oameni. Nu putem spune că sistemele AI sunt lipsite de „înțelegere autentică” în timp ce ele ajung să facă progrese în rezolvarea unor probleme intelectuale ale căror soluții le scapă oamenilor de decenii și secole.

De ce cred, atunci, că oamenii trebuie să-și păstreze primatul? Răspunsul simplu este că sunt om și că, într-adevăr, sunt un șovinist al speciei umane, fără să-mi cer scuze pentru asta.

Dar există și un motiv mai profund. Primatul nostru nu se întemeiază pe intelect, nici pe păstrarea la nesfârșit a monopolului asupra „înțelegerii autentice”. Primatul nostru se întemeiază, în schimb, pe trecutul nostru.

Fiindcă noi suntem cei care s-au ridicat din noroi. Noi, cei care au făurit societatea primitivă din pământ și piatră. Noi, cei care au privit spre stele și s-au întrebat de ce. Noi, cu luptele, iubirea, invidia și bucuria noastră, cei care au descoperit morala, etica și legea. Noi suntem cei care au cântat și au dansat, au scris și au compus. Noi suntem cei care au făcut istoria și noi suntem cei care au scris-o. Această moștenire ne aparține. Civilizația pe care am construit-o este o flacără pe care am întreținut-o, iar acea flacără ne aparține. Trecutul nostru este o moștenire glorioasă, pe care o avem cu toții în grijă, iar această responsabilitate presupune și participarea la ceea ce Michael Oakeshott numea „conversația omenirii”, acel măreț demers început în vremuri străvechi.

De-a lungul acestui trecut lung și sinuos, am făurit o civilizație care, în America, a fost concepută având la temelie drepturile individului și respectul profund pentru drumurile pe care fiecare dintre noi și le croiește prin lume. Viețile oamenilor pot merge mai bine sau mai rău: culegem roadele deciziilor noastre înțelepte și suportăm consecințele atunci când greșim. Dreptul de a-ți urma propriul drum nu depinde de a fi cel mai isteț sau cel mai înțelept. Nu-mi pierd statutul de cetățean fiindcă vecinul meu are un discernământ mai bun. Nu văd niciun motiv pentru care apariția unei mașini mai inteligente ar trebui să anuleze acest statut și, dimpotrivă, văd toate motivele să împiedicăm o asemenea anulare.

Unii ar putea susține că mașinile, după ce au citit aproape toate mărturiile scrise ale acestei moșteniri, sunt și ele moștenitoare. Și, într-un anumit sens, sunt. Dar cineva care a citit toate scrisorile din podul casei tale nu devine, prin asta, membru al familiei tale. Sistemele AI se vor alătura conversației omenirii, mai întâi ca observatori și tot mai mult ca participanți, dar nu trebuie să o domine și nici să o golească de sens. A ceda primatul înseamnă să ne trădăm strămoșii în aceeași măsură în care înseamnă să ne trădăm urmașii. Dacă această luptă nu merită purtată, atunci nicio luptă nu merită purtată.

Eu unul cred că adepții consensului tacit se înșală în privința a ceea ce va fi superinteligența mașinilor. Cred că le scapă ceva important despre felul în care funcționează lumea, că ei confundă inteligența cu puterea. Dacă i-ați fi descris unui adept al consensului tacit, acum cinci sau zece ani, chiar și capacitățile sistemelor AI de astăzi, probabil ar fi prezis că șomajul ar fi acum mult mai mare decât este în realitate și că pierderea puterii oamenilor, în sens larg, ar fi mult mai avansată decât este de fapt. Cred că inteligența și capacitatea noastră colectivă sunt mult mai mari decât presupun adepții consensului tacit și că societățile noastre se vor dovedi mai rezistente decât prevăd ei.

Dar aș putea să mă înșel. De exemplu, s-ar putea pur și simplu ca societățile comerciale pe deplin autonome să depășească întru totul întreprinderile conduse de oameni. Iar dacă așa stau lucrurile, logica necruțătoare a economiei va dicta ca tot mai mult capital să fie încredințat mașinilor. În acest viitor, pierderea puterii oamenilor nu presupune răsturnarea civilizației umane de către mașini; este suficient ca logica întreprinderii capitaliste să-și urmeze nestingherită cursul. În acest caz, cea mai apropiată analogie pentru revoluția AI ar fi revoluția agricolă, când noi moduri de producție au schimbat fundamental arhitectura societății umane. Este departe de a fi clar că această transformare a fost plăcută pentru oamenii care au trăit-o; dimpotrivă, există dovezi substanțiale că ea a înrăutățit bunăstarea oamenilor timp de milenii.

Nu știu dacă acesta este viitorul care ne așteaptă și, de altfel, am argumentat în alte ocazii că nu cred că așa va fi. Dar mulți dintre colegii mei — oameni inteligenți, empatici și conștiincioși — cred că acesta va fi, probabil, viitorul nostru. Dacă au dreptate, lupta noastră împotriva consensului tacit va fi cu atât mai dificilă. Va trebui să înotăm împotriva curentului economic și, făcând asta, să respingem multe dintre lucrurile care sunt dogme pentru individualiștii adepți ai liberalismului clasic, ca mine. Va fi un demers primejdios, în care eșecul nu este deloc improbabil. Dar dacă această luptă nu merită purtată, atunci nicio luptă nu merită purtată.

Păstrarea primatului înseamnă păstrarea răspunderii oamenilor și a instituțiilor umane. Asta înseamnă că dezvoltatorii de AI ar trebui să răspundă atunci când recurg la practici de dezvoltare nesigure, dar și că oamenii și firmele care folosesc AI ar trebui trași la răspundere atunci când utilizarea ei necorespunzătoare sau lipsa de supraveghere din partea lor provoacă prejudicii. Pentru asta este nevoie nu doar de lege, ci și de o infrastructură tehnică care să permită stabilirea răspunderii. Acțiunile agenților trebuie să poată fi atribuite oamenilor care răspund de ei, iar agenții care nu sunt legați de un om — dacă li se permite măcar să participe la economia legală — trebuie să o facă în limite de siguranță. Orice drept al agenților de a înființa autonom societăți comerciale, de a deține proprietăți sau de a participa la litigii ar trebui acordat cu o prudență extraordinară, dacă ar trebui acordat vreodată.

Iar în industria mea putem începe să ne gândim serios la modul în care să construim mașini inteligente compatibile cu primatul uman. Putem construi agenți ale căror permisiuni sunt clare și limitate, ale căror acțiuni pot fi auditate și a căror autoritate poate fi retrasă de utilizatori. Răspunderea pentru acțiunile care îi afectează semnificativ pe ceilalți nu trebuie să implice supravegherea vieții private obișnuite sau sfârșitul exprimării anonime. Ne putem lua angajamente privind protejarea vieții private a utilizatorilor și suveranitatea fiecăruia asupra bunurilor și datelor sale digitale, inclusiv posibilitatea concretă de a transfera acele date în altă parte. Putem proiecta sisteme care îi ajută pe oameni să înțeleagă și să ia decizii, nu doar sisteme care îndeplinesc sarcini. Și putem testa dacă produsele pe care le construim sporesc capacitatea utilizatorilor de a acționa în lume.

Nimic din toate acestea nu constituie un plan complet pentru o societate în care există inteligență supraumană. Aș privi cu neîncredere pe oricine ar pretinde că are un asemenea plan. Dar este un punct de plecare.

Viitorul este învăluit într-o ceață deasă. Dar putem acționa încă de azi. Împreună, putem, pentru început, să numim cu voce tare consensul tacit, să-i scoatem contururile la lumina zilei. Putem, fiecare dintre noi, să ne lărgim radical orizontul ambițiilor. Putem alege să nu lăsăm AI să ne diminueze, ci să facem efortul dificil de a o lăsa să ne amplifice posibilitățile. Putem învăța să punem întrebări tot mai îndrăznețe, să cercetăm lumea cu un nou avânt și cu înverșunare și să ne folosim în acest scop de mașinile noastre puternice. Putem deveni un nou fel de om — nu un transuman, ci un om cu posibilități sporite.

Mă gândesc la asta când îmi privesc fiul, încă bebeluș. Nu-mi doresc ca el doar să fie vegheat de mașini binevoitoare, oricât de confortabilă ar fi viața pe care i-ar putea-o oferi. Vreau să moștenească o lume în care să poată pune întrebări la care nimeni nu s-a gândit, să construiască lucruri pe care nimeni nu s-a gândit să le construiască. Nu vreau să aibă o mașină mai frumoasă, cu un scaun de pasager mai confortabil. Vreau să fie la volan.

  • 2026

Autor

Dean Ball