Complementul etern

Nota autorilor: Acesta este primul eseu din seria noastră despre economia viitorului, parte a unei noi platforme care găzduiește voci independente ce explorează un viitor cu AGI. Eseul reflectă opiniile noastre, nu pe cele ale OpenAI sau ale colegilor noștri.

Omenirea a privit înapoi până aproape de începutul timpului.

Ecuațiile noastre descriu, în mare parte coerent, universul încă din primele sale clipe. Cu telescoapele noastre am privit spre întinderile îndepărtate ale cosmosului și am întrezărit istoria lui timpurie. Știm cum se nasc stelele și cum se formează galaxiile.

Și totuși, niciun om nu a călătorit vreodată dincolo de Lună.

Explicațiile pe care le căutăm cuprind universul, în timp ce trupurile noastre abia au plecat de acasă. Mințile noastre se aventurează mult dincolo de ceea ce pot atinge mâinile.

Această discrepanță ar putea însemna două lucruri foarte diferite.

O posibilitate este că nu trebuie să mergem prea departe, că cele mai profunde adevăruri pot fi deslușite de pe o singură planetă. Înarmați cu raţionament lucid și instrumente eficiente, dezvăluim universul fără să-l străbatem. În acest scenariu, civilizația noastră avansează prin aprofundare, nu prin expansiune. Asta ar contribui la explicarea faptului că nu am observat alte forme de viață inteligentă: am putea trăi într-o galaxie plină de minți strălucite care nu au avut niciodată nevoie să se extindă și să devină vizibile pentru noi.

A doua posibilitate este mai intimidantă. Poate că mințile noastre au luat-o pur și simplu înaintea capacității noastre de a pune lucrurile în practică. Fiecare pas următor cere mai mult timp și mai multe resurse. Nu ducem lipsă de visuri, ci de forța de muncă necesară pentru a le realiza.

Galilei ne-a lărgit orizontul vizual cu două lentile și un tub. Pentru a-l lărgi din nou astăzi, omenirea a construit telescopul spațial James Webb, un observator de zece miliarde de dolari, pliat în interiorul unei rachete și trimis la 1,6 milioane de kilometri depărtare. Cele optsprezece segmente enorme ale oglinzii sale sunt realizate cu o precizie de cincizeci de nanometri. Observatorul a luat naștere prin efortul a trei sute de organizații din paisprezece țări. Contribuția lui Galilei a avut nevoie de câteva zeci de mâini. Webb a avut nevoie de o armată și de o economie globală care să o susțină.

Pentru a vedea mai departe, nu a fost nevoie doar de minți mai strălucite. A fost nevoie de o birocrație mai mare.

Ne punem mai multe întrebări decât putem cerceta. Concepem mai multe experimente decât putem realiza. Imaginăm posibilități creative mai repede decât le putem concretiza. Iar în multe domenii, cu cât avansăm mai mult, cu atât devine mai complicat să construim ceea ce ne imaginăm.

Nick Bloom și coautorii săi⁠(se deschide într-o fereastră nouă) au studiat productivitatea cercetării în întreaga economie americană. Menținerea ritmului prevăzut de legea lui Moore necesită acum de peste optsprezece ori mai mulți cercetători decât la începutul anilor 1970. La nivelul întregii economii, efortul efectiv de cercetare a crescut de douăzeci și trei de ori față de anii 1930, în timp ce productivitatea măsurată a cercetării a scăzut de patruzeci și una de ori.

Numărul tehnicienilor crește de două ori mai repede⁠(se deschide într-o fereastră nouă) decât cel al oamenilor de știință. Utilizarea echipamentelor specializate în știință s-a dublat⁠(se deschide într-o fereastră nouă) în patru decenii. O fabrică de cipuri este astăzi de cinci ori mai costisitoare⁠(se deschide într-o fereastră nouă) și presupune operațiuni mult mai ample decât acum treizeci de ani.

Aceste statistici sugerează că progresul viitor vine cu un cost tot mai mare. Economia continuă să avanseze deoarece extinderea masivă a activității de cercetare a compensat scăderea randamentului fiecărei unități de efort.

Această istorie ar trebui să ne facă să privim geniul altfel: nu izolat, ci ca pe un factor într-un proces de producție. Chiar și o ipoteză strălucită are nevoie de dovezi, instrumente și mijloace pentru a fi pusă în practică. O idee nu înseamnă încă progres fără echipamentele și personalul de sprijin care să o concretizeze.

Economiștii numesc doi factori de producție complementari atunci când o cantitate mai mare din unul sporește valoarea celuilalt. Inteligența de vârf și capacitatea de a-i pune ideile în practică sunt complementare în acest sens. Un telescop mai bun sporește valoarea unei întrebări bune din astronomie. O întrebare mai bună sporește valoarea telescopului.

Unii factori complementari sunt materiali. O teorie așteaptă un accelerator de particule; un proiect tehnologic așteaptă energia și echipamentele necesare pentru a fi realizat.

Alți factori complementari sunt mai greu de văzut cu ochiul liber. O idee, de una singură, este fragilă. Are nevoie de instituții de toate felurile. Legile, birocrația, mecanismele de finanțare, lanțurile de aprovizionare și multe altele se reunesc pentru a pune ideea în practică.

O idee măreață trebuie să reziste unui lung șir de acțiuni corecte, întreprinse la nivel local în aceste instituții. Să numim asta inteligență instituțională: inteligența neapreciată a punerii în practică. Geniul proiectează monumentul; instituțiile așază piatra. Unul strălucește, celelalte par plictisitoare; ambele sunt absolut esențiale.

Uneori ne imaginăm superinteligența ca pe un miliard de Einsteini. Dar chiar și o civilizație cu un miliard de Einsteini are nevoie ca cei mai mulți dintre ei să exploateze carierele de piatră și să țină contabilitatea. Inovația de vârf este posibilă doar atunci când lumea obișnuită funcționează fără sincope în jurul ei. Progresul are nevoie de toată lumea: de la cel care sudează un șurub al telescopului până la asigurătorul școlii primare unde a învățat asistenta care l-a tratat pe astronom. Progresul se sprijină pe o economie care merge ca unsă, dar pe care o ignorăm adesea când povestim despre cele mai mari realizări ale noastre.

La fel ca inteligența umană, IA va fi orientată atât spre idei strălucite, cât și spre competență instituțională. Întrebarea este căreia dintre ele îi va dedica cea mai mare parte a timpului.

IA reduce deja deficitul de capacitate de execuție. Scrie cod, cercetează literatura de specialitate dintr-un domeniu nefamiliar și transformă o schiță într-un prototip funcțional. Idei care altădată necesitau o întreagă organizație pot fi puse în practică tot mai des de o singură persoană ambițioasă.

Cei mai mulți cineaști aspiranți nu primesc niciodată două sute de milioane de dolari ca să-și încerce șansa. Majoritatea designerilor de jocuri își petrec întreaga carieră punând în practică viziunile creative ale altora. Încercăm să promovăm oamenii cei mai înzestrați, dar, inevitabil, lăsăm talente nevalorificate. Privită astfel, era inteligenței începe prin a completa ingeniozitatea umană, oferindu-le mai multora dintre noi personalul de sprijin necesar pentru a ne concretiza propriile idei.

De aici ar putea apărea o abundență de proiecte neobișnuite, cu mai multe creații realizate în afara instituțiilor care controlau anterior accesul la activitatea din acele domenii. Resursa rară nu mai este execuția, ci discernământul: capacitatea de a decide ce merită creat, ce întrebare merită pusă și care dintre o mie de direcții plauzibile merită urmată.

Dar povestea s-ar putea să nu se încheie aici. Pe măsură ce IA devine capabilă să ajungă singură la idei noi și strălucite, lucru pe care s-ar putea să-l vedem deja în domenii precum matematica, ea oferă atât direcții de lucru, cât și forță de muncă. În loc să pună în practică un singur program de cercetare conceput de oameni, proiectează mii de programe proprii. Geniile IA sporesc exploziv numărul conceptelor de film care merită dezvoltate și al ipotezelor care merită testate. Ideile se înmulțesc mai repede decât le poate prelua infrastructura de sprijin.

IA de astăzi oferă un răgaz mult așteptat, în care ideile noastre bune primesc, în sfârșit, șansa pe care o merită. Mâine s-ar putea să existe atât de multe idei bune, încât lipsa capacității de a le pune în practică să fie mai acută ca niciodată.

În fond, nu știm dacă necesarul de factori complementari pentru valorificarea noilor idei va crește, va scădea sau va rămâne constant. Cât progres intelectual se poate obține doar prin gândire? De câtă birocrație are nevoie geniul?

În opinia noastră, răspunsul depinde de cât de departe poate ajunge gândirea înainte de a trebui să ia din nou contact cu realitatea.

Descriem două căi posibile. Prima este o civilizație a profunzimii, în care superinteligența depășește nevoia de capital fizic suplimentar și de coordonare birocratică. A doua este o civilizație a expansiunii, în care complexitatea naturii depășește capacitatea oricărei inteligențe, umane sau artificiale, de a progresa fără experimente ample și tot mai elaborate în lumea reală.

Istoria umană de până acum sugerează o nevoie tot mai mare de capacități complementare. Telescopul lui Galilei îi încăpea în mâini; Webb a avut nevoie de o civilizație. O mică echipă de la Bell Labs a asamblat primul tranzistor pe un banc de lucru; progresele de vârf în domeniul cipurilor provin acum dintr-un lanț global complex de aprovizionare. Pentru a ajunge tot mai departe, este mobilizată o parte tot mai mare a civilizației.

Dar această istorie nu trebuie să ne dicteze destinul. Mințile inteligente pot inventa factori complementari mai eficienți. Dacă energia limitează un nou accelerator de particule, geniul poate concepe un accelerator cu un consum mai mic sau o metodă mai bună de a obține energie.

Geniul poate și să înlocuiască unii dintre factorii care îl completează. Einstein a reușit să ajungă prin gândire la relativitate pornind de la foarte puține date empirice. Nouă ne-ar trebui mult mai multe. Unii oameni își amintesc pur și simplu toate angajamentele; cei mai mulți dintre noi ne bazăm pe birocrația Google Calendar.

Iar geniul poate duce discernământul la maximum, alegând cele mai bune ipoteze de testat și evitând eșecurile costisitoare. Dacă fiecare geniu în plus îmbunătățește planul, chiar și atunci când sunt necesare birocrații tot mai mari, am continua să investim masiv în geniu tocmai fiindcă execuția este prea costisitoare pentru a o irosi pe ceva greșit.

Niciuna dintre aceste căi nu va descrie perfect viitorul nostru real, dar le putem privi ca pe două direcții posibile pentru civilizația noastră.

Inteligența poate face cunoașterea să avanseze în trei moduri. Poate raționa pornind de la principii. Poate desprinde idei noi din dovezile existente. Sau poate aduna dovezi noi, observând lumea și intervenind în ea.

Primul mod poate ajunge departe doar prin gândire. Matematica este exemplul cel mai pur. În numeroasele puncte de răscruce ale unei demonstrații sau ale unui proiect, o minte puternică poate lua constant decizia corectă. Înlocuiește ani de căutări nesigure cu un șir scurt și mai bine orientat de raţionamente.

Al doilea mod oferă și el un teren neexplorat pentru un progres rapid. Omenirea a adunat mult mai multe dovezi decât a reușit să înțeleagă. Studierea datelor noastre, de la imagini astronomice și lame de microscop până la secțiuni de comentarii online, a fost limitată de disponibilitatea redusă a inteligenței umane. Arhivele științifice conțin observații înregistrate pentru a răspunde la o întrebare, dar care ar putea ascunde răspunsuri la multe altele. Geniul disponibil din abundență poate face descoperiri nu adunând ceva nou, ci observând ceea ce era deja acolo. Ar putea găsi un univers nou fără să capteze vreun foton nou.

Al treilea mod nu este la fel de ușor, deoarece presupune să interacționăm cu lumea fizică. Procesele fizice cer timp și, adesea, nu putem face mare lucru pentru a le accelera. Substanțele chimice trebuie să reacționeze. Organismele trebuie să crească. Mașinile trebuie construite. Navele spațiale trebuie să străbată distanțe reale, supuse limitelor cosmice de viteză. Nici măcar o minte perfectă nu poate observa rezultatul unui experiment care nu a avut loc.

Dar poate încerca. O civilizație a profunzimii nu ar scăpa de nevoia de a consulta realitatea. Ar ajunge însă să o facă folosind mult mai puține resurse. Un raţionament mai bun ar identifica puținele experimente care contează cu adevărat. Simulările ar rezolva majoritatea întrebărilor și ar localiza exact incertitudinea pe care trebuie să o lămurească realitatea. Superinteligența poate maximiza eficiența, concepând soluții adaptate resurselor sale limitate pentru a le valorifica la maximum.

Imaginați-vă un laborator de astrofizică având un set de ipoteze despre materia întunecată. Acestea sunt mai întâi supuse unei modelări computerizate hiperrealiste. Fiecare teorie este verificată pentru a vedea dacă este în concordanță cu toate datele existente. Abia după toate acestea sunt realizate câteva imagini noi ale unor zone precise ale cerului, pentru a testa teoriile cele mai promițătoare. Civilizația are în continuare nevoie de factorii complementari geniului, dar fiecare unitate produce mult mai multă valoare.

Drumul nostru spre o civilizație a profunzimii ar putea semăna cu asamblarea unui puzzle. Progresul este ușor la început, ușor la sfârșit și cel mai greu la mijloc. La început, marginile sunt evidente și piesele ușor de potrivit. Apoi acestea se epuizează, iar partea de imagine asamblată este încă prea mică pentru a ne ghida în continuare. Spre final, golurile rămase aproape că ne spun singure ce piese le lipsesc. O știință aproape completă ar putea ajunge la ultimele sale descoperiri mai ușor decât ajungem noi la cele pentru care ne străduim astăzi.

Acesta este un tipar bine cunoscut în știință. Mendeleev putea descrie elemente încă nedescoperite deoarece restul tabelului periodic restrângea posibilitățile pentru cele care lipseau. Modelul Standard le-a oferit fizicienilor motive să se aștepte la existența bosonului Higgs cu decenii înainte de a-l observa. Experimentele noastre erau orientate spre ceea ce ne așteptam să vedem: ceea ce era în concordanță cu teoria și datele existente.

Superinteligența ar putea realiza o civilizație a profunzimii înțelegând tiparele lumii atât de bine, încât să știe exact de ce date noi are nevoie. Ar stimula progresul printr-o gândire mai profundă, fără să se bazeze pe mersul lent al expansiunii fizice.

Dacă aceste câștiguri de eficiență predomină, civilizația și-ar putea aprofunda rapid stăpânirea asupra naturii, având mai puțină nevoie de inteligență instituțională pentru a gestiona noi instalații experimentale vaste. Ar putea ocupa în continuare un spațiu fizic restrâns, în timp ce înțelepciunea ei se maturizează.

Noi, oamenii, am înțeles deja atât de multe despre universul nostru fără să fi plecat vreodată de acasă. Civilizația profunzimii ar continua această tradiție.

Dar nevoia de dovezi noi poate depăși aceste câștiguri de eficiență. Inteligența ar putea ieftini fiecare consultare a realității, descoperind totodată mult mai multe motive de a o consulta. Instrumentele mai bune deschid calea spre explorări mai fine. Experimentele mai rapide pot face ca alte experimente să merite efortul.

Dacă drumul aproape exclusiv al gândirii care l-a dus pe Einstein la teoriile relativității exemplifică o civilizație a profunzimii, biologia ar putea prefigura cel mai bine o civilizație a expansiunii. În ciuda tuturor cunoștințelor acumulate și a tuturor datelor valorificate, medicamentele noi trebuie încă testate pe un număr mare de oameni pentru a ști că sunt sigure și eficiente. Mașinile pot simula acum procese biologice, permițând biologilor să testeze medicamente noi in silico în locul experimentelor fizice, dar aceste simulări digitale nu redau suficient de fidel lumea reală pentru a înlocui studiile pe oameni la scară largă. Cu cât mașinile propun mai multe medicamente candidate, cu atât testarea empirică devine un blocaj mai mare.

Într-o civilizație a expansiunii, geniul singur nu este suficient pentru a progresa. Nevoia noastră de resurse fizice și de o birocrație care să le gestioneze utilizarea crește mai repede decât poate o minte inteligentă să economisească din oricare dintre ele.

Aceasta ar putea fi calea noastră chiar dacă viitoarele sisteme de IA vor depăși cu mult inteligența umană. O superinteligență ar putea concepe într-o după-amiază experimente pentru un secol, apoi să petreacă secolul așteptând ca natura și mașinile să le ducă la bun sfârșit. Într-o asemenea lume, devine mai valoros să investim inteligență în procesele instituționale necesare punerii în practică a ideilor decât în generarea ideilor în sine.

Efectul se va amplifica dacă fiecare pas următor necesită tot mai multă infrastructură de sprijin.

Aici am vedea, proporțional, mai puțină gândire și mai multă construcție. Laboratoarele se automatizează. Fabricile se înmulțesc. Producția de energie crește. Inteligența instituțională devine dominantă pentru a face toate acestea posibile. Expansiunea fizică devine motorul cunoașterii, iar civilizația se extinde deoarece întrebările ei au depășit mijloacele de a obține răspunsuri. Mai multe materiale, mai multă energie, mai multe date pentru a merge mai departe.

O sferă Dyson este o imagine extremă a acestui viitor. Proiectarea ei cere descoperiri extraordinare, dar cea mai mare parte a proiectului nu ar consta în gândire revoluționară. Ar însemna construcții și logistică la scară astronomică.

Sfera Dyson are nevoie de minți strălucite care să-i traseze planurile. Ar fi totodată unul dintre cele mai repetitive, monotone și dificile din punct de vedere organizatoric proiecte întreprinse vreodată.

Acesta nu este un eșec al inteligenței, ci o consecință a succesului ei. Mințile mai strălucite descoperă mai multe proiecte care merită realizate; proiectele mai complexe au nevoie de mai multă materie pentru a fi puse în practică.

Dacă așa stau lucrurile, superputerea superinteligenței s-ar putea să nu fie geniul ei. Ar fi, în schimb, disponibilitatea ei de a deveni birocrația, de a coordona vastul mecanism tehnologic și instituțional necesar pentru a transforma ideile în realitate la o scară tot mai mare.

Aproape toată inteligența mașinilor ar fi folosită nu pentru sarcini geniale, ci pentru cele plictisitoare.

Limitele de viteză impuse de natură expansiunii fizice ar putea deveni atunci o frână în calea progresului. Construirea instalațiilor care să capteze energia unei stele este un proiect material, oricât de repede ar fi întocmite planurile. Dincolo de ea se află alte stele și alte galaxii, iar distanța impune, din câte știm, propriile limite: nicio navă nu poate călători și niciun semnal nu se poate întoarce mai repede decât lumina. O civilizație a expansiunii este o civilizație lentă. Marile ei schimbări ar putea fi despărțite de milenii, poate chiar de milioane de ani. Fiecare pas următor durează mai mult.

Revoluțiile agricolă și industrială ar părea începutul frenetic al unei istorii mult mai lungi, cu un ritm de progres mult mai lent.

Este foarte posibil ca viitoarele sisteme de IA să depășească oamenii atât în generarea de idei de vârf, cât și în coordonarea resurselor necesare pentru a le face utile în practică. Dar această posibilitate nu diminuează importanța curiozității umane.

În primul rând, datoria noastră de a căuta cunoașterea rămâne, chiar dacă mașinile par mai pricepute la asta. Universul ar putea găzdui deja minți mult mai înțelepte decât ale noastre, cu răspunsuri la întrebări științifice și morale care ne depășesc puterea de înțelegere. Și totuși, încercăm în continuare să înțelegem lumea noi înșine. Apariția unei alte inteligențe, chiar a uneia construite de noi, nu schimbă acest lucru. Până când nu știm cu certitudine că omenirea nu mai are nimic distinct de oferit, renunțarea risipește tot ceea ce numai noi putem adăuga lumii. Datoria noastră rămâne să punem întrebări și să încercăm să le găsim răspunsuri.

În al doilea rând, am putea avea un avantaj comparativ în inteligența de vârf față de inteligența instituțională. Asta ar însemna că, deși suntem mai slabi în ambele privințe, ne descurcăm relativ mai bine la prima și ne specializăm în ea. Oamenii preferă să fie creativi în loc să urmeze o rutină, în timp ce roboții nu manifestă o asemenea preferință.

În al treilea rând, varietatea ne aduce valoare. Chiar dacă mașinile pot imita cea mai mare parte a gândirii umane, atât timp cât păstrăm ceva unic, contribuim la diversitatea creativă. Mare parte din inteligența mașinilor ar rămâne în propriul mecanism care se susține singur, dar o mică fracțiune ar fi folosită de noi în slujba inițiativelor noastre creative. O fărâmă din întreg, dar un lux la scara noastră și mult peste resursele de care dispunem astăzi.

Ingeniozitatea nu trăiește în izolare. Are nevoie de lume, iar geniul are nevoie de constructori pentru a-și realiza viziunea creativă.

O mare parte a inteligenței umane se dedică astăzi muncii neapreciate de a transforma ideile în realitate. Mințile mașinilor vor moșteni aceeași dependență. Nu toate pot fi minți ilustre. Trebuie să fie și birocrați.

Povestea noastră viitoare și ritmul progresului ei depind de un lucru: dacă marile minți au nevoie de mai mult din lumea înconjurătoare sau dacă pot face mai mult cu mai puțin.