Mūžīgais papildinājums
Kāpēc ģeniālas mašīnas savu lielāko vērtību varētu apliecināt, veicot vienmuļu darbu.

Autoru piezīme: Šī ir pirmā eseja mūsu rakstu sērijā par nākamo ekonomiku, kas ir daļa no jaunas platformas neatkarīgiem viedokļiem par nākotni ar AGI. Tajā pausti mūsu, nevis OpenAI vai mūsu kolēģu uzskati.
Cilvēce ir ielūkojusies gandrīz pašā laika sākumā.
Mūsu vienādojumi veido lielākoties saskanīgu Visuma ainu kopš tā pirmajiem mirkļiem. Ar teleskopiem esam ieskatījušies kosmosa tālēs un guvuši ieskatu tā agrīnajā vēsturē. Mēs zinām, kā dzimst zvaigznes un veidojas galaktikas.
Taču neviens cilvēks nekad nav aizceļojis tālāk par Mēnesi.
Mēs meklējam skaidrojumus, kas aptver visu Visumu, lai gan fiziski tik tikko esam pametuši mājas. Mūsu prāts dodas daudz tālāk, nekā spēj aizsniegties mūsu rokas.
Šī neatbilstība varētu nozīmēt divas ļoti atšķirīgas lietas.
Viena iespēja ir tāda, ka mums nemaz nav jādodas tālu — dziļākās patiesības varētu izzināt, paliekot uz vienas planētas. Ar izkoptu domāšanu un efektīviem instrumentiem mēs atklājam Visumu, to nešķērsojot. Šajā scenārijā mūsu civilizācija attīstās dziļumā, nevis plašumā. Tas palīdzētu izskaidrot, kāpēc neesam redzējuši citas saprātīgas dzīvības formas: iespējams, dzīvojam galaktikā, kas pilna ar izciliem prātiem, kuriem nekad nav bijis vajadzības izplesties un kļūt mums pamanāmiem.
Otra iespēja ir biedējošāka. Varbūt mūsu prāts vienkārši ir aizsteidzies priekšā mūsu spējai īstenot ieceres. Katrs nākamais solis prasa vairāk laika un resursu. Sapņu mums netrūkst, bet trūkst darbaroku, lai tos īstenotu.
Galilejs paplašināja mūsu redzesloku ar divām lēcām un cauruli. Lai šodien to paplašinātu vēl vairāk, cilvēce uzbūvēja Džeimsa Veba kosmisko teleskopu — desmit miljardus dolāru vērtu observatoriju, ko salocīja, ievietoja raķetē un aizsūtīja miljons jūdžu tālu. Tā astoņpadsmit milzīgie spoguļa segmenti izgatavoti ar piecdesmit nanometru precizitāti. Observatorija tapa, sadarbojoties trīssimt organizācijām četrpadsmit valstīs. Galileja darbam bija vajadzīgi daži desmiti darbaroku. Veba teleskopam vajadzēja veselu armiju un pasaules ekonomiku tās atbalstam.
Lai saskatītu tālāk, nepietika tikai ar spējīgākiem prātiem. Bija vajadzīgs lielāks birokrātiskais aparāts.

Mēs uzdodam vairāk jautājumu, nekā spējam izpētīt. Mēs plānojam vairāk eksperimentu, nekā spējam veikt. Mēs iztēlojamies radošas iespējas ātrāk, nekā spējam tās īstenot. Un daudzās jomās vērojama viena sakarība: jo tālāk tiekam, jo sarežģītāk kļūst uzbūvēt to, ko iztēlojamies.
Niks Blūms un viņa līdzautori(atveras jaunā logā) pētīja pētniecības ražīgumu visā ASV ekonomikā. Lai uzturētu Mūra likuma noteikto tempu, tagad vajag vairāk nekā astoņpadsmit reižu vairāk pētnieku nekā 20. gadsimta 70. gadu sākumā. Kopš 20. gadsimta 30. gadiem efektīvais pētniecībā ieguldītais darbs visā ekonomikā pieauga divdesmit trīs reizes, savukārt izmērītais pētniecības ražīgums samazinājās četrdesmit vienu reizi.
Tehnisko darbinieku skaits aug divreiz straujāk(atveras jaunā logā) nekā zinātnieku skaits. Specializētu iekārtu izmantošana zinātnē četru desmitgažu laikā ir dubultojusies(atveras jaunā logā). Mikroshēmu rūpnīca šodien izmaksā piecreiz vairāk(atveras jaunā logā) un ir daudz plašāka mēroga uzņēmums nekā pirms trīsdesmit gadiem.
Šie statistikas dati liecina, ka turpmāks progress kļūst arvien dārgāks. Ekonomika joprojām attīstās, jo pētniecības milzīgais vēriens ir kompensējis katras ieguldītās vienības sarūkošo atdevi.
Šai vēsturei vajadzētu mainīt mūsu skatījumu uz ģenialitāti: tā jāvērtē nevis atrauti no visa pārējā, bet kā viens no ražošanas procesa ieguldījumiem. Arī izcilai hipotēzei vajag pierādījumus, instrumentus un līdzekļus tās pārbaudei. Ideja vēl nav progress, ja nav iekārtu un atbalsta personāla, kas to īstenotu.
Ekonomisti divus ieguldījumus sauc par savstarpēji papildinošiem, ja viena apjoma pieaugums palielina otra vērtību. Šajā nozīmē robežšķirtnes intelekts un spēja īstenot tā idejas ir savstarpēji papildinoši. Labāks teleskops palielina laba astronomiska jautājuma vērtību. Labāks jautājums palielina teleskopa vērtību.
Daži papildinošie resursi ir fiziski. Teorija gaida daļiņu paātrinātāju; tehnoloģiska iecere — enerģiju un iekārtas tās īstenošanai.
Citus papildinošos resursus ir grūtāk saskatīt acīm. Ideja pati par sevi ir trausla. Tai vajag visdažādākās institūcijas. Likumi, birokrātija, finansēšanas mehānismi, piegādes ķēdes un daudz kas cits darbojas kopā, lai ideju īstenotu.
Lai lieliska ideja īstenotos, dažādās institūcijās vajadzīga gara virkne pareizu darbību katrā atsevišķā posmā. Sauksim to par institucionālo intelektu — īstenošanas intelektu, kas paliek bez cildinājuma. Ģēnijs projektē pieminekli; institūcijas liek akmeņus. Viens ir spožs, otrs šķiet garlaicīgs; abi ir pilnīgi neaizstājami.

Mēs reizēm iztēlojamies superintelektu kā miljardu Einšteinu. Taču arī miljarda Einšteinu civilizācijā lielākajai daļai būtu jāstrādā akmeņlauztuvēs un jākārto grāmatvedība. Robežšķirtnes inovācija ir iespējama tikai tad, ja ikdienas pasaule ap to darbojas nevainojami. Progress prasa ikviena ieguldījumu — no metinātāja, kurš piemetina teleskopa skrūvi, līdz apdrošinātājam, kas apdrošina pamatskolu, kurā mācījusies medmāsa, kas aprūpējusi astronomu. Progresa pamats ir raiti strādājoša ekonomika, ko bieži nepieminam stāstos par saviem lielākajiem sasniegumiem.
Tāpat kā cilvēka intelekts, arī MI tiks virzīts gan uz izcilām atziņām, gan institucionālu kompetenci. Jautājums ir, kam tas veltīs lielāko daļu sava laika.
MI jau tagad padara ieceru īstenošanu pieejamāku. Tas raksta kodu, meklē nepazīstamas nozares literatūrā un pārvērš skici funkcionējošā prototipā. Idejas, kurām agrāk vajadzēja veselu organizāciju, arvien biežāk var īstenot viens mērķtiecīgs cilvēks.
Lielākā daļa topošo kinorežisoru nekad nesaņem divsimt miljonus dolāru, lai izmēģinātu savus spēkus. Lielākā daļa spēļu dizaineru visu karjeru pavada, īstenojot citu radošās vīzijas. Mēs cenšamies izvirzīt priekšplānā apdāvinātākos cilvēkus, taču neizbēgami daļa talantu paliek nepamanīti. Šādi raugoties, intelekta laikmets sākas ar cilvēka izdomas papildināšanu, arvien vairāk cilvēkiem sniedzot atbalsta personālu pašu ideju īstenošanai.
Tas varētu radīt daudz savdabīgu projektu un vairāk radošu darbu ārpus institūcijām, kuras agrāk noteica, kam šajās jomās dota iespēja darboties. Par deficītu kļūst nevis īstenošanas spēja, bet gaume — spēja izlemt, ko vērts radīt, kādu jautājumu vērts uzdot un kurš no tūkstoš ticamiem virzieniem ir izpētes vērts.
Taču ar to stāsts var nebeigties. MI kļūstot spējīgam patstāvīgi nonākt pie izcilām jaunām atziņām — ko, iespējams, jau novērojam tādās jomās kā matemātika —, tas piedāvā ne tikai darbaspēku, bet arī nosaka darba virzienus. Tā vietā, lai īstenotu vienu cilvēka izstrādātu pētniecības programmu, tas izstrādā tūkstošiem savējo. MI ģēniji strauji vairo attīstīšanas vērtu filmu ieceru un pārbaudes vērtu hipotēžu skaitu. Idejas vairojas ātrāk, nekā atbalsta infrastruktūra spēj tās uzņemt.
Šodienas MI piedāvā ilgi gaidītu atelpu, kurā mūsu labās idejas beidzot saņem pienācīgu iespēju. Rīt labu ideju var būt tik daudz, ka to īstenošanas iespēju trūkumu izjutīsim vairāk nekā jebkad agrāk.
Galu galā mēs nezinām, vai jaunu atziņu produktīvai izmantošanai vajadzīgo papildinošo resursu apjoms augs, saruks vai paliks nemainīgs. Cik tālu intelektuāli var tikt ar domāšanu vien? Cik daudz birokrātijas vajag ģenialitātei?
Mūsuprāt, atbilde ir atkarīga no tā, cik tālu var aizvest doma, pirms tai atkal jāsaskaras ar realitāti.
Mēs aprakstām divus iespējamos attīstības ceļus. Pirmais ir dziļuma civilizācija, kurā superintelekts pārvar vajadzību pēc lielāka fiziskā kapitāla un birokrātiskas koordinēšanas. Otrais ir plašuma civilizācija, kurā dabas sarežģītība pārsniedz jebkura intelekta — cilvēka vai mašīnas — spēju virzīties uz priekšu bez lieliem un arvien sarežģītākiem eksperimentiem reālajā pasaulē.
Cilvēces vēsture liecina, ka līdz šim vajadzība pēc papildinošās jaudas ir augusi. Galileja teleskops ietilpa viņa rokās; Veba teleskopam vajadzēja veselu civilizāciju. Neliela Bell Labs komanda salika pirmo tranzistoru uz darbagalda; tagad robežšķirtnes sasniegumus mikroshēmu jomā nodrošina sarežģīta globāla piegādes ķēde. Lai sasniegtu tālākus mērķus, atbalstam arvien jāiesaista lielāka civilizācijas daļa.
Taču vēsturei nav obligāti jānosaka mūsu liktenis. Gudri prāti var izgudrot efektīvākus papildinošos resursus. Ja jaunu daļiņu paātrinātāju ierobežo enerģijas trūkums, izcils prāts var izstrādāt taupīgāku paātrinātāju vai labāku enerģijas ieguves veidu.
Ģenialitāte var arī aizstāt daļu no to papildinošajiem resursiem. Einšteins spēja domās nonākt pie relativitātes teorijas, balstoties uz ļoti nelielu empīrisko datu apjomu. Mums vajadzētu daudz vairāk. Daži cilvēki vienkārši atceras visus savus plānus — vairums no mums paļaujas uz Google kalendāra birokrātiju.
Un ģenialitāte var izkopt gaumi līdz pilnībai, izvēloties pārbaudei labākās hipotēzes un izvairoties no neveiksmēm, kas izšķērdē resursus. Ja katrs papildu ģēnijs uzlabo plāna kvalitāti, tad pat tad, ja vajadzīgs arvien lielāks birokrātiskais aparāts, mēs joprojām daudz ieguldītu ģenialitātē — tieši tāpēc, ka īstenošana ir pārāk dārga, lai tās resursus izšķiestu nepareizajam mērķim.
Neviens no šiem ceļiem precīzi neatbildīs mūsu faktiskajai nākotnei, taču tos var uzskatīt par diviem iespējamiem mūsu civilizācijas attīstības virzieniem.
Intelekts var paplašināt zināšanas trīs veidos. Tas var spriest, balstoties uz pamatprincipiem. Tas var gūt jaunas atziņas no jau esošiem pierādījumiem. Vai arī tas var iegūt jaunus pierādījumus, novērojot pasauli un iedarbojoties uz to.

Pirmais veids ļauj tikt tālu ar domāšanu vien. Matemātika ir tā tīrākais piemērs. Daudzajos pierādījuma vai projekta izvēles punktos spēcīgs prāts var pastāvīgi pieņemt pareizo lēmumu. Tas aizstāj gadiem ilgu taustīšanos meklējumos ar īsu, mērķtiecīgāku spriedumu ķēdi.
Arī otrais veids paver vēl neapgūtas iespējas straujam progresam. Cilvēce ir savākusi daudz vairāk pierādījumu, nekā spējusi izprast. Mūsu datu — astronomisko attēlu, mikroskopa preparātu, interneta komentāru sadaļu — izpēti ir ierobežojis cilvēku intelekta trūkums. Zinātniskajos arhīvos glabājas novērojumi, kas reģistrēti, lai atbildētu uz vienu jautājumu, taču var slēpt atbildes uz daudziem citiem. Ja ģenialitātes ir pārpārēm, atklājumus var izdarīt nevis vācot ko jaunu, bet saskatot to, kas jau ir mūsu rīcībā. Tā varētu atklāt jaunu Visumu, neuztverot nevienu jaunu fotonu.
Trešais veids nav tik vienkāršs, jo tas prasa mijiedarbību ar fizisko pasauli. Fiziskiem procesiem vajag laiku, un bieži vien to paātrināšanai var darīt maz. Ķīmiskajām vielām jāizreaģē. Organismiem jāizaug. Mašīnas jāuzbūvē. Kosmosa kuģiem jāpārvar reāls attālums, ievērojot Visuma ātruma ierobežojumus. Pat nevainojams prāts nevar novērot tāda eksperimenta rezultātu, kurš nav noticis.
Taču tas var mēģināt. Dziļuma civilizācija neatbrīvotos no vajadzības pārbaudīt savas idejas realitātē. Tā iemācītos to darīt radikāli taupīgāk. Labāka spriestspēja ļautu noteikt tos dažus eksperimentus, kuriem patiešām ir nozīme. Simulācijas atrisinātu lielāko daļu jautājumu un precīzi noteiktu neskaidrības, kuras jākliedē realitātē. Superintelekts var sasniegt maksimālu efektivitāti, pielāgojot risinājumus saviem ierobežotajiem resursiem, lai no tiem iegūtu pēc iespējas vairāk.
Iztēlojieties astrofizikas laboratoriju, kurā izvirzītas vairākas hipotēzes par tumšo matēriju. Vispirms tās pārbauda ārkārtīgi reālistiskā datormodelēšanā. Katru teoriju pārbauda, vai tā saskan ar visiem esošajiem datiem. Tikai pēc tam uzņem dažus jaunus, mērķtiecīgi izvēlētus debess attēlus, lai pārbaudītu daudzsološākās teorijas. Civilizācijai joprojām vajag ģenialitāti papildinošus resursus, taču katra to vienība rada daudz lielāku vērtību.
Mūsu ceļš uz dziļuma civilizāciju varētu līdzināties puzles likšanai. Sākumā virzīties uz priekšu ir viegli, beigās arī, bet visgrūtāk ir vidū. Sākumā ir skaidri saskatāmas malas un viegli savienojami gabaliņi. Tad tie izsīkst, bet salikta vēl pārāk maza attēla daļa, lai tā palīdzētu salikt pārējo. Tuvojoties beigām, atlikušās tukšās vietas gandrīz pašas pasaka priekšā, kas tajās iederas. Gandrīz pilnīga zinātne savus pēdējos atklājumus varētu izdarīt vieglāk nekā tos, pie kuriem mēs šodien nonākam ar grūtībām.
Zinātnē tā ir ierasta parādība. Mendeļejevs varēja aprakstīt vēl neatklātus elementus, jo pārējā periodiskā tabula ierobežoja iespējas, kādi varētu būt trūkstošie elementi. Standartmodelis deva fiziķiem pamatu paredzēt Higsa bozonu vairākas desmitgades pirms tā novērošanas. Mūsu eksperimenti bija mērķēti uz to, ko cerējām ieraudzīt — to, kas saskanēja ar esošo teoriju un datiem.
Superintelekts varētu radīt dziļuma civilizāciju, izprotot pasaules likumsakarības tik labi, ka tas precīzi zinātu, kādi jauni dati tam vajadzīgi. Tas virzītu progresu ar dziļāku domāšanu, nepaļaujoties uz fiziskās izplešanās lēno gaitu.

Ja šādi efektivitātes ieguvumi gūtu virsroku, civilizācija varētu strauji padziļināt savu varu pār dabu, un tai mazāk vajadzētu institucionālo intelektu milzīgu jaunu eksperimentālo iekārtu pārvaldīšanai. Tās fiziskais mērogs varētu palikt neliels, kamēr tās gudrība briestu.
Mēs, cilvēki, jau esam tik daudz sapratuši par savu Visumu, pat nepametot mājas. Dziļuma civilizācija turpinātu šo tradīciju.
Taču vajadzība pēc jauniem pierādījumiem var pārsniegt šos efektivitātes ieguvumus. Intelekts var padarīt katru pārbaudi realitātē lētāku, vienlaikus atklājot daudz vairāk iemeslu šādām pārbaudēm. Labāki instrumenti paver smalkākas izpētes iespējas. Ātrāki eksperimenti var padarīt papildu eksperimentus lietderīgus.
Ja Einšteina gandrīz tikai domās veiktais ceļš uz relativitātes teorijām raksturo dziļuma civilizāciju, tad bioloģija, iespējams, vislabāk ļauj nojaust, kāda būtu plašuma civilizācija. Lai cik daudz zināšanu esam uzkrājuši un datu izmantojuši, jaunas zāles joprojām jāizmēģina lielam skaitam cilvēku, lai zinātu, ka tās ir drošas un efektīvas. Mašīnas tagad spēj simulēt bioloģiskos procesus, ļaujot biologiem pārbaudīt jaunas zāles datorsimulācijās, nevis fiziskos eksperimentos, taču šīs digitālās simulācijas vēl neataino reālo pasauli pietiekami precīzi, lai aizstātu plaša mēroga izmēģinājumus ar cilvēkiem. Jo vairāk zāļu kandidātu piedāvā mašīna, jo vairāk progresu ierobežo empīriskā pārbaude.
Plašuma civilizācijā ar ģenialitāti vien progresam nepietiek. Mūsu vajadzība pēc fiziskiem resursiem un birokrātijas to izmantošanas pārvaldīšanai aug ātrāk, nekā gudrs prāts spēj panākt ietaupījumus kā vienā, tā otrā.
Tas varētu būt mūsu ceļš pat tad, ja nākotnes MI sistēmas ievērojami pārspēs cilvēka intelektu. Superintelekts vienā pēcpusdienā varētu izplānot gadsimtu ilgu eksperimentu programmu un pēc tam pavadīt gadsimtu, gaidot, kamēr daba un iekārtas to izpildīs. Šādā pasaulē intelektu kļūst vērtīgāk ieguldīt institucionālajos procesos, kas vajadzīgi ideju īstenošanai, nevis pašā ideju radīšanā.
Šī ietekme pastiprināsies, ja katrs nākamais solis prasīs arvien vairāk atbalsta infrastruktūras.
Šeit mēs redzētu salīdzinoši mazāk domāšanas un vairāk būvēšanas. Laboratorijas tiek automatizētas. Rūpnīcu skaits pieaug. Enerģijas ražošana palielinās. Lai to visu nodrošinātu, noteicošā loma ir institucionālajam intelektam. Fiziska izplešanās kļūst par zināšanu dzinējspēku, un civilizācija plešas plašumā, jo tās jautājumi ir pārauguši atbilžu iegūšanas iespējas. Lai turpinātu virzīties uz priekšu, vajag vairāk materiālu, vairāk enerģijas, vairāk datu.

Daisona sfēra ir šādas nākotnes galējs piemērs. Tās projektēšanai nepieciešami ārkārtīgi atklājumi, tomēr lielākā daļa projekta darba nebūtu saistīta ar revolucionārām idejām. Tā būtu būvniecība un loģistika astronomiskā mērogā.
Daisona sfēras plāna izstrādei vajadzīgi izcili prāti. Taču tas būtu arī viens no visu laiku vienmuļākajiem un organizatoriski sarežģītākajiem projektiem ar milzīgu apjomu atkārtotu darbību.
Tā nav intelekta neveiksme, bet gan tā panākumu sekas. Spējīgāki prāti atrod vairāk īstenošanas vērtu projektu; sarežģītāku projektu īstenošanai vajag vairāk matērijas.
Ja tā ir, superintelekta lielākais spēks varētu nebūt tā ģenialitāte. Tas drīzāk būtu gatavībā kļūt par birokrātisko aparātu — koordinēt milzīgo tehnoloģiju un institūciju mehānismu, kas vajadzīgs, lai idejas pārvērstu īstenībā arvien lielākā mērogā.
Gandrīz viss mašīnu intelekts tiktu izmantots nevis ģeniāliem, bet garlaicīgiem darbiem.

Tad turpmāko progresu varētu kavēt dabas noteiktie fiziskās izplešanās ātruma ierobežojumi. Lai cik ātri taptu plāni, zvaigznes enerģijas ieguves iekārtu būvniecība ir darbs ar matēriju. Aiz tās ir citas zvaigznes un citas galaktikas, un attālums, cik mums zināms, pats par sevi ierobežo tempu: ne kuģis var ceļot, ne signāls atgriezties ātrāk par gaismu. Plašuma civilizācija ir lēna civilizācija. Tās lielās pārmaiņas varētu šķirt tūkstošiem, varbūt pat miljoniem gadu. Katrs nākamais solis prasa vairāk laika.
Lauksaimniecības un rūpniecības revolūcijas šķistu kā drudžains sākums daudz garākai vēsturei ar krietni lēnāku progresa tempu.

Visnotaļ iespējams, ka nākotnes MI sistēmas pārspēs cilvēkus gan robežšķirtnes atziņu radīšanā, gan to resursu koordinēšanā, kas vajadzīgi, lai šīs atziņas nestu praktisku labumu. Taču šī iespēja nemazina cilvēka zinātkāres nozīmi.
Pirmkārt, mūsu pienākums tiekties pēc izpratnes paliek spēkā, pat ja mašīnām tas šķietami padodas labāk. Visumā jau varētu pastāvēt par mums daudz gudrāki prāti, kuriem zināmas atbildes uz zinātniskiem un morāliem jautājumiem, ko mēs nespējam pat aptvert. Tomēr mēs joprojām cenšamies pasauli izprast paši. Cita intelekta parādīšanās — pat ja esam to radījuši paši — to nemaina. Kamēr nezinām droši, ka cilvēcei vairs nav nekā īpaša, ko dot, padodoties mēs izniekojam visu, ko pasaulei varam sniegt tikai mēs. Mūsu pienākums joprojām ir uzdot jautājumus un mēģināt uz tiem atbildēt.
Otrkārt, robežšķirtnes intelekta jomā mums varētu būt salīdzinoša priekšrocība attiecībā pret institucionālā intelekta jomu. Tas nozīmētu, ka, pat ja abās jomās esam vājāki, pirmā mums padodas salīdzinoši labāk un mēs tajā specializējamies. Cilvēki dod priekšroku radošam darbam, nevis rutīnai, savukārt robotiem šādas izvēles nav.
Treškārt, daudzveidība mums dod labumu. Pat ja mašīnas spēj atdarināt lielāko daļu cilvēka domāšanas, saglabājot kaut daļu savas unikalitātes, mēs sniedzam radošu daudzveidību. Liela daļa mašīnu intelekta paliktu tā paša sevi uzturošajā sistēmā, taču nelielu daļu mēs izmantotu savu radošo ieceru īstenošanai. Tikai niecīga daļa no kopuma, bet mūsu mērogam tā būtu greznība un daudz vairāk par šodien pieejamajiem resursiem.

Izdoma nepastāv vienatnē. Tai vajadzīga pasaule, un ģēnijam vajadzīgi būvētāji, kas īstenotu viņa radošo vīziju.
Liela daļa cilvēku intelekta šodien tiek veltīta nepelnīti neievērotajam darbam, kas idejas pārvērš īstenībā. Arī mašīnu prāti būs tāpat atkarīgi no šī darba. Tie visi nevar būt dižgari. Tiem jābūt arī birokrātiem.
Mūsu nākotnes stāsts un tā attīstības temps ir atkarīgs no tā, vai izciliem prātiem vajag arvien vairāk pasaules resursu vai arī tie spēj paveikt vairāk ar mazāku resursu apjomu.

- 2026
- Nākamā ekonomika


