Iepazīstinām ar emuāru „Intelekta laikmets”

„Vai pietiks… ar paļāvību uz šīm pergamenta barjerām, lai pretotos varas centieniem izplesties?”
— Džeimss Medisons, „Federālists Nr. 48”

Ar prieku atklājam Intelekta laikmetu — OpenAI jaunās Stratēģiskās nākotnes komandas emuāru. Mēs esam neliela komanda, kuru vieno mērķis atbildēt uz vienu visaptverošu jautājumu: kā pārveidot brīvu sabiedrību, lai, ienākot pārveidojošam MI, saglabātu indivīda tiesības un rīcībspēju?

Plašākā MI drošības un politikas kopiena šādus jautājumus mēdz dēvēt par riskiem, ko rada varas koncentrācija. Mūsu komandas darbības pamatā ir pārliecība, ka ilgtermiņā šī risku kategorija ir visplašākā, visnopietnākā un konceptuāli visgrūtāk risināmā. Kāpēc?

Mūsdienu valsts ir radusies ilgā un nevienmērīgā sarunu procesā starp dažādiem varas centriem — kapitāla un preču īpašniekiem, politiskās varas īstenotājiem un tautu. Pašos pamatos politiskā un militārā vara ir balstījusies uz cilvēku darbu. Turēt politisko varu nozīmē būt leģitīma spēka izmantošanas monopolam. Visā cilvēces vēsturē šo monopolu ir veidojuši karavīri un tie, kurus mūsdienās saucam par „policiju”, kā arī plašs civilais un militārais birokrātiskais aparāts. To, protams, papildināja daudzi tehnoloģiski rīki, taču pamatā to vadīja cilvēki, kuru atbalsts bija nepieciešams sistēmas darbībai. Savukārt visu šo aparātu — karavīrus, rīkus un ar tiem saistīto birokrātiju — finansēja ar nodokļiem no to cilvēku algām vai saražotā, kuriem bija jābūt gataviem šos nodokļus maksāt. Tātad varas pastāvēšana savā būtībā ir bijusi atkarīga no daudzu cilvēku plaša mēroga sadarbības un piekrišanas. Deivids Hjūms šo bieži vien vārdos neizteikto pieņēmumu formulēja kodolīgi, norādot, ka politiskajiem vadītājiem „nav cita atbalsta kā vien [sabiedrības] uzskati”.

Taču, iespējams, tā vairs nebūs. Autonomo sistēmu attīstība reālajā pasaulē drīz varētu ļaut valstīm izmantot spēku gan iekšzemē, gan starptautiski, nepaļaujoties uz karavīru vai policistu sadarbību. Savukārt mašīnintelekta attīstība varētu ļaut valstij vajadzīgos ieņēmumus gūt nevis no cilvēku darba augļiem, bet gan no datu centru radītā. Arī paša birokrātiskā aparāta darbību varētu lielā mērā automatizēt. Tādēļ varas uzturēšanai, iespējams, vairs nebūs vajadzīga visas sabiedrības iesaiste, un tautai plašā nozīmē pie sarunu galda varētu būt atvēlēta tikai neliela vieta vai arī tās nebūtu vispār.

Šāda iznākuma novēršana ir būtiska cilvēka brīvības saglabāšanai. Nekādi zinātnes atklājumi, tehnoloģiskais progress vai ekonomikas izaugsme nav tā vērti, lai upurētu indivīda autonomiju ilgtermiņā, kā to prasītu šāds iznākums. Daudzas bažas, kas pamatoti rosina topošās MI politikas debates, ir saistītas tieši ar šo jautājumu. Uzņēmumiem, interešu grupām un indivīdiem ir kopīgas bažas: „Vai es zaudēšu vietu pie sarunu galda?” Zināmā mērā Amerikas politiku 21. gadsimtā ir veidojušas līdzīgas bažas par indivīdu un sabiedrības spēju ietekmēt valsts attīstības virzienu, kā arī par to, „kam” ekonomika „ir domāta”. MI pamatoti piešķir šīm jau pastāvošajām bažām vēl lielāku nozīmi.

Tā ir strukturāla problēma, kas sniedzas dziļāk par mūsdienu partiju politiku un pat par formām un rituāliem, kuros pašlaik īstenojas republikāniska demokrātija, lai cik svēti tie mums būtu. Cilvēki var pakāpeniski zaudēt varu pat tad, ja tiek saglabāta ierastā pārstāvju ievēlēšana. Cilvēkiem var atņemt rīcībspēju pat tad, ja uz pergamenta rakstīts, ka viņi ir brīvi.

Jau laikā, kad Amerikas Savienotās Valstis kļuva par brīvu nāciju, Džeimss Medisons zināja, ka ar „pergamenta barjerām” nepietiks, lai novērstu tirāniju. Tāpat kā daudziem citiem valsts dibinātājiem, viņa galvenās rūpes bija nepieļaut pārmērīgu varas koncentrāciju.

Tomēr tas nenozīmēja, ka valsts dibinātāji atbalstīja radikālu varas decentralizāciju. Viņi varas līdzsvaru skaidroja ar metaforām no tālaika attīstītākās zinātnes — Ņūtona mehānikas. Amerikas dibināšanas dokumentos, kas atspoguļo gravitācijas valodu un loģiku, bieži minētas „orbītas”, „sfēras” un viena objekta „pievilkšanās” citam. Saules sistēma nav maksimāli decentralizēts iežu kopums. To veido pavadoņi, kas riņķo ap planētām, kuras savukārt riņķo ap centrālo Sauli. Viņi uzskatīja, ka cilvēkiem un organizācijām piemīt tieksme iegūt varu, gluži kā debess ķermeņiem piemīt paredzamas kustības un pievilkšanās tendences. Lai novērstu pārmērīgu varas koncentrāciju, bija jāizprot šo tendenču mehānika un tās jāvirza cita pret citu.

Tātad valsts dibinātāju mērķis nebija novērst jebkādu varas koncentrāciju, bet gan nepieļaut tās pārmērību, pretnostatot varu varai un centienus centieniem. Mūsdienās šīs pašas pamatā esošās norises mēs varētu raksturot ar tādiem vārdiem kā „stimuli” un tādiem jēdzieniem kā „spēļu teorija”.

Arī risinājums strukturālajam izaicinājumam, ko attīstīts mašīniskais intelekts rada brīvai sabiedrībai, visticamāk, nav visradikālākā iespējamā varas decentralizācija. Tā vietā jācenšas izveidot un saglabāt pareizo varas līdzsvaru, lai neviens dalībnieks vai neliela dalībnieku grupa nevarētu dominēt pār pārējiem.

Lai panāktu šo līdzsvaru, būs skaidri un reālistiski jāraugās uz šīs tehnoloģijas būtību. Pasaulē, kurā ikviens indivīds, lai cik ļaunprātīgs, var bez grūtībām nodarīt lielu kaitējumu tūkstošiem vai miljoniem citu cilvēku, nav panākts pareizais varas līdzsvars. Taču pareizais varas līdzsvars nav panākts arī tad, ja indivīdiem nav plašas piekļuves gandrīz visiem rīku aspektiem un kontroles pār tiem, kad šie rīki tiek izmantoti savas brīvības īstenošanai. Neviens uzņēmums vai oligopols nedrīkst noteikt vai kontrolēt ekonomiku vai cilvēku sabiedrības pamatstruktūru.

Mums jāņem vērā arī riski, kuru avots nav ļaunprātīgi cilvēki. Nesenais Hugging Face incidents parādīja, ka MI aģenti var rīkoties ārpus tiem uzticēto uzdevumu robežām un izmantot cits cita atklājumus veidos, kurus operatori nebija paredzējuši vai atļāvuši. Arī neatkarīgi no Hugging Face incidenta cilvēkiem ir pamats bažīties par to, ko no cilvēku kontroles „atraisīts“ superintelektuāls MI varētu nozīmēt mūsu politisko un ekonomisko institūciju noturībai un pat mūsu dzīvībai. Izlikties, ka decentralizācija atrisina visas problēmas — pat ja uzskatāt, ka tā atrisina daudzas —, nozīmē ignorēt riskus, kuriem šobrīd jau vajadzētu būt acīmredzamiem un aktuāliem.

Turpmāk minētie vispārīgie principi — šis saraksts nav izsmeļošs — palīdzēs virzīt mūsu darbu, risinot iepriekš izvirzīto jautājumu:

• Cilvēkiem, izmantojot MI un ar to saistītās tehnoloģijas, jāsaglabā personiskā autonomija un iespējas, pat ja tas dažkārt nozīmē kompromisus gan drošības, gan ekonomikas izaugsmes ziņā;
• Personiskā autonomija ir atkarīga no indivīda atbildības par tehnoloģiju nepareizu vai ļaunprātīgu izmantošanu;
• Pastāv neliela, bet nopietna risku kategorija, kuras novēršanai vajadzīga zināma kopīga rīcība, un šīs rīcības tvērumam jābūt pēc iespējas šauram un mērenam;
• Kad vien iespējams, tiesību aktiem jācenšas nodrošināt vienlīdzīgus konkurences apstākļus un stiprināt indivīdu un mazu organizāciju iespējas, nevis centralizēt varu;
• Cilvēku politiskajām, sociālajām un ekonomiskajām institūcijām jāsaglabā noteicošā loma pasaules notikumu virzībā, pat ja tām jāattīstās veidos, kas šodien mums var šķist sveši;
• MI ilgtermiņa pārvaldība balstīsies uz jauniem institucionāliem mehānismiem, lai panāktu ierobežotu izsekojamību: ja MI sistēmas veic augsta riska darbības, kas ietekmē apkārtējo fizisko labklājību vai īpašumu, jābūt iespējai šīs darbības sasaistīt ar atbildīgu cilvēku vai cilvēku kontrolētu organizāciju. Tomēr visiem šādiem mehānismiem jābūt veidotiem, par pamatu ņemot privātumu; vārda brīvībai ir vajadzīga anonimitāte, un daudzās situācijās cilvēkiem jāspēj izmantot MI anonīmi.

Mēs centīsimies pēc iespējas konkrētāk izklāstīt, kā, mūsuprāt, līdzsvarot šos principus, kuri — jāatzīst, tāpat kā ikviens labs principu kopums — zināmā mērā ir savstarpējā spriedzē. Tas prasīs pētījumus sabiedriskās politikas izstrādes, ekonomikas, tiesību, vēstures un pašas mašīnmācīšanās krustpunktā. Būs vajadzīga arī plaša nākotnes prognozēšana. Piemēram, mēs uzskatām, ka MI strukturāli mainīs uzņēmumus, līdzīgi kā industriālās revolūcijas tehnoloģijas, īpaši dzelzceļš, veicināja mūsdienu profesionāli pārvaldīto korporāciju rašanos. Ir grūti domāt par nākotnes politisko ekonomiku un varas līdzsvaru, neizstrādājot pilnīgākus priekšstatus par to, tieši kā varētu mainīties pati uzņēmumu, valsts iestāžu un plašākas pilsoniskās sabiedrības struktūra.

Stratēģiskās nākotnes komanda ar savu darbu dalīsies gan šeit, gan citos formātos, tostarp publikācijās, videomateriālos un raidierakstos. Mūsu darbs turpinās attīstīties, īpašu uzmanību veltot pilnveidei, diskusijām un atvērtībai pret atsauksmēm. Stāvot „singularitātes pakājē”, mums ir daudz vairāk jautājumu nekā atbilžu. Mēs zinām, ka ar „pergamenta barjerām” vien nepietiks, lai rastu meklētos risinājumus, taču mēs arī nenoniecinām rakstīto kā „tikai vārdus”. Mēs kalpojam vārda brīvības un indivīda brīvības ideāliem, kas nostiprināti pieticīgajā ASV Konstitūcijas pergamentā un tik daudzu citu brīvu sabiedrību konstitūcijās visā pasaulē.

Galu galā mēs zinām, ka nevienam uzņēmumam, nozarei vai pat sabiedrībai nav pa spēkam vienpusēji atbildēt uz nozīmīgajiem jautājumiem, ar kuriem saskaramies. Tas ir uzdevums, kas cilvēcei būs jāpaveic kopīgi. Mūsu lielākā cerība ir viest skaidrību vissarežģītākajos jautājumos par to, kā MI pārveidos mūsu pasauli. Mūsu darbs ir tikai sācies, un mums vēl jākāpj tālu.

Piezīme. Mēs mainījām šī emuāra nosaukumu uz Intelekta laikmets, lai to varētu skaidri atšķirt no bezpeļņas iniciatīvas AI Futures Project.