Klusā vienprātība
Autora piezīme: Šodienas eseja ir veidota, pielāgojot lekciju, ko autors nesen nolasīja Hārvardas Universitātē Vika–Beilija lekciju ciklā. Šī publikācija atspoguļo autora personīgos uzskatus, kas ne vienmēr sakrīt ar OpenAI vai citu tā darbinieku uzskatiem.
Paldies, ka šodien esat šeit. Kamēr mēs runājam, risinās viena no nozīmīgākajām kiberdrošības notikumu virknēm vēsturē: tiek atklāta virkne kritisku drošības ievainojamību, ko daži dēvē par „melno oktobri”. Šīs ievainojamības interneta pamatinfrastruktūrā atrada robežšķirtnes MI sistēmas, un to izpaušana ir daļa no steidzamiem centieniem stiprināt programmatūras drošību visā pasaulē. Šis ir šā mēneša neatliekamais jautājums; nākamajā mēnesī būs cits. Programmatūras ievainojamību atklāšana ir divējādi izmantojama spēja, ko MI sistēmas apguvušas šodien, taču drīz parādīsies nākamā. Tā savukārt rosinās jaunu steidzamu projektu, lai izmantotu šo spēju labiem mērķiem, pirms ļaunprāši to vērš pret mums. Visi šie neatliekamie jautājumi neizbēgami pārklāsies, un liela daļa no tā, ko šodien saucam par „MI politiku”, visticamāk, taps šajā kņadā.
Taču šodien neesmu nācis runāt par steidzamām lietām, kuras prasa tūlītēju reakciju. Es vēlos runāt par to, kurp mēs varētu virzīties plašākā mērogā. Tik daudzu neatliekamu uzdevumu gūzmā var būt grūti domāt par šiem abstraktākajiem, no ikdienas attālinātajiem jautājumiem. Taču šie jautājumi ir svarīgi. Ja mums nav priekšstata, kādu nākotni ilgtermiņā vēlamies sasniegt un no kādas izvairīties, kopējais iznākums var būt mums nevēlams, pat ja katrā solī esam pieņēmuši gudrus lēmumus.
Bieži dzirdams, ka tehnoloģiju nozarei trūkst pozitīva redzējuma par to, kurp mūs aizvedīs tās radītās tehnoloģijas. Es tam nepiekrītu: Sanfrancisko un citos uzņēmējdarbības centros netrūkst pozitīvu redzējumu par mūsu tehnoloģisko nākotni. Cilvēki patiešām veido lidojošas automašīnas, autonomus transportlīdzekļus, dažādu izmēru un formu robotus, kodolsintēzes tehnoloģijas un, protams, mākslīgo vispārējo intelektu. Mums drīzāk trūkst pozitīva redzējuma par mūsu institūciju nākotni: kā tas viss darbosies?
Tomēr tas nenozīmē, ka nākotnes redzējuma par institūcijām vispār nav. Diemžēl redzējumu, ar kuru sastopos visbiežāk, es nesauktu par pozitīvu. Ja to vispār pauž vārdos, tad parasti čukstus. Taču vēl biežāk tas paliek nepateikts, nojaušams tikai starp rindām. Es to saucu par kluso vienprātību.
Iedomājieties uzņēmumu, kas spēj paveikt gandrīz visu bez cilvēku darba. Tā MI sistēmas veic pētniecību un izstrādi, izdara atklājumus, vienojas par līgumiem, sadala kapitālu un ražo. Pieņemsim, ka tas šajās jomās pārspēj cilvēku vadītos konkurentus pat tad, ja arī viņi savā darbā izmanto MI palīdzību. Ja cilvēku iesaiste uzņēmuma darbu tikai palēnina, tā vadītājiem un īpašniekiem būs spēcīgs stimuls noņemt rokas no stūres. Ja tas notiks visā pasaules ekonomikā, tirgus konkurences loģika mudinās cilvēkus atteikties no vadošās lomas pasaules uzņēmējdarbībā. Ar laiku tirgus var sākt apmierināt mašīnu vajadzības tikpat lielā vai pat lielākā mērā nekā cilvēku vajadzības un vēlmes.
Kas notiks pēc tam, varam tikai minēt. Iespējams, cilvēki no tā iegūtu ārkārtīgi daudz. Ja mašīnas, kuru pakļautībā mēs būtu nonākuši, augstu vērtētu cilvēku pašvērtību, mēs varētu baudīt to darba augļus un radīto bagātību. Vai arī, zaudējuši ekonomisko un arvien vairāk arī politisko varu, mēs, cilvēki, pasaulē kļūsim arvien nenozīmīgāki un arvien mazāk spēsim ietekmēt pasaules notikumu gaitu. Varbūt neliels skaits cilvēku iegūtu ārkārtīgu varu un bagātību uz pārējo, lielākoties bezspēcīgo cilvēku rēķina, bet varbūt mūs visus piemeklētu vienāds varas zaudēšanas liktenis. Neatkarīgi no detaļām šīs klusās vienprātības kopīgais pavediens ir cilvēku vadošās lomas beigas pasaulē, kādu to pazīstam.
Neviens no šiem scenārijiem neprasa, lai MI saceltos pret saviem radītājiem. Nav arī nepieciešams, lai tā īpašnieki vēlētos atņemt cilvēkiem varu. Katrs lēmums deleģēt pienākumus pats par sevi var būt pamatots. Tomēr kopumā šie lēmumi varētu radīt pasauli, kurā cilvēki būtu atteikušies no reālas varas pār lielu daļu mūsu civilizācijas. Pat ja mēs panāksim ārkārtīgu progresu sarežģītajos MI drošības un saskaņošanas ar cilvēku vērtībām jautājumos, mēs tik un tā varam nonākt jauna veida mašīnbūtnes pakļautībā. Laimīgajā nākotnes versijā, kā mums vēstītu klusā vienprātība, šī būtne būs labestīga — mašīna, kurai rūp cilvēku intereses. Mašīna, kas, kā teikts Brotigana dzejolī, ir mīlošas žēlastības pilna.
Klusā vienprātība mums vēsta, ka šīm mašīnām mēs nodosim savu uzņēmumu un arvien biežāk arī pārvaldes institūciju atslēgas. Tās vadīs šīs organizācijas sekmīgāk un efektīvāk, ar lielāku gudrību un spriestspēju, nekā to spējam mēs, cilvēki. Tā mēs ar laiku noņemsim rokas no stūres un ļausim mīlošajām mašīnām pārņemt vadību. Mēs būsim kā pasažieri automašīnā — ļoti labā automašīnā, varbūt materiālā ziņā labākā, nekā šodien spējam iedomāties, — tomēr joprojām tikai pasažieri, kuri nevar noteikt, kurp tā dodas. Ja vispār strādāsim, tas lielākoties būs sava veida rituāls vai izlikšanās — drīzāk spēle mūsu sugas izklaidei.
Daži novērotāji iebildīs, ka klusā vienprātība balstās uz aplamu pieņēmumu, jo mēs, cilvēki, jau arī šodien nekontrolējam pasauli. Un šo kritiku ir vērts paturēt prātā: nav vienota „mēs”, kas izlemtu, ko darīt. Mēs dzīvojam dziļi decentralizētā pasaulē, gribam to vai ne. Tomēr arī šī atziņa nedrīkst mūs iemidzināt pašapmierinātībā: lai gan „mēs” pasauli „nekontrolējam”, cilvēkiem kopumā tomēr ir vadošā loma pasaules norisēs. Nav nevienas dzīvnieku sugas, kas nopietni konkurētu ar mums par kontroli pār resursiem. Mums ir jānoraida paviršais priekšstats, ka cilvēki var centralizēti kontrolēt pasauli, taču tas nenozīmē noliegt acīmredzamo: cilvēki kopumā ir galvenais spēks, kas nosaka notiekošo uz Zemes.
Daži no tiem, kuri ir gatavi paust kluso vienprātību vārdos, uzskata šādu nākotni par patiesi labu. Citi tā nedomā, taču ir samierinājušies ar tās neizbēgamību. Klusā vienprātība nav vienprātība tāpēc, ka visi to uzskatītu par labu, un tā nav arī slepens MI veidotāju plāns. Vienprātība ir vienīgi par to, ka cilvēku atteikšanās no vadošās lomas pasaules norisēs ir neizbēgama vai vismaz ka ir ļoti grūti iztēloties citu nākotnes redzējumu, kas patiešām spētu pastāvēt līdzās superintelektuālām mašīnām. Cilvēks var patiesi iebilst pret šādu iznākumu un vienlaikus nespēt iztēloties ticamu alternatīvu. Daudz ko atklāj tieši tas, ka šī vienprātība lielākoties paliek neizteikta vai labākajā gadījumā tiek pausta klusā balsī.
Es nicinu kluso vienprātību. Es noraidu atteikšanos no cilvēku vadošās lomas. Man riebjas šī neizbēgamības sajūta. Es sev atgādinu, ka nespētu ieskatīties sava mazā dēla skaistajās acīs, ja pakļautos klusajai vienprātībai. Tāpēc klusajai vienprātībai es saku nē. Un es uzskatu, ka ir pienācis laiks atklāti runāt par kluso vienprātību, lai mēs pārstātu lielākoties neapzināti pieņemt šo nākotnes redzējumu.
Problēma ir tāda, ka klusā vienprātība nav radusies bez iemesla. Ir grūti aprakstīt, kā cilvēki paliks pie stūres līdzās mašīnu intelektam, kas daudzkārt pārspēj cilvēka spējas. Vairums mēģinājumu to izskaidrot balstās uz argumentiem, ka MI ir tikai rīks, likumsakarību atpazīšanas instruments, kas nespēj neko „patiesi izprast”. Es baidos, ka šie argumenti neizturēs sadursmi ar gaidāmo realitāti. Es baidos, ka arī tie ir savdabīga pašapmierinātības forma — nostāja, kas galvenokārt balstās uz MI spēju noliegšanu, nevis uz pārliecību, kuras pamatā ir skaidrs redzējums par cilvēku vadītu nākotni. Nevar teikt, ka MI sistēmām trūkst „patiesas izpratnes”, ja tās sāk gūt panākumus intelektuālu problēmu risināšanā, ar kurām cilvēki nav tikuši galā gadu desmitiem un gadsimtiem.
Kāpēc tad es uzskatu, ka cilvēkiem jāsaglabā vadošā loma? Vienkāršā atbilde ir — tāpēc, ka esmu cilvēks un patiešām esmu cilvēku šovinists, kas par to nekaunas.
Taču tam ir arī dziļāks pamats. Mūsu vadošā loma nebalstās mūsu intelektā vai spējā mūžīgi saglabāt monopolu uz „patiesu izpratni”. Tā balstās mūsu pagātnē.
Jo tie bijām mēs, kas izkļuva no dubļiem. Mēs, kas no zemes un akmens izveidoja pirmatnējo sabiedrību. Mēs, kas raudzījās zvaigznēs un jautāja — kāpēc? Mēs ar savām cīņām un mīlestību, skaudību un prieku atklājām morāli, ētiku un tiesības. Tie bijām mēs, kas dziedāja un dejoja, rakstīja un komponēja. Tie bijām mēs, kas veidoja vēsturi, un mēs to arī pierakstījām. Šis mantojums ir mūsu. Mūsu uzceltā civilizācija ir liesma, ko esam kopuši, un šī liesma pieder mums. Mūsu pagātne ir dižens mantojums, kura glabātāji esam mēs visi. Daļa no šīm rūpēm ir līdzdalība tajā, ko Maikls Oukšots sauca par „cilvēces sarunu”, — šajā grandiozajā kopdarbā, kas aizsākās aizlaikos.
Šajā garajā un līkumotajā vēstures ceļā mēs izveidojām civilizāciju, kuras pamatā Amerikā tika liktas indivīda tiesības un cieņa pret ceļu, ko katrs no mums sev veido, ejot cauri dzīvei. Cilvēku dzīve var izvērsties labāk vai sliktāk: mēs baudām savu gudro lēmumu augļus un uzņemamies sekas, kad kļūdāmies. Tiesības iet savu ceļu nav atkarīgas no tā, vai esam paši gudrākie vai viedākie. Es nezaudēju savu pilsoņa statusu tāpēc, ka manam kaimiņam ir labāka spriestspēja. Es neredzu iemeslu, kādēļ arī intelektuāli pārākas mašīnas parādīšanās varētu šo statusu atņemt, un redzu visus iemeslus, lai to nepieļautu.
Daži varētu apgalvot, ka arī mašīnas, izlasījušas gandrīz visas šā mantojuma rakstiskās liecības, ir tā mantinieces. Un savā ziņā tā ir. Taču cilvēks, kurš izlasījis visas jūsu ģimenes bēniņos glabātās vēstules, tāpēc vien nekļūst par jūsu ģimenes locekli. MI sistēmas pievienosies cilvēces sarunai — vispirms kā novērotājas un arvien vairāk arī kā dalībnieces —, taču tās nedrīkst tajā dominēt vai padarīt šo sarunu bezjēdzīgu. Atdot vadošo lomu nozīmē nodot gan mūsu senčus, gan pēctečus. Ja par to nav vērts cīnīties, tad nav vērts cīnīties ne par ko.
Es uzskatu, ka klusās vienprātības piekritēji maldās par to, kāds būs mašīnu superintelekts. Viņi neievēro kaut ko svarīgu pasaules darbībā — viņi jauc intelektu ar varu. Ja pirms pieciem vai desmit gadiem kādam klusās vienprātības piekritējam aprakstītu kaut vai šodienas MI sistēmu spējas, viņš droši vien paredzētu, ka bezdarbs tagad būs daudz augstāks, nekā tas patiesībā ir, un ka cilvēku varas zaudēšana kopumā būs pavirzījusies daudz tālāk, nekā tas patiesībā noticis. Es uzskatu, ka cilvēku kolektīvais intelekts un spējas ir daudz lielākas, nekā klusās vienprātības piekritēji domā, un ka mūsu sabiedrības izrādīsies noturīgākas, nekā viņi paredz.
Taču es varu kļūdīties. Var gadīties, piemēram, ka pilnībā autonomi uzņēmumi vienkārši izkonkurē cilvēku vadītos uzņēmumus. Un, ja tā būs, tad skarbā ekonomikas loģika diktēs arvien lielāka kapitāla nodošanu mašīnām. Šādā nākotnē cilvēku varas zaudēšana neprasa, lai mašīnas gāztu cilvēku civilizāciju; pietiek ar to, ka kapitālistiskās uzņēmējdarbības loģika turpina darboties kā līdz šim. Šajā gadījumā MI revolūcijas tuvākais līdzinieks būtu lauksaimniecības revolūcija, kad jauni ražošanas veidi pašos pamatos mainīja cilvēku sabiedrības uzbūvi. Nebūt nav skaidrs, vai cilvēkiem, kuri piedzīvoja šīs pārmaiņas, tās bija patīkamas; patiesībā ir daudz pierādījumu, ka šī pāreja pasliktināja cilvēku labklājību uz vairākiem gadu tūkstošiem.
Es nezinu, vai mūs gaida šāda nākotne, un citviet esmu pat argumentējis, kāpēc neticu, ka tā būs. Taču daudzi mani kolēģi — gudri, gādīgi un apzinīgi cilvēki — uzskata, ka tā, visticamāk, būs mūsu nākotne. Ja viņiem ir taisnība, mūsu cīņa pret kluso vienprātību būs vēl grūtāka. Mums nāksies peldēt pret ekonomikas straumi un līdz ar to noraidīt daudzas pārliecības, kas tādiem klasiskā liberālisma un individuālisma piekritējiem kā es ir dogmas. Tas būs bīstams pasākums, un neveiksmes iespēja nebūt nebūs maza. Taču, ja par šo nav vērts cīnīties, tad nav vērts cīnīties ne par ko.
Saglabāt vadošo lomu nozīmē saglabāt cilvēku un viņu institūciju atbildību. Tas nozīmē, ka MI izstrādātājiem jāatbild par nedrošu izstrādes praksi, bet arī cilvēkiem un uzņēmumiem, kas izmanto MI, jāuzņemas atbildība, ja kaitējumu izraisa neatbilstoša MI izmantošana vai uzraudzības trūkums. Tam vajadzīgi ne tikai likumi, bet arī tehniskā infrastruktūra, kas ļauj nodrošināt atbildību. Aģentu darbībām jābūt sasaistāmām ar cilvēkiem, kuri par tām atbild. Savukārt aģentiem, kuri nav piesaistīti nevienam cilvēkam, ja tiem vispār ļauj piedalīties legālajā ekonomikā, jādarbojas noteiktās drošības robežās. Jebkādas tiesības aģentiem autonomi dibināt uzņēmumus, turēt īpašumu vai tiesāties būtu jāpiešķir ar ārkārtīgu piesardzību — ja vispār.
Un manā nozarē mēs varam sākt nopietni domāt par to, kā veidot intelektuālas mašīnas, kas ir savienojamas ar cilvēku vadošo lomu. Mēs varam veidot aģentus, kuru atļaujas ir saprotamas un ierobežotas, kuru darbības ir auditējamas un kuru pilnvaras lietotāji var atsaukt. Atbildība par rīcību, kas būtiski ietekmē citus, nenozīmē, ka jāuzrauga ikdienas privātā dzīve vai jāliedz anonīmi izteikties. Mēs varam apņemties aizsargāt lietotāju privātumu un katra cilvēka patstāvību lemt par savu digitālo īpašumu un datiem, arī nodrošinot praktisku iespēju šos datus pārvietot citur. Mēs varam izstrādāt gan sistēmas, kas palīdz cilvēkiem izprast lietas un pieņemt lēmumus, gan tādas, kas izpilda uzdevumus. Un mēs varam pārbaudīt, vai mūsu veidotie produkti vairo lietotāju spēju rīkoties pasaulē.
Nekas no tā nav pilnīgs plāns sabiedrībai, kurā pastāv par cilvēku pārāks intelekts. Es neuzticētos nevienam, kurš apgalvotu, ka viņam šāds plāns ir. Taču tas ir sākumpunkts.
Nākotni klāj bieza migla. Taču mēs varam rīkoties jau šodien. Kopīgi mēs varam vismaz skaļi nosaukt šo kluso vienprātību vārdā un izcelt tās aprises dienasgaismā. Katrs no mums var izvirzīt sev daudz vērienīgākus mērķus. Mēs varam izvēlēties neļaut MI mūs padarīt mazākus, bet gan ieguldīt pūles, lai tas paplašinātu mūsu iespējas. Mēs varam mācīties uzdot arvien drosmīgākus jautājumus, izzināt pasauli ar jaunu degsmi un neatlaidību un likt lietā savas jaudīgās mašīnas. Mēs varam kļūt par jauna veida cilvēku — nevis transcilvēku, bet cilvēku ar plašākām iespējām.
Es par to domāju, kad skatos uz savu mazo dēlu. Es nevēlos, lai viņš vienkārši dzīvotu labvēlīgu mašīnu uzraudzībā, lai cik ērtu dzīvi tās spētu nodrošināt. Es gribu, lai viņš manto pasauli, kurā var uzdot jautājumus, ko nevienam nav ienācis prātā uzdot, un radīt lietas, ko nevienam nav ienācis prātā radīt. Es negribu, lai viņam būtu greznāka automašīna ar mīkstāku pasažiera sēdekli. Es gribu, lai stūre būtu viņa rokās.
- 2026


