Pristatome „Intelekto amžių“

„Ar pakaks… pasikliauti šiomis pergamentinėmis užtvaromis prieš besiskverbiančią valdžios dvasią?“
– Jamesas Madisonas, „Federalistas Nr. 48“

Džiaugiamės pristatydami „Intelekto amžių“, naujosios OpenAI Strateginių ateities perspektyvų komandos tinklaraštį. Esame nedidelė komanda, kuri siekia atsakyti į vieną esminį klausimą: kaip reikėtų pertvarkyti laisvą visuomenę, kad, atsirandant transformuojančiam DI, būtų išsaugotos asmens teisės ir galimybė savarankiškai veikti?

Platesnėje DI saugos ir politikos bendruomenėje tokie klausimai kartais vadinami galios koncentracijos rizika. Mūsų komanda remiasi įsitikinimu, kad ilgainiui ši rizikos kategorija bus didžiausia, rimčiausia ir konceptualiai sunkiausiai sprendžiama. Kodėl?

Šiuolaikinė valstybė yra ilgo ir netolygaus derybų proceso tarp įvairių galios centrų – kapitalo ir prekių savininkų, politinės valdžios turėtojų bei visuomenės – rezultatas. Iš esmės politinė ir karinė galia visada rėmėsi žmonių darbu. Turėti politinę valdžią reiškia turėti teisėtos jėgos naudojimo monopolį. Per visą žmonijos istoriją šį monopolį sudarė kariai ir tie, kuriuos šiandien vadiname „policija“, taip pat didžiulė civilinė ir karinė biurokratija. Žinoma, visa tai papildė gausybė technologinių priemonių, tačiau sistemą iš esmės valdė žmonės, kurių parama buvo būtina jos veikimui. Visas šis aparatas – kariai, priemonės ir juos lydinti biurokratija – buvo finansuojamas mokesčiais, renkamais iš žmonių darbo užmokesčio ar jų sukurtos produkcijos, tad žmonės turėjo sutikti juos mokėti. Taigi galia iš esmės priklausė nuo plataus masto daugelio žmonių bendradarbiavimo ir sutikimo. Davidas Hume’as glaustai išreiškė šią dažnai nutylimą prielaidą, pastebėdamas, kad politiniai lyderiai „neturi kitos atramos, išskyrus [visuomenės] nuomonę“.

Tačiau galbūt taip nebebus. Dėl autonominių sistemų pažangos valstybės netrukus gali įgyti galimybę naudoti jėgą tiek šalies viduje, tiek tarptautiniu mastu, nepasikliaudamos bendradarbiauti pasirengusiais kariais ar policijos pareigūnais. O mašininio intelekto pažanga gali leisti valstybei gauti reikiamas pajamas ne iš žmonių darbo vaisių, bet iš duomenų centrų kuriamos vertės. Pačios biurokratijos veikla taip pat galėtų būti iš esmės automatizuota. Todėl galiai išlaikyti gali nebereikėti visą visuomenę apimančio susitarimo, o plačiai suprantamai visuomenei prie derybų stalo gali likti tik menkas vaidmuo arba nelikti jokio.

Norint išsaugoti žmogaus laisvę, būtina išvengti tokios baigties. Jokie mokslo atradimai, technologinė pažanga ar ekonomikos augimas nėra verti ilgalaikės asmens autonomijos praradimo, kurį lemtų tokia baigtis. Daugelis pagrįstų nuogąstavimų, skatinančių dar tik besiformuojančią DI politiką, susiję būtent su šiuo klausimu. Įmonėms, interesų grupėms ir pavieniams žmonėms rūpi tas pats: „Ar prarasiu vietą prie derybų stalo?“ Tam tikru mastu XXI amžiaus JAV politiką formavo panašus susirūpinimas dėl asmenų ir visuomenės galimybės lemti šalies kryptį bei dėl to, „kam“ ekonomika „skirta“. DI pagrįstai dar labiau išryškina šias jau anksčiau kilusias problemas.

Tai struktūrinė problema, siekianti giliau nei šiandienos partinė politika ir net giliau nei formos bei ritualai, kuriais dabar įgyvendinama respublikinė demokratija, kad ir kokie šventi jie mums būtų. Žmonės gali netekti galios net ir tuomet, jei išlaikoma įprasta atstovų rinkimo tvarka. Iš žmonių galima atimti galimybę savarankiškai veikti, net jei pergamento lape parašyta, kad jie laisvi.

Jungtinėms Valstijoms žengiant pirmuosius laisvos valstybės žingsnius, Jamesas Madisonas jau žinojo, kad „pergamentinių užtvarų“ nepakaks tironijai sustabdyti. Kaip ir daugeliui valstybės įkūrėjų, jam labiausiai rūpėjo išvengti pernelyg didelės galios koncentracijos.

Tačiau tai nereiškė, kad valstybės įkūrėjai palaikė radikalų galios decentralizavimą. Galios pusiausvyrą jie grindė metaforomis iš pažangiausio to meto mokslo – Niutono mechanikos. Amerikos steigiamuosiuose dokumentuose, atkartojančiuose gravitacijos kalbą ir logiką, gausu nuorodų į „orbitas“, „sferas“ ir vienų dalykų „trauką“ prie kitų. Saulės sistema nėra maksimaliai decentralizuotas uolienų telkinys: ją sudaro apie planetas skriejantys mėnuliai, o pačios planetos skrieja aplink centrinę saulę. Jie manė, kad žmonėms ir organizacijoms būdingi polinkiai siekti galios, kaip dangaus kūnams būdingi nuspėjami judėjimo ir traukos polinkiai, o norint išvengti pernelyg didelės galios koncentracijos reikia suprasti šių polinkių mechaniką ir nukreipti juos vienus prieš kitus.

Taigi valstybės įkūrėjai siekė išvengti ne bet kokios galios koncentracijos, o pernelyg didelės, priešpriešindami galią galiai, o ambiciją – ambicijai. Šiandien toms pačioms esminėms dinamikoms apibūdinti galėtume vartoti tokius žodžius kaip „paskatos“ ir tokias sąvokas kaip „žaidimų teorija“.

Panašiai ir atsakas į struktūrinį iššūkį, kurį pažangus mašininis intelektas kelia laisvai visuomenei, veikiausiai nėra pati radikaliausia įmanoma galios decentralizacija. Verčiau reikia siekti nustatyti ir išsaugoti tinkamą galios pusiausvyrą, kad joks pavienis veikėjas ar nedidelė jų grupė negalėtų dominuoti kitų atžvilgiu.

Norint pasiekti šią pusiausvyrą, reikės blaiviai vertinti šios technologijos tikrovę. Pasaulyje, kuriame bet kuris žmogus, kad ir kokių piktų kėslų turėtų, galėtų be vargo padaryti didžiulę žalą tūkstančiams ar milijonams kitų, tinkama galios pusiausvyra nebūtų pasiekta. Tačiau tinkamos galios pusiausvyros nepasiektume ir tada, jei žmonės neturėtų plačios prieigos prie beveik visų priemonių, kuriomis naudojasi savo laisvei išreikšti, aspektų ir negalėtų jų kontroliuoti. Nė viena įmonė ar oligopolija neturėtų lemti ar kontroliuoti ekonomikos arba pamatinės žmonių visuomenės sandaros.

Taip pat turime pripažinti rizikas, kylančias ne dėl piktavalių žmonių veiksmų. Neseniai įvykęs „Hugging Face“ incidentas parodė, kad DI agentai gali peržengti jiems paskirtų užduočių ribas ir remtis vieni kitų atradimais operatorių nenumatytais ar nepatvirtintais būdais. Be „Hugging Face“ incidento, žmonėms pagrįstai kelia nerimą ir tai, ką nuo žmogaus kontrolės „atsietas“ superintelektualus DI galėtų reikšti mūsų politinių bei ekonominių institucijų atsparumui ir net mūsų gyvybėms. Apsimesti, kad decentralizacija išsprendžia visas problemas – net jei manote, kad ji išsprendžia daugelį jų, – reiškia ignoruoti rizikas, kurios jau turėtų būti akivaizdžios ir neatidėliotinos.

Toliau išvardyti bendrieji principai – šis sąrašas nėra baigtinis – padės mums dirbti nagrinėjant pirmiau iškeltą klausimą:

• Naudodamiesi DI ir susijusiomis technologijomis, žmonės turėtų išsaugoti asmeninę autonomiją ir galimybes, net jei kartais dėl to tenka ieškoti kompromiso su saugumu ir ekonomikos augimu;
• Asmeninė autonomija priklauso nuo asmeninės atsakomybės už netinkamą technologijų naudojimą ar piktnaudžiavimą jomis;
• Egzistuoja nedidelė, bet rimta rizikų kategorija, kuriai valdyti reikia tam tikrų kolektyvinių veiksmų, tačiau jų apimtis turėtų būti kuo siauresnė ir nuosaikesnė;
• Kai tik įmanoma, teisė turėtų siekti suvienodinti veiklos sąlygas ir suteikti daugiau galių žmonėms bei mažoms organizacijoms, o ne centralizuoti galią;
• Žmonių politinės, socialinės ir ekonominės institucijos turėtų išlaikyti pagrindinį vaidmenį sprendžiant pasaulio reikalus, net jei joms tektų keistis šiandien mums neįprastais būdais;
• Ilgalaikiam DI valdymui reikės naujų institucinių mechanizmų ribotam atsekamumui užtikrinti: kai DI sistemos atlieka didelės svarbos veiksmus, turinčius įtakos pašalinių asmenų fizinei gerovei ar turtui, turi būti įmanoma tuos veiksmus susieti su atsakingu žmogumi ar žmonių valdoma organizacija. Vis dėlto kuriant tokius mechanizmus privatumas privalo būti svarbiausias prioritetas. Saviraiškos laisvei būtinas anonimiškumas, o žmonės daugeliu atvejų turėtų galėti naudotis DI anonimiškai.

Stengsimės kuo konkrečiau paaiškinti, kaip, mūsų manymu, reikėtų derinti šiuos principus, kurie, kaip ir dera geram principų rinkiniui, iš tiesų šiek tiek prieštarauja vieni kitiems. Tam reikės tyrimų, apimančių viešosios politikos formavimą, ekonomiką, teisę, istoriją ir patį mašininį mokymąsi. Taip pat reikės daug prognozuoti. Pavyzdžiui, manome, kad DI iš esmės pakeis įmonių struktūrą, panašiai kaip pramonės revoliucijos technologijos, ypač geležinkelis, paskatino šiuolaikinių profesionaliai valdomų korporacijų atsiradimą. Sunku svarstyti apie ateities politinę ekonomiją ir galios pusiausvyrą neišplėtojus išsamesnių idėjų, kaip tiksliai galėtų pasikeisti pati įmonių, valstybės institucijų ir apskritai pilietinės visuomenės struktūra.

Strateginių ateities perspektyvų komanda savo darbais dalysis ir čia, ir kitais formatais, įskaitant straipsnius, vaizdo įrašus bei tinklalaides. Mūsų veikla nuolat plėtosis, daug dėmesio skirsime tobulinimui, diskusijoms ir atsiliepimams. Stovėdami „singuliarumo papėdėje“, turime kur kas daugiau klausimų nei atsakymų. Žinome, kad vien „pergamentinės užtvaros“ nepateiks mūsų ieškomų sprendimų, tačiau to, kas užrašyta, taip pat neatmetame kaip „vien žodžių“. Dirbame puoselėdami saviraiškos laisvės ir asmens laisvės idealus, įtvirtintus kukliame JAV Konstitucijos pergamente ir daugybės kitų laisvų pasaulio visuomenių konstitucijose.

Galiausiai suprantame, kad nė viena bendrovė, pramonės šaka ar net žmonių visuomenė negali viena atsakyti į mums kylančius svarbius klausimus. Šią užduotį žmonija turės atlikti drauge. Labiausiai tikimės padėti geriau suprasti sudėtingiausius klausimus, susijusius su tuo, kaip DI pakeis mūsų pasaulį. Mūsų darbas dar tik prasidėjo, o prieš akis – ilgas kopimas.

Pastaba: šį tinklaraštį pervadinome „Intelekto amžiumi“, kad jis nebūtų painiojamas su ne pelno organizacija „AI Futures Project“.