Tutvustame Nutikuse ajastut

„Kas piisab sellest, kui usaldame neid pärgamenditõkkeid pealetungiva võimuiha vastu?“
—James Madison, „Föderalist nr 48“

Meil on hea meel avada Nutikuse ajastu, OpenAI uue strateegilise tuleviku töörühma blogi. Oleme väike meeskond, kelle ühine eesmärk on vastata ühele suurele küsimusele: kuidas tuleks vaba ühiskond ümber korraldada, et säilitada üksikisiku õigused ja otsustusvabadus ning samal ajal kohaneda murrangulise tehisintellekti esiletõusuga?

Laiemas tehisintellekti ohutuse ja poliitika valdkonnas nimetatakse selliseid küsimusi mõnikord võimu koondumise riskideks. Meie töörühm lähtub mõttest, et pikas perspektiivis on see riskikategooria kõige suurem, tõsisem ja kontseptuaalselt keerukam. Miks?

Tänapäevane riik on eri võimukeskuste – näiteks kapitali ja kaupade omanike, poliitilise võimu kandjate ning rahva – vaheliste läbirääkimiste pika ja ebaühtlase protsessi tulemus. Kõige põhimõttelisemalt on poliitiline ja sõjaline võim toetunud inimtööle. Poliitilise võimu omamine tähendab seadusliku jõu kasutamise monopoli. Kogu inimajaloo vältel on see monopol seisnenud sõdurites ja neis, keda tänapäeval nimetame „politseiks“, ning ulatuslikus tsiviil- ja sõjalises bürokraatias. Seda on küll täiendanud arvukad tehnoloogilised vahendid, kuid süsteemi on põhiliselt käigus hoidnud inimesed, kelle toetust oli selle toimimiseks vaja. Kogu seda aparaati – sõdureid, vahendeid ja kaasnevat bürokraatiat – rahastati maksudest, mida koguti inimeste palgalt või toodangult ning mida nad pidid olema valmis tasuma. Võim on oma olemuselt sõltunud paljude inimeste laiaulatuslikust koostööst ja nõusolekust. David Hume sõnastas selle sageli varjatud eelduse tabavalt, märkides, et poliitilistel juhtidel pole „muud tuge kui [rahva] arvamus“.

Kuid ehk ei ole see enam nii. Reaalses maailmas tegutsevate autonoomsete süsteemide areng võib peagi võimaldada riikidel kasutada jõudu nii riigisiseselt kui ka rahvusvaheliselt, sõltumata koostöövalmis sõduritest või politseinikest. Masinintellekti areng võib aga tähendada, et riik ei kogu vajalikku tulu enam inimeste töö viljadest, vaid andmekeskuste toodangust. Ka bürokraatia enda toimimise saaks suures osas automatiseerida. Seega ei pruugi võimu säilitamiseks enam vaja minna kogu ühiskonda hõlmavat kokkulepet ning rahvale selle laias tähenduses võib jääda läbirääkimislaua taga vaid tagasihoidlik roll või ei pruugi tal seal üldse kohta olla.

Sellise tulemuse vältimine on inimvabaduse säilitamiseks hädavajalik. Ükski teadusavastus, tehnoloogiline edusamm ega majanduskasv pole väärt pikaajalise isikliku autonoomia ohverdamist, mida selline tulemus kaasa tooks. Paljud mured, mis kujunevat tehisintellektipoliitikat õigustatult tagant tõukavad, on seotud selle küsimusega. Nii ettevõtted, huvirühmad kui ka üksikisikud muretsevad: „Kas ma kaotan oma koha läbirääkimislaua taga?“ Teatud määral on 21. sajandi Ameerika poliitikat kujundanud samalaadsed mured üksikisikute ja rühmade mõju üle riigi arengusuunale ning selle üle, „kelle jaoks“ majandus „on mõeldud“. Tehisintellekt muudab need juba olemasolevad mured põhjendatult veelgi teravamaks.

See on struktuurne probleem, mis ulatub sügavamale tänapäeva parteipoliitikast ja isegi vormidest ning rituaalidest, mille kaudu vabariiklik demokraatia praegu toimib, ükskõik kui pühad need meile ka poleks. Inimesed võivad liikuda mõjuvõimu kaotamise poole isegi siis, kui säilib tava valida hääletades oma esindajaid. Inimestelt võib võtta otsustusvabaduse isegi siis, kui pärgamenditükil seisab, et nad on vabad.

Juba Ameerika Ühendriikide kui vaba riigi sünni ajal teadis James Madison, et „pärgamenditõketest“ ei piisa türannia vältimiseks. Nagu paljudele teistele riigi rajajatele, oli ka talle esmatähtis vältida võimu liigset koondumist.

See ei tähendanud aga, et riigi rajajad pooldasid võimu radikaalset detsentraliseerimist. Selle asemel võtsid nad võimutasakaalu mudeldamisel eeskujuks oma aja parima teaduse – Newtoni mehaanika – metafoorid. Ameerika alusdokumendid järgivad gravitatsiooni keelt ja loogikat ning neis leidub rohkelt viiteid „orbiitidele“, „sfääridele“ ja ühe nähtuse „tõmbele“ teise poole. Päikesesüsteem ei ole võimalikult hajutatud kivikogum. See koosneb kuudest, mis tiirlevad ümber planeetide, mis omakorda tiirlevad ümber keskse päikese. Nad uskusid, et inimestel ja organisatsioonidel on kalduvus võimu taotleda, nagu taevakehadel on etteaimatavad liikumis- ja tõmbekalduvused. Võimu liigse koondumise vältimiseks tuli mõista nende kalduvuste mehaanikat, et suunata need üksteisele vastukaaluks.

Riigi rajajate eesmärk ei olnud seega vältida võimu igasugust koondumist, vaid selle liigset koondumist, seades võimule vastu võimu ja auahnusele auahnuse. Tänapäeval võiksime sama põhidünaamika kirjeldamiseks kasutada selliseid sõnu nagu „stiimulid“ ja väljendeid nagu „mänguteooria“.

Ka arenenud masinintellekti poolt vabale ühiskonnale esitatud struktuursele probleemile ei ole tõenäoliselt lahenduseks kõige radikaalsem mõeldav võimu detsentraliseerimine. Selle asemel tuleb luua ja säilitada õige võimutasakaal, et ükski osaline ega väike osaliste rühm ei saaks ülejäänute üle valitseda.

Selle tasakaalu saavutamine nõuab tehnoloogia tegelikkuse kainet hindamist. Maailmas, kus iga üksikisik, olgu ta kui tahes pahatahtlik, saab kerge vaevaga teha suurt kahju tuhandetele või miljonitele teistele inimestele, ei ole õiget võimutasakaalu. Kuid õiget võimutasakaalu pole ka siis, kui inimestel puudub ulatuslik juurdepääs peaaegu kõigile vahenditele, millega nad oma vabadust väljendavad, ja kontroll nende üle. Ükski ettevõte ega oligopol ei tohiks määrata ega kontrollida majandust või inimühiskonna põhistruktuuri.

Peame arvestama ka riskidega, mille põhjustajaks ei ole pahatahtlikud inimesed. Hiljutine Hugging Face’i juhtum näitas, et tehisaru agendid võivad väljuda neile määratud ülesannete piiridest ja tugineda üksteise avastustele viisil, mida operaatorid ei näinud ette ega lubanud. Lisaks Hugging Face’i juhtumile on inimestel põhjust muretseda selle pärast, mida võib inimeste kontrolli alt „valla pääsenud“ üliintelligentne tehisaru tähendada meie poliitiliste ja majanduslike institutsioonide vastupidavusele ning meie elule. Väita, et detsentraliseerimine lahendab kõik probleemid – isegi kui usute, et see lahendab neist paljud –, tähendab eirata riske, mis peaksid nüüdseks olema ilmsed ja vahetud.

Meie tööd eespool püstitatud küsimuse käsitlemisel juhivad järgmised üldpõhimõtted, mille loetelu ei ole ammendav:

• Inimesed peaksid tehisaru ja sellega seotud tehnoloogiate kasutamisel säilitama isikliku autonoomia ja võimalused, isegi kui see tuleb mõnikord nii julgeoleku kui ka majanduskasvu arvelt;
• Isiklik autonoomia eeldab üksikisiku vastutust tehnoloogia väär- või kuritarvitamise eest;
• On olemas väike, kuid tõsine riskikategooria, mis nõuab teatavat ühistegevust, ning selle ulatus peaks olema võimalikult kitsas ja tagasihoidlik;
• Võimaluse korral peaks seadus ühtlustama konkurentsitingimusi ning andma üksikisikutele ja väikestele organisatsioonidele rohkem mõjuvõimu, mitte võimu koondama;
• Inimeste poliitilised, ühiskondlikud ja majanduslikud institutsioonid peaksid maailma asjade suunamisel säilitama juhtrolli, isegi kui neil tuleb areneda viisil, mis võib meile praegu võõras tunduda;
• Tehisaru pikaajaline juhtimine tugineb uutele institutsioonilistele mehhanismidele, millega saavutada piiratud jälgitavus: kui tehisarusüsteemid teevad kaalukaid toiminguid, mis mõjutavad kõrvaliste isikute füüsilist heaolu või vara, peab olema võimalik siduda need toimingud vastutava inimese või inimeste kontrollitava organisatsiooniga. Kõigi selliste mehhanismide kujundamisel peab aga kesksele kohale seadma privaatsuse. Sõnavabadus eeldab anonüümsust ning inimestel peaks paljudes olukordades olema vabadus kasutada tehisaru anonüümselt.

Püüame võimalikult konkreetselt selgitada, kuidas peaksime meie arvates tasakaalustama neid põhimõtteid, mille vahel – nagu igas heas põhimõtete kogumis – valitseb paratamatult teatav pinge. See eeldab teadusuuringuid avaliku poliitika kujundamise, majanduse, õiguse, ajaloo ja masinõppe kokkupuutepunktides. Samuti nõuab see palju prognoosimist. Usume näiteks, et tehisaru muudab ettevõtteid struktuursel tasandil, sarnaselt sellele, kuidas tööstusrevolutsiooni tehnoloogiad – eelkõige raudtee – panid aluse tänapäevasele juhitud suurkorporatsioonile. Tuleviku poliitökonoomiat ja võimutasakaalu on raske mõtestada, kujundamata põhjalikumat ettekujutust sellest, kuidas võivad ettevõtete – ning laiemalt valitsusasutuste ja kodanikuühiskonna – struktuurid ise muutuda.

Strateegilise tuleviku töörühm jagab oma tööd nii siin kui ka mujal, sealhulgas artiklites, videotes ja taskuhäälingutes. Meie töö on pidevas arengus ning keskendume järkjärgulisele täiustamisele, arutelule ja tagasiside arvestamisele. Seistes „singulaarsuse eelmäestikus“, on meil vastustest palju rohkem küsimusi. Teame, et üksnes „pärgamenditõketest“ ei piisa otsitavate lahenduste leidmiseks, kuid me ei heida kirjapandut kõrvale ka „pelgalt sõnadena“. Töötame sõnavabaduse ja isikuvabaduse ideaalide nimel, mis on jäädvustatud USA tagasihoidlikule pärgamendile – põhiseadusesse ning nii paljude teiste vabade ühiskondade põhiseadustesse kogu maailmas.

Lõppkokkuvõttes teame, et ükski ettevõte, tegevusala ega isegi ühiskond ei suuda üksi vastata meie ees seisvatele kaalukatele küsimustele. See on ülesanne, mille inimkond peab üheskoos ette võtma. Meie suurim lootus on heita valgust kõige keerulisematele küsimustele selle kohta, kuidas tehisintellekt meie maailma ümber kujundab. Meie töö on alles alanud ja tõusta on veel palju.

Märkus. Muutsime selle blogi nimeks Nutikuse ajastu, et eristada seda mittetulunduslikust algatusest AI Futures Project.