Vaikiv konsensus
Autori märkus: Tänane essee põhineb loengul, mille autor pidas hiljuti Harvardis Vik-Bailey loengusarja raames. See postitus kajastab autori enda seisukohti ega pruugi väljendada OpenAI või selle teiste töötajate vaateid.
Aitäh, et olete täna siin. Just praegu toimub üks ajaloo olulisemaid küberturvalisuse sündmusteahelaid: avalikustatakse rida kriitilisi turvanõrkusi, mida mõned nimetavad „mustaks oktoobriks“. Need interneti alustaristu osades leiduvad nõrkused avastasid tipptasemel AI-süsteemid ning nende avalikustamine on osa kiireloomulisest tööst tarkvara turvalisuse tugevdamiseks kogu maailmas. See on selle kuu pakiline küsimus; järgmisel kuul tuleb uus. Tarkvara turvanõrkuste avastamine on kahesuguse kasutusega võime, milleni AI-süsteemid on tänaseks jõudnud. Kuid peagi lisandub järgmine ja sellega kaasneb uus pakiline ettevõtmine: rakendada selle võime head külge enne, kui pahatahtlikud tegutsejad kasutavad ära halva. Kõik need pakilised küsimused kuhjuvad paratamatult üksteise otsa ning suur osa sellest, mida täna nimetame „AI-poliitikaks“, kujuneb tõenäoliselt keset seda kära.
Ent ma ei tulnud täna teiega rääkima pakilistest asjadest, millele tuleb kiiresti reageerida. Tahan hoopis rääkida sellest, kuhu me suures plaanis teel võime olla. Keset pakiliste ülesannete lakkamatut tulva võib olla raske mõelda neile abstraktsematele ja raskemini haaratavatele küsimustele. Ent need küsimused on tähtsad. Kui meil pole ettekujutust, millist kauget tulevikku soovime saavutada ja millist vältida, võime jõuda tervikuna soovimatu tulemuseni isegi siis, kui teeme igal sammul tarku otsuseid.
Sageli öeldakse, et tehnoloogiasektoril puudub positiivne nägemus sellest, kuhu selle loodav tehnoloogia meid viib. Ma ei nõustu: San Francisco ja teised ettevõtluskeskused on täis positiivseid nägemusi meie tehnoloogilisest tulevikust. Inimesed tõepoolest ehitavad lendavaid autosid, autonoomseid sõidukeid ning eri suuruse ja kujuga roboteid, arendavad tuumasünteesi ja muidugi ka üldist tehisintellekti. Meil puudub hoopis positiivne nägemus meie institutsioonide tulevikust: kuidas see kõik toimima hakkab?
See ei tähenda aga, et institutsioonide tuleviku kohta üldse mingit nägemust poleks. Paraku ei nimetaks ma kõige levinumat nägemust positiivseks. Kui seda üldse sõnastatakse, siis enamasti sosinal. Sagedamini jääb see aga välja ütlemata ja on aimatav vaid kaudselt. Nimetan seda vaikivaks konsensuseks.
Kujutlege ettevõtet, mis suudab peaaegu kõike teha inimtööta. Selle AI-süsteemid teevad teadus- ja arendustööd, avastavad uut, peavad lepinguläbirääkimisi, jaotavad kapitali ja tegelevad tootmisega. Oletame, et ettevõte saab kõige sellega paremini hakkama kui inimestest konkurendid, isegi kui nood kasutavad oma töö tõhustamiseks AI-d. Kui inimeste osalus ainult aeglustab äritegevust, on inimestest juhtidel ja omanikel tugev ajend käed roolilt võtta. Kui see juhtub kogu maailmamajanduses, sunnib turukonkurentsi loogika inimesi loobuma oma juhtrollist üleilmses äritegevuses. Aja jooksul võib turg hakata teenima masinate vajadusi sama palju kui inimeste vajadusi ja soove või neist enamgi.
Mis edasi saab, võime vaid oletada. Võib-olla võidaksid inimesed sellest tohutult. Kui meid oma võimu alla võtnud masinad peaksid inimesi iseenesest väga väärtuslikuks, võiksime saada osa nende töö viljadest ja loodud rikkusest. Või ehk avastame majanduslikust ja üha enam ka poliitilisest võimust ilma jäänuna, et meie tähtsus maailmas aina kahaneb ning meil on üha vähem võimalusi maailmas toimuvat suunata. Võib-olla koonduks erakordne võim ja rikkus väikese hulga inimeste kätte, samal ajal kui suur enamus jääks pea igasuguse mõjuvõimuta. Või ehk tabaks meid kõiki sama saatus. Üksikasjadest olenemata ühendab neid võimalusi vaikiva konsensuse tuum: inimkonna senise juhtrolli lõpp maailmas.
Ükski neist stsenaariumidest ei eelda, et AI tõstaks oma loojate vastu mässu. Ükski neist ei eelda, et selle omanikud sooviksid inimestelt võimu võtta. Iga delegeerimisotsus võib eraldi võttes olla mõistlik. Ent kokku võivad need otsused viia maailmani, kus inimesed on loobunud tegelikust otsustusõigusest suure osa oma tsivilisatsiooni üle. Isegi kui lahendame erakordse eduga AI ohutuse ja inimeste eesmärkidega kooskõla tagamise keerukaid küsimusi, võime siiski avastada, et oleme allutanud end uut laadi masinlikule olendile. Õnneliku tuleviku korral, nagu vaikiv konsensus meile kinnitaks, on see olend lahke – masin, millele lähevad sügavalt korda inimeste parimad huvid. Masin, mis on täis armastavat heldust, nagu ütleb Brautigani luuletus.
Vaikiv konsensus ütleb meile, et just nende masinate kätte anname oma ettevõtete ja üha enam ka valitsemisasutuste võtmed. Nad juhivad neid tulemuslikumalt, tõhusamalt, targemini ja parema otsustusvõimega, kui meie, inimesed, suudaksime. Nii võtame ajapikku käed roolilt ja laseme armastavatel masinatel juhtimise üle võtta. Oleme nagu kaassõitjad autos – väga heas autos, ehk märksa uhkemas, kui praegu unistadagi oskame –, ent siiski kaassõitjad, kel puudub kontroll selle üle, kuhu sõiduk suundub. Kui me üldse töötame, on see enamasti omamoodi rituaal või etendus, pigem mäng meie liigi meelt lahutamas.
Mõned vaatlejad väidavad, et vaikiv konsensus tugineb valele eeldusele, sest meie, inimesed, ei kontrolli maailma ju praegugi. Seda kriitikat tasub meeles pidada: pole olemas ühtset „meiet“, kes otsustaks, mida teha. Elame äärmiselt detsentraliseeritud maailmas, meeldib see meile või mitte. Ent seegi tõdemus ei tohiks meid muretuks muuta: kuigi „meie“ maailma ei „kontrolli“, on inimestel üheskoos maailma asjades siiski juhtroll. Ükski loomaliik ei paku meile tõsist konkurentsi võitluses ressursside valdamise eest. Peaksime tagasi lükkama läbimõtlemata arusaama, et inimesed saavad maailma ülalt alla kontrollida. Ent me ei tohiks seejuures eitada ilmset tõsiasja, et inimkond tervikuna on Maa peamine tegutseja.
Mõned neist, kes on valmis vaikivat konsensust sõnastama, usuvad, et see on tõepoolest hea tulevik. Teised nii ei arva, kuid on leppinud selle paratamatusega. Vaikiv konsensus ei ole konsensus sellepärast, et kõik peaksid seda heaks, ega ole see ka AI arendajate salaplaan. Üksmeel seisneb lihtsalt selles, et inimkonna juhtrolli kaotus maailma asjades on vältimatu, või vähemalt on väga raske kujutleda teistsugust tulevikku, mis jääks tõeliselt püsima ka üliintelligentsete masinate kõrval. Inimene võib sellele tulemusele siiralt vastu seista, ent tal võib ikkagi olla raske usutavat alternatiivi ette kujutada. Paljuütlev on see, et konsensus on enamasti vaikiv ja parimal juhul kõlab vaid poolel häälel.
Ma põlgan vaikivat konsensust. Ma ei lepi inimkonna juhtrolli loovutamisega. Ma jälestan seda paratamatuse tunnet. Tuletan endale meelde, et vaikivale konsensusele alistudes ei suudaks ma oma pisipojale tema ilusatesse silmadesse vaadata. Seepärast ütlen vaikivale konsensusele ei. Ja usun, et on aeg vaikivast konsensusest avalikult rääkida ning raputada maha selle tulevikupildiga enamasti ebateadlik leppimine.
Probleem on selles, et vaikiv konsensus ei kujunenud üksmeeleks põhjuseta. Raske on kirjeldada, kuidas inimesed jäävad rooli taha neist tohutult võimekama masinintellekti kõrval. Enamik selliseid katseid tugineb väitele, et AI on pelgalt tööriist, mustrituvastuse vahend, mis pole võimeline „tõeliselt mõistma“. Kardan, et need väited ei pea tulevase tegelikkuse ees vastu. Kardan, et need on omamoodi enesega rahulolu väljendus – seisukoht, mis põhineb peamiselt AI võimete eitamisel, mitte veendumusel, mille aluseks on selge nägemus inimeste juhitud tulevikust. Ei saa väita, et AI-süsteemidel puudub „tõeline mõistmine“, kui need samal ajal teevad edusamme vaimsete probleemide lahendamisel, millele inimesed pole aastakümnete ja -sadade jooksul lahendust leidnud.
Miks ma siis usun, et inimkond peab oma juhtrolli säilitama? Lihtne vastus on, et olen inimene ja tõepoolest häbenematu inimšovinist.
Ent siin on ka midagi sügavamat. Meie juhtroll ei põhine meie intellektil ega sellel, et hoiaksime igavesti enda käes „tõelise mõistmise“ monopoli. Meie juhtroll põhineb hoopis meie minevikul.
Sest meie olime need, kes tõusid mudast. Meie olime need, kes rajasid mullast ja kivist algelise ühiskonna. Meie olime need, kes vaatasid tähtede poole ja küsisid, miks. Meie oma võitluste ja armastuse, kadeduse ja rõõmuga avastasime moraali, eetika ja õiguse. Meie olime need, kes laulsid ja tantsisid, kirjutasid ja lõid muusikat. Meie tegime ajalugu ja meie kirjutasime selle üles. See pärand on meie oma. Meie rajatud tsivilisatsioon on leek, mida oleme elus hoidnud, ja see leek kuulub meile. Meie minevik on hiilgav pärand, mille hoidjad oleme kõik. Selle hoidmise juurde kuulub osalemine selles, mida Michael Oakeshott nimetas „inimkonna vestluseks“ – suures ettevõtmises, mis sai alguse ürgajal.
Selle pika ja käänulise mineviku jooksul lõime tsivilisatsiooni, mille aluseks said Ameerikas üksikisiku õigused ning austus nende teede vastu, mida igaüks meist läbi maailma kulgedes endale rajab. Inimese elu võib minna paremini või halvemini: naudime oma tarkade otsuste vilju ja kanname tagajärgi, kui eksime. Õigus käia oma rada ei sõltu sellest, kas oled kõige nutikam või targem. Ma ei kaota oma kodanikustaatust seetõttu, et mu naabril on parem otsustusvõime. Ma ei näe põhjust, miks peaks selle staatuse kaotama intelligentsema masina ilmumine. Vastupidi, näen igati põhjust seda kaotust ära hoida.
Mõni võib väita, et ka masinad on pärijad, sest nad on lugenud läbi peaaegu kõik, mis sellest pärandist kirja on pandud. Mõnes mõttes ongi. Ent inimene, kes on lugenud läbi kõik teie pere pööningul leiduvad kirjad, ei saa seeläbi kuidagi teie pereliikmeks. AI-süsteemid ühinevad inimkonna vestlusega, esmalt vaatlejatena ja üha enam osalejatena, kuid nad ei tohi selles domineerida ega seda mõttetuks muuta. Juhtrolli loovutamine tähendaks nii meie esivanemate kui ka järeltulijate reetmist. Kui selle eest ei tasu võidelda, ei tasu võidelda millegi eest.
Mina usun, et vaikiva konsensuse pooldajad eksivad selles, milliseks masinlik superintellekt kujuneb. Et nad ei märka maailma toimimises midagi olulist ja samastavad intelligentsuse võimuga. Kui oleksite viie või kümne aasta eest kirjeldanud vaikiva konsensuse pooldajale kas või tänaste AI-süsteemide võimeid, oleks ta ilmselt ennustanud praeguseks märksa suuremat töötust, kui meil tegelikult on, ning arvanud, et inimeste mõjuvõimu üldine kadu on jõudnud palju kaugemale, kui see päriselt on. Usun, et inimkonna kollektiivne intelligentsus ja võimekus on palju suuremad, kui vaikiva konsensuse pooldajad eeldavad, ning meie ühiskonnad osutuvad vastupidavamaks, kui nad ennustavad.
Aga ma võin eksida. Võib lihtsalt juhtuda, et näiteks täiesti autonoomsed ettevõtted tõrjuvad inimeste juhitud ettevõtted konkurentsist sootuks välja. Ja kui nii läheb, nõuab majanduse halastamatu loogika, et üha rohkem kapitali antaks masinate käsutusse. Sellises tulevikus ei eelda inimeste võimust ilmajäämine, et masinad kukutaksid inimtsivilisatsiooni; piisab sellest, et kapitalistliku ettevõtluse loogika toimib endise hooga edasi. Sel juhul oleks AI-revolutsiooni lähim vaste põllumajandusrevolutsioon, mil uued tootmisviisid muutsid põhjalikult inimühiskonna ülesehitust. Pole sugugi selge, kas see muutus oli selle läbi elanud inimestele meeldiv; tegelikult on kaalukaid tõendeid, et see halvendas inimeste heaolu aastatuhandeteks.
Ma ei tea, kas meid ootab selline tulevik, ja olen mujal väitnud, et mina seda ei usu. Ent paljud mu kolleegid – targad, hoolivad ja kohusetundlikud inimesed – usuvad, et tõenäoliselt just selline meie tulevik ongi. Kui neil on õigus, on meie võitlus vaikiva konsensuse vastu seda raskem. Peame ujuma vastu majanduse hoovusele ja seejuures loobuma paljust, mis on minusugustele klassikalise liberalismi pooldajatest individualistidele dogma. See on ohtlik ettevõtmine, mille läbikukkumine pole sugugi ebatõenäoline. Aga kui selle eest ei tasu võidelda, ei tasu võidelda millegi eest.
Juhtrolli säilitamine tähendab, et vastutus peab jääma inimestele ja nende institutsioonidele. See tähendab, et AI arendajad peaksid vastutama ohtlike arendusvõtete kasutamise eest, aga ka seda, et AI-d kasutavad inimesed ja ettevõtted peaksid vastutama kahju eest, mille on põhjustanud nende väärkasutus või puudulik järelevalve. Selleks on lisaks seadustele vaja ka tehnilist taristut, mis võimaldaks vastutust tagada. Inimesed peavad olema seostatavad oma agentide tegevusega. Inimesega sidumata agentidele peavad aga kehtima kaitsepiirangud, kui neil üldse lubatakse seaduslikus majandustegevuses osaleda. Agentidele tuleks anda õigus iseseisvalt ettevõtteid asutada, vara omada või kohtuvaidlustes osaleda äärmise ettevaatusega, kui üldse.
Minu tegevusalal saame aga hakata tõsiselt mõtlema, kuidas luua intelligentseid masinaid, mis sobiksid kokku inimkonna juhtrolliga. Saame luua agente, mille õigused on arusaadavad ja piiratud, mille tegevust saab auditeerida ning mille volitused saavad kasutajad tagasi võtta. Vastutus teisi oluliselt mõjutavate tegude eest ei pea tähendama tavapärase eraelu jälgimist ega anonüümse sõnavõtu lõppu. Saame võtta kohustuse kaitsta kasutajate privaatsust ja igaühe otsustusõigust oma digivara ja andmete üle, sealhulgas tegelikku võimalust viia need andmed mujale. Saame kavandada nii süsteeme, mis aitavad inimestel mõista ja otsustada, kui ka selliseid, mis täidavad ülesandeid. Ja saame katsetada, kas meie loodud tooted suurendavad kasutajate võimet maailmas tegutseda.
Miski sellest ei kujuta endast täielikku kavandit ühiskonnale, kus on olemas inimvõimeid ületav intelligentsus. Ma ei usaldaks kedagi, kes väidaks, et tal selline kavand on. Aga siit saab alustada.
Tulevikku varjab tihe udu. Ent tegutseda saame juba täna. Üheskoos saame alustuseks vaikiva konsensuse välja öelda ja selle piirjooned päevavalgele tuua. Igaüks meist saab oma sihte märksa kõrgemale seada. Võime otsustada, et ei lase AI-l end väiksemaks muuta, vaid näeme hoopis vaeva, et selle abil kasvada. Võime õppida esitama üha julgemaid küsimusi, uurima maailma uue hoo ja kirega ning kasutama selleks oma võimsaid masinaid. Meist võivad saada uut laadi inimesed – mitte transinimesed, vaid avardunud võimetega inimesed.
Mõtlen sellele oma pisipoega vaadates. Ma ei soovi talle pelgalt heatahtlike masinate hoole all elamist, kui mugavat elu need talle ka pakkuda võiksid. Tahan, et talle jääks maailm, kus ta saab esitada küsimusi, mida keegi pole taibanud küsida, ja luua asju, mida keegi pole taibanud luua. Ma ei taha talle uhkemat autot pehmema kõrvalistmega. Tahan, et rool oleks tema käes.
- 2026


