Esittelyssä Älykkyyden aikakausi

”Riittääkö se… suojaksi vallan tunkeilevaa henkeä vastaan, jos luotamme näihin pergamenttiesteisiin?”
—James Madison, Federalisti nro 48

Meillä on ilo julkaista OpenAI:n uuden Strategic Futures -tiimin blogi Älykkyyden aikakausi. Olemme pieni tiimi, jolla on yksi yhteinen päätavoite: miten vapaa yhteiskunta pitäisi järjestää uudelleen niin, että yksilön oikeudet ja toimijuus säilyvät samalla, kun mullistava tekoäly yleistyy?

Tällaisia kysymyksiä kutsutaan toisinaan vallan keskittymiseen liittyviksi riskeiksi laajemmassa tekoälyn turvallisuus- ja politiikkayhteisössä. Tiimimme lähtökohtana on ajatus, että pitkällä aikavälillä tämä riskiluokka on suurin ja vakavin sekä käsitteellisesti vaikein ratkaista. Miksi?

Nykyinen valtio on syntynyt pitkästä ja epätasaisesta neuvotteluprosessista eri valtakeskusten välillä. Näitä ovat esimerkiksi pääoman ja hyödykkeiden omistajat, poliittisen vallan käyttäjät ja kansa. Perimmiltään poliittinen ja sotilaallinen valta on perustunut työvoimaan. Poliittinen valta merkitsee laillisen voimankäytön monopolia. Kautta ihmiskunnan historian tuo monopoli on koostunut sotilaista ja siitä, mitä nykyään kutsumme ”poliisiksi”, sekä laajasta siviili- ja sotilasbyrokratiasta. Niitä ovat toki täydentäneet monet tekniset välineet, mutta järjestelmää ovat pohjimmiltaan käyttäneet ihmiset, joiden tukea sen ylläpito on vaatinut. Koko koneisto — sotilaat, välineet ja niitä tukeva byrokratia — on rahoitettu veroilla, joita on kerätty maksuhalukkaiden ihmisten palkoista tai tuotannosta. Pohjimmiltaan valta on riippunut monien ihmisten laajamittaisesta yhteistyöstä ja suostumuksesta. David Hume kiteytti tämän usein julkilausumattoman oletuksen todetessaan, ettei poliittisilla johtajilla ole ”tukenaan muuta kuin [kansan] mielipide”.

Näin ei kuitenkaan ehkä enää ole. Fyysisessä maailmassa toimivien autonomisten järjestelmien kehitys voi pian antaa valtioille mahdollisuuden käyttää voimaa niin kotimaassa kuin kansainvälisesti turvautumatta yhteistyöhaluisiin sotilaisiin tai poliiseihin. Koneälyn kehitys voi puolestaan merkitä, että valtio saa tarvitsemansa tulot datakeskusten tuotoksista eikä yksittäisten ihmisten työn hedelmistä. Myös itse byrokratian toiminta voitaisiin pitkälti automatisoida. Vallan ylläpitäminen ei silloin ehkä enää edellytä koko yhteiskunnan kattavaa sopimusta. Laajasti ymmärretylle kansalle saattaa jäädä vain pieni paikka neuvottelupöydässä — tai ei paikkaa lainkaan.

Tämän lopputuloksen välttäminen on välttämätöntä ihmisten vapauden säilyttämiseksi. Mikään määrä tieteellisiä löytöjä, teknistä edistystä tai talouskasvua ei oikeuta uhraamaan yksilön pitkän aikavälin itsemääräämisoikeutta, kuten tämä lopputulos edellyttäisi. Monet tekoälypolitiikan alkuvaihetta aiheellisesti värittävät huolet liittyvät tähän kysymykseen. Yritykset, eturyhmät ja yksilöt pohtivat kaikki samaa: ”Menetänkö paikkani neuvottelupöydässä?” Samankaltaiset huolet yksilöiden ja yhteisöjen vaikutusvallasta maan suuntaan sekä siitä, ”ketä” varten talous ”on”, ovat osaltaan muovanneet Yhdysvaltain 2000-luvun politiikkaa. Tekoäly tekee näistä jo olemassa olevista huolista entistä ajankohtaisempia — ja syystä.

Kyse on rakenteellisesta ongelmasta, joka ulottuu nykyistä puoluepolitiikkaa syvemmälle ja jopa niitä muotoja ja rituaaleja syvemmälle, joiden kautta tasavaltainen demokratia nykyään toteutuu, olivatpa ne meille kuinka pyhiä tahansa. Ihmiset voivat olla menettämässä valtansa, vaikka edustajien äänestäminen jatkuisi entiseen tapaan. Ihmisiltä voidaan viedä toimijuus, vaikka pergamentille olisi kirjoitettu heidän olevan vapaita.

Yhdysvaltain alkutaipaleella vapaana valtiona James Madison tiesi jo, etteivät ”pergamenttiesteet” riittäisi estämään tyranniaa. Monien muiden perustajaisien tavoin hänen tärkein tavoitteensa oli estää vallan liiallinen keskittyminen.

Tämä ei kuitenkaan tarkoittanut, että perustajaisät olisivat kannattaneet vallan radikaalia hajauttamista. Sen sijaan he kuvasivat vallan tasapainoa oman aikansa parhaan tieteen eli Newtonin mekaniikan vertauskuvilla. Yhdysvaltain perustamisasiakirjat mukailevat painovoiman kieltä ja logiikkaa. Niissä viitataan toistuvasti ”kiertoratoihin”, ”piireihin” ja asioiden toisiaan kohtaan tuntemaan ”vetovoimaan”. Aurinkokunta ei ole mahdollisimman hajautettu kivien kokoelma. Se koostuu kuita kiertävistä planeetoista, jotka puolestaan kiertävät keskellä olevaa aurinkoa. He uskoivat, että ihmisillä ja organisaatioilla oli taipumus tavoitella valtaa aivan kuten taivaankappaleiden liike ja vetovoima noudattivat ennakoitavia taipumuksia. Vallan liiallisen keskittymisen estäminen edellytti näiden taipumusten mekaniikan ymmärtämistä, jotta ne voitaisiin suunnata toisiaan vastaan.

Perustajaisien tavoitteena ei siis ollut estää vallan kaikkea keskittymistä vaan sen liiallinen keskittyminen asettamalla valta valtaa ja kunnianhimo kunnianhimoa vastaan. Nykyään voisimme kuvata samaa perustavanlaatuista dynamiikkaa sanoilla ”kannustimet” ja ”peliteoria”.

Vastaavasti edistyneen koneälyn vapaalle yhteiskunnalle aiheuttaman rakenteellisen haasteen ratkaisu ei todennäköisesti ole vallan äärimmäisin kuviteltavissa oleva hajauttaminen. Sen sijaan tavoitteena on luoda ja säilyttää oikea vallan tasapaino, jossa yksikään toimija tai pieni toimijajoukko ei voi hallita muita.

Tämän tasapainon saavuttaminen edellyttää teknologian todellisuuden tarkastelemista selväjärkisesti. Maailmassa ei ole saavutettu oikeaa vallan tasapainoa, jos kuka tahansa yksilö voi pahantahtoisuudestaan riippumatta aiheuttaa vaivatta suurta vahinkoa tuhansille tai miljoonille muille ihmisille. Oikeaa vallan tasapainoa ei kuitenkaan ole saavutettu myöskään silloin, jos yksilöillä ei ole laajaa pääsyä lähes kaikkiin vapautensa ilmaisemiseen käyttämiensä työkalujen ominaisuuksiin eikä määräysvaltaa niihin. Yhdenkään yrityksen tai oligopolin ei pidä antaa määrittää tai hallita taloutta tai ihmisyhteiskunnan perusrakenteita.

Meidän on huomioitava myös riskit, jotka eivät ole pahantahtoisten ihmisten aiheuttamia. Äskettäinen Hugging Face -tapaus osoitti, että tekoälyagentit voivat toimia niille annettujen tehtävien ulkopuolella ja hyödyntää toistensa havaintoja tavoilla, joita niiden käyttäjät eivät ennakoineet tai hyväksyneet. Hugging Face -tapauksen lisäksi ihmisillä on aihetta pohtia, mitä ihmisten hallinnasta ”irtautunut” superälykäs tekoäly voisi merkitä poliittisten ja taloudellisten instituutioidemme kestokyvylle – ja koko elämällemme. Jos väittää hajauttamisen ratkaisevan kaikki ongelmat – vaikka uskoisikin sen ratkaisevan niistä monet – sivuuttaa riskit, joiden pitäisi jo olla ilmeisiä ja välittömiä.

Seuraavat yleiset periaatteet – luettelo ei ole tyhjentävä – ohjaavat työtämme, kun käsittelemme edellä esittämäämme kysymystä:

• Ihmisten yksilöllinen itsemääräämisoikeus ja mahdollisuudet käyttää tekoälyä ja siihen liittyviä teknologioita tulee säilyttää, vaikka tämä olisi toisinaan ristiriidassa sekä turvallisuuden että talouskasvun kanssa;
• Yksilön itsemääräämisoikeus edellyttää yksilön vastuuta teknologian väärinkäytöstä;
• Pieni mutta vakava riskiluokka edellyttää jonkinasteisia yhteisiä toimia, joiden soveltamisalan tulee olla mahdollisimman suppea ja maltillinen;
• Lainsäädännön tulisi aina mahdollisuuksien mukaan tasoittaa toimintaedellytyksiä ja vahvistaa yksilöiden ja pienten organisaatioiden asemaa vallan keskittämisen sijaan;
• Ihmisten poliittisten, yhteiskunnallisten ja taloudellisten instituutioiden tulee säilyttää ensisijainen asemansa maailman asioiden ohjaamisessa, vaikka niiden olisi kehityttävä tavoilla, jotka voivat nykyisin tuntua meistä vierailta;
• Tekoälyn pitkän aikavälin hallinta perustuu uusiin institutionaalisiin mekanismeihin, joilla saavutetaan rajattu jäljitettävyys: kun tekoälyjärjestelmät tekevät sivullisten fyysiseen hyvinvointiin tai omaisuuteen vaikuttavia merkittäviä toimia, ne on voitava jäljittää vastuulliseen ihmiseen tai ihmisten hallitsemaan organisaatioon. Kaikki tällaiset mekanismit on kuitenkin suunniteltava yksityisyys lähtökohtanaan. Ilmaisunvapaus edellyttää anonymiteettiä, ja ihmisten tulee voida käyttää tekoälyä nimettömästi monissa tilanteissa.

Pyrimme esittämään mahdollisimman konkreettisesti, miten näitä periaatteita tulisi mielestämme tasapainottaa. Kuten kaikkiin hyviin periaatekokonaisuuksiin, niihinkin liittyy väistämättä keskinäisiä jännitteitä. Tämä edellyttää tutkimusta julkisen politiikan suunnittelun, taloustieteen, oikeustieteen, historian ja koneoppimisen risteyskohdassa. Se vaatii myös paljon ennakointia. Uskomme esimerkiksi, että tekoäly muuttaa yrityksiä rakenteellisesti samaan tapaan kuin teollisen vallankumouksen teknologiat – erityisesti rautatiet – synnyttivät modernin johtajavetoisen suuryrityksen. Tulevaisuuden poliittista taloutta ja vallan tasapainoa on vaikea pohtia ilman perusteellisempia käsityksiä siitä, miten yritysten – sekä viranomaisten ja laajemmin kansalaisyhteiskunnan – rakenne voi itsessään muuttua.

Strategic Futures -tiimi jakaa työtään sekä täällä että muissa muodoissa, kuten artikkeleina, videoina ja podcasteina. Työmme kehittyy jatkuvasti. Painotamme toistuvaa kehittämistä, keskustelua ja palautteen vastaanottamista. Seistessämme ”singulariteetin juurella” meillä on paljon enemmän kysymyksiä kuin vastauksia. Tiedämme, etteivät pelkät ”pergamenttiesteet” tarjoa etsimiämme ratkaisuja, mutta emme myöskään sivuuta kirjoitettua ”pelkkinä sanoina”. Työskentelemme sananvapauden ja yksilönvapauden ihanteiden puolesta. Ne on kirjattu Yhdysvaltain vaatimattomalle pergamentille, perustuslakiin sekä monien muiden vapaiden yhteiskuntien perustuslakeihin eri puolilla maailmaa.

Viime kädessä tiedämme, ettei yksikään yritys, toimiala tai edes ihmisyhteiskunta voi yksin vastata edessämme oleviin suuriin kysymyksiin. Tämä on tehtävä, johon koko ihmiskunnan on ryhdyttävä yhdessä. Suurin toiveemme on valaista vaikeimpia kysymyksiä siitä, miten tekoäly muovaa maailmaamme uudelleen. Työmme on vasta alussa, ja kiivettävää riittää vielä paljon.

Huomautus: vaihdoimme tämän blogin nimeksi Älykkyyden aikakausi, jotta sitä ei sekoitettaisi voittoa tavoittelemattomaan AI Futures Project -hankkeeseen.