Hiljainen konsensus
Kirjoittajan huomautus: Tämänpäiväinen essee on muokattu luennosta, jonka kirjoittaja piti äskettäin Harvardin Vik-Bailey-luentosarjassa. Kirjoitus edustaa kirjoittajan omia näkemyksiä, ei välttämättä OpenAI:n tai sen muiden työntekijöiden näkemyksiä.
Kiitos, että olette täällä tänään. Juuri nyt on käynnissä yksi historian merkittävimmistä kyberturvallisuuden tapahtumasarjoista: joukko kriittisiä tietoturvahaavoittuvuuksia julkistetaan, ja jotkut kutsuvat tätä ”mustaksi lokakuuksi”. Nämä haavoittuvuudet löytyivät internetin keskeisestä infrastruktuurista. Ne löysivät edistyneet tekoälyjärjestelmät, ja niiden julkistaminen on osa kiireellistä pyrkimystä vahvistaa ohjelmistojen turvallisuutta maailmanlaajuisesti. Tämä on tämän kuun kiireellinen kysymys; ensi kuussa on vuorossa toinen. Ohjelmistohaavoittuvuuksien löytäminen on kaksikäyttöinen kyky, jonka tekoälyjärjestelmät ovat nyt saavuttaneet. Pian tulee kuitenkin uusi kyky, joka käynnistää oman kiireellisen hankkeensa: sen hyvät puolet on saatava käyttöön ennen kuin pahantahtoiset toimijat hyödyntävät huonoja. Kaikki nämä kiireelliset kysymykset ovat väistämättä päällekkäisiä, ja suuri osa siitä, mitä nykyään kutsumme ”tekoälypolitiikaksi”, muotoutuu todennäköisesti tämän hälyn keskellä.
En kuitenkaan tullut tänään puhumaan teille kiireellisistä asioista, joihin joudumme reagoimaan. Haluan sen sijaan puhua siitä, mihin olemme laajemmassa kuvassa mahdollisesti menossa. Kiireellisten asioiden vyöryessä päälle voi olla vaikea ajatella näitä abstraktimpia, arjesta etäisempiä kysymyksiä. Ne ovat silti tärkeitä. Ellei meillä ole käsitystä siitä, millaisia tulevaisuuksia haluamme pitkällä aikavälillä tavoitella ja millaisia välttää, voimme päätyä kokonaisuutena epämieluisaan lopputulokseen, vaikka tekisimme viisaita päätöksiä matkan jokaisessa vaiheessa.
Usein huomautetaan, että teknologia-alalta puuttuu myönteinen visio siitä, mihin sen kehittämät asiat meidät vievät. Olen eri mieltä: San Francisco ja muut yrittäjyyden keskukset ovat täynnä myönteisiä visioita teknologisesta tulevaisuudestamme. Ihmiset todella kehittävät lentäviä autoja, autonomisia ajoneuvoja, monenkokoisia ja -muotoisia robotteja, ydinfuusiota ja tietenkin yleistä tekoälyä. Sen sijaan meiltä puuttuu myönteinen visio instituutioidemme tulevaisuudesta: miten tämä kaikki käytännössä toimii?
Tämä ei kuitenkaan tarkoita, ettei instituutioiden tulevaisuudesta olisi mitään visiota. Valitettavasti yleisimmin kohtaamaani visiota en kutsuisi myönteiseksi. Jos se ylipäätään puetaan sanoiksi, se tehdään yleensä kuiskaten. Useimmiten se kuitenkin jätetään sanomatta, ja sen voi lukea vain rivien välistä. Kutsun sitä hiljaiseksi konsensukseksi.
Ajatelkaa yritystä, joka pystyy tekemään lähes kaiken ilman ihmistyötä. Sen tekoälyjärjestelmät tekevät tutkimus- ja kehitystyötä, löytöjä ja sopimusneuvotteluja, kohdentavat pääomaa sekä valmistavat tuotteita. Oletetaan, että se on näissä asioissa parempi kuin ihmisvetoiset kilpailijansa, vaikka niiden ihmiset tehostaisivat työtään tekoälyllä. Jos ihmisten mukanaolo vain hidastaa liiketoimintaa, ihmisjohtajilla ja -omistajilla on vahva kannustin irrottaa kätensä ratista. Jos näin käy kaikkialla maailmantaloudessa, markkinakilpailun logiikka ajaa ihmiset luopumaan johtoasemastaan maailmanlaajuisessa kaupankäynnissä. Ajan mittaan markkinat saattavat alkaa palvella koneiden tarpeita yhtä paljon tai enemmän kuin ihmisten tarpeita ja toiveita.
Mitä sen jälkeen tapahtuu, on kenen tahansa arvattavissa. Ehkä ihmiset hyötyisivät suunnattomasti. Jos meidät alaisuuteensa ottaneet koneet pitäisivät ihmisten itseisarvoa suuressa arvossa, voisimme päästä nauttimaan niiden työn hedelmistä ja niiden luomasta vauraudesta. Tai ehkä me ihmiset, joilta on viety taloudellinen ja yhä enemmän myös poliittinen valta, huomaamme merkityksemme maailmassa vähenevän ja mahdollisuuksiemme vaikuttaa maailman tapahtumien kulkuun kaventuvan. Ehkä harvat ihmiset pitäisivät hallussaan poikkeuksellista valtaa ja vaurautta laajan, valtansa menettäneen enemmistön kustannuksella, tai ehkä vallan menettäminen olisi meidän kaikkien yhteinen kohtalo. Yksityiskohdista riippumatta hiljaisen konsensuksen ydin on sama: ihmisen johtoasema maailmassa sellaisena kuin sen tunnemme päättyy.
Mikään näissä skenaarioissa ei edellytä tekoälyn kapinaa luojiaan vastaan. Mikään ei edellytä, että sen omistajat toivoisivat ihmisten menettävän valtansa. Jokainen päätös siirtää vastuuta koneelle voi olla itsessään järkevä. Yhdessä nämä päätökset voivat silti johtaa maailmaan, jossa ihmiset ovat luopuneet todellisesta määräysvallasta suuressa osassa sivilisaatiotamme. Vaikka edistyisimme poikkeuksellisen hyvin tekoälyn turvallisuuteen ja ihmisten tavoitteiden mukaiseen toimintaan liittyvissä visaisissa kysymyksissä, saatamme silti huomata alistuneemme uudenlaiselle koneolennolle. Hiljainen konsensus kertoisi meille, että onnellisessa tulevaisuudenkuvassa tuo olento on hyväntahtoinen, kone, jolla on ihmisten etu sydämellään. Kone, joka on Brautiganin runon sanoin täynnä rakastavaa armoa.
Hiljaisen konsensuksen mukaan luovutamme näille koneille yritystemme ja yhä useammin myös hallintoelintemme avaimet. Ne johtavat niitä tuloksellisemmin, tehokkaammin, viisaammin ja harkitummin kuin mihin me ihmiset pystymme. Niinpä irrotamme ajan mittaan kätemme ratista ja annamme rakastavien koneiden ajaa. Olemme kuin matkustajia autossa – erittäin hienossa autossa, ehkä aineelliselta mukavuudeltaan hienommassa kuin osaamme nykyään uneksia – mutta matkustajia yhtä kaikki, vailla valtaa päättää, minne auto kulkee. Jos teemme työtä, se on lähinnä eräänlaista rituaalia tai näyttelemistä, pikemminkin lajimme viihdyttämiseksi tarkoitettua peliä.
Jotkut huomauttavat, että hiljainen konsensus perustuu väärään lähtöoletukseen, sillä emme me ihmiset hallitse maailmaa nykyäänkään. Tämä kritiikki on syytä pitää mielessä: ei ole olemassa mitään yhtenäistä ”meitä”, joka päättää, mitä tehdään. Elämme äärimmäisen hajautuneessa maailmassa, pidimme siitä tai emme. Tämän huomion ei silti pidä tuudittaa meitä tyytyväisyyteen: vaikka ”me” emme ”hallitse” maailmaa, ihmisillä on yhdessä johtoasema maailman asioissa. Mikään eläinlaji ei vakavasti kilpaile kanssamme luonnonvarojen hallinnasta. Meidän tulee hylätä älyllisesti laiska käsitys, että ihmiset voisivat hallita maailmaa ylhäältä käsin. Samalla emme kuitenkaan saa kiistää ilmeistä tosiasiaa: ihmiset ovat yhdessä maapallon johtava toimija.
Jotkut, jotka suostuvat pukemaan hiljaisen konsensuksen sanoiksi, uskovat sen kuvaaman tulevaisuuden olevan aidosti hyvä. Toiset eivät, mutta ovat alistuneet sen väistämättömyyteen. Hiljainen konsensus ei ole konsensus siksi, että kaikki pitäisivät sitä hyvänä, eikä se ole tekoälyn kehittäjien salainen suunnitelma. Yhteisymmärrys koskee yksinkertaisesti sitä, että ihmisten johtoaseman menettäminen maailman asioissa on väistämätöntä – tai ainakin sitä, että on hyvin vaikea kuvitella toisenlaista tulevaisuudenkuvaa, joka todella kestäisi superälykkäiden koneiden tulon. Ihminen voi vilpittömästi vastustaa tätä lopputulosta ja silti kokea uskottavan vaihtoehdon hahmottamisen vaikeaksi. Paljastavaa on se, että konsensuksesta enimmäkseen vaietaan, ja silloinkin kun siitä puhutaan, se tehdään hiljaisella äänellä.
Halveksin hiljaista konsensusta. En hyväksy ihmisen johtoasemasta luopumista. Inhoan väistämättömyyden tunnetta. Muistutan itseäni siitä, etten voisi katsoa poikavauvaani hänen kauniisiin silmiinsä, jos alistuisin hiljaiseen konsensukseen. Siksi sanon hiljaiselle konsensukselle ei. Uskon myös, että on aika puhua hiljaisesta konsensuksesta avoimesti ja ravistella itsemme irti tämän tulevaisuudenkuvan pitkälti tiedostamattomasta hyväksymisestä.
Ongelma on tämä: hiljaisesta konsensuksesta tuli konsensus syystä. On vaikea kuvata, miten ihmiset pysyvät ratissa ihmisen kyvyt valtavasti ylittävän koneälyn rinnalla. Useimmat yritykset perustuvat väitteisiin, että tekoäly on pelkkä työkalu, hahmontunnistuksen väline, joka ei kykene ”aitoon ymmärrykseen”. Pelkään, etteivät nämä väitteet kestä sitä todellisuutta, joka meitä odottaa. Pelkään, että nekin ovat tapa tuudittautua tyytyväisyyteen – kanta, joka perustuu lähinnä tekoälyn kykyjen kiistämiseen eikä myönteiseen visioon ihmisten johtamasta tulevaisuudesta. Ei voida sanoa, että tekoälyiltä puuttuu ”aito ymmärrys”, jos ne samaan aikaan edistyvät älyllisissä ongelmissa, joiden ratkaisut ovat pysyneet ihmisten ulottumattomissa vuosikymmeniä ja vuosisatoja.
Miksi sitten uskon, että ihmisten on säilytettävä johtoasemansa? Helppo vastaus on, että olen ihminen, ja myönnän häpeilemättä asettavani ihmisen muiden edelle.
Mutta taustalla on myös jotain syvempää. Johtoasemamme ei perustu älyymme eikä siihen, että säilyttäisimme yksinoikeutemme ”aitoon ymmärrykseen” loputtomiin. Se perustuu menneisyyteemme.
Sillä juuri me nousimme mudasta. Me loimme alkeellisen yhteiskunnan maasta ja kivestä. Me katsoimme tähtiin ja kysyimme miksi. Me taisteluinemme, rakkauksinemme, kateuksinemme ja iloinemme löysimme moraalin, etiikan ja lain. Juuri me lauloimme ja tanssimme, kirjoitimme ja sävelsimme. Juuri me teimme historiaa, ja juuri me kirjoitimme sen. Tuo perintö on meidän. Rakentamamme sivilisaatio on liekki, jota olemme vaalineet, ja tuo liekki kuuluu meille. Menneisyytemme on suurenmoinen perintö, jonka vaalijoita me kaikki olemme. Siihen kuuluu osallistuminen siihen, mitä Michael Oakeshott kutsui ”ihmiskunnan keskusteluksi”, tuohon jo muinaisina aikoina alkaneeseen suureen yhteiseen hankkeeseen.
Tuon pitkän ja mutkittelevan menneisyyden kuluessa loimme sivilisaation, jonka perustaksi Amerikassa asetettiin yksilön oikeudet ja kunnioitus niitä polkuja kohtaan, joita kukin meistä raivaa kulkiessaan maailmassa. Ihmisten elämä voi sujua paremmin tai huonommin: saamme nauttia viisaiden päätöstemme hedelmistä, ja kannamme seuraukset erehtyessämme. Oikeus kulkea omaa polkuaan ei riipu siitä, onko kaikkein älykkäin tai viisain. En menetä asemaani kansalaisena siksi, että naapurillani on parempi harkintakyky. En näe mitään syytä, miksi älykkäämmän koneen saapumisenkaan pitäisi mitätöidä tuo asema. Päinvastoin näen kaikki syyt estää sitä tapahtumasta.
Jotkut saattavat väittää, että koneetkin ovat perillisiä, koska ne ovat lukeneet lähes kaiken tästä perinnöstä kirjoitetun. Ja tavallaan ne ovatkin. Mutta ihminen, joka on lukenut jokaisen perheesi ullakolla olevan kirjeen, ei sen ansiosta muutu perheesi jäseneksi. Tekoälyjärjestelmät liittyvät ihmiskunnan keskusteluun ensin tarkkailijoina ja yhä enemmän osallistujina, mutta ne eivät saa hallita sitä eivätkä tehdä siitä merkityksetöntä. Johtoasemasta luopuminen merkitsee niin esivanhempiemme kuin jälkeläistemmekin pettämistä. Jos tämän puolesta ei kannata taistella, ei minkään.
Itse uskon, että hiljaisen konsensuksen kannattajat ovat väärässä siinä, millaiseksi koneiden superäly muodostuu. Heiltä jää huomaamatta jotain olennaista maailman toiminnasta: he sekoittavat älykkyyden valtaan. Jos olisit viisi tai kymmenen vuotta sitten kuvannut hiljaisen konsensuksen kannattajalle jo nykyisten tekoälyjärjestelmien kykyjä, hän olisi luultavasti ennustanut työttömyyden olevan nyt paljon suurempaa kuin se on ja ihmisten vallan menetyksen edenneen kaiken kaikkiaan paljon pidemmälle kuin se on. Uskon, että ihmisten kollektiivinen älykkyys ja toimintakyky ovat paljon suurempia kuin hiljaisen konsensuksen kannattajat olettavat ja että yhteiskuntamme osoittautuvat kestävämmiksi kuin he ennustavat.
Mutta voin olla väärässä. Voi esimerkiksi yksinkertaisesti käydä niin, että täysin autonomiset yhtiöt syrjäyttävät ihmisten yritystoiminnan kokonaan. Jos näin käy, talouden armoton logiikka sanelee, että yhä enemmän pääomaa luovutetaan koneille. Tässä tulevaisuudessa vallan menettäminen ei vaadi sitä, että koneet kukistavat ihmisten sivilisaation. Siihen riittää, että kapitalistisen yritystoiminnan logiikka saa jatkaa kulkuaan. Tällöin tekoälyvallankumouksen lähin vertailukohta olisi maatalouden vallankumous, jossa uudet tuotantotavat muuttivat ihmisyhteiskunnan rakenteet perinpohjaisesti. Ei ole lainkaan selvää, että tämä muutos oli sen kokeneille ihmisille miellyttävä. Päinvastoin on runsaasti näyttöä siitä, että se heikensi ihmisten hyvinvointia vuosituhansien ajaksi.
En tiedä, onko tämä meitä odottava tulevaisuus, ja olenkin muualla perustellut, miksi en usko niin olevan. Mutta monet kollegani – älykkäät, välittävät ja tunnolliset ihmiset – uskovat tämän olevan todennäköinen tulevaisuutemme. Jos he ovat oikeassa, taistelumme hiljaista konsensusta vastaan on sitäkin vaikeampi. Meidän on uitava talouden virtaa vastaan ja samalla hylättävä monet asiat, jotka ovat uskonkappaleita kaltaisilleni klassisen liberalismin ja yksilönvapauden kannattajille. Tämä on vaarallinen hanke, jossa epäonnistuminen ei suinkaan ole epätodennäköistä. Mutta jos tämän puolesta ei kannata taistella, ei minkään.
Johtoaseman säilyttäminen tarkoittaa, että myös vastuu säilyy ihmisillä ja ihmisten instituutioilla. Tekoälyn kehittäjien on siis oltava vastuussa turvattomista kehityskäytännöistä. Mutta myös tekoälyä käyttävät ihmiset ja yritykset on saatettava vastuuseen, kun haittaa aiheuttaa heidän väärinkäyttönsä tai valvontansa puute. Tämä vaatii paitsi lainsäädäntöä myös teknistä infrastruktuuria, joka mahdollistaa vastuun toteutumisen. Agenttien toimilla on oltava vastuullinen ihminen. Agenttien, joita ei ole kytketty ihmiseen, on toimittava suojarajojen sisällä – jos niiden ylipäätään sallitaan osallistua lailliseen talouteen. Agenteille tulee myöntää oikeuksia perustaa itsenäisesti yhtiöitä, omistaa omaisuutta tai käydä oikeutta vain äärimmäisen varovaisesti, jos lainkaan.
Omalla alallani voimme ryhtyä vakavasti pohtimaan, miten rakentaa älykkäitä koneita, jotka sopivat yhteen ihmisen johtoaseman kanssa. Voimme rakentaa agentteja, joiden käyttöoikeudet ovat ymmärrettäviä ja rajattuja, joiden toimet voidaan tarkastaa ja joiden valtuudet käyttäjät voivat peruuttaa. Vastuu muihin olennaisesti vaikuttavista toimista ei välttämättä edellytä tavallisen yksityiselämän valvontaa eikä nimettömän ilmaisun loppua. Voimme sitoutua käyttäjien yksityisyyteen ja yksilön itsemääräämisoikeuteen omasta digitaalisesta omaisuudestaan ja datastaan, myös käytännön mahdollisuuteen siirtää data muualle. Voimme suunnitella tehtäviä suorittavien järjestelmien lisäksi järjestelmiä, jotka auttavat ihmisiä ymmärtämään asioita ja tekemään päätöksiä. Voimme myös testata, parantavatko rakentamamme tuotteet käyttäjiensä kykyä toimia maailmassa.
Mikään tästä ei ole täydellinen suunnitelma yhteiskunnalle, jossa on ihmisen kyvyt ylittävää älyä. En luottaisi kehenkään, joka väittäisi, että hänellä on sellainen. Mutta tästä voi aloittaa.
Tulevaisuus on paksun sumun peitossa. Mutta voimme silti toimia jo tänään. Yhdessä voimme ensinnäkin nimetä hiljaisen konsensuksen ääneen ja tuoda sen ääriviivat päivänvaloon. Jokainen meistä voi laajentaa tavoitteitaan radikaalisti. Voimme päättää, ettemme anna tekoälyn kutistaa meitä, vaan näemme vaivaa, jotta se auttaisi meitä kasvamaan. Voimme oppia esittämään yhä rohkeampia kysymyksiä, tutkimaan maailmaa uudella innolla ja periksiantamattomuudella sekä hyödyntämään siinä tehokkaita koneitamme. Voimme tulla uudenlaisiksi ihmisiksi – emme transihmisiksi, vaan ihmisiksi, joiden mahdollisuudet ovat avartuneet.
Ajattelen tätä katsoessani pientä poikavauvaani. En toivo hänelle vain elämää hyväntahtoisten koneiden valvonnassa, miten mukavan elämän ne sitten tarjoaisivatkin. Haluan hänen perivän maailman, jossa hän voi kysyä kysymyksiä, joita kukaan ei ole ajatellut kysyä, ja rakentaa asioita, joita kukaan ei ole ajatellut rakentaa. En halua hänelle hienompaa autoa ja pehmeämpää matkustajanistuinta. Haluan, että hän on ratissa.
- 2026


