Sam Altmanin puhe YK:n turvallisuusneuvostossa

OpenAI:n toimitusjohtaja Sam Altman puhui tänään tekoälystä Yhdistyneiden kansakuntien turvallisuusneuvostolle. Hän käsitteli tekoälyn mahdollisuuksia lisätä ihmisten tilaisuuksia menestyä, tarvetta pitää voimakkaat järjestelmät ihmisten hallinnassa sekä tekoälyn turvallisuutta koskevan kansainvälisen yhteistyön merkitystä.

Kiitos, arvoisa puheenjohtaja ja arvoisat korkea-arvoiset edustajat. Minulle on kunnia olla täällä ja saada puhua teille kaikille tänä tärkeänä aikana.

Olemme puhuneet tekoälystä jo vuosia, mutta viime viikkoina ja kuukausina tilanne on alkanut tuntua erilaiselta. Mallien nopea kehitys on saanut aikataulun tuntumaan tiiviimmältä ja hyödyt konkreettisemmilta, mutta samalla myös panokset ja riskit välittömämmiltä.

Edessämme on valinta. Tekoäly voi johtaa joko luovuuden ja löytöjen uuteen renessanssiin tai mullistusten ja sekasorron uuteen teolliseen vallankumoukseen.

Renessanssin aikana uudet työkalut, ajatukset ja instituutiot laajensivat ihmisten käsitystä siitä, mihin he pystyivät. Tekoäly voi täyttää saman tehtävän meidän aikanamme. Uskon ihmisten olevan paljon kyvykkäämpiä kuin he itse kuvittelevat. Heitä on kuitenkin rajoittanut puutteellinen teknologia, jonka piti vahvistaa heidän toimijuuttaan mutta joka sen sijaan häiritsee ja vie usein huomion.

Parhaimmillaan tekoäly ei tee ihmisistä valtavan koneiston rattaita eikä optimoi elämän jokaista osa-aluetta niin, että inhimillisyys katoaa. Sen tarkoitus on antaa ihmisille enemmän toimijuutta yhä monimutkaisemmassa maailmassa: paremmat mahdollisuudet oppia, luoda, löytää, rakentaa ja osallistua. On monia asioita, joita tekoäly ei voi – eikä sen pidä – automatisoida.

Tekoäly on rakennettava ihmisiä varten, ei vain pyörittämään koneistoa yhä nopeammin ilman muuta päämäärää. Jotkin tekoälyä rakentavien ihmisten lausunnot ovat olleet niin dystooppisia, että ne kuulostavat huonojen tieteiselokuvien juonilta.

Näin voimakas teknologia herättää väistämättä myös pelkoa. Elämme monimutkaista hetkeä, sillä tunnemme yhtä aikaa sekä valtavaa toiveikkuutta että täysin ymmärrettävää huolta.

Nämä mallit voivat auttaa ihmisiä löytämään uutta tietoa, kuten uusia lääkkeitä, parempia terveydenhoitokeinoja ja vahvempia koulutusratkaisuja, sekä rakentamaan tuottavampia talouksia. Ne voivat tarjota ihmisille uusia välineitä tavoitella unelmia ja päämääriä, jotka tuntuvat nyt saavuttamattomilta. Tavallisen ihmisen elämän monimutkaisuus on kasvanut valtavasti. Tekoäly voi auttaa suojautumaan tältä monimutkaisuudelta siinä missä se voi toimia ennennäkemättömien löytöjen ja innovaatioiden välineenä.

Toisaalta tekoälyjärjestelmät voivat kyvykkyyksiensä ja itsenäisyytensä kasvaessa edetä instituutioitamme nopeammin, keskittää vallan liian harvoihin käsiin tai tehdä päätöksiä, joita ihmiset eivät enää ymmärrä tai hallitse.

Tämä huoli korostuu erityisesti lähestyessämme järjestelmiä, jotka voivat kehittää itseään ja tulevia versioitaan. Tätä kutsutaan usein rekursiiviseksi itsekehitykseksi. Tekoälyn rakentamisen automatisoituessa sen kehitys voi kiihtyä nopeasti. Tämä hetki vaatii äärimmäistä varovaisuutta.

Olen pitkälti samaa mieltä professori Bengion kanssa. Mainitsen kuitenkin kaksi asiaa kolmen sijasta: uskon, että tekoälyn kehitys voi mennä erittäin pahasti vikaan kahdella tavalla, jotka meidän on vältettävä.

Ensinnäkin voisimme menettää tulevaisuuden hallinnan tekoälylle. Vaarana on kehityksen eteneminen niin nopeasti, etteivät ihmiset enää pysy tapahtumien tasalla tai pysty puuttumaan niihin tarvittaessa. Se olisi tietenkin hirvittävää.

Alan toimijat eivät saa hyväksyä liiallisia teknologisia riskejä vain siksi, että hyödyt ovat valtavia ja kehityksen hidastaminen tuntuu liian merkittävältä ratkaisulta. Kilpailijoiden voittaminen ei oikeuta hätiköityjä päätöksiä. Emme myöskään usko olevamme jumissa kilpajuoksussa, jossa emme voisi hidastaa. Olemme aiemmin hidastaneet kehitystä oma-aloitteisesti. Teemme niin myös tulevaisuudessa. Emme halua rakentaa järjestelmiä – ja pidämme tärkeänä, ettei kukaan rakenna niitä – joiden linjaamisesta, valvottavuudesta ja turvallisuudesta emme pysty antamaan välttämättömiä takeita.

Meidän on ymmärrettävä, mitä nämä järjestelmät tekevät, ja saatava vahvaa näyttöä siitä, että ne toimivat ihmisten tarkoittamalla tavalla, vaikka niistä tulisi erittäin älykkäitä. Itse asiassa erityisesti silloin, kun niistä tulee erittäin, erittäin älykkäitä. Ei ole merkitystä, arvioivatko ihmiset katastrofin riskiksi 10 %, 1 %, 12 % vai 0,1 %. Mikään näistä riskitasoista ei ole lähelläkään hyväksyttävää. Meidän ei pidä kouluttaa malleja, joiden pysymisestä ihmisten hallinnassa emme pysty esittämään erittäin vakuuttavia perusteita.

Tämä on siis yksi tapa, jolla asiat voivat mennä vikaan. Toisaalta nämä järjestelmät voisivat keskittää liikaa valtaa liian harvoihin käsiin. Yksikään ihminen, yritys tai valtio ei saisi voida käyttää kaikkein voimakkaimpia tekoälymalleja oman maailmankuvansa pakottamiseen kaikille muille. Yritys tai valtio, joka uskoo olevansa ainoa taho, jolle tämä teknologia voidaan uskoa, voi oikeuttaa tällä käsityksellä lähes mitä tahansa muutakin. Meidän on torjuttava tällainen ajattelutapa silloinkin, kun se olisi jollekin toimijalle edullinen.

Uskon, että näiden molempien kysymysten ratkaisemiseen on käytännöllinen tie. OpenAI lähestyy näitä kysymyksiä selkeä tavoite mielessään: tekoälyn tulee antaa ihmisille enemmän valtaa omaan elämäänsä. Enemmän vapautta elää haluamallaan tavalla. Paremmat mahdollisuudet ratkaista suuria ja pieniä ongelmia sekä kehittää omia yhteisöjään. Emme halua langeta sokean optimismin ansaan. Emme myöskään halua vajota tuomiopäiväajatteluun. Kumpikaan ääripää ei auta meitä ratkaisemaan edessämme olevia haasteita – etenkään aikana, jolloin maailma ja sen ihmiset kohtaavat valtavia ongelmia, joiden ratkaisemisessa tämä teknologia voi auttaa. Siksi yritämme kulkea keskitietä näiden kahden ääripään välissä.

Meille se tarkoittaa kolmea periaatetta.

Ensinnäkin ihmisten on pysyttävä tekoälyä koskevan päätöksenteon keskiössä tekoälyn kyvykkyyksien kasvaessa. Linjaaminen ei ole abstrakti tutkimuskysymys. Siinä varmistetaan, että nämä järjestelmät pysyvät luotettavasti ihmisten hallinnassa, ilmentävät inhimillisiä arvoja ja auttavat ihmisiä ohjaamaan kehityksen seuraavia vaiheita. Emme pyri automatisoimaan ihmisten harkintaa tai arvoja, eikä niin pidä tehdä.

Toiseksi tieteen edistyksen ja talouskasvun hyötyjen on synnyttävä ihmisten toiminnasta ja palveltava ihmisiä. Tekoälyn tulisi auttaa tutkijoita tekemään löytöjä, lääkäreitä hoitamaan potilaita, opettajia opettamaan oppilaita, yrittäjiä perustamaan yrityksiä ja yhteisöjä ratkaisemaan ongelmia, jotka aiemmin tuntuivat mahdottomilta – ja paljon muuta. Ihmiskunnan jatkuvan edistyksen tarina ei kerro siitä, että työkalut korvaisivat ihmisten toimijuuden. Se kertoo siitä, että oikeat työkalut lisäävät ihmisten kykyjä. Uskon tämän kehityksen yltävän paljon pidemmälle kuin nyt osaamme kuvitella.

Kolmanneksi tämän teknologian on vahvistettava jokaista yksilöä. Hyvä tulevaisuus syntyy siitä, että ihmiset toteuttavat mahdollisuuksiaan ja luovat arvoa itselleen, yhteisöilleen, mailleen ja koko maailmalle. Saatamme olla tämän teknologian rakentajia, mutta emme ole tämän tarinan sankareita. Meidän tehtävämme on antaa ihmisille kaikkialla maailmassa mahdollisuuksia ja luottaa ihmiskunnan taitojen ja kykyjen ihmeelliseen voimaan.

Meillä on nyt malleja, jotka pystyvät löytämään aivan uutta tietoa. Ajatelkaa matematiikassa nähtyä edistystä. Kolme kesää sitten mallimme hallitsivat alakoulumatematiikan kohtalaisesti. Kaksi kesää sitten ne pärjäsivät jo varsin hyvin lukiotason matematiikkakilpailuissa. Viime kesänä saavutimme kultamitalitason maailman arvostetuimmassa kansainvälisessä matematiikkakilpailussa. Ja vain muutama viikko sitten tänä kesänä yksi malleistamme ratkaisi yhden millenniumpalkinto-ongelmista: Navier–Stokesin yhtälöt.

Näitä yhtälöitä käytetään lentokoneiden suunnittelussa, sääennusteissa ja verenvirtauksen tutkimuksessa. Emme ratkaise matemaattisia ongelmia vain niiden itsensä vuoksi, vaan jotta ihmiset voisivat löytää uutta tietoa ja hyödyntää sitä terveydenhuollon parantamiseen, elintason nostamiseen ja kaikkien mahdollisuuksien laajentamiseen kaikkialla maailmassa. Löydettävää on vielä valtavasti.

On kuitenkin erittäin tärkeää, etteivät yritykset korvaa demokraattista prosessia.

Jos tekoälyn halutaan olevan demokraattista, tärkeimpiä päätöksiä eivät voi tehdä yksin San Franciscon laboratoriot. Niitä on muovattava demokraattisissa prosesseissa ja niiden hallitusten toimesta, jotka ovat vastuussa palvelemilleen ihmisille.

Kansainvälisellä tasolla tämä edellyttää yhteistyötä. Historian saatossa keskenään kilpailevat maat, jotka eivät aina ole pitäneet toisistaan, ovat voimakkaan uuden teknologian edessä silti yhdistäneet voimansa yhteisten etujen ja yhteisen hyvän puolesta. Uskomme, että nyt on jälleen toimittava näin.

Tarvitsemme mekanismin toisiaan täydentäville kansallisille ja kansainvälisille edistyneen tekoälyn standardeille. Niillä on voitava mitata kyvykkyyksiä, arvioida riskejä, määrittää suojatoimien riittävyys ja säilyttää merkityksellinen ihmisten valvonta järjestelmien itsenäistyessä.

Tarvitsemme yhteisiä standardeja, jotta maat voivat vertailla näyttöä, varmistaa vaatimusten noudattamisen sekä muodostaa yhteisen kielen ja käsityksen tapahtumista.

Tarvitsemme täsmällistä ja nopeaa vaaratilanteista ilmoittamista sekä luokittelu- ja raportointikäytäntöjä, jotta maailma voi oppia epäonnistumisista ennen kuin ne muuttuvat katastrofeiksi.

Lisäksi tarvitsemme suojattuja viestintäkanavia hallitusten, kriittisen infrastruktuurin toimijoiden ja teknisten asiantuntijoiden välille, jotta uudet haavoittuvuudet ja uhat voidaan jakaa.

Standardit eivät tietenkään saa vakiinnuttaa nykyisten toimijoiden asemaa tai suosia yhtä liiketoimintamallia muiden kustannuksella. Niiden on tuettava avoimien ja suljettujen mallien kehittäjiä, uusia tulokkaita ja vakiintuneita laboratorioita sekä kansallista toimivaltaa ja kansainvälistä yhteistyötä. Jokaisen hallituksen tulisi itse päättää, miten standardit sisällytetään sen omaan oikeusjärjestelmään. Me kaikki hyödymme kuitenkin siitä, jos pääsemme maailmanlaajuisesti yhteisymmärrykseen siitä, millaista hyvä näyttö, tehokkaat suojatoimet ja asianmukainen valvonta ovat.

Meillä ei ole kaikkia vastauksia, ja otamme paremmat ideat erittäin mielellämme vastaan. Olemme valmiita työskentelemään kanssanne ja tekemään kaikkemme löytääksemme tien eteenpäin.

Olemme tienhaarassa. Yksi tie johtaa maailmaan, jossa valta keskittyy, päätöksenteko on läpinäkymätöntä ja ihmisistä tuntuu, että heidän elinaikansa merkittävintä teknologiaa käytetään heihin ilman heidän vaikutusmahdollisuuksiaan. Toinen tie johtaa maailmaan, jossa tekoäly palvelee ihmisiä, koska ihmiset osallistuvat demokraattisten instituutioiden kautta sen kehityksestä päättämiseen ja ohjaamiseen; jossa tieteen edistys parantaa ihmisten elämää; jossa yhä useammat voivat osallistua tulevaisuuden rakentamiseen ja jossa tämä teknologia antaa yksilöille ja yhteisöille entistä enemmän valtaa elää haluamallaan tavalla. Tässä tulevaisuudessa mahdollisuudet toteutuvat ja koemme innostusta ja ihmetystä.

Juuri tällaisen tulevaisuuden rakentaminen on mielestämme vaivan arvoista. Kiitos oikein paljon.