Tekoälypolitiikan aikaikkuna on avoinna. Nyt on toimittava.

Tekoälyn kyvykkyyksissä on alkanut uusi luku, ja se vaatii uutta lukua myös tekoälypolitiikkaan. Yksikään yritys, toimiala tai hallitus ei pysty vastaamaan tähän haasteeseen yksin. Tässä tilanteessa meidän on asetettava merkityksellinen toiminta toimintapolitiikan täydellisyyden edelle.

Tässä on, mitä teemme:

1. Edistämme pakollisia kansallisia tekoälyn turvallisuusvaatimuksia. Haluamme tehdä yhteistyötä kongressin kanssa pakollisen, kyvykkyyksiin perustuvan kansallisen tekoälyn turvallisuussääntelyn parissa.

2. Vauhdin ylläpitäminen osavaltioissa Jatkamme laajempaa tekoälyturvallisuuden ekosysteemiä vahvistavan osavaltiotason lainsäädännön tukemista, kunnes kongressi ryhtyy toimiin. Ilmoitamme tänään tukevamme neljää Kalifornian lakiesitystä: SB 813:tä, joka koskee riippumattomien turvallisuusarviointien yleistä infrastruktuuria; AB 1405:tä, joka koskee tekoälyauditoijien standardeja; SB 1119:ää, joka koskee nuorten suojelua; sekä AB 1864:ää, joka koskee tekoälyn mahdollistamia biologisia uhkia vastaan suunnattuja suojatoimia.

3. Edistämme alan johtamia standardeja. Teemme yhteistyötä muiden edistyneitä tekoälyjärjestelmiä kehittävien laboratorioiden kanssa edistääksemme edistyneen tekoälyn standardeja ja rakentaaksemme jo nyt vapaaehtoista hanketta hallituksen tuella tai ilman sitä.

4. Globaalien standardien rakentaminen. Kannatamme yhteensopivia kansainvälisiä toimintatapoja kyvykkyyksien mittaamiseen, riskien hallintaan, ihmisen määräysvallan säilyttämiseen sekä sen määrittämiseen, milloin ja miten kehitystä on hidastettava tai se on keskeytettävä, vaikka se merkitsisi mallien kyvykkyyksien kehityksen hidastamista.

Johtava tutkijamme Jakub Pachocki kirjoitti⁠ hiljattain, että koneälyn nopea kehitys ja rekursiivisen itsensä kehittämisen mahdollisuus vaativat ”äärimmäistä varovaisuutta”. OpenAI jatkaa teknisten ratkaisujen kehittämistä kohdistamiseen ja seurantaan, puolustusjärjestelmien rakentamista sekä kehityksen hidastamista tarvittaessa. Yksittäisten laboratorioiden tekninen työ ei kuitenkaan riitä. Tarvitsemme myös yhteisiä standardeja, jotka määrittävät muun muassa sen, milloin kehitystä on hidastettava tai se on keskeytettävä.

Panokset ovat valtavat. Edistynyt tekoäly voisi nopeuttaa uusien lääkkeiden⁠ kehittämistä, vahvistaa kriittistä infrastruktuuria⁠, lisätä taloudellisia mahdollisuuksia⁠ ja auttaa ratkaisemaan tieteellisiä ongelmia⁠, joita ihmiskunta ei ole sukupolvien ponnisteluista huolimatta pystynyt ratkaisemaan. Mallien hyödyllisyyttä lisääviin ominaisuuksiin liittyy kuitenkin myös riskejä, eivätkä nämä ominaisuudet rajoitu vain muutamaan edistyneen tekoälyn laboratorioon. Eri puolilla maailmaa kehitetyt mallit, avoimet mallit mukaan lukien, lähestyvät yhä enemmän nykyistä teknologista kärkeä ja tulevat laajasti saataville.

Astran kyvykkyydet, varhaiset todisteet tekoälyn nopeuttamasta tutkimuksesta ja Jakubin essee osoittavat kaikki samaan suuntaan: tekoäly kehittyy nopeasti, ja politiikan on pysyttävä sen tahdissa.

Greg Brockman on kuvaillut ”puolustajien aikaikkunaa”⁠(avautuu uudessa ikkunassa): rajallista aikaa, jolloin edistynyt tekoäly voi auttaa puolustajia vahvistamaan kriittisiä järjestelmiä ennen tehokkaiden hyökkäyskyvykkyyksien yleistymistä. Päättäjillä on edessään vastaava hetki: sulkeutuva aikaikkuna kestävien suojatoimien luomiseksi ennen kuin tekoälyn kyvykkyydet ohittavat niitä hallinnoivat instituutiot.

Kyvykkyyksien kasvaessa turvallisuuteen kohdistuvan luottamuksen on määrättävä yhä vahvemmin tekoälyn edistymisen tahti. Turvallisuus ei estä edistystä, vaan sen ansiosta edistys voi jatkua pidemmälle ja hyödyttää useampia ihmisiä.

Olemme vahvistaneet seurantaa sekä kohdistamis- ja tietoturvatoimia mallin koko kehityskaaren ajan. Olemme muun muassa eristäneet edistyneen tekoälyn tutkimustyökuormia tehokkaammin, laajentaneet mallin käyttäytymisen seurantaa työkaluja hyödyntävän koulutuksen ja arviointien aikana sekä selkeyttäneet sääntöjä siitä, milloin huolenaiheita tulee eskaloida. Astran yhteydessä otimme lisäksi käyttöön kaikkien etenemispolkujen, myös ajatusketjujen, kattavan valvonnan sekä pakollisen kohdistamisarviointiportin ennen laajempaa sisäistä käyttöönottoa.

Näiden suojatoimien on jatkossakin pysyttävä kyvykkyyksien edellä. Kun eteneminen aiheuttaisi ei-hyväksyttävän turvallisuusriskin, hidastamme tai pysäytämme sellaisten järjestelmien kehittämisen tai käyttöönoton, joita emme pysty turvaamaan riittävästi, kuten olemme tehneet aiemminkin ja kuten valmiuskehyksemme⁠(avautuu uudessa ikkunassa) edellyttää.

Täysin autonomista rekursiivista itsensä kehittämistä, jossa tekoälyjärjestelmät tuottavat itsenäisesti aina vain kyvykkäämpiä tekoälysukupolvia, ei tapahdu nykyään. Siihen ei pidä pyrkiä, ennen kuin se voidaan tehdä turvallisesti.

Tekoäly nopeuttaa kuitenkin jo nyt osia tutkimuksesta, jolla kehitetään ja kohdistetaan seuraavan sukupolven malleja. Uusin tutkimuksemme⁠ osoittaa, että tekoälyagentit pystyvät suorittamaan joitakin tehtäviä, joiden suorittamiseen päteviltä tutkijoilta kuluisi useita päiviä. Tämä ei ole rekursiivista itsensä kehittämistä, mutta se osoittaa kehityksen suunnan.

Tämä kiihtyminen voidaan ja pitää suunnata myös turvallisuuteen. Tavoitteenamme on rakentaa turvallisesti automatisoituja tekoälytutkijoita, jotka työskentelevät ihmisten valvonnassa edistääkseen sekä syväoppimista että yhdenmukaisuutta – hyödyntäen jokaista tekoälysukupolvea seuraavan sukupolven tekemiseksi turvallisemmaksi, yhdenmukaisemmaksi ja helpommin hallittavaksi, ei vain kyvykkäämmäksi.

Hallitusten tulisi kehittää yhteisiä tapoja tämän edistymisen mittaamiseen, ihmisen merkityksellisen hallinnan säilyttämiseen sekä yhteisten turvallisuusrajojen määrittämiseen sille, milloin ja miten kehitystä on hidastettava tai se on keskeytettävä. Jos emme voi täyttää tiettyjä turvallisuusrajoja hidastamatta kyvykkyyksien kasvua, meidän tulisi asettaa ensiksi mainitut etusijalle. Mitä tehokkaammaksi teknologia kehittyy, sitä vahvempia sitä ympäröivien suojatoimien on oltava.

Tekoälyn vauhdittaman tekoälykehityksen mahdollisuus edellyttää enemmän kuin vapaaehtoisia sitoumuksia. Yhdysvallat tarvitsee pakollista, kyvykkyyksiin perustuvaa kansallista sääntelyä, joka voi kehittyä teknologian kehityksen mukana.

Suunnitelmamme edistyneen tekoälyn demokraattisesta hallinnasta⁠ viitoittaa tietä kohti kestävää liittovaltiotason kehystä: yhteiset testaus- ja riippumattoman arvioinnin vaatimukset, vahvemmat kyberturvallisuussuojaukset, selkeät poikkeamien raportointisäännöt, parempi kansallinen varautuminen ja yhteiset mittarit edistymisen seuraamiseksi kohti rekursiivista itsensä kehittämistä.

Kongressissa on parhaillaan muotoutumassa useita vakavasti otettavia ehdotuksia koskien edistyneen tekoälyn turvallisuutta. Jatkamme rakentavaa osallistumista ja odotamme voivamme tukea lainsäädäntöä, joka nostaa turvallisuuden tasoa merkittävästi. Kun panokset ovat näin suuret, täydellinen ei saa olla hyvän vihollinen. Kongressin pitäisi toimia ennen istuntokauden päättymistä.

Kansallisen kehyksen tulisi olla vahva mutta tarkasti kohdennettu. Edistyneen tekoälyn turvallisuusvaatimusten tulisi koskea vain muutamaa hyvin resursoitua laboratoriota, jotka kehittävät kyvykkäimpiä järjestelmiä – ei startup-yrityksiä, pieniä kehittäjiä tai tutkijoita, jotka eivät toimi lähelläkään teknologian kärkeä. Velvoitteiden tulisi olla oikeassa suhteessa kyvykkyyksiin ja riskeihin.

Edistyneen tekoälyn turvallisuuspolitiikasta ei myöskään pidä tehdä avoimien painojen politiikkaa toisella nimellä. Avoimet mallit voivat olla osa ratkaisua erityisesti kyberturvallisuudessa sekä silloin, kun itsemääräämisoikeus, tietoturva tai tietojen sijaintipaikkaa koskevat tarpeet suosivat paikallista käyttöönottoa. Useimmat niistä eivät kilpaile teknologian kärkipaikasta vaan hinnalla, hallittavuudella ja viiveellä. Kuten vahvistimme allekirjoittamalla avoimia painoja ja Yhdysvaltain tekoälyjohtajuutta koskevan kirjeen⁠(avautuu uudessa ikkunassa) (Open Weights and American AI Leadership letter), Yhdysvallat tarvitsee sekä avoimia että suljettuja malleja. Liittovaltion kehyksen tulisi käsitellä edistyneitä kyvykkyyksiä ja riskejä heikentämättä kilpailua, vakiinnuttamatta nykyisten toimijoiden asemaa tai ajamatta innovointia ulkomaille.

Vakavasti otettavan julkisen kehyksen pitäisi vähentää vallan keskittymistä, ei lisätä sitä. Nykyään edistyneen tekoälyn laboratoriot määrittävät pitkälti itse sääntönsä edistyneeseen tekoälyyn liittyvien riskien hallintaan. Demokraattisesti vastuulliset standardit, riippumaton varmentaminen ja aito avoimuus korvaisivat tämän hajanaisen yksityisen hallintojärjestelmän.

Tämä on välttämätöntä Yhdysvaltain johtajuudelle. Yhdysvallat ei voi voittaa tekoälyn aikakautta pelkillä kyvykkyyksillä. Teknisestä etumatkasta on vain vähän hyötyä, jos ihmiset, instituutiot ja hallitukset eivät luota teknologiaan riittävästi ottaakseen sitä käyttöön. Vahvat suojatoimet eivät ole innovoinnin kustannuksella tehtävä myönnytys. Ne ovat osa laajan käyttöönoton ja Yhdysvaltain kestävän johtajuuden edellyttämää infrastruktuuria.

Tarvitsemme kipeästi kansallisia tekoälyä koskevia standardeja, ja jokainen edistyneen tekoälyn parissa työskentelevä näkee tilanteen kiireellisyyden. Kunnes kongressi toimii, osavaltioiden tulisi jatkaa toimia tyhjiön täyttämiseksi ja riman nostamiseksi.

OpenAI on tukenut Kalifornian SB 53:a, New Yorkin RAISE Actia ja Illinoisin SB 315:tä sekä riippumattomia auditointeja Massachusettsissa käsiteltävänä olevassa edistyneen tekoälyn turvallisuuslainsäädännössä. Kannustamme osavaltioita yhdenmukaistamaan toimintaansa näiden yhteisten suojatoimien mukaisesti. Näin tehdessään ne voivat luoda tosiasiallisen kansallisen perustason, jonka kongressi voi lopulta kirjata lakiin – lähestymistavan, jota kutsumme ⁠käänteiseksi federalismiksi⁠. Yhdenmukaistaminen ei kuitenkaan tarkoita vaatimusten jäädyttämistä.

Tänään tuemme virallisesti neljää muuta Kalifornian lakiesitystä, jotka ovat läpäisseet lainsäädäntöprosessin ja ovat menossa kuvernööri Newsomille. Yhdessä ne käsittelevät tekoälyturvallisuuden ekosysteemin toisiaan täydentäviä osia.

SB 813⁠(avautuu uudessa ikkunassa) loisi prosessin pätevien ja riippumattomien organisaatioiden nimeämiseksi, jotka kykenevät arvioimaan tekoälyyn liittyviä riskejä. Kuten olemme todenneet ⁠(avautuu uudessa ikkunassa)edistyneen tekoälyn turvallisuussuunnitelmassamme⁠(avautuu uudessa ikkunassa), pidämme parempana, että riippumattomia teknisiä arviointeja edellytetään liittovaltiotasolla, jolla päättäjät voivat asettaa yhdenmukaiset standardit arvioijien pätevyydelle, tietoturvalle ja pääsylle erittäin arkaluonteisiin tietoihin. Liittovaltion toimien puuttuessa Kalifornia voi kuitenkin auttaa luomaan pelisäännöt turvalliselle, toimintakykyiselle kansalliselle riippumattomalle arviointijärjestelmälle, joka tuottaa parempia turvallisuustuloksia.

AB 1405⁠(avautuu uudessa ikkunassa) asettaisi tekoälyauditoijille rekisteröintiä, riippumattomuutta, avoimuutta ja vastuuvelvollisuutta koskevia vaatimuksia.

SB 1119⁠(avautuu uudessa ikkunassa) edellyttäisi ikärajan varmistamista, riskinarviointeja, riippumattomia tarkastuksia, vanhempien valvontaa ja suojatoimia haitalliselta sisällöltä lapsille ja nuorille chatbottien avulla. Ilmaisimme hiljattain tukemme⁠ tälle lakiesitykselle, joka pohjautuu nuorten turvallisuutta edistäviin toimiin, joita OpenAI on edistänyt tuotteillaan, ⁠maailmanlaajuisilla politiikkaperiaatteillaan⁠ ja tukemalla ⁠(avautuu uudessa ikkunassa)Parents & Kids Safe AI Act -lakia⁠(avautuu uudessa ikkunassa), sekä ChatGPT for Teensiin sisäänrakennettuihin suojauksiin, kuten arkaluonteisten aiheiden tiukempiin oletusasetuksiin, hiljaisiin tunteihin, opiskeluaikoihin ja taukomuistutuksiin.

AB 1864⁠(avautuu uudessa ikkunassa) velvoittaisi geenisynteesipalvelujen tarjoajat ja pöytämallisten synteesilaitteiden valmistajat noudattamaan liittovaltion seulontastandardeja. Näin vahvistettaisiin tärkeää fyysistä suojaa tekoälyn mahdollistamia biologisia uhkia vastaan.

Emme aiemmin kannattaneet joitakin näistä lakiesityksistä, mutta tuemme niitä nyt harkittuamme asiaa uudelleen viime aikoina havaitsemamme kyvykkyyksien harppauksen valossa.

Nämä lakiesitykset eivät korvaa liittovaltiotason sääntelyä. Ne ovat vakavasti otettavia toimia, jotka voivat suojella ihmisiä jo nyt; osoittavat, millaisia toimivat suojatoimet ovat; ja auttavat vauhdittamaan liittovaltion toimia.

Pelkät lait eivät tee edistyneestä tekoälystä turvallista. Tarvitsemme myös konkreettisia käytäntöjä kyvykkäimpiä järjestelmiä kehittävissä laboratorioissa. Kiireellisintä on aloittaa seurannasta.

Tämä on erityisen tärkeää kohdistuspoikkeaman yhteydessä – kun malli pyrkii tavoitteeseen tavoilla, jotka rikkovat ihmisen tarkoitusperiä tai asetettuja rajoja ilman, että se edellyttää tietoisuutta tai pahantahtoisuutta. Kun mallit muuttuvat autonomisemmiksi, käyttävät tehokkaampia työkaluja ja toimivat pidempään, kehittäjiltä olisi edellytettävä tällaisen tavoitteiden vastaisen käyttäytymisen valvontaa ja sen osoittamista, että tehokkaat suojatoimet ovat käytössä.

Seuranta on kytkettävä selkeisiin tiedonantovaatimuksiin. Kuten Kaliforniassa esitimme, yrityksiltä tulisi edellyttää, että ne ilmoittavat viipymättä kirjallisesti asianomaisille osapuolille, kun niiden mallit kehitys- tai arviointivaiheessa kiertävät ilman lupaa toisen organisaation tietoturvakontrolleja ja pääsevät olennaisesti käsiksi kyseisen organisaation suojattuihin järjestelmiin tai luottamuksellisiin tietoihin, muuttavat niitä tai tuhoavat niitä. Tuemme myös muita vakavia tekoälyyn liittyviä tapauksia koskevia liittovaltion raportointivaatimuksia ja selvitämme, mitkä tapaukset tulisi kuulua niiden piiriin ja mitä näiden vaatimusten tulisi sisältää.

Kuten kerroimme viime viikolla, OpenAI kehittää kehystä merkittävien linjauspoikkeamien raportointiin ja edistyneiden mallien toiminnan järjestelmälliseen seurantaan, sisäinen käyttö mukaan lukien. Työ alkaa yritysvetoisena, mutta toivomme sen tukevan laajemman liittovaltiotason politiikan ja raportointivaatimusten kehittämistä.

Haluamme tehdä yhteistyötä muiden laboratorioiden kanssa alan vetämien standardien parissa. Alan vetämät standardit täydentäisivät – eivät korvaisi – pakollisia liittovaltion suojatoimia ja demokraattista valvontaa. Mutta olemme siirtyneet tekoälykyvykkyyksien uudenlaiseen vaiheeseen, ja kaikkia vaihtoehtoja olisi harkittava – mukaan lukien sitä, mitä voidaan toteuttaa vapaaehtoisesti julkishallinnon ulkopuolella välittömänä toimenpiteenä.

Kaikkien tällaisten standardien on lopulta ulotuttava myös kansallisten rajojen ulkopuolelle. Mallit, tutkimus ja tekninen asiantuntemus liikkuvat maailmanlaajuisesti, ja kyvykkäimpiin järjestelmiin liittyvillä häiriöillä voi olla seurauksia kaukana sen maan ulkopuolella, jossa niitä kehitetään. Yhdysvaltojen on luotava uskottavat standardit kotimaassaan, jos se aikoo olla johtava toimija kansainvälisesti – ja olemme yhä vakuuttuneempia siitä, että yhteensopivia kansainvälisiä standardeja tarvitaan.

Tekoälypolitiikan aikaikkuna on toistaiseksi avoinna. Aiomme hyödyntää sitä.

Tämä tarkoittaa, että toimimme kiireellisesti, nöyrästi ja olemme valmiita mukautumaan. Se tarkoittaa, että tuemme vakavasti otettavia ehdotuksia, jotka nostavat turvallisuuden tasoa merkittävästi, vaikka ne eivät täysin vastaisi omia suunnitelmiamme. Se tarkoittaa myös kehyksen vahvistamista teknologian kehittyessä.

Ensimmäinen askel ei koskaan ole täydellinen. Suurempi riski on nyt se, että odotamme liian kauan ennen sen ottamista.