Demokraattisen valvonnan vahvistaminen kansallisessa turvallisuudessa

Tekoäly muuttaa tapaa, jolla demokraattiset hallitukset suojelevat kansalaisiaan. Se voi auttaa torjumaan kyberhyökkäyksiä, turvaamaan kriittistä infrastruktuuria, havaitsemaan uhkia aiemmin ja antamaan virkamiehille selkeämmän tilannekuvan kriisissä. Hyvin käytettyinä nämä työkalut voivat vahvistaa kansallista turvallisuutta.

Demokraattinen valvonta auttaa varmistamaan, että julkisen vallan käytöstä vastataan kansalaisille, joita vallankäytön on tarkoitus palvella. Kun tekoäly nopeuttaa ja tehostaa kansallisen turvallisuuden parissa tehtävää työtä, myös sitä valvovien instituutioiden on pysyttävä kehityksen tahdissa. Tekoäly voi toimia nopeasti ja laajassa mittakaavassa puutteellisten tai vanhentuneiden taustatietojen, väärin määritettyjen tavoitteiden tai virheellisten oletusten pohjalta. Tällöin virheitä on vaikeampi havaita manuaalisesti ennen niiden leviämistä. Tekoälyn käytön valvonta on erityisen tärkeää kansallisen turvallisuuden alalla, koska päätöksiin voi väistämättä liittyä salassapitoa ja niillä voi olla vakavia seurauksia.

Noudatamme kansallisen turvallisuuden periaatteitamme ja huolehdimme kansallisen turvallisuuden käyttöönottojen yhteydessä suojatoimista, aidosta ihmisten harkinnasta ja asianmukaisesta valvonnasta erityisesti tilanteissa, joissa seuraukset voivat olla vakavia. Näissä periaatteissa pidetään tärkeänä myös sitä, että valvonnasta vastaavia instituutioita autetaan kehittämään valmiuksiaan valvoa tekoälyn käyttöä nopeasti ja laajassa mittakaavassa.

Julkisilla instituutioilla on jo vakiintuneet valtuudet ja vastuut kansalliseen turvallisuuteen liittyvän toiminnan valvonnassa. Kun tekoälyä hyödynnetään tässä toiminnassa, myös valvontaa voidaan joutua kehittämään. Perinteinen valvonta vaatii paljon työtä ja käy lähes mahdottomaksi, jos pienten tiimien odotetaan tarkastavan paperiajalta peräisin olevilla menetelmillä koneiden nopeudella toimivia järjestelmiä.

OpenAI katsoo, että kyvykkäämmät järjestelmät edellyttävät vahvempaa valvontaa, ja sovellamme tätä periaatetta myös itseemme. Valmiuskehyksemme mukaisesti edistyneet mallit arvioidaan perusteellisesti ennen käyttöönottoa, jotta niiden kyvyt ymmärretään ja suojatoimien riittävyys voidaan varmistaa. Tarkka arviointi jatkuu käyttöönoton jälkeen jatkuvana seurantana ja poikkeamien tarkasteluna. Saatujen tietojen avulla vahvistamme suojatoimia ja kehitämme tulevia malleja.

OpenAI ei valvo hallitusta, eikä sen pidäkään tehdä niin. Vastuu kuuluu vaaleilla valituille päättäjille ja tätä tarkoitusta varten perustetuille julkisille instituutioille. Voimme sen sijaan tukea valvontainstituutioita teknologiallamme, kun ne hoitavat nykyisiä tehtäviään.

Työtä ohjaa kolme periaatetta.

Ensinnäkin tekoälyn tulee vahvistaa ihmisten ja instituutioiden harkintaa, ei korvata sitä. Päätökset julkisen vallan toiminnan lainmukaisuudesta, asianmukaisuudesta sekä sovellettavien sääntöjen ja käytäntöjen mukaisuudesta kuuluvat toimivaltaisille viranomaisille ja laillisesti perustetuille valvontaelimille.

Toiseksi julkishallinnon tekoälyn käytön tulee olla jäljitettävissä ja ymmärrettävissä toimivaltaisille valvojille. Tarkastajien on voitava ymmärtää, miten tekoäly vaikutti päätökseen, samalla kun salassa pidettävät, yksityiset ja turvallisuuden kannalta arkaluonteiset tiedot suojataan.

Kolmanneksi tekoälyä tulee käyttää demokraattisten valvontainstituutioiden vahvistamiseen. Julkishallinnon tekoälyn käytön manuaalista valvontaa ei voida laajentaa riittävästi. Kun tekoäly otetaan käyttöön kansallisen turvallisuuden ja muun seurauksiltaan merkittävän julkishallinnon työn yhteydessä, myös valvontaelinten tulee hyödyntää sitä vastuullisesti, ymmärrettävästi ja tehtäviensä mukaisesti.

Aiomme edistää tätä aloitetta seuraavan vuoden aikana seuraavilla tavoilla:

• Teemme yhteistyötä toimivaltaisten virkamiesten kanssa tunnistaaksemme käytännön kohteita, joissa tekoälytyökalut tai tekninen tuki voivat tehostaa valvontaa.

• Tarjoamme demokraattisten hallintojen valvontaelimille yhteensä viiden miljoonan dollarin arvosta koulutusta, teknistä tukea ja OpenAI-krediittejä tekoälytyökalujen vastuullisen käyttöönoton ja arvioinnin tueksi.

• Kokeilemme valvontainstituutioiden kanssa työkaluja, joiden avulla valtuutetut tarkastajat voivat tutkia tekoälyavusteisiin viranomaispäätöksiin liittyviä tietoja, kuten olennaisia syötteitä, tuotoksia ja työkalujen käyttöä, ja ymmärtää paremmin tekoälyn vaikutusta lopputuloksiin. Työkalut ovat mahdollisuuksien mukaan yhteentoimivia tai mallista riippumattomia. Todisteet, tuotokset ja havainnot säilyvät osallistuvien instituutioiden, eivät OpenAI:n, hallinnassa, ja ne ovat edelleen vain valtuutettujen virkamiesten saatavilla.

• Teemme yhteistyötä kansalaisyhteiskunnan ja teknisten asiantuntijoiden kanssa, jotta heidän näkemyksensä ohjaavat OpenAI:n työkalukehitystä ja niihin liittyvien vastuiden hoitamista.

Tekoäly voi keskittää valtaa tai auttaa demokraattisia instituutioita käyttämään ja valvomaan valtaa tehokkaammin. Teknologia ei yksin ratkaise tulevaisuuttamme, mutta ihmisten johtamien instituutioiden ja yritysten nyt tekemät valinnat ratkaisevat.

Arvioimme aloitteen edistymistä sen perusteella, pystyvätkö valtuutetut tarkastajat hoitamaan velvollisuutensa paremmin ja onko kansalaisilla aiempaa vahvempia perusteita luottaa siihen, että julkishallinnon tekoälyjärjestelmiä käytetään tarkoitetulla tavalla.

Kun julkishallinnon tekoälyn käyttö kehittyy, OpenAI tukee jatkossakin sen valvonnasta vastaavia instituutioita.