Sopimuksemme puolustusministeriön kanssa

Eilen pääsimme Pentagonin kanssa sopimukseen edistyneiden tekoälyjärjestelmien käyttöönotosta turvallisuusluokitelluissa ympäristöissä. Pyysimme ministeriötä asettamaan sopimuksen kaikkien tekoäly-yritysten saataville.

Uskomme, että sopimuksessamme on enemmän suojatoimia kuin missään aiemmassa sopimuksessa turvallisuusluokiteltuja tekoälykäyttöönottoja varten, Anthropicin sopimus mukaan lukien. Tässä syy siihen.

Meillä on kolme pääasiallista periaatetta, jotka ohjaavat työtämme puolustusministeriön kanssa ja jotka ovat yleisesti jaettuja useiden muiden edistyneiden laboratorioiden kesken:

• OpenAI-teknologian käyttö laajamittaiseen kotimaiseen valvontaan on kielletty.
• OpenAI-teknologian käyttö autonomisten asejärjestelmien ohjaamiseen on kielletty. 
• OpenAI:n teknologiaa ei saa käyttää korkean riskin automatisoituihin päätöksiin (esim. järjestelmät, kuten "social credit").

Muut tekoälylaboratoriot ovat vähentäneet tai poistaneet suojatoimiaan ja luottaneet ensisijaisesti käyttöä koskeviin käytäntöihin kansallisen turvallisuuden käyttöönottohankkeissa. Mielestämme lähestymistapamme suojaa paremmin luvattomalta käytöltä.

Sopimuksessamme suojaamme periaatteitamme laajemman, monikerroksisen lähestymistavan avulla. Pidätämme täyden harkintavallan turvallisuusratkaisumme suhteen, otamme käyttöön pilven kautta, hyväksytty OpenAI:n henkilöstö on ajan tasalla, ja meillä on vahvat sopimukselliset suojaukset. Tämä kaikki Yhdysvaltain lainsäädännössä olevien vahvojen suojatoimien lisäksi . 

Uskomme vahvasti demokratiaan. Ottaen huomioon tämän teknologian tärkeyden, uskomme, että ainoa hyvä tie eteenpäin edellyttää syvällistä yhteistyötä tekoälyhankkeiden ja demokraattisen prosessin välillä. Uskomme myös, että teknologiamme tuo mukanaan uusia riskejä maailmaan, ja haluamme, että Yhdysvaltoja puolustavilla ihmisillä on käytössään parhaat työkalut.

Sopimukseemme kuuluvat:

1. Käyttöönottoarkkitehtuuri. Tämä on pilvipohjainen käyttöönotto, jossa käytämme turvallisuusratkaisua, joka sisältää nämä periaatteet ja muita tarkennuksia. Emme tarjoa puolustusministeriölle malleja, joissa turvatoimet ovat poissa käytöstä tai joita ei ole turvallisuuskoulutettu, emmekä ota mallejamme käyttöön reunalaitteissa (joissa voisi olla mahdollisuus käyttää niitä autonomisiin tappaviin aseisiin). 

Käyttöönottorakenteemme avulla voimme itsenäisesti varmistaa, ettei näitä punaisia viivoja ylitetä, mukaan lukien luokittelijoiden suorittaminen ja päivittäminen.

2. Sopimuksemme. Tässä on asiaankuuluva teksti:

Puolustusministeriö voi käyttää tekoälyjärjestelmää kaikkiin laillisiin tarkoituksiin sovellettavan lainsäädännön, operatiivisten vaatimusten sekä vakiintuneiden turvallisuus- ja valvontaprotokollien mukaisesti. Tekoälyjärjestelmää ei saa missään tapauksessa käyttää itsenäisesti ohjaamaan autonomisia aseita, jos laki, sääntely tai ministeriön politiikka edellyttää ihmisen valvontaa, eikä sitä saa käyttää myöskään ottamaan vastuulleen muita korkeiden panosten päätöksiä, jotka edellyttävät ihmispäätöksentekijän hyväksyntää samojen valtuuksien nojalla. Puolustusministeriön direktiivin 3000.09:n (päivätty 25. tammikuuta 2023) mukaisesti kaiken tekoälyn käytön autonomisissa ja puoliautonomisissa järjestelmissä on ennen käyttöönottoa läpäistävä tiukka verifiointi, validointi, ja testaus sen varmistamiseksi, että se toimii tarkoitetulla tavalla realistisissa ympäristöissä.

Tiedustelutoiminnassa kaikki yksityisten tietojen käsittely on Yhdysvaltain perustuslain neljännen lisäyksen, vuoden 1947 kansallisen turvallisuuslain (National Security Act) ja vuoden 1978 ulkomaisen tiedustelun ja valvonnan lain (Foreign Intelligence and Surveillance Act), toimeenpanomääräyksen 12333 sekä sovellettavien puolustusministeriön direktiivien mukaista, jotka edellyttävät määriteltyä ulkomaisen tiedustelun tarkoitusta. Tekoälyjärjestelmää ei saa käyttää yhdysvaltalaisten henkilöiden yksityisten tietojen rajoittamattomaan seurantaan näiden viranomaisten määräysten mukaisesti. Järjestelmää ei myöskään saa käyttää kotimaisiin lainvalvontatoimiin, paitsi siltä osin kuin Posse Comitatus Act -laki ja muu sovellettava lainsäädäntö sen sallivat.

3. Tekoälyasiantuntijan osallistuminen. Meillä on turvallisuusselvitettyjä etulinjaan sijoitettuja OpenAI:n insinöörejä auttamassa hallitusta, ja mukana on hyväksynnän saaneita turvallisuus- ja yhdenmukaistamistutkijoita. 

Miksi teette näin? 

Ensinnäkin uskomme, että Yhdysvaltain armeija tarvitsee ehdottomasti vahvoja tekoälymalleja tukemaan tehtäväänsä, erityisesti kasvavien uhkien edessä mahdollisilta vastustajilta, jotka integroivat yhä enemmän tekoälyteknologioita järjestelmiinsä. Emme alun perin lähteneet mukaan turvallisuusluokitellun käyttöönoton sopimukseen, koska emme kokeneet, että suojatoimemme ja järjestelmämme olivat valmiita, ja olemme tehneet kovasti töitä varmistaaksemme, että turvallisuusluokiteltu käyttöönotto voi tapahtua suojatoimin, jotka varmistavat, ettei punaisia linjoja ylitetä. 

Emme olleet—emmekä ole edelleenkään—halukkaita poistamaan keskeisiä teknisiä suojatoimia parantaaksemme suorituskykyä kansalliseen turvallisuuteen liittyvässä työssä. Se ei ole oikea lähestymistapa Yhdysvaltain armeijan tukemiseen. 

Toiseksi halusimme myös lieventää jännitteitä puolustusministeriön ja Yhdysvaltain tekoälylaboratorioiden välillä. Hyvä tulevaisuus edellyttää todellista ja syvällistä yhteistyötä hallituksen ja tekoälylaboratorioiden välillä. Osana tekemäämme sopimusta pyysimme, että samat ehdot asetetaan kaikkien tekoälylaboratorioiden saataville, ja erityisesti että hallitus pyrkisi ratkaisemaan asiat Anthropicin kanssa; nykytilanne on erittäin huono tapa aloittaa tämä seuraava yhteistyövaihe hallituksen ja tekoälylaboratorioiden välillä.

Miksi te pystyitte pääsemään sopimukseen, kun Anthropic ei pystynyt? Allekirjoititko sopimuksen, jota he eivät suostuneet allekirjoittamaan?

Tietojemme perusteella uskomme, että sopimuksemme tarjoaa paremmat takeet ja vastuullisemmat suojatoimet kuin aiemmat sopimukset, kuten lukien Anthropicin alkuperäinen sopimus. Mielestämme periaatteemme ovat paremmin toimeenpantavissa, koska käyttöönotto on rajoitettu vain pilveen (ei reunalle), mikä pitää turvallisuuspinomme toiminnassa parhaaksi katsomallamme tavalla ja varmistaa, että hyväksytty OpenAI:n henkilöstö pysyy ajan tasalla.

Emme tiedä, miksi Anthropic ei päässyt tähän sopimukseen, ja toivomme, että he ja useammat laboratoriot harkitsevat sitä.

Pitäisikö Anthropic mielestänne nimetä "toimitusketjun riskiksi"?

Ei, ja olemme tehneet kantamme tästä selväksi hallitukselle.

Mahdollistaako tämä sopimus sen, että puolustusministeriö voi käyttää OpenAI:n malleja autonomisten aseiden käyttövoimana? 

Ei. Turvallisuusratkaisujemme, pilvipohjaisen käyttöönottomme, sopimustekstin sekä voimassa olevien lakien, säädösten ja käytäntöjen perusteella olemme varmoja, ettei näin voi tapahtua. Pidämme myös OpenAI:n henkilöstön ajan tasalla lisävarmuuden vuoksi.  

Mahdollistaako tämä sopimus puolustusministeriölle OpenAI-mallien käytön yhdysvaltalaisten henkilöihin kohdistuvaan laajamittaiseen valvontaan?

Ei. Turvallisuusratkaisujemme, sopimustekstin ja olemassa olevien lakien perusteella, jotka rajoittavat voimakkaasti puolustusministeriön käyttöä kotimaisessa valvonnassa, olemme varmoja, ettei näin voi tapahtua. Pidämme myös OpenAI:n henkilöstön ajan tasalla lisävarmuuden vuoksi.  

Joudutteko ottamaan malleja käyttöön ilman turvallisuusratkaisuja?

Ei, säilytämme täyden hallinnan käyttöön ottamastamme turvallisuusratkaisusta emmekä ota sitä käyttöön ilman turvasääntöjä. Lisäksi turvallisuus- ja yhteensopivuustutkijamme ovat mukana ja auttavat parantamaan järjestelmiä ajan myötä. Tiedämme, että muut tekoälylaboratoriot ovat vähentäneet mallien suojatoimia ja luottaneet käyttökäytäntöihin ensisijaisena suojatoimena, mutta uskomme, että monikerroksinen lähestymistapamme suojaa paremmin luvattomalta käytöltä.

Mitä tapahtuu, jos hallitus rikkoo sopimuksen ehtoja?

Kuten minkä tahansa sopimuksen kohdalla, voisimme irtisanoa sen, jos vastapuoli rikkoo ehtoja. Emme odota niin tapahtuvan.

Mitä jos hallitus vain muuttaa lakia tai olemassa olevia puolustusministeriön käytäntöjä?

Sopimuksemme viittaa nimenomaisesti valvontaa ja autonomisia aseita koskeviin lakeihin ja käytäntöihin sellaisina kuin ne ovat tänään, jotta vaikka kyseiset lait tai käytännöt muuttuisivat tulevaisuudessa, järjestelmiemme käyttö pysyy sopimuksessa heijastettujen nykyisten standardien mukaisena. 

Miten vastaat Anthropicin blogikirjoituksessa⁠(avautuu uudessa ikkunassa) esittämiin argumentteihin heidän keskustelustaan puolustusministeriön kanssa?

Julkaisussaan Anthropic esittää kaksi ei-neuvoteltavissa olevaa periaatettaan (meillä on samat kaksi periaatetta sekä kolmas: automatisoitu korkean panoksen päätöksenteko) ja perustelee sitä, miksi he eivät uskoneet, että näitä periaatteita noudatettaisiin sopimuksissa, joita he olivat tuolloin nähneet puolustusministeriöltä. Alla on syy, miksi uskomme, että samat periaatteet pitäisivät paikkansa omassa sopimuksessamme:

• Joukkovalvonta kotimaassa. Vuorovaikutuksessamme oli selvää, että puolustusministeriö pitää kotimaista joukkovalvontaa laittomana eikä aio käyttää sitä tähän tarkoitukseen. Varmistimme, että sopimuksessamme mainittiin nimenomaisesti, ettei se kuulu laillisen käytön piiriin.
• Täysin autonomiset aseet. Sopimuksemme kattama pilvikäyttöönoton toimintaympäristö ei sallisi täysin autonomisten aseiden käyttämistä, koska se edellyttäisi reunakäyttöönottoa. 

Näiden suojatoimien lisäksi sopimuksemme tarjoaa lisäkerroksisia suojatoimia, kuten turvallisuusratkaisumme ja OpenAI:n tekniset asiantuntijat mukana prosessissa.