Meie leping Sõjaministeeriumiga

Eile jõudsime Pentagoniga kokkuleppele täiustatud TI-süsteemide juurutamises salastatud keskkondades, mille palusime neil teha kättesaadavaks ka kõigile TI-ettevõtetele.

Me arvame, et meie lepingus on rohkem kaitseid kui üheski varasemas lepingus salastatud TI-juurutuste jaoks, sealhulgas Anthropic’u omas. Selgitame seda.

Meil on kolm peamist punast joont, mis suunavad meie koostööd Sõjaministeeriumiga ja seda, mida üldiselt jagavad ka mitmed teised tipptasemel laborid:

• OpenAI tehnoloogia kasutamine massiliseks siseriiklikuks jälgimiseks on keelatud.
• OpenAI tehnoloogia kasutamine autonoomsete relvasüsteemide suunamiseks on keelatud. 
• OpenAI tehnoloogia kasutamine on keelatud suure riskiga automatiseeritud otsuste tegemiseks (nt süsteemid nagu „sotsiaalne krediit“).

Teised TI laborid on vähendanud või eemaldanud oma ohutuse kaitsemeetmed ja tuginenud riikliku julgeoleku eesmärgil kasutuselevõtuga seoses peamiste kaitsemeetmetena eelkõige kasutuspoliitikatele. Meie arvates kaitseb meie lähenemine paremini vastuvõetamatu kasutuse eest.

Meie lepingus kaitseme me oma punaseid jooni laiahaardelisema, mitmekihilise lähenemisega. Meil on täielik otsustusõigus oma turvapaketi üle, me rakendame pilve kaudu, heakskiidetud OpenAI töötajad on kaasatud ja meil on tugevad lepingulised kaitsed. See on lisa juba USA seadustes olemasolevatele tugevatele kaitsemeetmetele. 

Me usume kindlalt demokraatiasse. Arvestades selle tehnoloogia olulisust, usume me, et ainus hea tee edasi eeldab tihedat koostööd TI-alaste jõupingutuste ja demokraatliku protsessi vahel. Me usume ka, et meie tehnoloogia toob maailmas kaasa uusi riske, ja me tahame, et Ameerika Ühendriike kaitsvatel inimestel oleksid parimad tööriistad.

Meie leping hõlmab järgnevat.

1. Rakendamine arhitektuur. See on ainult pilvepõhine rakendamine, mille puhul kasutame meie hallatavat ohutuslahendust, mis hõlmab neid põhimõtteid ja teisi. Me ei paku Sõjaministeeriumile „piiranguteta” või ohutusalaselt koolitamata mudeleid ega rakenda oma mudeleid servaseadmetes (kus võiks olla võimalus kasutada autonoomsete surmavate relvade jaoks). 

Meie rakendamise arhitektuur võimaldab meil sõltumatult kontrollida, et neid punaseid jooni ei ületata, sealhulgas klassifikaatorite käitamist ja ajakohastamist.

2. Meie leping. Siin on asjakohane keel.

Sõjaministeerium võib kasutada TI-süsteemi kõigil seaduslikel eesmärkidel kooskõlas kohaldatava õiguse, operatiivsete nõuete ning väljakujunenud ohutus- ja järelevalveprotokollidega. TI-süsteemi ei kasutata autonoomsete relvade iseseisvaks juhtimiseks ühelgi juhul, kui seadus, määrus või ministeeriumi poliitika nõuab inimkontrolli, seda ei kasutata ka muude kõrge panusega otsuste tegemiseks, mis nõuavad inimotsustaja heakskiitu sama volituse alusel. Kaitseministeeriumi direktiivi 3000.09 (25. jaanuar 2023) järgi on igasuguse TI kasutamise jaoks autonoomsetes ja poolautonoomsetes süsteemides vaja läbida range verifitseerimine, valideerimine ja testimine, et enne kasutuselevõttu tagada realistlikes keskkondades nende toimimine ettenähtud viisil.

Luuretegevuse puhul toimub igasugune eraandmete käitlemine kooskõlas USA põhiseaduse neljanda paranduse (Fourth Amendment), 1947. aasta riikliku julgeoleku seaduse (National Security Act of 1947), 1978. aasta välisluure ja jälgimise seaduse (Foreign Intelligence and Surveillance Act of 1978), täitevkorralduse nr 12333 (Executive Order 12333) ning kohaldatavate Kaitseministeeriumi direktiividega, mis nõuavad määratletud välisluure eesmärki. TI-süsteemi ei tohi kasutada nende volitustega kooskõlas olevalt USA isikute privaatse teabe piiranguteta jälgimiseks. Süsteemi ei tohi kasutada ka riigisisesteks õiguskaitsetegevusteks, välja arvatud juhul, kui see on lubatud Posse Comitatus Act’i ja muu kohaldatava seaduse alusel.

3. TI asjatundja kaasamine. Meil on eelpaigutatud, julgeolekukontrolli läbinud OpenAI insenerid, kes aitavad valitsust, ning julgeolekukontrolli läbinud ohutuse ja kooskõlastamise teadlased on kaasatud. 

Miks seda teete? 

Esiteks usume me, et USA sõjavägi vajab oma missiooni toetamiseks tugevaid TI-mudeleid, eriti kasvavate ohtude taustal potentsiaalsetelt vastastelt, kes integreerivad oma süsteemidesse üha enam TI-tehnoloogiaid. Me ei sõlminud algselt salastatud rakendamise lepingut, kuna tundsime, et meie kaitsemeetmed ja süsteemid ei olnud valmis. Me oleme teinud kõvasti tööd, et tagada salastatud rakendamine koos kaitsemeetmetega, mis hoiavad ära punaste joonte ületamise. 

Me ei olnud—ja ei ole siiani—valmis eemaldama peamisi tehnilisi kaitsemeetmeid, et parandada tulemuslikkust riikliku julgeoleku töö puhul. See ei ole õige lähenemine USA sõjaväe toetamiseks. 

Teiseks soovisime ka maandada pingeid Sõjaministeeriumi ja USA TI laborite vahel. Hea tulevik nõuab tõelist ja sügavat koostööd valitsuse ja TI laborite vahel. Meie siinse kokkuleppe osana palusime, et samad tingimused tehtaks kättesaadavaks kõigile TI laboritele, ning eelkõige, et valitsus püüaks Anthropic'uga asjad lahendada; praegune olukord on väga halb viis alustada seda järgmist koostööetappi valitsuse ja TI laborite vahel.

Miks õnnestus teil kokkuleppele jõuda, kui Anthropic'ul see ei õnnestunud? Kas te sõlmisite tehingu, mida nemad ei sõlminud?

Selle põhjal, mida me teame, usume, et meie leping pakub paremaid tagatisi ja vastutustundlikumaid kaitsemeetmeid kui varasemad lepingud, sealhulgas Anthropic'u algne leping. Me arvame, et meie punased jooned on siin paremini jõustatavad, sest rakendamine on piiratud ainult pilvega (mitte servarakendustega), hoiab meie turvapaketi toimimas viisil, mida peame parimaks, ja hoiab juurdepääsuloaga OpenAI töötajad asjaga kursis.

Me ei tea, miks Anthropic ei saanud seda kokkulepet sõlmida, ja loodame, et nemad ja rohkemad laborid kaaluvad seda.

Kas teie arvates tuleks Anthropic määratleda "tarneahela riskina”?

Ei, ja me oleme valitsusele oma seisukoha selles osas selgeks teinud.

Kas see tehing võimaldab Sõjaministeeriumil kasutada OpenAI mudeleid autonoomsete relvade käitamiseks? 

Ei. Meie ohutuslahenduse, meie üksnes pilvepõhise juurutuse, lepingu sõnastuse ning kehtivate seaduste, regulatsioonide ja poliitikate põhjal oleme kindlad, et see ei saa juhtuda. Me kaasame täiendava kindluse tagamiseks ka OpenAI personali.  

Kas see tehing võimaldab Sõjaministeeriumil kasutada OpenAI mudeleid USA isikute massiliseks jälgimiseks?

Ei. Meie ohutuslahenduse, lepingu sõnastuse ja seaduste põhjal, mis piiravad Kaitseministeeriumi poolt siseriiklikku jälgimist, oleme kindlad, et see ei saa juhtuda. Me kaasame täiendava kindluse tagamiseks ka OpenAI personali.  

Kas peate rakendama mudeleid ilma turvapaketita?

Ei, me säilitame täieliku kontrolli juurutatava turvapaketi üle ega juuruta seda ilma ohutuse kaitsepiireteta. Lisaks on meie ohutuse ja kooskõlastamise teadlased asjaga kursis ning aitavad aja jooksul süsteeme täiustada. Me teame, et teised TI laborid on vähendanud mudeli kaitsepiirdeid ja tuginenud kasutuspoliitikatele kui peamisele kaitsemeetmele, kuid meie arvates kaitseb meie mitmekihiline lähenemine paremini vastuvõetamatu kasutuse eest.

Mis juhtub, kui valitsus rikub lepingu tingimusi?

Nagu iga lepingu puhul, võime me selle lõpetada, kui vastaspool rikub tingimusi. Me ei eelda, et see juhtub.

Mis siis, kui valitsus lihtsalt muudab seadust või olemasolevaid Sõjaministeeriumi poliitikaid?

Meie leping viitab sõnaselgelt jälgimise ja autonoomsete relvade seadustele ja põhimõtetele sellistena, nagu need täna kehtivad, nii et isegi kui need seadused või põhimõtted tulevikus muutuvad, peab meie süsteemide kasutamine siiski vastama lepingus kajastatud kehtivatele standarditele. 

Kuidas käsitlete argumente, mida Anthropic esitas oma blogipostituses⁠(avaneb uues aknas) nende arutelu kohta Sõjaministeeriumiga?

Oma postituses toob Anthropic välja kaks oma punast joont (meil on samad kaks punast joont, lisaks kolmas: automatiseeritud kõrgete panustega otsustamine) ning põhjused, miks nad ei usu, et neid punaseid jooni oleks järgitud lepingutes, mida nad olid tol ajal Sõjaministeeriumi esitatuna näinud. Allpool on põhjendus, miks me usume, et need samad punased jooned kehtiksid ka meie lepingus.

• Massiline riigisisene jälgimine. Meie suhtluse kaudu oli selge, et Sõjaministeerium peab massilist riigisisest jälgimist ebaseaduslikuks ega plaaninud seda sel eesmärgil kasutada. Me tagasime, et asjaolu, et see ei kuulu seadusliku kasutuse alla, oli meie lepingus selgesõnaliselt kirjas.
• Täiesti autonoomsed relvad. Meie lepinguga kaetud pilverakenduse ulatus ei võimaldaks täielikult autonoomsete relvade käitamiseks toidet anda, kuna see nõuaks servarakenduse rakendamist. 

Lisaks nendele kaitsemeetmetele pakub meie leping täiendavaid mitmekihilisi kaitsemehhanisme, sealhulgas meie turvapaketti ja OpenAI tehnilisi eksperte, kes on protsessi kaasatud.