Naš sporazum z Ministrstvom za obrambo

Včeraj smo s Pentagonom dosegli dogovor o uvajanju naprednih sistemov umetne inteligence v zaupnih okoljih, pri čemer smo jih zaprosili, naj jih omogočijo tudi vsem podjetjem s področja umetne inteligence.

Menimo, da ima naš sporazum več varovalnih mehanizmov kot kateri koli prejšnji sporazum za zaupne uvedbe umetne inteligence, vključno s sporazumom podjetja Anthropic. Tukaj je razlog.

Imamo tri glavne rdeče črte, ki usmerjajo naše delo z DoW, in jih na splošno deli tudi več drugih mejnih laboratorijev:

• Brez uporabe tehnologije OpenAI za množični domači nadzor.
• Brez uporabe tehnologije OpenAI za usmerjanje avtonomnih orožnih sistemov. 
• Brez uporabe tehnologije OpenAI za avtomatizirane odločitve z visokim tveganjem (npr. sistemi, kot je »družbeni kredit«).

Drugi laboratoriji za umetno inteligenco so zmanjšali ali odstranili svoje varovalne mehanizme in se pri uvajanju na področju nacionalne varnosti zanašali predvsem na uporabniške politike kot glavne zaščitne ukrepe. Menimo, da naš pristop bolje ščiti pred nesprejemljivo uporabo.

V našem dogovoru svoje rdeče črte varujemo z bolj razširjenim, večplastnim pristopom. Ohranjamo popolno diskrecijo nad našim varnostnim skladom, uvajamo prek oblaka, odobreno osebje OpenAI je vključeno, in imamo močne pogodbene zaščite. To je vse poleg močnih obstoječih zaščit v zakonodaji ZDA. 

Močno verjamemo v demokracijo. Glede na pomen te tehnologije verjamemo, da edina dobra pot naprej zahteva tesno sodelovanje med prizadevanji na področju umetne inteligence in demokratičnim procesom. Prav tako verjamemo, da bo naša tehnologija v svetu uvedla nova tveganja, in želimo, da imajo ljudje, ki branijo Združene države, najboljša orodja.

Naš sporazum vključuje:

1. Arhitektura uvajanja. To je uvedba samo v oblaku, z varnostnim sklopom, ki ga izvajamo in ki vključuje ta načela in drugo. DoW ne zagotavljamo z “izklopljenimi varovali” ali z modeli, ki niso usposobljeni za varnost, prav tako pa naših modelov ne nameščamo na robne naprave (kjer bi lahko obstajala možnost uporabe za avtonomno smrtonosno orožje). 

Naša arhitektura uvajanja nam bo omogočila, da neodvisno preverimo, da te mejne črte niso prekoračene, vključno z zaganjanjem in posodabljanjem klasifikatorjev.

2. Naša pogodba. Tukaj je ustrezen jezik:

Ministrstvo za obrambo lahko uporablja sistem umetne inteligence za vse zakonite namene, skladno z veljavno zakonodajo, operativnimi zahtevami ter uveljavljenimi varnostnimi in nadzornimi protokoli. Sistem umetne inteligence se v nobenem primeru ne bo uporabljal za samostojno usmerjanje avtonomnega orožja, kadar zakon, predpis ali politika ministrstva zahteva človeški nadzor, prav tako se ne bo uporabljal za prevzem drugih odločitev z visokimi posledicami, ki zahtevajo odobritev človeškega odločevalca v okviru istih pooblastil. V skladu z Direktivo DoD 3000.09 (z dne 25. januarja 2023) mora vsaka uporaba umetne inteligence v avtonomnih in polavtonomnih sistemih prestati strogo preverjanje, potrjevanje in testiranje, da se zagotovi, da pred uvedbo delujejo, kot je predvideno, v realističnih okoljih.

Za obveščevalne dejavnosti bo vsako ravnanje z zasebnimi informacijami skladno s Četrtim amandmajem, Zakonom o nacionalni varnosti iz leta 1947 in Zakonom o tuji obveščevalni dejavnosti in nadzoru iz leta 1978, Izvršnim ukazom 12333 ter veljavnimi direktivami DoD, ki zahtevajo opredeljen namen tuje obveščevalne dejavnosti. Sistem UI se ne sme uporabljati za neomejeno spremljanje zasebnih podatkov oseb iz ZDA, v skladu s temi pooblastili. Sistem se prav tako ne sme uporabljati za domače dejavnosti kazenskega pregona, razen kot je dovoljeno z zakonom Posse Comitatus Act in drugo veljavno zakonodajo.

3. Vključenost strokovnjakov za UI. Imeli bomo preverjene vnaprej razporejene inženirje OpenAI, ki bodo pomagali vladi, pri čemer bodo v zanki preverjeni raziskovalci za varnost in usklajenost. 

Zakaj to počnete? 

Najprej menimo, da ameriška vojska nujno potrebuje močne modele umetne inteligence za podporo svojemu poslanstvu, zlasti ob vse večjih grožnjah potencialnih nasprotnikov, ki v svoje sisteme vse bolj vključujejo tehnologije umetne inteligence. Sprva nismo sklenili pogodbe za tajno uvajanje, saj smo menili, da naši zaščitni ukrepi in sistemi še niso pripravljeni. Trdo smo delali, da bi zagotovili, da se lahko tajno uvajanje izvede z varovalnimi mehanizmi, ki zagotavljajo, da se rdeče črte ne prekoračijo. 

Nismo bili—in še vedno nismo—pripravljeni odstraniti ključnih tehničnih zaščitnih ukrepov, da bi izboljšali zmogljivost pri delu na področju nacionalne varnosti. To ni pravilen pristop v podpori ameriški vojski. 

Drugič, želeli smo tudi umiriti razmere med DoW in ameriškimi laboratoriji za umetno inteligenco. Dobra prihodnost bo zahtevala resnično in poglobljeno sodelovanje med vlado in laboratoriji za umetno inteligenco. Kot del našega dogovora smo zahtevali, da se enaki pogoji ponudijo vsem laboratorijem za umetno inteligenco, in posebej, da bi vlada poskušala razrešiti zadeve z Anthropicom; trenutno stanje je zelo slab način za začetek te naslednje faze sodelovanja med vlado in laboratoriji za umetno inteligenco.

Zakaj ste lahko dosegli dogovor, ki ga Anthropic ni mogel doseči? Ste podpisali posel, ki ga oni niso?

Na podlagi tega, kar vemo, verjamemo, da naša pogodba zagotavlja boljša jamstva in bolj odgovorne varovalne mehanizme kot prejšnji dogovori, vključno z izvirno pogodbo podjetja Anthropic. Menimo, da je naše rdeče črte tukaj lažje zagotoviti, ker je uvajanje omejeno izključno na oblak (ne na robu), ohranja delovanje našega varnostnega sklada na način, za katerega menimo, da je najboljši, in ohranja preverjeno osebje OpenAI v zanki.

Ne vemo, zakaj Anthropic ni mogel skleniti tega dogovora, in upamo, da bodo oni in več laboratorijev o tem razmislili.

Ali menite, da bi moral biti Anthropic označen kot “tveganje v dobavni verigi”?

Ne, in svoje stališče glede tega smo jasno predstavili vladi.

Ali bo ta dogovor Ministrstvu za vojno omogočil uporabo modelov OpenAI za pogon avtonomnega orožja? 

Ne. Na podlagi našega varnostnega sklopa, naše uvedbe, ki je le v oblaku, pogodbenega jezika ter obstoječih zakonov, predpisov in politik smo prepričani, da se to ne more zgoditi. V zanki bomo za dodatno zagotovilo imeli tudi osebje OpenAI.  

Ali bo ta dogovor Ministrstvu za vojno omogočil uporabo modelov OpenAI za izvajanje množičnega nadzora nad osebami v ZDA?

Ne. Na podlagi našega varnostnega sklopa, pogodbenega besedila in obstoječih zakonov, ki močno omejujejo DoW pri domačem nadzoru, smo prepričani, da se to ne more zgoditi. V zanki bomo za dodatno zagotovilo imeli tudi osebje OpenAI.  

Ali morate uvajati modele brez varnostnega sklada?

Ne, ohranjamo popoln nadzor nad varnostnim sklopom, ki ga uvajamo, in ga ne bomo uvedli brez varovalnih mehanizmov. Poleg tega bodo naši raziskovalci za varnost in usklajenost vključeni v proces ter bodo sčasoma pomagali izboljševati sisteme. Vemo, da so drugi laboratoriji za umetno inteligenco zmanjšali varovalne mehanizme modela in se kot primarno zaščito zanašali na pravilnike o uporabi, vendar menimo, da je naš večplastni pristop tisti, ki bolje ščiti pred nesprejemljivo uporabo.

Kaj se zgodi, če vlada krši pogoje pogodbe?

Kot vsako pogodbo, lahko tudi to prekinemo, če nasprotna stranka krši pogoje. Ne pričakujemo, da se bo to zgodilo.

Kaj pa, če vlada preprosto spremeni zakon ali obstoječe pravilnike DoW?

Naša pogodba izrecno navaja zakone in pravilnike o nadzoru ter avtonomnem orožju v obliki, kot veljajo danes, tako da tudi če se ti zakoni ali pravilniki v prihodnosti spremenijo, mora uporaba naših sistemov še vedno ostati usklajena s trenutnimi standardi, kot so navedeni v pogodbi. 

Kako odgovarjate na argumente, ki jih je Anthropic navedel v njihovi objavi na blogu⁠(odpre se v novem oknu) o njihovi razpravi z DoW?

V svoji objavi Anthropic navaja dve svoji rdeči črti (mi imamo isti dve rdeči črti, plus tretjo: avtomatizirano odločanje v primerih z visokimi vložki) in razloge, zakaj ne verjamejo, da bi se te rdeče črte upoštevale v pogodbah, ki so jih takrat videli od DoW. Spodaj je navedeno, zakaj menimo, da bi se te iste rdeče črte ohranile tudi v naši pogodbi:

• Množični domači nadzor. Iz naše interakcije je bilo jasno, da DoW meni, da je množični domači nadzor nezakonit, in ga ni nameraval uporabiti za ta namen. Zagotovili smo, da je bilo v naši pogodbi izrecno navedeno, da to ni zajeto v okviru zakonite uporabe.
• Popolnoma avtonomno orožje. Površina uvajanja v oblaku, ki jo zajema naša pogodba, ne bi dopuščala uporabo popolnoma avtonomnega orožja, saj bi to zahtevalo uvajanje na meji. 

Poleg teh zaščit naša pogodba ponuja dodatne večplastne zaščitne ukrepe, vključno z našim varnostnim sklopom in tehničnimi strokovnjaki OpenAI, ki so vključeni v proces.