Samningur okkar við varnarmálaráðuneytið

Í gær náðum við samkomulagi við Pentagon um að innleiða háþróuð gervigreindarkerfi í leynilegum umhverfum, og við óskuðum eftir því að þau gerðu þetta einnig aðgengilegt öllum gervigreindarfyrirtækjum.

Við teljum að samningur okkar hafi fleiri öryggisráðstafanir en nokkur fyrri samningur fyrir leynilegar gervigreindarinnleiðingar, þar á meðal samning Anthropic. Hér er ástæðan.

Við höfum þrjár meginreglur sem stýra vinnu okkar með varnarmálaráðuneytinu, sem eru almennt sameiginlegar með nokkrum öðrum framarlegum rannsóknarstofum:

• Engin notkun OpenAI-tækni til fjöldaeftirlits innanlands.
• Engin notkun á OpenAI-tækni til að stýra sjálfvirkum vopnakerfum. 
• Engin notkun á OpenAI-tækni fyrir sjálfvirkar ákvarðanir í háhættusamhengjum (t.d. kerfi eins og „félagsleg inneign“).

Aðrar rannsóknarstofur á sviði gervigreindar hafa dregið úr eða fjarlægt öryggisvarnir sínar og treyst fyrst og fremst á notkunarstefnur sem helstu varúðarráðstafanir í verkefnum tengdum þjóðaröryggi. Við teljum að nálgun okkar veiti betri vernd gegn óásættanlegri notkun.

Í samningi okkar verndum við rauðu línurnar okkar með víðtækari, marglaga nálgun. Við höldum fullu ákvörðunarvaldi yfir öryggisstafla okkar, við innleiðum í gegnum skýið, samþykkt starfsfólk OpenAI er með í ferlinu og við höfum öflugar samningsbundnar verndir. Þetta er allt til viðbótar við öfluga núverandi vernd samkvæmt bandarískum lögum. 

Við trúum staðfastlega á lýðræði. Í ljósi mikilvægis þessarar tækni teljum við að eina góða leiðin fram á við krefjist djúprar samvinnu milli gervigreindarverkefna og lýðræðislegs ferlis. Við trúum einnig að tæknin okkar muni leiða til nýrrar áhættu í heiminum, og við viljum að þeir sem verja Bandaríkin hafi bestu verkfærin.

Samningurinn okkar felur í sér:

1. Innleiðingarhögun. Þetta er eingöngu skýjainnleiðing, með öryggislausn sem við rekum og sem felur í sér þessar meginreglur og aðrar. Við erum ekki að veita varnarmálaráðuneytinu neitt „án öryggisverndar“ eða líkön sem hafa ekki fengið öryggisþjálfun, né erum við að nota líkönin okkar á jaðartækjum (þar sem gæti verið möguleiki á notkun fyrir sjálfvirk banvæn vopn). 

Innleiðingarhögun okkar mun gera okkur kleift að sannreyna óháð að ekki sé farið yfir þessi rauðu strik, þar á meðal að keyra og uppfæra flokkara.

2. Samningur okkar. Hér er viðeigandi orðalag:

Varnarmálamálaráðuneytið má nota gervigreindarkerfið í öllum lögmætum tilgangi, í samræmi við gildandi lög, rekstrarkröfur og rótgrónar öryggis- og eftirlitsreglur. Gervigreindarkerfið verður ekki notað til að stýra sjálfstæðum vopnum án mannlegrar íhlutunar í neinu tilviki þar sem lög, reglugerðir eða stefna ráðuneytisins krefjast mannlegrar stjórnunar, né verður það notað til að taka aðrar ákvarðanir með mikla áhættu sem krefjast samþykkis af hálfu mannlegs ákvörðunaraðila samkvæmt sömu heimildum. Samkvæmt DoD Directive 3000.09 (dtd 25 January 2023) verður öll notkun gervigreindar í sjálfstæðum og hálfsjálfstæðum kerfum að gangast undir strangt sannprófunar-, staðfestingar- og prófunarferli til að tryggja að þau virki eins og til er ætlast í raunhæfu umhverfi áður en þau eru tekin í notkun.

Fyrir leyniþjónustustarfsemi mun öll meðhöndlun einkaupplýsinga fara fram í samræmi við Fourth Amendment, National Security Act frá 1947 og Foreign Intelligence and Surveillance Act frá 1978, Executive Order 12333, og viðeigandi tilskipanir varnarmálaráðuneytisins sem krefjast skilgreinds tilgangs fyrir erlendar leyniþjónustur. Gervigreindarkerfið má ekki nota til óhefts eftirlits með persónuupplýsingum bandarískra einstaklinga í samræmi við þessar heimildir. Kerfið má heldur ekki nota við innlenda löggæslustarfsemi nema eins og heimilt er samkvæmt Posse Comitatus Act og öðrum viðeigandi lögum.

3. Aðkoma sérfræðinga í gervigreind Við munum hafa öryggisvottaða OpenAI-verkfræðinga sem aðstoða stjórnvöld, með öryggisvottaða rannsakendur í öryggi og samræmingu í ferlinu. 

Af hverju gerið þið þetta? 

Í fyrsta lagi teljum við að bandaríski herinn þurfi á öflugum gervigreindarlíkönum að halda til að styðja við verkefni sitt, sérstaklega í ljósi vaxandi ógnana frá hugsanlegum andstæðingum sem eru í auknum mæli að samþætta gervigreindartækni í kerfi sín. Upphaflega gerðum við ekki strax samning um trúnaðarinnleiðingu, þar sem okkur fannst öryggisráðstafanir okkar og kerfi ekki tilbúin, og höfum unnið hörðum höndum að því að tryggja að trúnaðarinnleiðing geti átt sér stað með öryggisráðstöfunum til að tryggja að rauðar línur séu ekki brotnar. 

Við vorum—og erum enn—óviljug til að fjarlægja lykiltæknilegar öryggisráðstafanir til að auka afköst í þjóðaröryggisverkefnum. Það er ekki rétta aðferðin til að styðja bandaríska herinn. 

Í öðru lagi vildum við einnig draga úr spennu milli varnarmálaráðuneytisins og bandarísku gervigreindarrannsóknarstofanna. Góð framtíð mun krefjast raunverulegs og djúps samstarfs milli stjórnvalda og gervigreindarrannsóknarstofa. Sem hluta af samkomulagi okkar hér báðum við um að sömu skilmálar yrðu gerðir aðgengilegir öllum gervigreindarrannsóknarstofum, og sérstaklega að stjórnvöld myndu reyna að leysa málin með Anthropic; núverandi staða er mjög slæm leið til að hefja þetta næsta stig samstarfs milli stjórnvalda og gervigreindarrannsóknarstofa.

Hvers vegna gátuð þið náð samkomulagi þegar Anthropic gat það ekki? Var samningur undirritaður sem þau vildu ekki?

Miðað við það sem við vitum teljum við að samningur okkar veiti betri tryggingar og ábyrgari varúðarráðstafanir en fyrri samningar, þar á meðal upprunalegi samningur Anthropic. Við teljum að rauðu línurnar okkar séu framfylgjanlegri hér vegna þess að innleiðing er takmörkuð við eingöngu skýið (ekki á jaðrinum), heldur öryggisstaflanum okkar virkum á þann hátt sem við teljum best og heldur öryggisvottuðu starfsfólki OpenAI inni í ferlinu.

Við vitum ekki af hverju Anthropic gat ekki náð þessum samningi og við vonum að þau og fleiri rannsóknarstofur muni íhuga það.

Telur þú að Anthropic ætti að vera skilgreint sem „áhætta í aðfangakeðjunni“?

Nei, og við höfum gert afstöðu okkar í þessu skýra gagnvart stjórnvöldum.

Mun þessi samningur gera varnarmálaráðuneytinu kleift að nota líkön OpenAI til að knýja sjálfvirk vopn? 

Nei. Byggt á öryggislausn okkar, skýjaeingöngu innleiðingu okkar, orðalagi samningsins og gildandi lögum, reglugerðum og stefnum, erum við fullviss um að þetta geti ekki gerst. Við munum einnig hafa starfsfólk OpenAI með í ferlinu til að veita frekari tryggingu.  

Mun þessi samningur gera varnarmálaráðuneytinu kleift að nota OpenAI-líkön til að framkvæma fjöldaeftirlit með bandarískum einstaklingum?

Nei. Byggt á öryggislausninni okkar, samningsákvæðunum og gildandi lögum sem takmarka varnarmálaráðuneytinu verulega frá innlendri eftirlitsstarfsemi, erum við fullviss um að þetta geti ekki gerst. Við munum einnig hafa starfsfólk OpenAI með í ferlinu til að veita frekari tryggingu.  

Þurfið þið að innleiða líkön án öryggisgrunns?

Nei, við höldum fullri stjórn á öryggisstaflanum sem við innleiðum og munum ekki innleiða án varna. Að auki munu öryggis- og samræmingarrannsakendur okkar vera með í ráðum og hjálpa til við að bæta kerfin með tímanum. Við vitum að aðrar gervigreindarrannsóknarstofur hafa dregið úr öryggisvörnum líkana og reitt sig á notkunarstefnur sem aðalöryggisráðstöfun, en við teljum að marglaga nálgun okkar verndi betur gegn óásættanlegri notkun.

Hvað gerist ef stjórnvöld brjóta gegn skilmálum samningsins?

Eins og með alla samninga gætum við rift honum ef gagnaðilinn brýtur gegn skilmálunum. Við búumst ekki við að það gerist.

Hvað ef stjórnvöld breyta bara lögunum eða núverandi stefnum varnarmálaráðuneytisins?

Samningur okkar vísar skýrt til laga og stefna um eftirlit og sjálfvirk vopn eins og þau eru í dag, þannig að jafnvel þótt þau lög eða stefnur breytist í framtíðinni, verður notkun kerfa okkar samt að vera í samræmi við gildandi staðla sem endurspeglast í samningnum. 

Hvernig bregðist þið við röksemdunum sem Anthropic setti fram í bloggfærslu⁠(opnast í nýjum glugga) sinni um umræðu þeirra við varnarmálaráðuneytið?

Í færslu sinni nefnir Anthropic tvær af sínum ósveigjanlegu meginreglum (við höfum sömu tvær ósveigjanlegu meginreglur, auk þeirrar þriðju: sjálfvirk ákvarðanataka í mikilvægum málum) og rökstyður hvers vegna þau telja ekki að þessar meginreglur yrðu virtar í samningunum sem þau höfðu séð frá varnarmálaráðuneytinu á þeim tíma. Hér að neðan eru ástæður þess að við teljum að þessar sömu rauðu línur myndu halda í samningi okkar:

• Víðtækt innlent fjöldaeftirlit. Það var ljóst í samskiptum okkar að varnarmálaráðuneytið telur fjöldaeftirlit innanlands ólöglegt og hafði ekki í hyggju að nota það í þessum tilgangi. Við tryggðum að það væri skýrt tekið fram í samningi okkar að það félli ekki undir lögmæta notkun.
• Fullkomlega sjálfstæð vopn Skýjainnleiðingarsviðið sem samningur okkar nær yfir myndi ekki heimila að knýja fullkomlega sjálfvirk vopn, þar sem það myndi krefjast innleiðingar á jaðri. 

Auk þessara verndarráðstafana býður samningur okkar upp á viðbótar stigskipta öryggisvernd, þar á meðal öryggiskerfi okkar og tæknisérfræðinga OpenAI í ferlinu.