Mūsu vienošanās ar Kara departamentu

Vakar mēs panācām vienošanos ar Pentagonu par progresīvu MI sistēmu ieviešanu slepenās vidēs, un mēs lūdzām, lai tās būtu pieejamas arī visiem MI uzņēmumiem.

Mēs uzskatām, ka mūsu vienošanās ietver vairāk aizsargbarjeru nekā jebkura iepriekšējā vienošanās par (MI izvietojumiem ar slepenu informāciju, tostarp Anthropic vienošanās. Lūk, kāpēc.

Mums ir trīs galvenās sarkanās līnijas, kas nosaka mūsu darbu ar KD, un tās kopumā atbalsta arī vairākas citas robežšķirtnes laboratorijas:

• OpenAI tehnoloģiju nedrīkst izmantot masveida iekšzemes novērošanai.
• Aizliegts izmantot OpenAI tehnoloģiju autonomu ieroču sistēmu vadīšanai. 
• OpenAI tehnoloģijas neizmantošana augsta riska automatizētiem lēmumiem (piemēram, sistēmas, piemēram, “sociālais kredīts”).

Citas MI laboratorijas ir samazinājušas vai noņēmušas savus drošības aizsargmehānismus un nacionālās drošības izvietošanā galvenokārt paļaujas uz izmantošanas politikām kā primārajiem aizsardzības līdzekļiem. Mēs uzskatām, ka mūsu pieeja labāk pasargā no nepieņemamas izmantošanas.

Mūsu vienošanās ietvaros mēs aizsargājam savas sarkanās līnijas, izmantojot plašāku, daudzslāņainu pieeju. Mēs saglabājam pilnīgu rīcības brīvību attiecībā uz mūsu drošības sistēmu, mēs ieviešam, izmantojot mākoni, procesā ir iesaistīts apstiprināts OpenAI personāls, un mums ir stingra līgumiskā aizsardzība. Tas viss ir papildus stingrajai aizsardzībai, kas jau ir paredzēta ASV tiesību aktos. 

Mēs nelokāmi uzskatām, ka demokrātija ir svarīga. Ņemot vērā šīs tehnoloģijas nozīmi, mēs uzskatām, ka vienīgais pareizais ceļš uz priekšu prasa ciešu sadarbību starp MI centieniem un demokrātisko procesu. Mēs arī uzskatām, ka mūsu tehnoloģija pasaulē ieviesīs jaunus riskus, un mēs vēlamies, lai cilvēkiem, kuri aizstāv ASV, būtu vislabākie rīki.

Mūsu līgumā ietilpst:

1. Izvietošanas arhitektūra. Šī ir tikai mākoņa izvietošana ar drošības risinājumu, ko mēs uzturam un kas ietver šos principus un citus. Mēs nesniedzam Kara ministrijai “atceltus drošības ierobežojumus” vai modeļus, kas nav apmācīti drošībai, kā arī neizvietojam savus modeļus uz militārajām ierīcēm (kur varētu pastāvēt iespēja tos izmantot autonomiem nāvējošiem ieročiem). 

Mūsu izvietošanas arhitektūra ļaus mums neatkarīgi pārbaudīt, ka šīs sarkanās līnijas netiek pārkāptas, tostarp darbinot un atjauninot klasifikatorus.

2. Mūsu līgums. Šeit ir atbilstošā valoda:

Kara departaments var izmantot mākslīgā intelekta (MI) sistēmu visiem likumīgiem mērķiem saskaņā ar piemērojamiem tiesību aktiem, operacionālajām prasībām un labi iedibinātiem drošības un uzraudzības protokoliem. MI sistēma netiks izmantota, lai patstāvīgi vadītu autonomos ieročus nevienā gadījumā, kad likums, regulējums vai departamenta politika prasa cilvēka kontroli, kā arī tā netiks izmantota, lai uzņemtos citus augsta riska lēmumus, kuriem nepieciešams cilvēka lēmumu pieņēmēja apstiprinājums saskaņā ar tām pašām pilnvarām. Saskaņā ar Aizsardzības ministrijas direktīvu 3000.09 (no 2023. gada 25. janvāra) jebkurai MI izmantošanai autonomās un daļēji autonomās sistēmās ir jāiziet stingra verifikācija, validācija un testēšana, lai nodrošinātu, ka tās pirms izvietošanas reālistiskās vidēs darbojas, kā paredzēts.

Izlūkošanas darbību gadījumā jebkāda privātas informācijas apstrāde notiks saskaņā ar 1947. gada Nacionālās drošības likuma Ceturto grozījumu un 1978. gada Ārzemju izlūkošanas un novērošanas likumu, 12333. Izpildrīkojumu un piemērojamajām Aizsardzības ministrijas direktīvām, kas pieprasa definētu ārvalstu izlūkošanas mērķi. MI sistēmu nedrīkst izmantot ASV personu privātas informācijas neierobežotai uzraudzībai saskaņā ar šīm pilnvarām. Sistēmu arī nedrīkst izmantot iekšzemes tiesībaizsardzības darbībām, izņemot gadījumus, ko atļauj Posse Comitatus likums un citi piemērojami tiesību akti.

3. MI ekspertu iesaiste. Mums būs pārbaudīti priekšgalā izvietoti OpenAI inženieri, kas palīdzēs valdībai, un procesā būs iesaistīti pārbaudīti drošības un saskaņotības pētnieki. 

Kāpēc jūs to darāt? 

Pirmkārt, mēs uzskatām, ka ASV militārajiem spēkiem ir nepieciešami spēcīgi MI modeļi, lai atbalstītu viņu misiju, īpaši pieaugošo draudu apstākļos no potenciālajiem pretiniekiem, kuri arvien vairāk integrē mākslīgā intelekta tehnoloģijas savās sistēmās. Sākotnēji mēs neuzsākām līgumu par klasificētu izvietošanu, jo nejutām, ka mūsu aizsardzības pasākumi un sistēmas ir gatavas, un esam cītīgi strādājuši, lai nodrošinātu, ka klasificēta izvietošana var notikt ar aizsardzības pasākumiem, kas nodrošina, ka sarkanās līnijas netiek pārkāptas. 

Mēs nebijām—un joprojām neesam—gatavi noņemt būtiskus tehniskos aizsardzības pasākumus, lai uzlabotu veiktspēju nacionālās drošības jomā. Tā nav pareizā pieeja, kā atbalstīt ASV militāros spēkus. 

Otrkārt, mēs arī vēlējāmies mazināt spriedzi starp Kara ministriju un ASV MI laboratorijām. Laba nākotne prasīs īstu un dziļu sadarbību starp valdību un MI laboratorijām. Kā daļu no mūsu vienošanās šeit mēs lūdzām, lai tie paši nosacījumi būtu pieejami visām MI laboratorijām, un jo īpaši, lai valdība mēģinātu atrisināt situāciju ar Anthropic; pašreizējais stāvoklis ir ļoti slikts veids, kā uzsākt šo nākamo sadarbības posmu starp valdību un MI laboratorijām.

Kāpēc jums izdevās panākt vienošanos, kad Anthropic tas neizdevās? Vai jūs parakstījāt līgumu, ko viņi negribēja?

Pamatojoties uz to, ko mēs zinām, mēs uzskatām, ka mūsu līgums nodrošina labākas garantijas un atbildīgākus aizsardzības pasākumus nekā iepriekšējie līgumi, tostarp Anthropic sākotnējais līgums. Mēs uzskatām, ka mūsu sarkanās līnijas šeit ir vieglāk īstenojamas, jo izvietošana ir ierobežota tikai ar mākoni (nevis perifērijā), nodrošina, ka mūsu drošības steks darbojas, mūsuprāt, vislabākajā veidā, un nodrošina, ka procesā ir iesaistīts OpenAI apstiprināts personāls.

Mēs nezinām, kāpēc Anthropic nevarēja panākt šo vienošanos, un ceram, ka to apsvērs gan Anthropic, gan vēl vairāk laboratoriju.

Vai jūs domājat, ka Anthropic būtu jānosaka kā “piegādes ķēdes risks”?

Nē, un mēs esam skaidri pauduši savu nostāju valdībai.

Vai šis darījums ļaus Kara departamentam izmantot OpenAI modeļus, lai darbinātu autonomus ieročus? 

Nē. Pamatojoties uz mūsu drošības sistēmu kopumu, mūsu izvietošanu tikai mākonī, līguma formulējumu un spēkā esošajiem likumiem, regulējumu un politiku, mēs esam pārliecināti, ka tas nevar notikt. Mēs arī iesaistīsim procesā OpenAI personālu papildu pārliecībai.  

Vai šis darījums ļaus Kara departamentam izmantot OpenAI modeļus, lai veiktu masveida novērošanu attiecībā uz ASV personām?

Nē. Pamatojoties uz mūsu drošības sistēmu kopumu, līguma formulējumu un spēkā esošajiem likumiem, kas stingri ierobežo Kara departamentu attiecībā uz iekšzemes novērošanu, mēs esam pārliecināti, ka tas nevar notikt. Mēs arī iesaistīsim procesā OpenAI personālu, lai nodrošinātu papildu pārliecību.  

Vai jums ir jāievieš modeļi bez drošības sistēmas?

Nē, mēs saglabājam pilnīgu kontroli pār mūsu ieviesto drošības risinājumu kopumu un neieviesīsim to bez drošības aizsargbarjerām. Turklāt mūsu drošības un saskaņošanas pētnieki būs iesaistīti un palīdzēs laika gaitā uzlabot sistēmas. Mēs zinām, ka citas MI laboratorijas ir samazinājušas modeļu aizsardzības pasākumus un kā galveno aizsardzības līdzekli paļāvušās uz lietošanas politikām, taču mēs uzskatām, ka mūsu daudzslāņainā pieeja labāk aizsargā pret nepieņemamu izmantošanu.

Kas notiek, ja valdība pārkāpj līguma noteikumus?

Tāpat kā jebkura līguma gadījumā, mēs varētu to izbeigt, ja līgumslēdzēja puse pārkāpj noteikumus. Mēs negaidām, ka tas notiks.

Kas notiek, ja valdība vienkārši maina likumu vai esošās Kara departamenta politikas?

Mūsu līgumā ir skaidri minēti uzraudzības un autonomo ieroču tiesību akti un politika tādi, kādi tie ir šodien, lai pat tad, ja šie tiesību akti vai politika nākotnē mainīsies, mūsu sistēmu izmantošanai joprojām būs jāatbilst pašreizējiem standartiem, kas atspoguļoti vienošanās. 

Kā jūs atbildat uz argumentiem, ko Anthropic izklāstīja savā emuāra ierakstā⁠(atveras jaunā logā)par tā diskusiju ar Kara departamentu?

Savā ierakstā Anthropic norāda divas savas sarkanās līnijas (mums ir tās pašas divas sarkanās līnijas, kā arī trešā: automatizēta augsta riska lēmumu pieņemšana) un iemeslus, kāpēc Anthropic neuzskata, ka šīs sarkanās līnijas tiktu ievērotas līgumos, kurus tas tajā laikā bija izveidojis Kara departaments. Tālāk ir norādīts, kāpēc mēs uzskatām, ka šīs pašas sarkanās līnijas būtu spēkā mūsu līgumā:

• Masveida iekšzemes novērošana. Mūsu mijiedarbībā bija skaidrs, ka Kara departaments uzskata masveida iekšzemes novērošanu par nelegālu un neplānoja to izmantot šim nolūkam. Mūsu līgumā tika skaidri norādīts, ka uz to neattiecas likumīga izmantošana.
• Pilnībā autonomi ieroči. Mūsu līgumā ietvertā mākoņa izvietošanas virsma neļautu darbināt pilnībā autonomus ieročus, jo tam būtu nepieciešama izvietošana perifērijā. 

Papildus šiem aizsardzības pasākumiem mūsu līgums piedāvā papildu daudzslāņainus aizsardzības mehānismus, tostarp mūsu drošības steku un OpenAI tehniskos ekspertus procesā.