Mūsų susitarimas su Karo departamentu

Vakar pasiekėme susitarimą su Pentagonu dėl pažangių dirbtinio intelekto (DI) sistemų diegimo įslaptintose aplinkose ir paprašėme, kad jos taip pat būtų prieinamos visoms dirbtinio intelekto įmonėms.

Manome, kad mūsų susitarime numatyta daugiau apsaugos priemonių nei bet kuriame ankstesniame susitarime dėl įslaptintų DI diegimų, įskaitant ir „Anthropic“. Štai kodėl.

Mūsų darbas su Karo departamentu turi tris pagrindines raudonas linijas, kuriomis vadovaujamės dirbdami su kitomis priešakinėmis laboratorijomis:

• Draudžiama naudoti „OpenAI“ technologiją masiniam vidaus sekimui.
• Draudžiama naudoti „OpenAI“ technologiją autonominėms ginklų sistemoms valdyti. 
• Draudžiama naudoti „OpenAI“ technologiją didelės rizikos automatizuotiems sprendimams (pvz., sistemos, tokios kaip „socialinis kreditas“).

Kitos DI laboratorijos sumažino arba pašalino savo saugos apsauginius barjerus ir nacionalinio saugumo diegimuose kaip pagrindines apsaugos priemones daugiausia rėmėsi naudojimo politikomis. Manome, kad mūsų požiūris geriau apsaugo nuo nepriimtino naudojimo.

Mūsų sutartyje savo raudonąsias linijas apsaugome taikydami platesnį, daugiasluoksnį metodą. Mes išlaikome visišką diskreciją dėl savo saugos sistemos, diegiame per debesį, patikrintas „OpenAI“ personalas yra informuotas apie procesą ir turime tvirtą sutartinę apsaugą. Visa tai yra papildomai prie stiprios esamos apsaugos, numatytos JAV teisėje. 

Tvirtai tikime demokratija. Atsižvelgdami į šios technologijos svarbą, manome, kad vienintelis geras kelias į priekį reikalauja glaudaus bendradarbiavimo tarp DI pastangų ir demokratinio proceso. Taip pat manome, kad mūsų technologija pasaulyje sukels naujų rizikų, ir norime, kad žmonės, ginantys JAV, turėtų geriausius įrankius.

Mūsų susitarimas apima:

1. Diegimo architektūra. Tai yra tik debesijos diegimas, su saugos priemonių rinkiniu, kurį vykdome ir kuris apima šiuos principus ir kitus. Mes neteikiame Karo departamentui ne pagal saugą apmokytų modelių ar modelių su išjungtais saugumo apribojimais, taip pat nediegiame savo modelių kraštiniuose įrenginiuose (kur galėtų būti galimybė juos naudoti autonominiams mirtiniems ginklams). 

Mūsų diegimo architektūra leis mums nepriklausomai patikrinti, kad šios raudonosios linijos nebūtų peržengtos, įskaitant klasifikatorių vykdymą ir atnaujinimą.

2. Mūsų sutartis. Štai aktuali formuluotė:

Karo departamentas gali naudoti DI sistemą visais teisėtais tikslais, laikydamasis taikytinos teisės, operacinių reikalavimų ir gerai įtvirtintų saugos bei priežiūros protokolų. DI sistema nebus naudojama savarankiškai nukreipti autonominius ginklus jokiu atveju, kai įstatymai, reglamentai ar Departamento politika reikalauja žmogaus kontrolės, taip pat ji nebus naudojama prisiimti kitų didelės svarbos sprendimų, kuriems reikalingas žmogaus sprendimų priėmėjo patvirtinimas pagal tas pačias įgaliojimų nuostatas. Pagal Gynybos departamento direktyvą 3000.09 (datuojama 2023 m. sausio 25 d.), bet koks DI naudojimas autonominėse ir pusiau autonominėse sistemose turi būti griežtai tikrinamas, validuojamas ir testuojamas, siekiant užtikrinti, kad prieš diegimą realistiškose aplinkose jos veiktų taip, kaip numatyta.

Žvalgybos veiklos atveju bet koks privačios informacijos tvarkymas atitiks Ketvirtąją Konstitucijos pataisą, 1947 m. Nacionalinio saugumo aktą ir 1978 m. Užsienio žvalgybos ir stebėsenos aktą, Executive Order 12333 ir taikomas Gynybos departamento direktyvas, reikalaujančias apibrėžto užsienio žvalgybos tikslo. DI sistema negali būti naudojama neribotai JAV asmenų privačios informacijos stebėsenai, laikantis šių įgaliojimų. Sistema taip pat negali būti naudojama vidaus teisėsaugos veiklai, išskyrus atvejus, kai tai leidžiama pagal Posse Comitatus Act įstatymą ir kitus taikomus įstatymus.

3. DI ekspertų įsitraukimas. Turėsime į priekį dislokuotus „OpenAI“ inžinierius, turinčius leidimą dirbti su įslaptinta informacija, kurie padės vyriausybei, o į procesą bus įtraukti saugos ir suderinimo tyrėjai, taip pat turintys leidimą dirbti su įslaptinta informacija. 

Kodėl tai darote? 

Pirma, manome, kad JAV kariuomenei absoliučiai reikia stiprių DI modelių, kad jie padėtų vykdyti jų misiją, ypač augant grėsmėms iš potencialių priešininkų, kurie vis labiau integruoja DI technologijas į savo sistemas. Iš pradžių nesudarėme sutarties dėl įslaptinto diegimo, nes nemanėme, kad mūsų apsaugos priemonės ir sistemos yra parengtos, ir sunkiai dirbome siekdami užtikrinti, kad įslaptintas diegimas galėtų įvykti su apsaugos priemonėmis, užtikrinančiomis, kad nebūtų peržengtos raudonos linijos. 

Mes nenorėjome ir vis dar nenorime pašalinti pagrindinių techninių apsaugos priemonių, kad pagerintume našumą vykdant nacionalinio saugumo darbus. Tai nėra teisingas požiūris į JAV kariuomenės rėmimą. 

Antra, taip pat norėjome sumažinti įtampą tarp Karo departamento ir JAV dirbtinio intelekto (DI) laboratorijų. Gera ateitis pareikalaus tikro ir gilaus vyriausybės ir dirbtinio intelekto (DI) laboratorijų bendradarbiavimo. Kaip mūsų susitarimo dalį, paprašėme, kad tos pačios sąlygos būtų prieinamos visoms dirbtinio intelekto (DI) laboratorijoms, ir konkrečiai, kad vyriausybė pabandytų išspręsti klausimus su „Anthropic“; dabartinė padėtis yra labai prastas būdas pradėti šį kitą bendradarbiavimo etapą tarp vyriausybės ir DI laboratorijų.

Kodėl jums pavyko sudaryti sandorį, kai „Anthropic“ to padaryti nepavyko? Ar pasirašei sandorį, kurio jie nepasirašė?

Remdamiesi tuo, ką žinome, manome, kad mūsų sutartis užtikrina geresnes garantijas ir atsakingesnes apsaugos priemones nei ankstesni susitarimai, įskaitant pradinę „Anthropic“ sutartį. Manome, kad mūsų raudonosios linijos čia yra geriau įgyvendinamos, nes diegimas apsiriboja tik debesimi (ne periferiniais kompiuteriais), užtikrina, kad mūsų saugos sistema veiktų taip, kaip, mūsų manymu, geriausia, ir informuoja patikrintus „OpenAI“ darbuotojus.

Mes nežinome, kodėl „Anthropic“ nepavyko sudaryti šio susitarimo, ir tikimės, kad jie ir daugiau laboratorijų tai apsvarstys.

Ar manote, kad „Anthropic“ turėtų būti priskirta prie „tiekimo grandinės rizikos“?

Ne, ir mes aiškiai išdėstėme savo poziciją šiuo klausimu vyriausybei.

Ar šis sandoris leis Karo departamentui naudoti „OpenAI“ modelius autonominiams ginklams valdyti? 

Ne. Remdamiesi mūsų saugos priemonių rinkiniu, diegimu tik debesyje, sutarties formuluotėmis ir galiojančiais įstatymais, reglamentavimu ir politika, esame įsitikinę, kad taip nutikti negali. Taip pat į procesą įtrauksime „OpenAI“ personalą, kad būtų užtikrintas papildomas patikimumas.  

Ar šis susitarimas leis Karo departamentui naudoti OpenAI modelius masinei JAV asmenų stebėsenai vykdyti?

Ne. Remdamiesi mūsų saugos priemonių rinkiniu, sutarties formuluotėmis ir galiojančiais įstatymais, kurie griežtai riboja Karo departamento galimybes vykdyti vidaus stebėseną, esame įsitikinę, kad taip nutikti negali. Taip pat į procesą įtrauksime „OpenAI“ personalą, kad būtų užtikrintas papildomas patikimumas.  

Ar jums reikia diegti modelius be saugos rinkinio?

Ne, mes išlaikome visišką kontrolę dėl diegiamos saugos sistemos ir nediegsime jos be apsaugos priemonių. Be to, mūsų saugos ir suderinimo tyrėjai bus įtraukti ir laikui bėgant padės tobulinti sistemas. Žinome, kad kitos DI laboratorijos sumažino modelių apsaugos priemones ir kaip pagrindine apsaugos priemone rėmėsi naudojimo politikomis, tačiau manome, kad mūsų daugiasluoksnis metodas geriau apsaugo nuo nepriimtino naudojimo.

Kas nutinka, jei vyriausybė pažeidžia sutarties sąlygas?

Kaip ir bet kurią sutartį, galėtume ją nutraukti, jei kita šalis pažeistų sąlygas. Nesitikime, kad taip nutiks.

O kas, jei vyriausybė tiesiog pakeistų įstatymą ar esamą Karo departamento politiką?

Mūsų sutartyje aiškiai nurodomi stebėsenos ir autonominių ginklų įstatymai bei politika tokie, kokie jie yra šiandien, kad net jei tie įstatymai ar politika ateityje pasikeistų, mūsų sistemų naudojimas vis tiek turi išlikti suderintas su dabartiniais standartais, atspindėtais susitarime. 

Kaip atsakote į argumentus, kuriuos „Anthropic“ pateikė jų tinklaraščio įraše⁠(atsidaro naujame lange) apie jų diskusiją su Karo departamentu?

Savo įraše „Anthropic“ nurodo dvi savo raudonąsias linijas (mes turime tas pačias dvi raudonąsias linijas, taip pat ir trečiąją: automatizuotą didelės svarbos sprendimų priėmimą) ir paaiškina, kodėl jie netiki, kad šių raudonųjų linijų būtų laikomasi sutartyse, kurias tuo metu buvo matę iš Karo departamento. Toliau paaiškiname, kodėl manome, kad tos pačios raudonosios linijos galiotų ir mūsų sutartyje:

• Masinis vidaus sekimas. Mūsų sąveikoje buvo aišku, kad Karo departamentas masinį vidaus sekimą laiko neteisėtu ir neplanavo jo naudoti šiam tikslui. Užtikrinome, kad mūsų sutartyje būtų aiškiai nurodyta, jog tam netaikoma teisėto naudojimo išimtis.
• Visiškai autonomiški ginklai. Mūsų sutartyje apibrėžta debesijos diegimo apimtis neleistų užtikrinti visiškai autonominių ginklų veikimo, nes tam reikėtų diegimo pakraštyje. 

Be šių apsaugos priemonių, mūsų sutartis siūlo papildomas daugiasluoksnes apsaugos priemones, įskaitant mūsų saugos paketą ir „OpenAI“ techninių ekspertų dalyvavimą.