Ang aming kasunduan sa Department of War

Kahapon, nakipagkasundo kami sa Pentagon para sa pag-deploy ng mga advanced na AI system sa mga classified environment, na hiniling namin na gawing available din nila ito sa lahat ng kumpanya ng AI.

Sa tingin namin, mas maraming guardrails ang aming kasunduan kaysa sa anumang naunang kasunduan para sa mga classified AI deployment, kabilang ang sa Anthropic. Narito kung bakit.

May tatlong pangunahing red line kami na gumagabay sa aming trabaho sa DoW, na karaniwang ginagamit ng ilang iba pang mga frontier lab:

• Walang paggamit ng teknolohiyang OpenAI para sa malawakang pagsubaybay sa loob ng bansa.
• Walang paggamit ng teknolohiya ng OpenAI para idirekta ang mga autonomous na sistema ng armas. 
• Walang paggamit ng teknolohiyang OpenAI para sa mga awtomatikong desisyon na may mataas na panganib (hal. mga system tulad ng “social credit”).

Binawasan o inalis ng ibang mga laboratoryo ng AI ang kanilang mga safety guardrail at pangunahing umasa sa mga patakaran sa paggamit bilang kanilang pangunahing pananggalang sa mga pag-deploy ng pambansang seguridad. Sa tingin namin, mas nakakatulong ang aming pamamaraan para maprotektahan ang mga ito laban sa hindi katanggap-tanggap na paggamit.

Sa aming kasunduan, pinoprotektahan namin ang aming mga red line sa pamamagitan ng mas malawak, maraming layer na pamamaraan. Nasa amin ang buong diskresyon sa aming safety stack, nagde-deploy kami sa pamamagitan ng cloud, naka-update ang mga na-clear na tauhan ng OpenAI, at mayroon kaming matibay na proteksyon sa kontrata. Bukod pa rito ang lahat ng ito sa matibay na umiiral na mga proteksyon sa batas ng Estados Unidos. 

Matibay ang aming paniniwala sa demokrasya. Dahil sa kahalagahan ng teknolohiyang ito, naniniwala kami na ang tanging mabuting landas pasulong ay nangangailangan ng malalim na kolaborasyon sa pagitan ng mga pagsisikap ng AI at ng prosesong demokratiko. Naniniwala rin kami na ang aming teknolohiya ay magdadala ng mga bagong panganib sa mundo, at gusto naming magkaroon ang mga nagtatanggol sa United States ng pinakamahusay na mga tool.

Kasama sa aming kasunduan ang:

1. Arkitektura ng Pag-deploy. Isa itong cloud-only deployment, na may safety stack na aming pinapatakbo na kinabibilangan ng mga prinsipyong ito at iba pa. Hindi namin binibigyan ang DoW ng “guardrails off” o mga modelong hindi sinanay sa kaligtasan, at hindi rin namin inilulunsad ang aming mga modelo sa mga edge device (kung saan puwedeng may posibilidad ng paggamit para sa mga awtonomong nakamamatay na sandata). 

Magbibigay-daan ang aming deployment architecture para malaya naming mapatunayan na hindi nalalabag ang mga red line na ito, kabilang ang pagpapatakbo at pag-update ng mga classifier.

2. Ang aming kontrata. Narito ang kaugnay na wika:

Maaaring gamitin ng Kagawaran ng Digmaan ang AI System para sa lahat ng legal na layunin, naaayon sa naaangkop na batas, mga kinakailangan sa operasyon, at mahusay na itinatag na mga protocol sa kaligtasan at pangangasiwa. Ang AI System ay hindi gagamitin upang malayang magdirekta ng mga autonomous na armas sa anumang kaso kung saan ang batas, regulasyon, o patakaran ng Kagawaran ay nangangailangan ng kontrol ng tao, ni hindi ito gagamitin para magsagawa ng iba pang mga desisyon na may mataas na nakataya na nangangailangan ng pag-apruba ng taong tagagawa ng desisyon sa ilalim ng mga awtoridad. Alinsunod sa DoD Directive 3000.09 (na-dtd noong Enero 25, 2023), ang anumang paggamit ng AI sa mga autonomous at semi-autonomous na sistema ay dapat sumailalim sa mahigpit na pag-verify, pagpapatunay, at pagsubok para matiyak na gumagana ang mga ito ayon sa nilalayon sa mga makatotohanang kapaligiran bago i-deploy.

Para sa mga gawaing pang-intelligence, ang anumang paghawak ng pribadong impormasyon ay susunod sa Fourth Amendment, National Security Act of 1947, Foreign Intelligence Surveillance Act of 1978, Executive Order 12333, at mga naaangkop na direktiba ng DoD na nangangailangan ng malinaw na layuning pang-foreign intelligence. Hindi dapat gamitin ang AI System para sa walang limitasyong pagsubaybay sa pribadong impormasyon ng mga tao ng U.S. alinsunod sa mga awtoridad na ito. Hindi rin dapat gamitin ang system para sa mga aktibidad ng pagpapatupad ng batas sa loob ng bansa maliban kung pinahihintulutan ng Posse Comitatus Act at iba pang naaangkop na batas.

3. Paglahok ng eksperto sa AI. Magkakaroon kami ng mga cleared at forward-deployed na OpenAI engineer na tutulong sa pamahalaan, kasama ang mga cleared na safety at alignment researcher na bahagi ng proseso. 

Bakit mo ginagawa ito? 

Una, sa tingin namin ay talagang kailangan ng militar ng US ng malalakas na modelo ng AI para suportahan ang kanilang misyon lalo na sa harap ng lumalaking banta mula sa mga potensyal na kalaban na lalo pang nagsasama ng mga teknolohiya ng AI sa kanilang mga system. Hindi kami orihinal na pumirma ng kontrata para sa classified deployment, dahil sa palagay namin hindi pa handa ang aming mga pananggalang at system, at nagsusumikap kaming matiyak na maaaring maisagawa ang classified deployment nang may mga pananggalang para matiyak na hindi malalampasan ang mga pulang linya. 

Dati—at nananatili—na hindi kami handang alisin ang mga pangunahing teknikal na pananggalang para mapahusay ang pagganap sa gawaing pang-pambansang seguridad. Hindi iyan ang tamang paraan ng pagsuporta sa militar ng US. 

Pangalawa, gusto rin naming pababain ang tensyon sa pagitan ng DoW at ng mga AI lab sa US. Ang isang magandang kinabukasan ay mangangailangan ng tunay at malalim na kolaborasyon sa pagitan ng gobyerno at ng mga AI lab. Bilang bahagi ng aming kasunduan dito, hiniling namin na ang parehong mga tuntunin ay maging available sa lahat ng AI lab, at partikular na subukan sanang lutasin ng gobyerno ang mga bagay-bagay sa Anthropic; ang kasalukuyang kalagayan ay isang napakasamang paraan para simulan ang susunod na yugto ng kolaborasyon sa pagitan ng gobyerno at mga laboratoryo ng AI.

Bakit ka makakaabot sa kasunduan kung hindi kaya ng Anthropic? Pinirmahan mo ba yung kasunduang ayaw nila?

Batay sa aming nalalaman, naniniwala kami na ang aming kontrata ay nagbibigay ng mas mahuhusay na garantiya at mas responsableng mga pananggalang kaysa sa mga naunang kasunduan, kabilang ang orihinal na kontrata ng Anthropic. Sa tingin namin, mas maipapatupad ang aming mga pulang linya dito dahil limitado ang pag-deploy sa cloud-only (hindi sa edge), pinapanatili ang aming safety stack na gumagana sa paraang sa tingin namin ay pinakamaibuti, at pinapanatiling updated ang mga na-clear na tauhan ng OpenAI.

Hindi namin alam kung bakit hindi naabot ng Anthropic ang kasunduang ito, at inaasahan naming isasaalang-alang nila at ng mas marami pang lab ang paggawa nito.

Sa tingin mo ba dapat italaga ang Anthropic bilang "panganib sa supply chain"?

Hindi, at malinaw naming ipinaabot sa gobyerno ang aming posisyon tungkol dito.

Pahihintulutan ba ng kasunduang ito ang Department of War na gumamit ng mga modelo ng OpenAI para paganahin ang mga awtonomong sandata? 

Hindi. Batay sa aming stack para sa kaligtasan, sa aming cloud-only na pag-deploy, sa wika ng kontrata, at sa mga umiiral na batas, regulasyon at patakaran, kumpiyansa kami na hindi ito maaaring mangyari. Isasama rin namin ang mga tauhan ng OpenAI sa loop para sa karagdagang katiyakan.  

Pahihintulutan ba ng kasunduang ito ang Department of War na gumamit ng mga modelo ng OpenAI para magsagawa ng malawakang pagsubaybay sa mga taong nasa U.S.?

Hindi. Batay sa aming safety stack, sa wika ng kontrata, at sa mga umiiral na batas na mahigpit na naglilimita sa DoW mula sa domestic surveillance, kumpiyansa kami na hindi ito maaaring mangyari. Isasama rin namin ang mga tauhan ng OpenAI sa loop para sa karagdagang katiyakan.  

Kailangan mo bang mag-deploy ng mga modelo nang walang safety stack?

Hindi, pinananatili namin ang ganap na kontrol sa safety stack na ide-deploy namin at hindi kami magde-deploy nang walang mga safety guardrail. Bukod dito, magiging bahagi ng proseso ang aming mga safety at alignment researcher at tutulong sa pagpapahusay ng mga system sa paglipas ng panahon. Alam namin na binawasan ng ibang AI lab ang mga guardrail ng modelo at umasa sa mga patakaran sa paggamit bilang pangunahing pananggalang, pero naniniwala kami na mas mahusay na nakapoprotekta laban sa hindi katanggap-tanggap na paggamit ang aming layered na approach.

Ano ang mangyayari kung lalabagin ng pamahalaan ang mga tuntunin ng kontrata?

Gaya ng anumang kontrata, puwede namin itong wakasan kung lalabag ang kabilang panig sa mga tuntunin. Hindi namin inaasahang mangyayari iyon.

Paano kung baguhin lang ng gobyerno ang batas o ang mga umiiral na patakaran ng DoW?

Malinaw na tinutukoy ng aming kontrata ang mga batas at patakaran sa pagmamatyag at mga autonomous na armas kung paano umiiral ang mga ito ngayon, para kahit na magbago ang mga batas o patakarang iyon sa hinaharap, ang paggamit ng aming mga system ay dapat pa ring manatiling naaayon sa kasalukuyang mga pamantayan na makikita sa kasunduan. 

Paano mo tinutugunan ang mga argumento na ginawa ng Anthropic sa kanilang post sa blog⁠(magbubukas sa bagong window) tungkol sa kanilang talakayan sa DoW?

Sa kanilang post, sinasabi ng Anthropic ang dalawa sa kanilang mga red line (pareho rin kami ng dalawang red line, plus isang pangatlo: automated high-stakes decision making), at ang mga dahilan kung bakit hindi sila naniniwalang mapangangalagaan ang mga red line na ito sa mga kontratang nakita nila mula sa DoW noong panahong iyon. Nasa ibaba kung bakit naniniwala kami na mananatili ang mga kaparehong red line na iyon sa aming kontrata:

• Malawakang pagsubaybay sa loob ng bansa. Malinaw sa aming pakikipag-ugnayan na itinuturing ng DoW na ilegal ang malawakang domestikong pagsubaybay at hindi ito planong gamitin para sa layuning ito. Tiniyak namin na ang katotohanang hindi ito saklaw sa ilalim ng makatarungang paggamit ay ginawang tahasan sa aming kontrata.
• Ganap na awtonomong mga sandata. Ang saklaw ng cloud deployment na sakop sa aming kontrata ay hindi magpapahintulot sa pagpapagana ng ganap na awtonomong mga sandata, dahil mangangailangan ito ng pag-deploy sa edge. 

Bukod sa mga proteksyong ito, nag-aalok ang aming kontrata ng mga karagdagang patong-patong na pananggalang, kabilang ang aming safety stack at mga teknikal na eksperto ng OpenAI na kasali sa proseso.