Perjanjian kami dengan Jabatan Perang

Semalam, kami mencapai persetujuan dengan Pentagon untuk melancarkan sistem AI canggih dalam persekitaran terperingkat, dan kami meminta mereka supaya turut menyediakannya kepada semua syarikat AI.

Kami berpendapat perjanjian kami mempunyai lebih banyak kawalan berbanding mana-mana perjanjian terdahulu untuk penggunaan AI terklasifikasi, termasuk perjanjian Anthropic. Inilah sebabnya.

Kami mempunyai tiga garis merah utama yang membimbing kerja kami dengan DoW, yang secara umumnya dikongsi oleh beberapa makmal perbatasan lain:

• Tiada penggunaan teknologi OpenAI untuk pengawasan besar-besaran dalam negeri.
• Tiada penggunaan teknologi OpenAI untuk mengarahkan sistem senjata autonomi. 
• Tiada penggunaan teknologi OpenAI untuk keputusan automatik berisiko tinggi (contohnya, sistem seperti “kredit sosial”).

Makmal AI lain telah mengurangkan atau menghapuskan langkah-langkah perlindungan keselamatan mereka, dan bergantung terutamanya pada dasar penggunaan sebagai perlindungan utama dalam pelaksanaan keselamatan negara. Kami berpendapat bahawa pendekatan kami lebih baik dalam melindungi daripada penggunaan yang tidak dapat diterima.

Dalam perjanjian kami, kami melindungi garis merah kami melalui pendekatan yang lebih meluas dan berlapis-lapis. Kami mengekalkan budi bicara penuh ke atas timbunan keselamatan kami, kami melaksanakan melalui awan, kakitangan OpenAI yang diluluskan terlibat, dan kami mempunyai perlindungan kontrak yang kukuh. Ini adalah tambahan kepada perlindungan sedia ada yang kukuh dalam undang-undang A.S. 

Kami sangat percaya dengan demokrasi. Memandangkan kepentingan teknologi ini, kami percaya bahawa satu-satunya laluan yang baik ke hadapan memerlukan kerjasama yang mendalam antara usaha AI dan proses demokratik. Kami juga percaya bahawa teknologi kami akan memperkenalkan risiko baharu di dunia, dan kami mahu individu yang mempertahankan Amerika Syarikat mempunyai alat terbaik.

Perjanjian kami merangkumi:

1. Seni bina pelaksanaan. Ini ialah pelaksanaan khusus awan, dengan tumpuan keselamatan yang kami jalankan yang merangkumi prinsip ini dan yang lain. Kami tidak menyediakan DoW dengan “guardrails off” atau model yang tidak dilatih untuk keselamatan, dan kami juga tidak menggunakan model kami pada peranti edge (di mana mungkin terdapat kemungkinan penggunaan untuk senjata maut autonomi). 

Seni bina pelaksanaan kami akan membolehkan kami mengesahkan secara bebas bahawa garis merah ini tidak dilanggar, termasuk menjalankan dan mengemas kini pengelas.

2. Kontrak kami. Berikut ialah bahasa yang relevan:

Jabatan Perang boleh menggunakan Sistem AI untuk semua tujuan yang sah, selaras dengan undang-undang yang berkenaan, keperluan operasi, serta protokol keselamatan dan pengawasan yang telah lama ditetapkan. Sistem AI tidak akan digunakan untuk mengarahkan senjata autonomi secara bebas dalam mana-mana keadaan apabila undang-undang, peraturan, atau dasar Jabatan memerlukan kawalan manusia, dan juga tidak akan digunakan untuk mengambil alih keputusan berisiko tinggi lain yang memerlukan kelulusan oleh pembuat keputusan manusia di bawah kuasa yang sama. Menurut Arahan DoD 3000.09 (bertarikh 25/01/2023), sebarang penggunaan AI dalam sistem autonomi dan separa autonomi mesti melalui pengesahan, pengesahan kesahihan, dan ujian yang ketat untuk memastikan ia berfungsi seperti yang dimaksudkan dalam persekitaran yang realistik sebelum penugasan.

Bagi aktiviti risikan, sebarang pengendalian maklumat peribadi akan mematuhi Fourth Amendment, National Security Act of 1947 dan Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333, serta arahan DoD yang berkenaan yang memerlukan tujuan risikan asing yang ditakrifkan. Sistem AI tidak boleh digunakan untuk pemantauan tanpa had terhadap maklumat peribadi orang A.S. selaras dengan pihak berkuasa ini. Sistem ini juga tidak boleh digunakan untuk aktiviti penguatkuasaan undang-undang domestik kecuali seperti yang dibenarkan oleh Posse Comitatus Act dan undang-undang lain yang berkenaan.

3. Penglibatan pakar AI. Kami akan mempunyai jurutera OpenAI yang telah mendapat kelulusan keselamatan dan dikerahkan ke hadapan untuk membantu kerajaan, dengan penyelidik keselamatan dan penjajaran yang telah mendapat kelulusan keselamatan turut terlibat dalam proses. 

Mengapa anda melakukan ini? 

Pertama, kami berpendapat bahawa tentera AS sememangnya memerlukan model AI yang kukuh untuk menyokong misi mereka, terutamanya dalam menghadapi ancaman yang semakin meningkat daripada pihak lawan yang berpotensi yang semakin mengintegrasikan teknologi AI ke dalam sistem mereka. Pada asalnya, kami tidak terus memasuki kontrak untuk pelaksanaan terklasifikasi, kerana kami merasakan bahawa langkah-langkah keselamatan dan sistem kami belum bersedia, dan kami telah bekerja keras untuk memastikan bahawa pelaksanaan terklasifikasi boleh berlaku dengan langkah-langkah keselamatan bagi memastikan bahawa garis merah tidak dilangkaui. 

Kami tidak pernah—dan masih—tidak bersedia untuk mengalih keluar perlindungan teknikal utama demi meningkatkan prestasi dalam kerja keselamatan negara. Itu bukan pendekatan yang betul untuk menyokong tentera AS. 

Kedua, kami juga mahu meredakan keadaan antara DoW dan makmal AI AS. Masa depan yang baik akan memerlukan kerjasama yang nyata dan mendalam antara kerajaan dan makmal AI. Sebagai sebahagian daripada perjanjian kami di sini, kami meminta agar terma yang sama disediakan kepada semua makmal AI, dan khususnya agar kerajaan cuba menyelesaikan perkara ini dengan Anthropic; keadaan semasa adalah cara yang sangat buruk untuk memulakan fasa seterusnya kerjasama antara kerajaan dan makmal AI.

Mengapa anda boleh mencapai persetujuan sedangkan Anthropic tidak berjaya? Adakah anda menandatangani perjanjian yang mereka enggan tandatangani?

Berdasarkan apa yang kami ketahui, kami percaya kontrak kami memberikan jaminan yang lebih baik dan langkah-langkah perlindungan yang lebih bertanggungjawab berbanding perjanjian terdahulu, termasuk kontrak asal Anthropic. Kami fikir garis merah kami lebih mudah dikuatkuasakan di sini kerana penggunaan terhad kepada awan sahaja (bukan di pinggir), memastikan timbunan keselamatan kami berfungsi dengan cara yang kami fikir terbaik, dan memastikan kakitangan OpenAI yang telah diberi kelulusan kekal terlibat.

Kami tidak tahu mengapa Anthropic tidak dapat mencapai perjanjian ini, dan kami berharap mereka dan lebih banyak makmal akan mempertimbangkannya.

Adakah anda fikir Anthropic patut ditetapkan sebagai “risiko rantaian bekalan”?

Tidak, dan kami telah menjelaskan pendirian kami mengenai perkara ini kepada kerajaan.

Adakah perjanjian ini akan membolehkan Jabatan Perang menggunakan model OpenAI untuk menggerakkan senjata autonomi? 

Tidak. Berdasarkan tumpuan keselamatan kami, pelaksanaan hanya awan kami, bahasa kontrak, dan undang-undang, peraturan dan dasar sedia ada, kami yakin bahawa ini tidak boleh berlaku. Kami juga akan melibatkan kakitangan OpenAI dalam proses untuk jaminan tambahan.  

Adakah perjanjian ini akan membolehkan Jabatan Perang menggunakan model OpenAI untuk menjalankan pengawasan besar-besaran terhadap orang A.S.?

Tidak. Berdasarkan tindanan keselamatan kami, bahasa kontrak, dan undang-undang sedia ada yang sangat mengehadkan DoW daripada pengawasan domestik, kami yakin bahawa ini tidak boleh berlaku. Kami juga akan melibatkan kakitangan OpenAI dalam proses untuk jaminan tambahan.  

Adakah anda perlu melancarkan model tanpa lapisan keselamatan?

Tidak, kami mengekalkan kawalan penuh ke atas timbunan keselamatan yang kami gunakan dan tidak akan menggunakannya tanpa pagar pembatas keselamatan. Selain itu, penyelidik keselamatan dan penjajaran kami akan terlibat dan membantu menambah baik sistem dari semasa ke semasa. Kami tahu bahawa makmal AI lain telah mengurangkan langkah-langkah perlindungan model dan bergantung pada dasar penggunaan sebagai perlindungan utama, tetapi kami berpendapat pendekatan berlapis-lapis kami lebih melindungi daripada penggunaan yang tidak boleh diterima.

Apa yang berlaku jika kerajaan melanggar syarat-syarat kontrak?

Seperti mana-mana kontrak, kami boleh menamatkannya jika pihak satu lagi melanggar terma. Kami tidak menjangka perkara itu akan berlaku.

Bagaimana jika kerajaan hanya mengubah undang-undang atau dasar DoW yang sedia ada?

Kontrak kami secara jelas merujuk kepada undang-undang dan dasar pengawasan serta senjata autonomi seperti yang wujud pada hari ini, supaya walaupun undang-undang atau dasar tersebut berubah pada masa hadapan, penggunaan sistem kami masih mesti kekal selaras dengan piawaian semasa yang dicerminkan dalam perjanjian. 

Bagaimana anda menangani hujah yang dikemukakan oleh Anthropic dalam siaran blog mereka⁠(dibuka dalam tetingkap baru) tentang perbincangan mereka dengan DoW?

Dalam catatan mereka, Anthropic menyatakan dua garis merah mereka (kami mempunyai dua garis merah yang sama, ditambah yang ketiga: pembuatan keputusan automatik berisiko tinggi), dan sebab mereka tidak percaya garis merah ini akan dipatuhi dalam kontrak yang mereka telah lihat daripada DoW pada masa itu. Di bawah ini ialah sebab kami percaya bahawa garis merah yang sama akan terpakai dalam kontrak kami:

• Pengawasan besar-besaran dalam negeri. Jelas dalam interaksi kami bahawa DoW menganggap pengawasan besar-besaran dalam negeri sebagai menyalahi undang-undang dan tidak merancang untuk menggunakannya bagi tujuan ini. Kami memastikan bahawa hakikat ia tidak dilindungi di bawah penggunaan yang sah dinyatakan dengan jelas dalam kontrak kami.
• Senjata autonomi sepenuhnya. Skop permukaan pelaksanaan awan yang diliputi dalam kontrak kami tidak akan membenarkan pengoperasian senjata autonomi sepenuhnya, kerana ini memerlukan pelaksanaan di pinggir. 

Sebagai tambahan kepada perlindungan ini, kontrak kami menawarkan langkah-langkah perlindungan berlapis tambahan termasuk tindanan keselamatan kami dan pakar teknikal OpenAI yang terlibat dalam proses.