Perjanjian kami dengan Departemen Perang AS

Kemarin kami mencapai perjanjian dengan Pentagon untuk menerapkan sistem AI canggih di lingkungan rahasia, yang juga kami minta agar mereka sediakan untuk semua perusahaan AI.

Kami menilai perjanjian kami memiliki lebih banyak mekanisme keamanan daripada perjanjian sebelumnya untuk penerapan AI rahasia, termasuk kesepakatan Anthropic. Inilah alasannya.

Kami memiliki tiga batasan utama yang menjadi panduan dalam pekerjaan kami dengan Departemen Perang AS, yang secara umum juga dianut oleh beberapa laboratorium frontier lainnya:

• Tidak boleh menggunakan teknologi OpenAI untuk pengawasan domestik massal.
• Tidak boleh menggunakan teknologi OpenAI untuk mengarahkan sistem senjata otonom. 
• Tidak boleh menggunakan teknologi OpenAI untuk keputusan otomatis berisiko tinggi (misalnya, sistem seperti “kredit sosial”).

Laboratorium AI lainnya telah mengurangi atau menghapus mekanisme keamanan mereka dan lebih mengandalkan kebijakan penggunaan sebagai perlindungan utama dalam penerapan keamanan nasional. Kami menilai bahwa pendekatan kami memberi perlindungan yang lebih baik terhadap penggunaan yang tidak dapat diterima.

Dalam perjanjian kami, kami melindungi batasan kami melalui pendekatan multi-lapis yang lebih luas. Kami memiliki kendali penuh atas lapisan pengamanan kami, kami menerapkan melalui cloud, personel OpenAI yang telah disetujui terlibat, dan kami memiliki perlindungan kontraktual yang kuat. Semua ini merupakan tambahan atas perlindungan kuat yang sudah ada dalam hukum AS. 

Kami sangat menjunjung tinggi demokrasi. Mengingat betapa pentingnya teknologi ini, kami meyakini bahwa satu-satunya cara maju yang tepat adalah melalui kolaborasi erat antara pengembangan AI dan proses demokrasi. Kami juga sadar bahwa teknologi kami akan membawa risiko baru di dunia, dan kami ingin para penjaga pertahanan Amerika Serikat memiliki alat terbaik.

Perjanjian kami mencakup:

1. Arsitektur penerapan. Ini adalah penerapan khusus cloud, dengan lapisan pengamanan yang kami jalankan yang mencakup prinsip-prinsip ini dan lainnya. Kami tidak menyediakan Departemen Perang AS model yang dilatih “tanpa mekanisme keamanan” atau tanpa pengamanan, dan kami juga tidak menerapkan model kami pada perangkat edge (yang ada kemungkinan digunakan untuk senjata mematikan otonom). 

Arsitektur penerapan kami akan memungkinkan kami untuk secara independen memverifikasi bahwa batasan ini tidak dilanggar, termasuk menjalankan dan memperbarui pengklasifikasi.

2. Kontrak kami. Berikut adalah ketentuan yang relevan:

Departemen Perang AS dapat menggunakan Sistem AI untuk semua tujuan yang sah, sesuai dengan hukum yang berlaku, persyaratan operasional, serta protokol keselamatan dan pengawasan yang sudah mapan. Sistem AI tidak akan digunakan untuk mengarahkan senjata otonom secara mandiri dalam kasus apa pun ketika hukum, peraturan, atau kebijakan Departemen mengharuskan kontrol manusia, dan juga tidak akan digunakan untuk mengambil alih keputusan berisiko tinggi lainnya yang memerlukan persetujuan dari pengambil keputusan manusia sesuai dengan ketentuan hukum dan peraturan yang sama. Sesuai dengan DoD Directive 3000.09 (tertanggal 25 Januari 2023), setiap penggunaan AI dalam sistem otonom dan semi-otonom harus melalui verifikasi, validasi, dan pengujian yang ketat untuk memastikan bahwa sistem tersebut berfungsi sebagaimana dimaksud dalam lingkungan yang realistis sebelum penerapan.

Untuk kegiatan intelijen, setiap penanganan informasi pribadi akan mematuhi Fourth Amendment, National Security Act of 1947 dan Foreign Intelligence and Surveillance Act of 1978, Executive Order 12333, serta arahan DoD yang berlaku yang mewajibkan adanya tujuan intelijen asing yang jelas. Sistem AI tidak boleh digunakan untuk pemantauan tanpa batas atas informasi pribadi warga A.S. sesuai dengan ketentuan hukum dan peraturan yang berlaku. Sistem ini juga tidak boleh digunakan untuk kegiatan penegakan hukum domestik kecuali sebagaimana diizinkan oleh Posse Comitatus Act dan hukum lain yang berlaku.

3. Keterlibatan pakar AI. Kami akan menugaskan insinyur OpenAI yang telah mendapatkan izin keamanan untuk membantu pemerintah, dengan peneliti keamanan dan penyelarasan yang juga telah mendapatkan izin keamanan turut terlibat. 

Mengapa Anda melakukan ini? 

Pertama, kami menilai militer AS benar-benar membutuhkan model AI yang kuat untuk mendukung misi mereka, terutama dalam menghadapi ancaman yang meningkat dari musuh potensial yang semakin mengintegrasikan teknologi AI ke dalam sistem mereka. Pada awalnya kami tidak langsung menandatangani kontrak untuk penerapan yang bersifat rahasia, karena kami merasa bahwa mekanisme pengamanan dan sistem kami belum siap, dan kami telah bekerja keras untuk memastikan bahwa penerapan yang bersifat rahasia dapat dilakukan dengan mekanisme pengamanan yang menjamin batasan tidak dilanggar. 

Kami telah—dan tetap—tidak bersedia menghapus perlindungan teknis utama untuk meningkatkan kinerja pada pekerjaan keamanan nasional. Itu bukan pendekatan yang tepat untuk mendukung militer AS. 

Kedua, kami juga ingin meredakan situasi antara Departemen Perang dan lab AI AS. Masa depan yang baik akan memerlukan kolaborasi yang nyata dan erat antara pemerintah dan laboratorium AI. Sebagai bagian dari kesepakatan kami di sini, kami meminta agar ketentuan yang sama tersedia bagi semua laboratorium AI, dan secara khusus agar pemerintah berupaya menyelesaikan masalah dengan Anthropic; kondisi saat ini menjadi awal yang sangat kurang tepat untuk memulai fase kolaborasi berikutnya antara pemerintah dan laboratorium AI.

Mengapa Anda bisa mencapai kesepakatan sementara Anthropic tidak bisa? Apakah Anda menandatangani kesepakatan yang tidak mereka inginkan?

Berdasarkan apa yang kami ketahui, kami percaya kontrak kami memberikan jaminan yang lebih baik dan perlindungan yang lebih bertanggung jawab daripada perjanjian sebelumnya, termasuk kontrak asli Anthropic. Kami menilai batasan kami lebih dapat ditegakkan di sini karena penerapan dibatasi hanya di cloud (bukan di edge), menjaga lapisan pengamanan kami tetap bekerja dengan cara yang kami anggap paling baik, dan memastikan personel OpenAI yang telah mendapatkan izin turut terlibat.

Kami tidak tahu mengapa Anthropic tidak dapat mencapai kesepakatan ini, dan kami berharap mereka dan lebih banyak lab akan mempertimbangkannya.

Apakah menurut Anda Anthropic seharusnya dikategorikan sebagai “risiko rantai pasokan”?

Tidak, dan kami telah menjelaskan dengan jelas posisi kami mengenai hal ini kepada pemerintah.

Apakah kesepakatan ini akan memungkinkan Departemen Perang AS menggunakan model OpenAI untuk menggerakkan senjata otonom? 

Tidak. Berdasarkan lapisan pengamanan kami, penerapan khusus cloud kami, ketentuan kontrak, serta hukum, peraturan, dan kebijakan yang berlaku, kami yakin bahwa hal tersebut tidak akan terjadi. Kami juga akan melibatkan personel OpenAI sebagai jaminan tambahan.  

Apakah kesepakatan ini akan memungkinkan Departemen Perang menggunakan model OpenAI untuk melakukan pengawasan massal terhadap warga AS?

Tidak. Berdasarkan lapisan pengamanan kami, ketentuan kontrak, dan undang-undang yang ada yang sangat membatasi Departemen Perang AS dari pengawasan domestik, kami yakin bahwa hal tersebut tidak akan terjadi. Kami juga akan melibatkan personel OpenAI sebagai jaminan tambahan.  

Apakah Anda harus menerapkan model tanpa lapisan pengamanan?

Tidak, kami memiliki kendali penuh atas lapisan pengamanan yang kami terapkan dan tidak akan menerapkannya tanpa mekanisme keamanan. Selain itu, peneliti keamanan dan penyelarasan kami akan dilibatkan dan membantu meningkatkan sistem dari waktu ke waktu. Kami mengetahui bahwa laboratorium AI lain telah mengurangi mekanisme keamanan model dan mengandalkan kebijakan penggunaan sebagai perlindungan utama, tetapi kami menilai pendekatan berlapis kami lebih baik dalam melindungi dari penggunaan yang tidak dapat diterima.

Apa yang terjadi jika pemerintah melanggar ketentuan kontrak?

Seperti halnya kontrak apa pun, kami dapat mengakhiri kontrak tersebut jika pihak lawan melanggar ketentuan yang telah disepakati. Kami tidak mengharapkan hal itu terjadi.

Bagaimana jika pemerintah mengubah undang-undang atau kebijakan Departemen Perang yang sudah ada?

Kontrak kami secara eksplisit merujuk pada undang-undang dan kebijakan terkait pengawasan dan senjata otonom sebagaimana adanya saat ini, sehingga meskipun undang-undang atau kebijakan tersebut berubah di masa mendatang, penggunaan sistem kami harus tetap selaras dengan standar saat ini yang tercermin dalam perjanjian. 

Bagaimana Anda menanggapi argumen yang disampaikan Anthropic dalam postingan blog mereka⁠(terbuka di jendela baru) tentang diskusi mereka dengan Departemen Perang?

Dalam postingan mereka, Anthropic menyatakan dua batasan mereka (kami memiliki dua batasan yang sama, ditambah yang ketiga: pengambilan keputusan otomatis berisiko tinggi), dan alasan mereka tidak percaya bahwa batasan ini akan ditegakkan dalam kontrak yang telah mereka lihat dari Departemen Perang pada saat itu. Berikut alasan kami yakin bahwa batasan yang sama akan ditegakkan dalam kontrak kami:

• Pengawasan domestik massal. Dalam interaksi kami, jelas bahwa Departemen Perang menganggap pengawasan domestik massal sebagai tindakan ilegal dan tidak berencana menggunakannya untuk tujuan ini. Kami memastikan bahwa fakta bahwa hal tersebut tidak tercakup dalam penggunaan yang sah dijelaskan secara eksplisit dalam kontrak kami.
• Senjata otonom yang sepenuhnya. Lingkup penerapan cloud yang tercakup dalam kontrak kami tidak memungkinkan penggunaan untuk menggerakkan senjata otonom sepenuhnya, karena hal itu memerlukan penerapan di edge. 

Selain perlindungan ini, kontrak kami menawarkan perlindungan berlapis tambahan termasuk lapisan pengamanan kami dan pakar teknis OpenAI yang turut terlibat.