Memperkuat pengawasan demokratis dalam keamanan nasional

AI mengubah cara pemerintahan demokratis melindungi rakyatnya. AI dapat membantu menghentikan serangan siber, mengamankan infrastruktur penting, mendeteksi ancaman lebih dini, dan memberi aparatur pemerintah gambaran yang lebih jelas dalam situasi krisis. Jika digunakan dengan baik, alat-alat ini dapat memperkuat keamanan nasional.

Pengawasan demokratis membantu memastikan bahwa penggunaan kewenangan publik tetap dapat dipertanggungjawabkan kepada rakyat yang dilayani. Seiring AI membuat pekerjaan keamanan nasional menjadi lebih cepat dan mumpuni, lembaga yang bertanggung jawab mengawasi pekerjaan tersebut juga perlu mengimbanginya. AI dapat bertindak dengan cepat dan dalam skala besar berdasarkan konteks yang tidak lengkap atau usang, sasaran yang salah dikonfigurasi, atau asumsi yang tidak selaras, sehingga kesalahan lebih sulit dideteksi secara manual sebelum meluas. Pengawasan sangat penting dalam penggunaan AI untuk keamanan nasional karena keputusan mungkin perlu melibatkan kerahasiaan dan dapat menimbulkan konsekuensi besar.

Dengan berpedoman pada Prinsip Keamanan Nasional kami, kami menerapkan pengamanan, pertimbangan manusia yang bermakna, dan pengawasan yang tepat dalam penerapan untuk keamanan nasional, terutama dalam situasi berdampak besar. Prinsip-prinsip tersebut juga memprioritaskan bantuan kepada lembaga pengawas untuk membangun kapasitas dalam mengawasi penggunaan AI dengan cepat dan dalam skala besar.

Lembaga pemerintah telah memiliki kewenangan dan tanggung jawab yang ditetapkan untuk mengawasi kegiatan keamanan nasional. Ketika AI berperan dalam kegiatan tersebut, pengawasan mungkin perlu berkembang. Pengawasan tradisional membutuhkan banyak tenaga dan menjadi hampir mustahil ketika tim kecil yang menggunakan metode era dokumen kertas diminta meninjau sistem yang beroperasi secepat mesin.

OpenAI meyakini bahwa sistem yang lebih mumpuni memerlukan pengawasan yang lebih kuat, dan kami menerapkan prinsip tersebut pada diri kami sendiri. Berdasarkan Kerangka Kerja Kesiapan kami, model canggih menjalani peninjauan ketat sebelum diterapkan untuk memahami kemampuannya dan menentukan apakah pengamanan yang tersedia sudah memadai. Pemeriksaan tersebut berlanjut setelah penerapan melalui pemantauan berkelanjutan dan peninjauan insiden. Hal-hal yang kami pelajari digunakan untuk memperkuat pengamanan dan mengembangkan model pada masa mendatang.

OpenAI tidak menjalankan peran pengawasan terhadap pemerintah, dan memang tidak seharusnya demikian. Tanggung jawab tersebut berada di tangan pejabat terpilih dan lembaga publik yang dibentuk untuk tujuan itu. Sebaliknya, kami dapat mendukung lembaga pengawas dengan teknologi kami saat mereka menjalankan mandat yang sudah ada.

Tiga prinsip akan memandu upaya ini.

Pertama, AI harus memperkuat, bukan menggantikan, pertimbangan manusia dan lembaga. Keputusan tentang apakah tindakan pemerintah sah, tepat, serta sesuai dengan aturan dan kebijakan yang berlaku merupakan kewenangan instansi yang berwenang dan badan pengawas yang dibentuk secara sah.

Kedua, penggunaan AI oleh pemerintah harus dapat dilacak dan dipahami oleh pihak pengawas yang berwenang. Peninjau harus dapat memahami kontribusi AI terhadap suatu keputusan sekaligus melindungi informasi rahasia, pribadi, dan sensitif dari sisi keamanan.

Ketiga, AI harus digunakan untuk memberdayakan lembaga pengawasan demokratis. Pengawasan manual atas penggunaan AI di pemerintahan tidak dapat diterapkan dalam skala besar. Seiring diadopsinya AI dalam keamanan nasional dan pekerjaan pemerintah lain yang berdampak besar, badan pengawas juga harus menggunakannya secara bertanggung jawab, mudah dipahami, dan sesuai mandat.

Dalam satu tahun ke depan, kami berencana memajukan inisiatif ini melalui langkah-langkah berikut:

• Kami akan bekerja sama dengan pejabat yang berwenang untuk mengidentifikasi peluang praktis agar alat AI atau dukungan teknis dapat meningkatkan efektivitas pengawasan.

• Kami akan menyediakan pelatihan, dukungan teknis, dan kredit OpenAI senilai US$5 juta kepada badan pengawas pemerintahan demokratis guna mendukung adopsi dan evaluasi alat AI secara bertanggung jawab.

• Kami akan bekerja sama dengan lembaga pengawas untuk menguji coba alat yang membantu peninjau berwenang memeriksa catatan terkait keputusan pemerintah yang didukung AI, termasuk masukan, keluaran, dan penggunaan alat yang relevan, agar mereka lebih memahami pengaruh AI terhadap hasil keputusan. Jika memungkinkan, alat-alat tersebut akan bersifat interoperabel atau tidak bergantung pada model tertentu. Lembaga peserta, bukan OpenAI, akan tetap memegang kendali atas bukti, keluaran, dan temuan, yang hanya akan tersedia bagi pejabat pemerintah yang berwenang.

• Kami akan melibatkan masyarakat sipil dan pakar teknis agar perspektif mereka menjadi pertimbangan dalam pengembangan alat-alat ini oleh OpenAI dan dalam pelaksanaan tanggung jawab yang menyertainya.

AI dapat memusatkan kekuasaan, atau membantu lembaga demokratis menjalankan dan mengawasi kekuasaan secara lebih efektif. Teknologi saja tidak akan menentukan masa depan mana yang akan terwujud, tetapi pilihan yang dibuat lembaga dan perusahaan saat ini akan menentukannya.

Kami akan menilai kemajuan inisiatif ini berdasarkan apakah peninjau yang berwenang menjadi lebih mampu memenuhi kewajibannya dan apakah publik memiliki alasan yang lebih kuat untuk memercayai bahwa sistem AI pemerintah digunakan sebagaimana mestinya.

Seiring berkembangnya penggunaan AI oleh pemerintah, OpenAI akan terus mendukung lembaga yang bertanggung jawab mengawasinya.