Memperkukuh pengawasan demokratik dalam keselamatan negara

AI sedang mengubah cara kerajaan demokratik melindungi rakyat. AI boleh membantu menghentikan serangan siber, melindungi infrastruktur kritikal, mengesan ancaman lebih awal dan memberikan gambaran yang lebih jelas kepada penjawat awam ketika menghadapi krisis. Jika digunakan dengan baik, alat ini boleh memperkukuh keselamatan negara.

Pengawasan demokratik membantu memastikan penggunaan kuasa awam kekal dipertanggungjawabkan kepada rakyat yang dilayaninya. Apabila AI menjadikan urusan keselamatan negara lebih pantas dan berkeupayaan tinggi, institusi yang bertanggungjawab mengawasinya juga perlu bergerak seiring. AI boleh bertindak dengan pantas dan pada skala besar berdasarkan konteks yang tidak lengkap atau lapuk, objektif yang tersalah konfigurasi atau andaian yang tidak selaras, sekali gus menyukarkan kesilapan dikesan secara manual sebelum merebak. Pengawasan amat penting apabila AI digunakan untuk keselamatan negara kerana keputusan yang dibuat mungkin perlu dirahsiakan dan boleh membawa akibat yang sangat besar.

Berpandukan Prinsip Keselamatan Negara kami, kami melaksanakan penggunaan AI untuk keselamatan negara dengan perlindungan, pertimbangan manusia yang bermakna dan pengawasan yang sewajarnya, khususnya dalam situasi berisiko tinggi. Prinsip tersebut turut mengutamakan usaha membantu institusi pengawasan membina keupayaan untuk mengawasi penggunaan AI dengan pantas dan pada skala besar.

Institusi kerajaan sudah mempunyai kuasa dan tanggungjawab yang ditetapkan untuk mengawasi kegiatan keselamatan negara. Apabila AI menyumbang kepada kegiatan tersebut, pengawasan mungkin perlu berkembang. Pengawasan tradisional memerlukan banyak tenaga kerja dan menjadi hampir mustahil apabila pasukan kecil yang menggunakan kaedah era kertas perlu menyemak sistem yang beroperasi sepantas mesin.

OpenAI percaya bahawa sistem yang lebih berkeupayaan memerlukan pengawasan yang lebih kukuh, dan kami turut menerapkan prinsip itu pada diri kami sendiri. Di bawah Rangka Kerja Kesediaan kami, model lanjutan menjalani semakan rapi sebelum digunakan bagi memahami keupayaannya dan menentukan sama ada perlindungan yang ada mencukupi. Penelitian itu diteruskan selepas penggunaan melalui pemantauan berterusan dan semakan insiden, manakala pengetahuan yang diperoleh digunakan untuk memperkukuh perlindungan dan memaklumkan pembangunan model pada masa hadapan.

OpenAI tidak menjalankan peranan pengawasan terhadap kerajaan dan sememangnya tidak sepatutnya berbuat demikian. Tanggungjawab itu terletak pada pegawai yang dipilih dan institusi awam yang ditubuhkan untuk tujuan tersebut. Sebaliknya, kami boleh menyokong institusi pengawasan dengan teknologi kami ketika mereka melaksanakan mandat sedia ada.

Tiga prinsip akan memandu usaha ini.

Pertama, AI seharusnya memperkukuh, bukannya menggantikan, pertimbangan manusia dan institusi. Keputusan sama ada tindakan kerajaan sah di sisi undang-undang, wajar dan selaras dengan peraturan serta dasar yang berkenaan ialah tanggungjawab agensi yang diberi kuasa dan badan pengawasan yang ditubuhkan secara sah.

Kedua, penggunaan AI oleh kerajaan harus dapat dijejaki dan difahami oleh pihak pengawasan yang diberi kuasa. Penyemak harus dapat memahami cara AI menyumbang kepada sesuatu keputusan sambil melindungi maklumat sulit, peribadi dan sensitif dari segi keselamatan.

Ketiga, AI harus digunakan untuk memperkasakan institusi pengawasan demokratik. Pengawasan manual terhadap penggunaan AI dalam kerajaan tidak dapat dilaksanakan pada skala besar. Apabila AI digunakan dalam keselamatan negara dan urusan kerajaan berisiko tinggi yang lain, badan pengawasan juga harus menggunakannya secara bertanggungjawab, mudah difahami dan selaras dengan mandat.

Sepanjang tahun akan datang, kami merancang untuk memajukan inisiatif ini melalui langkah berikut:

• Kami akan bekerjasama dengan pegawai yang diberi kuasa untuk mengenal pasti peluang praktikal bagi memanfaatkan alat AI atau sokongan teknikal agar pengawasan menjadi lebih berkesan.

• Kami akan menyediakan latihan, sokongan teknikal dan kredit OpenAI bernilai AS$5 juta kepada badan pengawasan kerajaan demokratik bagi menyokong penggunaan serta penilaian alat AI secara bertanggungjawab.

• Kami akan bekerjasama dengan institusi pengawasan untuk merintis alat yang membantu penyemak berkuasa meneliti rekod berkaitan keputusan kerajaan yang dibantu AI, termasuk input, output dan penggunaan alat yang berkenaan, agar mereka lebih memahami pengaruh AI terhadap hasil keputusan. Jika boleh dilaksanakan, alat akan saling beroperasi atau tidak bergantung pada model tertentu. Institusi yang mengambil bahagian, bukannya OpenAI, akan mengekalkan kawalan terhadap bukti, output dan dapatan, yang hanya boleh diakses oleh pegawai kerajaan yang diberi kuasa.

• Kami akan melibatkan masyarakat sivil dan pakar teknikal supaya pandangan mereka memaklumkan cara OpenAI membangunkan alat ini dan menangani tanggungjawab yang menyertainya.

AI boleh memusatkan kuasa atau membantu institusi demokratik melaksanakan dan mengawal kuasa dengan lebih berkesan. Teknologi semata-mata tidak akan menentukan masa depan yang bakal kita lalui, tetapi pilihan yang dibuat oleh institusi manusia dan syarikat sekarang akan menentukannya.

Kami akan menilai kemajuan inisiatif ini berdasarkan sejauh mana penyemak yang diberi kuasa dapat menunaikan tanggungjawab mereka dengan lebih baik dan sama ada orang ramai mempunyai alasan yang lebih kukuh untuk mempercayai bahawa sistem AI kerajaan digunakan seperti yang dimaksudkan.

Seiring dengan perkembangan penggunaan AI oleh kerajaan, OpenAI akan terus menyokong institusi yang bertanggungjawab mengawasinya.