Membantu membina standard bersama untuk AI lanjutan

Model yang semakin berkeupayaan boleh memperkukuh pertahanan siber, mempercepat penemuan saintifik dan meluaskan akses kepada kepakaran. Namun, model itu juga boleh menimbulkan risiko keselamatan dan sekuriti jika keupayaannya disalahfahami, langkah perlindungannya tidak mencukupi atau kerajaan kekurangan maklumat yang diperlukan untuk bertindak balas. Untuk merealisasikan manfaatnya dengan selamat dan yakin, masyarakat memerlukan institusi yang mempunyai keupayaan teknikal dan tadbir urus untuk menilai, melindungi dan mentadbir sistem yang semakin berkeupayaan.

Itulah salah satu sebab OpenAI membantu menubuhkan Yayasan Appia⁠(dibuka dalam tetingkap baru), yang dihoskan oleh Yayasan Linux. Appia akan membangunkan spesifikasi terbuka dan modular yang bertujuan menterjemahkan piawaian antarabangsa serta rangka kerja yang mantap kepada kriteria penilaian praktikal merentas rantaian nilai AI. Kerjanya boleh membantu membangunkan satu lapisan kepercayaan penting yang kurang selama ini, yang membolehkan pihak ketiga menyemak pematuhan terhadap standard, lalu menghasilkan bukti yang lebih jelas dan lebih mudah digunakan semula apabila model, infrastruktur dan aplikasi dibangunkan oleh organisasi yang berbeza. Melalui kerja ini, Appia akan membantu mewujudkan bahasa teknikal bersama yang membolehkan institusi nasional dan antarabangsa saling mempercayai kerja masing-masing.

Kami melihat usaha ini sebagai langkah seterusnya yang penting dalam rangka kerja yang lebih luas untuk memperkukuh institusi, standard dan amalan penilaian yang diperlukan bagi sistem AI lanjutan.

Rangka tindakan kami yang terkini untuk tadbir urus demokratik AI perbatasan menawarkan hala tuju bagi kerja tersebut. Ia menyeru pembentukan rangka kerja A.S. yang tahan lama, pengukuhan Center for AI Standards and Innovation (CAISI), serta strategi daya tahan yang lebih luas di seluruh kerajaan. Ia juga mengakui bahawa risiko perbatasan bersifat antarabangsa dari segi skopnya. Negara-negara harus bekerjasama untuk membangunkan rangka kerja keselamatan yang serasi, saluran dipercayai untuk berkongsi dapatan risiko dan tindak balas yang selaras terhadap insiden.

Keupayaan negara dan kerjasama antarabangsa harus saling mengukuhkan. Institusi kukuh seperti CAISI boleh membangunkan kepakaran teknikal, menilai sistem perbatasan dan menyokong ekosistem penilaian bebas. Rangkaian institusi nasional yang berkeupayaan kemudian boleh menetapkan kaedah bersama, mengiktiraf bukti yang dipercayai dan memberikan pemahaman teknikal yang sama kepada kerajaan untuk bertindak bersama.

Standard merupakan teras kepada usaha itu dan standard tersebut mesti berasaskan amalan penilaian yang berwibawa serta ketelitian teknikal. Dalam buku panduan bersama kami untuk penilaian pihak ketiga yang boleh dipercayai, kami menghuraikan perkara yang semakin perlu didedahkan dalam penilaian perbatasan: sistem yang diuji, akses alat dan harnes penilaiannya, kaedah yang digunakan untuk mendedahkan keupayaan, sumber yang tersedia serta semakan yang dijalankan untuk mengesahkan keputusan. Kami juga telah mengamalkan prinsip-prinsip ini melalui perkongsian pengujian dengan US CAISI dan UK AISI, yang kerja mereka dalam penilaian keupayaan perbatasan dan langkah perlindungan terhadap penyalahgunaan biologi telah membawa kepada penambahbaikan nyata dalam sistem kami. Kerja ini memainkan peranan penting dalam membina asas bagi amalan yang boleh distandardkan untuk menyemak prestasi secara sebanding.

Amalan ini melengkapi infrastruktur keselamatan OpenAI yang lebih luas. Rangka Kerja Kesediaan kami menjadi asas kepada cara kami mentakrifkan dan melaksanakan pendekatan untuk mengurus risiko paling serius daripada sistem AI lanjutan, termasuk amalan dalaman kami. Rangka Kerja Tadbir Urus Perbatasan kami menerapkan bahagian berkaitan daripada pendekatan itu ke dalam dokumen tadbir urus awam yang tertumpu pada kewajipan kawal selia tertentu, termasuk penilaian risiko, pelaporan model, kawalan keselamatan, tindak balas insiden dan penyertaan input pakar luar. Secara bersama, bahan-bahan ini membantu menterjemahkan komitmen yang luas kepada amalan operasi yang boleh disahkan dan ditambah baik.

Kerja Appia disasarkan kepada cabaran seterusnya: menjadikan amalan itu boleh saling beroperasi merentas organisasi, bidang kuasa dan rantaian bekalan.

OpenAI sudah pun menyumbang dalam ekosistem standard dan usaha prastandard yang lebih luas. Kami menyertai Jawatankuasa Teknikal Bersama 1 Pertubuhan Antarabangsa untuk Standard dan Suruhanjaya Elektroteknikal Antarabangsa, Subjawatankuasa 42 mengenai Kecerdasan Buatan⁠(dibuka dalam tetingkap baru) serta Konsortium Kecerdasan Buatan yang diterajui Institut Piawaian dan Teknologi Kebangsaan⁠(dibuka dalam tetingkap baru); membantu menubuhkan Forum Model Perbatasan dan Yayasan Kecerdasan Buatan Agentic⁠(dibuka dalam tetingkap baru)Yayasan Linux; menyertai Gabungan untuk Kecerdasan Buatan Selamat⁠(dibuka dalam tetingkap baru); menganggotai jawatankuasa pemandu Gabungan untuk Asal Usul dan Ketulenan Kandungan⁠(dibuka dalam tetingkap baru); serta terlibat dalam proses Pasukan Petugas Kejuruteraan Internet⁠(dibuka dalam tetingkap baru) dan Perikatan Fast Identity Dalam Talian⁠(dibuka dalam tetingkap baru) bagi memajukan piawaian teknikal yang boleh saling beroperasi.

Di semua forum ini, termasuk kini melalui Appia, matlamat kami adalah menterjemahkan pengajaran daripada pembangunan di sempadan keupayaan kepada amalan terbuka yang kukuh dari segi teknikal dan boleh digunakan oleh kerajaan, syarikat serta penilai bebas merentas bidang kuasa.