Membantu membina standard bersama untuk AI lanjutan
Model yang semakin berkeupayaan boleh mengukuhkan pertahanan siber, mempercepat penemuan saintifik dan memperluas akses kepada kepakaran. Namun model ini juga boleh mewujudkan risiko keselamatan dan sekuriti jika keupayaannya disalahfahami, perlindungannya tidak mencukupi atau kerajaan tidak mempunyai maklumat yang diperlukan untuk bertindak balas. Untuk merealisasikan manfaatnya dengan selamat dan yakin, masyarakat memerlukan institusi yang mempunyai keupayaan teknikal dan tadbir urus untuk menilai, melindungi dan mentadbir sistem yang semakin berkeupayaan.
Itulah salah satu sebab OpenAI membantu mengasaskan Yayasan Appia(dibuka dalam tetingkap baru), yang dihoskan oleh Yayasan Linux. Appia akan membangunkan spesifikasi terbuka dan modular yang bertujuan menterjemahkan standard antarabangsa serta rangka kerja mantap kepada kriteria penilaian praktikal merentas rantaian nilai AI. Kerjanya dapat membantu membangunkan lapisan kepercayaan kritikal yang selama ini tiada, yang membolehkan pihak ketiga menyemak pematuhan kepada standard dan menghasilkan bukti yang lebih jelas serta lebih mudah diguna semula apabila model, infrastruktur dan aplikasi dibangunkan oleh organisasi yang berbeza. Melalui kerja ini, Appia akan membantu mewujudkan bahasa teknikal bersama yang membolehkan institusi nasional dan antarabangsa mempercayai kerja antara satu sama lain.
Kami melihat usaha ini sebagai langkah seterusnya yang penting dalam rangka kerja yang lebih luas untuk mengukuhkan institusi, standard dan amalan penilaian yang diperlukan bagi sistem AI canggih.
Rangka tindakan kami baru-baru ini untuk tadbir urus demokratik AI perbatasan menawarkan peta jalan bagi kerja tersebut. Rangka tindakan itu menyeru diwujudkan rangka kerja AS yang tahan lama, Pusat Standard dan Inovasi AI (CAISI) yang diperkukuh serta strategi ketahanan yang lebih luas di seluruh kerajaan. Rangka itu juga mengiktiraf bahawa risiko perbatasan bersifat antarabangsa dari segi skop. Negara-negara harus bekerjasama untuk membangunkan rangka kerja keselamatan yang serasi, saluran yang dipercayai untuk berkongsi dapatan risiko dan tindak balas yang diselaraskan terhadap insiden.
Keupayaan nasional dan kerjasama antarabangsa harus saling mengukuhkan. Institusi kukuh seperti CAISI boleh membangunkan kepakaran teknikal, menilai sistem perbatasan dan menyokong ekosistem penilaian bebas. Rangkaian institusi nasional yang berkeupayaan kemudian boleh menetapkan kaedah bersama, mengiktiraf bukti yang dipercayai dan memberikan kerajaan pemahaman teknikal bersama yang diperlukan untuk bertindak secara bersama.
Standard yang merupakan pusat usaha itu dan standard tersebut mesti berasaskan amalan penilaian yang berwibawa serta ketelitian teknikal. Dalam buku panduan bersama kami untuk penilaian pihak ketiga yang boleh dipercayai, kami menggariskan perkara yang semakin perlu didedahkan dalam penilaian perbatasan: sistem yang diuji, akses alat dan harnes penilaiannya, kaedah yang digunakan untuk memunculkan keupayaan, sumber yang tersedia serta semakan yang dilakukan untuk mengesahkan keputusan. Kami juga telah mengamalkan prinsip-prinsip ini melalui perkongsian ujian dengan US CAISI dan UK AISI, yang kerjanya mengenai penilaian keupayaan perbatasan dan perlindungan terhadap penyalahgunaan biologi membawa kepada penambahbaikan kukuh dalam sistem kami. Kerja ini penting kerana membina asas bagi amalan yang boleh distandardkan untuk menyemak prestasi dengan cara yang setanding.
Amalan ini melengkapi infrastruktur keselamatan OpenAI yang lebih luas. Rangka Kerja Kesediaan kami menjadi asas kepada cara kami mentakrif dan melaksanakan pendekatan untuk mengurus risiko paling serius daripada sistem AI lanjutan, termasuk amalan dalaman kami. Rangka Kerja Tadbir Urus Perbatasan kami menerapkan bahagian yang berkaitan daripada pendekatan itu dalam dokumen tadbir urus awam yang tertumpu pada kewajipan kawal selia tertentu, termasuk penilaian risiko, pelaporan model, kawalan keselamatan, tindak balas insiden dan penyertaan input pakar luar. Bersama-sama, artifak ini membantu menterjemahkan komitmen yang luas kepada amalan operasi yang boleh disahkan dan ditambah baik.
Kerja Appia disasarkan kepada cabaran seterusnya: menjadikan amalan tersebut saling boleh kendali merentas organisasi, bidang kuasa dan rantaian bekalan.
OpenAI sudah pun menyumbang merentas ekosistem standard dan usaha prapenstandardan yang lebih luas. Kami menyertai Jawatankuasa Teknikal Bersama 1 Pertubuhan Antarabangsa untuk Penstandardan dan Suruhanjaya Elektroteknikal Antarabangsa, Subjawatankuasa 42 tentang Kecerdasan Buatan(dibuka dalam tetingkap baru) dan Konsortium Kecerdasan Buatan yang diterajui Institut Piawaian dan Teknologi Kebangsaan(dibuka dalam tetingkap baru); membantu mengasaskan Forum Model Perbatasan dan Yayasan Kecerdasan Buatan Agentic(dibuka dalam tetingkap baru) Yayasan Linux; menyertai Gabungan untuk Kecerdasan Buatan Selamat(dibuka dalam tetingkap baru); menganggotai jawatankuasa pemandu Gabungan bagi Asal-usul dan Ketulenan Kandungan(dibuka dalam tetingkap baru); serta terlibat dalam proses Pasukan Petugas Kejuruteraan Internet(dibuka dalam tetingkap baru) dan Perikatan Identiti Pantas Dalam Talian(dibuka dalam tetingkap baru) untuk memajukan standard teknikal yang saling boleh kendali.
Di seluruh forum ini, termasuk kini melalui Appia, matlamat kami adalah untuk menterjemahkan pengajaran daripada pembangunan perbatasan kepada amalan terbuka yang kukuh dari segi teknikal dan boleh digunakan oleh kerajaan, syarikat dab penilai bebas merentas bidang kuasa.
