Membantu membangun standar bersama untuk AI canggih
Model yang kian mampu dapat memperkuat pertahanan siber, mempercepat penemuan ilmiah, dan memperluas akses ke keahlian. Namun model-model itu juga dapat menimbulkan risiko keselamatan dan keamanan jika kemampuannya disalahpahami, pengamannya tidak memadai, atau pemerintah tidak memiliki informasi yang dibutuhkan untuk merespons. Agar manfaatnya dapat diwujudkan dengan aman dan penuh keyakinan, masyarakat membutuhkan lembaga dengan kapasitas teknis dan tata kelola untuk mengevaluasi, mengamankan, dan mengatur sistem yang kian mampu.
Itulah salah satu alasan OpenAI turut mendirikan Appia Foundation(terbuka di jendela baru), yang dinaungi Linux Foundation. Appia akan mengembangkan spesifikasi terbuka dan modular yang dirancang untuk menerjemahkan standar internasional dan kerangka kerja yang mapan menjadi kriteria penilaian praktis di seluruh rantai nilai AI. Pekerjaan ini dapat membantu membangun lapisan kepercayaan penting yang masih kurang, yang memungkinkan pihak ketiga memeriksa kesesuaian dengan standar dan menghasilkan bukti yang lebih jelas serta lebih mudah digunakan kembali ketika model, infrastruktur, dan aplikasi dikembangkan oleh organisasi yang berbeda. Dalam menjalankan pekerjaan ini, Appia akan membantu menciptakan bahasa teknis bersama yang memungkinkan lembaga nasional dan internasional saling memercayai hasil kerja masing-masing.
Kami melihat upaya ini sebagai langkah penting berikutnya dalam rangkaian kerja yang lebih luas untuk memperkuat lembaga, standar, dan praktik penilaian yang dibutuhkan bagi sistem AI canggih.
Cetak biru terbaru kami untuk tata kelola demokratis model AI terdepan menawarkan peta jalan bagi pekerjaan tersebut. Dokumen itu menyerukan kerangka kerja AS yang berkelanjutan, Center for AI Standards and Innovation (CAISI) yang diperkuat, serta strategi ketahanan yang lebih luas di seluruh pemerintahan. Dokumen itu juga mengakui bahwa risiko model AI terdepan berskala internasional. Negara-negara perlu bekerja sama untuk mengembangkan kerangka keselamatan yang kompatibel, saluran tepercaya untuk berbagi temuan risiko, dan respons terkoordinasi terhadap insiden.o
Kapasitas nasional dan kerja sama internasional harus saling memperkuat. Lembaga yang kuat seperti CAISI dapat mengembangkan keahlian teknis, mengevaluasi sistem model AI terdepan, dan mendukung ekosistem penilaian independen. Jaringan lembaga nasional yang kompeten kemudian dapat menetapkan metode bersama, mengakui bukti tepercaya, dan memberi pemerintah pemahaman teknis bersama yang dibutuhkan untuk bertindak bersama.
Standar adalah inti dari upaya itu, dan harus berlandaskan praktik evaluasi yang kredibel serta ketelitian teknis. Dalam panduan bersama kami untuk evaluasi pihak ketiga yang tepercaya, kami menguraikan hal-hal yang semakin perlu diungkapkan dalam penilaian frontier: sistem yang diuji, akses alat dan harness evaluasinya, metode yang digunakan untuk memunculkan kemampuan, sumber daya yang tersedia, serta pemeriksaan yang dilakukan untuk memvalidasi hasil. Kami juga telah menerapkan prinsip-prinsip ini melalui kemitraan pengujian dengan CAISI AS dan AISI Inggris, di mana pekerjaan mereka pada penilaian kemampuan model AI terdepan dan pengaman terhadap penyalahgunaan biologis menghasilkan perbaikan nyata pada sistem kami. Pekerjaan ini menjalankan fungsi penting: membangun fondasi bagi praktik yang dapat distandardisasi untuk memeriksa kinerja dengan cara yang dapat dibandingkan.
Praktik-praktik ini melengkapi infrastruktur keselamatan OpenAI yang lebih luas. Kerangka Kerja Kesiapan kami menjadi landasan cara kami mendefinisikan dan mengoperasionalkan pendekatan kami untuk mengelola risiko paling serius dari sistem AI canggih, termasuk praktik internal kami. Kerangka Tata Kelola Model AI Terdepan kami menerapkan bagian-bagian relevan dari pendekatan itu ke dalam dokumen tata kelola publik yang berfokus pada kewajiban regulasi tertentu, termasuk penilaian risiko, pelaporan model, kontrol keamanan, respons insiden, dan pelibatan masukan dari pakar eksternal. Bersama-sama, dokumen-dokumen ini membantu menerjemahkan komitmen luas menjadi praktik operasional yang dapat divalidasi dan ditingkatkan.
Pekerjaan Appia ditujukan untuk menjawab tantangan berikutnya: membuat praktik-praktik tersebut dapat saling beroperasi lintas organisasi, yurisdiksi, dan rantai pasok.
OpenAI sudah berkontribusi dalam ekosistem standar dan upaya prastandardisasi yang lebih luas. Kami berpartisipasi dalam Komite Teknis Bersama 1 International Organization for Standardization and International Electrotechnical Commission, Subkomite 42 tentang Kecerdasan Buatan(terbuka di jendela baru) dan Konsorsium Kecerdasan Buatan yang dipimpin National Institute of Standards and Technology(terbuka di jendela baru); turut mendirikan Frontier Model Forum dan Agentic Artificial Intelligence Foundation(terbuka di jendela baru) dari Linux Foundation; berpartisipasi dalam Coalition for Secure Artificial Intelligence(terbuka di jendela baru); menjadi anggota komite pengarah Coalition for Content Provenance and Authenticity(terbuka di jendela baru); serta terlibat dalam proses Internet Engineering Task Force(terbuka di jendela baru) dan Fast Identity Online Alliance(terbuka di jendela baru) untuk memajukan standar teknis yang dapat saling beroperasi.
Di berbagai forum ini, termasuk kini melalui Appia, tujuan kami adalah menerjemahkan pelajaran dari pengembangan frontier menjadi praktik terbuka yang berlandaskan teknis, yang dapat digunakan pemerintah, perusahaan, dan penilai independen lintas yurisdiksi.
