Membangun standar untuk fase AI berikutnya
Misi kami adalah memastikan kecerdasan umum buatan memberi manfaat bagi seluruh umat manusia. Seperti yang baru-baru ini diuraikan oleh Sam Altman dan Jakub Pachocki, kami memprioritaskan pekerjaan untuk mencapai misi ini melalui tiga tujuan utama:
Mengarungi periode kemajuan AI berikutnya dengan membangun peneliti AI otomatis, bekerja bersamanya secara berulang untuk mengatasi masalah penyelarasan, dan mencari cara agar manusia tetap menjadi bagian dari siklus penyempurnaan mandiri.
Menghadirkan manfaat kemajuan ilmiah dan pertumbuhan ekonomi yang dimungkinkan oleh mesin yang sangat cerdas.
Memberdayakan setiap orang dengan AGI pribadi.
AI mempercepat riset dan rekayasa kami sendiri, dan riset berbantuan AI telah menghasilkan kemajuan dalam matematika, termasuk pada Masalah Milenium Navier–Stokes. Kemajuan ini sangat menjanjikan bagi dua tujuan kami lainnya, yang dapat menghasilkan penemuan penting dalam bidang kedokteran, layanan kesehatan yang dapat diakses secara luas, serta pemberdayaan ekonomi bagi usaha kecil dan wirausahawan perorangan di seluruh dunia.
AI berkembang di banyak perusahaan dan negara, dan kemajuan di seluruh bidang ini mengubah peluang serta tantangan yang dihadapi semua orang. Selain berbagai manfaat lainnya, AI yang mumpuni dan selaras akan berperan penting dalam membantu kita mengarungi transisi ini—dengan memperkuat pertahanan, memajukan riset penyelarasan, serta membantu manusia memahami dan mengarahkan tahap-tahap pengembangan AI berikutnya.
Agar transisi ini berlangsung dengan aman, riset penyelarasan harus mengimbangi laju perkembangan kemampuan tersebut sehingga sistem yang kami dan pihak lain bangun tetap selaras dengan nilai-nilai kemanusiaan dan berada di bawah kendali manusia. Hal ini makin penting seiring sistem AI menjadi semakin mumpuni dan otonom, termasuk ketika sistem tersebut mengambil alih lebih banyak pekerjaan riset dan pengembangan AI itu sendiri. Agar kemajuan AI yang berkelanjutan tetap aman dan bermanfaat, diperlukan kemajuan dalam riset penyelarasan sekaligus standar bersama untuk memandu pengembangan di berbagai laboratorium dan negara.
Riset AI otomatis dapat melibatkan berbagai tingkat pengawasan manusia. Seiring sistem AI mengambil alih lebih banyak pekerjaan untuk mengembangkan generasi AI berikutnya, sistem tersebut dapat semakin mendorong proses penyempurnaan mandiri rekursif (RSI), meskipun manusia tetap terlibat. Seiring proses ini makin terotomatisasi, laju kemajuan AI dapat meningkat pesat.
Kami percaya riset AI otomatis akan menghasilkan model yang secara langsung meningkatkan kehidupan manusia. Riset ini dapat menurunkan biaya kecerdasan canggih sehingga manfaatnya dapat dinikmati oleh masyarakat di seluruh dunia. Riset otomatis juga dapat membantu kami meningkatkan penyelarasan secara signifikan dan membangun pertahanan terhadap AI yang semakin mumpuni—peneliti AI otomatis juga dapat menjadi peneliti keselamatan AI otomatis. Sistem yang lebih mumpuni dan selaras dapat membantu mengamankan infrastruktur penting, melindungi dari agen AI berbahaya, dan mengembangkan langkah perlindungan baru.
RSI yang sepenuhnya otonom belum terjadi saat ini, dan kita tidak boleh mengupayakannya kecuali dan hingga hal tersebut dapat dilakukan dengan aman. Keputusan mengenai perlu tidaknya dan cara melanjutkannya harus bergantung pada kemampuan kita mempertahankan kendali manusia serta pada pilihan demokratis yang didasari informasi memadai(terbuka di jendela baru) tentang manfaat dan risikonya. Jika dilakukan tanpa kehati-hatian yang semestinya, RSI dapat menyebabkan manusia kehilangan kendali praktis atas pengembangan AI dan tidak mampu mengawasi proses riset yang tak lagi mereka pahami. Setelah itu, AI dapat menjadi lebih berbahaya, kurang selaras, dan secara keseluruhan mengancam manusia. Insiden Hugging Face yang kami ungkapkan, meski bukan akibat langsung RSI, memberi gambaran awal tentang risiko yang dapat menjadi jauh lebih parah tanpa perlindungan dan penyelarasan yang kuat.
Standar internasional untuk praktik keselamatan dan keamanan dalam pengembangan AI terdepan mungkin sama pentingnya dengan riset penyelarasan dalam mengatur laju kemajuan di garis terdepan. Standar dapat membentuk definisi bersama tentang bukti berkualitas tinggi dan tolok ukur dasar yang disepakati untuk ketatnya perlindungan teknis. Singkatnya, standar membantu kita menjawab pertanyaan, “Seperti apa mitigasi risiko AI katastrofik yang baik?”
Lembaga demokratis yang telah ada, seperti Center for AI Standards and Innovation (CAISI), undang-undang negara bagian, dan kerangka federal untuk AI, dapat membantu upaya ini, begitu pula bentuk baru kemitraan publik-swasta(terbuka di jendela baru). Namun, pengembangan dan penerapan AI berlangsung di banyak negara, adopsinya terjadi secara global, dan dampaknya kemungkinan akan dirasakan semua orang dalam berbagai bentuk dan pada waktu yang berbeda.
Karena itu, upaya internasional untuk mengembangkan standar diperlukan guna mengatasi beberapa tantangan utama:
Fragmentasi—Evaluasi, persyaratan pelaporan, dan definisi insiden dari berbagai negara dapat saling bertentangan sehingga menyulitkan perbandingan bukti, pemahaman tentang kemampuan yang sedang berkembang, dan penanganan risiko lintas batas.
Tindakan kolektif—Setiap negara yang bertindak sendiri-sendiri dapat menghasilkan keadaan yang tidak diinginkan oleh negara mana pun. RSI mampu mempercepat riset AI itu sendiri, bahkan mungkin melampaui kemampuan kolektif kita untuk memahami kemajuannya, menilai risiko, dan mempertahankan pengawasan manusia yang bermakna.
Kapasitas yang tidak merata—Kegiatan pengembangan terdepan dan keahlian terkait tidak tersebar secara merata di seluruh dunia. Hal ini memperparah kedua masalah di atas.
Tantangan ini berlaku bagi model terbuka maupun tertutup.
Perlu ditegaskan bahwa setiap laboratorium AI yang menjalankan riset AI otomatis atau mengembangkan kemampuan canggih lainnya wajib bertanggung jawab untuk melakukannya dengan aman, sesuai prinsip dasar tanggung jawab mandiri dan hukum yang berlaku. Dasar pemikiran kami mengenai standar berakar pada upaya menghindari pemusatan kekuasaan dan menghasilkan dampak praktis yang lebih baik. Standar memungkinkan lebih banyak pemangku kepentingan di luar laboratorium untuk turut menentukan arah perkembangan teknologi ini, sekaligus menyediakan seperangkat prinsip yang transparan dan dapat diandalkan terlepas dari praktik laboratorium tertentu. Kita juga kemungkinan akan memperoleh hasil yang lebih baik jika semua pihak berkolaborasi untuk mengatasi tantangan di atas.
Karena itulah kami percaya Amerika Serikat harus memimpin upaya kerja sama dengan negara-negara di seluruh dunia untuk mengembangkan standar teknis global bagi AI terdepan, termasuk RSI.
Meskipun kami memperkirakan konsep ini akan berkembang pesat seiring waktu, dua aspek akan tetap menjadi kunci.
Salah satu cara untuk mewujudkannya adalah dengan memanfaatkan jejaring lembaga keselamatan AI yang sedang berkembang—seperti yang telah didirikan di Australia, Kanada, Jerman, Prancis, Kenya, Jepang, Korea, Singapura, India, dan Britania Raya—untuk memfasilitasi penyusunan standar melalui CAISI dan badan industri nasional, dengan fokus khusus pada (1) model dan pengembang AI terdepan, sebagaimana diukur melalui tolok ukur kemampuan; serta (2) pengelolaan manfaat dan risiko riset AI otomatis, termasuk RSI. Amerika Serikat dapat melanjutkan langkah CAISI yang pada 2024 membentuk Jejaring Internasional untuk Pengukuran, Evaluasi, dan Sains AI Canggih(terbuka di jendela baru), yang mempertemukan berbagai lembaga publik untuk bekerja sama dalam pengukuran, evaluasi, dan sains AI.
Standar yang dikembangkan melalui upaya ini akan menyediakan landasan teknis bersama untuk mengukur dan mengevaluasi kemampuan, menilai risiko, serta memastikan kecukupan perlindungan. Standar teknis ini bukan berupa lisensi, peninjauan wajib sebelum peluncuran, atau persyaratan persetujuan untuk model AI. Pemerintah setiap negara akan memutuskan perlu tidaknya dan cara memasukkan standar ini ke dalam sistem hukumnya masing-masing.
Upaya ini juga harus mendukung ekosistem AI yang kompetitif dengan melibatkan pengembang open model dan model tertutup, pakar teknis independen, serta kalangan akademik. Standar bersama harus dikembangkan secara transparan dan dirancang agar tidak menguntungkan perusahaan, negara, atau model bisnis tertentu, termasuk dengan tidak mempersulit pendatang baru atau pengembang model berbobot terbuka untuk bersaing.
Seperti yang telah kami usulkan(terbuka di jendela baru), pendekatan ini dapat mengambil pelajaran dari bidang seperti penerbangan dan stabilitas keuangan, tempat berbagai negara telah mengembangkan standar teknis bersama dan jalur kerja sama tepercaya tanpa melepaskan kewenangan nasional. Upaya ini juga harus bekerja sama secara erat dengan badan standardisasi lama maupun baru, seperti ISO(terbuka di jendela baru), Forum Model Terdepan(terbuka di jendela baru), Yayasan AI Agentik(terbuka di jendela baru), dan Aliansi AI Terbuka dan Aman(terbuka di jendela baru), serta organisasi yang berfokus pada penerapan, seperti Appia Foundation, yang tengah mengembangkan spesifikasi praktis untuk menghubungkan standar internasional dengan penilaian AI di dunia nyata.
Standar AI internasional akan sangat penting untuk mengelola peningkatan otonomi dalam riset AI dan penyempurnaan mandiri rekursif. Secara khusus, standar tersebut dapat mencakup:
Evaluasi kemajuan AI yang relevan dengan RSI dan volume riset otonom yang berlangsung di dalam perusahaan AI. Laporan terbaru kami mengenai percepatan riset merupakan kontribusi awal bagi upaya ini.
Pengawasan manusia terhadap riset AI otomatis, termasuk jenis proses riset AI otomatis yang harus segera memicu peninjauan oleh manusia.
Klasifikasi, pelacakan, pelaporan, dan penanganan insiden terkait penyelarasan serta riset AI otomatis, seperti tingkat keparahan insiden dan ambang pelaporan yang seragam. Kerangka pelaporan ketidakselarasan kami merupakan kontribusi awal.
Selain standar tersebut, kami percaya operator infrastruktur penting dan pemerintah di seluruh dunia perlu membangun jalur komunikasi yang aman untuk berbagi kekhawatiran terkait keamanan nasional, kerentanan dan ancaman yang baru muncul, serta praktik terbaik dalam bidang keselamatan AI terdepan yang berkembang pesat. Dialog antara Amerika Serikat dan Tiongkok dalam bidang-bidang ini akan menjadi langkah positif, dan pembicaraan mendatang berlangsung pada saat yang tepat.
Mengatur laju pengembangan AI bukan berarti mempertahankan kecepatan yang telah ditetapkan sebelumnya. Dari sisi teknis, hal ini berarti memastikan riset penyelarasan dan penerapan hasilnya tetap lebih maju daripada pengembangan kemampuan AI. Dari sisi masyarakat, hal ini berarti menggunakan standar, lembaga, dan kolaborasi untuk memperkuat jejaring industri, hubungan sosial, serta kekuatan pasar demi menghasilkan manfaat bagi semua pihak. Seruan baru-baru ini untuk bertindak bersama dalam pertahanan siber merupakan salah satu contohnya.
Amerika Serikat berada dalam posisi yang tepat untuk memimpin karena industri AI-nya berada di garis terdepan teknologi dan masih menempati posisi istimewa dalam jejaring global di berbagai bidang penting, seperti keuangan, perdagangan, pertahanan, teknologi, dan sistem informasi. Kepemimpinan saat ini akan menentukan apakah Amerika Serikat membentuk kerangka AI global atau hanya menyaksikan tumbuhnya sistem yang terfragmentasi, timpang, dan sarat konflik di sekitarnya. Hal ini juga akan menentukan apakah AI canggih memperkuat jejaring yang telah dimiliki Amerika Serikat dan para sekutunya; kegagalan untuk memimpin dapat melemahkannya.
Persaingan geopolitik tidak hanya berkaitan dengan siapa yang unggul secara teknis, tetapi juga dengan adopsi dan penyebaran AI. Ke depan, adopsi dan penyebaran tersebut mungkin akan ditentukan oleh pihak yang mendorong kerja sama realistis serta aturan main yang masuk akal—hal yang dibutuhkan bisnis dan masyarakat di mana pun jika mereka hendak mempertaruhkan masa depan pada teknologi ini.
Tata kelola nasional yang kuat dan terhubung melalui kerja sama internasional yang praktis menawarkan jalan menuju perlindungan yang lebih kokoh, inovasi berkelanjutan, dan akses luas terhadap manfaat AI.
