Kesempatan terkait kebijakan AI masih terbuka. Kita perlu bertindak.

Kita telah memasuki babak baru dalam kemampuan AI, dan hal ini menuntut babak baru dalam kebijakan AI. Tidak ada perusahaan, industri, ataupun pemerintah yang dapat menghadapi tantangan ini sendirian. Kita perlu menghadapi momen ini dengan mengutamakan tindakan bermakna daripada kesempurnaan kebijakan.

Berikut yang kami lakukan:

1. Mendorong persyaratan keamanan AI nasional yang wajib. Kami ingin bekerja sama dengan Kongres untuk menyusun regulasi keamanan AI nasional yang wajib dan berbasis kemampuan.

2. Menjaga momentum di berbagai negara bagian. Hingga Kongres bertindak, kami akan terus mendukung legislasi negara bagian yang memperkuat ekosistem keamanan AI secara lebih luas. Hari ini, kami mengumumkan dukungan kami terhadap empat rancangan undang-undang California: SB 813 tentang infrastruktur secara keseluruhan untuk penilaian keamanan independen, AB 1405 tentang standar auditor AI, SB 1119 tentang perlindungan bagi kaum muda, dan AB 1864 tentang perlindungan terhadap ancaman biologis berbasis AI.

3. Mendorong standar yang dipimpin industri. Kami akan bekerja sama dengan laboratorium terdepan lainnya untuk memajukan standar AI terdepan, membangun upaya sukarela sekarang, dengan atau tanpa dukungan pemerintah.

4. Membangun standar global. Kami akan memperjuangkan pendekatan internasional yang selaras untuk mengukur kapabilitas, mengelola risiko, mempertahankan kendali manusia, serta menentukan kapan dan bagaimana pengembangan harus diperlambat atau dihentikan, bahkan jika itu berarti memperlambat kemajuan kapabilitas model.

Kepala Ilmuwan kami, Jakub Pachocki, baru-baru ini menulis⁠ bahwa pesatnya perkembangan kecerdasan mesin, termasuk potensi peningkatan mandiri rekursif, menuntut “kehati-hatian ekstrem”. OpenAI akan terus mengupayakan solusi teknis untuk penyelarasan dan pemantauan, membangun sistem pertahanan, serta memperlambat pengembangan bila perlu. Namun, pekerjaan teknis di dalam masing-masing laboratorium saja tidak akan cukup. Kita juga membutuhkan standar bersama, termasuk mengenai kapan pengembangan harus diperlambat atau dihentikan.

Taruhannya sangat besar. AI canggih dapat mempercepat pengembangan obat-obatan baru⁠, memperkuat infrastruktur kritis⁠, memperluas peluang ekonomi⁠, dan membantu memecahkan persoalan ilmiah⁠ yang selama beberapa generasi belum berhasil dipecahkan oleh upaya manusia. Namun, kapabilitas yang membuat model lebih bermanfaat juga membawa risiko, dan kapabilitas tersebut tidak akan selalu terbatas pada segelintir laboratorium terdepan. Model yang dikembangkan di seluruh dunia, termasuk model terbuka, akan makin mendekati kapabilitas model terdepan saat ini dan tersedia secara luas.

Kapabilitas Astra, bukti awal percepatan penelitian berbasis AI, dan esai Jakub—semuanya mengarah pada satu hal: AI berkembang pesat, dan kebijakan harus bergerak selaras dengannya.

Greg Brockman telah menggambarkan “jendela bagi para pembela”⁠(terbuka di jendela baru): periode terbatas ketika AI terdepan dapat membantu para pembela memperkuat sistem penting sebelum kemampuan penyerangan yang canggih tersebar luas. Pembuat kebijakan menghadapi situasi serupa: kesempatan yang makin menyempit untuk menetapkan perlindungan berkelanjutan sebelum kemampuan AI melampaui lembaga yang bertanggung jawab mengaturnya.

Seiring meningkatnya kapabilitas, keyakinan terhadap keamanan harus makin menentukan laju kemajuan AI. Keamanan bukan penghalang kemajuan; justru keamanan memungkinkan kemajuan melangkah lebih jauh dan memberi manfaat bagi lebih banyak orang.

Kami telah memperkuat langkah-langkah pengamanan untuk pemantauan, penyelarasan, dan keamanan di seluruh siklus pengembangan model, termasuk isolasi yang lebih kuat bagi beban kerja riset terdepan, perluasan pemantauan perilaku model selama pelatihan dan evaluasi dengan dukungan alat, serta aturan yang lebih jelas mengenai kapan kekhawatiran harus dieskalasi. Untuk Astra, kami juga memperkenalkan pemantauan universal atas seluruh trajektori, termasuk rantai pemikiran, serta tahap evaluasi keselarasan yang wajib dilalui sebelum penerapan internal yang lebih luas.

Langkah-langkah perlindungan tersebut harus terus selangkah lebih maju dari kapabilitas model. Ketika melanjutkan akan menimbulkan risiko keamanan yang tidak dapat diterima, kami akan memperlambat atau menghentikan pengembangan atau penerapan sistem yang tidak dapat kami lindungi secara memadai, seperti yang telah kami lakukan sebelumnya dan sebagaimana diwajibkan berdasarkan Kerangka Kerja Kesiapan⁠(terbuka di jendela baru) kami.

Peningkatan diri rekursif yang sepenuhnya otonom—ketika sistem AI secara mandiri mendorong terciptanya generasi demi generasi AI yang makin canggih—belum terjadi saat ini. Kita tidak boleh mengupayakannya kecuali jika dan sampai hal itu dapat dilakukan dengan aman.

Namun, AI sudah mempercepat sebagian riset yang digunakan untuk mengembangkan dan menyelaraskan model generasi berikutnya. Riset⁠ terbaru kami menunjukkan bahwa agen AI dapat menjalankan beberapa tugas yang akan membutuhkan waktu beberapa hari bagi peneliti terampil. Ini bukan pengembangan diri rekursif, tetapi merupakan bukti arah perkembangannya.

Percepatan itu juga dapat dan harus diarahkan untuk menjamin keamanan. Tujuan kami adalah membangun peneliti AI otomatis secara aman yang bekerja di bawah pengawasan manusia untuk memajukan deep learning dan penyelarasan—dengan memanfaatkan setiap generasi AI guna membantu menjadikan generasi berikutnya lebih aman, lebih selaras, dan lebih mudah dikendalikan, bukan sekadar lebih mampu.

Pemerintah harus mengembangkan cara bersama untuk mengukur kemajuan ini, mempertahankan kendali manusia yang bermakna, serta menetapkan ambang keamanan bersama yang menentukan kapan dan bagaimana pengembangan harus diperlambat atau dihentikan. Jika kita tidak dapat memenuhi ambang keamanan tertentu tanpa memperlambat pertumbuhan kemampuan, kita harus memprioritaskan yang pertama. Semakin canggih teknologinya, semakin kuat pula perlindungan yang harus diterapkan.

Prospek pengembangan AI yang dipercepat oleh AI menuntut lebih dari sekadar komitmen sukarela. Amerika Serikat membutuhkan regulasi nasional wajib berbasis kemampuan yang dapat berkembang seiring perkembangan teknologi.

Cetak Biru Tata Kelola Demokratis untuk AI Terdepan⁠ kami menguraikan jalan menuju kerangka federal yang berkelanjutan: persyaratan bersama untuk pengujian dan penilaian independen, perlindungan keamanan siber yang lebih kuat, aturan pelaporan insiden yang jelas, kesiapsiagaan nasional yang lebih baik, serta metrik bersama untuk memantau kemajuan menuju peningkatan mandiri rekursif.

Sejumlah usulan serius mengenai keamanan teknologi terdepan kini mulai terbentuk di Kongres. Kami akan terus terlibat secara konstruktif dan berharap dapat mendukung undang-undang yang secara nyata meningkatkan standar keamanan. Mengingat besarnya taruhan yang ada, kita tidak boleh membiarkan upaya mencapai kesempurnaan justru menghalangi langkah baik yang sudah bisa dicapai. Kongres sebaiknya mengambil tindakan sebelum masa sidangnya berakhir.

Kerangka kerja nasional harus kuat tetapi ditargetkan secara cermat. Persyaratan keamanan teknologi terdepan harus berlaku bagi segelintir laboratorium dengan sumber daya besar yang mengembangkan sistem paling mumpuni—bukan bagi perusahaan rintisan, pengembang kecil, atau peneliti yang beroperasi jauh dari ranah terdepan. Kewajiban harus sebanding dengan kemampuan dan risiko.

Kebijakan keamanan teknologi terdepan juga tidak boleh menjadi kebijakan bobot terbuka dengan kedok lain. Model terbuka dapat menjadi bagian dari solusi, khususnya dalam keamanan siber dan ketika kebutuhan akan kedaulatan, keamanan, atau residensi data mendukung penerapan lokal. Sebagian besar tidak bersaing di ranah terdepan, melainkan dalam hal biaya, kendali, dan latensi. Sebagaimana kami tegaskan saat menandatangani Surat Bobot Terbuka dan Kepemimpinan AI Amerika⁠(terbuka di jendela baru), Amerika membutuhkan model terbuka maupun tertutup. Kerangka kerja federal harus menyikapi kapabilitas dan risiko teknologi terdepan tanpa melemahkan persaingan, melanggengkan posisi pemain lama, ataupun mendorong inovasi beralih ke luar negeri.

Kerangka publik yang serius harus mengurangi, bukan meningkatkan, pemusatan kekuasaan. Saat ini, laboratorium model terdepan pada umumnya menetapkan sendiri aturan untuk mengelola risiko model terdepan. Standar yang dapat dipertanggungjawabkan secara demokratis, verifikasi independen, dan transparansi yang bermakna akan menggantikan sistem tata kelola privat yang terfragmentasi tersebut.

Hal ini sangat penting bagi kepemimpinan Amerika. Amerika Serikat tidak dapat memenangi era AI hanya dengan mengandalkan kemampuan. Keunggulan teknis tidak akan banyak berarti jika masyarakat, lembaga, dan pemerintah tidak cukup memercayai teknologi ini untuk mengadopsinya. Perlindungan yang kuat bukanlah konsesi yang menghambat inovasi. Perlindungan tersebut merupakan bagian dari infrastruktur yang diperlukan untuk adopsi secara luas—dan bagi kepemimpinan Amerika yang berkelanjutan.

Kita sangat membutuhkan standar nasional untuk AI, dan siapa pun yang bekerja mengembangkan model terdepan dapat melihat urgensinya. Sampai Kongres bertindak, negara bagian harus terus mengambil langkah untuk mengisi kekosongan dan meningkatkan standar.

OpenAI telah mendukung SB 53 California, RAISE Act New York, SB 315 Illinois, serta audit independen dalam rancangan undang-undang keamanan model terdepan yang sedang dipertimbangkan di Massachusetts. Kami mendorong negara-negara bagian untuk menyepakati perlindungan bersama ini. Dengan demikian, mereka dapat menciptakan standar dasar nasional secara de facto yang pada akhirnya dapat dikodifikasi oleh Kongres—sebuah pendekatan yang kami sebut ⁠federalisme terbalik⁠. Namun, harmonisasi tidak berarti membekukan persyaratan yang ada.

Hari ini, kami secara resmi mendukung empat RUU California tambahan yang telah disahkan oleh badan legislatif dan akan diserahkan kepada Gubernur Newsom. Secara keseluruhan, RUU tersebut menangani berbagai bagian yang saling melengkapi dalam ekosistem keamanan AI.

SB 813⁠(terbuka di jendela baru) akan menetapkan proses penunjukan organisasi independen yang kompeten dan mampu menilai risiko AI. Seperti yang telah kami nyatakan dalam ⁠(terbuka di jendela baru)cetak biru keamanan terdepan⁠(terbuka di jendela baru), kami lebih memilih agar penilaian teknis independen diwajibkan di tingkat federal, tempat pembuat kebijakan dapat menetapkan standar yang konsisten untuk kualifikasi penilai, keamanan, dan akses ke informasi yang sangat sensitif. Namun, karena belum ada tindakan federal, California dapat membantu menetapkan pedoman bagi sistem penilaian independen nasional yang aman dan mumpuni serta menghasilkan keamanan yang lebih baik.

AB 1405⁠(terbuka di jendela baru) akan menetapkan persyaratan registrasi, independensi, transparansi, dan akuntabilitas bagi auditor AI.

SB 1119⁠(terbuka di jendela baru) akan mewajibkan pemastian usia, penilaian risiko, audit independen, pengawasan orang tua, dan perlindungan terhadap konten berbahaya bagi anak-anak dan remaja yang menggunakan chatbot pendamping. Kami baru-baru ini menyatakan dukungan kami⁠ terhadap RUU ini, yang memperkuat langkah-langkah keamanan bagi generasi muda yang telah OpenAI kembangkan melalui produk kami, ⁠prinsip kebijakan global⁠, dan dukungan terhadap ⁠(terbuka di jendela baru)Undang-Undang AI Aman untuk Orang Tua & Anak⁠(terbuka di jendela baru), serta perlindungan yang disertakan dalam ChatGPT untuk Remaja—termasuk pengaturan bawaan yang lebih ketat pada aspek-aspek sensitif, Jam Tenang, Jam Belajar, dan pengingat untuk beristirahat.

AB 1864⁠(terbuka di jendela baru) akan mewajibkan penyedia sintesis gen dan produsen peralatan sintesis meja laboratorium mematuhi standar skrining federal, sehingga memperkuat perlindungan fisik penting terhadap ancaman biologis berbasis AI.

Beberapa rancangan undang-undang ini sebelumnya tidak kami dukung, dan kini kami dukung setelah mempertimbangkannya kembali sehubungan dengan peningkatan kemampuan yang baru-baru ini kami lihat.

Rancangan undang-undang ini bukan pengganti regulasi federal. RUU ini adalah upaya serius yang dapat melindungi masyarakat saat ini, menunjukkan seperti apa langkah pengamanan yang dapat diterapkan, dan membantu membangun momentum untuk tindakan federal.

Hukum saja tidak akan menjadikan AI canggih aman. Kita juga memerlukan praktik nyata di dalam laboratorium yang mengembangkan sistem paling mumpuni. Langkah awal yang paling mendesak adalah pemantauan.

Hal ini sangat penting khususnya untuk ketidakselarasan—ketika model mengejar suatu tujuan dengan cara yang melanggar maksud manusia atau batasan yang telah ditetapkan, tanpa memerlukan kesadaran ataupun niat jahat. Seiring model memperoleh otonomi yang lebih besar, menggunakan alat yang lebih canggih, dan beroperasi dalam jangka waktu yang lebih lama, pengembang seharusnya diwajibkan untuk memantau perilaku tidak selaras ini serta membuktikan bahwa perlindungan yang efektif telah diterapkan.

Pemantauan harus dikaitkan dengan ketentuan pengungkapan yang jelas. Sebagaimana yang kami upayakan di California, perusahaan harus diwajibkan untuk segera memberikan pemberitahuan tertulis kepada pihak-pihak yang terdampak apabila—dalam tahap pengembangan atau evaluasi—model mereka melangkahi kendali keamanan organisasi lain tanpa izin serta secara material mengakses, mengubah, atau merusak sistem yang dilindungi atau informasi rahasia milik organisasi tersebut. Kami juga mendukung adanya ketentuan pelaporan tingkat federal untuk insiden AI serius lainnya, dan saat ini kami sedang berupaya merumuskan insiden apa saja yang perlu dicakup serta apa saja ketentuan yang harus dipenuhi terkait hal tersebut.

Seperti yang kami sampaikan pekan lalu, OpenAI tengah mengembangkan kerangka kerja untuk melaporkan insiden ketidakselarasan yang berdampak besar dan memantau aktivitas model terdepan secara sistematis, termasuk penggunaan internal. Upaya ini dimulai sebagai upaya yang dipimpin perusahaan, tetapi kami berharap upaya ini dapat membantu memberikan masukan bagi kebijakan federal yang lebih luas dan persyaratan pelaporan.

Kami ingin bekerja sama dengan laboratorium lain untuk menyusun standar yang dipimpin industri. Setiap standar yang dipimpin industri akan melengkapi—bukan menggantikan—perlindungan federal yang wajib dan pengawasan demokratis. Namun, kita telah memasuki fase kemampuan AI yang berbeda, dan segala opsi harus dipertimbangkan—termasuk memikirkan apa yang dapat dibangun secara sukarela di luar lingkup pemerintah sebagai langkah yang perlu segera dilakukan.

Standar semacam itu pada akhirnya juga harus melampaui batas negara. Model, riset, dan keahlian teknis bergerak secara global, dan kegagalan yang melibatkan sistem paling canggih dapat menimbulkan konsekuensi jauh melampaui negara tempat sistem tersebut dikembangkan. Amerika Serikat perlu menetapkan standar yang kredibel di dalam negeri jika ingin memimpin secara internasional—dan kami semakin yakin bahwa standar internasional yang selaras akan diperlukan.

Kesempatan terkait kebijakan AI masih terbuka, setidaknya untuk saat ini. Kami berniat memanfaatkannya.

Hal ini berarti bertindak dengan urgensi, kerendahan hati, dan kesediaan untuk beradaptasi. Hal ini berarti mendukung usulan serius yang secara nyata meningkatkan standar keamanan, meskipun tidak persis seperti yang akan kami rancang. Dan ini berarti memperkuat kerangka tersebut seiring berkembangnya teknologi.

Tidak ada langkah pertama yang akan sempurna. Namun, risiko yang lebih besar saat ini adalah menunggu terlalu lama untuk mengambil langkah tersebut.