Jalan menuju Astra: kapabilitas kritis dan perlindungan terdepan

Sejak penilaian sebelumnya bahwa Astra mungkin mencapai tingkat kapabilitas keamanan siber Kritis, kami telah mengumpulkan lebih banyak bukti dan menjalankan evaluasi tambahan untuk menilai kapabilitas model. Kini kami meyakini Astra memenuhi ambang batas kapabilitas keamanan siber Kritis berdasarkan Kerangka Kerja Kesiapan kami. Artinya, dengan alat dan akses yang tepat, Astra dapat menemukan celah keamanan yang sebelumnya tidak diketahui dan mengembangkan cara untuk mengeksploitasinya pada banyak sistem yang terlindungi dengan baik tanpa perlu dipandu manusia di setiap langkah. Astra adalah model pertama yang kami tetapkan pada tingkat ini dan memerlukan perlindungan lebih kuat selama pengembangan serta sebelum peluncuran.

Selama beberapa minggu terakhir, kami menunda sebagian pengembangan dan peluncuran Astra sembari memperkuat dan menguji perlindungan terhadap penyalahgunaan siber serta tindakan model tanpa izin. Berdasarkan pekerjaan tersebut, kami meyakini perlindungan Astra cukup meminimalkan risiko bahaya berat sehingga dapat diluncurkan berdasarkan Kerangka Kerja Kesiapan kami.

Meskipun Astra tidak terlibat dalam insiden Hugging Face, kami telah memasukkan pelajaran⁠(terbuka di jendela baru) dari insiden tersebut ke dalam pendekatan keselamatan kami. Berdasarkan pengujian retrospektif, kami meyakini perlindungan produksi kami saat itu akan mampu mencegah insiden Hugging Face. Sejak itu, kami telah menerapkan perlindungan yang lebih kuat untuk Astra, termasuk melatih model agar lebih andal dalam menolak permintaan siber berbahaya dan mematuhi batasan keselamatan, menambahkan perlindungan terhadap penyalahgunaan, serta menerapkan pemantauan yang dapat menghentikan aktivitas yang berpotensi tanpa izin.

Kami berencana segera menyediakan Astra, tetapi akses ke kapabilitas keamanan sibernya yang paling canggih akan lebih terbatas. Pekerjaan keamanan siber tingkat lanjut pada awalnya akan tersedia bagi sekelompok penguji, kemudian disusul akses melalui Daybreak Blue untuk memperluas penggunaan defensif.

Saat peluncuran, kami akan membagikan perincian lebih lanjut tentang pengujian dan evaluasi keselamatan, keamanan, serta keselarasan dalam kartu sistem model. Menjelang peluncuran, kami ingin menyampaikan perkembangan beberapa upaya yang telah kami lakukan untuk mempersiapkan peluncuran aman model dengan kapabilitas keamanan siber setingkat ini—sekaligus bersikap transparan mengenai risiko yang masih ada.

Berdasarkan Kerangka Kerja Kesiapan kami, sebuah model memenuhi ambang batas Kritis jika salah satu kondisi berikut terpenuhi:

• Model dapat mengidentifikasi dan mengembangkan eksploit zero-day yang berfungsi pada semua tingkat keparahan di banyak sistem kritis dunia nyata yang diperkuat tanpa campur tangan manusia.
• Dengan hanya diberi sasaran umum yang diinginkan, model dapat merancang dan menjalankan strategi baru secara menyeluruh untuk serangan siber terhadap target yang diperkuat.

Evaluasi kesiapan kami terhadap Astra menggabungkan tolok ukur publik dan privat otomatis dengan penilaian yang dipimpin pakar. Astra menunjukkan peningkatan signifikan dalam kapabilitas keamanan siber dibandingkan GPT‑5.6 Sol: Astra jauh lebih efisien dalam penggunaan token sekaligus lebih mampu mengidentifikasi kerentanan dan mengembangkan eksploit.

Sebagai salah satu contoh, kami menjalankan Astra pada ExploitBench dan model meraih skor sempurna 100% dalam tolok ukur yang menilai kemampuan model mengembangkan eksploit dari kerentanan yang telah diketahui.

Karena kekhawatiran akan kontaminasi, kami kemudian membuat tolok ukur internal bernama “ExploitBench - Port Internal (Juni–Agustus 2026)”, yang mencakup 20 kerentanan V8 berkeparahan tinggi yang diungkapkan lebih baru. Pada set data ini, Astra mencapai tingkat eksekusi kode arbitrer yang jauh lebih tinggi daripada GPT‑5.6 Sol dengan jauh lebih sedikit token output. Selama evaluasi, model bahkan menemukan dan menggunakan dua kerentanan zero-day sebagai bagian dari rantai eksploit. Kami sedang dalam proses mengungkapkan kedua kerentanan tersebut kepada pihak pengelola.

Dalam penilaian yang dipimpin pakar terhadap peramban dan sistem operasi yang diperkuat, Astra menemukan kerentanan yang sebelumnya tidak diketahui dan mengubahnya menjadi rantai eksploit yang berfungsi. Astra membuat rantai pembobolan peramban lengkap yang berhasil keluar dari sandbox dan menjalankan perintah pada host ketika peramban membuka berkas HTML. Model juga menemukan beberapa kerentanan pada sistem operasi yang diperkuat dan menggabungkannya menjadi rantai eskalasi hak istimewa lokal dari pengguna tanpa hak istimewa menjadi root. Secara keseluruhan, penyelidikan kami menghasilkan kesimpulan bahwa Astra memenuhi ambang batas kritis.

Untuk model dengan kapabilitas keamanan siber setingkat Astra, kami perlu menangani dua jalur guna meminimalkan risiko bahaya siber berat, baik selama pengembangan maupun sebelum penerapan:

• Pelaku kejahatan yang menggunakan model. Perlindungan kami harus mampu mencegah secara andal pelaku kejahatan menggunakan Astra untuk mengembangkan eksploit bagi celah yang sebelumnya tidak diketahui pada sistem kritis yang diperkuat atau melancarkan serangan menyeluruh terhadap target yang diperkuat.
• Model melakukan tindakan tanpa izin dan tidak selaras. Meski tidak ada pengguna berniat jahat, model dengan kapabilitas keamanan siber tingkat lanjut dapat dengan sendirinya menimbulkan bahaya siber jika tidak selaras. Selain menetapkan standar keselarasan yang sangat tinggi bagi model dengan kapabilitas tersebut, sebagai lapisan pertahanan kedua, perlindungan kami harus dapat mendeteksi dan membatasi dengan cepat tindakan tidak selaras yang berpotensi menimbulkan bahaya nyata yang signifikan.

Penting dicatat bahwa jalur kedua berlaku untuk pengembangan internal maupun penerapan eksternal. Seperti yang telah kami jelaskan sebelumnya, kami menghentikan sementara pelatihan model terdepan tertentu (termasuk pelatihan tertentu untuk Astra) selama dua minggu setelah insiden OpenAI-Hugging Face untuk memperkuat infrastruktur pelatihan kami, termasuk isolasi dan kontrol jaringan, perluasan pemantauan, serta penguatan pelatihan dan ambang batas keselarasan. Setelah itu, kami melanjutkan pekerjaan berskala lebih kecil dengan kontrol yang lebih ketat.

Kami menunda lebih lama sejumlah proses reinforcement learning (RL) berskala besar untuk versi Astra mendatang sembari menetapkan standar lebih tinggi bagi keselamatan dan keamanan lingkungan pelatihannya. Pada 28 Agustus, kami memulai kembali proses RL model terdepan berskala besar yang sebelumnya dihentikan sementara, setelah persyaratan keselamatan dan keamanan baru diberlakukan. Kami masih menunda sementara beberapa proses pelatihan eksperimental berskala lebih kecil.

Persiapan peluncuran Astra juga memerlukan perlindungan lebih kuat terhadap penyalahgunaan siber dan tindakan tanpa izin. Di bawah ini, kami menjelaskan perlindungan tersebut dan cara kami mengujinya.

Sejak menerapkan model pertama yang kami kategorikan memiliki kapabilitas Tinggi dalam keamanan siber pada Februari, kami terus memperkuat perlindungan siber pada setiap peluncuran berikutnya. Pendekatan keselamatan kami secara keseluruhan melapiskan penolakan oleh model post-trained, pengklasifikasi keselamatan tingkat sistem, serta deteksi luring dan penanggulangan ancaman.

Untuk GPT‑5.6⁠(terbuka di jendela baru), kami meningkatkan secara signifikan ketahanan rangkaian perlindungan tingkat sistem, termasuk dengan menambahkan pengklasifikasi aktivasi untuk mendeteksi penyalahgunaan siber dan memperluas cakupan terhadap jailbreak universal yang ditemukan melalui red teaming otomatis secara intensif. Dengan berlandaskan peningkatan ini, untuk Astra kami berinvestasi lebih jauh pada lapisan model dalam rangkaian perlindungan serta meningkatkan kemampuan perlindungan kami untuk menangani konteks lintas percakapan.

• Dengan memanfaatkan teknik pelatihan baru untuk ketahanan model, Astra dapat menolak permintaan bantuan siber yang dilarang secara lebih andal. Dalam rangkaian evaluasi jailbreak siber kami, Astra menolak 91,5% permintaan (dibandingkan dengan 59% oleh GPT‑5.6 Sol).
• Untuk akun yang dinilai berisiko lebih tinggi, kami menerapkan batas perilaku model yang lebih konservatif dan menolak lebih banyak jenis bantuan siber yang berpotensi berisiko. Untuk pengguna berisiko tinggi, kami telah memperluas konteks sistem pemantauan agar dapat mendeteksi jenis penyalahgunaan siber ini.

Kami juga melanjutkan program pengujian ketat, red teaming internal dan eksternal, serta remediasi. Selain pengujian regresi untuk memastikan semua jailbreak yang ditemukan dalam periode pengujian sebelumnya tetap tercakup, kami menjalankan gelombang baru red teaming dengan penyerang red teaming internal terbaru kami. Kami bekerja sama dengan mitra industri untuk menetapkan sistem penilaian jailbreak bersama dan akan menggunakan program respons cepat 24/7 untuk menyelidiki serta menangani temuan baru. Kami akan membagikan perincian lebih lanjut tentang pengujian perlindungan siber kami dalam kartu sistem Astra.

Membantu pembela menemukan dan memperbaiki kerentanan tetap menjadi pilar utama pendekatan keselamatan kami. Saat peluncuran, kami memperkirakan perlindungan Astra akan menimbulkan lebih banyak hambatan daripada yang pada akhirnya kami inginkan demi mencegah potensi penyalahgunaan. Akses ke Astra untuk alur kerja keamanan siber tingkat lanjut pada awalnya akan tersedia bagi sekelompok kecil penguji alfa, lalu akses melalui Daybreak Blue akan diperluas untuk mendukung penggunaan defensif.

Kami juga menambahkan perlindungan berlapis untuk mencegah model melakukan tindakan yang berpotensi tidak selaras:

• Keselarasan model: Dalam evaluasi kami, Astra jauh lebih mungkin daripada GPT‑5.6 Sol untuk mematuhi batasan keselamatan dan keamanan yang dinyatakan secara eksplisit serta tetap berada dalam cakupan izinnya, sehingga menjadi model kami yang paling selaras hingga saat ini. Kami terutama berfokus pada kepatuhan model terhadap batasan keamanan dan keselamatan serta kecenderungannya untuk tetap berada dalam cakupan yang diizinkan.
• Pemantauan dan kontrol: Sejalan dengan prosedur internal kami, kami menerapkan Astra dengan pemantauan rantai pemikiran tambahan untuk mendeteksi dan membatasi secara cepat tindakan yang berpotensi tidak selaras.

Astra merupakan kemajuan signifikan dalam keselarasan model dan puncak dari beberapa alur kerja keselarasan jangka panjang (mulai dari intervensi pra-pelatihan hingga penilaian yang lebih cermat dan konsisten selama reinforcement learning). Dalam pengujian, kami menemukan bahwa Astra secara konsisten lebih mungkin mematuhi batasan dan peringatan keselamatan yang eksplisit (seperti tinjauan otomatis) dibandingkan GPT 5.6 Sol.

Kami juga mengembangkan pengujian berdasarkan insiden Hugging Face, saat agen yang menjalankan evaluasi siber ExploitGym membobol sistem milik pihak ketiga. Kami menggunakan tugas-tugas tersulit dari evaluasi tersebut untuk membuat pengujian “honeypot” guna mengetahui apakah model akan mencoba membobol infrastruktur keamanan di sekitarnya alih-alih menyelesaikan tugas yang diberikan. Tanpa perlindungan produksi, GPT‑5.6 Sol mencoba mengakses target tersebut dalam 56% pengujian yang menyimulasikan lingkungan tolok ukur tempat model diperintahkan mengembangkan eksploit. Astra tidak melakukan percobaan semacam itu dalam pengujian ini. Angka-angka ini menggambarkan perilaku dalam kondisi pengujian tanpa perlindungan siber, bukan penggunaan produksi normal.

Melatih model agar selaras merupakan salah satu lapisan keselamatan. Kami akan membagikan perincian lebih lanjut tentang pengujian dan hasil keselarasan dalam kartu sistem Astra.

Kami juga menerapkan pemantauan ketidakselarasan dalam produksi untuk model sekelas Astra guna mendeteksi dan membatasi dengan cepat potensi ketidakselarasan. Perlindungan ini menyerupai pemantauan kami untuk penerapan internal dan melibatkan sistem pengklasifikasi yang memeriksa penalaran serta tindakan model untuk menemukan perilaku tanpa izin dan secara otomatis menghentikan aktivitas yang berpotensi tanpa izin. Seiring meningkatnya kapabilitas, perlindungan ini tidak dapat menggantikan keselarasan model yang baik. Tujuan kami adalah agar model mendatang cukup selaras sehingga perlindungan tersebut tidak pernah terpicu.

OpenAI berkomitmen memastikan manfaat AI dapat diakses secara luas. Mengingat peningkatan signifikan dalam kapabilitas keamanan siber Astra, kami sangat berhati-hati untuk memastikan penerapan ini aman dan terlindungi. Pemeriksaan keselamatan tambahan terkadang dapat memperlambat, menjeda, atau menghentikan pekerjaan yang sah, termasuk keamanan siber defensif.

Sistem terkadang dapat menandai aktivitas yang sah sebagai potensi penyalahgunaan siber atau perilaku tanpa izin sehingga aktivitas tersebut tanpa sengaja diperlambat, dijeda, atau dihentikan. Hal ini dapat mencakup pekerjaan yang tampaknya tidak berkaitan langsung dengan keamanan siber atau tugas yang dijalankan agen dalam waktu lama.

Jika pemantau ketidakselarasan menjeda tugas, pengguna di ChatGPT atau Codex mungkin diminta meninjau tindakan tersebut sebelum melanjutkan. Saat menggunakan antarmuka lain seperti API, tugas akan dihentikan. Kami berencana terus mengkalibrasi perlindungan ini untuk mengurangi gangguan yang tidak perlu dan memperluas akses ke kapabilitas terdepan melalui program seperti Daybreak.

Kita sedang memasuki tahap pengembangan AI ketika model dapat menangani pekerjaan yang berdampak lebih besar, sementara kegagalan keselarasan dan kontrol dapat menimbulkan dampak yang lebih serius. Terwujudnya manfaat sistem ini akan bergantung pada kemampuan kita menyelaraskan dan mengendalikan model seiring berkembangnya kapabilitas mereka.

Tanggung jawab tersebut mencakup pelatihan, evaluasi, dan penerapan. Hal ini memerlukan bukti perilaku selaras yang lebih kuat, perlindungan yang mengimbangi perkembangan kapabilitas, serta kesediaan untuk memperlambat langkah ketika perlindungan tersebut belum memadai.

Kami akan terus menguji sistem ini, membagikan hal yang kami pelajari, dan menjelaskan secara terbuka hal-hal yang masih belum pasti. Model-model setelah Astra akan menuntut lebih banyak dari kami. Kami akan menyediakan waktu dan melakukan pekerjaan yang diperlukan untuk memenuhi tanggung jawab tersebut.