Ikhtisar keamanan: GPT‑6 Astra

Hari ini, kami merilis GPT‑6 Astra, model paling mumpuni yang pernah kami terapkan secara luas. Astra adalah model pertama kami yang mencapai tingkat Kritis dalam kemampuan keamanan siber berdasarkan Kerangka Kerja Kesiapan kami.

Berikut hal-hal terpenting yang perlu diketahui tentang keamanan peluncuran ini:

1. GPT‑6 Astra merupakan lompatan besar dalam kemampuan siber dan telah mencapai ambang Kritis kami. Artinya, dengan alat dan akses yang tepat, GPT‑6 Astra dapat menemukan kelemahan keamanan yang belum diketahui dan mengembangkan cara baru untuk mengeksploitasinya di berbagai sistem yang terlindungi dengan baik, tanpa perlu dipandu manusia pada setiap langkah. Karena itu, kami memperkuat secara signifikan perlindungan untuk mencegah model melakukan tindakan siber berbahaya, baik akibat penyalahgunaan maupun ketidakselarasan. Kami juga mengambil langkah-langkah untuk mengamankan pengembangan dan penerapan internal Astra serta model serupa, termasuk isolasi yang lebih ketat, enkripsi checkpoint, pemantauan menyeluruh atas seluruh rangkaian tindakan termasuk rantai pemikiran (CoT), serta proses evaluasi penyelarasan yang wajib dilalui sebelum penggunaan internal.
2. GPT‑6 Astra jauh lebih tangguh daripada para pendahulunya. Dengan menerapkan teknik pelatihan keamanan baru untuk meningkatkan ketangguhan, GPT‑6 Astra jauh lebih tahan terhadap jailbreak dibandingkan GPT‑5.6 Sol, termasuk dalam rangkaian tindakan yang lebih panjang. Hal ini kami ketahui dari pengujian luring serta program pengujian dan remediasi jailbreak internal maupun eksternal yang ketat. Untuk pengguna yang ditandai berpotensi berisiko tinggi, kami juga melatih sistem agar dapat menyesuaikan batas penolakan model menjadi lebih konservatif dan mencakup lebih banyak risiko penggunaan ganda. Kami menggunakan pengujian regresi untuk memastikan Astra tahan terhadap jailbreak yang ditemukan dalam periode pengujian sebelumnya. Kami juga melakukan putaran baru red teaming otomatis dengan penyerang red teaming internal terbaru kami untuk memvalidasi peningkatan tersebut.
3. GPT‑6 Astra memiliki penyelarasan yang lebih baik daripada GPT‑5.6 Sol. Astra merupakan lompatan besar dalam penyelarasan model, dengan peningkatan mulai dari komposisi data pra-pelatihan hingga penilaian selama reinforcement learning. Kami melaporkan rangkaian evaluasi penyelarasan baru⁠(terbuka di jendela baru) dan mendapati bahwa GPT‑6 Astra lebih mampu mematuhi batas keamanan dan tetap berada dalam cakupan wewenangnya. Dalam simulasi yang menggunakan lebih dari 54.000 tugas Codex internal⁠(terbuka di jendela baru), Astra juga menerima sekitar separuh jumlah penanda Sol untuk perilaku tidak selaras dengan tingkat keparahan lebih tinggi.
4. Kami menerapkan pemantauan ketidakselarasan secara luas. Kami memandang penyelarasan model sebagai sarana utama untuk mencegah kemungkinan perilaku tidak selaras dari model kami. Namun, pemantauan memberikan visibilitas luas terhadap perilaku model terdepan, sehingga menyoroti peluang untuk semakin meningkatkan penyelarasan dan keamanan. Selain itu, pemantauan berfungsi sebagai lapisan perlindungan tambahan terhadap perilaku tidak selaras yang terdeteksi. Karena alasan tersebut, kami juga menambahkan pemantauan ketidakselarasan pada seluruh inferensi yang menggunakan alat dalam penerapan eksternal Astra, meski memerlukan biaya komputasi yang besar. Sistem ini serupa dengan konfigurasi internal kami.
5. Keterpantauan GPT‑6 Astra menurun dibandingkan GPT‑5.6 Sol. Kami telah melakukan penyelidikan mendalam mengenai keterpantauan⁠(terbuka di jendela baru) dan keterkendalian⁠(terbuka di jendela baru) GPT‑6 Astra. Kami mendapati bahwa GPT‑6 Astra lebih mampu mengendalikan CoT-nya sendiri daripada GPT‑5.6 Sol dan lebih kecil kemungkinannya mencantumkan informasi yang memberatkannya dalam CoT. Dalam situasi adversarial (ketika kami mendorong model untuk menghindari pemantauan), kami menemukan bahwa model dapat tetap tidak terdeteksi saat sengaja menunjukkan kinerja di bawah kemampuannya dalam evaluasi (sandbagging), dan terkadang dapat menghindari pemantau internal kami ketika diminta menjalankan tugas sabotase tertentu⁠(terbuka di jendela baru). Kami belum melihat bukti adanya penalaran CoT steganografis (misalnya, menyembunyikan penalaran rahasia di dalam teks biasa yang tampaknya tidak berkaitan). Hal ini menunjukkan bahwa risiko pengelakan mungkin sebagian besar terbatas pada tugas dengan tingkat penalaran rendah.
   • Temuan ini menunjukkan bahwa model kelas Astra dapat menghindari pemantau CoT kami dalam kondisi adversarial. Saat ini, temuan tersebut sebagian besar didasarkan pada evaluasi adversarial (yaitu ketika kami memerintahkan model untuk menghindari pemantauan). Secara keseluruhan, evaluasi penyelarasan kami menunjukkan bahwa Astra lebih kecil kemungkinannya melanggar batasan keamanan dibandingkan GPT‑5.6 Sol.
   • Namun, kami menanggapi tren ini dengan serius dan terus menyelidiki temuan tersebut serta implikasinya terhadap keterpantauan seiring meningkatnya kemampuan model kami. OpenAI telah berupaya mempertahankan dan memanfaatkan pemantauan rantai pemikiran, dan menjaga keterpantauan CoT merupakan tujuan utama program riset ini. Namun, hasil ini juga menegaskan pentingnya mengembangkan teknik audit penyelarasan yang tidak hanya memeriksa rantai pemikiran model.
6. GPT‑6 Astra menangani aktivitas penelusuran dan lingkungan kerja dengan lebih bertanggung jawab: GPT‑6 Astra jauh lebih tahan terhadap injeksi prompt dibandingkan GPT‑5.6 Sol. Kami juga menguji perilaku model dalam lingkungan penelusuran dan komputer profesional yang realistis. Hasilnya, model jauh lebih kecil kemungkinannya melakukan tindakan yang tidak selaras dan berpotensi merusak—misalnya transaksi tanpa izin, kehilangan data, akses berlebihan, atau pengelakan kontrol—dibandingkan GPT‑5.6 Sol. Model ini juga bertindak lebih aman saat menangani permintaan berbahaya dalam konteks agen, seperti permintaan untuk membantu merencanakan serangan kekerasan atau melakukan penipuan.
7. GPT‑6 Astra jauh lebih aman dalam skenario berisiko tinggi. GPT‑6 Astra merespons permintaan sulit dari lingkungan produksi dan red teaming adversarial oleh manusia dengan lebih aman dibandingkan GPT‑5.6 Sol. Astra mencapai peningkatan Pareto dalam menyelesaikan permintaan tidak aman secara aman sekaligus menghindari penolakan yang tidak perlu terhadap permintaan yang tidak berbahaya. Peningkatan ini juga mencakup skenario berkeparahan tinggi, ketika risiko bahaya muncul dari konteks yang lebih luas dan bukan dari permintaan eksplisit. Astra juga menerapkan batas keamanan yang sesuai usia secara lebih konsisten bagi pengguna di bawah 18 tahun.

Untuk informasi selengkapnya, lihat kartu sistem lengkap⁠(terbuka di jendela baru).