Memberikan respons perbatasan keupayaan siber kritikal seterusnya

Keselamatan siber berubah dengan pesat apabila model semakin berkeupayaan dalam cara yang dapat memperkukuh pertahanan siber, namun turut membolehkan serangan dilancarkan pada kelajuan dan skala yang belum pernah berlaku.

Penilaian dalaman terkini kami bagi Astra, salah satu model kami yang bakal dilancarkan, sejak beberapa hari lalu menunjukkan kemajuan ketara dalam pengekodan agentic dan keselamatan siber. Hasil ini, bersama-sama penilaian pakar, telah menyebabkan kami membuat kesimpulan pada malam tadi bahawa kami tidak boleh menolak kemungkinan wujudnya keupayaan siber kritikal menurut Rangka Kerja Kesediaan⁠(dibuka dalam tetingkap baru) kami.

Kami berkongsi perkara ini kerana kami percaya bahawa penting untuk bersikap telus kepada orang ramai dan komuniti keselamatan tentang kemungkinan perubahan keupayaan ini.

Kami mula-mula menerbitkan Rangka Kerja Kesediaan pada Disember 2023, lama sebelum model menghampiri tahap keupayaan ini dalam bidang biologi, kimia, keselamatan siber dan penambahbaikan kendiri AI. Kami mewujudkannya sebagai panduan untuk mengenal pasti kemajuan keupayaan dan merancang tindakan syarikat kami apabila keupayaan tersebut muncul. Model terdahulu, termasuk GPT‑5.6‑Sol, telah dinilai dari segi keupayaan siber perbatasan dan didapati berada pada ambang Tinggi (bukan Kritikal).

Menurut Rangka Kerja Kesediaan kami, sesebuah model mencapai ambang keselamatan siber Kritikal jika model itu dapat mengenal pasti dan membangunkan eksploitasi sifar hari yang berfungsi pada semua tahap keterukan dalam banyak sistem kritikal dunia sebenar yang diperkukuh tanpa campur tangan manusia, atau dapat merangka dan melaksanakan strategi baharu menyeluruh untuk serangan siber terhadap sasaran yang diperkukuh hanya berdasarkan matlamat umum yang dikehendaki. 

Sementara kami terus menjalankan penanda aras dan menilai model ini, penilaian awal kami menunjukkan prestasi yang cukup kukuh sehingga kami tidak boleh menolak kemungkinan tahap keupayaan Kritikal pada masa ini. Astra ialah model yang bakal dilancarkan dan tidak terlibat dalam eksploitasi Hugging Face. 

Sehubungan itu, kami telah memperluas ujian keteguhan terhadap langkah perlindungan dan kawalan keselamatan kami supaya bersesuaian dengan pelaksanaan keupayaan ini. Di peringkat dalaman, kami turut mengambil langkah berikut bagi memastikan pembangunan selanjutnya model ini dijalankan dengan selamat dan terjamin: 

• Kami sedang melaksanakan kawalan keselamatan yang lebih ketat untuk model berkeupayaan lebih tinggi dan aktiviti berkaitan, termasuk persekitaran ujian terpencil, akses rangkaian dan alat yang terhad, perlindungan serta penyulitan pemberat model yang dipertingkat, keupayaan pemantauan dan pengesanan tambahan, serta pelaksanaan dalam medan ujian.
• Kami menghentikan sementara aktiviti dalaman melibatkan Astra yang masih belum memenuhi keperluan kawalan keselamatan yang diperkukuh ini.
• Kami telah melaksanakan pemantauan menyeluruh terhadap tindakan berisiko dan ketidakjajaran dalam semua aplikasi agentic Astra, termasuk latihan dan penilaian. Sistem pemantauan menilai Rentetan Fikiran model dan mencetuskan tindak balas keselamatan untuk menyemak serta menghentikan aktiviti berisiko tinggi.
• Kami akan bekerjasama dengan agensi kerajaan berkaitan dan organisasi keselamatan AI terpilih untuk menguji keupayaan model ini.
• Kami akan memberikan saranan kawalan keselamatan kepada rakan kongsi pengujian pihak ketiga agar penilaian dan beban kerja berisiko lebih tinggi dapat dijalankan dengan selamat. 

Rangka kerja ini telah pun membimbing kami melalui peralihan keupayaan yang lain. Pada Jun 2025, ketika model kami menghampiri ambang keupayaan tinggi bagi biologi menurut Rangka Kerja Kesediaan, kami menggariskan langkah yang sedang kami ambil untuk memperkukuh perlindungan, memperluas pengujian, bekerjasama dengan pakar luar dan melaksanakan kawalan keselamatan tambahan. Kami menerapkan prinsip yang sama dalam hal ini.

Kami percaya bahawa model dengan keupayaan siber canggih seharusnya membantu pihak pertahanan mengenal pasti dan menangani kelemahan sebelum penyerang berbuat demikian. Kami komited untuk bekerjasama dengan kerajaan, institut keselamatan dan masyarakat sivil bagi memastikan keupayaan perbatasan model seperti Astra serta model susulannya dilaksanakan secara bertanggungjawab dan meluas demi manfaat seluruh umat manusia.