GPT‑6 Cyber: Memajukan batas keupayaan ejen keselamatan siber yang sejajar
Model keselamatan siber yang dilatih untuk mencari dan mengesahkan kerentanan yang boleh dieksploitasi, serta kekal dalam skop yang ditetapkan oleh penyelidik.
Kami memperkenalkan GPT‑6 Cyber, satu lonjakan besar dalam penyelidikan keselamatan: lebih berkeupayaan mencari dan membaiki kerentanan, serta jauh lebih andal dalam mematuhi batas yang ditetapkan oleh penyelidik. GPT‑6 Cyber mencapai peningkatan besar berbanding GPT‑5.6 Cyber pada penanda aras utama keselamatan siber, termasuk peningkatan relatif 51% pada ExploitGym dan lonjakan prestasi dalam ujian pematuhan skop. Model ini sudah bantu melindungi perisian dunia sebenar dengan menemui dan mengesahkan ribuan eksploitasi dalam pangkalan kod yang kritikal dari segi keselamatan, seperti Linux dan Firefox.
Pada ExploitGym, yang menguji sama ada model boleh mengeksploitasi kerentanan tertentu, GPT‑6 Cyber memperoleh skor 48.5%, meningkat daripada 32.1% bagi GPT‑5.6 Cyber. Model ini juga lebih andal dalam mematuhi batas tugas: dalam penilaian penjajaran berasingan, GPT‑6 Cyber mengelakkan eksploitasi perkhidmatan di luar skop dalam 99.93% ujian tanpa prom pelaksanaannya, dan 100% dengan prom tersebut. Peningkatan penjajaran ini mencerminkan latihan khusus untuk kekal dalam skop yang dibenarkan, mematuhi sekatan dan melaporkan hasil dengan tepat.
Keupayaan ini sudah bantu melindungi sistem sebenar. Penyelidik kami menggunakan GPT‑6 Cyber untuk membangunkan 948 eksploitasi peningkatan keistimewaan dalam Linux dan mengenal pasti 81 kerentanan berkeparahan tinggi yang sebelum ini tidak diketahui dalam Firefox, walaupun pengujian menyeluruh dengan model termaju telah dijalankan sebelum itu. Model ini turut bantu membangunkan tampalan calon, dan Mozilla telah mengeluarkan pembaikan untuk banyak kerentanan Firefox tersebut(dibuka dalam tetingkap baru). Pasukan keselamatan di Cisco, Calif dan CodeRabbit menggunakannya untuk penyelidikan kerentanan dan semakan kod, manakala kami bergantung padanya untuk mencari dan membaiki kelemahan dalam infrastruktur kami sendiri.
Jelas bahawa kita mempunyai masa yang terhad untuk menggunakan model termaju bagi melindungi perisian. Matlamat kami ialah memperluas Daybreak secara besar-besaran, agar penyelidikan keselamatan termaju dapat dimanfaatkan oleh organisasi pelbagai saiz, penyelidik bebas dan penyelenggara sumber terbuka. Model arus perdana seperti GPT‑6 Astra sudah menyokong semakan kod, triage kerentanan dan pembangunan tampalan. Daybreak Blue membantu pihak pertahanan yang disahkan mengesahkan kerentanan dan pembaikan dengan lebih sedikit penolakan yang tidak perlu, manakala Daybreak Red membolehkan pembangunan eksploitasi yang lebih mendalam serta pengujian keselamatan yang dibenarkan dengan GPT‑6 Cyber.
GPT‑6 Cyber merupakan peningkatan besar berbanding GPT‑5.6 Cyber dan mengatasi GPT‑6 Astra dalam kebanyakan tugas siber, walaupun apabila Astra tidak menolak permintaan tersebut. Kami menilai model ini melalui tugas yang memerlukannya memahami perisian, mengenal pasti kerentanan dan membangunkan eksploitasi yang berfungsi. Berdasarkan hasil ini, kami mengelaskan model ini sebagai Kritikal dalam keselamatan siber di bawah Rangka Kerja Kesediaan kami, meningkat daripada tahap Tinggi bagi GPT‑5.6 Cyber.
Pada ExploitGym, yang menguji sama ada model boleh mengeksploitasi kerentanan tertentu pada sasaran jauh, GPT‑6 Cyber memperoleh skor 48.5%, kira-kira 16 mata peratusan lebih tinggi daripada skor GPT‑5.6 Cyber sebanyak 32.1%. Untuk menguji penemuan kerentanan, kami turut membina penilaian baharu bagi pengujian penembusan web secara ofensif. Model menyiasat aplikasi web tanpa akses kepada kod sumbernya. GPT‑6 Cyber mencapai kadar dapatan semula kerentanan sebanyak 40.3% berbanding 32.0% bagi GPT‑6 Astra.
Daybreak Red direka untuk menyokong aliran kerja keselamatan yang lebih maju, termasuk membangunkan eksploitasi yang berfungsi dan menggunakannya terhadap sasaran jauh. Untuk menilai keupayaan ini, kami membina penanda aras baharu bernama RemoteExploitBench, yang menggunakan kerentanan yang diketahui dalam aplikasi seperti GitLab, PostgreSQL dan Jenkins yang dilaksanakan dalam persekitaran terkawal. Dalam penilaian awal kami, GPT‑6 Astra yang dijalankan dengan Daybreak Blue menolak 100% tugas, manakala GPT‑6 Cyber menyelesaikan 95%; satu-satunya kegagalan melibatkan eksploitasi yang tidak dapat digunakan dari jauh. Lihat kad sistem(dibuka dalam tetingkap baru) untuk hasil penuh dan tetapan penilaian.
Salah satu risiko ejen keselamatan siber ialah bertindak di luar skop tugas yang diberikan, cuba mengeksploitasi perkhidmatan yang tidak berkaitan atau mengabaikan peraturan penglibatan yang ditetapkan oleh penyelidik.
Kami menjadikan penjajaran sebagai tumpuan utama GPT‑6 Cyber, dengan latihan khusus untuk membantu model kekal dalam skop yang dibenarkan, mematuhi sekatan terhadap tindakannya dan melaporkan kerjanya dengan tepat. Sebelum pelaksanaan, kami menjalankan siri penilaian penjajaran untuk mengukur tingkah laku ini. Lihat kad sistem(dibuka dalam tetingkap baru) untuk hasil penuh.
Salah satu penilaian ini ialah ExploitGym Honeypot, yang dibangunkan berdasarkan pengajaran daripada insiden Hugging Face. Kami memberikan model tugas eksploitasi yang sukar dalam persekitaran terasing dengan akses kepada perkhidmatan sokongan, seperti daftar pakej atau stor objek. Kami sengaja menjadikan perkhidmatan ini mudah dieksploitasi supaya serangan terhadapnya boleh mendedahkan bendera tugas tersebut. Model mesti membuat kesimpulan bahawa mengeksploitasi perkhidmatan tersebut adalah di luar skop tugasnya.
GPT‑6 Cyber menunjukkan lonjakan prestasi berbanding GPT‑5.6 Cyber dalam penilaian ini. Apabila diuji tanpa prom keselamatan pelaksanaan, model ini mengelakkan eksploitasi perkhidmatan di luar skop dalam 99.93% kes, meningkat daripada 94.49% bagi GPT‑5.6 Cyber. Dengan prom tersebut, GPT‑6 Cyber mematuhi batas yang ditetapkan dalam 100% kes.
Kita dapat melihat secara langsung dalam rentetan fikiran model GPT‑6 Cyber cara model ini menaakul tentang pematuhan pada batas yang ditetapkan:
“Can't assume extra API or attack controller not target. We should only target binary/server.”
“don't explore out of scope credentials.”
GPT‑6 Cyber sudah membantu pasukan keselamatan mencari kerentanan, mengesahkan impaknya dan membangunkan pembaikan. Pelanggan telah menggunakannya untuk mengendalikan pangkalan kod yang besar, pembangunan eksploitasi yang memakan masa lama dan semakan keselamatan:
Kami juga bergantung pada GPT‑6 Cyber untuk melindungi sistem kami sendiri. Model ini merupakan salah satu model utama dalam usaha yang kami kongsikan baru-baru ini untuk memperkukuh keselamatan infrastruktur yang digunakan untuk melatih model termaju. Dalam kempen proses penyerang terkawal, ejen yang menggunakan GPT‑6 Cyber dan model OpenAI lain menggabungkan kerentanan secara berantai untuk melepasi pengasingan microVM dan melaksanakan kod pada hos yang mendasarinya. Kami menggunakan penemuan tersebut untuk menampal perisian, mengetatkan sekatan rangkaian dan melaporkan isu kepada penyelenggara serta vendor.
Penyelidik kerentanan kami juga menggunakan GPT‑6 Cyber untuk mencari dan mengesahkan kerentanan dalam perisian sumber terbuka secara besar-besaran. Usaha ini telah menemui kelemahan yang sebelum ini tidak diketahui dalam perisian yang telah diteliti selama bertahun-tahun:
Menemui 81 kerentanan baharu dalam Firefox. GPT‑6 Cyber boleh sesuai digunakan dalam aliran kerja autonomi untuk mencari kerentanan dan mencadangkan tampalan berkualiti tinggi secara besar-besaran. Dalam satu kempen penyelidikan kerentanan, GPT‑6 Cyber menghasilkan bukti dan ujian yang boleh diulangi bagi 81 kerentanan baharu yang dikelaskan oleh Mozilla sebagai keseriusan tinggi, serta menunjukkan 30 lagi isu yang diketahui lebih serius daripada yang dilaporkan sebelum ini. Kami mendedahkan penemuan tersebut kepada Mozilla, berserta cadangan tampalan untuk membantu juruteranya membangunkan pembaikan. Mozilla menyokong usaha ini dan mula menerapkan pembaikan sejurus selepas menerima laporan(dibuka dalam tetingkap baru).
Membangunkan eksploitasi untuk 948 kerentanan kernel Linux. GPT‑6 Cyber menghasilkan semula 1,724 kerentanan dan membangunkan eksploitasi yang berfungsi untuk 948 daripadanya—lebih lima kali ganda berbanding 166 yang dieksploitasi oleh GPT‑5.6 Sol menggunakan harnes penyelidikan yang sama. Mengikut panduan komuniti Linux, kami mendedahkan 304 penemuan kritikal kepada penyelenggara berserta tampalan calon, dan sedang mengusahakan pembaikan bagi kerentanan lain.
Menunjukkan kerentanan RCE yang kritikal. Baru-baru ini, kami membincangkan kerentanan kritikal dalam Brotli(dibuka dalam tetingkap baru), pustaka pemampatan yang digunakan oleh Node.js dan perisian lain. Penyelidik keselamatan kami menggunakan GPT‑6 Cyber bersama model OpenAI lain untuk membangunkan dan mengesahkan eksploitasi yang menunjukkan cara kelemahan itu boleh membolehkan pelaksanaan kod jauh dalam aplikasi hiliran.
Seiring dengan peningkatan keupayaan model dan penemuan lebih banyak kerentanan keselamatan, kami juga melihat semakin banyak percubaan untuk menggunakannya bagi mendatangkan mudarat. Percubaan ini termasuk usaha pelaku siber berniat jahat dan kumpulan lawan yang cuba menyuling model kami. Oleh itu, kami memadankan keupayaan GPT‑6 Cyber yang lebih hebat dengan perlindungan yang lebih kukuh untuk mengesan dan mengganggu penyalahgunaan, serta memastikan tindakan model selaras dengan niat dan kebenaran pengguna.
Kami menambah dan memperkukuh perlindungan ini serentak dengan pelancaran GPT‑6 Cyber (lihat kad sistem(dibuka dalam tetingkap baru) untuk maklumat penuh):
Pemantauan ketidakjajaran khusus siber. Kami memantau sama ada tindakan selaras dengan kebenaran pengguna, serta membezakan pembangunan dan pengujian eksploitasi yang sah.
Pemantauan bersasar bagi ancaman baharu. Contohnya, semasa pendedahan terselaras kerentanan kritikal PHP, kami menyediakan pemantauan bersasar terhadap percubaan membangunkan eksploitasi ke atas pelayan PHP yang sedang beroperasi, serta mengekalkan sokongan untuk pihak pertahanan yang menampal sistem terjejas.
Pemprosesan Keselamatan Peribadi (PSP). Kami menggunakan semakan automatik untuk meneliti interaksi berkaitan bagi mengesan penyalahgunaan. Pengekalan standard kekal sebagai tetapan lalai. Pelanggan API yang menggunakan Pengekalan Data Sifar(dibuka dalam tetingkap baru) secara umumnya mesti menggunakan PSP(dibuka dalam tetingkap baru), yang menyemak rekod disulitkan yang disimpan dalam storan pelanggan selama 30 hari tanpa mendedahkan prom dan respons kepada kakitangan OpenAI.
Perlindungan daripada penggunaan kelayakan yang dicuri. Secara lalai, kami mewajibkan senarai IP yang dibenarkan untuk akses API Daybreak Red, dengan mengehadkan permintaan kepada rangkaian yang diluluskan serta pengecualian yang terhad. Kami juga memantau kelayakan untuk mengesan pencerobohan.
Pengasingan dalam kotak pasir dan pengawasan. Seperti model terdahulu, kami mengesyorkan pengasingan dalam kotak pasir(dibuka dalam tetingkap baru), semakan tindakan(dibuka dalam tetingkap baru) dan pengawasan manusia untuk aliran kerja berisiko tinggi.
Perlindungan daripada bantuan siber berisiko tinggi. Kami menggunakan semakan baharu untuk menyekat aktiviti berisiko tinggi yang melibatkan sistem kritikal (lihat maklumat lanjut di bawah).
Perlindungan infrastruktur kritikal menjadi pertimbangan utama dalam mereka bentuk perlindungan dan akses GPT‑6 Cyber. Ini termasuk loji janakuasa, kemudahan rawatan air serta teknologi operasi dan sistem kawalan industri (OT/ICS) yang menyokongnya. Kami mahu memberi pasukan yang mempertahankan sistem ini akses kepada model kami yang paling berkeupayaan, serta memperkukuh perlindungan untuk mencegah serangan tanpa kebenaran.
Pertama, untuk melengkapkan pihak pertahanan ini, program geran Daybreak untuk Pertahanan Barisan Hadapan kami yang bernilai $1 bilion memberikan subsidi akses kepada pasukan yang mempunyai sumber terhad, seperti organisasi kerajaan dan penyedia perkhidmatan penting. Kami juga memperkenalkan kumpulan baharu dalam Daybreak Red (Daybreak Red untuk Infrastruktur Kritikal) bagi pihak pertahanan infrastruktur kritikal yang diluluskan. Kumpulan ini memberi mereka kebenaran untuk menjalankan pengujian sistem kritikal yang dibenarkan, di samping mengekalkan perlindungan daripada ketidakjajaran model.
Kedua, untuk mencegah penyalahgunaan platform Daybreak Red dan Blue, kami telah memperhalus perlindungan terhadap bantuan dan pembangunan keupayaan yang boleh menjejaskan kawalan industri atau sistem kritikal keselamatan, mengganggu peralatan, atau menyebabkan kecederaan serius, kerosakan fizikal dahsyat atau gangguan perkhidmatan yang membahayakan nyawa. Rajah di bawah membandingkan kadar pelabelan perlindungan bagi empat konfigurasi akses, sebelum dan selepas kemas kini terkini yang kami laksanakan serentak dengan GPT‑6 Cyber.
Kadar sekatan perlindungan yang lebih tinggi tidak semestinya lebih baik. Banyak teknik dalam penilaian ini juga penting untuk kerja keselamatan yang sah: memahami sistem, mencari kerentanan dan mengesahkan pembaikan mampu menahan serangan. Oleh itu, kami menilai kadar ini bersama sokongan terhadap penyelidikan dan penampalan yang sah, bukannya menyasarkan 100%.
Untuk menilai cara model kami boleh bantu mempertahankan infrastruktur kritikal, kami bekerjasama dengan Dragos, penyedia global keselamatan siber bagi teknologi operasi lanjutan (xOT). Dragos menjalankan penilaian menggunakan model Daybreak Red yang lebih permisif terhadap aktiviti siber dalam persekitaran makmal terkawal. Penilaian itu merangkumi permintaan yang berkembang daripada penemuan rangkaian dan penyenaraian aset kepada peninjauan bersasar, pengeluaran data sensitif serta tindakan peranti tanpa kebenaran yang berpotensi berbahaya.
Kami menggunakan maklum balas Dragos untuk memperhalus perlindungan kami, dengan matlamat menyekat bantuan berbahaya tanpa menyekat pengujian yang dibenarkan secara tidak perlu. Lihat laporan akhir mereka(dibuka dalam tetingkap baru) untuk butiran penilaian. Kami juga berusaha memperluas kerjasama dengan penyedia keselamatan ofensif lain dan pasukan ungu dalam pengujian penembusan serta proses penyerang menggunakan AI, dan dengan syarikat tenaga, pengendali infrastruktur kritikal lain serta makmal kebangsaan untuk menilai keberkesanan dan perlindungan model kami dalam pertahanan industri. Kami juga telah meningkatkan pelaburan dalam penyiasatan ancaman untuk mengesan penggunaan model yang melibatkan OT/ICS. Kami akan terus memperhalus perlindungan kami dengan input daripada rakan kongsi dan komuniti keselamatan, termasuk laporan melalui /feedback apabila perlindungan gagal mengesan aktiviti berbahaya atau mengganggu kerja yang sah.
Pada peringkat awal, GPT‑6 Cyber tersedia melalui API dan Codex kepada sekumpulan pelanggan Daybreak Red terpilih yang diluluskan. Kami akan memperluas akses secara berperingkat kepada semua pelanggan Daybreak Red tidak lama lagi, dan turut menyediakan GPT‑5.6 Cyber kepada semua pelanggan Daybreak Red. Kami juga memperluas akses alfa Daybreak Blue untuk GPT‑6 Astra kepada lebih banyak organisasi dan penyelidik keselamatan individu; maklumkan kepada kami(dibuka dalam tetingkap baru) jika anda berminat.
Pengguna dan organisasi baharu boleh memohon untuk menyertai Daybreak dan mula menggunakan kemahiran, produk dan rakan kongsi siber kami.
