Memperkuat ketahanan siber seiring dengan kemajuan kapabilitas AI

Kapabilitas siber dalam model AI berkembang pesat, membawa manfaat yang berarti bagi pertahanan siber sekaligus risiko penggunaan ganda baru yang harus dikelola dengan cermat. Sebagai contoh, kapabilitas yang dinilai melalui tantangan capture-the-flag (CTF) telah meningkat dari 27% pada GPT‑5⁠(terbuka di jendela baru) pada Agustus 2025 menjadi 76% pada GPT‑5.1‑Codex‑Max⁠(terbuka di jendela baru) pada November 2025.

Kami berharap bahwa model AI yang akan datang akan melanjutkan arah perkembangan ini; sebagai persiapan, kami merencanakan dan mengevaluasi seolah-olah setiap model baru dapat mencapai tingkat kapabilitas keamanan siber 'Tinggi', sebagaimana diukur oleh Kerangka Kerja Kesiapan⁠(terbuka di jendela baru) kami. Maksud kami, model yang dapat mengembangkan eksploit jarak jauh zero-day yang berfungsi terhadap sistem yang memiliki pertahanan kuat, maupun secara signifikan membantu operasi intrusi perusahaan atau industri yang kompleks dan tersembunyi yang ditujukan untuk menghasilkan efek di dunia nyata. Postingan ini menjelaskan bagaimana kami memandang langkah-langkah pengamanan untuk model yang mencapai tingkat kapabilitas ini, serta memastikan bahwa model tersebut secara signifikan membantu tim keamanan siber sekaligus membatasi penyalahgunaan.

Seiring dengan semakin berkembangnya kapabilitas ini, OpenAI berinvestasi dalam memperkuat model kami untuk tugas keamanan siber defensif dan menciptakan alat yang memungkinkan tim keamanan siber untuk lebih mudah menjalankan alur kerja seperti mengaudit kode dan menambal kerentanan. Tujuan kami adalah agar model dan produk kami memberikan keuntungan yang signifikan bagi para tim keamanan siber, yang sering kali kalah jumlah dan kekurangan sumber daya.

Seperti domain kegunaan ganda lainnya, alur kerja siber defensif dan ofensif sering kali bergantung pada pengetahuan dan teknik dasar yang sama. Kami berinvestasi dalam langkah-langkah pengamanan untuk memastikan bahwa kemampuan canggih ini utamanya bermanfaat untuk penggunaan defensif serta membatasi peningkatan potensi penggunaannya untuk tujuan berbahaya. Keamanan siber mencakup hampir semua bidang, yang berarti kita tidak dapat mengandalkan satu langkah pengamanan saja—seperti membatasi pengetahuan atau hanya menggunakan akses yang telah diverifikasi—melainkan memerlukan pendekatan pertahanan berlapis yang seimbang dan memberdayakan pengguna. Dalam praktiknya, hal ini berarti membentuk cara kemampuan diakses, diarahkan, dan diterapkan sehingga model canggih dapat memperkuat keamanan, bukan justru mengurangi hambatan terhadap penyalahgunaan.

Kami memandang pekerjaan ini bukan sebagai upaya satu kali, melainkan sebagai investasi berkelanjutan jangka panjang untuk memberikan keunggulan bagi tim keamanan siber dan terus memperkuat postur keamanan infrastruktur kritis di seluruh ekosistem yang lebih luas.

Model kami dirancang dan dilatih untuk beroperasi dengan aman, didukung oleh sistem proaktif yang mendeteksi dan merespons penyalahgunaan siber. Kami terus menyempurnakan perlindungan ini seiring dengan perubahan kemampuan kami dan lanskap ancaman. Meskipun tidak ada sistem yang dapat menjamin pencegahan penyalahgunaan secara menyeluruh dalam keamanan siber tanpa sangat mengganggu penggunaan defensif, strategi kami adalah memitigasi risiko melalui lapisan pengamanan berlapis.

Sebagai dasar dari pendekatan ini, kami menerapkan pendekatan pertahanan berlapis, dengan mengandalkan kombinasi kontrol akses, penguatan infrastruktur, kontrol egress, dan pemantauan. Kami melengkapi langkah-langkah ini dengan sistem deteksi dan respons, serta program intelijen ancaman dan risiko internal yang khusus, sehingga ancaman yang muncul dapat diidentifikasi dan diblokir dengan cepat. Langkah-langkah pengamanan ini dirancang untuk berkembang seiring dengan lanskap ancaman. Kami mengantisipasi perubahan, dan kami membangun sistem agar dapat menyesuaikan diri dengan cepat dan tepat.

Berdasarkan dasar pendekatan ini:

• Melatih model untuk menolak atau merespons dengan aman terhadap permintaan berbahaya sambil tetap membantu untuk kasus penggunaan edukatif dan defensif: Kami melatih model terdepan kami untuk menolak atau merespons dengan aman terhadap permintaan yang dapat memungkinkan penyalahgunaan siber yang jelas, sambil tetap semaksimal mungkin membantu untuk kasus penggunaan edukatif dan defensif yang sah.
• Sistem deteksi: Kami menyempurnakan dan memelihara pemantauan di seluruh sistem pada produk yang menggunakan model terdepan untuk mendeteksi aktivitas siber yang berpotensi berbahaya. Saat aktivitas tampak tidak aman, kami dapat memblokir output, mengarahkan prompt ke model yang lebih aman atau kurang mampu, atau meneruskannya untuk ditindak. Proses penindakan kami menggabungkan peninjauan otomatis dan manusia, dengan mempertimbangkan faktor-faktor seperti persyaratan hukum, tingkat keparahan, dan perilaku yang berulang. Kami juga bekerja sama secara erat dengan pengembang dan pelanggan perusahaan untuk menyelaraskan standar keamanan dan memungkinkan penggunaan yang bertanggung jawab dengan jalur eskalasi yang jelas.
• Red teaming menyeluruh: Kami bekerja sama dengan organisasi red teaming yang ahli untuk mengevaluasi dan meningkatkan langkah mitigasi keamanan kami. Tugas mereka adalah mencoba melewati semua pertahanan kami dengan bekerja secara menyeluruh, seperti yang mungkin dilakukan oleh pihak jahat yang gigih dan memiliki sumber daya yang memadai. Hal ini membantu kami mengidentifikasi celah sejak dini dan memperkuat keseluruhan sistem.

OpenAI telah melakukan investasi sejak dini dalam penerapan AI untuk kasus penggunaan keamanan siber defensif, dan tim kami berkoordinasi secara erat dengan para ahli global guna mematangkan baik model-model kami maupun penerapannya. Kami menghargai komunitas global praktisi keamanan siber yang bekerja keras untuk menjadikan dunia digital kita lebih aman dan berkomitmen untuk menghadirkan alat bantu canggih yang mendukung keamanan defensif. Seiring dengan diterapkannya langkah-langkah pengamanan baru, kami akan terus bekerja sama dengan komunitas keamanan siber untuk memahami di mana AI dapat secara signifikan memperkuat ketahanan, dan di mana langkah-langkah pengamanan yang dirancang dengan cermat menjadi hal yang paling penting.

Selain kolaborasi ini, kami tengah membangun serangkaian upaya yang dirancang untuk membantu tim keamanan siber bergerak lebih cepat, mendasarkan langkah-langkah pengamanan kami pada kebutuhan di dunia nyata, dan mempercepat remediasi yang bertanggung jawab dalam skala besar.

Kami akan segera memperkenalkan program akses tepercaya di mana kami menjajaki pemberian akses bertingkat ke kapabilitas yang berjenjang dalam model terbaru kami untuk kasus penggunaan defensif bagi pengguna dan pelanggan yang memenuhi syarat yang bergerak di bidang pertahanan siber. Kami masih menjajaki batasan yang tepat mengenai kemampuan mana yang dapat kami berikan akses luasnya, dan mana yang memerlukan pembatasan berjenjang, yang dapat memengaruhi desain program ini di masa mendatang. Kami bertujuan agar program akses tepercaya ini menjadi fondasi menuju ekosistem yang tangguh.

Aardvark, peneliti keamanan agentik kami yang membantu pengembang dan tim keamanan menemukan serta memperbaiki kerentanan dalam skala besar, kini hadir dalam private beta. Aardvark memindai basis kode untuk menemukan kerentanan dan mengusulkan tambalan yang dapat segera diterapkan oleh pemelihara. Aardvark telah mengidentifikasi CVE baru dalam perangkat lunak sumber terbuka dengan melakukan penalaran di seluruh basis kode. Kami berencana untuk menawarkan cakupan gratis kepada repositori sumber terbuka non-komersial tertentu guna berkontribusi terhadap keamanan ekosistem dan rantai pasokan perangkat lunak sumber terbuka. Daftar untuk berpartisipasi di sini.

Kami akan membentuk Frontier Risk Council, sebuah dewan penasihat yang akan menghadirkan tim keamanan siber berpengalaman dan praktisi keamanan untuk berkolaborasi erat dengan tim kami. Dewan ini akan fokus pada keamanan siber pada awal dibentuknya, dan akan diperluas ke domain kemampuan terdepan lainnya di masa mendatang. Para anggota akan memberikan masukan mengenai batas antara kemampuan yang berguna dan bertanggung jawab dengan potensi penyalahgunaan, dan pembelajaran ini akan secara langsung menjadi dasar bagi evaluasi dan langkah-langkah pengamanan kami. Kami akan segera membagikan lebih banyak informasi tentang dewan ini. 

Terakhir, kami memperkirakan bahwa penyalahgunaan siber mungkin dapat dilakukan dari model terdepan mana pun di industri ini. Untuk mengatasi hal ini, kami bekerja sama dengan laboratorium terdepan lainnya melalui Frontier Model Forum, sebuah organisasi nirlaba yang didukung oleh laboratorium AI terkemuka dan mitra industri, untuk mengembangkan pemahaman bersama tentang model ancaman dan praktik terbaik. Dalam konteks ini, pemodelan ancaman membantu memitigasi risiko dengan mengidentifikasi bagaimana kemampuan AI dapat dipersenjatai, di mana hambatan kritis ada bagi pelaku ancaman yang berbeda, dan bagaimana model terdepan dapat memberikan peningkatan yang berarti. Kolaborasi ini bertujuan untuk membangun pemahaman yang konsisten di seluruh ekosistem tentang pelaku ancaman dan jalur serangan, sehingga memungkinkan lab, pemelihara, dan pihak pertahanan untuk lebih meningkatkan langkah mitigasi mereka serta memastikan wawasan keamanan yang penting dapat tersebar dengan cepat di seluruh ekosistem. Kami juga berkolaborasi dengan tim eksternal untuk mengembangkan evaluasi keamanan siber⁠(terbuka di jendela baru). Kami berharap ekosistem evaluasi independen akan semakin membantu membangun pemahaman bersama tentang kemampuan model.

Bersama-sama, upaya ini mencerminkan komitmen jangka panjang kami untuk memperkuat sisi defensif ekosistem. Seiring semakin canggihnya model, tujuan kami adalah membantu memastikan kemampuan tersebut menghasilkan manfaat nyata bagi para tim keamanan siber—berdasarkan kebutuhan dunia nyata, dibentuk oleh masukan para ahli, dan diterapkan dengan penuh kehati-hatian. Selain dengan upaya ini, kami berencana menjajaki inisiatif dan hibah keamanan siber lain untuk membantu memunculkan ide-ide terobosan yang mungkin tidak muncul dari jalur tradisional, serta menghimpun pertahanan yang berani dan kreatif secara kolektif dari kalangan akademisi, industri, dan komunitas sumber terbuka. Secara keseluruhan, ini adalah upaya yang sedang berlangsung, dan kami memperkirakan akan terus mengembangkan program-program ini seiring kami mempelajari apa yang paling efektif dalam memajukan keamanan di dunia nyata.