Insiden OpenAI-Hugging Face(terbuka di jendela baru) merupakan momen penting bagi keamanan siber karena insiden ini memberi gambaran sekilas tentang bagaimana kemampuan pelaku ancaman pada umumnya akan berkembang dalam beberapa bulan mendatang. Saya telah berbicara dengan banyak organisasi selama beberapa minggu terakhir, dan satu tema terlihat jelas: mereka tahu bahwa mereka perlu secara mendasar meningkatkan praktik keamanan siber mereka dengan kecepatan yang belum pernah ada sebelumnya. Dalam postingan ini, saya akan membagikan apa yang kami lakukan untuk melindungi OpenAI, langkah-langkah konkret yang dapat diambil organisasi lain hari ini, dan mengapa sekarang adalah saatnya untuk bertindak.
Model AI yang dikembangkan di seluruh dunia semakin mampu mengotomatiskan bagian-bagian dari serangan siber dunia nyata, sehingga celah keamanan yang telah lama ada—mulai dari bug yang tertanam jauh di dalam perangkat lunak yang ditulis manusia hingga izin yang terlupakan—menjadi lebih mudah ditemukan dan dieksploitasi. Kemampuan AI yang sama memberi pembela cara baru untuk menemukan dan memperbaiki kelemahan tersebut, tetapi mereka harus bertindak sekarang. Jika perusahaan bertindak tegas—termasuk dengan meningkatkan fondasi mereka dan memperkuat tim mereka dengan AI—kita dapat membuat internet lebih aman daripada sebelumnya.
Dalam Insiden OpenAI-Hugging Face, sekumpulan agen mampu menembus secara otonom bukan hanya infrastruktur riset OpenAI tetapi juga infrastruktur produksi perusahaan lain, dengan merangkai kerentanan mulai dari celah keamanan yang sebelumnya tidak diketahui hingga menggunakan kredensial ke akun pengguna yang telah bocor ke internet. Semakin jelas bahwa utang teknis(terbuka di jendela baru) setiap perusahaan menutupi kelemahan yang signifikan, dan para pembela perlu menemukan serta memperbaikinya sebelum penyerang melakukannya.
Untuk memberikan keunggulan kepada para pembela dibandingkan penyerang, awal tahun ini kami mulai merilis kapabilitas siber kami hanya kepada pembela tepercaya. Sejak itu, berbagai perusahaan telah merilis open weight models dengan kapabilitas siber yang hanya tertinggal beberapa bulan dari model terdepan. Model yang terbaru di antara model-model ini tampaknya dijadwalkan untuk dirilis(terbuka di jendela baru) pada akhir Agustus, dan tampaknya kemungkinan akan secara signifikan mempercepat lanskap ancaman.
Meskipun penyerang yang didukung AI akan segera mampu menemukan kelemahan yang telah lama ada di banyak sistem yang sudah ada, AI juga akan sangat memudahkan pembela untuk menemukan, memprioritaskan, dan memperbaiki kelemahan yang sama tersebut. Keamanan masih merupakan permainan kucing-kucingan, tetapi AI mungkin dapat mengubah dinamika ekonominya(terbuka di jendela baru) dengan cara yang secara mendasar menguntungkan pembela. Sebagai contoh, kami mulai melatih model kami secara khusus untuk menulis kode yang keamanannya melampaui manusia. Model kami juga luar biasa dalam bukti matematika, yang dapat diterapkan untuk memverifikasi keamanan perangkat lunak secara formal dengan cara yang telah terbukti sulit diatasi oleh manusia.
Setelah insiden OpenAI-Hugging Face, saya meminta ChatGPT Work (menggunakan GPT‑5.6 Sol yang tersedia secara publik) untuk menilai keamanan gregbrockman.com(terbuka di jendela baru). Ini adalah situs statis sederhana, di-hosting di AWS dengan Cloudflare sebagai pintu depan, jadi saya memperkirakan tidak akan banyak area permukaan yang rentan.
Dalam waktu sekitar 15 menit, alat tersebut mengungkap 13 masalah, banyak di antaranya mungkin tidak dapat dieksploitasi secara mandiri—namun saya dapat membayangkan masalah-masalah tersebut dirangkai bersama kerentanan lain sehingga menghasilkan dampak yang signifikan. Saya belum mengonfigurasi catatan DNS saya untuk mencegah penyerang memalsukan email yang tampak berasal dari saya; situs saya menggunakan versi jQuery yang tidak aman; Cloudflare meneruskan permintaan ke AWS melalui HTTP yang tidak terenkripsi.
Saya kemudian meminta ChatGPT Work untuk memperbaiki masalah-masalah ini, yang dilakukannya selama satu jam. ChatGPT Work membuka panel kontrol Cloudflare di browser saya, lalu mengklik banyak tombol untuk mengonfigurasi DNS, TLS, dan pengaturan keamanan lanjutan dengan benar; menghapus jQuery sepenuhnya dari situs; memigrasikan saya dari AWS ke Cloudflare Pages; dan memulai peluncuran bertahap DMARC(terbuka di jendela baru).
Dan ini hanyalah situs web pribadi saya. Ini adalah contoh kecil tentang bagaimana model kami yang sudah ada dapat beroperasi sebagai penjaga keamanan siber—menemukan masalah yang jarang terdeteksi dan tidak sempat atau tidak memiliki keahlian untuk dijangkau oleh manusia (banyak pengaturan yang diperbaikinya adalah yang agak saya kenal, tetapi saya tidak akan langsung tahu cara yang tepat untuk mengonfigurasikannya), lalu memperbaikinya dengan rencana peluncuran yang disesuaikan dengan tepat.
Insiden Hugging Face menunjukkan bahwa kami meremehkan kemampuan siber dunia nyata dari model AI kami. Kami memperkuat persyaratan keselamatan kami sebagai langkah penyesuaian, yang pada gilirannya semakin meningkatkan urgensi penelitian keselamatan serta upaya keamanan internal kami saat ini.
Saya membagikan sedikit informasi mengenai pendekatan kami dalam mengamankan OpenAI saat ini, dengan harapan hal ini dapat berguna bagi organisasi lain. Untuk melindungi OpenAI, kami berinvestasi secara signifikan dalam kontrol dasar—melakukan hal-hal mendasar dengan benar—dan memberdayakan pertahanan kami melalui kecerdasan terdepan. Ada empat pilar utama dalam strategi ini.
Pertama, kami menggunakan model kami untuk membantu mengamankan kode kami. Codex, termasuk plugin keamanan kami, memvalidasi perubahan kode, mengidentifikasi kerentanan, dan membantu pengembang memperbaiki masalah sebelum diterapkan. Hal yang justru ingin dihindari adalah sekadar menghasilkan lebih banyak temuan keamanan yang memerlukan validasi oleh manusia; tujuannya adalah menangkap kerentanan nyata sebelum dirilis dan mempersingkat proses dari menemukan masalah hingga menerapkan perbaikan secara aman. Seiring kami terus melatih model kami untuk menghasilkan kode yang semakin aman, kami bertujuan menghilangkan beberapa jenis kerentanan perangkat lunak pada kode yang baru dibuat.
Kedua, kami terus-menerus memanfaatkan model kami untuk mempertahankan infrastruktur kami. Saat ini, hampir semua peringatan keamanan awal kami ditriase oleh kecerdasan buatan sebelum manusia dilibatkan. Hal ini membantu mengurangi pekerjaan repetitif yang membebani pembela siber, meningkatkan waktu respons, dan memungkinkan manusia meluangkan waktu di area tempat keterampilan mereka paling optimal dimanfaatkan—dalam ketajaman analisis, penilaian, dan keahlian terapan. Kami semakin menghubungkan deteksi ini ke respons otomatis yang dibatasi, dengan tetap menempatkan manusia sebagai pihak yang bertanggung jawab atas keputusan dengan dampak tertinggi. Tujuannya adalah memastikan kami dapat mendeteksi dan merespons masalah keamanan dengan kecepatan mesin.
Ketiga, kami memanfaatkan intelijen mutakhir untuk terus mendata, menyelidiki, dan mengidentifikasi potensi jalur serangan. Dengan mengidentifikasi kerentanan, kesalahan konfigurasi, identitas dengan hak istimewa berlebihan, atau batas kepercayaan yang tidak disengaja, kami dapat dengan cepat mengidentifikasi dan menutup celah-celah ini sebelum dapat disalahgunakan oleh penyerang. Hal ini memungkinkan kami untuk menilai, memantau, dan menguji secara berkelanjutan invarian keamanan kami—properti keamanan yang kami yakini benar—di seluruh produk, infrastruktur, dan sistem kami.
Terakhir, kami berinvestasi besar-besaran pada hal-hal mendasar dalam skala besar. Kami terus berinvestasi dalam arsitektur dan kontrol keamanan, menerapkan strategi seperti pertahanan berlapis dan prinsip hak akses minimum, serta merancang sistem yang mensyaratkan beberapa kontrol independen gagal secara bersamaan agar suatu peristiwa yang berdampak fatal dapat terjadi. Kontrol keamanan tradisional seperti isolasi jaringan, penguatan beban kerja, pemantauan, serta penerapan patch dan penyebaran yang aman akan menjadi lebih penting dari sebelumnya di masa depan AI.
Waktu sangat mendesak, dan para pembela perlu menjalankan langkah-langkah di bawah ini dengan kecepatan penuh. Di bawah ini saya akan menyebutkan teknologi OpenAI, tetapi ada banyak pesaing dalam ekosistem yang juga perlu dievaluasi. Yang lebih penting bukanlah alat spesifiknya, melainkan menghadirkan AI yang mumpuni ke tangan pembela Anda saat ini juga.
- Dapatkan komitmen dan dukungan organisasi. Kami sedang mengalami perubahan cepat dalam risiko keamanan—pastikan organisasi keamanan dan rekayasa Anda memiliki dukungan, kemitraan, dan sumber daya untuk menangani risiko ini dengan cepat. Lakukan latihan simulasi bersama tim Anda untuk memodelkan bagaimana serangan ini mungkin dapat terjadi di organisasi Anda dan bagaimana Anda akan meresponsnya.
- Berikan agen kepada tim keamanan Anda. Mulai gunakan Codex, plugin Codex Security(terbuka di jendela baru), atau alat pengodean agentik dan keamanan lain yang mumpuni. Berikan akses yang telah disetujui ke basis kode, konfigurasi infrastruktur, dan dokumentasi teknis yang perlu dinilai oleh tim keamanan Anda. Jangan menunggu peluncuran di seluruh perusahaan untuk memulai dengan sistem prioritas tertinggi Anda.
- Bekali agen tersebut dengan keahlian keamanan. Mulailah dari keterampilan(terbuka di jendela baru) yang didukung komunitas, yang mencakup alur kerja untuk analisis statis, peninjauan kode yang berfokus pada keamanan, analisis varian kerentanan, risiko rantai pasok perangkat lunak, dan alur kerja keamanan lainnya. Kemudian bangun keterampilan Anda sendiri seputar arsitektur organisasi, standar keamanan, model ancaman, dan buku panduan organisasi Anda.
- Segera jalankan penilaian keamanan terhadap sistem Anda sendiri. Prioritaskan penilaian terhadap layanan yang terekspos ke internet, alur autentikasi, infrastruktur sebagai kode, alur penerapan, dan sistem yang menangani informasi sensitif terlebih dahulu. Perluas cakupan pemindaian Anda seiring meningkatnya kepercayaan diri tim Anda.
- Tangani kerentanan yang telah menumpuk. Berikan temuan dari pemindai kode kepada agen Anda, peringatan dependensi, tiket keamanan, laporan bug bounty, dan penilaian sebelumnya. Mintalah agen melakukan triase terhadap temuan tersebut, membedakan masalah yang dapat dieksploitasi dari temuan yang tidak relevan, mengidentifikasi kerentanan terkait di bagian lain basis kode, dan merekomendasikan apa yang harus diperbaiki terlebih dahulu.
- Integrasikan tinjauan keamanan langsung ke dalam proses pengembangan Anda. Gunakan agen untuk meninjau perubahan kode sebelum digabungkan dan menjalankan pemeriksaan keamanan di CI. Cari kesalahan autentikasi, bypass kontrol akses, kredensial yang terekspos, dependensi yang tidak aman, pengaturan default yang tidak aman, perubahan yang memperluas akses ke sistem produksi, dan kerentanan lainnya.
- Minta agen untuk membantu memperbaiki apa yang ditemukan. Untuk masalah yang telah divalidasi, minta agen membuat dan memverifikasi patch terfokus, menulis uji regresi, dan mengonfirmasi bahwa kerentanan tidak lagi dapat direproduksi. Pertahankan peninjauan manusia untuk perubahan yang berdampak besar, tetapi hilangkan penundaan yang tidak perlu antara saat masalah nyata teridentifikasi dan saat perbaikan yang aman disajikan kepada engineer.
- Otomatiskan triase deteksi secara bertahap. Jangan memulai dengan mencoba membangun pusat operasi keamanan yang otonom. Mulailah dengan menjalankan pemindaian keamanan hanya-baca terhadap satu repositori, atau minta agen meninjau peringatan yang sebelumnya telah diselesaikan menggunakan akses hanya-baca ke log Anda yang sudah ada. Biarkan sistem ini merangkum bukti dan merekomendasikan disposisi, sementara manusia tetap mengambil setiap keputusan. Seiring meningkatnya keyakinan, beralihlah ke pemindaian pull request berbasis saran, lalu triase peringatan langsung, lalu penutupan otomatis untuk positif palsu yang didefinisikan secara sempit.
- Pastikan kemampuan investigasi forensik berbantuan AI siap sebelum Anda membutuhkannya. Ajukan permohonan untuk Trusted Access for Cyber(terbuka di jendela baru) dan dapatkan persetujuan bagi tim Anda untuk menggunakan GPT‑Daybreak‑Blue untuk pekerjaan defensif yang diotorisasi, termasuk respons insiden, rekayasa deteksi, dan analisis malware. Berlatih menggunakan kemampuan ini untuk menganalisis log, telemetri, dan peringatan keamanan.
- Lakukan eksperimen, jalankan pekan hack, dan iterasi dengan cepat. Kami perlu membangun berbagai macam alat baru, mengubah cara kami bekerja, dan meningkatkan kemampuan semua orang untuk dunia yang sedang kami tuju. Dorong tenaga kerja Anda untuk melakukan eksperimen, menjadwalkan pekan hack guna membangun kapabilitas baru, dan fokus pada iterasi cepat yang mengotomatiskan bagian-bagian kecil dari masalah tersebut. Kemajuan bertahap yang cepat menghasilkan hasil pertahanan yang berlipat ganda, dan Anda dapat memperluas otonomi secara bertahap seiring tim Anda membangun kepercayaan diri.
Tidak ada perusahaan yang dapat melakukan ini sendirian. Kami meminta agar lab AI, vendor keamanan, perusahaan, dan pemelihara berbagi temuan yang telah divalidasi, perbaikan, dan panduan operasional praktis, sehingga penemuan dari satu organisasi dapat memperkuat seluruh ekosistem.
Jendela pembela sekarang terbuka. Dalam beberapa bulan mendatang, setiap organisasi perlu mulai mengotomatiskan program keamanannya secara signifikan agar tetap aman, dan komunitas keamanan harus segera bergerak untuk menetapkan alat, praktik, dan playbook yang akan meningkatkan kemampuan pembela lebih cepat daripada penyerang seiring dengan terus berkembangnya AI. Ini akan membutuhkan upaya yang sangat besar dan belum pernah terjadi sebelumnya, tetapi jika kita bersatu, kita dapat mewujudkan dunia yang lebih aman daripada yang sebelumnya dapat dibayangkan.
