Block membangun keamanan berbasis AI dengan teknologi OpenAI

Di Block, perusahaan di balik Square, Cash App, dan Afterpay, tim keamanan memanfaatkan OpenAI Defense Factory: AI menangani penemuan kerentanan, deteksi, dan respons dalam skala yang tidak dapat diimbangi oleh tim manusia mana pun. Dengan sistem AI termasuk OpenAI Daybreak, Block hanya membutuhkan hitungan jam untuk menyelesaikan pekerjaan yang sebelumnya memakan waktu berminggu-minggu.

Tim keamanan Block berfokus pada adopsi AI yang bertanggung jawab di seluruh alur kerja, baik untuk pembuatan kode maupun operasi keamanan. “Intinya adalah memiliki rekan tim baru yang dapat mendukung peningkatan skala kerja Anda,” kata James Nettesheim, Kepala Keamanan Informasi. “Ini berbeda dari otomatisasi konvensional yang mengharuskan Anda menentukan setiap langkah. Anda bisa memberikan prompt berisi masalah yang cukup spesifik dan ambigu, lalu menyelesaikannya bersama.”

Pekerjaan seperti meninjau bug perangkat lunak atau mengurai log biasanya membutuhkan waktu berhari-hari atau berminggu-minggu. Kini tim dapat menyelesaikan pekerjaan tersebut dalam waktu jauh lebih singkat, dengan manusia tetap memvalidasi setiap hasilnya.

Misalnya, untuk penyetelan deteksi, setiap investigasi menyimpan bukti mentah hasil kueri. Dengan begitu, tim kini dapat menguji ulang usulan perubahan deteksi menggunakan data telemetri produksi selama tujuh bulan dalam waktu kurang dari satu jam. Sebelumnya, pekerjaan itu mengharuskan tim menjalankan ulang kueri untuk ratusan kasus lama secara manual, dan dalam praktiknya jarang dilakukan karena begitu menyita waktu.

Tim juga semakin selektif dalam memilih model untuk setiap pekerjaan. “Dulu kami selalu menggunakan model terbaru, tetapi sekarang itu tidak perlu lagi,” ujarnya. “Kami terus belajar memilih model yang berbeda untuk tugas yang berbeda.” Harness keamanan Block dibangun di atas Daybreak untuk membantu mengarahkan tugas ke model yang tepat, serta dilengkapi mekanisme bagi manusia untuk mengambil alih tugas atau bagi agen untuk memverifikasi pekerjaan satu sama lain. Tim terus mengevaluasi sistem ini berdasarkan tolok ukur internal dan kinerja di dunia nyata, lalu menyesuaikan pendekatannya bila perlu, termasuk mengarahkan pekerjaan untuk ditinjau manusia jika itulah langkah yang bertanggung jawab.

Sistem triase otomatis memungkinkan lebih banyak pekerjaan diselesaikan dengan lebih cepat. Tim keamanan Block mencatat kenaikan throughput triase sebesar 50%, peningkatan pengumpulan intelijen dan investigasi sebesar 50%, serta kemampuan perburuan ancaman otonom yang sepenuhnya baru. Nettesheim mengatakan, “Sistem ini melakukan investigasi setara sekitar 1.100 jam kerja analis per kuartal, karena setiap peringatan kini diinvestigasi secara menyeluruh dan mendalam, mencakup semua unsur yang terkait. Sistem kami menangani setiap peringatan seolah-olah itulah satu-satunya peringatan yang kami terima hari itu.”

Alat pemindaian konvensional menandai satu kerentanan secara terpisah, tetapi tim keamanan Block dapat melangkah jauh lebih dalam dengan Daybreak. Model ini membantu menyusun hipotesis tentang pola serangan dan merangkai serangkaian serangan menjadi jalur pembobolan lengkap dari awal hingga akhir, sehingga mengungkap kerentanan yang mungkin sudah ada selama bertahun-tahun.

Dalam satu kasus, peringatan pada sebuah laptop tampak seperti masalah kebijakan ringan jika dilihat secara terpisah. Namun, saat peninjauan sejawat, model menelusuri indikator yang hanya muncul secara sepintas dalam bukti, menghubungkannya dengan log identitas Block, dan mengungkap rangkaian masalah yang jauh lebih besar. “Satu peringatan rutin pada perangkat berujung pada penggagalan operasi serangan. Tidak ada satu alat pun yang dapat membuat keterkaitan itu sendirian. Sinyalnya baru terlihat ketika log dari dua produk dihubungkan,” kata James.

Contoh lain manfaat Daybreak terlihat dalam latihan tim merah baru-baru ini. Model diberi beberapa petunjuk tentang sistem internal, lalu merangkai jalur serangan lengkap—injeksi SQL, eskalasi hak akses, perolehan akses awal, enumerasi kredensial, dan pergerakan ke sistem lain—dalam waktu sekitar dua jam. Biasanya, praktisi red teaming manusia membutuhkan beberapa hari untuk melakukan ini. Dalam latihan tim merah baru-baru ini, waktu dari pelaporan kerentanan tingkat tinggi hingga usulan patch otomatis adalah 18 menit.

Menemukan kerentanan hanya bermanfaat jika diimbangi kemampuan untuk memperbaikinya. Nettesheim menjelaskan proses yang diterapkan timnya pada setiap temuan: menentukan lokasi masalah dalam kode dan siapa yang bertanggung jawab atasnya, lalu beralih ke perbaikan. “Anda mengusulkan patch, memastikan apakah kerentanan dapat dieksploitasi, lalu memverifikasi bahwa masalahnya sudah diperbaiki, dengan manusia tetap terlibat untuk memandu proses dan menerapkan perubahan kode.”

Meski mampu secara teknis, agen tidak memiliki pemahaman tentang konteks organisasi atau alasan di balik keputusan sebelumnya. Manusialah yang memberikan konteks dan strategi tersebut, dan di sinilah timnya berperan dengan memberikan lapisan peninjauan oleh manusia. Seiring terbuktinya kemampuan AI mengambil keputusan dalam praktik, Nettesheim mengatakan, “kami akan perlahan meningkatkan tingkat risiko yang dipercayakan kepadanya agar dapat menggunakannya untuk sistem yang lebih sensitif.”

• Kurang dari satu jam untuk menguji ulang usulan perubahan deteksi menggunakan data telemetri selama tujuh bulan.

• 18 menit dari pelaporan kerentanan tingkat tinggi hingga usulan patch otomatis dalam latihan tim merah baru-baru ini.

• Sekitar 600 jam kerja analis per kuartal dihemat dari triase positif palsu.

• Investigasi setara sekitar 1.100 jam kerja analis diselesaikan per kuartal.

• Kenaikan throughput triase sebesar 50%.

• Peningkatan pengumpulan intelijen dan investigasi sebesar 50%.

Pekerjaan deteksi dan respons saja telah menghemat sekitar 600 jam kerja analis per kuartal yang sebelumnya digunakan untuk melakukan triase positif palsu. Dengan waktu yang dihemat itu, tim kini mencurahkan lebih banyak waktu untuk investigasi mendalam dan membangun lebih banyak otomatisasi secara bertanggung jawab.

Seiring meningkatnya laju serangan dan terus berkembangnya model AI, Nettesheim melihat peluang untuk mencegah munculnya lebih banyak kerentanan sejak awal. Dengan begitu, tim keamanan dapat mengurangi waktu untuk menerapkan patch dan mencurahkan lebih banyak waktu pada pekerjaan preventif dan strategis.

“OpenAI mengalihkan keunggulan ke pihak pertahanan dengan menyediakan kemampuan canggih ini bagi semua orang,” ujarnya. “Sebelumnya, kemampuan ini biasanya hanya dimiliki perusahaan teknologi ternama dan pemerintah. Namun kini, semua pihak, termasuk pengelola infrastruktur kritis, sekolah, dan usaha kecil, dapat mulai memanfaatkan teknologi ini untuk melindungi jaringan mereka.”