Block membina keselamatan AI dengan teknologi OpenAI

Di Block, syarikat di sebalik Square, Cash App dan Afterpay, pasukan keselamatannya memanfaatkan OpenAI Defense Factory: tempat AI mengendalikan penemuan kerentanan, pengesanan dan respons pada skala yang tidak mampu ditandingi oleh mana-mana pasukan manusia. Dengan sistem AI termasuk OpenAI Daybreak, Block kini hanya mengambil masa beberapa jam untuk menyiapkan kerja yang dahulunya memakan masa berminggu-minggu.

Pasukan keselamatan Block memberi tumpuan pada penggunaan AI secara bertanggungjawab dalam pelbagai aliran kerja, sama ada penjanaan kod atau operasi keselamatan. “Intinya ialah mempunyai rakan sepasukan baharu yang membolehkan anda meningkatkan skala kerja,” kata James Nettesheim, Ketua Pegawai Keselamatan Maklumat. “Ini bukan seperti automasi tradisional yang memerlukan anda menetapkan setiap langkah satu demi satu. Anda boleh memberinya prom tentang masalah yang agak khusus dan kurang jelas, kemudian menyelesaikannya bersama-sama.”

Projek seperti menyemak pepijat perisian atau menghuraikan log dahulunya mengambil masa berhari-hari atau berminggu-minggu untuk disiapkan. Kini, pasukan itu boleh menyiapkan projek tersebut dalam masa yang jauh lebih singkat, dengan manusia masih mengesahkan setiap hasil.

Sebagai contoh, untuk penalaan pengesanan, bukti pertanyaan mentah disimpan bagi setiap siasatan. Jadi, pasukan itu kini boleh menguji semula cadangan perubahan pengesanan menggunakan data telemetri persekitaran produksi selama tujuh bulan dalam masa kurang daripada sejam. Dahulu, kerja ini memerlukan pertanyaan dijalankan semula secara manual terhadap ratusan kes lama, dan secara praktikalnya jarang dilakukan kerana terlalu memakan masa.

Pasukan itu juga kini lebih teliti dalam memilih model untuk setiap jenis kerja. “Dahulu kami menggunakan model terkini, tetapi kini itu tidak lagi perlu,” katanya. “Memilih model yang berbeza untuk tugas yang berbeza telah menjadi satu pengalaman pembelajaran.” Harnes keselamatan Block dibina berasaskan Daybreak untuk membantu menyalurkan tugas kepada model yang sesuai, dan merangkumi mekanisme yang membolehkan manusia mengambil alih tugas atau ejen saling mengesahkan kerja. Pasukan itu sentiasa menilai sistem ini berdasarkan penanda aras dalaman dan prestasi dunia sebenar, serta menyesuaikan pendekatannya apabila perlu, termasuk menyerahkan kerja untuk semakan manusia apabila itulah tindakan yang bertanggungjawab.

Sistem triage automatik membolehkan lebih banyak kerja disiapkan dengan lebih pantas. Pasukan keselamatan Block telah mencatat peningkatan 50% dalam daya pemprosesan triage, peningkatan 50% dalam pengumpulan risikan dan siasatan, serta memperoleh keupayaan pemburuan ancaman autonomi yang serba baharu. Nettesheim berkata, “Sistem ini menjalankan siasatan yang setara dengan kira-kira 1,100 jam kerja penganalisis setiap suku tahun, kerana setiap amaran kini disiasat secara menyeluruh dan mendalam, meliputi semua unsur yang terlibat. Sistem kami mengendalikan setiap amaran seolah-olah itulah satu-satunya amaran yang kami terima pada hari itu.”

Alat pengimbasan tradisional menandai satu kerentanan secara berasingan, tetapi pasukan keselamatan Block boleh melakukan lebih banyak lagi dengan Daybreak. Model ini membantu membentuk hipotesis tentang corak serangan dan merangkaikan siri serangan menjadi laluan pencerobohan lengkap dari awal hingga akhir, sekali gus mendedahkan kerentanan yang mungkin telah wujud selama bertahun-tahun.

Dalam satu kes, amaran pada sebuah komputer riba kelihatan seperti isu dasar yang kecil apabila dilihat secara berasingan. Namun, semasa semakan rakan setara, model itu menjejaki petunjuk yang hanya muncul secara kebetulan dalam bukti, memadankannya dengan log identiti Block, lalu mendedahkan rangkaian isu yang jauh lebih besar. “Satu amaran titik akhir yang rutin membawa kepada kejayaan menumpaskan kempen serangan. Tiada satu alat pun yang dapat membuat perkaitan itu secara sendirian. Petunjuk itu hanya dapat dikesan apabila log daripada dua produk digabungkan,” kata James.

Satu lagi contoh bantuan Daybreak ialah semasa latihan pasukan penyerang baru-baru ini. Model itu diberi beberapa petunjuk tentang sistem dalaman, lalu merangkaikan laluan serangan lengkap—suntikan SQL, peningkatan keistimewaan, akses awal yang boleh dikekalkan, penyenaraian kelayakan akses dan peralihan ke sistem lain—dalam kira-kira dua jam. Lazimnya, pakar manusia yang menjalankan proses penyerang memerlukan beberapa hari untuk melakukannya. Dalam latihan pasukan penyerang baru-baru ini, masa dari penyerahan kerentanan peringkat tinggi hingga cadangan tampalan dijana secara automatik ialah 18 minit.

Penemuan kerentanan hanya bernilai jika disertai keupayaan untuk membaikinya. Nettesheim menerangkan proses yang digunakan pasukannya bagi setiap penemuan: tentukan lokasi isu dalam kod dan kenal pasti pihak yang bertanggungjawab, kemudian lakukan pembaikan. “Anda mencadangkan tampalan, mengesahkan sama ada kerentanan itu boleh dieksploitasi, kemudian mengesahkan bahawa pembaikan telah berjaya, dengan manusia membimbing proses itu dan melaksanakan perubahan kod.”

Walaupun ejen berkemampuan dari segi teknikal, mereka tidak mempunyai konteks organisasi atau memahami alasan di sebalik keputusan terdahulu. Manusia menyediakan konteks dan strategi itu, dan di situlah pasukannya berperanan untuk memberikan lapisan semakan manusia. Apabila keupayaan pertimbangan AI terbukti dalam amalan, Nettesheim berkata, “kami akan meningkatkan tahap risiko secara beransur-ansur untuk menggunakannya pada sistem yang lebih sensitif.”

• Kurang daripada sejam untuk menguji semula cadangan perubahan pengesanan menggunakan data telemetri selama tujuh bulan.

• 18 minit dari penyerahan kerentanan peringkat tinggi hingga cadangan tampalan dijana secara automatik dalam latihan pasukan penyerang baru-baru ini.

• Kira-kira 600 jam kerja penganalisis untuk triage positif palsu dijimatkan setiap suku tahun.

• Siasatan yang setara dengan kira-kira 1,100 jam kerja penganalisis disiapkan setiap suku tahun.

• Peningkatan 50% dalam daya pemprosesan triage.

• Peningkatan 50% dalam pengumpulan risikan dan siasatan.

Kerja pengesanan dan respons sahaja telah menjimatkan kira-kira 600 jam kerja penganalisis setiap suku tahun yang dahulunya digunakan untuk triage positif palsu. Dengan masa yang dijimatkan itu, pasukan kini meluangkan lebih banyak masa untuk siasatan mendalam dan membangunkan lebih banyak automasi secara bertanggungjawab.

Seiring dengan serangan yang semakin pantas dan model AI yang terus maju, Nettesheim melihat peluang untuk mengurangkan kerentanan daripada wujud sejak awal lagi. Ini akan membolehkan pasukan keselamatan mengurangkan masa untuk menampal kerentanan dan meluangkan lebih banyak masa bagi kerja pencegahan dan strategik.

“OpenAI mengalihkan kelebihan kepada pihak pertahanan dengan menyediakan keupayaan canggih ini kepada semua orang,” katanya. “Lazimnya, keupayaan ini hanya dimiliki oleh syarikat teknologi berprofil sangat tinggi dan kerajaan. Namun kini, semua pihak, termasuk pengendali infrastruktur kritikal, sekolah dan perniagaan kecil, boleh mula memanfaatkan teknologi ini untuk mempertahankan rangkaian mereka.”