Kepiye Block mbangun keamanan sing didhukung AI nganggo OpenAI

Ing Block, perusahaan ing balik Square, Cash App, lan Afterpay, tim keamanan nggunakake OpenAI Defense Factory: ing kono AI nangani panemuan, deteksi, lan tanggapan marang kerentanan kanthi skala sing ora bisa ditandhingi tim manungsa. Kanthi sistem AI kalebu OpenAI Daybreak, Block mung butuh sawetara jam kanggo nindakake pakaryan sing biyèn mbutuhake sawetara minggu.

Tim keamanan Block wis fokus nggunakake AI kanthi tanggung jawab ing saindhenging alur kerja, apa kanggo generasi kode utawa operasi keamanan. “Sing saktenane dadi fokus yaiku anane rekan kerja anyar sing bisa ngrembaka bebarengan nalika panggunaan saya gedhe,” ujare James Nettesheim, Kepala Petugas Keamanan Informasi. “Iki ora kaya otomatisasi tradhisional sing kudu ditindakake langkah demi langkah. Sampeyan bisa menehi prompt marang AI ngenani masalah sing cukup khusus lan ambigu, banjur nggarap bebarengan.”

Proyek kayata mriksa bug piranti lunak utawa ngolah log bakal mbutuhake pirang-pirang dina utawa minggu kanggo dirampungake. Saiki tim bisa ngrampungake proyek kasebut mung sajrone sapérangan cilik saka wektu kasebut, kanthi saben asil tetep divalidasi dening manungsa.

Umpamane, kanggo panyetelan deteksi, saben investigasi nyimpen bukti query mentah, saengga tim saiki bisa muter maneh owah-owahan deteksi sing diusulake nglawan telemetri produksi pitung sasi sajrone kurang saka sak jam. Pakaryan kasebut biyen tegese njaluk atusan kasus lawas kanthi manual, lan asring arang kedadeyan ing praktik amarga butuh wektu akeh.

Tim kasebut uga saya tliti anggoné milih model kanggo saben pakaryan. “Sadurungé, kita nggunakake model paling anyar, nanging saiki wis ora perlu nindakaké kuwi manèh,” ujaré. “Milih model sing béda kanggo tugas sing béda wis dadi pengalaman sinau.” Kerangka pangamanan Block dibangun adhedhasar Daybreak kanggo mbantu ngarahaké tugas menyang model sing trep, lan nyakup titik integrasi supaya manungsa bisa njupuk alih tugas utawa supaya para agen bisa mriksa asil pakaryané siji lan sijiné. Tim kasebut terus ngevaluasi sistem-sistem iki kanthi pathokan tolok ukur internal lan kinerja ing kahanan nyata, sarta nyetel pendekatané nalika dibutuhaké, kalebu ngarahaké pakaryan supaya ditinjau manungsa nalika kuwi dadi langkah sing bisa ditanggungjawabaké.

Sistem triase otomatis iki ndadekake pakaryan rampung luwih cepet (lan luwih akeh). Tim keamanan Block ngalami peningkatan kapasitas pangolahan triase nganti 50%, peningkatan pengumpulan informasi pilihan kecerdasan lan investigasi nganti 50%, lan nduweni kapabilitas pemburuan ancaman kanthi otonom sing pancen anyar. Nettesheim kandha, “Sistem iki nindakake investigasi sing setara karo ~1,100 jam kerja analis saben kuartal, amarga saiki saben tandha bebaya diselidiki kanthi lengkap lan jero ing kabeh unsur sing ana gandhengane karo tandha bebaya kasebut. Sistem kita nangani saben tandha bebaya kaya-kaya mung kuwi tandha bebaya sing kita tampa ing dina iku.”

Piranti pemindai tradhisional nandhani siji kerentanan kanthi kapisah, nanging tim keamanan Block bisa nindakake luwih adoh karo Daybreak. Model kasebut mbantu nggawe hipotesis babagan pola serangan lan ngubungake rerangkening serangan dadi jalur kompromi lengkap saka wiwitan nganti pungkasan, saéngga kerentanan sing bisa uga wis ana nganti pirang-pirang taun bisa kawiyak.

Ing salah sawijining kasus, peringatan ing siji laptop katon kaya masalah kebijakan cilik yen dideleng dhewe. Nanging nalika ditinjau dening sejawat, model nglacak indikator sing mung katon minangka unsur tambahan ing bukti, nyocogake karo log identitas Block, lan nemokake masalah sing jumlahe luwih gedhe. “Siji peringatan rutin ing titik pungkasan dadi pembongkaran kampanye. Ora ana piranti siji wae sing bisa nggawe sesambungan kasebut. Sinyal iku mung ana ing log saka rong produk,” ujare James.

Tuladha liyane nalika Daybreak mbantu yaiku nalika ana latihan red team anyar. Model diwenehi sawetara pituduh babagan sistem internal, banjur nggabungake sakabèhé jalur serangan—SQL injection, eskalasi hak akses, pijakan awal, enumerasi kredensial, lan pindhah menyang sistem liyane—mung sajrone kira-kira rong jam. Biasane, solusi iki mbutuhake sawetara dina kanggo red teamer manungsa. Ing latihan red team anyar-anyar iki, wektu wiwit ngirim kerentanan tingkat dhuwur nganti ana usulan patch otomatis yaiku 18 menit.

Sepira gunane nemokake kerentanan gumantung marang kemampuan kanggo ndandani. Nettesheim nerangake kanthi rinci proses sing ditindakake timé kanggo saben temuan: nemokake papan dumunungé masalah ing kode lan ngenali sapa sing tanggung jawab, banjur nerusake menyang pamulihan. “Tambalan diusulake, dipesthekake manawa kerentanan bisa dieksploitasi, banjur dipriksa manawa wis didandani, kanthi manungsa tetep melu kanggo nuntun proses lan masang owah-owahan kode.”

Sanajan para agen sacara teknis nduweni kemampuan, dheweke ora nggawa konteks organisasi utawa nalar ing balik keputusan-keputusan sadurunge. Manungsa menehi konteks lan strategi kasebut, lan ing kono timé melu nyedhiyakake lapisan pamriksan dening manungsa. Nettesheim kandha, nalika kaputusan AI wis kabukten ing praktik, “alon-alon kita bakal ngunggahake tingkat risiko kanggo nggunakake AI ing sistem sing luwih sensitif.”

• Kurang saka sak jam kanggo nguji maneh owah-owahan deteksi sing diusulake nganggo data telemetri pitung wulan.

• 18 menit wiwit ngajokake kerentanan tingkat dhuwur nganti usulan tambalan sing digawe kanthi otomatis ing latihan red team paling anyar.

• Udakara 600 jam kerja analis saben kuartal dibalekake saka triase positif palsu.

• Kira-kira 1.100 jam investigasi analis dirampungake saben triwulan.

• Peningkatan kapasitas pangolahan triase 50%.

• Mundhak 50% ing pengumpulan pilihan kecerdasan lan investigasi.

Pakaryan deteksi lan tanggapan waé wis ngirit kira-kira 600 jam kerja analis saben kuartal, sing biyèn digunakaké kanggo milah asil positif palsu. Kanthi wektu kasebut wis bali, tim saiki luwih akèh nyawisaké wektu kanggo investigasi sing luwih jero lan ngembangaké otomatisasi kanthi tanggung jawab.

Nalika laju serangan saya mundhak lan model AI terus maju, Nettesheim ndeleng kesempatan kanggo nyuda jumlah kerentanan sing muncul wiwit awal. Iki bakal ndadekake tim keamanan bisa ngentekake wektu luwih sithik kanggo masang tambalan lan luwih akeh wektu kanggo pakaryan pencegahan lan strategis.

“OpenAI mindhah kaunggulan menyang pihak pertahanan kanthi nyedhiyakake kapabilitas canggih iki kanggo kabeh wong,” pangandikanipun. “Biasane, teknologi iki mung ana ing tangan perusahaan teknologi sing misuwur banget lan pamaréntah. Nanging saiki, saben pihak, kalebu infrastruktur kritis, sekolah, lan usaha cilik, bisa wiwit migunakaké teknologi iki kanggo nglindhungi jaringané.”