Carane Block mbangun keamanan AI nganggo teknologi OpenAI

Ing Block, perusahaan sing ngembangake Square, Cash App, lan Afterpay, tim keamanan nggunakake OpenAI Defense Factory: sistem sing nggunakake AI kanggo nemokake kerentanan, ndeteksi ancaman, lan nanggapi kanthi skala sing ora bisa ditandhingi tim manungsa. Kanthi sistem AI kalebu OpenAI Daybreak, Block mung mbutuhake sawetara jam kanggo ngrampungake pakaryan sing biyen mbutuhake pirang-pirang minggu.

Tim keamanan Block fokus ngetrapake AI kanthi tanggung jawab ing maneka alur kerja, saka nggawe kode nganti operasi keamanan. “Intine yaiku duwe kanca sak tim anyar sing bisa diajak nggedhekake kapasitas kerja,” ujare James Nettesheim, Kepala Keamanan Informasi. “Iki ora kaya otomatisasi tradhisional sing kudu dituntun langkah mbaka langkah. Sampeyan bisa menehi masalah sing cukup spesifik lan durung cetha liwat prompt, banjur ngrampungake bebarengan.”

Pakaryan kaya mriksa bug piranti lunak utawa ngurai log biyen mbutuhake pirang-pirang dina utawa minggu. Saiki tim bisa ngrampungake pakaryan kasebut kanthi wektu sing luwih cekak, lan saben asil tetep dipriksa manungsa.

Contone, kanggo nyetel deteksi, saben investigasi nyimpen bukti mentah saka kueri. Mula, saiki tim bisa nguji maneh usulan owah-owahan deteksi nganggo data telemetri produksi sajrone pitung sasi, mung ing wektu kurang saka sakjam. Biyen, pakaryan iki mbutuhake atusan kasus lawas dikueri maneh kanthi manual. Ing prakteke, iki arang ditindakake amarga mbutuhake wektu akeh banget.

Tim uga saya tliti milih model sing cocog kanggo saben pakaryan. “Biyen aku sak tim nggunakake model paling anyar, nanging saiki wis ora kudu ngono,” ujare. “Milih model sing beda kanggo tugas sing beda dadi pengalaman sinau.” Kerangka keamanan Block dibangun ing ndhuwur Daybreak kanggo ngarahake tugas menyang model sing cocog. Kerangka iki uga nyedhiyakake mekanisme supaya manungsa bisa njupuk alih tugas utawa agen bisa mriksa asil kerjane siji lan sijine. Tim terus ngevaluasi sistem kasebut adhedhasar tolok ukur internal lan kinerja ing kahanan nyata, banjur nyetel cara kerjane yen perlu. Iki kalebu ngarahake pakaryan supaya dipriksa manungsa yen kuwi pilihan sing tanggung jawab.

Sistem triase otomatis ndadekake pakaryan luwih cepet rampung lan luwih akeh sing bisa digarap. Tim keamanan Block ngalami mundhake kapasitas pangolahan triase nganti 50%, mundhake pangumpulan intelijen lan investigasi nganti 50%, lan saiki duwe kemampuan anyar kanggo mburu ancaman kanthi mandhiri. Nettesheim kandha, “Saben triwulan, sistem iki nindakake investigasi sing padha karo ~1.100 jam kerja analis, amarga saiki saben tandha bebaya diselidiki kanthi lengkap lan jero, nyakup kabeh unsur sing ana gandheng cenenge. Sistemku nangani saben tandha bebaya kaya-kaya mung kuwi siji-sijine tandha bebaya ing dina iku.”

Piranti pemindai tradhisional mung menehi tandha kerentanan siji-siji kanthi kapisah, nanging kanthi Daybreak, tim keamanan Block bisa nindakake luwih saka kuwi. Model iki mbantu nggawe hipotesis babagan pola serangan lan ngronce rerangkening serangan dadi jalur pambobolan sing lengkap saka wiwitan nganti pungkasan, saengga bisa nemokake kerentanan sing mbokmenawa wis ana pirang-pirang taun.

Ing sawijining kasus, tandha bebaya ing siji laptop katon mung minangka pelanggaran kabijakan cilik yen dideleng dhewe. Nanging nalika dipriksa maneh dening kanca, model kasebut nglacak indikator sing mung katon sepintas ing bukti, nyambungake karo log identitas Block, lan nemokake masalah liyane sing luwih akeh. “Siji tandha bebaya rutin saka piranti endpoint pungkasane bisa mbongkar lan ngendhegake kampanye serangan. Ora ana piranti siji wae sing bisa nyambungake data kasebut dhewe. Tandhane mung katon yen log saka rong produk digandhengake,” ujare James.

Conto liyane saka pitulung Daybreak yaiku ing latihan tim abang sing lagi wae ditindakake. Model kasebut diwenehi sawetara pituduh babagan sistem internal, banjur bisa ngronce jalur serangan lengkap—injeksi SQL, paningkatan hak akses, akses awal sing bisa dipertahanake, enumerasi kredensial, lan pamindhahan serangan menyang sistem liyane—sajrone watara rong jam. Biasane, praktisi red teaming mbutuhake sawetara dina kanggo nindakake iki. Ing latihan tim abang sing lagi wae ditindakake, wektu saka nglaporake kerentanan tingkat dhuwur nganti ana usulan tambalan otomatis yaiku 18 menit.

Nemokake kerentanan mung migunani yen uga bisa ndandani. Nettesheim njlentrehake proses sing digunakake time kanggo saben temuan: nggoleki panggonan masalah ing kode lan ngenali sapa sing tanggung jawab, banjur miwiti ndandani. “Sampeyan ngusulake tambalan, mesthekake apa kerentanan kasebut bisa dieksploitasi, banjur mriksa manawa masalah kasebut wis kasil didandani. Manungsa tetep melu nuntun proses lan ngetrapake owah-owahan kode.”

Sanajan agen nduweni kemampuan teknis, agen ora mangerteni konteks organisasi utawa alesan ing mburine keputusan sadurunge. Manungsa sing menehi konteks lan strategi kasebut, lan ing kene time melu kanggo nindakake pamriksan dening manungsa. Nalika kemampuan AI kanggo menehi pertimbangan saya kabukten ing praktek, Nettesheim kandha, “aku sak tim bakal mbaka sethithik munggahake tingkat risiko panganggone, supaya bisa digunakake kanggo sistem sing luwih sensitif.”

• Kurang saka sakjam kanggo nguji maneh usulan owah-owahan deteksi nganggo data telemetri pitung sasi.

• 18 menit saka nglaporake kerentanan tingkat dhuwur nganti ana usulan tambalan otomatis ing latihan tim abang sing lagi wae ditindakake.

• Watara 600 jam kerja analis saben triwulan kanggo triase positif palsu bisa dialihake kanggo pakaryan liyane.

• Investigasi sing padha karo watara 1.100 jam kerja analis dirampungake saben triwulan.

• Kapasitas pangolahan triase mundhak 50%.

• Pangumpulan intelijen lan investigasi mundhak 50%.

Saka pakaryan deteksi lan tanggapan wae, watara 600 jam kerja analis saben triwulan sing biyen digunakake kanggo triase positif palsu saiki bisa dialihake kanggo pakaryan liyane. Kanthi wektu sing kasimpen kuwi, saiki tim bisa luwih akeh nyelidiki kanthi jero lan mbangun luwih akeh otomatisasi kanthi tanggung jawab.

Nalika serangan saya cepet lan model AI terus maju, Nettesheim weruh kesempatan kanggo nyuda cacahe kerentanan wiwit saka awal. Kanthi mangkono, tim keamanan bisa nyuda wektu kanggo nambal lan luwih akeh nggarap pakaryan pencegahan lan strategis.

“OpenAI menehi kaunggulan marang pihak sing njaga keamanan kanthi nyedhiyakake kemampuan canggih iki kanggo kabeh wong,” ujare. “Biasane, kemampuan iki mung diduweni perusahaan teknologi kondhang lan pamarentah. Nanging saiki kabeh pihak, kalebu pangelola infrastruktur kritis, sekolah, lan usaha cilik, bisa miwiti nggunakake teknologi iki kanggo nglindhungi jaringane.”