Paano bumubuo ang Block ng seguridad gamit ang AI ng OpenAI

Sa Block, ang kumpanyang nasa likod ng Square, Cash App, at Afterpay, ginagamit ng team sa segruidad ang OpenAI Defense Factory: kung saan pinapamahalaan ng AI ang pagtuklas ng mga kahinaan, pagtukoy sa mga ito, at pagtugon sa mga ito sa antas na hindi kayang sabayan ng anumang pangkat ng tao. Gamit ang mga AI system, kabilang ang OpenAI Daybreak, nagagawa na ng Block sa loob lang ng ilang oras ang trabahong dati ay inaabot ng ilang linggo.

Nakatuon ang team sa seguridad ng Block sa responsableng paggamit ng AI sa iba’t ibang daloy ng trabaho, maging sa pagbuo ng code o sa mga operasyong panseguridad. “Ang talagang pinakasentro nito ay ang pagkakaroon ng bagong kasamahan sa team na makakasabay mo habang lumalawak ang iyong mga gawain,” sabi ni James Nettesheim, Chief Information Security Officer. “Hindi ito tulad ng mas tradisyonal na awtomasyon kung saan kailangan mong gawin ang bawat hakbang. Maaari m itong bigyan ng prompt tungkol sa medyo natatangi at malabong problema at pagtulungan ninyo ito.”

Aabutin ng ilang araw o linggo bago makumpleto ang mga proyektong gaya ng pagsusuri ng software bug o pag-parse ng log. Ngayon, makukumpleto ng team ang mga proyektong iyon sa mas maliit na bahagi ng panahong kailangan noon, habang tao pa rin ang nagpapatunay sa bawat resulta.

Halimbawa, para sa pagsasaayos ng pagtukoy, iniimbak sa bawat imbestigasyon ebidensya mula sa orihinal na query, kaya maaari na ngayong muling patakbuhin ng team ang iminungkahing pagbabago sa pagtukoy sa pitong buwang telemetry mula sa produksyon sa loob ng wala pang isang oras. Dati, kailangan pang manu-manong ulitin ang mga query sa daan-daang lumang kaso para magawa ito, at bihira lamang itong maisagawa sa aktuwal dahil napakatagal nitong gawin.

Naging mas mapili rin ang team tungkol sa kung aling modelo ang ginagamit nila para sa bawat gawain. “Dati, ginagamit namin ang pinakabagong modelo, pero hindi na kailangang gawin iyon,” sabi niya. “Naging karanasan ito sa pagkatuto kung saan pumipili kami ng iba’t ibang modelo para sa iba’t ibang gawain.” Binuo ang panukat-seguridad ng Block batay sa Daybreak para makatulong sa pagruruta ng mga gawain sa tamang modelo, at may kasama itong mga hook para makapangasiwa ang mga tao sa mga gawain o para maberipika ng mga agent ang trabaho ng isa’t isa. Patuloy na sinusuri ng team ang mga system na ito batay sa mga panloob na pamantayan at sa pagganap sa totoong mundo, at binabagay ang diskarte nito kung kinakailangan, kabilang ang pagruruta ng trabaho para masuri ng tao kapag iyon ang responsableng hakbang.

Dahil sa naka-automate na triage system, mas mabilis na natatapos ang trabaho (at mas marami pa rito). Nakita ng team sa seguridad ng Block ang 50% pagtaas sa throughput ng triage, 50% pagtaas sa pangangalap ng Intelligence at mga imbestigasyon, at isang ganap na bagong kakayahan sa awtonomong paghahanap ng banta. Ayon kay Nettesheim, “Katumbas ito ng ~1,100 oras ng imbestigasyon ng mga analyst kada quarter, dahil ngayon, sumasailalim ang bawat alerto sa isang masusi at malalim na imbestigasyon sa lahat ng elementong saklaw nito. Hinahawakan ng aming system ang bawat alerto na para bang iyon lang ang alerto na mayroon kami sa araw na iyon.”

Karaniwang tinutukoy ng mga tradisyonal na tool sa pag-scan ang iisang kahinaan nang hiwalay, pero higit pa rito ang nagagawa ng team sa seguridad ng Block sa tulong ng Daybreak. Tinutulungan ng modelo ang team na bumuo ng mga palagay tungkol sa mga pattern ng pag-atake at pagdugtung-dugtungin ang sunod-sunod na pag-atake upang makabuo ng kumpletong landas ng kompromiso mula simula hanggang dulo, at matuklasan ang mga kahinaan na maaaring ilang taon nang umiiral.

Sa isang pagkakataon, ang alerto sa iisang laptop ay tila maliit na isyu sa patakaran kung titingnan nang mag-isa. Pero sa pagsusuri ng kapwa dalubhasa, sinundan ng modelo ang isang tagapagpahiwatig na nagkataong lumitaw lamang sa ebidensya, itinugma ito sa mga log ng pagkakakilanlan ng Block, at natuklasan ang mas malawak na hanay ng mga isyu. “Ang isang karaniwang alerto sa endpoint ay nauwi sa pagbuwag sa isang kampanya. Walang iisang tool na makakagawa ng pagtutugmang iyon. Umiiral lang ang senyales sa mga log ng dalawang produkto,” sabi ni James.

Isa pang pagkakataong nakatulong ang Daybreak ay sa isang kamakailang ehersisyo ng red team. Binigyan ang modelo ng ilang pahiwatig tungkol sa isang panloob na system, at pinag-ugnay nito ang mga hakbang upang makabuo ng kumpletong landas ng pag-atake—pagpapasok ng SQL, pagtaas ng antas ng pribilehiyo, pagkakaroon ng paunang access, pag-iisa-isa ng mga kredensyal, at paglipat sa iba pang system—sa loob ng humigit-kumulang dalawang oras. Karaniwang aabutin ng ilang araw ang isang taong nagsasagawa ng red teaming para magawa ito. Sa mga kamakailang ehersisyo ng read team, ang tagal mula sa pagsusumite ng kahinaang mataas ang antas hanggang sa awtomatikong iminumungkahing patch ay 18 minuto.

Hindi sapat ang pagtukoy sa mga kahinaan kung walang kakayahang ayusin ang mga ito. Ipinaliliwanag ni Nettesheim ang prosesong ginagamit ng kaniyang team sa bawat natutuklasang isyu: hanapin kung saan ito matatagpuan sa code at tukuyin kung sino ang responsable rito, pagkatapos ay simulan ang pag-aayos. “Nagmumungkahi kayo ng patch, kinukumpirma ninyo kung maaari itong samantalahin, at pagkatapos ay bineberipika ninyo kung naayos na ito, habang may taong gumagabay sa proseso at nagde-deploy ng mga pagbabago sa code.”

Bagama’t may kakayahan ang mga agent sa teknikal na aspeto, hindi taglay ng mga ito ang konteksto ng isang organisasyon o ang pangangatuwiran sa likod ng mga naunang desisyon. Isang tao ang nagbibigay ng kontekstong iyon at ng estratehiya, at dito pumapasok ang team niya upang magbigay ng pagsusuri ng tao. Habang napapatunayan sa praktika ang kakayahan ng AI na magpasya, sabi ni Nettesheim, “unti-unti naming itataas ang antas ng panganib ng mga paggamit nito sa mas sensitibong mga system.”

• Wala pang isang oras para muling patakbuhin ang iminungkahing pagbabago sa patukoy sa pitong buwang telemetry.

• 18 minuto mula nang magsumit ng kahinaang mataas ang antas hanggang sa naka-automate na iminumungkahing patch sa mga kamakailang ehersisyo ng red team.

• Humigit-kumulang 600 oras ng trabaho ng mga analyst kada quarter ang naibabalik mula sa pag-triage ng mga maling positibo.

• Humigit-kumulang 1,100 oras ng pagsisiyasat ng mga analyst ang nakukumpleto kada quarter.

• 50% na pagtaas sa throughput ng triage.

• 50% na pagtaas sa pangangalap ng Intelligence at mga pagsisiyasat.

Ang mga gawain sa pagtukoy at pagtugon pa lamang ay nakapagbalik na ng humigit-kumulang 600 oras ng trabaho ng mga analyst kada quarter, na dati nilang ginugugol sa pagsusuri ng mga maling positibo. Ngayong nabawi na ang oras na iyon, mas maraming oras na ang inilalaan ng team sa mas malalalim na pagsisiyasat at sa responsableng pagbuo ng mas maraming awtomasyon.

Habang bumibilis ang mga pag-atake at patuloy na umuunlad ang mga modelo ng AI, nakikita ni Nettesheim ang pagkakataong mabawasan ang bilang ng mga kahinaang naipapasok sa simula pa lang. Magbibigay-daan iyon sa mga security team na maglaan ng mas kaunting oras sa paglalapat ng mga patch at mas maraming oras sa gawaing pang-iwas at estratehiko.

“Inililipat ng OpenAI ang kalamangan sa mga tagapagtanggol sa pamamagitan ng pagbibigay sa lahat ng access sa mga makabagong kakayahang ito,” sabi niya. “Karaniwan, ang mga ito ay nasa kamay lamang ng mga kilalang-kilalang kumpanya ng teknolohiya at ng pamahalaan. Ngunit maaari nang simulang gamitin ng lahat, kabilang ang mga kritikal na imprastraktura, paaralan, at maliliit na negosyo, ang teknolohiyang ito upang ipagtanggol ang kanilang mga network.”