Naging mahalagang pagbabagong-yugto sa cybersecurity ang insidente ng OpenAI-Hugging Face(magbubukas sa bagong window) dahil ipinakita nito kung paano magbabago mga darating na buwan ang kakayahan ng isang karaniwang threat actor. Marami akong nakausap na organisasyon nitong mga nakaraang linggo, at malinaw ang isang tema: alam nilang kailangan nilang lubusang paunlarin ang kanilang mga kasanayan sa cybersecurity sa bilis na hindi pa nasaksihan noon. Sa post na ito, ibabahagi ko ang ginagawa namin upang ipagtanggol ang OpenAI, ang mga kongkretong hakbang na magagawa ngayon ng ibang organisasyon, at kung bakit ngayon na ang panahon upang kumilos.
Lalong nakakayang i-automate ng mga modelong AI na binuo sa buong mundo ang ilang bahagi ng mga cyberattack sa totoong buhay, kaya mas madaling hanapin at pagsamantalahan ang matagal nang mga puwang sa seguridad—mula sa mga bug na nakabaon sa software na isinulat ng tao hanggang sa mga nakalimutang pahintulot. Ang mga kakayahan ding iyon ng AI ay nagbibigay sa mga tagapagtanggol ng mga bagong paraan upang tukuyin at ayusin ang mga kahinaang iyon, ngunit kailangan nilang kumilos na ngayon. Kung kikilos nang determinado ang mga kumpanya—kabilang ang pagpapahusay sa kanilang mga pangunahing pundasyon at pagpapalakas nang husto sa kanilang mga team gamit ang AI—magagawa nating gawing mas ligtas ang internet kaysa noon.
Sa Insidente ng OpenAI-Hugging Face, kusang napasok ng isang kolektibong agentic hindi lamang ang imprastruktura ng pananaliksik ng OpenAI kundi pati ang produksiyon na imprastruktura ng isa pang kumpanya, na pinagdugtong-dugtong ang mga kahinaan mula sa mga dati nang hindi kilalang depekto sa seguridad hanggang sa paggamit ng mga kredensyal ng mga account ng user na nag-leak sa internet. Lalong nagiging malinaw na ang teknikal na utang(magbubukas sa bagong window) ng bawat kumpanya ay nagkukubli ng malalaking kahinaan, at kailangang hanapin at ayusin ng mga tagapagtanggol ang mga ito bago pa sila maunahan ng mga umaatake.
Upang mabigyan ng kalamangan ang mga tagapagtanggol laban sa mga umaatake, sinimulan naming ilabas noong unang bahagi ng taon ang aming mga kakayahan sa cyber sa pinagkakatiwalaang mga tagapagtanggol lamang. Mula noon, iba't ibang kumpanya ang naglabas ng mga open weight na modelo na may mga kakayahan sa cyber na ilang buwan lang ang pagitan mula sa frontier. Ang pinakabago sa mga modelo na ito ay mukhang nakatakdang ilabas(magbubukas sa bagong window) sa katapusan ng Agosto, at malamang na malaki ang maibibilis sa kalagayan ng banta.
Bagama’t, malapit nang magawa ng mga umaatakeng gumagamit ng AI na matuklasan ang matagal nang mga kahinaan sa maraming umiiral na system, gagawin din ng AI na mas madali para sa mga tagapagtanggol na tukuyin, unahin, at ayusin ang mismong mga kahinaang iyon. Ang seguridad ay nananatiling laro ng pusa at daga, ngunit maaaring baguhin ng AI ang ekonomiya nito(magbubukas sa bagong window) sa mga paraang pundamental na pumapabor sa mga tagapagtanggol. Halimbawa, nagsisimula kaming sanayin ang aming mga modelo partikular para magsulat ng code na superhuman ang seguridad. Ang aming mga modelo ay kahanga-hanga rin sa mga matematikal na patunay, na maaaring ilapat upang pormal na mapatunayan ang seguridad ng software sa paraang napatunayang hindi malutas ng mga tao.
Pagkatapos ng insidente ng OpenAI-Hugging Face, hiniling ko sa ChatGPT Work (gamit ang pampublikong magagamit na GPT‑5.6 Sol) na suriin ang seguridad ng gregbrockman.com(magbubukas sa bagong window). Isang simpleng static site ito, naka-host sa AWS na may Cloudflare bilang panimulang pintuan, kaya inakala kong hindi ganoon kalaki ang panganib ng mga kahinaan.
Sa loob ng humigit-kumulang 15 minuto, nakatuklas ito ng 13 isyu, marami sa mga ito ay malamang na hindi ma-exploit nang mag-isa—ngunit naiisip kong maaari silang pagdugtung-dugtungin kasama ng iba pang kahinaan upang magkaroon ng makabuluhang epekto. Hindi ko pa na-configure ang mga DNS record ko para pigilan ang mga umaatake sa pamemeke ng mga email na kunwari ay galing sa akin; gumamit ang site ko ng hindi secure na bersyon ng jQuery; ipinapasa ng Cloudflare ang mga request sa AWS sa pamamagitan ng hindi naka-encrypt na HTTP.
Pagkatapos, hiniling ko sa ChatGPT Work na ayusin ang mga problemang ito, at natapos ang mga iyon sa loob ng isang oras. Binuksan nito ang Cloudflare control panel sa aking browser, at nagpatuloy itong mag-click ng maraming button para i-configure nang tama ang DNS, TLS, at mga advanced na setting ng seguridad; ganap nitong inalis ang jQuery sa site; inilipat ako nito mula sa AWS papunta sa Cloudflare Pages; sinimulan nito ang yugto-yugtong paglulunsad ng DMARC(magbubukas sa bagong window).
At personal na website ko lamang ito. Maliit na halimbawa otp kung paano maaaring gumana ang aming mga umiiral na modelo bilang isang cyberguardian—hinahanap ang mahabang buntot ng mga isyu na hindi maaabutan ng oras o kadalubhasaan ng isang tao (marami sa mga setting na inayos nito ay mga setting na medyo pamilyar ako, pero hindi ko agad malalaman ang tamang paraan para i-configure ang mga ito), at pagkatapos ay inaayos ang mga ito gamit ang isang naaangkop na plano ng rollout.
Ipinakita ng insidente sa Hugging Face na minamaliit namin ang mga kakayahan sa Cyber sa totoong buhay ng aming mga modelo ng AI. Alinsunod dito, pinahihigpit namin ang aming mga kinakailangan sa kaligtasan, na siya namang lalo pang nagpapataas ng pagkaapurahan ng aming kasalukuyang pananaliksik sa kaligtasan at panloob na gawaing panseguridad.
Ibinabahagi ko ang kaunting impormasyon tungkol sa aming pamamaraan sa pagtiyak ng seguridad ng OpenAI sa panahong ito, na may pag-asa na magiging kapaki-pakinabang ito sa iba pang mga organisasyon. Upang maprotektahan ang OpenAI, malaki ang aming pamumuhunan sa parehong mga pangunahing kontrol—tamang pagsasagawa ng mga batayan—at pagpapalakas ng aming mga depensa sa pamamagitan ng frontier Intelligence. May apat na pangunahing haligi ang estratehiyang ito.
Una, ginagamit namin ang aming mga modelo upang makatulong na maprotektahan ang aming code. Sinusuri ng Codex, kasama ang aming security plugin ang mga pagbabago sa code, tinutukoy ang mga kahinaan, at tinutulungan ang mga developer na ayusin ang mga problema bago i-deploy ang mga ito. Hindi namin layong gumawa lamang ng mas maraming natuklasang isyu sa seguridad na kailangan pang suriin ng tao; ang layunin ay matukoy ang mga tunay na kahinaan bago pa ilabas ang mga ito at paikliin ang proseso mula sa pagtuklas ng problema hanggang sa ligtas na pag-deploy ng solusyon. Habang patuloy naming sinasanay ang aming mga modelo upang makagawa ng lalong mas ligtas na code, ang layunin namin ay alisin ang ilang klase ng mga kahinaan sa software para sa bagong gawang code.
Ikalawa, ginagamit namin ang aming mga modelo upang patuloy na ipagtanggol ang aming imprastraktura. Sa kasalukuyan, halos lahat ng aming paunang alerto sa seguridad ay sinusuri muna ng intelligence bago isangkot ang mga tao. Nakababawas ito sapaulit-ulit na gawain ng mga tagapagtanggol, nagpapabilis ng pagtugon, at hinahayaang ituon ng mga tao ang kanilang oras kung saan pinakamahalaga ang kanilang mga kakayahan—sa masusing pagkilatis, pagpapasya, at praktikal na kadalubhasaan. Lalo naming iniuugnay ang mga pagtuklas na ito sa kontroladong awtomatikong pagtugon, habang nananatiling mga tao ang responsable sa mga desisyong may pinakamalaking epekto. Layunin naming matiyak na matutukoy at matutugunan namin ang mga problema sa seguridad sa bilis ng makina.
Ikatlo, ginagamit namin ang frontier na intelligence upang patuloy na ilista, siyasatin, at tukuyin ang mga posibleng ruta ng pag-atake. Sa pagtukoy sa mga kahinaan, maling configuration, mga identity na may labis na pribilehiyo, o di-sinasadyang hangganan ng tiwala, mabilis naming natutukoy at nasasara ang mga puwang na ito bago mapagsamantalahan ng mga umaatake. Nagbibigay-daan ito sa amin na tuloy-tuloy na suriin, subaybayan, at subukan ang aming mga invariant sa seguridad—ang mga katangiang pangseguridad na pinaniniwalaan naming totoo—sa kabuuan ng aming mga produkto, imprastraktura, at system.
Panghuli, malaki ang aming ipinupuhunan sa mga pangunahing pundasyon sa malawakang saklaw. Patuloy kaming namumuhunan sa ligtas na arkitektura at mga kontrol, tinatanggap ang mga estratehiyang gaya ng 'malalimang depensa' at 'pinakamababang pribilehiyo', at nagdidisenyo ng mga system na nangangailangan na sabay-sabay na mabigo ang maramihang independiyenteng kontrol bago mangyari ang isang sakuna. Ang mga klasikong kontrol sa seguridad tulad ng paghihiwalay ng network, pagpapatibay ng workload, pagsubaybay, at ligtas na pag-patch at pag-deploy ay magiging mas mahalaga kaysa dati sa hinaharap ng AI.
Napakahalaga ng bawat sandali, kaya kailangang kumilos nang napakabilis ang mga tagapagtanggol sa mga hakbang sa ibaba. Babanggitin ko sa ibaba ang teknolohiya ng OpenAI, ngunit marami ring kakumpitensya sa ekosistema na dapat ding suriin. Ang mas mahalaga ay hindi gaano ang partikular na tool, kundi ang maihandog na ngayon sa iyong mga tagapagtanggol ang may-kakayahang AI.
- Kunin ang matibay na suporta at pagsang-ayon ng organisasyon. Nakakaranas tayo ng mabilis na pagbabago sa panganib sa seguridad—tiyaking may suporta, pakikipagtulungan, at mga mapagkukunan ang iyong mga organisasyon sa seguridad at engineering upang mabilis na matugunan ang mga panganib na ito. Magsagawa ng mga pagsasanay na tabletop kasama ang iyong mga team upang ilarawan kung paano maaaring mag-manifest ang mga pag-atakeng ito sa iyong mga organisasyon at kung paano mo tutugunan ang mga ito.
- Bigyan ang iyong security team ng agent. Simulan ang paggamit ng Codex, ng Codex Security plugin(magbubukas sa bagong window), o ng isa pang mahusay na tool para sa agentic coding at seguridad. Bigyan ito ng aprubadong access sa mga codebase, mga configuration ng imprastraktura, at teknikal na dokumentasyong kailangang tasahin ng iyong security team. Huwag hintayin ang malawakang paglulunsad ng kumpanya para magsimula sa iyong mga system na may pinakamataas na priyoridad.
- Ihanda ang agent na iyon sa kadalubhasaan sa seguridad. Magsimula sa mga kasanayan(magbubukas sa bagong window) na sinusuportahan ng komunidad, na kinabibilangan ng mga daloy ng trabaho para sa static na pagsusuri, pagsusuri ng code na nakatuon sa seguridad, pagsusuri ng mga variant ng kahinaan, panganib sa supply chain ng software, at iba pang mga daloy ng trabaho sa seguridad. Pagkatapos ay bumuo ng sarili mong mga kasanayan ayon sa arkitektura, mga pamantayan sa seguridad, mga modelo ng banta, at mga playbook ng iyong organisasyon.
- Magsagawa kaagad ng mga pagtatasa sa seguridad sa iyong mga sariling system. Unahin ang mga pagtatasa sa mga serbisyong nakalantad sa internet, mga daloy ng pagpapatotoo, imprastruktura bilang code, mga pipeline ng deployment, at mga system na humahawak ng sensitibong impormasyon. Palawakin ang iyong pag-scan habang nagkakaroon ng kumpiyansa ang iyong team.
- Asikasuhin ang iyong kasalukuyang backlog ng kahinaan. Ibigay sa iyong agent ang mga natuklasan mula sa mga tagasuri ng code, mga alerto sa dependency, mga tiket sa seguridad, mga ulat ng bug bounty, at mga naunang pagtatasa. Hilingin dito na suriin ang mga natuklasang iyon, tukuyin ang mga isyung maaaring samantalahin kumpara sa mga hindi mahalagang alerto o maling positibo, tukuyin ang mga kaugnay na kahinaan sa ibang bahagi ng codebase, at magrekomenda kung alin ang unang aayusin.
- Isama ang pagsusuri sa seguridad nang direkta sa iyong proseso ng pag-develop. Gamitin ang mga agent upang suriin ang mga pagbabago sa code bago ito i-merge at magpatakbo ng mga pagsusuring panseguridad sa CI. Maghanap ng mga pagkakamali sa pagpapatunay, mga bypass sa kontrol ng access, nakalantad na mga kredensyal, hindi ligtas na mga dependency, hindi ligtas na mga paunang setting, mga pagbabagong nagpapalawak ng access sa mga production system, at iba pang mga kahinaan.
- Hayaang tumulong ang agent sa pag-aayos ng natutuklasan nito. Para sa mga napatunayang problema, hilingin ditong bumuo at mag-verify ng isang nakatuong patch, magsulat ng regression test, at kumpirmahing hindi na mare-reproduce ang kahinaan. Panatilihin ang pagsusuri ng tao para sa mga pagbabagong may malaking epekto, ngunit alisin ang hindi kinakailangang pagkaantala sa pagitan ng pagtukoy ng tunay na problema at paghaharap ng ligtas na pag-aayos sa isang engineer.
- Unti-unting I-automate ang detection triage. Huwag magsimula sa pagtatangkang bumuo ng isang awtonomong sentro ng operasyon sa seguridad. Magsimula sa pagpapatakbo ng isang scan sa seguridad na read-only laban sa isang repository, o ipasuri sa isang agent ang mga dati nang nalutas na alerto gamit ang read-only na access sa iyong mga kasalukuyang talaan. Hayaan itong ibuod ang ebidensya at magrekomenda ng disposisyon habang isang tao pa rin ang gumagawa ng bawat desisyon. Habang lumalago ang kumpiyansa, lumipat sa payo na pag-scan ng pull request, pagkatapos sa live na pag-triage ng alerto, pagkatapos sa awtomatikong pagsasara ng mga false positive na mahigpit ang pagkakatukoy.
- Magkaroon ng kakayahan sa forensic na imbestigasyon na suportado ng AI bago mo pa ito kailanganin. Mag-apply para sa Trusted Access for Cyber(magbubukas sa bagong window) at maaprubahan ang iyong team na gamitin ang GPT‑Daybreak‑Blue para sa awtorisadong gawaing pandepensa, kabilang ang incident response, detection engineering, at malware analysis. Magsanay sa paggamit ng kakayahang ito upang suriin ang mga log, telemetry, at mga alerto sa seguridad.
- Mag-eksperimento, magsagawa ng mga hack weeks, at mabilis na mag-iterate. Kakailanganin nating bumuo ng mga iba’t-ibang bagong tool, baguhin ang paraan ng ating pagtatrabaho, at iangat ang antas ng kakayahan ng bawat isa para sa mundong pinatutunguhan natin. Hikayatin ang iyong workforce na magsagawa ng mga eksperimento, mag-iskedyul ng mga hack weeks, at tumuon sa mabilis na pag-uulit at pagpapahusay ng mga loop na nag-a-automate ng maliliit na bahagi ng problema. Ang mabilis na paunti-unting pag-usad ay humahantong sa lumalaking mga resulta ng depensa, at maaari mong unti-unting palawakin ang awtonomiya habang lumalakas ang kumpiyansa ng iyong team.
Walang kumpanyang kayang gawin ito nang mag-isa. Hinihiling naming magbahagi ang mga AI lab, security vendor, enterprise, at maintainer ng napatunayang mga natuklasan, mga pag-aayos, at praktikal na mga playbook upang mapatibay ng natuklasan ng isang organisasyon ang buong ekosistema.
Bukas na ngayon ang pagkakataon para sa mga tagapagtanggol. Sa mga darating na buwan, kakailanganin ng bawat organisasyon na simulan ang makabuluhang pag-automate ng programa nito sa seguridad upang manatiling ligtas, at kailangang agarang kumilos ang komunidad ng seguridad upang tukuyin ang mga tool, kasanayan, at gabay na magpapalakas sa kakayahan ng mga tagapagtanggol nang mas mabilis kaysa sa mga umaatake habang patuloy na sumusulong ang AI. Mangangailangan ito ng napakalaki at hindi pa napapantayang pagsisikap, ngunit kung magkakaisa tayo, makapaghatid tayo ng isang mas ligtas na mundo kaysa sa dati nating inaakalang posible.
