Incidenti OpenAI-Hugging Face(hapet në një dritare të re) ishte një pikë kthese për sigurinë kibernetike, sepse ai ofroi një pamje të mënyrës se si do të evoluojnë në muajt e ardhshëm aftësitë e një aktori tipik kërcënues. Gjatë javëve të fundit, unë kam folur me shumë organizata dhe një temë është e qartë: ato e dinë se duhet t’i përmirësojnë rrënjësisht praktikat e sigurisë kibernetike me një shpejtësi të paprecedentë. Në këtë postim, unë do të tregoj se çfarë po bëjmë për të mbrojtur OpenAI, hapa konkretë që mund të ndërmarrin sot organizatat e tjera dhe pse tani është koha për të vepruar.
Modelet e IA-së të zhvilluara në mbarë botën po bëhen gjithnjë e më të afta të automatizojnë pjesë të sulmeve kibernetike reale, duke e bërë më të lehtë gjetjen dhe shfrytëzimin e boshllëqeve të vjetra të sigurisë - nga defektet e fshehura thellë në softuerët e shkruar nga njerëzit e deri te lejet e harruara. Të njëjtat aftësi të IA-së u japin mbrojtësve mënyra të reja për t’i gjetur dhe rregulluar këto dobësi, por ata duhet të veprojnë tani. Nëse kompanitë veprojnë me vendosmëri, duke përmirësuar themelet e tyre dhe duke fuqizuar ekipet me IA-në po ashtu, ne mund ta bëjmë internetin më të sigurt se kurdoherë më parë.
Në incidentin OpenAI-Hugging Face, një kolektiv agjentik arriti të depërtonte në mënyrë autonome jo vetëm në infrastrukturën kërkimore të OpenAI, por edhe në infrastrukturën e prodhimit të një kompanie tjetër, duke lidhur në zinxhir cenueshmëri që shkonin nga mangësi sigurie të panjohura më parë deri te përdorimi i kredencialeve të llogarive të përdoruesve që kishin rrjedhur në internet. Po bëhet gjithnjë e më e qartë se borxhi teknik(hapet në një dritare të re) i çdo kompanie fsheh mangësi të rëndësishme dhe mbrojtësit duhet t’i gjejnë dhe t’i rregullojnë ato para se këtë ta bëjnë sulmuesit.
Për t’u dhënë mbrojtësve epërsi ndaj sulmuesve, në fillim të këtij viti ne nisëm t’ua ofronim aftësitë tona kibernetike vetëm mbrojtësve të besuar. Që atëherë, kompani të ndryshme kanë publikuar modele me ponderim të hapur, me aftësi kibernetike vetëm pak muaj prapa nivelit të avangardës. Më i fundit prej këtyre modeleve duket se është planifikuar të publikohet(hapet në një dritare të re) në fund të gushtit dhe ka të ngjarë ta përshpejtojë ndjeshëm zhvillimin e panoramës së kërcënimeve.
Edhe pse sulmuesit e fuqizuar nga IA-ja së shpejti do të mund të gjejnë mangësi të vjetra në shumë sisteme ekzistuese, IA-ja do ta bëjë po ashtu shumë më të lehtë për mbrojtësit që të gjejnë, të vendosin përparësitë dhe të rregullojnë pikërisht këto mangësi. Siguria është akoma një lojë si macja me miun, por IA-ja mund ta ndryshojë ekonominë(hapet në një dritare të re) për këtë në mënyra që u japin mbrojtësve një epërsi themelore. Për shembull, ne kemi filluar t’i trajnojmë modelet tona në mënyrë specifike që të shkruajnë kod me një siguri përtej aftësive njerëzore. Modelet tona janë gjithashtu jashtëzakonisht të afta në vërtetime matematikore, të cilat mund të përdoren për të verifikuar formalisht sigurinë e softuerit në një mënyrë që është dëshmuar si tepër e vështirë për njerëzit.
Pas incidentit OpenAI-Hugging Face, unë i kërkova ChatGPT Punë (duke përdorur GPT‑5.6 Sol, të disponueshëm në mënyrë publike) të vlerësonte sigurinë e gregbrockman.com(hapet në një dritare të re). Ky është një sajt i thjeshtë statik, i hostuar në AWS me Cloudflare si portë hyrëse, prandaj mendova se nuk do të kishte shumë sipërfaqe të cenueshme.
Brenda rreth 15 minutash, ai zbuloi 13 probleme. Shumë prej tyre ndoshta nuk mund të shfrytëzohen më vete, por mund t’i përfytyroja të lidhura në zinxhir me cenueshmëri të tjera dhe me pasoja të konsiderueshme. Nuk i kisha konfiguruar regjistrimet DNS që t’i pengonin sulmuesit të falsifikonin email-e në emrin tim; sajti im përdorte një version të pasigurt të jQuery; Cloudflare i përcillte kërkesat drejt AWS përmes HTTP-së së pakriptuar.
Më pas i kërkova ChatGPT Punë t’i rregullonte këto probleme dhe ai e bëri këtë brenda një ore. Ai hapi panelin e kontrollit të Cloudflare në shfletuesin tim dhe klikoi një varg butonash për të konfiguruar me saktësi DNS-në, TLS-në dhe cilësimet e avancuara të sigurisë; e hoqi plotësisht jQuery nga sajti; më migroi nga AWS te Cloudflare Pages; nisi vënien graduale në zbatim të DMARC(hapet në një dritare të re).
Dhe ky ishte vetëm sajti im personal. Ky është një shembull i vogël se si modelet tona ekzistuese mund të veprojnë si rojtarë kibernetikë: të gjejnë morinë e problemeve për të cilat një njeri nuk do të kishte kohë ose ekspertizë (shumë nga cilësimet që rregulloi i njoh disi, por nuk do të dija menjëherë si t’i konfiguroja saktë) dhe pastaj t’i rregullojnë me një plan vënieje në zbatim të përshtatur siç duhet.
Incidenti Hugging Face tregoi se i kishim nënvlerësuar aftësitë reale kibernetike të modeleve tona të IA-së. Ne po i forcojmë kërkesat tona të sigurisë në përputhje me këtë, gjë që i shton edhe më shumë urgjencë kërkimit tonë ekzistues mbi sigurinë dhe punës së brendshme për mbrojtjen.
Po ndaj disa hollësi rreth qasjes sonë për sigurimin e OpenAI në këtë moment, me shpresën se do të jenë të dobishme edhe për organizatat e tjera. Për të mbrojtur OpenAI, ne po investojmë në mënyrë të konsiderueshme si në kontrollet themelore, duke i bërë siç duhet gjërat bazë, ashtu edhe për fuqizimin e mbrojtjes sonë përmes inteligjencës avangardë. Kjo strategji mbështetet në katër shtylla kryesore.
Së pari, ne po përdorim modelet tona për të ndihmuar në sigurimin e kodit tonë. Codex, duke përfshirë shtesën tonë të sigurisë, verifikon ndryshimet në kod, identifikon cenueshmëritë dhe i ndihmon zhvilluesit të rregullojnë problemet përpara se ato të zbatohen. Qëllimi nuk është thjesht të prodhohen më shumë gjetje sigurie që kërkojnë validim njerëzor; objektivi është të kapen cenueshmëri reale përpara se të lëshohen dhe të shkurtohet rruga nga zbulimi i një problemi deri te zbatimi i sigurt i një korrigjimi. Ndërsa vazhdojmë të trajnojmë modelet tona për të prodhuar kod gjithnjë e më të sigurt, synimi ynë është të eliminojmë disa klasa të cenueshmërive të softuerit për kodin e shkruar rishtazi.
Së dyti, po i vëmë modelet tona në punë duke mbrojtur vazhdimisht infrastrukturën tonë. Sot, pothuajse të gjitha sinjalizimet tona fillestare të sigurisë vlerësohen paraprakisht nga inteligjenca përpara se të përfshihen njerëzit. Kjo ndihmon në reduktimin e punës rutinë dhe të lodhshme për mbrojtësit, përmirëson kohën e reagimit dhe u lejon njerëzve të kalojnë kohën aty ku aftësitë e tyre shfrytëzohen më së miri—në aftësinë për të dalluar, gjykimin dhe ekspertizën e zbatuar. Po i lidhim gjithnjë e më shumë këto zbulime me reagime të automatizuara brenda kufijve të përcaktuar, duke ua lënë njerëzve përgjegjësinë për vendimet me ndikimin më të madh. Qëllimi është të sigurohemi që mund t’i zbulojmë dhe t’u përgjigjemi problemeve të sigurisë me shpejtësinë e makinerive.
Së treti, po përdorim inteligjencën e avancuar për të identifikuar, testuar dhe zbuluar vazhdimisht rrugët e mundshme të sulmit. Duke identifikuar cenueshmëritë, konfigurimet e gabuara, identitetet me privilegje të tepërta ose kufijtë e paqëllimshëm të besimit, mund t’i identifikojmë dhe t’i mbyllim shpejt këto boshllëqe përpara se të shfrytëzohen nga sulmuesit. Kjo na mundëson të vlerësojmë, monitorojmë dhe testojmë vazhdimisht invariantët tanë të sigurisë—vetitë e sigurisë që besojmë se janë të vërteta—në të gjitha produktet, infrastrukturën dhe sistemet tona.
Së fundmi, po investojmë fuqishëm në aspektet themelore në shkallë të gjerë. Ne vazhdojmë të investojmë në arkitekturë dhe kontrolle të sigurta, adoptojmë strategji si mbrojtja në thellësi dhe privilegji minimal, dhe po projektojmë sisteme që kërkojnë që kontrolle të shumta të pavarura të dështojnë njëkohësisht që të ndodhë diçka katastrofike. Kontrollet klasike të sigurisë, si izolimi i rrjetit, forcimi i ngarkesave të punës, monitorimi, si dhe aplikimi i sigurt i përditësimeve dhe zbatimit të sigurt, do të jenë më të rëndësishme se kurrë në të ardhmen e AI-së.
Koha është vendimtare dhe mbrojtësit do të duhet të ndjekin hapat e mëposhtëm me shpejtësi maksimale. Më poshtë do të përmend teknologjinë OpenAI, por ka edhe plot konkurrentë në ekosistem për t’u vlerësuar. Ajo që ka rëndësi nuk është aq mjeti specifik, sa vendosja e inteligjencës artificiale të aftë në duart e mbrojtësve tuaj tani.
Siguro angazhimin dhe mbështetjen organizative. Po përjetojmë një ndryshim të shpejtë në rreziqet e sigurisë—sigurohu që organizatat e tua të sigurisë dhe inxhinierisë të kenë mbështetjen, partneritetin dhe burimet për t’i trajtuar shpejt këto rreziqe. Zhvillo ushtrime simuluese me ekipet e tua për të treguar se si këto sulme mund të shfaqen në organizatat tuaja dhe si do të përgjigjesh.
Jepi ekipit tënd të sigurisë një agjent. Fillo të përdorësh Codex, shtesën Codex Security(hapet në një dritare të re), ose një mjet tjetër të aftë për kodim agjentik dhe siguri. Jep akses të miratuar te bazat e kodit, konfigurimet e infrastrukturës dhe dokumentacioni teknik që ekipi yt i sigurisë duhet t’i vlerësojë. Mos prit për një shtrirje në të gjithë kompaninë për të filluar me sistemet e tua me përparësinë më të lartë.
Pajise atë agjent me ekspertizë sigurie. Fillo nga aftësitë(hapet në një dritare të re) e mbështetura nga komuniteti, të cilat përfshijnë flukse pune për analizë statike, rishikim të kodit me fokus te siguria, analizë të varianteve të cenueshmërive, vlerësim të rrezikut të zinxhirit të furnizimit të softuerit dhe rrjedha të tjera pune të sigurisë. Më pas, zhvillo aftësitë e tua të personalizuara bazuar në arkitekturën, standardet e sigurisë, modelet e kërcënimeve dhe procedurat e organizatës sate.
Kryej menjëherë vlerësime sigurie në sistemet e tua. Jepu përparësi fillimisht vlerësimeve të shërbimeve të aksesueshme nga interneti, proceseve të autentikimit, infrastrukturës si kod, proceseve të vendosjes në prodhim dhe sistemeve që trajtojnë informacione sensitive. Zgjero skanimin ndërsa ekipi yt fiton më shumë besim.
Puno me punët e tua të prapambetura ekzistuese të cenueshmërive. Jepi agjentit tënd gjetjet nga skanuesit e kodit, sinjalizimet për varësitë, çështjet e sigurisë, raportet e programeve bug bounty dhe vlerësimet e mëparshme. Kërkoji t’i klasifikojë këto gjetje, të dallojë problemet që mund të shfrytëzohen nga sinjalizimet e parëndësishme, të identifikojë dobësi të ngjashme në pjesë të tjera të bazës së kodit dhe të rekomandojë se cilat duhet të rregullohen më parë.
Integroje shqyrtimin e sigurisë drejtpërdrejt në procesin tënd të zhvillimit. Përdor agjentët për të shqyrtuar ndryshimet në kod përpara se të bashkohen dhe për të kryer kontrolle sigurie në CI. Kërko gabime në autentikim, anashkalime të kontrollit të aksesit, kredenciale të ekspozuara, varësi të pasigurta, cilësime të paracaktuara të pasigurta, ndryshime që zgjerojnë aksesin në sistemet e prodhimit dhe dobësi të tjera.
Lëre agjentin të ndihmojë në rregullimin e problemeve që gjen. Për problemet e verifikuara, kërkoji të gjenerojë dhe verifikojë një patch të fokusuar, të shkruajë një test regresioni dhe të konfirmojë se dobësia nuk mund të riprodhohet më. Ruaj shqyrtimin nga njerëzit për ndryshimet me pasoja të rëndësishme, por elimino vonesat e panevojshme midis identifikimit të një problemi real dhe vënies së një zgjidhjeje të sigurt në dispozicion të një inxhinieri.
Automatizo gradualisht triazhin e detektimeve. Mos fillo duke u përpjekur të ndërtosh një qendër autonome të operacioneve të sigurisë. Fillo duke ekzekutuar një skanim sigurie vetëm për lexim ndaj një depoje, ose kërkoni një agjent të shqyrtojë sinjalizimet e zgjidhura më parë duke përdorur qasje vetëm për lexim në regjistrat e tu ekzistues. Le të përmbledhë provat dhe të rekomandojë një vendim, ndërsa çdo vendim merret nga një person. Ndërsa rritet besimi, kalo te skanimi këshillues i pull request-eve, më pas te klasifikimi i sinjalizimeve në kohë reale dhe në fund te mbyllja automatike e rezultateve false pozitive të përcaktuara ngushtë.
Sigurohu që të kesh gati një aftësi hetimi forenzik të asistuar nga AI përpara se të të nevojitet. Apliko për Trusted Access for Cyber(hapet në një dritare të re) dhe merr miratimin që ekipi yt të përdorë GPT‑Daybreak‑Blue për punë mbrojtëse të autorizuara, duke përfshirë reagimin ndaj incidenteve, inxhinierinë e zbulimit dhe analizën e maluerëve. Praktikohu duke përdorur këtë aftësi për të analizuar regjistrat, telemetrinë dhe sinjalizimet e sigurisë.
Eksperimento, organizo javë hackathon-i dhe përmirëso me shpejtësi. Do të na duhet të ndërtojmë lloj-lloj mjetesh të reja, të ndryshojmë mënyrën se si punojmë dhe të rrisim nivelin e aftësive të të gjithëve për botën drejt së cilës po shkojmë. Inkurajo stafin tënd të kryejë eksperimente, planifiko një javë hackathon-i për të zhvilluar aftësi të reja dhe përqendrohu në përmirësimin e shpejtë dhe të vazhdueshëm të proceseve që automatizojnë pjesë të vogla të problemit. Përparimi i shpejtë dhe gradual sjell rezultate mbrojtëse që shumëfishohen me kalimin e kohës dhe mund ta zgjerosh gradualisht autonominë ndërsa ekipi yt fiton më shumë besim.
Asnjë kompani nuk mund ta bëjë këtë e vetme. Kërkesa jonë është që laboratorët e IA-së, ofruesit e sigurisë, ndërmarrjet dhe mirëmbajtësit të ndajnë gjetje të verifikuara, korrigjime dhe udhëzues praktikë në mënyrë që zbulimi i një organizate të forcojë të gjithë ekosistemin.
Dritarja e mbrojtësit është e hapur tani. Gjatë muajve të ardhshëm, çdo organizatë do të duhet të fillojë ta automatizojë në mënyrë të konsiderueshme programin e saj të sigurisë për të ruajtur sigurinë, ndërsa komuniteti i sigurisë duhet të veprojë urgjentisht për të përcaktuar mjetet, praktikat dhe procedurat që do të rrisin fuqinë e mbrojtësve më shpejt se atë të sulmuesve, ndërsa IA-ja vazhdon të përparojë. Kjo do të kërkojë një përpjekje të jashtëzakonshme dhe të paprecedentë, por nëse bashkohemi të gjithë, mund të krijojmë një botë më të sigurt nga sa imagjinohej më parë.
