Kibernetinio atsparumo stiprinimas tobulėjant DI galimybėms

DI modelių kibernetinės galimybės sparčiai auga – tai teikia svarią naudą kibernetinei gynybai, tačiau kartu kelia naują dvigubos paskirties riziką, kurią būtina valdyti atsakingai. Pavyzdžiui, galimybės, įvertintos per „Capture the Flag“ (angl. „Capture-the-flag“, CTF) iššūkius, pagerėjo nuo 27 proc. naudojant „GPT‑5“⁠(atsidaro naujame lange) 2025 m. rugpjūtį iki 76 proc. naudojant „GPT‑5.1‑Codex‑Max“⁠(atsidaro naujame lange) 2025 m. lapkritį.

Tikimės, kad būsimi DI modeliai išlaikys šią trajektoriją. Ruošdamiesi tam, planuojame ir vertiname situaciją taip, tarsi kiekvienas naujas modelis galėtų pasiekti aukštą (angl. „High“) kibernetinio saugumo galimybių lygį pagal mūsų Pasirengimo sistemą⁠(atsidaro naujame lange). Tai reiškia modelius, galinčius sukurti veikiančius nulinės dienos nuotolinio išnaudojimo būdus prieš gerai apsaugotas sistemas arba ženkliai padėti vykdyti sudėtingas, slaptas įsibrovimo į įmonių ar pramonės tinklus operacijas, kuriomis siekiama sukelti realių pasekmių. Šiame įraše paaiškiname savo požiūrį į apsaugos priemones, skirtas tokio lygio modeliams, ir tai, kaip užtikriname, kad jie būtų naudingi gynėjams bei ribotų piktnaudžiavimo galimybes.

Tobulėjant šioms galimybėms, „OpenAI“ investuoja į modelių stiprinimą gynybinėms kibernetinio saugumo užduotims ir kuria įrankius, leidžiančius gynėjams lengviau atlikti tokius procesus kaip kodo auditas ar pažeidžiamumų šalinimas. Mūsų tikslas – užtikrinti, kad modeliai ir produktai suteiktų svarių pranašumų gynėjams, kurių pajėgos dažnai yra mažesnės ir disponuoja ribotais ištekliais.

Kaip ir kitose dvigubos paskirties srityse, gynybiniai ir puolamieji kibernetiniai procesai dažnai remiasi tomis pačiomis žiniomis bei metodais. Investuojame į apsaugos priemones, siekdami užtikrinti, kad šios galingos galimybės pirmiausia pasitarnautų gynybai ir kuo mažiau padėtų siekti piktavališkų tikslų. Kibernetinis saugumas apima beveik visas sritis, todėl negalime pasikliauti tik viena apsaugos priemonių kategorija, pavyzdžiui, žinių ribojimu ar patikrinta prieiga. Mums reikalinga gilioji gynyba, kuri padėtų išlaikyti rizikos pusiausvyrą ir suteiktų daugiau galimybių naudotojams. Praktikoje tai reiškia prieigos prie galimybių, jų valdymo ir taikymo modeliavimą taip, kad pažangūs modeliai stiprintų saugumą, o ne mažintų piktnaudžiavimo kliūtis.

Šią veiklą vertiname ne kaip vienkartines pastangas, o kaip nuolatines ilgalaikes investicijas, skirtas suteikti pranašumą gynėjams ir nuolat stiprinti kritinės infrastruktūros saugumą visoje ekosistemoje.

Mūsų modeliai projektuojami ir mokomi veikti saugiai, pasitelkiant aktyvias sistemas, kurios aptinka kibernetinį piktnaudžiavimą ir į jį reaguoja. Nuolat tobuliname šias apsaugos priemones, keičiantis mūsų galimybėms ir grėsmių aplinkai. Nors jokia sistema negali garantuoti visiškos apsaugos nuo piktnaudžiavimo kibernetinėje erdvėje neapribodama gynybinių priemonių naudojimo, mūsų strategija yra mažinti riziką pasitelkiant sluoksniuotą saugos dėklą.

Šios strategijos pagrindas – gilioji gynyba, besiremianti prieigos kontrole, infrastruktūros saugumo didinimu, išvesties kontrole ir stebėsena. Šias priemones papildome aptikimo ir reagavimo sistemomis bei specializuotomis grėsmių žvalgybos ir vidinių grėsmių valdymo programomis, užtikrinančiomis greitą naujų grėsmių atpažinimą ir blokavimą. Šios apsaugos priemonės nuolat tobulinamos atsižvelgiant į kintančią grėsmių aplinką. Vertiname pokyčius kaip neišvengiamybę, todėl kuriame taip, kad galėtume greitai ir tinkamai prisitaikyti.

Šiuo pagrindu grindžiama:

• modelio mokymas atmesti žalingas užklausas arba saugiai į jas atsakyti, išliekant naudingu švietimo ir gynybos tikslais: mokome savo priešakinius modelius atmesti užklausas, leidžiančias akivaizdžiai piktnaudžiauti kibernetinėje erdvėje, arba saugiai į jas atsakyti, kartu išlaikydami maksimalų naudingumą teisėtais gynybos ir švietimo tikslais;
• aptikimo sistemos: nuolat tobuliname ir vykdome viso tinklo stebėseną visuose produktuose, kuriuose naudojami priešakiniai modeliai, kad pastebėtume galimą piktavališką veiklą kibernetinėje erdvėje. Pastebėję nesaugią veiklą, galime blokuoti išvestį, nukreipti užklausas į saugesnius ar paprastesnius modelius arba perduoti atvejį tolesniam nagrinėjimui. Užtikrindami taisyklių laikymąsi, deriname automatizuotą ir žmogiškąją peržiūrą, atsižvelgdami į tokius veiksnius kaip teisiniai reikalavimai, pažeidimo sunkumas ir pasikartojantis elgesys. Taip pat glaudžiai bendradarbiaujame su kūrėjais ir verslo klientais, siekdami suderinti saugos standartus ir įgalinti atsakingą naudojimą nustatant aiškius reagavimo kelius;
• visapusiškas saugumo testavimas: bendradarbiaujame su saugumo testavimo (angl. „red teaming“) ekspertais, kad įvertintume ir patobulintume savo saugos priemones. Jų užduotis – bandyti apeiti visas mūsų apsaugos priemones veikiant visapusiškai, lygiai taip pat, kaip tai darytų ryžtingas ir didelius išteklius turintis priešininkas. Tai padeda mums anksti nustatyti spragas ir sustiprinti visą sistemą.

„OpenAI“ jau anksčiau investavo į DI taikymą gynybinio kibernetinio saugumo srityje, o mūsų komanda glaudžiai bendradarbiauja su pasaulinio lygio ekspertais, siekdama tobulinti modelius ir jų taikymą. Vertiname pasaulinę kibernetinio saugumo specialistų bendruomenę, kuri stengiasi, kad mūsų skaitmeninis pasaulis būtų saugesnis, ir esame pasiryžę kurti galingus įrankius gynybinio saugumo tikslais. Pristatydami naujas apsaugos priemones, toliau bendradarbiavime su kibernetinio saugumo bendruomene, siekdami suprasti, kur DI gali ženkliai padidinti atsparumą, o kur apgalvota sauga yra svarbiausia.

Be šio bendradarbiavimo, imamės iniciatyvų, padedančių gynėjams veikti sparčiau, pagrindžiančių mūsų apsaugos priemones realiais poreikiais ir paspartinančių atsakingą pažeidimų šalinimą dideliu mastu.

Netrukus pristatysime patikimos prieigos programą, kurioje numatysime galimybę reikalavimus atitinkantiems naudotojams ir klientams, dirbantiems kibernetinės gynybos srityje, suteikti pakopinę prieigą prie išplėstinių naujausių modelių galimybių gynybiniais tikslais. Vis dar vertiname, kokios galimybės gali būti plačiai prieinamos, o kurioms reikalingi pakopiniai ribojimai – tai gali turėti įtakos būsimai šios programos struktūrai. Siekiame, kad ši patikimos prieigos programa taptų vienu iš pamatinių elementų kuriant atsparią ekosistemą.

„Aardvark“ – mūsų agentinis saugumo tyrėjas, padedantis kūrėjams ir saugumo komandoms rasti bei pašalinti pažeidžiamumus dideliu mastu, jau pasiekiamas privačios bandomosios versijos (angl. „Private Beta“) pavidalu. Jis skenuoja programinio kodo bazes ieškodamas pažeidžiamumų ir siūlo pataisas, kurias prižiūrėtojai gali greitai pritaikyti. Analizuodamas ištisas kodo bazes, jis jau nustatė naujus atvirojo kodo programinės įrangos CVE identifikatorius. Ketiname nemokamai suteikti šį įrankį tam tikroms nekomercinėms atvirojo kodo saugykloms, kad prisidėtume prie atvirosios programinės įrangos ekosistemos ir tiekimo grandinės saugumo. Teikite paraišką dalyvauti čia.

Steigiame Priešakinės rizikos tarybą – patariamąją grupę, kuri suburs patyrusius kibernetinės gynybos ir saugumo specialistus glaudžiam bendradarbiavimui su mūsų komandomis. Ši taryba pradės savo veiklą sutelkdama dėmesį į kibernetinį saugumą, o ateityje jos veikla bus išplėsta į kitas priešakinių galimybių sritis. Nariai teiks rekomendacijas dėl ribos tarp naudingų, atsakingų galimybių ir galimo piktnaudžiavimo, o ši patirtis tiesiogiai padės tobulinti mūsų vertinimus ir apsaugos priemones. Netrukus pasidalinsime išsamesne informacija apie šią tarybą. 

Galiausiai numatome, kad piktnaudžiavimas kibernetinėje erdvėje gali būti įmanomas naudojant bet kurį rinkoje esantį priešakinį modelį. Siekdami tai spręsti, bendradarbiaujame su kitomis priešakinėmis laboratorijomis per „Priešakinių modelių forumą“ (angl. „Frontier Model Forum“) – pirmaujančių DI laboratorijų ir pramonės partnerių remiamą ne pelno siekiančią organizaciją, kurioje ugdome bendrą supratimą apie grėsmių modelius ir gerąją patirtį. Šiame kontekste grėsmių modeliavimas padeda mažinti riziką nustatant, kaip DI galimybės gali būti panaudotos kaip ginklas, kur skirtingiems piktavaliams kyla kritinių kliūčių ir kaip priešakiniai modeliai gali suteikti jiems apčiuopiamą pranašumą. Šiuo bendradarbiavimu siekiama sukurti vieningą, visą ekosistemą apimantį supratimą apie piktavalius ir atakų kelius, taip leidžiant laboratorijoms, prižiūrėtojams bei gynėjams geriau tobulinti savo apsaugos priemones ir užtikrinti, kad svarbi saugumo informacija greitai pasklistų visoje ekosistemoje. Taip pat bendradarbiaujame su išorinėmis komandomis kurdami kibernetinio saugumo vertinimus⁠(atsidaro naujame lange). Tikimės, kad nepriklausomų vertinimų ekosistema padės dar geriau suprasti modelių galimybes.

Visi šie veiksmai atspindi mūsų ilgalaikį įsipareigojimą stiprinti gynybinę ekosistemos pusę. Modeliams tampant vis galingesniems, mūsų tikslas – užtikrinti, kad šios galimybės taptų realiu svertu gynėjams, būtų pagrįstos realiais poreikiais, suformuotos remiantis ekspertų įžvalgomis ir diegiamos atsakingai. Be šios veiklos, planuojame apsvarstyti kitas iniciatyvas bei kibernetinio saugumo dotacijas, siekdami paskatinti proveržį sukeliančias idėjas, kurios gali neatsirasti tradiciniais būdais, ir pasitelkti drąsius bei kūrybiškus gynybos sprendimus iš mokslo bendruomenės, pramonės atstovų bei atvirojo kodo kūrėjų. Apibendrinant, tai yra nuolatinis darbas, ir mes ketiname toliau tobulinti šias programas, remdamiesi patirtimi, kas efektyviausiai užtikrina realų saugumą.