Kiberdrošības stiprināšana līdz ar MI spēju attīstību

Kiberspējas MI modeļos strauji attīstās, sniedzot būtiskus ieguvumus kiberaizsardzībai, taču arī radot jaunus divējāda lietojuma riskus, kas ir rūpīgi jāpārvalda. Piemēram, spējas, kas novērtētas capture-the-flag (CTF) izaicinājumos, ir uzlabojušās no 27% modelī GPT‑5⁠(atveras jaunā logā) 2025. gada augustā līdz 76% modelī GPT‑5.1‑Codex‑Max⁠(atveras jaunā logā) 2025. gada novembrī.

Mēs paredzam, ka nākamie mākslīgā intelekta modeļi turpinās šo trajektoriju; tam gatavojoties, mēs veicam plānošanu un vērtēšanu ar pieņēmumu, ka katrs jauns modelis varētu sasniegt “augstu” kiberdrošības spēju līmeni, kā to mēra mūsu Sagatavotības satvars⁠(atveras jaunā logā). Ar to mēs domājam modeļus, kas spēj atrast iepriekš nezināmas attālināti izmantojamas ievainojamības labi aizsargātās sistēmās vai arī būtiski palīdzēt sarežģītās, slēptās uzbrukuma operācijās pret uzņēmumu vai rūpnieciskajām sistēmām, kuru mērķis ir reāla ietekme. Šajā rakstā tiek skaidrots, kā mēs domājam par aizsardzības pasākumiem tādiem modeļiem, kas sasniedz šādu spēju līmeni, un kā nodrošināt, lai tie jēgpilni palīdzētu aizstāvjiem, vienlaikus ierobežojot ļaunprātīgu izmantošanu.

Attīstoties šīm spējām, OpenAI iegulda līdzekļus mūsu modeļu stiprināšanā aizsardzības kiberdrošības uzdevumiem un tādu rīku izveidē, kas ļauj aizstāvjiem vieglāk veikt tādas darbplūsmas kā koda auditēšana un ievainojamību labošana. Mūsu mērķis ir panākt, lai mūsu modeļi un produkti sniegtu ievērojamas priekšrocības aizstāvjiem, kuru skaits bieži vien ir mazāks un kuru resursi ir nepietiekami.

Tāpat kā citās divējāda lietojuma jomās, aizsardzības un uzbrukuma kiberdarbplūsmas bieži balstās uz tām pašām pamatā esošajām zināšanām un metodēm. Mēs ieguldām aizsardzības pasākumos, lai palīdzētu nodrošināt, ka šīs jaudīgās iespējas galvenokārt nāktu par labu aizsardzības lietojumiem, un ierobežotu to izmantošanu ļaunprātīgiem mērķiem. Kiberdrošība skar gandrīz ikvienu jomu, un tas nozīmē, ka mēs nevaram paļauties tikai uz kādu vienu aizsardzības pasākumu kategoriju – piemēram, tikai uz zināšanu ierobežošanu vai pārbaudītas piekļuves izmantošanu –, bet mums ir nepieciešama padziļinātas aizsardzības pieeja, kas līdzsvaro risku un dod lietotājiem iespējas. Praksē tas nozīmē regulēt to, kā tiek nodrošināta piekļuve iespējām, kā tās tiek virzītas un piemērotas, lai spēcīgi modeļi stiprinātu drošību, nevis pazeminātu ļaunprātīgas izmantošanas barjeras.

Mēs šo darbu neuzskatām par vienreizēju pasākumu, bet gan par pastāvīgu ilgtermiņa ieguldījumu, lai sniegtu priekšrocības aizstāvjiem un nepārtraukti stiprinātu kritiskās infrastruktūras drošības stāvokli visā plašākajā ekosistēmā.

Mūsu modeļi ir izstrādāti un apmācīti drošai darbībai, un tos atbalsta proaktīvas sistēmas, kas atklāj ļaunprātīgu darbību un reaģē uz to. Mainoties mūsu spējām un apdraudējumu videi, mēs nepārtraukti pilnveidojam šos aizsardzības pasākumus. Lai gan neviena sistēma nevar garantēt pilnīgu ļaunprātīgas izmantošanas novēršanu kiberdrošībā, būtiski neietekmējot aizsardzības lietojumus, mūsu stratēģija ir risku mazināšana, izmantojot daudzslāņainu drošības pieeju.

Šīs pieejas pamatā ir padziļinātas aizsardzības stratēģija, kas balstās uz piekļuves kontroles, infrastruktūras nostiprināšanas, izejošās datplūsmas kontroles un uzraudzības kombināciju. Mēs papildinām šos pasākumus ar atklāšanas un reaģēšanas sistēmām, kā arī īpašām draudu izlūkošanas un iekšējo risku atklāšanas programmām, lai jauni draudi tiktu ātri identificēti un bloķēti. Šie aizsardzības pasākumi ir izstrādāti tā, lai tie varētu mainīties līdz ar draudu situāciju. Mēs rēķināmies ar pārmaiņām un veicam izstrādi tā, lai varētu ātri un atbilstoši pielāgoties.

Balstoties uz šo pamatu:

• Modeļa apmācība atteikties vai droši reaģēt uz kaitīgiem pieprasījumiem, vienlaikus saglabājot noderīgumu izglītojošos un aizsardzības lietošanas gadījumos: mēs apmācām savus robežšķirtnes modeļus atteikties vai droši reaģēt uz tādiem pieprasījumiem, kas ļautu īstenot nepārprotami ļaunprātīgu izmantošanu, vienlaikus saglabājot maksimālu noderīgumu likumīgos aizsardzības un izglītojošos lietošanas gadījumos.
• Atklāšanas sistēmas: mēs pilnveidojam un uzturam sistēmas mēroga uzraudzību visos produktos, kuros tiek izmantoti robežšķirtnes modeļi, lai atklātu potenciāli ļaunprātīgas kiberaktivitātes. Ja darbība šķiet nedroša, mēs varam bloķēt rezultātus, novirzīt pieprasījumus uz drošākiem vai mazāk spējīgiem modeļiem vai pārsūtīt lietu tālākai izskatīšanai. Tā apvieno automatizētu un cilvēku veiktu pārskatīšanu, ņemot vērā tādus faktorus kā juridiskās prasības, pārkāpuma nopietnība un atkārtota uzvedība. Mēs arī cieši sadarbojamies ar izstrādātājiem un korporatīvajiem klientiem, lai saskaņotu drošības standartus un nodrošinātu atbildīgu lietošanu ar skaidriem eskalācijas ceļiem.
• Sarkanās komandas pārbaude no sākuma līdz beigām: mēs sadarbojamies ar ekspertu sarkanās komandas pārbaudes organizācijām, lai novērtētu un uzlabotu savus drošības pasākumus. To uzdevums ir mēģināt apiet visus mūsu aizsardzības mehānismus, rīkojoties pilna spektra apstākļos, gluži tāpat, kā to varētu darīt apņēmīgs un labi nodrošināts pretinieks. Tas palīdz mums agrīni identificēt nepilnības un stiprināt visu sistēmu.

OpenAI jau agrīni ir ieguldījis mākslīgā intelekta izmantošanā aizsardzības kiberdrošības lietošanas gadījumos, un mūsu komanda cieši sadarbojas ar globāliem ekspertiem, lai pilnveidotu gan mūsu modeļus, gan to pielietojumu. Mēs augstu vērtējam globālo kiberdrošības speciālistu kopienu, kas nenogurstoši strādā, lai padarītu mūsu digitālo pasauli drošāku, un esam apņēmušies nodrošināt jaudīgus rīkus, kas atbalsta aizsardzības drošību. Ieviešot jaunus aizsardzības pasākumus, mēs turpināsim sadarboties ar kiberdrošības kopienu, lai saprastu, kur mākslīgais intelekts var nozīmīgi stiprināt noturību un kur pārdomāti aizsardzības pasākumi ir vissvarīgākie.

Līdztekus šai sadarbībai mēs veicam virkni pasākumu, kuru mērķis ir palīdzēt aizsargātājiem rīkoties ātrāk, pamatot mūsu drošības pasākumus ar reālām vajadzībām un paātrināt atbildīgu novēršanu lielā mērogā.

Mēs drīzumā ieviesīsim uzticamas piekļuves programmu, kurā pētīsim iespēju nodrošināt kvalificētiem lietotājiem un klientiem, kas strādā kiberaizsardzības jomā, dažādu līmeņu piekļuvi paplašinātām iespējām mūsu jaunākajos modeļos aizsardzības lietošanas vajadzībām. Mēs joprojām pētām pareizo robežu tam, kurām iespējām varam nodrošināt plašu piekļuvi un kurām ir nepieciešami dažādu līmeņu ierobežojumi, un tas var ietekmēt šīs programmas turpmāko veidošanu. Mēs vēlamies, lai šī uzticamas piekļuves programma būtu pamatelements ceļā uz noturīgu ekosistēmu.

Aardvark, mūsu aģentiskais drošības pētnieks, kas palīdz izstrādātājiem un drošības komandām lielā mērogā atrast un novērst ievainojamības, tagad ir pieejams privātā beta versijā. Tas skenē koda bāzes, lai atrastu ievainojamības, un piedāvā ielāpus, ko uzturētāji var ātri ieviest. Tas jau ir identificējis jaunus CVE atvērtā koda programmatūrā, izmantojot spriestspēju veselās koda bāzēs. Mēs plānojam piedāvāt bezmaksas segumu izvēlētiem nekomerciāliem atvērtā pirmkoda repozitorijiem, lai veicinātu atvērtā pirmkoda programmatūras ekosistēmas un piegādes ķēdes drošību. Piesakies dalībai šeit.

Mēs izveidosim Robežriska padomi – konsultatīvu grupu, kas nodrošinās ciešu sadarbību starp mūsu komandām un pieredzējušiem kiberaizsardzības speciālistiem un drošības praktiķiem. Šī padome sāks darbu, koncentrējoties uz kiberdrošību, un nākotnē paplašināsies arī uz citām robežšķirtnes spēju jomām. Dalībnieki sniegs ieteikumus par robežu starp noderīgām, atbildīgi izmantotām iespējām un iespējamu ļaunprātīgu izmantošanu, un šie secinājumi tieši ietekmēs mūsu novērtējumus un aizsardzības pasākumus. Drīzumā dalīsimies ar plašāku informāciju par šo padomi. 

Visbeidzot, mēs paredzam, ka ļaunprātīga izmantošana varētu būt iespējama no jebkura robežšķirtnes modeļa šajā nozarē. Lai to risinātu, mēs sadarbojamies ar citām robežšķirtnes laboratorijām caur Frontier Model Forum – bezpeļņas organizāciju, kuru atbalsta vadošās MI laboratorijas un nozares partneri, lai veidotu kopīgu izpratni par draudu modeļiem un labāko praksi. Šajā kontekstā draudu modelēšana palīdz mazināt risku, identificējot, kā MI spējas varētu tikt izmantotas kaitnieciskos nolūkos; kur dažādiem draudu aktoriem pastāv kritiski vājie punkti; un kā robežšķirtnes modeļi varētu sniegt būtisku uzlabojumu. Šīs sadarbības mērķis ir veidot konsekventu, visā ekosistēmā kopīgu izpratni par apdraudējuma izraisītājiem un uzbrukumu ceļiem, tādējādi ļaujot laboratorijām, uzturētājiem un aizstāvjiem labāk pilnveidot savus draudu mazināšanas pasākumus un nodrošināt, ka būtiskās drošības atziņas ātri izplatās visā ekosistēmā. Mēs arī sadarbojamies ar ārējām komandām, lai izstrādātu kiberdrošības novērtējumus⁠(atveras jaunā logā). Mēs ceram, ka neatkarīgu novērtējumu ekosistēma vēl vairāk palīdzēs veidot kopīgu izpratni par modeļu spējām.

Kopumā šie centieni atspoguļo mūsu ilgtermiņa apņemšanos stiprināt ekosistēmas aizsardzību. Modeļiem kļūstot spējīgākiem, mūsu mērķis ir nodrošināt, lai šīs spējas pārvērstos par reālu priekšrocību aizstāvjiem, balstoties uz reālām vajadzībām, ekspertu ieguldījumu un pārdomātu ieviešanu. Līdztekus šim darbam mēs plānojam izpētīt citas iniciatīvas un kiberdrošības grantus, lai atklātu revolucionāras idejas, kas varētu neparādīties tradicionālajos kanālos, un iesaistītu akadēmisko vidi, rūpniecības nozari un atvērtā pirmkoda kopienu drosmīgu un radošu aizsardzības risinājumu izstrādē. Tas ir pastāvīgs darbs, un mēs turpināsim pilnveidot šīs programmas, mācoties, kas visefektīvāk veicina drošību reālajā pasaulē.