Jačanje kibernetičke otpornosti kako se razvijaju mogućnosti umjetne inteligencije

Kibernetičke sposobnosti u AI modelima brzo napreduju, donoseći značajne koristi za kibernetičku odbranu, kao i nove rizike dvostruke upotrebe kojima se mora pažljivo upravljati. Na primjer, sposobnosti procijenjene kroz capture-the-flag (CTF) izazove poboljšale su se sa 27% na GPT‑5⁠(otvara se u novom prozoru) u augustu 2025. na 76% na GPT‑5.1‑Codex‑Max⁠(otvara se u novom prozoru) u novembru 2025.

Očekujemo da će nadolazeći AI modeli nastaviti ovu putanju; u pripremi, planiramo i procjenjujemo kao da svaki novi model može dostići ‘visok’ nivo sposobnosti u oblasti kibernetičke sigurnosti, kako je mjereno našim okvirom pripravnosti⁠(otvara se u novom prozoru). Pod ovim mislimo na modele koji mogu razviti funkcionalne zero-day udaljene eksploite protiv dobro branjenih sistema ili značajno pomoći u složenim, prikrivenim operacijama upada u preduzeća ili industrijske sisteme usmjerenim na efekte u stvarnom svijetu. Ovaj post objašnjava kako razmišljamo o zaštitnim mjerama za modele koji dostignu ove nivoe sposobnosti i kako osiguravamo da smisleno pomažu braniteljima uz ograničavanje zloupotrebe.

Kako se ove sposobnosti razvijaju, OpenAI ulaže u jačanje naših modela za zadatke odbrambene kibernetičke sigurnosti i u stvaranje alata koji braniocima omogućavaju da lakše obavljaju radne tokove kao što su revizija koda i zakrpljivanje ranjivosti. Naš cilj je da naši modeli i proizvodi donesu značajne prednosti braniteljima, koji su često brojniji od njih i imaju manje resursa.

Kao i druge oblasti dvostruke namjene, odbrambeni i ofanzivni kibernetički tokovi rada često se oslanjaju na isto znanje i tehnike u osnovi. Ulažemo u zaštitne mjere kako bismo pomogli osigurati da ove moćne mogućnosti prvenstveno koriste odbrambenim primjenama i ograniče njihovo unapređenje za zlonamjerne svrhe. Kibernetička sigurnost dotiče gotovo svako područje, što znači da se ne možemo oslanjati ni na jednu pojedinačnu kategoriju zaštitnih mjera—kao što su samo ograničavanje znanja ili isključivo korištenje provjerenog pristupa—već nam je potreban pristup obrane u dubini koji uravnotežuje rizik i osnažuje korisnike. U praksi, to znači oblikovanje načina na koji se sposobnostima pristupa, kako se usmjeravaju i primjenjuju, tako da napredni modeli jačaju sigurnost umjesto da smanjuju prepreke za zloupotrebu.

Ovaj rad ne vidimo kao jednokratan napor, već kao trajno, dugoročno ulaganje u pružanje prednosti braniocima i kontinuirano jačanje sigurnosnog stanja ključne infrastrukture širom šireg ekosistema.

Naši modeli su dizajnirani i obučeni da sigurno funkcioniraju, uz podršku proaktivnih sistema koji otkrivaju i reagiraju na kibernetičku zloupotrebu. Kontinuirano usavršavamo ove zaštite kako se naše sposobnosti i okruženje prijetnji mijenjaju. Iako nijedan sistem ne može garantirati potpuno sprečavanje zloupotrebe u sajber sigurnosti bez ozbiljnog ugrožavanja odbrambenih primjena, naša strategija je ublažavanje rizika kroz višeslojni sigurnosni sistem.

U osnovi ovoga, primjenjujemo pristup odbrane u dubinu, oslanjajući se na kombinaciju kontrola pristupa, ojačavanja infrastrukture, izlaznih kontrola i nadzora. Ove mjere dopunjujemo sistemima za otkrivanje i odgovor te namjenskim programima za obavještajne podatke o prijetnjama i upravljanje internim rizicima, čime se osigurava da se nove prijetnje brzo identificiraju i blokiraju. Ove mjere zaštite osmišljene su da se razvijaju zajedno s okruženjem prijetnji. Računamo na promjene i gradimo tako da se možemo brzo i primjereno prilagoditi.

Nadograđujući se na ovu osnovu:

• Obučavanje modela da odbijaju ili sigurno odgovaraju na štetne zahtjeve, uz istovremeno zadržavanje korisnosti za obrazovne i odbrambene slučajeve upotrebe: Obučavamo naše granične modele da odbijaju ili sigurno odgovaraju na zahtjeve koji bi omogućili jasnu sajber zloupotrebu, uz istovremeno zadržavanje maksimalne korisnosti za legitimne odbrambene i obrazovne slučajeve upotrebe.
• Sistemi za otkrivanje: Unapređujemo i održavamo nadzor na nivou sistema u svim proizvodima koji koriste granične modele za otkrivanje potencijalno zlonamjernih aktivnosti na mreži. Kada aktivnost djeluje nesigurno, možemo blokirati izlaz, preusmjeriti upite na sigurnije ili manje sposobne modele, ili eskalirati za daljnje mjere. Naše provođenje mjera kombinira automatizirane i ljudske recenzije, uzimajući u obzir faktore poput zakonskih zahtjeva, ozbiljnosti i ponovljenog ponašanja. Također blisko sarađujemo s programerima i poslovnim korisnicima kako bismo uskladili sigurnosne standarde i omogućili odgovorno korištenje uz jasno definirane puteve eskalacije.
• End-to-end red teaming: Radimo s stručnim organizacijama za red teaming kako bismo procijenili i unaprijedili naše sigurnosne mjere. Njihov posao je da pokušaju zaobići sve naše odbrane djelujući od početka do kraja, baš kao što bi to mogao učiniti odlučan i dobro opremljen protivnik. To nam pomaže da rano prepoznamo nedostatke i ojačamo cijeli sistem.

OpenAI je rano ulagao u primjenu AI-ja za odbrambene potrebe u kibernetičkoj sigurnosti, a naš tim blisko sarađuje s globalnim stručnjacima kako bi dalje razvijao i naše modele i njihovu primjenu. Cijenimo globalnu zajednicu stručnjaka za kibernetičku sigurnost koji naporno rade da naš digitalni svijet učine sigurnijim i posvećeni smo tome da isporučimo moćne alate koji podržavaju odbrambenu zaštitu. Dok uvodimo nove mjere zaštite, nastavit ćemo sarađivati sa zajednicom za kibernetičku sigurnost kako bismo razumjeli gdje AI može smisleno ojačati otpornost, a gdje su pažljivo osmišljene mjere zaštite najvažnije.

Uz ove saradnje, uspostavljamo niz inicijativa osmišljenih da pomognu braniteljima da brže napreduju, utemelje naše zaštitne mjere na stvarnim potrebama i ubrzaju odgovorno otklanjanje problema u velikim razmjerama.

Uskoro ćemo uvesti program pouzdanog pristupa u okviru kojeg ćemo istražiti mogućnost pružanja kvalifikovanim korisnicima i klijentima koji rade na kibernetičkoj odbrani višerazinskog pristupa naprednijim mogućnostima u našim najnovijim modelima za odbrambene slučajeve upotrebe. Još uvijek istražujemo pravu granicu između toga kojim mogućnostima možemo omogućiti širok pristup, a koje zahtijevaju višeslojne restrikcije, što može uticati na budući dizajn ovog programa. Cilj nam je da ovaj program pouzdanog pristupa bude temelj za otporan ekosistem.

Aardvark, naš agentički sigurnosni istraživač koji pomaže developerima i sigurnosnim timovima da pronađu i otklone ranjivosti u velikom obimu, sada je u privatnoj beta verziji. Skenira baze koda u potrazi za ranjivostima i predlaže zakrpe koje održavaoci mogu brzo usvojiti. Već je identificirao nove CVE-ove u softveru otvorenog koda rezonovanjem nad cijelim bazama koda. Planiramo ponuditi besplatnu pokrivenost odabranim nekomercijalnim repozitorijima otvorenog koda kako bismo doprinijeli sigurnosti ekosistema softvera otvorenog koda i lanca opskrbe. Prijavite se za učešće ovdje.

Uspostavit ćemo Vijeće za granični rizik, savjetodavnu grupu koja će dovesti iskusne kibernetičke branioce i sigurnosne stručnjake u blisku saradnju s našim timovima. Ovo vijeće započet će s fokusom na kibernetičku sigurnost, a u budućnosti će se proširiti i na druge granične domene sposobnosti. Članovi će savjetovati o granici između korisne, odgovorne sposobnosti i potencijalne zloupotrebe, a ova saznanja direktno će oblikovati naše evaluacije i mjere zaštite. Uskoro ćemo podijeliti više informacija o vijeću. 

Konačno, predviđamo da bi zloupotreba u kibernetičkom prostoru mogla biti ostvariva iz bilo kojeg graničnog modela u industriji. Kako bismo se time pozabavili, sarađujemo s drugim graničnim laboratorijama kroz Frontier Model Forum, neprofitnu organizaciju koju podržavaju vodeće AI laboratorije i industrijski partneri, kako bismo razvili zajedničko razumijevanje modela prijetnji i najboljih praksi. U ovom kontekstu, modeliranje prijetnji pomaže smanjiti rizik identificiranjem kako se AI sposobnosti mogu iskoristiti kao oružje, gdje postoje ključna uska grla za različite aktere prijetnji i kako granični modeli mogu donijeti značajan napredak. Ova saradnja ima za cilj izgradnju dosljednog razumijevanja aktera prijetnji i puteva napada u cijelom ekosistemu, omogućavajući laboratorijama, održavaocima i braniocima da unaprijede svoje mjere ublažavanja i osiguraju brzo širenje ključnih sigurnosnih uvida kroz ekosistem. Također sarađujemo s vanjskim timovima na razvoju procjena kibernetičke sigurnosti⁠(otvara se u novom prozoru). Nadamo se da će ekosistem nezavisnih evaluacija dodatno pomoći u izgradnji zajedničkog razumijevanja sposobnosti modela.

Zajedno, ovi napori odražavaju našu dugoročnu posvećenost jačanju odbrambene strane ekosistema. Kako modeli postaju sposobniji, naš cilj je pomoći da se te sposobnosti pretvore u stvarnu prednost za branioce — utemeljenu u stvarnim potrebama, oblikovanu stručnim doprinosom i primijenjenu s pažnjom. Uz ovaj rad planiramo istražiti druge inicijative i grantove za kibernetičku sigurnost kako bismo otkrili revolucionarne ideje koje možda ne bi proizašle iz tradicionalnih tokova, te prikupili smjele i kreativne odbrambene pristupe iz akademske zajednice, industrije i zajednice otvorenog koda. Sve u svemu, ovo je stalni rad i očekujemo da ćemo nastaviti razvijati ove programe kako budemo učili šta najefikasnije unapređuje sigurnost u stvarnom svijetu.