Jačanje kibernetičke otpornosti s napretkom mogućnosti umjetne inteligencije

Kibernetičke mogućnosti u AI modelima brzo napreduju, donoseći značajne prednosti za kibernetičku obranu, kao i nove rizike dvostruke namjene kojima se mora pažljivo upravljati. Primjerice, mogućnosti procijenjene kroz izazove tipa "hvatanje zastave" (capture-the-flag - CTF) poboljšale su se s 27 % na modelu GPT‑5⁠(otvara se u novom prozoru) u kolovozu 2025. na 76 % na modelu GPT‑5.1‑Codex‑Max⁠(otvara se u novom prozoru) u studenome 2025.

Očekujemo da će budući modeli umjetne inteligencije nastaviti tim putem; u pripremi za to, planiramo i procjenjujemo kao da bi svaki novi model mogao dosegnuti visoku razinu kibernetičkih sposobnosti, kako je definirano našim Okvirom pripravnosti⁠(otvara se u novom prozoru). Pod time mislimo na modele koji mogu ili razviti funkcionalna iskorištavanja neprepoznatih slabosti protiv dobro zaštićenih sustava, ili značajno pomoći u složenim, prikrivenim korporativnim ili industrijskim operacijama upada usmjerenima na učinke u stvarnom svijetu. Ova objava objašnjava kako razmišljamo o zaštitnim mjerama za modele koji dosegnu ove razine mogućnosti te kako osiguravamo da značajno pomažu braniteljima uz ograničavanje zlouporabe.

Kako se te mogućnosti razvijaju, OpenAI ulaže u jačanje svojih modela za obrambene zadatke kibernetičke sigurnosti i u stvaranje alata koji braniteljima omogućuju lakše izvođenje radnih procesa kao što su revizija kôda i krpanje ranjivosti. Naš je cilj da naši modeli i proizvodi donose značajne prednosti braniteljima, koji su često brojčano nadjačani i imaju nedostatne resurse.

Kao i u drugim područjima dvojne namjene, obrambeni i ofenzivni kibernetički procesi često se oslanjaju na isto temeljno znanje i tehnike. Ulažemo u zaštitne mjere kako bismo osigurali da ove moćne sposobnosti prvenstveno koriste obrambenim svrhama i ograniče njihovu zlouporabu. Kibernetička sigurnost obuhvaća gotovo svako područje, što znači da se ne možemo osloniti na jednu kategoriju zaštitnih mjera — poput ograničavanja znanja ili korištenja provjerenog pristupa — već trebamo višeslojni pristup koji uravnotežuje rizik i osnažuje korisnike. U praksi to znači oblikovanje načina pristupa, usmjeravanja i primjene mogućnosti kako bi napredni modeli jačali sigurnost umjesto da snižavaju prag za zlouporabu.

Ovaj rad ne promatramo kao jednokratno nastojanje, već kao trajno, dugoročno ulaganje u pružanje prednosti braniteljima i kontinuirano jačanje sigurnosnog stanja kritične infrastrukture u širem ekosustavu.

Naši modeli osmišljeni su i obučeni za sigurno funkcioniranje, uz podršku proaktivnih sustava koji otkrivaju i reagiraju na zlouporabu u kibernetičkom prostoru. Neprestano usavršavamo ove zaštitne mjere kako se naše sposobnosti i krajolik prijetnji mijenjaju. Iako nijedan sustav ne može jamčiti potpuno sprječavanje zlouporabe u kibernetičkoj sigurnosti bez ozbiljnog utjecaja na obrambene primjene, naša strategija je ublažavanje rizika kroz višeslojni sigurnosni sustav.

U temeljima svega primjenjujemo pristup dubinske obrane te se oslanjamo na kombinaciju kontrola pristupa, očvršćivanja infrastrukture, kontrola izlaznog prometa te nadzora. Te mjere nadopunjujemo sustavima za otkrivanje i reagiranje (odgovor) te namjenskim programima za obavještavanje o prijetnjama i upravljanje rizicima od internih prijetnji, što omogućuje da se nove prijetnje brzo prepoznaju i blokiraju. Ove su zaštitne mjere osmišljene tako da se razvijaju u skladu s promjenama u krajoliku prijetnji. Računamo na promjene i gradimo tako da se možemo brzo i primjereno prilagoditi slučajevima.

Nadovezujući se na ovu osnovu:

• Obučavanje modela da odbijaju ili sigurno odgovaraju na štetne zahtjeve, a da pritom ostanu korisni za obrazovne i obrambene slučajeve uporabe: obučavamo naše granične modele da odbijaju ili sigurno odgovaraju na zahtjeve koji bi omogućili jasnu kibernetičku zlouporabu, a da pritom ostanu maksimalno korisni za legitimne obrambene i obrazovne slučajeve uporabe.
• Sustavi za otkrivanje: usavršavamo i održavamo nadzor na razini cijelog sustava u svim proizvodima koji upotrebljavaju granične modele radi otkrivanja potencijalno zlonamjernih kibernetičkih aktivnosti. Kada aktivnost izgleda nesigurno, možemo blokirati izlaz, preusmjeriti upite na sigurnije ili manje sposobne modele ili eskalirati slučaj radi provedbe rješavanja problema. Naša provedba kombinira automatiziranu i ljudsku provjeru, na koju utječu čimbenici poput zakonskih zahtjeva, ozbiljnosti i ponovljenog ponašanja. Također blisko surađujemo s razvojnim programerima i poslovnim korisnicima kako bismo se usuglasili oko sigurnosnih standarda i omogućili odgovornu upotrebu uz jasno definirane putove eskalacije.
• End-to-end red teaming: surađujemo s iskusnim organizacijama za red teaming (simuliranje napada) kako bismo procijenili i poboljšali naše mjere ublažavanja sigurnosnih rizika. Njihov je posao pokušati zaobići sve naše obrane djelujući od početka do kraja, baš kao što bi to mogao učiniti odlučan i dobro opremljen protivnik. To nam pomaže da rano prepoznamo nedostatke i ojačamo cijeli sustav.

OpenAI je rano ulagao u primjenu umjetne inteligencije na obrambene slučajeve uporabe u kibernetičkoj sigurnosti, a naš tim blisko surađuje s globalnim stručnjacima kako bi unaprijedio i naše modele i njihovu primjenu. Cijenimo globalnu zajednicu stručnjaka za kibernetičku sigurnost koji neumorno rade na tome da naš digitalni svijet učine sigurnijim te smo predani pružanju moćnih alata koji podržavaju obrambenu sigurnost. Dok uvodimo nove zaštitne mjere, nastavit ćemo surađivati sa zajednicom za kibernetičku sigurnost kako bismo razumjeli gdje umjetna inteligencija može značajno ojačati otpornost te gdje su promišljene zaštitne mjere najvažnije.

Uz te suradnje, uspostavljamo i skup napora osmišljenih kako bismo pomogli braniteljima da budu brži, utemeljili naše zaštitne mjere na stvarnim potrebama i ubrzali odgovorno otklanjanje problema u velikim razmjerima.

Uskoro ćemo uvesti program pouzdanog pristupa u okviru kojeg istražujemo pružanje višerazinskog pristupa poboljšanim mogućnostima u našim najnovijim modelima kvalificiranim korisnicima i korisnicima koji rade na kibernetičkoj obrani, za obrambene slučajeve uporabe. Još uvijek istražujemo pravu granicu između toga koje mogućnosti možemo učiniti široko dostupnima, a koje zahtijevaju višerazinska ograničenja, što može utjecati na budući dizajn ovog programa. Cilj nam je da ovaj program pouzdanog pristupa bude temeljni korak prema otpornom ekosustavu.

Aardvark, naš istraživač agentske sigurnosti koji pomaže razvojnim inženjerima i sigurnosnim timovima da pronađu i isprave ranjivosti u velikim razmjerima, sada je u privatnoj beta verziji. Skenira kôdne baze u potrazi za ranjivostima i predlaže zakrpe koje održavatelji mogu brzo primijeniti. Već je identificirao nove CVE-ove u softveru otvorenog kôda rasuđivanjem nad cijelim bazama koda. Planiramo ponuditi besplatnu zaštitu odabranim nekomercijalnim repozitorijima otvorenog kôda kako bismo doprinijeli sigurnosti ekosustava softvera otvorenog kôda i opskrbnog lanca. Ovdje se prijavite za sudjelovanje.

Osnovat ćemo Vijeće za granične rizike, savjetodavnu skupinu koja će okupiti iskusne stručnjake za kibernetičku sigurnost i sigurnosne praktičare u blisku suradnju s našim timovima. Ovo će vijeće u početku biti usmjereno na kibernetičku sigurnost, a kasnije će se proširiti na druga područja graničnih (naprednih) sposobnosti. Članovi će savjetovati o granici između korisnih i odgovornih sposobnosti te potencijalne zlouporabe, a te će spoznaje izravno utjecati na naše procjene i zaštitne mjere. Uskoro ćemo podijeliti više informacija o vijeću. 

Konačno, predviđamo da bi zloupotreba kibernetičkih tehnologija mogla biti izvediva iz bilo kojeg graničnog modela u industriji. Kako bismo se uhvatili u koštac s time, surađujemo s drugim graničnim laboratorijima putem organizacije Frontier Model Forum, neprofitne organizacije koju podržavaju vodeći AI laboratoriji i industrijski partneri, kako bismo razvili zajedničko razumijevanje modela prijetnji i najboljih praksi. U ovom kontekstu, modeliranje prijetnji pomaže u smanjenju rizika identificiranjem načina na koji bi se sposobnosti umjetne inteligencije mogle zloupotrijebiti, gdje postoje ključna uska grla za različite aktere prijetnji i kako bi granični modeli mogli pružiti značajnu prednost. Ova suradnja ima za cilj izgraditi dosljedno razumijevanje aktera prijetnji i puteva napada na razini cijelog ekosustava, omogućujući laboratorijima, održavateljima i braniteljima da učinkovitije unaprijede svoje mjere zaštite i osiguraju brzo širenje ključnih sigurnosnih uvida unutar ekosustava. Također surađujemo s vanjskim timovima na razvoju procjena kibernetičke sigurnosti⁠(otvara se u novom prozoru). Nadamo se da će ekosustav neovisnih procjena dodatno pridonijeti zajedničkom razumijevanju sposobnosti modela.

Ovi napori zajedno odražavaju našu dugoročnu predanost jačanju obrambene strane ekosustava. Kako modeli postaju sve sposobniji, naš je cilj osigurati da se te sposobnosti pretvore u stvarnu prednost za obrambene stručnjake — utemeljenu na stvarnim potrebama, oblikovanu stručnim doprinosom i primijenjenu s pažnjom. Uz ovaj rad planiramo istražiti i druge inicijative te subvencije za kibernetičku sigurnost kako bismo pomogli otkriti revolucionarne ideje koje se možda ne bi pojavile kroz tradicionalne kanale. Također želimo okupiti smjela i kreativna obrambena rješenja iz akademske zajednice, industrije i zajednice otvorenog kôda. Sve zajedno, ovo je trajan proces i očekujemo da ćemo nastaviti razvijati ove programe kako budemo učili što najučinkovitije unapređuje sigurnost u stvarnom svijetu.