Incident OpenAI-Hugging Facea(otvara se u novom prozoru) bio je prijelomni trenutak za kibernetičku sigurnost jer je pružio uvid u to kako će se mogućnosti tipičnog aktera prijetnji razvijati u nadolazećim mjesecima. Nakon razgovora s mnogim organizacijama tijekom proteklih nekoliko tjedana, jedan se zaključak jasno ističe: svjesne su da svoje prakse kibernetičke sigurnosti moraju iz temelja podići na višu razinu dosad nezabilježenom brzinom. U ovom ću tekstu podijeliti što radimo kako bismo zaštitili OpenAI, konkretne korake koje druge organizacije mogu poduzeti već danas i zašto je sada vrijeme za djelovanje.
Modeli umjetne inteligencije razvijeni diljem svijeta sve su sposobniji automatizirati dijelove stvarnih kibernetičkih napada, čineći dugotrajne sigurnosne propuste — od bugova duboko skrivenih u softveru koji su napisali ljudi do zaboravljenih dopuštenja — lakše za pronalaženje i iskorištavanje. Iste mogućnosti umjetne inteligencije obrambenim timovima pružaju nove načine za pronalaženje i otklanjanje tih slabosti, ali moraju djelovati odmah. Ako tvrtke budu djelovale odlučno — među ostalim, poboljšanjem svojih temeljnih praksi i osnaživanjem svojih timova umjetnom inteligencijom — možemo učiniti internet sigurnijim nego što je ikad bio.
U incidentu OpenAI-Hugging Face, agentski kolektiv uspio je autonomno prodrijeti ne samo u istraživačku infrastrukturu OpenAI-ja nego i u produkcijsku infrastrukturu druge tvrtke, povezujući ranjivosti od prethodno nepoznatih sigurnosnih propusta do upotrebe vjerodajnica za korisničke račune koje su procurile na internet. Sve je jasnije da tehnički dug(otvara se u novom prozoru) svake tvrtke prikriva značajne nedostatke, a timovi zaduženi za obranu moraju ih pronaći i otkloniti prije nego što to učine napadači.
Kako bismo braniteljima dali prednost u odnosu na napadače, ranije ove godine počeli smo svoje kibernetičke mogućnosti stavljati na raspolaganje samo pouzdanim braniteljima. Od tada su razne tvrtke objavile modele s otvorenim težinama s kibernetičkim sposobnostima koji zaostaju za graničnim modelima samo nekoliko mjeseci. Čini se da je najnoviji od tih modela predviđen za objavu(otvara se u novom prozoru) krajem kolovoza i vjerojatno će znatno ubrzati kontekst prijetnji.
Iako će napadači potpomognuti umjetnom inteligencijom uskoro moći pronaći odavno prisutne propuste u mnogim postojećim sustavima, umjetna inteligencija će braniteljima također znatno olakšati da pronađu, odrede prioritete i otklone te iste propuste. Sigurnost je i dalje igra mačke i miša, ali umjetna inteligencija može promijeniti njezino lice(otvara se u novom prozoru) na načine koji u osnovi daju prednost obrambenoj strani. Primjerice, počinjemo trenirati svoje modele posebno za pisanje iznimno sigurnog kôda. Naši modeli također su nevjerojatno dobri u matematičkim dokazima, koji se mogu primijeniti za formalnu provjeru sigurnosti softvera na način koji se pokazao nerješivim za ljude.
Nakon incidenta OpenAI-ja i Hugging Facea, zamolio sam ChatGPT Work (upotrebljavajući javno dostupan GPT‑5.6 Sol) da procijeni sigurnost stranice gregbrockman.com(otvara se u novom prozoru). Riječ je o jednostavnoj statičkoj web-lokaciji, hostiranoj na AWS-u, s Cloudflareom kao ulaznom točkom, pa sam pretpostavio da neće biti mnogo površine izloženosti ranjivostima.
Otprilike za 15 minuta otkrio je 13 problema, od kojih mnogi vjerojatno sami po sebi nisu iskoristivi — ali mogu zamisliti da se oni 'ulančaju' s drugim ranjivostima i na taj način tvore prilično značajan učinak. Moji DNS zapisi nisu bili konfigurirani tako da spriječe napadače da krivotvore e-poruke u moje ime; moja je web-lokacija koristila nesigurnu verziju jQueryja; Cloudflare je prosljeđivao zahtjeve AWS-u putem nešifriranog HTTP-a.
Zatim sam zatražio od ChatGPT Worka da riješi te probleme, što je i učinio tijekom jednog sata. Otvorio je Cloudflareovu upravljačku ploču u mojem pregledniku, a zatim kliknuo mnoge gumbe kako bi pravilno konfigurirao DNS, TLS i napredne sigurnosne postavke; potpuno je uklonio jQuery s web-mjesta; premjestio me s AWS-a na Cloudflare Pages te započeo postupno uvođenje protokola DMARC(otvara se u novom prozoru).
A to je bilo samo moje osobno web-mjesto. Ovo je mali primjer kako naši postojeći modeli mogu djelovati kao "kiberzaštitnik" — pronalazeći niz problema do kojih čovjek ne bi imao vremena ili stručnosti doći (mnoge postavke koje su ispravili su one s kojima sam površno upoznat, ali ne bih odmah znao kako ih ispravno konfigurirati) te ih zatim ispravljaju uz odgovarajući plan uvođenja.
Incident s Hugging Faceom pokazao je da smo podcijenili kibernetičke sposobnosti naših AI modela u stvarnom svijetu. U skladu s tim pooštravamo naše sigurnosne zahtjeve, što dodatno povećava hitnost našeg postojećeg istraživanja sigurnosti i internog sigurnosnog rada.
Dijelim nešto o našem pristupu zaštiti OpenAI-ja u ovom trenutku, u nadi da će to biti korisno drugim organizacijama. Kako bismo zaštitili OpenAI, značajno ulažemo u temeljne kontrole — ispravno provođenje osnovnih mjera — i osnažujemo našu obranu pomoću granične inteligencije. Ova strategija počiva na četiri glavna stupa.
Prvo, koristimo svoje modele kako bismo zaštitili svoj kôd. Codex, uključujući naš sigurnosni plugin, provjerava promjene kôda, prepoznaje ranjivosti i pomaže programerima otklanjati probleme prije njihove implementacije. Cilj nije jednostavno proizvesti više sigurnosnih nalaza koji zahtijevaju ljudsku provjeru; cilj je otkriti stvarne ranjivosti prije isporuke i skratiti put od otkrivanja problema do sigurnog uvođenja ispravka. Dok nastavljamo obučavati svoje modele da proizvode sve sigurniji kôd, naš je cilj ukloniti neke klase softverskih ranjivosti za novonapisani kôd.
Drugo, kontinuirano koristimo naše modele za obranu naše infrastrukture. Danas inteligencija obrađuje gotovo sva naša početna sigurnosna upozorenja prije nego što se uključe ljudi. To pomaže smanjiti rutinsko opterećenje obrambenih timova, poboljšava vrijeme odgovora i omogućuje ljudima da svoje vrijeme posvete područjima u kojima se njihove vještine mogu najbolje iskoristiti — razlučivanju, prosudbi i primijenjenoj stručnosti. Sve više povezujemo te detekcije s ograničenim automatiziranim odgovorima, dok ljudi ostaju odgovorni za odluke s najvećim utjecajem. Cilj je osigurati da možemo otkrivati sigurnosne probleme i reagirati na njih strojnom brzinom.
Treće, koristimo graničnu inteligenciju za kontinuirano nabrajanje, ispitivanje i prepoznavanje potencijalnih putova napada. Prepoznavanjem ranjivosti, pogrešnih konfiguracija, identiteta s prekomjernim ovlastima ili nenamjernih granica povjerenja brzo utvrđujemo i zatvaramo te propuste prije nego što ih napadači mogu zloupotrijebiti. To nam omogućuje kontinuirano procjenjivanje, nadziranje i testiranje naših sigurnosnih invarijanti — sigurnosnih svojstava za koja smatramo da vrijede — u našim proizvodima, infrastrukturi i sustavima.
Naposljetku, intenzivno ulažemo u temeljne vrijednosti velikih razmjera. Nastavljamo ulagati u sigurnosnu arhitekturu i kontrolne mjere, primjenjivati strategije poput obrane u dubinu i načela najmanjih privilegija te projektirati sustave kod kojih više neovisnih kontrolnih mjera mora istodobno zakazati da bi se dogodilo nešto katastrofalno. Klasične sigurnosne kontrole poput izolacije mreže, ojačavanja radnih zadataka, nadzora te sigurne primjene zakrpa i implementacije bit će važnije nego ikad u budućnosti umjetne inteligencije.
Vrijeme je od presudne važnosti, a branitelji će korake u nastavku morati provesti turbo brzinom. U nastavku ću spomenuti tehnologiju OpenAI-ja, ali u ekosustavu ima i mnogo konkurenata koje također treba procijeniti. Manje je važno o kojem je konkretnom alatu riječ, a važnije je da sposobnu umjetnu inteligenciju već sada stavite na raspolaganje vašim obrambenim timovima.
- Osigurajte predanost i podršku organizacije. Suočavamo se s brzim promjenama sigurnosnih rizika — pobrinite se da vaši odjeli za sigurnost i inženjering imaju podršku, partnerstvo i resurse potrebne za brzo rješavanje tih rizika. Provedite simulacijske vježbe sa svojim timovima kako biste dočarali kako bi se ti napadi mogli manifestirati u vašim organizacijama i kako ćete odgovoriti na njih.
- Dajte svom sigurnosnom timu agenta. Počnite koristiti Codex, plugin Codex Security(otvara se u novom prozoru) ili neki drugi sposoban alat za sigurnost i kodiranje uz pomoć AI agenta. Omogućite mu odobreni pristup bazama kôda, konfiguracijama infrastrukture i tehničkoj dokumentaciji koje vaš sigurnosni tim treba procijeniti. Nemojte čekati uvođenje na razini cijele tvrtke da biste započeli sa svojim sustavima najvišeg prioriteta.
- Opremite tog agenta sigurnosnim stručnjakom Započnite s vještinama(otvara se u novom prozoru) koje podržava zajednica, a koje uključuju tijekove rada za statičku analizu, sigurnosno usmjeren pregled kôda, analizu varijanti ranjivosti, rizik lanca opskrbe softverom i druge sigurnosne tijekove rada. Zatim razvijte vlastite vještine temeljene na arhitekturi svoje organizacije, sigurnosnim standardima, modelima prijetnji i priručnicima za postupanje.
- Odmah provedite sigurnosne procjene nad vlastitim sustavima Najprije dajte prioritet procjenama usmjerenima na usluge izložene internetu, tijekove provjere autentičnosti, infrastrukturu kao kôd, cjevovode za implementaciju i sustave koji obrađuju osjetljive informacije. Proširite skeniranje kako vaš tim stječe povjerenje u ovaj rad.
- Rješavajte postojeće zaostatke ranjivosti. Dajte vašem agentu nalaze iz skenera kôda, upozorenja o ovisnostima, sigurnosnih prijava, izvješća iz programa Bug Bounty i prethodnih procjena. Zatražite da razvrsti nalaze, razlikuje iskoristive propuste od šuma, identificira povezane ranjivosti u drugom dijelu baze kôda i preporuči što prvo popraviti.
- Uključite sigurnosnu provjeru izravno u svoj razvojni proces Koristite agente za pregled promjena kôda prije njihova spajanja te za pokretanje sigurnosnih provjera u CI-ju. Potražite pogreške u autentifikaciji, zaobilaženja kontrole pristupa, izložene vjerodajnice, nesigurne ovisnosti, nesigurne zadane postavke, promjene koje proširuju pristup produkcijskim sustavima i druge ranjivosti.
- Neka agent pomogne u popravljanju onoga što pronađe Za potvrđene probleme zatražite generiranje i provjeru ciljanih zakrpa, pisanje regresijskog testa i potvrdu da se ranjivost više ne reproducira. Zadržite ljudski pregled za promjene koje mogu imati značajne posljedice, ali uklonite nepotrebno kašnjenje između prepoznavanja stvarnog problema i predstavljanja sigurnog ispravka inženjeru.
- Postupno automatizirajte trijažu otkrivanja Nemojte započinjati izgradnju autonomnog centra za sigurnosne operacije. Započnite sigurnosno skeniranje samo za čitanje na jednom repozitoriju ili neka agent pregleda prethodno razriješena upozorenja koristeći pristup samo za čitanje vašim postojećim zapisnicima. Neka sažima dokaze i preporučuje rješenje, dok čovjek donosi svaku odluku. Kako povjerenje raste, prijeđite na savjetodavno pull request skeniranje, zatim na trijažu upozorenja uživo, a potom na automatsko zatvaranje usko definiranih lažno pozitivnih rezultata.
- Pripremite mogućnost forenzičke istrage potpomognute umjetnom inteligencijom prije nego što vam zatreba. Prijavite se za Trusted Access for Cyber(otvara se u novom prozoru) i ishodite odobrenje za svoj tim za upotrebu GPT‑Daybreak‑Blue za ovlašteni obrambeni rad, uključujući odgovor na incidente, inženjering detekcije i analizu zlonamjernog softvera. Vježbajte upotrebu ove mogućnosti za analizu zapisnika, telemetrije i sigurnosnih upozorenja.
- Eksperimentirajte, organizirajte hack weekove i brzo ponavljajte Morat ćemo izgraditi razne nove alate, promijeniti način na koji radimo i unaprijediti vještine svih za svijet prema kojem se krećemo. Potaknite svoje zaposlenike na provođenje eksperimenata, zakažite hack week za izgradnju novih mogućnosti i usredotočite se na brzo ponavljanje ciklusa koji automatiziraju manje dijelove problema. Brz postupni napredak dovodi do kumulativnih zaštitnih rezultata, a autonomiju možete postupno širiti kako vaš tim stječe samopouzdanje.
Nijedna tvrtka to ne može učiniti sama. Naša je molba da laboratoriji za umjetnu inteligenciju, dobavljači sigurnosnih rješenja, poduzeća i održavatelji dijele potvrđene nalaze, ispravke i praktične priručnike kako bi otkriće jedne organizacije moglo ojačati cijeli ekosustav.
Prozor branitelja sada je otvoren. U nadolazećim mjesecima svaka će organizacija morati znatno automatizirati svoj sigurnosni program kako bi ostala zaštićena, a sigurnosna zajednica mora hitno preuzeti inicijativu u definiranju alata, praksi i operativnih priručnika koji će brže povećavati moć branitelja nego moć napadača kako umjetna inteligencija nastavlja napredovati. To će zahtijevati golem i dosad nezabilježen napor, ali ako udružimo snage, možemo ostvariti sigurniji svijet nego što je prije bilo zamislivo.
