Atvikið hjá OpenAI og Hugging Face(opnast í nýjum glugga) markaði tímamót í netöryggi því það veitti innsýn í hvernig geta dæmigerðra ógnaraðila mun þróast á næstu mánuðum. Undanfarnar vikur hef ég rætt við mörg fyrirtæki og stofnanir og eitt er ljóst: þau vita að þau þurfa að stórbæta netöryggisstarf sitt á áður óþekktum hraða. Í þessari færslu fjalla ég um það sem við gerum til að verja OpenAI, raunhæf skref sem önnur fyrirtæki og stofnanir geta tekið strax og hvers vegna nú er rétti tíminn til að bregðast við.
Gervigreindarlíkön sem þróuð eru víða um heim geta í auknum mæli sjálfvirknivætt hluta raunverulegra netárása. Þar með verður auðveldara að finna og misnota langvarandi öryggisglufur, allt frá villum sem liggja djúpt í hugbúnaði skrifuðum af fólki til gleymdra heimilda. Sama geta gervigreindar færir varnaraðilum nýjar leiðir til að finna og laga þessa veikleika, en þeir þurfa að bregðast við núna. Ef fyrirtæki bregðast ákveðið við — meðal annars með því að styrkja grunninn og efla teymi sín með gervigreind — getum við gert internetið öruggara en nokkru sinni fyrr.
Í atvikinu hjá OpenAI og Hugging Face tókst hópi sjálfstæðra fulltrúa að brjótast af sjálfsdáðum inn í bæði rannsóknarinnviði OpenAI og rekstrarinnviði annars fyrirtækis. Hann tengdi saman veikleika, allt frá áður óþekktum öryggisgöllum til notkunar innskráningarupplýsinga fyrir notandareikninga sem höfðu lekið á internetið. Það verður æ ljósara að tækniskuld(opnast í nýjum glugga) hvers fyrirtækis felur verulega galla og varnaraðilar þurfa að finna og laga þá á undan árásaraðilum.
Til að veita varnaraðilum forskot á árásaraðila hófum við fyrr á árinu að veita aðeins traustum varnaraðilum aðgang að netöryggisgetu okkar. Síðan þá hafa ýmis fyrirtæki gefið út opin vigtarlíkön með netöryggisgetu sem er aðeins nokkrum mánuðum á eftir því háþróaðasta. Nýjasta líkanið virðist eiga að koma út(opnast í nýjum glugga) í lok ágúst og líklegt er að það hraði verulega þróun ógnanna.
Árásaraðilar með gervigreind munu brátt geta fundið langvarandi galla í mörgum núverandi kerfum, en gervigreind mun jafnframt auðvelda varnaraðilum til muna að finna, forgangsraða og laga sömu galla. Öryggismál eru enn leikur kattarins að músinni, en gervigreind gæti breytt hagkvæmni leiksins(opnast í nýjum glugga) þannig að varnaraðilar öðlist afgerandi forskot. Til dæmis erum við farin að þjálfa líkönin okkar sérstaklega í að skrifa kóða sem er öruggari en nokkur maður gæti skrifað. Líkönin okkar eru einnig ótrúlega fær í stærðfræðilegum sönnunum. Þeirri getu má beita til að sannreyna formlega öryggi hugbúnaðar með hætti sem reynst hefur fólki óviðráðanlegur.
Eftir atvikið hjá OpenAI og Hugging Face bað ég ChatGPT Vinna (með GPT‑5.6 Sol, sem er aðgengilegt almenningi) að meta öryggi gregbrockman.com(opnast í nýjum glugga). Þetta er einfaldur, kyrrstæður vefur sem er hýstur hjá AWS með Cloudflare sem framenda, svo ég taldi að þar væri lítið sóknaryfirborð fyrir veikleika.
Á um 15 mínútum fann það 13 vandamál. Mörg þeirra er líklega ekki hægt að misnota ein og sér, en ég gat séð fyrir mér að þau yrðu tengd öðrum veikleikum og hefðu umtalsverð áhrif. Ég hafði ekki stillt DNS-færslurnar mínar til að hindra árásaraðila í að falsa tölvupóst í mínu nafni; vefurinn notaði óörugga útgáfu af jQuery; Cloudflare framsendi beiðnir til AWS yfir ódulkóðað HTTP.
Síðan bað ég ChatGPT Vinna að laga þessi vandamál, sem það gerði á einni klukkustund. Það opnaði stjórnborð Cloudflare í vafranum mínum og smellti á fjölda hnappa til að stilla DNS, TLS og ítarlegar öryggisstillingar rétt; fjarlægði jQuery alveg af vefnum; flutti vefinn af AWS yfir á Cloudflare Pages; og hóf áfangaskipta innleiðingu á DMARC(opnast í nýjum glugga).
Og þetta var aðeins einkavefurinn minn. Þetta er lítið dæmi um hvernig núverandi líkön okkar geta starfað sem netverðir: fundið hinn langa hala vandamála sem fólk hefði hvorki tíma né sérþekkingu til að sinna (ég þekki lauslega margar stillinganna sem það lagaði en hefði ekki vitað hvernig ætti að stilla þær rétt) og síðan lagað þau með viðeigandi áætlun um innleiðingu í áföngum.
Atvikið hjá Hugging Face sýndi að við vanmátum raunverulega netöryggisgetu gervigreindarlíkana okkar. Við herðum öryggiskröfur okkar í samræmi við það, sem gerir núverandi öryggisrannsóknir og innra öryggisstarf okkar enn brýnna.
Ég segi hér lítillega frá því hvernig við tryggjum öryggi OpenAI við þessar aðstæður, í von um að það nýtist öðrum fyrirtækjum og stofnunum. Til að vernda OpenAI fjárfestum við verulega bæði í grunnstýringum — að gera grunnatriðin rétt — og í að efla varnir okkar með háþróaðri greind. Þessi stefna hvílir á fjórum meginstoðum.
Í fyrsta lagi notum við líkönin okkar til að tryggja öryggi kóðans okkar. Codex, þar á meðal öryggisviðbótin okkar, sannreynir kóðabreytingar, greinir veikleika og hjálpar forriturum að laga vandamál áður en breytingar eru settar í rekstur. Markmiðið er ekki að fjölga einfaldlega öryggisniðurstöðum sem fólk þarf að sannreyna, heldur að finna raunverulega veikleika áður en hugbúnaðurinn er gefinn út og stytta leiðina frá því að vandamál uppgötvast þar til örugg lagfæring er sett í rekstur. Um leið og við höldum áfram að þjálfa líkönin okkar í að skrifa sífellt öruggari kóða stefnum við að því að útrýma tilteknum flokkum hugbúnaðarveikleika í nýjum kóða.
Í öðru lagi látum við líkönin okkar verja innviði okkar án afláts. Nú er gervigreind látin forgangsraða nær öllum fyrstu öryggisviðvörunum okkar áður en fólk kemur að málum. Þetta dregur úr erfiðisvinnu varnaraðila, flýtir viðbrögðum og gerir fólki kleift að verja tíma sínum þar sem hæfni þess nýtist best — í að greina, meta og beita sérþekkingu. Við tengjum þessar greiningar í auknum mæli við afmörkuð, sjálfvirk viðbrögð en látum fólk áfram bera ábyrgð á áhrifamestu ákvörðununum. Markmiðið er að tryggja að við getum greint og brugðist við öryggisvandamálum á hraða véla.
Í þriðja lagi notum við háþróaða greind til að kortleggja, kanna og greina mögulegar árásarleiðir án afláts. Með því að greina veikleika, rangar stillingar, auðkenni með of víðtækar heimildir eða óviljandi traustsmörk getum við fljótt fundið og lokað þessum glufum áður en árásaraðilar misnota þær. Þannig getum við stöðugt metið, vaktað og prófað ófrávíkjanleg öryggisskilyrði okkar — þá öryggiseiginleika sem við teljum vera til staðar — í öllum vörum okkar, innviðum og kerfum.
Að lokum fjárfestum við verulega í grunnatriðum á stórum skala. Við fjárfestum áfram í öruggri högun og stýringum, beitum aðferðum á borð við marglaga varnir og lágmarksheimildir og hönnum kerfi þannig að margar óháðar stýringar þurfi að bregðast samtímis til að eitthvað hörmulegt geti gerst. Hefðbundnar öryggisstýringar á borð við einangrun netkerfa, herðingu vinnsluálags, vöktun og öruggar uppfærslur og innleiðingar verða mikilvægari en nokkru sinni í framtíð gervigreindar.
Tíminn er naumur og varnaraðilar þurfa að ráðast í skrefin hér á eftir á methraða. Hér á eftir nefni ég tækni OpenAI, en í vistkerfinu eru einnig fjölmargir samkeppnisaðilar sem vert er að meta. Tiltekið verkfæri skiptir minna máli en að koma öflugri gervigreind strax í hendur varnaraðila.
- Tryggið skuldbindingu og stuðning fyrirtækisins. Öryggisáhætta breytist hratt. Tryggið að öryggis- og tækniteymin ykkar fái þann stuðning, samstarf og úrræði sem þarf til að bregðast skjótt við áhættunni. Haldið sviðsmyndaæfingar með teymunum til að líkja eftir því hvernig slíkar árásir gætu birst hjá ykkur og hvernig þið mynduð bregðast við.
- Fáið öryggisteyminu fulltrúa. Byrjið að nota Codex, Codex-öryggisviðbótina(opnast í nýjum glugga) eða annað öflugt verkfæri fyrir fulltrúakóðun og öryggi. Veitið því samþykktan aðgang að kóðasöfnum, innviðastillingum og tækniskjölum sem öryggisteymið þarf að meta. Ekki bíða eftir innleiðingu fyrir allt fyrirtækið áður en hafist er handa við mikilvægustu kerfin.
- Búið fulltrúann öryggisþekkingu. Byrjið á færni(opnast í nýjum glugga) sem samfélagið styður og felur meðal annars í sér verkferla fyrir stöðugreiningu, öryggismiðaða kóðayfirferð, greiningu á afbrigðum veikleika, áhættu í aðfangakeðju hugbúnaðar og annað öryggisstarf. Byggið síðan upp eigin færni út frá högun, öryggisstöðlum, ógnarlíkönum og viðbragðsáætlunum fyrirtækisins.
- Öryggismetið eigin kerfi tafarlaust. Setjið fyrst í forgang mat á þjónustum sem snúa að internetinu, auðkenningarferlum, innviðum sem kóða, innleiðingarferlum og kerfum sem vinna með viðkvæmar upplýsingar. Víkkið skönnunina eftir því sem teymið öðlast meira traust.
- Vinnið úr fyrirliggjandi lista yfir veikleika. Látið fulltrúann fá niðurstöður úr kóðaskönnum, viðvörunum um hugbúnaðarháðir, öryggisverkbeiðnum, tilkynningum úr villuleitarverðlaunum og fyrri úttektum. Biðjið hann að forgangsraða niðurstöðunum, greina misnotanleg vandamál frá suði, finna skylda veikleika annars staðar í kóðasafninu og mæla með því hvað skuli laga fyrst.
- Fléttið öryggisyfirferð beint inn í þróunarferlið. Notið fulltrúa til að yfirfara kóðabreytingar áður en þær eru sameinaðar og keyrið öryggisprófanir í CI. Leitið að mistökum í auðkenningu, leiðum fram hjá aðgangsstýringu, afhjúpuðum innskráningarupplýsingum, óöruggum hugbúnaðarháðum, óöruggum sjálfgefnum stillingum, breytingum sem rýmka aðgang að rekstrarkerfum og öðrum veikleikum.
- Látið fulltrúann hjálpa til við að laga það sem hann finnur. Fyrir staðfest vandamál skuluð þið biðja hann að útbúa og sannreyna afmarkaða lagfæringu, skrifa bakslagspróf og staðfesta að ekki sé lengur hægt að kalla veikleikann fram. Látið fólk áfram yfirfara afdrifaríkar breytingar en eyðið óþarfa töf frá því að raunverulegt vandamál greinist þar til örugg lagfæring er tilbúin fyrir verkfræðing.
- Sjálfvirknivæðið forgangsröðun greininga í áföngum. Byrjið ekki á að reyna að byggja sjálfstæða öryggisstjórnstöð. Byrjið á að keyra öryggisskönnun með aðeins lesaðgangi á einni geymslu eða látið fulltrúa yfirfara viðvaranir sem þegar hafa verið afgreiddar með aðeins lesaðgangi að fyrirliggjandi atvikaskrám. Látið hann draga saman gögnin og mæla með afgreiðslu, en látið manneskju taka allar ákvarðanir. Eftir því sem traust eykst má færa sig yfir í ráðgefandi skönnun á innlimunarbeiðnum, síðan forgangsröðun virkra viðvarana og loks sjálfvirka lokun á þröngt skilgreindum fölskum jákvæðum niðurstöðum.
- Hafið getu til gervigreindaraðstoðar við stafrænar réttarrannsóknir tilbúna áður en hennar er þörf. Sækið um traustan netöryggisaðgang(opnast í nýjum glugga) og fáið samþykki fyrir teyminu til að nota GPT‑Daybreak‑Blue við heimilað varnarstarf, þar á meðal viðbrögð við atvikum, þróun greininga og greiningu spilliforrita. Æfið notkun þessarar getu til að greina atvikaskrár, fjarmælingagögn og öryggisviðvaranir.
- Gerið tilraunir, haldið hakkvikur og bætið hratt úr. Við þurfum að smíða alls kyns ný verkfæri, breyta vinnubrögðum okkar og efla hæfni allra fyrir heiminn sem bíður okkar. Hvetjið starfsfólkið til að gera tilraunir, skipuleggið hakkviku til að þróa nýja getu og einbeitið ykkur að hraðri endurtekningu ferla sem sjálfvirknivæða litla hluta vandans. Hröð framþróun í litlum skrefum margfaldar árangur varna og þið getið aukið sjálfstæði smám saman eftir því sem traust teymisins eykst.
Ekkert fyrirtæki getur gert þetta eitt. Við hvetjum rannsóknarstofur í gervigreind, öryggisbirgja, fyrirtæki og umsjónaraðila til að deila staðfestum niðurstöðum, lagfæringum og hagnýtum viðbragðsáætlunum svo að uppgötvun eins fyrirtækis geti styrkt allt vistkerfið.
Tækifæri varnaraðila er núna. Á næstu mánuðum þurfa öll fyrirtæki og stofnanir að hefja verulega sjálfvirknivæðingu öryggisstarfs síns til að halda velli. Öryggissamfélagið verður jafnframt að bregðast hratt við og móta verkfæri, starfshætti og viðbragðsáætlanir sem auka mátt varnaraðila hraðar en árásaraðila eftir því sem gervigreind fleygir fram. Þetta krefst gríðarlegs og fordæmalauss átaks, en ef við tökum höndum saman getum við skapað öruggari heim en áður var hægt að ímynda sér.
