Að styrkja netöryggisseiglu samhliða framförum í getu gervigreindar

Netöryggisgeta í gervigreindarlíkönum fleygir hratt fram og hefur í för með sér verulegan ávinning fyrir netvarnir sem og nýjar áhættur varðandi tvíþætta notkun sem þarf að stýra af varfærni. Til dæmis hefur geta, sem metin er með capture-the-flag (CTF)-áskorunum, aukist úr 27% á GPT‑5⁠(opnast í nýjum glugga) í ágúst 2025 í 76% á GPT‑5.1‑Codex‑Max⁠(opnast í nýjum glugga) í nóvember 2025.

Við búumst við að komandi gervigreindarlíkön muni halda áfram á þessari þróunarbraut; í undirbúningi fyrir það erum við að skipuleggja og meta eins og hvert nýtt líkan geti náð „háu“ stigi netöryggisgetu, eins og mælt er fyrir í undirbúningsramma⁠(opnast í nýjum glugga) okkar. Með þessu er átt við líkön sem geta annaðhvort þróað virka fjartengda núlldaganýtingu gegn vel vörðum kerfum eða aðstoðað á marktækan hátt við flóknar, leynilegar ífararaðgerðir gegn fyrirtækjum eða iðnaðarkerfum sem miða að raunverulegum áhrifum. Þessi færsla útskýrir hvernig við hugsum um öryggisráðstafanir fyrir líkön sem ná þessum getustigum og tryggjum að þau hjálpi varnaraðilum verulega á sama tíma og misnotkun er takmörkuð.

Eftir því sem þessi hæfni eykst fjárfestir OpenAI í að styrkja líkön okkar fyrir varnarverkefni í netöryggi og í að búa til verkfæri sem gera varnaraðilum kleift að framkvæma vinnuflæði á borð við úttekt á kóða og lagfæringu veikleika á auðveldari hátt. Markmið okkar er að líkön okkar og vörur veiti varnaraðilum verulega kosti, þar sem þeir eru oft í minnihluta og með takmörkuð úrræði.

Líkt og á öðrum tvíþættum sviðum byggja verkferlar í netvörnum og netsókn oft á sömu undirliggjandi þekkingu og aðferðum. Við erum að fjárfesta í öryggisráðstöfunum til að tryggja að þessir öflugu möguleikar komi fyrst og fremst að gagni í varnarlegum tilgangi og takmarki að þeir séu nýttir í illgjörnum tilgangi. Netöryggi snertir nánast öll svið, sem þýðir að við getum ekki reitt okkur á einn flokk öryggisráðstafana — eins og að takmarka þekkingu eða nota eingöngu viðurkenndan aðgang — heldur þurfum við ítarlega varnarnálgun sem kemur á jafnvægi í áhættu og gerir notendum kleift að taka virkan þátt. Í framkvæmd þýðir þetta að móta hvernig eiginleikum er veittur aðgangur, hvernig þeim er beint og hvernig þeim er beitt, þannig að háþróuð líkön styrki öryggi fremur en að lækka hindranir fyrir misnotkun.

Við lítum ekki á þessa vinnu sem einskiptisátak, heldur sem viðvarandi langtímafjárfestingu í því að veita varnaraðilum forskot og styrkja stöðugt öryggisstöðu mikilvægra innviða í hinu víðara vistkerfi.

Líkönin okkar eru hönnuð og þjálfuð til að starfa á öruggan hátt, studd af fyrirbyggjandi kerfum sem greina og bregðast við netmisnotkun. Við betrumbætum þessar varnir stöðugt eftir því sem geta okkar og ógnalandslagið breytist. Þótt ekkert kerfi geti tryggt að misnotkun í netöryggi verði með öllu komið í veg fyrir án þess að hafa verulega neikvæð áhrif á varnarnotkun, er stefna okkar að draga úr áhættu með marglaga öryggislausn.

Við byggjum á varnardýptarnálgun sem grundvallar, þar sem við treystum á samspil aðgangsstýringa, herðingar innviða, útleiðarstýringa og vöktunar. Við bætum þessum ráðstöfunum við með kerfum til greiningar og viðbragða, ásamt sérhæfðum áætlunum um ógnargreiningu og innherjaáhættu, til að nýjar ógnir séu greindar og stöðvaðar hratt. Þessar öryggisráðstafanir eru hannaðar til að þróast í takt við ógnalandslagið. Við gerum ráð fyrir breytingum og byggjum þannig að við getum aðlagað okkur fljótt og á viðeigandi hátt.

Byggt á þessum grunni:

• Að þjálfa líkanið til að hafna eða svara á öruggan hátt skaðlegum beiðnum á sama tíma og það er áfram hjálplegt fyrir fræðslu- og varnarnotkunartilvik: Við erum að þjálfa okkar framarlegu líkön til að hafna eða svara á öruggan hátt beiðnum sem gætu leitt til misnotkunar á netöryggi, á sama tíma og þau eru eins hjálpleg og mögulegt er fyrir lögmæta varnar- og fræðslunotkun.
• Greiningarkerfi: Við betrumbætum og viðhöldum kerfisvíðri vöktun yfir vörur sem nota framarleg líkön til að greina hugsanlega skaðlega netstarfsemi. Þegar starfsemi virðist óörugg gætum við lokað á frálag, beint kvaðningum til öruggari eða síður færra líkana eða stigmagnast til framfylgdar. Framfylgd okkar sameinar sjálfvirka og mannlega yfirferð og tekur mið af þáttum á borð við lagalegar kröfur, alvarleika og ítrekaða hegðun. Við vinnum einnig náið með þróunaraðilum og fyrirtækjaviðskiptavinum að því að samræma öryggisstaðla og gera ábyrga notkun mögulega með skýrum boðleiðum fyrir stigmögnun.
• Frá upphafi til enda rauðteymis: Við vinnum með sérfræðingum á sviði rauðteymis til að meta og bæta öryggismótvægisaðgerðir okkar. Hlutverk þeirra er að reyna að komast fram hjá öllum vörnum okkar með því að vinna frá upphafi til enda, rétt eins og ákveðinn og vel útbúinn andstæðingur gæti gert. Þetta hjálpar okkur að greina eyður snemma og styrkja kerfið í heild.

OpenAI hefur fjárfest snemma í að beita gervigreind á varnarvið notkunartilvik í netöryggi og teymi okkar vinnur náið með sérfræðingum um allan heim til að þróa bæði líkön okkar og notkun þeirra áfram. Við metum mikils alþjóðlegt samfélag netöryggissérfræðinga sem leggja hart að sér við að gera stafræna heiminn okkar öruggari og erum staðráðin í að veita öflug verkfæri sem styðja varnaröryggi. Þegar við innleiðum nýjar öryggisráðstafanir munum við halda áfram að vinna með netöryggissamfélaginu til að skilja hvar gervigreind getur raunverulega styrkt seiglu og hvar vel ígrundaðar öryggisráðstafanir skipta mestu máli.

Samhliða þessu samstarfi erum við að setja af stað fjölbreyttar aðgerðir sem miða að því að hjálpa varnaraðilum að vinna hraðar, byggja öryggisráðstafanir okkar á raunverulegum þörfum og hraða ábyrgri úrbótavinnu í stórum stíl.

Við munum brátt kynna trausta aðgangsáætlun þar sem við könnum að veita notendum og viðskiptavinum sem uppfylla skilyrði og starfa að netvörnum stigskiptan aðgang að aukinni getu í nýjustu líkönum okkar fyrir varnartilvik. Við erum enn að kanna réttu mörkin fyrir því hvaða eiginleikum við getum veitt víðtækan aðgang og hvaða eiginleikar krefjast stigskiptra takmarkana, sem kann að hafa áhrif á framtíðarhönnun þessarar áætlunar. Við stefnum að því að þessi trausta aðgangsáætlun verði grunnstoð í átt að stöðugu vistkerfi.

Aardvark, öryggisrannsakandi okkar með fulltrúahlutverk sem hjálpar forriturum og öryggisteymum að finna og laga veikleika í stórum stíl, er nú í lokuðu beta-stigi. Það skannar kóðagrunna eftir veikleikum og leggur til bætur sem umsjónaraðilar geta innleitt hratt. Það hefur þegar greint ný CVE-auðkenni í opnum hugbúnaði með því að nota rök yfir heila kóðagrunna. Við ætlum að bjóða upp á ókeypis vernd fyrir valdar óviðskiptalegar opnar geymslur til að stuðla að öryggi vistkerfis opins hugbúnaðar og aðfangakeðjunnar. Sæktu um að taka þátt hér.

Við munum stofna Jaðarráðið um áhættumat, ráðgjafarhóp sem mun færa reynda netvarnaraðila og öryggissérfræðinga í náið samstarf við teymi okkar. Þetta ráð mun hefja störf með áherslu á netöryggi og í framtíðinni stækka starfsemi sína á önnur framarleg hæfnissvið. Meðlimir munu veita ráðgjöf um mörkin milli gagnlegrar og ábyrgrar getu annars vegar og hugsanlegrar misnotkunar hins vegar, og það sem við lærum af þessu mun móta mat okkar og öryggisráðstafanir með beinum hætti. Við munum deila frekari upplýsingum um ráðið fljótlega. 

Að lokum gerum við ráð fyrir að netmisnotkun geti átt sér stað frá hvaða framarlega líkani sem er í greininni. Til að bregðast við þessu vinnum við með öðrum framarlegum rannsóknarstofum í gegnum Frontier Líkan Forum, sjálfseignarstofnun sem nýtur stuðnings frá leiðandi gervigreindarrannsóknarstofum og samstarfsaðilum í atvinnulífinu, til að þróa sameiginlegan skilning á ógnarlíkönum og bestu starfsvenjum. Í þessu samhengi hjálpar ógnalíkanagerð til við að draga úr áhættu með því að greina hvernig hægt væri að vopnvæða getu gervigreindar, hvar mikilvægir flöskuhálsar eru fyrir mismunandi ógnaraðila og hvernig framarleg líkön gætu veitt raunverulega framþróun. Þetta samstarf miðar að því að byggja upp samræmdan skilning á ógnaraðilum og árásarleiðum í öllu vistkerfinu, sem gerir rannsóknarstofum, umsjónaraðilum og varnaraðilum kleift að bæta mótvægisaðgerðir sínar og tryggja að mikilvæg öryggisþekking dreifist hratt um vistkerfið. Við vinnum einnig með utanaðkomandi teymum til að þróa mat á netöryggi⁠(opnast í nýjum glugga). Við vonum að vistkerfi óháðra matsaðferða muni hjálpa enn frekar við að byggja upp sameiginlegan skilning á getu líkana.

Saman sýna þessi viðleitni langtíma skuldbindingu okkar til að styrkja varnarhlið vistkerfisins. Eftir því sem líkön verða öflugri er markmið okkar að tryggja að sú geta skili raunverulegu forskoti fyrir varnaraðila — byggt á raunverulegum þörfum, mótað af framlagi sérfræðinga og innleitt af kostgæfni. Samhliða þessari vinnu hyggjumst við kanna önnur verkefni og styrki á sviði netöryggis til að draga fram byltingarkenndar hugmyndir sem kunna ekki að koma fram í hefðbundnum farvegum, og afla djarfra og skapandi varna með víðtæku framlagi úr háskólasamfélaginu, atvinnulífinu og opna hugbúnaðarsamfélaginu. Þegar þetta er tekið saman er þetta viðvarandi vinna, og við búumst við að halda áfram að þróa þessar áætlanir eftir því sem við lærum hvað stuðlar best að raunverulegu öryggi.