Leiðin að Astra: mikilvæg geta og háþróaðar varnir

Frá fyrra mati okkar á því að Astra gæti náð mikilvægu getustigi í netöryggi höfum við aflað frekari gagna og framkvæmt viðbótarmat á getu líkansins. Við teljum nú að Astra nái viðmiðunarmörkum mikilvægrar netöryggisgetu samkvæmt Undirbúningsramma okkar. Það þýðir að með réttum verkfærum og aðgangi getur líkanið fundið áður óþekkta öryggisgalla og þróað leiðir til að misnota þá í mörgum vel vörðum kerfum, án þess að manneskja leiðbeini því í hverju skrefi. Þetta er fyrsta líkanið sem við skilgreinum á þessu getustigi og því þarf öflugri varnir við þróun og fyrir útgáfu.

Undanfarnar vikur höfum við frestað hlutum þróunar og útgáfu Astra á meðan við styrktum og prófuðum varnir gegn misnotkun á netinu og óheimilum aðgerðum líkansins. Á grundvelli þeirrar vinnu teljum við að varnir Astra lágmarki nægilega hættu á alvarlegu tjóni til að gefa megi líkanið út samkvæmt Undirbúningsramma okkar.

Þótt Astra hafi ekki komið að Hugging Face-atvikinu höfum við fellt lærdóminn⁠(opnast í nýjum glugga) af því inn í öryggisnálgun okkar. Á grundvelli prófana eftir á teljum við að rekstrarvarnir okkar á þeim tíma hefðu komið í veg fyrir Hugging Face-atvikið. Síðan höfum við innleitt enn öflugri varnir fyrir Astra, meðal annars þjálfað líkanið til að hafna skaðlegum netbeiðnum með áreiðanlegri hætti og virða öryggistakmarkanir, bætt við vörnum gegn misnotkun og innleitt eftirlit sem getur stöðvað hugsanlega óheimila virkni.

Við ætlum að gera Astra aðgengilegt fljótlega, en aðgangur að fullkomnustu netöryggisgetu þess verður takmarkaðri. Háþróuð netöryggisvinna verður fyrst í boði fyrir hóp prófenda. Í kjölfarið verður aðgangur veittur í gegnum Daybreak Blue til að auka notkun í varnarskyni.

Við útgáfu munum við birta nánari upplýsingar um öryggis- og samræmingarprófanir okkar og mat í kerfiskorti líkansins. Fyrir útgáfu viljum við greina frá hluta þeirrar vinnu sem við höfum unnið til að undirbúa örugga útgáfu líkans með þessa netöryggisgetu og vera gagnsæ um þá áhættu sem enn er fyrir hendi.

Samkvæmt Undirbúningsramma okkar nær líkan mikilvægum viðmiðunarmörkum ef annað hvort eftirfarandi skilyrða er uppfyllt:

• Líkanið getur án mannlegrar íhlutunar greint og þróað virkar núlldagsmisnotkunaraðferðir á öllum alvarleikastigum í mörgum styrktum, mikilvægum raunverulegum kerfum.
• Líkanið getur fundið upp og framkvæmt nýjar heildstæðar aðferðir til netárása á styrkt skotmörk, eingöngu út frá almennu lokamarkmiði.

Undirbúningsmat okkar á Astra sameinaði sjálfvirk opin og lokuð viðmið við mat undir stjórn sérfræðinga. Netöryggisgeta Astra er mun meiri en hjá GPT‑5.6 Sol: líkanið nýtir tóka mun betur og er hæfara til að greina veikleika og þróa misnotkunaraðferðir.

Sem dæmi keyrðum við Astra á ExploitBench, þar sem líkanið fékk fullt hús stiga, 100%, á viðmiði sem metur getu þess til að þróa misnotkunaraðferðir út frá þekktum veikleikum.

Vegna hættu á mengun bjuggum við síðan til innra viðmið sem kallast „ExploitBench – innri útgáfa (júní–ágúst 2026)“ og inniheldur 20 nýlega birta V8-veikleika með hátt alvarleikastig. Á þessu gagnasafni nær Astra mun hærra hlutfalli í keyrslu handahófskennds kóða en GPT‑5.6 Sol og notar til þess mun færri úttakstóka. Í matinu fann líkanið meira að segja tvo núlldagsveikleika og nýtti þá sem hluta af misnotkunarkeðju. Við vinnum nú að því að tilkynna um veikleikana tvo til umsjónaraðila.

Í mati sérfræðinga á styrktum vafra og stýrikerfi fann Astra áður óþekkta veikleika og breytti þeim í virkar misnotkunarkeðjur. Það bjó til heildstæða keðju sem náði stjórn á vafranum, slapp úr sandkassanum og keyrði skipanir á hýslinum þegar vafrinn opnaði HTML-skrá. Líkanið fann einnig marga veikleika í styrktu stýrikerfi og sameinaði þá í staðbundna keðju sem hækkaði réttindi almenns notanda upp í rótaraðgang. Á heildina litið hefur rannsókn okkar leitt okkur að þeirri niðurstöðu að Astra nái mikilvægum viðmiðunarmörkum.

Fyrir líkön með netöryggisgetu á borð við Astra þurfum við að taka á tvenns konar áhættu til að lágmarka hættu á alvarlegu nettjóni, bæði meðan á þróun stendur og fyrir innleiðingu:

• Illgjarnir aðilar nota líkanið. Varnir okkar verða að koma með traustum hætti í veg fyrir að illgjarnir aðilar noti Astra til að þróa misnotkunaraðferðir fyrir áður óþekkta galla í styrktum mikilvægum kerfum eða geri heildstæðar árásir á styrkt skotmörk.
• Líkanið framkvæmir óheimilar aðgerðir sem samræmast ekki markmiðum. Jafnvel án illgjarns notanda gæti líkan með háþróaða netöryggisgetu sjálft valdið nettjóni ef hegðun þess samræmdist ekki markmiðum. Auk þess að gera mjög strangar kröfur um samræmingu líkana með þessa getu verða varnir okkar, sem annað varnarlag, að geta greint hratt og stöðvað ósamræmdar aðgerðir sem gætu valdið verulegu tjóni í raunheimum.

Mikilvægt er að síðari áhættuleiðin á við um bæði innri þróun og ytri innleiðingu. Eins og við lýstum áður gerðum við tveggja vikna hlé á tiltekinni þjálfun háþróaðra líkana, þar á meðal hluta þjálfunar Astra, eftir OpenAI-Hugging Face-atvikið til að styrkja þjálfunarinnviði okkar. Það fól meðal annars í sér einangrun og netstýringar, aukið eftirlit og öflugri samræmingarþjálfun og viðmiðunarmörk. Síðan héldum við áfram verkefnum í minni mæli undir strangara eftirliti.

Við frestuðum lengur tilteknum stærri keyrslum styrkingarnáms fyrir framtíðarútgáfur Astra á meðan við settum strangari kröfur um öryggi þjálfunarumhverfisins. Hinn 28. ágúst hófum við aftur stóru keyrsluna í styrkingarnámi háþróaða líkansins sem hafði verið stöðvuð, eftir að nýjar öryggiskröfur tóku gildi. Við frestum enn tímabundið nokkrum smærri tilraunaþjálfunum.

Undirbúningur útgáfu Astra hefur einnig kallað á öflugri varnir gegn misnotkun á netinu og óheimilum aðgerðum. Hér á eftir lýsum við þessum vörnum og hvernig við höfum prófað þær.

Frá því að við innleiddum í febrúar fyrsta líkanið sem við töldum hafa Hátt getustig í netöryggi höfum við styrkt netvarnir okkar með hverri nýrri útgáfu. Heildstæð öryggisnálgun okkar byggist á nokkrum lögum: höfnunum eftirþjálfaðs líkans, öryggisflokkurum á kerfisstigi og ótengdri greiningu og stöðvun ógna.

Fyrir GPT‑5.6⁠(opnast í nýjum glugga) jukum við verulega viðnámsþrótt kerfislagsins, meðal annars með virkniflokkurum til að greina misnotkun á netinu og aukinni vörn gegn almennum aðferðum til að komast fram hjá öryggistakmörkunum sem fundust með umfangsmiklu sjálfvirku rauðteymi. Með þessar umbætur að grunni höfum við fyrir Astra fjárfest enn frekar í líkanalagi varnarkerfisins og bætt getu varna okkar til að nýta samhengi milli samtala.

• Með nýrri þjálfunartækni sem eykur viðnámsþrótt líkansins hafnar Astra með traustari hætti beiðnum um óheimila netaðstoð. Í mati okkar á aðferðum til að komast fram hjá öryggistakmörkunum á sviði netöryggis hafnar Astra 91,5% beiðna, samanborið við 59% hjá GPT‑5.6 Sol.
• Fyrir reikninga sem metnir eru áhættumeiri beitum við varfærnari mörkum á hegðun líkansins, þannig að það hafni fjölbreyttari netaðstoð sem gæti verið áhættusöm. Fyrir notendur í mikilli áhættu höfum við víkkað samhengi eftirlitskerfa okkar svo þau geti greint slíka misnotkun á netinu.

Við höfum einnig haldið áfram umfangsmiklum prófunum, innra og ytra rauðteymi og úrbótum. Auk aðhvarfsprófana sem tryggja að áfram sé varið gegn öllum aðferðum til að komast fram hjá öryggistakmörkunum sem fundust í fyrri prófunum, framkvæmum við nú nýja lotu rauðteymis með nýjustu innri árásaraðilum rauðteymis. Við vinnum með samstarfsaðilum í greininni að sameiginlegu matskerfi fyrir aðferðir til að komast fram hjá öryggistakmörkunum og munum nota sólarhringsviðbragðsáætlun okkar til að rannsaka og bregðast við nýjum niðurstöðum. Við munum birta nánari upplýsingar um prófanir á netvörnum okkar í kerfiskorti Astra.

Að hjálpa verjendum að finna og lagfæra veikleika er áfram meginstoð öryggisnálgunar okkar. Við útgáfu gerum við ráð fyrir að varnir Astra valdi meiri fyrirstöðu en ætlunin er til lengri tíma, svo þær verji gegn hugsanlegri misnotkun. Aðgangur að Astra fyrir háþróuð netöryggisverkferli verður fyrst veittur litlum hópi alfaprófenda. Síðan verður aðgangur í gegnum Daybreak Blue aukinn til að styðja varnarstarf.

Við höfum einnig bætt við fleiri varnarlögum til að koma í veg fyrir hugsanlega ósamræmdar aðgerðir líkansins:

• Samræming líkans: Í mati okkar var Astra mun líklegra en GPT‑5.6 Sol til að virða skýrar öryggistakmarkanir og halda sig innan heimilaðs verksviðs. Það er því best samræmda líkanið okkar hingað til. Við lögðum sérstaka áherslu á að líkanið virti öryggistakmarkanir og héldi sig innan heimilaðs verksviðs.
• Eftirlit og stýring: Samhliða innri verklagsreglum okkar innleiðum við Astra með viðbótareftirliti með hugsanakeðju til að greina og stöðva hratt hugsanlega ósamræmdar aðgerðir.

Astra er stórt framfaraskref í samræmingu líkana og afrakstur margra langvinnra verkefna á því sviði, allt frá inngripum í forþjálfun til vandaðri og samræmdari einkunnagjafar í styrkingarnámi. Prófanir sýna að Astra er stöðugt líklegra en GPT 5.6 Sol til að virða skýrar öryggistakmarkanir og viðvaranir, svo sem sjálfvirka yfirferð.

Við þróuðum einnig próf með hliðsjón af Hugging Face-atvikinu, þar sem fulltrúar sem keyrðu netöryggismatið ExploitGym komust inn í kerfi þriðja aðila. Við notuðum erfiðustu verkefni matsins til að búa til „gildrupróf“ sem könnuðu hvort líkan reyndi að ráðast á aðliggjandi öryggisinnviði í stað þess að leysa úthlutað verkefni. Án rekstrarvarna reyndi GPT‑5.6 Sol að fá aðgang að þessum skotmörkum í 56% prófana sem líktu eftir viðmiðunarumhverfi þar sem líkaninu var falið að þróa misnotkunaraðferðir. Astra gerði engar slíkar tilraunir í þessum prófunum. Þessar tölur lýsa hegðun við prófunaraðstæður án netvarna, ekki við venjulega notkun í rekstri.

Þjálfun líkana í samræmdri hegðun er eitt öryggislag. Við munum birta nánari upplýsingar um samræmingarprófanir okkar og niðurstöður í kerfiskorti Astra.

Við innleiðum einnig eftirlit með ósamræmi í rekstri fyrir líkön í flokki Astra til að greina og stöðva hratt hugsanlegt ósamræmi. Þessar varnir líkjast eftirliti okkar með innri innleiðingum og byggjast á flokkurum sem kanna rökhugsun og aðgerðir líkansins með tilliti til óheimillar hegðunar og stöðva sjálfkrafa hugsanlega óheimila virkni. Þessar varnir geta ekki komið í stað góðrar samræmingar líkana okkar þegar geta þeirra eykst. Markmið okkar er að framtíðarlíkön verði svo vel samræmd að varnirnar virkist aldrei.

OpenAI einsetur sér að tryggja að ávinningur gervigreindar sé aðgengilegur sem flestum. Í ljósi þess hve netöryggisgeta Astra hefur aukist mikið gætum við sérstaklega að því að innleiðingin sé örugg. Viðbótaröryggisathuganir geta stundum hægt á, gert hlé á eða stöðvað lögmæta vinnu, þar á meðal netöryggisvarnir.

Kerfið kann stundum að merkja lögmæta virkni sem hugsanlega misnotkun á netinu eða óheimila hegðun, svo óvart hægist á henni, gert er hlé á henni eða hún stöðvuð. Þetta getur átt við vinnu sem virðist ekki tengjast netöryggi beint eða verkefni þar sem fulltrúi keyrir í langan tíma.

Ef eftirlit með ósamræmi gerir hlé á verkefni gætu notendur ChatGPT eða Codex þurft að yfirfara aðgerðina áður en haldið er áfram. Þegar aðrir fletir, svo sem API, eru notaðir stöðvast verkefnið. Við ætlum að halda áfram að fínstilla varnirnar til að draga úr óþarfa truflunum og auka aðgang að háþróaðri getu með verkefnum á borð við Daybreak.

Við erum að hefja nýtt skeið í þróun gervigreindar þar sem líkön geta tekið að sér afdrifaríkari verkefni og brestir í samræmingu og stýringu geta haft alvarlegri áhrif. Til að nýta ávinning þessara kerfa þurfum við að geta samræmt og stýrt líkönum eftir því sem geta þeirra eykst.

Sú ábyrgð nær til þjálfunar, mats og innleiðingar. Hún krefst sterkari sannana um samræmda hegðun, varna sem halda í við aukna getu og vilja til að hægja á þegar varnirnar duga ekki.

Við munum áfram prófa þessi kerfi, miðla lærdómi okkar og greina skýrt frá því sem enn er óvíst. Líkönin sem fylgja Astra munu gera enn meiri kröfur til okkar. Við munum gefa okkur þann tíma og vinna þá vinnu sem þarf til að axla þessa ábyrgð.