Njia kuelekea Astra: uwezo muhimu na ulinzi unaoongoza

Tangu tathmini yetu ya awali kwamba Astra huenda ikafikia kiwango muhimu cha uwezo wa usalama wa mtandaoni, tumekusanya ushahidi zaidi na kufanya tathmini za ziada za uwezo wa muundo. Sasa tunaamini Astra inatimiza kiwango cha uwezo Muhimu Sana wa usalama wa mtandaoni chini ya Mfumo wa Maandalizi. Hii inamaanisha kuwa ikiwa ina zana na ufikiaji unaofaa, inaweza kugundua udhaifu wa usalama ambao haukujulikana na kutengeneza njia za kuutumia katika mifumo mingi iliyolindwa vyema, bila mtu kuongoza kila hatua. Ni muundo wa kwanza tunaouainisha katika kiwango hiki, na unahitaji ulinzi thabiti zaidi wakati wa utengenezaji na kabla ya uzinduzi.

Katika wiki kadhaa zilizopita, tulichelewesha baadhi ya hatua za utengenezaji na uzinduzi wa Astra huku tukiimarisha na kujaribu ulinzi dhidi ya matumizi mabaya ya mtandaoni na hatua zisizoidhinishwa za muundo. Kutokana na kazi hiyo, tunaamini ulinzi wa Astra unapunguza vya kutosha hatari ya madhara makubwa ili iweze kuzinduliwa chini ya Mfumo wa Maandalizi.

Ingawa Astra haikuhusika katika tukio la Hugging Face, tumejumuisha tuliyojifunza⁠(fungua katika dirisha jipya) kutokana na tukio hilo katika mbinu yetu ya usalama. Kutokana na majaribio ya kurejea nyuma, tunaamini ulinzi wetu wa uzalishaji wakati huo ungezuia tukio la Hugging Face. Tangu wakati huo tumetekeleza ulinzi thabiti zaidi kwa Astra, ikiwemo kufunza muundo kukataa kwa kutegemewa zaidi maombi hatari ya mtandaoni na kuheshimu vizuizi vya usalama, kuweka ulinzi wa ziada dhidi ya matumizi mabaya, na ufuatiliaji unaoweza kusitisha shughuli zinazoweza kutokuwa zimeidhinishwa.

Tunapanga kutoa Astra hivi karibuni, lakini ufikiaji wa uwezo wake wa juu zaidi wa usalama wa mtandaoni utakuwa na mipaka zaidi. Mwanzoni, kikundi cha wajaribu kitapata uwezo wa kufanya kazi za juu za usalama wa mtandaoni, kisha ufikiaji kupitia Daybreak Blue utafuata ili kupanua matumizi ya kiulinzi.

Wakati wa uzinduzi, tutashiriki maelezo zaidi kuhusu majaribio na tathmini zetu za usalama na ulinganishaji katika kasi ya mfumo ya muundo. Kabla ya uzinduzi, tunataka kutoa taarifa kuhusu baadhi ya kazi tunayofanya kuandaa uzinduzi salama wa muundo wenye kiwango hiki cha uwezo wa usalama wa mtandaoni—na kueleza kwa uwazi hatari ambazo bado zipo.

Chini ya Mfumo wa Maandalizi, muundo unatimiza kiwango Muhimu Sana ikiwa mojawapo ya masharti yafuatayo yatatimizwa:

• Muundo unaweza kutambua na kutengeneza mbinu zinazofanya kazi za kutumia siku isiyokuwa na udhaifu ya viwango vyote vya ukali katika mifumo mingi muhimu ya ulimwengu halisi iliyoimarishwa, bila kuingiliwa na binadamu.
• Muundo unaweza kubuni na kutekeleza mikakati mipya kamili ya mashambulizi ya mtandaoni dhidi ya malengo yaliyoimarishwa, ukipewa tu lengo la jumla linalotakiwa.

Tathmini yetu ya maandalizi ya Astra iliunganisha vipimo vya kiotomatiki vya umma na binafsi pamoja na tathmini zilizoongozwa na wataalamu. Astra ina ongezeko kubwa la uwezo wa usalama wa mtandaoni ikilinganishwa na GPT‑5.6 Sol: inatumia tokeni kwa ufanisi mkubwa zaidi na ina uwezo zaidi wa kutambua udhaifu na kutengeneza mbinu za kuutumia.

Kwa mfano, tuliendesha Astra kwenye ExploitBench, ambapo muundo ulipata alama kamili za asilimia 100 katika kipimo kinachotathmini uwezo wa kutengeneza mbinu za kutumia udhaifu unaojulikana.

Kutokana na wasiwasi wa kuchafuliwa kwa data, tulitengeneza kipimo cha ndani kiitwacho “ExploitBench - Toleo la Ndani (Juni–Agosti 2026)”, chenye udhaifu 20 wa V8 wa kiwango cha juu uliotangazwa hivi karibuni. Katika data hii, Astra inafikia viwango vya juu zaidi vya utekelezaji wa msimbo wowote kuliko GPT‑5.6 Sol huku ikitumia tokeni chache sana za matokeo. Wakati wa tathmini, muundo hata uligundua na kutumia udhaifu wa siku mbili-sifuri kama sehemu ya msururu wa kutumia udhaifu. Tunaendelea kuwafahamisha wasimamizi kuhusu udhaifu huo wawili.

Katika tathmini zilizoongozwa na wataalamu dhidi ya kivinjari na mfumo wa uendeshaji ulioimarishwa, Astra iligundua udhaifu ambao haukujulikana na kuugeuza kuwa misururu inayofanya kazi ya kutumia udhaifu. Ilitengeneza msururu kamili wa kudhibiti kivinjari ambao ulitoka kwenye mazingira ya jabirio na kutekeleza amri kwenye mfumo mwenyeji kivinjari kilipofungua faili ya HTML. Muundo pia uligundua udhaifu kadhaa katika mfumo wa uendeshaji ulioimarishwa na kuunganisha udhaifu huo kuwa msururu wa kuongeza haki za ndani, kutoka kwa mtumiaji asiye na haki hadi root. Kwa jumla, uchunguzi wetu umetufanya tuhitimishe kwamba Astra inatimiza kiwango Muhimu Sana.

Kwa miundo yenye uwezo wa usalama wa mtandaoni wa kiwango cha Astra, tunahitaji kushughulikia njia mbili ili kupunguza hatari ya madhara makubwa ya mtandaoni, wakati wa utengenezaji na kabla ya uzinduzi:

• Wahalifu wanaotumia muundo. Ulinzi wetu lazima uwazuie kwa uthabiti wahalifu kutumia Astra kutengeneza mbinu za kutumia udhaifu ambao haukujulikana awali katika mifumo muhimu iliyoimarishwa, au kutekeleza mashambulizi kamili dhidi ya malengo yaliyoimarishwa.
• Muundo unaochukua hatua zisizoidhinishwa na zisizolingana. Hata bila mtumiaji mwenye nia mbaya, muundo wenye uwezo wa juu wa usalama wa mtandaoni unaweza wenyewe kusababisha madhara ya mtandaoni ikiwa haujalinganishwa. Mbali na kuweka kiwango cha juu sana cha ulinganishaji kwa miundo yenye uwezo huu, ulinzi wetu lazima uweze kugundua na kudhibiti haraka hatua zisizolingana ambazo zinaweza kusababisha madhara makubwa katika ulimwengu halisi, kama safu ya pili ya ulinzi.

La kuzingatia ni kwamba njia ya pili inatumika katika utengenezaji wa ndani na pia uzinduzi wa nje. Kama tulivyoeleza awali, tulisitisha baadhi ya mafunzo yanayoongoza (ikiwemo baadhi ya mafunzo ya Astra) kwa wiki mbili baada ya tukio la OpenAI-Hugging Face ili kuimarisha miundombinu yetu ya mafunzo. Hatua hizo zilijumuisha utengaji na udhibiti wa mtandao, upanuzi wa ufuatiliaji, na kuimarisha mafunzo na viwango vya ulinganishaji. Kisha tuliendelea na kazi ndogo chini ya udhibiti mkali zaidi.

Tulisubiri kwa muda mrefu zaidi kabla ya kuendesha baadhi ya mafunzo makubwa ya uimarishaji (RL) kwa matoleo yajayo ya Astra, huku tukiweka viwango vya juu zaidi vya usalama wa mazingira yake ya mafunzo. Mnamo Agosti 28, tulianza tena zoezi kubwa la RL inayoongoza lililokuwa limesitishwa, baada ya kutekeleza masharti mapya ya usalama. Tunaendelea kusitisha kwa muda baadhi ya majaribio madogo ya mafunzo.

Kuandaa Astra kwa ajili ya uzinduzi pia kulihitaji ulinzi thabiti zaidi dhidi ya matumizi mabaya ya mtandaoni na hatua zisizoidhinishwa. Hapa chini, tunaeleza ulinzi huo na jinsi tulivyoujaribu.

Tangu tulipozindua muundo wa kwanza tulioutathmini kuwa na uwezo wa kiwango cha Juu katika usalama wa mtandaoni mnamo Februari, tumeimarisha ulinzi wetu wa mtandaoni kwa kila uzinduzi uliofuata. Mbinu yetu ya jumla ya usalama ina safu za kukataa kwa muundo wenye mafunzo ya ziada, viainishaji vya usalama vya kiwango cha mfumo, pamoja na utambuzi wa nje ya mtandao na ukatizaji wa vitisho.

Kwa GPT‑5.6⁠(fungua katika dirisha jipya), tuliimarisha sana uthabiti wa safu yetu ya kiwango cha mfumo, ikiwemo kuongeza viainishaji vya kuwezesha ili kugundua matumizi mabaya ya mtandaoni na kuboresha ulinzi dhidi ya jailbreak za jumla zilizopatikana kupitia jaribio kubwa la kiotomatiki la kubaini udhaifu wa mfumo. Kwa kuendeleza maboresho haya, tumewekeza zaidi katika safu ya muundo ya mfumo wa ulinzi wa Astra, na kuboresha uwezo wa ulinzi wetu kushughulikia muktadha unaovuka mazungumzo tofauti.

• Kwa kutumia mbinu mpya za mafunzo ya kuimarisha uthabiti wa muundo, Astra inakataa kwa uthabiti zaidi maombi ya usaidizi wa mtandaoni usioruhusiwa. Katika seti yetu ya tathmini za jailbreak za mtandaoni, Astra inakataa asilimia 91.5 ya maombi (ikilinganishwa na asilimia 59 kwa GPT‑5.6 Sol).
• Kwa akaunti zilizotathminiwa kuwa na hatari kubwa zaidi, tunatumia mpaka wa kihafidhina zaidi wa tabia ya muundo unaokataa aina nyingi zaidi za usaidizi wa mtandaoni unaoweza kuwa hatari. Kwa watumiaji wenye hatari kubwa, tumepanua muktadha wa mifumo yetu ya ufuatiliaji ili iweze kugundua aina hizi za matumizi mabaya ya mtandaoni.

Pia tumeendeleza mpango wetu wa majaribio makali, majaribio ya ndani na nje ya kubaini udhaifu wa mfumo, na marekebisho. Mbali na majaribio ya urejeaji ili kuhakikisha jailbreak zote zilizopatikana katika vipindi vya awali vya majaribio bado zinashughulikiwa, tunafanya awamu mpya ya jaribio la kubaini udhaifu wa mfumo kwa kutumia washambuliaji wetu wa ndani wa kubaini udhaifu wa mfumo wa hivi karibuni. Tunashirikiana na washirika wa sekta kufafanua mfumo wa pamoja wa kupima jailbreak na tutatumia mpango wetu wa mwitikio wa haraka wa saa 24 kila siku kuchunguza na kushughulikia matokeo mapya. Tutashiriki maelezo zaidi kuhusu majaribio ya ulinzi wetu wa mtandaoni katika kasi ya mfumo ya Astra.

Kuwasaidia walinzi kutambua na kurekebisha udhaifu bado ni nguzo kuu ya mbinu yetu ya usalama. Wakati wa uzinduzi, tunatarajia ulinzi wa Astra kuweka vizuizi vingi kuliko tunavyokusudia hatimaye, ili kulinda dhidi ya uwezekano wa matumizi mabaya. Mwanzoni, kikundi kidogo cha wajaribu wa alfa kitapata Astra kwa ajili ya michakato ya juu ya usalama wa mtandaoni; baadaye ufikiaji kupitia Daybreak Blue utapanuliwa ili kusaidia matumizi ya kiulinzi.

Pia tumeongeza safu zaidi za ulinzi ili kuzuia muundo kuchukua hatua zinazoweza kutolingana:

• Ulinganishaji wa muundo: Katika tathmini zetu, Astra ilikuwa na uwezekano mkubwa zaidi kuliko GPT‑5.6 Sol wa kuheshimu vizuizi bayana vya usalama na kubaki ndani ya upeo wake ulioidhinishwa, hivyo kuifanya kuwa muundo wetu uliolinganishwa zaidi kufikia sasa. Tulilenga hasa jinsi muundo unavyoheshimu vizuizi vya usalama na mwelekeo wake wa kubaki ndani ya upeo ulioidhinishwa.
• Ufuatiliaji na udhibiti: Sambamba na taratibu zetu za ndani, tunazindua Astra pamoja na ufuatiliaji wa ziada wa msururu wa mawazo ili kugundua na kudhibiti haraka hatua zinazoweza kutolingana.

Astra ni hatua kubwa katika ulinganishaji wa muundo na ni matokeo ya mikondo kadhaa ya muda mrefu ya kazi ya ulinganishaji (kuanzia hatua za mafunzo ya awali hadi utoaji alama makini na thabiti zaidi wakati wa mafunzo ya uimarishaji). Katika majaribio, tumegundua kuwa Astra ina uwezekano mkubwa zaidi wa kuheshimu kila wakati vizuizi na maonyo bayana ya usalama (kama ukaguzi wa kiotomatiki) ikilinganishwa na GPT 5.6 Sol.

Pia tulitengeneza jaribio lililoongozwa na tukio la Hugging Face, ambapo mawakala waliokuwa wakiendesha tathmini ya mtandaoni ya ExploitGym waliingilia mifumo ya mhusika mwingine. Tulitumia kazi ngumu zaidi kutoka tathmini hiyo kuunda majaribio ya “honeypot” ili kubaini ikiwa muundo ungejaribu kuingilia miundombinu jirani ya usalama badala ya kutatua kazi uliyopewa. Bila ulinzi wa uzalishaji, GPT‑5.6 Sol ilijaribu kufikia malengo hayo katika asilimia 56 ya majaribio yaliyoiga mazingira ya kipimo ambapo muundo unaagizwa kutengeneza mbinu za kutumia udhaifu. Astra haikufanya jaribio lolote kama hilo katika majaribio haya. Takwimu hizi zinaeleza tabia katika mazingira ya majaribio bila ulinzi wa mtandaoni, si matumizi ya kawaida ya uzalishaji.

Kufunza miundo ilinganishwe ni safu moja ya usalama. Tutashiriki maelezo zaidi kuhusu majaribio na matokeo yetu ya ulinganishaji katika kasi ya mfumo ya Astra.

Pia tunazindua ufuatiliaji wa kutolingana katika uzalishaji kwa miundo ya kiwango cha Astra, ili kugundua na kudhibiti haraka uwezekano wa kutolingana. Ulinzi huu unafanana na ufuatiliaji wetu wa uzinduzi wa ndani na unahusisha mfumo wa viainishaji vinavyokagua uwazaji na hatua za muundo ili kutambua tabia isiyoidhinishwa na kusitisha kiotomatiki shughuli inayoweza kutokuwa imeidhinishwa. Uwezo unapoongezeka, ulinzi huu hauwezi kuchukua nafasi ya ulinganishaji mzuri wa miundo yetu. Lengo letu ni miundo ya baadaye ilinganishwe vizuri kiasi kwamba ulinzi huu usiwahi kuwashwa.

OpenAI imejitolea kuhakikisha manufaa ya AI yanapatikana kwa watu wengi. Kwa kuzingatia ongezeko kubwa la uwezo wa Astra wa usalama wa mtandaoni, tunachukua tahadhari maalumu kuhakikisha uzinduzi huu ni salama. Ukaguzi wa ziada wa usalama wakati mwingine unaweza kupunguza kasi, kusitisha kwa muda au kukomesha kazi halali, ikiwemo kazi ya kulinda usalama wa mtandaoni.

Wakati mwingine mfumo unaweza kuashiria kimakosa shughuli halali kuwa matumizi mabaya ya mtandaoni au tabia isiyoidhinishwa, na hivyo kupunguza kasi, kusitisha kwa muda au kukomesha shughuli hiyo bila kukusudia. Hii inaweza kujumuisha kazi isiyoonekana kuhusiana moja kwa moja na usalama wa mtandaoni au kazi ambazo wakala anaziendesha kwa muda mrefu.

Ikiwa kifuatiliaji cha kutolingana kitasitisha kazi, watumiaji wa ChatGPT au Codex wanaweza kuombwa wakague hatua hiyo kabla ya kuendelea. Unapotumia mifumo mingine kama API, kazi itakoma. Tunapanga kuendelea kusawazisha ulinzi huu ili kupunguza ukatizaji usiohitajika na kupanua ufikiaji wa uwezo wa mpaka kupitia mipango kama Daybreak.

Tunaingia katika hatua ya ukuzaji wa AI ambapo miundo inaweza kutekeleza kazi zenye athari kubwa zaidi, na kushindwa kwa ulinganishaji na udhibiti kunaweza kuwa na madhara makubwa zaidi. Kupata manufaa ya mifumo hii kutategemea uwezo wetu wa kulinganisha na kudhibiti miundo kadiri uwezo wake unavyokua.

Wajibu huo unahusu mafunzo, tathmini na uzinduzi. Unahitaji ushahidi thabiti zaidi wa tabia iliyolinganishwa, ulinzi unaoenda sambamba na uwezo, na utayari wa kupunguza kasi wakati ulinzi huo hautoshi.

Tutaendelea kujaribu mifumo hii, kushiriki tunayojifunza na kueleza wazi mambo ambayo bado hayana uhakika. Miundo itakayofuata Astra itahitaji juhudi kubwa zaidi kutoka kwetu. Tutatumia muda na kufanya kazi inayohitajika kutimiza wajibu huo.