Kukabiliana na hatua inayofuata ya uwezo wa usalama wa mtandao wenye hatari kubwa

Usalama wa mtandao unabadilika kwa kasi huku miundo ikipata uwezo zaidi wa kuimarisha ulinzi wa mtandao na pia kuwezesha mashambulizi kwa kasi na kiwango ambacho hakijawahi kushuhudiwa.

Tathmini zetu za hivi karibuni za ndani kuhusu Astra, mojawapo ya miundo yetu ijayo, katika siku chache zilizopita zinaonyesha maendeleo makubwa katika usimbaji wa kiwakala na usalama wa mtandao. Matokeo haya, pamoja na tathmini za wataalamu, yalitufanya tuhitimishe jana usiku kwamba hatuwezi kuondoa uwezekano wa kuwepo kwa uwezo wa kimtandao wenye hatari kubwa chini ya Mfumo wa Maandalizi⁠(fungua katika dirisha jipya).

Tunashiriki hili kwa sababu tunaamini ni muhimu kuwa wazi kwa umma na jumuiya za usalama kuhusu mabadiliko haya yanayoweza kutokea katika uwezo.

Tulichapisha Mfumo wa Maandalizi kwa mara ya kwanza mnamo Desemba 2023, muda mrefu kabla miundo haijakaribia kiwango hiki cha uwezo katika biolojia, kemia, usalama wa mtandao na kujiboresha kwa AI. Tuliuunda ili utuongoze kutambua maendeleo ya uwezo na kupanga hatua ambazo kampuni yetu ingechukua kadiri uwezo huo unavyojitokeza. Miundo ya awali, ikiwemo GPT‑5.6‑Sol, imetathminiwa kuhusu uwezo wa hali ya juu zaidi wa usalama wa mtandao na ikawekwa katika kiwango cha Juu (badala ya Muhimu).

Chini ya Mfumo wa Maandalizi, muundo hufikia kiwango kiwango cha usalama wa mtandao chenye Hatari Kubwa ikiwa unaweza kutambua na kutengeneza mbinu zinazofanya kazi za kutumia udhaifu wa siku-sifuri katika viwango vyote vya ukali kwenye mifumo mingi muhimu ya ulimwengu halisi iliyoimarishwa kiusalama, bila kuingiliwa na binadamu; au ikiwa unaweza kubuni na kutekeleza mikakati mipya ya mashambulizi ya mtandao kutoka mwanzo hadi mwisho dhidi ya malengo yaliyoimarishwa, ukipewa tu lengo la jumla linalotakiwa. 

Tunapoendelea kufanya vipimo linganishi na kutathmini muundo huu, tathmini zetu za awali zinaonyesha utendaji imara kiasi kwamba kwa sasa hatuwezi kuondoa uwezekano wa kuwa na kiwango cha uwezo cha Hatari Kubwa. Astra ni muundo unaotarajiwa kutolewa na haukuhusika katika kuvamia Hugging Face. 

Kwa hiyo, tumeongeza kiwango cha majaribio ya uthabiti wa hatua zetu za ulinzi na udhibiti wa usalama ili yafae kutumiwa wakati wa kusambaza uwezo huu. Pia tumechukua hatua zifuatazo ndani ya kampuni ili kuhakikisha uendelezaji zaidi wa muundo huu unafanyika kwa usalama: 

• Tunatekeleza udhibiti mkali zaidi wa usalama kwa miundo yenye uwezo wa juu na shughuli zinazohusiana nayo, ikiwemo mazingira yaliyotengwa ya majaribio, ufikiaji wenye vikwazo wa mtandao na zana, ulinzi na usimbaji fiche ulioimarishwa wa uzani wa muundo, uwezo wa ziada wa ufuatiliaji na ugunduzi, na utekelezaji katika mazingira yaliyotengwa.
• Tunasitisha shughuli za ndani zinazohusisha Astra ambazo bado hazitimizi masharti haya yaliyoimarishwa ya udhibiti wa usalama.
• Tumetekeleza ufuatiliaji wa jumla wa vitendo hatarishi na mienendo isiyolingana na malengo katika matumizi yote ya Astra yenye uwakala, ikiwemo mafunzo na tathmini. Mifumo ya ufuatiliaji hutathmini mchakato wa kufikiri wa muundo na kuanzisha hatua ya kiusalama ili kukagua na kukatiza shughuli hatarishi sana.
• Tutashirikiana na mashirika husika ya serikali na mashirika teule ya usalama wa AI kujaribu uwezo wa muundo huu.
• Tutawapa washirika wa nje wa majaribio mapendekezo ya udhibiti wa usalama ili wafanye tathmini na kutekeleza kazi zenye hatari kubwa zaidi kwa usalama. 

Mfumo huu tayari umetuongoza katika mabadiliko mengine ya uwezo. Mnamo Juni 2025, miundo yetu ilipokaribia kiwango cha juu cha uwezo wa biolojia chini ya Mfumo wa Maandalizi, tulieleza hatua tulizokuwa tukichukua ili kuimarisha ulinzi, kupanua majaribio, kushirikiana na wataalamu wa nje na kutekeleza udhibiti wa ziada wa usalama. Tunatumia kanuni hiyo hiyo hapa.

Tunaamini miundo ya hali ya juu yenye uwezo wa kimtandao inapaswa kuwasaidia watetezi kutambua na kushughulikia udhaifu kabla ya washambuliaji. Tumejitolea kushirikiana na serikali, taasisi za usalama na asasi za kiraia ili kuhakikisha uwezo wa hali ya juu zaidi wa miundo kama Astra na itakayofuata unatumiwa kwa uwajibikaji na kwa upana kwa manufaa ya wanadamu wote.