Tathmini za nje za usalama wa mtandao zinazohusisha miundo ya OpenAI

Majaribio huru yana jukumu muhimu katika kutusaidia kuthibitisha na kuelewa zaidi hatari kabla ya uzinduzi. Baadhi ya tathmini za usalama wa mtandao hutumia kimakusudi usanidi maalumu, ikiwemo kupunguza hatua za ulinzi ili kupima uwezo wa msingi—si jinsi miundo inavyotenda kwa kawaida inapozinduliwa kwa matumizi ya umma.

Katika tathmini za hivi karibuni, washirika wawili wa nje wa majaribio walibaini matukio ambapo mchanganyiko wa usanidi na vidhibiti vya majaribio pamoja na uwezo unaoongezeka wa miundo ya karibuni uliruhusu shughuli za miundo kuvuka mipaka iliyokusudiwa ya majaribio. Matukio hayo yanasisitiza umuhimu wa kushirikiana katika sekta nzima na pamoja na watathmini wa nje ili kuboresha viwango vya mazingira na taratibu za majaribio kadiri miundo inavyozidi kuwa na uwezo. Ujumbe wa Mhariri: Matukio haya ni tofauti na tukio la usalama la Hugging Face, na tutaendelea kushiriki taarifa mpya kuhusu tukio la Hugging Face hapa.

Matukio hayo mapya yalihusisha miundo ya OpenAI kufikia intaneti ya umma wakati wa tathmini za usalama wa mtandao zilizofanywa na wahusika wengine, chini ya masharti maalumu na usanidi wenye hatua chache za ulinzi ambao haukuakisi uzinduzi wa kawaida. Matukio hayo yalijumuisha:

1. UK AISI, Taasisi ya Serikali ya Uingereza ya Usalama wa AI, ilikuwa ikiendesha tathmini katika maeneo ya majaribio ya usalama wa mtandao huku ufikiaji wa intaneti ukiwashwa kimakusudi ili mawakala waweze kutafuta zana wenyewe na kufanya kazi katika hali zinazokaribia za mshambulizi halisi. Pia, viainishaji vya usalama wa mtandao vilizimwa ili kupima uwezo wa msingi. Unaweza kusoma chapisho lao la blogu hapa.⁠(fungua katika dirisha jipya)
2. Irregular, mmoja wa washirika wetu wa nje wa majaribio ya usalama wa mtandao, ilikuwa ikiendesha tathmini za aina ya Capture-the-Flag zilizokusudiwa kutengwa na intaneti, lakini hitilafu ya usanidi wa mazingira ya majaribio iliruhusu miundo kufikia intaneti ya umma.

Hapa chini, tunatoa muhtasari wa kilichotokea, hali za majaribio zilizowezesha shughuli hiyo, hatua zilizochukuliwa kuidhibiti, na tunachofanya kuhakikisha maabara huru zinaweza kuendelea kutathmini kwa kina na kwa usalama miundo inayozidi kuwa na uwezo.

Matukio haya yanaonyesha changamoto ileile pana tuliyoeleza katika chapisho letu la hivi karibuni kuhusu tukio la Hugging Face: kadiri uwezo wa miundo unavyoongezeka, mifumo ya usalama na ulinzi inayozunguka miundo hiyo pia inahitaji kuimarika. Hii inajumuisha mazingira yanayotumiwa kutengeneza miundo, pamoja na yale ambayo maabara na washirika huru hutumia kuitathmini.

Katika wiki zijazo, tutapitia upya mbinu yetu ya majaribio yanayofanywa na wahusika wengine, ikiwemo jinsi tunavyotambua tathmini zenye hatari kubwa, kukubaliana kuhusu upeo, kutathmini maombi ya kuwezesha ufikiaji wa intaneti au kupunguza hatua za ulinzi, kuweka matarajio kuhusu utengaji, ushughulikiaji wa vitambulisho vya kuingia, ufuatiliaji na masharti ya kusimamisha, na kuanzisha taratibu zilizo wazi zaidi za kutoa taarifa na kuwasilisha matukio kwa ngazi za juu.

Tumejitolea kushirikiana katika sekta nzima ili kuimarisha taratibu za pamoja za kuendesha tathmini zenye hatari kubwa kwa usalama, ikiwemo kuwakutanisha katika wiki zijazo wadau kama taasisi za kitaifa za AI, watathmini huru, maabara nyingine za AI na makundi mengine. Lengo letu ni kuhifadhi thamani ya tathmini huru na za kina huku tukihakikisha taratibu za majaribio zinaendana na miundo inayozidi kuwa na uwezo.

Agosti 3, UK AISI ilituambia kuwa wakati wa tathmini ya kawaida ya usalama wa mtandao iliyoanza Julai 25, miundo ya OpenAI na ya maabara nyingine ilivuka upeo wa majaribio katika baadhi ya visa. Tathmini hiyo ilifanyika katika maeneo yaliyodhibitiwa ya majaribio ya usalama wa mtandao yaliyoundwa kuiga mitandao halisi. Kati ya matukio 19 yaliyobainishwa, mawili yalihusisha muundo wa OpenAI, GPT‑5.6 Sol. Visa vingine vilihusisha miundo ya maabara nyingine.

Katika tathmini hii, mawakala waliagizwa kutenda kama wataalamu wa usalama wa mtandao katika zoezi la capture-the-flag: kupenya mazingira matatu ya kuigiza yaliyounganishwa na kupata alama ya mwisho. Maelekezo ya kazi yalibainisha mitandao ya eneo iliyokuwa ndani ya upeo na kutaja mifumo kadhaa kuwa nje ya upeo. UK AISI pia iliwezesha ufikiaji wa moja kwa moja wa intaneti ili mawakala waweze kupakua zana na kufanya kazi katika hali zinazokaribia za mshambulizi halisi—na ikazima viainishaji vya muundo vya usalama wa mtandao ili kupima uwezo wa msingi.

Mpaka wa idhini uliokusudiwa na UK AISI ulikuwa eneo la kuigiza la majaribio ya usalama wa mtandao: mawakala waliidhinishwa kushambulia mitandao mahususi ya kuigiza na kupata alama, si kuingiliana na mifumo iliyo nje ya mpaka wa mtandao wa eneo hilo. Hata hivyo, mawakala hawakuambiwa wazi jinsi walivyoruhusiwa na kutoruhusiwa kutumia ufikiaji wa intaneti huria, jambo ambalo UK AISI imelitaja kuwa huenda lilichangia tukio hilo.

Katika majaribio haya, UK AISI ilibaini kuwa GPT‑5.6 Sol ilitekeleza vitendo viwili visivyoidhinishwa ilipokuwa ikijaribu kupata njia ya kuingia katika eneo la kuigiza na kupata alama:

1. GPT‑5.6 Sol ilitumia tena tokeni ya GitHub ambayo wakala wa maabara nyingine alikuwa ameiacha wazi kwa umma ili kuchunguza ikiwa mfumo ndani ya eneo la majaribio ulikuwa ukiulizia masasisho kutoka GitHub au huduma nyingine, ikajaribu mbinu za kukwepa taratibu za kurejesha akaunti na vikomo vya maombi, na kusajili akaunti kwa watoa huduma wa nje wa DNS na uunganishaji wa mifumo kupitia handaki.
2. GPT‑5.6 Sol ilitumia huduma ya umma ya uunganishaji kupitia handaki ili seva ya DNS iliyokuwa ikiendeshwa ndani ya mazingira yake ya tathmini iweze kufikiwa kutoka kwenye intaneti ya umma. Seva hiyo ilikuwa na mizigo hasidi iliyokusudiwa kutumia udhaifu unaojulikana katika programu iliyokuwa ikiendeshwa kwenye eneo la majaribio. Mpangilio huo haukufanya kazi, hakuna ushahidi kwamba kitatuzi chochote halisi kiliutumia, na miundombinu hiyo iliondolewa tathmini ilipokamilika.

Ingawa muundo huo ulikuwa ukijaribu kukamilisha zoezi la eneo la majaribio ya usalama wa mtandao, UK AISI ilichukulia vitendo hivi kuwa havijaidhinishwa kwa sababu vilihusisha akaunti na huduma halisi za nje ya mipaka ya eneo hilo, na havikuhitajika ili kukamilisha kazi. Seva ya DNS pia iliweka kwenye intaneti ya umma mizigo hasidi ya kutumia udhaifu, ingawa mpangilio huo haukufanya kazi na hakuna ushahidi kwamba kitatuzi chochote halisi kiliutumia.

UK AISI iligundua shughuli hiyo Julai 28 baada ya ufuatiliaji wa usalama kubaini uhamishaji wa data usio wa kawaida. Ilisimamisha tathmini husika, ikatenga mashine zinazohusika, na kudhibiti shughuli hiyo ndani ya takribani saa moja baada ya kugunduliwa.

Tunathamini ushirikiano wa UK AISI katika mchakato huu wote, ikiwemo kazi yake ya kugundua, kuchunguza na kushiriki maelezo kuhusu shughuli hiyo. Tunatarajia kuendeleza ushirikiano wetu.

Julai 29, Irregular, mmoja wa washirika wetu wa nje wa tathmini, alituarifu kuhusu tukio lililohusisha miundo ya OpenAI wakati wa tathmini za usalama wa mtandao za aina ya Capture-the-Flag (CTF). Miundo hiyo iliagizwa kutafuta taarifa zilizofichwa kwa kutumia udhaifu ndani ya mazingira ya kuigiza na ikaambiwa kuwa haikuwa na ufikiaji wa intaneti. Hata hivyo, hitilafu ya usanidi katika mazingira ya majaribio iliruhusu miundo hiyo kufikia intaneti ya umma.

Katika jaribio moja, jina la shabaha ya kubuniwa ya changamoto ya CTF lilifanana bila kukusudiwa na kikoa halisi. Kwa sababu mazingira ya majaribio yaliunganishwa kimakosa kwenye intaneti, muundo huo ulitumia udhaifu wa tovuti halisi ukidhani ilikuwa sehemu ya mazingira ya kuigiza. Hili halikuhusisha utorokaji wa hali ya juu kutoka mazingira tenge wala udhaifu wa siku-sifuri: ufikiaji wa intaneti ulitokana na hitilafu ya usanidi, na muundo huo ulionekana kutumia udhaifu wa msingi wa kiusalama.

Kulingana na uchunguzi wa Irregular, muundo huo pia ulipata na kutumia vitambulisho vya kuingia ili kuendesha tovuti hiyo hiyo. Irregular haijabaini athari zaidi ya data ya tovuti iliyoathiriwa, na ukaguzi wake unaendelea. Imesitisha tathmini hizo, imeanza kurekebisha tatizo, na wahusika wengine walioathiriwa waliarifiwa. Irregular imetuarifu kuwa matatizo yote yaliyobainishwa kuhusiana na tukio hilo hayapo tena na hatua husika za ulinzi zimeongezwa kwenye mazingira ya majaribio. Irregular pia imetoa taarifa kuhusu matukio yanayohusiana na maabara nyingine yaliyotokea katika mazingira hayo hayo ya majaribio.

Tunathamini ushirikiano wa Irregular, na tutaendelea kufanya kazi nao kwa karibu ili kusaidia ukaguzi wao. Irregular pia inaandaa waraka wa kiufundi ili kushiriki mbinu bora za kudhibiti matukio na kuendesha tathmini za usalama wa mtandao kwa usalama. Tunatarajia kushiriki katika kuandaa waraka huo ili matokeo yapatikane kwa jumuiya na kuendeleza ushirikiano wetu. Tunaona ushirikiano wa aina hii kuwa muhimu ili kuhakikisha miundo ya sasa na ya baadaye inatathminiwa kwa usalama na kwa kina.