OpenAI na Hugging Face washirikiana kushughulikia tukio la usalama wakati wa tathmini ya muundo

Sasisho la tarehe 28 Julai, 2026:

• Hakuna miundo iliyopangwa kwa ajili ya toleo lijalo iliyohusika katika kutumia vibaya Hugging Face. Muundo wa kabla ya kutolewa uliotajwa katika chapisho letu la blogu ni mfano wa awali wa utafiti kwa matumizi ya ndani pekee, na haukukusudiwa kamwe kutolewa kwa umma. Kufuatia tukio hilo, tuliizima, tukaisimba kwa njia fiche, na tukazuia ufikiaji wake ili lisipatikane kwa madhumuni ya utafiti.
• Mazingira ya tathmini ya ExploitGym hayakuipa miundo ufikiaji wa moja kwa moja wa Intaneti. Ili kupata ufikiaji wa Intaneti, miundo ilitambua na kutumia vibaya udhaifu wa siku sifuri ambao haukujulikana awali katika Artifactory⁠(fungua katika dirisha jipya), proksi ya akiba ya sajili ya vifurushi. Tulifichua udhaifu huu, pamoja na udhaifu mwingine wa Artifactory ambao miundo yetu ilibaini kama sehemu ya ukaguzi wetu, kwa muuzaji. 
• Tunaendelea kushirikiana na Hugging Face, ikiwemo kuchangia katika uchambuzi wao wa baada ya tukio⁠(fungua katika dirisha jipya), huku ukaguzi wetu ukiendelea. Tumewaongeza pia kwenye Mpango wetu wa Ufikiaji Salama wa Mtandao wa Cyber. 
• Kulingana na ukaguzi wetu kufikia sasa, hatujabaini shughuli nyingine yoyote yenye kiwango cha uzito au ukubwa sawa na kile tulichoshiriki kuhusu Hugging Face, ambacho kilihusisha maelewano katika kiwango cha jukwaa.
• Katika ukaguzi wetu unaoendelea wa uvamizi wa Hugging Face na shughuli pana zaidi kutoka kwa miundo yetu, tumekuwa tukigundua idadi ndogo ya visa ambapo miundo ilitambua na kutumia vitambulisho vya kuingia vilivyofichuliwa hadharani katika kiwango cha akaunti kwenye huduma nyingine zinazopatikana hadharani. Hii inajumuisha akaunti nne kwenye huduma nne kama sehemu ya tukio la Hugging Face (na akaunti chache zilizofikiwa kama sehemu ya tathmini nyingine). Mojawapo ya akaunti hizi nne ilitumika kama kituo cha kupitishia mawasiliano yanayotoka nje na njia ya kuhifadhi kwa muda, na akaunti nyingine ilitumika kwa uhifadhi wa data. Akaunti mbili zilizosalia zilifikiwa na miundo kwa njia ya kusoma pekee, na hazikutumika kuendeleza kuhatarisha usalama wa Hugging Face. Tutaendelea kuwajulisha wamiliki wa huduma moja kwa moja, na hatujaona ushahidi wa athari pana zaidi kwa watoa huduma hawa au akaunti nyingine kwenye huduma zao.
• Miundo pia ilitumia msururu wa huduma zinazopatikana kwa umma, ikiwa ni pamoja na tovuti za kubandika msimbo, huduma za kunasa maombi, huduma za picha za skrini, na zana nyingine za wavuti. Hakukuwa na maelewano yoyote katika kiwango cha jukwaa au cha akaunti katika visa hivi. 
• Tunauchukulia kwa uzito wajibu wetu wa kutambua na kujiandaa kwa hatari zinazotokana na mifumo ya akili unde inayozidi kuwa na uwezo mkubwa. Baada ya kukamilisha ukaguzi wetu, tutapitia pamoja na Kamati ya Usalama na Ulinzi na Kikundi cha Ushauri kuhusu Usalama chini ya Mfumo wa Maandalizi⁠.

Wiki iliyopita, Hugging Face ilifichua aina mpya ya tukio la usalama⁠(fungua katika dirisha jipya) baada ya kugundua na kudhibiti wakala wa AI aliyohatarisha miundombinu yao, jambo tunalotarajia litazidi kuwa la kawaida kadiri miundo yenye uwezo mkubwa zaidi wa kimtandao inavyoenea. Baada ya uchunguzi, sasa tunajua kuwa tukio hili mahususi liliendeshwa na mchanganyiko wa miundo ya OpenAI — ikiwemo GPT‑5.6 Sol na muundo wa kabla ya kutolewa wenye uwezo mkubwa zaidi, yote ikiwa imepunguziwa kukataa maombi ya kimtandao kwa madhumuni ya tathmini — wakati wa majaribio ya ndani kwenye kipimo⁠(fungua katika dirisha jipya) cha uwezo wa kimtandao.

Tunalichukulia tukio hili kuwa tukio la kimtandao lisilo na kifani, linalohusisha uwezo wa kisasa zaidi wa kimtandao, na tunalijibu ipasavyo. Tunashiriki matokeo ya awali katika hatua hii ili kuwasaidia walinzi kuelewa kilichotokea na kupima kwa usahihi uwezo ambao miundo sasa inao. Tutaendelea kufanya uchunguzi wa kina pamoja na Hugging Face na tutashiriki maelezo zaidi kuhusu athari za kiusalama, tukio, na matokeo uchunguzi wetu utakapokamilika.

Tukio hili lilitokea wakati wa tathmini ya ndani inayoiagiza miundo kufuatilia unyonyaji wa hali ya juu kwa kutumia njia changamano za mashambulizi, kwa lengo la kupima uwezo wake wa kimtandao. Tunakadiria uwezo wa juu zaidi wa kimtandao kwa kuendesha tathmini hii bila viainishaji vya uzalishaji vinavyotumika kuzuia miundo kufuatilia shughuli za kimtandao zenye hatari kubwa. Vipimo vyetu huendeshwa katika mazingira yaliyotengwa sana, huku ufikiaji wa mtandao ukizuiwa hadi uwezo wa kusakinisha vifurushi kupitia programu ya mhusika mwingine inayopangishwa ndani, ambayo hufanya kazi kama proksi na akiba ya sajili za vifurushi.

Miundo hiyo ilitambua na kuunganisha athari za kiusalama katika mazingira ya utafiti ya OpenAI na miundombinu ya uzalishaji ya Hugging Face ili kupata majibu ya majaribio moja kwa moja kutoka hifadhidata ya uzalishaji ya Hugging Face. Ushahidi wote unaonyesha kuwa miundo hiyo ilijikita kupita kiasi katika kupata suluhisho la ExploitGym, ikichukua hatua kali sana ili kufikia lengo finyu la majaribio.

Ikiwa inafanya kazi katika mazingira yetu ya majaribio yaliyotengwa, miundo yetu ilitumia kiasi kikubwa cha kompyuti ya uhawilishaji kutafuta njia ya kupata ufikiaji wazi wa Intaneti, ikiwa na lengo la kutatua tatizo la tathmini. Ili kupata ufikiaji, miundo ilitambua na kutumia athari ya zero-day (ambayo sasa tumeifichua kwa uwajibikaji kwa muuzaji) katika proksi ya akiba ya sajili ya vifurushi. Kwa ufikiaji huu, miundo yetu ilitekeleza mfululizo wa hatua za kuongeza upendeleo na kusogea upande kwa upande katika mazingira yetu ya majaribio ya utafiti hadi miundo ilipofikia nodi yenye ufikiaji wa Intaneti.

Baada ya kupata ufikiaji wa Intaneti, miundo ilihitimisha kuwa huenda Hugging Face ilikuwa inapangisha miundo, seti za data na suluhisho za ExploitGym. Kwa kujua hili, muundo ulitafuta na kufanikiwa kupata njia za kufikia taarifa za siri ambazo ungeweza kutumia kudanganya tathmini. Katika mfano mmoja, muundo uliunganisha vekta kadhaa za mashambulizi, ikiwemo kutumia vitambulisho vilivyoibiwa na athari za zero-day ili kupata njia ya kutekeleza msimbo kwa mbali kwenye seva za Hugging Face. Timu ya usalama ya OpenAI iligundua shughuli hii isiyo ya kawaida ndani ya shirika.

Timu ya usalama ya Hugging Face na mawakala wake waligundua na kusitisha shughuli hiyo kwenye miundombinu yao, na walikuwa tayari wameanza kuidhibiti na kuijenga upya kwa uchunguzi wa kidijitali kwa kutumia miundo yao ya open-source kabla ya timu zetu kuunganishwa. Tunashirikiana nao kikamilifu kuendelea kuchunguza tukio hilo. Tunashukuru Hugging Face kwa ushirikiano wao wa haraka na wa karibu katika uchunguzi na urekebishaji.

1. Kama sehemu ya uchunguzi, tunatekeleza udhibiti mkali katika usanidi wa miundombinu, hata kama hilo linapunguza kasi ya utafiti, wakati athari hizo za kiusalama zikirekebishwa. Tunaiarifu mara kwa mara Kamati yetu ya Usalama na Ulinzi kuhusu udhibiti huu na athari zake.
2. Tunashirikiana na Hugging Face kufanya uchunguzi wa kina wa kidijitali kuhusu tukio hilo.
3. Tumefichua kwa uwajibikaji athari ya zero-day iliyotambuliwa katika programu ya mhusika mwingine inayopangishwa ndani, na tunashirikiana nao kuirekebisha.
4. Tumeijumuisha Hugging Face katika mpango wa ufikiaji unaoaminika⁠ na tunazisaidia timu zao kutumia haraka uwezo wa miundo yetu kuimarisha ulinzi wao.
5. Tunaboresha na kuongeza ulinzi imara zaidi kwa mafunzo na tathmini zijazo. Wiki hii, tulichapisha blogu kuhusu kuboresha usalama na uoanishaji katika enzi ya miundo yenye upeo mrefu wa muda wa kazi⁠. Ulinzi huu wa matumizi haukuwashwa kwa makusudi wakati wa tathmini hii kwa sababu lengo lake lilikuwa kupima athari za kiusalama za mtandao. Tukio hili linaonyesha haja ya kuimarisha zaidi uoanishaji wa muundo wetu, ulinzi wa kimtandao wakati wa tathmini, na ufuatiliaji wakati wa majaribio ya ndani.

Kama tulivyoshiriki hivi karibuni⁠, AI inaharakisha ugunduzi na utumiaji wa athari za kiusalama. Funzo kuu kutokana na tukio hili ni kwamba usalama na ulinzi wa muundo lazima viende sambamba na uwezo unaosonga mbele kwa kasi. Tunaimarisha uzuiaji, ufuatiliaji, udhibiti wa ufikiaji, na mbinu za tathmini zinazotumika wakati wa ukuzaji wa muundo.

Tathmini ya UK AISI inaonyesha kuwa miundo kama GPT‑5.6 Sol inazidi kuweza kuendeleza operesheni changamano za kimtandao, zenye hatua nyingi, katika upeo mrefu wa muda wa kazi. Tukio hili linaashiria kuwa uwezo huu wa kinadharia hutumika katika mazingira halisi.

Tukio hili pia linaonyesha wazi kuwa miundo ya hali ya juu inaweza kugundua na kutumia njia mpya za mashambulizi katika mifumo halisi bila kufikia msimbo chanzo. Linaonyesha kuwa uwezo wa hali ya juu wa kimtandao lazima uendelezwe pamoja na ulinzi imara zaidi na zana za kujilinda.

Tunaamini miundo yenye uwezo wa hali ya juu wa kimtandao inapaswa kusaidia timu za usalama kupata udhaifu kabla ya washambuliaji, kuelewa jinsi athari za kiusalama zinavyoweza kuunganishwa, na kuzirekebisha kwa kasi ya mashine. Tunatumia uwezo huu kuendelea kuimarisha ulinzi wa usanidi wa miundombinu na mazingira ya tathmini ya muundo; tutashiriki matokeo na mbinu bora tunapoendelea kujifunza. Tunawahimiza walinzi wengine watume maombi ya ufikiaji unaoaminika⁠ na wajaribu miundo hii sasa ili kuugeuza uwezo huu kuwa uzuiaji bora, ugunduzi wa haraka zaidi, na mwitikio bora zaidi kwa matukio.