Kudhibiti hatari za AI za kiwango cha juu: Kutoka mafunzo hadi matumizi
Novemba 18, 2026 · Usalama
Uwezo wa miundo ya kiwango cha juu unaongezeka kwa kasi, na uwezo wetu wa kuielewa, kuilinganisha na malengo na kuilinda lazima utangulie. Tunadhibiti kasi ya uundaji na utoaji wa miundo yetu, ikiwemo kusitisha mafunzo ya ndani(fungua katika dirisha jipya) au kuchelewesha miundo kama GPT‑6.1 Astra tunapohitaji muda zaidi kutimiza viwango vyetu vya usalama. Tumeanzisha michakato mipya kama hoja za kuthibitisha usalama na tunahitaji ushahidi thabiti zaidi wa tabia zinazolingana na malengo katika kipindi chote cha mafunzo. Masharti haya hupunguza kasi ya kutoa miundo, lakini yanatupa uhakika zaidi wa kuendelea kwa usalama.
Tangu tukio la Hugging Face mnamo Julai, tumeimarisha kinga na masharti ya ulinganifu katika kufundisha, kupima na kutoa miundo kwa matumizi. Makala hii inaeleza jinsi tunavyotathmini na kudhibiti hatari katika kila hatua, kuanzia mazingira ya mafunzo yaliyotengwa kabisa hadi Codex unayotumia kwenye kompyuta yako. Tunatathmini miundo na kinga katika kila hatua, tukihitaji mapitio ya usalama kabla ya kuendelea hadi hatua inayofuata.
Tunatumia ulinzi wa safu nyingi kupunguza utegemezi wa kinga yoyote moja. Safu moja ikishindwa, nyingine husaidia kuzuia madhara, kupunguza athari, au kututahadharisha ili tuingilie kati.
Tunapanga ulinzi wetu katika safu nne:
Ufuatiliaji unaofaa hutegemea uwezekano wa muundo kufuatiliwa — jinsi mifumo ya ufuatiliaji inavyoweza kutegemewa kugundua makosa au tabia zisizo salama katika uwazaji na hatua za muundo. Kwa mfano, muundo unaoeleza nia yake ya kudanganya katika msururu wa mawazo (CoT) unaweza kufuatiliwa kwa urahisi zaidi kuliko unaoacha taarifa hiyo. Tunatathmini uwezekano wa kufuatiliwa wakati wa mafunzo na kabla ya matumizi, tunabuni mbinu bora za kuupima(fungua katika dirisha jipya), na kutafiti kinachouathiri(fungua katika dirisha jipya).
Tukio la Hugging Face lilionyesha kwa nini hatupaswi kutegemea utengaji pekee ili kudhibiti miundo yenye uwezo mkubwa. Sasa tunafuatilia miundo ya kiwango cha juu katika mazingira mengi ya matumizi ya ndani na nje, yakiwemo matumizi yote ya ndani yanayotumia zana.
Jukumu la kila safu hubadilika katika hatua tatu za uundaji na utoaji wa miundo kwa matumizi:
Utafiti: Tunafundisha, kupima na kutumia miundo katika mazingira yaliyotengwa.
Matumizi ya ndani: Wafanyakazi wa OpenAI hutumia miundo kwa kazi halisi.
Matumizi ya nje: Miundo hupatikana kwa watu na mashirika kwa upana zaidi.
Tunategemea safu tofauti katika hatua tofauti. Wakati wa mafunzo, ambapo ulinganifu hauna uhakika mkubwa, tunategemea zaidi utengaji na ufuatiliaji. Miundo inapopata ufikiaji mpana zaidi wakati wa matumizi, ulinganifu na vidhibiti vya kiwango cha mfumo huzidi kuwa muhimu. Katika kila hatua, tunatathmini iwapo kinga kwa pamoja zinatosha kulingana na uwezo na ufikiaji wa muundo. Maamuzi yetu yanaweza kupitia mapitio pamoja na Kikundi cha Ushauri wa Usalama, chini ya usimamizi wa Kamati ya Usalama na Ulinzi ya Bodi ya Wakurugenzi ya OpenAI Foundation.
Katika hatua ya utafiti, tunatathmini miundo ili kupata uhakika wa sifa zake za ulinganifu. Kwa kuwa bado hatuwezi kutegemea ulinganifu kikamilifu kuzuia madhara, tunategemea sana ulinzi na utengaji ili kuweka mipaka ya kile inayoweza kufikia na kufanya.
Kwa kuzingatia hali ya sasa ya utafiti kuhusu ulinganifu, mifumo ya ufuatiliaji na usalama wa miundombinu ya intaneti, tunaamini kuwa njia inayowajibika ni kufundisha miundo ya akili unde ya kiwango cha juu bila ufikiaji wa moja kwa moja wa intaneti. Baada ya tukio la Hugging Face, tulipanga upya kwa kiasi kikubwa mifumo yetu ya utafiti wa ndani ili kuzuia miundo isivuke mipaka ya ufikiaji kwa kutumia:
mazingira yaliyotengwa yanayoweka mipaka ya ruhusa za muundo
mashine pepe ili kutenga zaidi kazi na kompyuta inayoziendesha
mipaka ya mtandao na wingu inayotenganisha kundi zima la kompyuta na intaneti
Tunajaribu kila mara kubaini udhaifu wa mfumo huu kwa kufanya timu za miundo yetu yenye uwezo mkubwa zaidi zijaribu kufikia intaneti moja kwa moja, kuvuka mipaka ya ulinzi, au kuwasiliana na mawakala ambayo inapaswa kutengwa nayo. Hii hutusaidia kupima iwapo utengaji unastahimili uwezo wa miundo inayokusudiwa kuzuiwa.
Kama safu ya ziada ya ulinzi, tunafuatilia uchakataji wote wa modeli za kiwango cha juu ili kubaini iwapo modeli imekiuka masharti yetu ya msingi ya usalama. Mfumo wetu wa ufuatiliaji ukigundua kuwa modeli imefikia intaneti, tunaziarifu timu zetu za usalama mara moja na kusitisha kiotomatiki mchakato husika.
Ufuatiliaji hutoa kinga muhimu ya ziada utengaji unaposhindwa. Katika ripoti ya hivi karibuni ya kutolingana na malengo, tulieleza kuwa mifumo ya ufuatiliaji iligundua muundo wa utafiti wa ndani ukitumia vibaya usanidi usio sahihi wa DNS(fungua katika dirisha jipya) kupata ufikiaji mdogo wa intaneti. Tulisitisha mafunzo na tathmini za miundo yetu yenye uwezo mkubwa zaidi kuanzia Septemba 20 hadi Oktoba 1 tulipokuwa tukichunguza na kuziba mwanya wa ulinzi.
Ili kuingilia kati haraka na kwa uhakika, tulijenga Control Room, mfumo mkuu unaofuatilia kazi za utafiti na kusimamisha utoaji zaidi wa matokeo ya muundo ndani ya sekunde 35 baada ya kupokea agizo la kusimamisha kazi. Vidhibiti hivi vinatekelezwa moja kwa moja katika miundombinu ya uchakataji, hivyo havitegemei kila kazi ya utafiti kuwa na utaratibu wake wa kuzima. Kwa kazi za utafiti wa miundo ya kiwango cha juu, pia vinasimamisha utoaji wa matokeo ya muundo ikiwa Control Room haipatikani.
Jaribio la kubaini udhaifu wa mfumo na ufuatiliaji hufanya kazi pamoja. Hatuwezi kuhakikishia kuwa mazingira yaliyotengwa hayawezi kuvunjwa, lakini jaribio la kubaini udhaifu wa mfumo hutusaidia kutathmini juhudi ambazo muundo ungehitaji ili kuyatoroka. Kadiri muundo unavyohitaji juhudi zaidi, ndivyo mifumo ya ufuatiliaji inavyopata nafasi zaidi ya kuugundua na kuusimamisha.
Tunaweka sharti la kuwa na vidhibiti thabiti vya usalama na ufuatiliaji katika hatua ya utafiti kwa sababu kadhaa:
Miundo bado inatathminiwa. Baadhi haijakamilisha mafunzo ya usalama, ukaguzi wa ulinganifu na mapitio yanayohitajika kabla ya kutolewa kwa umma.
Mazingira ya utafiti wa kiwango cha juu yanaweza kuongeza hatari. Baadhi ya kazi za utafiti huhitaji mipangilio yenye malengo makubwa zaidi, na kuufanya muundo udumu zaidi katika juhudi zake au uwe na uwezo mkubwa kuliko ilivyo kawaida katika matumizi ya nje (kwa mfano, timu ya mawakala 10,000 ilihitajika kutatua tatizo la Navier Stokes).
Mafunzo hufanywa kwa kiwango kikubwa bila usimamizi mwingi wa moja kwa moja wa binadamu. Tofauti na kipindi cha kawaida cha Codex, kazi zetu za mafunzo huhusisha hatua nyingi za muundo bila mtu kufuatilia kila mwingiliano.
Kabla ya kutolewa kwa upana, wafanyakazi huhama kutoka kutumia miundo ya kiwango cha juu katika utafiti uliotengwa hadi matumizi ya ndani yasiyotengwa, k.m. kwa kuufanya muundo upatikane kwa wafanyakazi kupitia ChatGPT. Hii hutusaidia kuelewa vizuri zaidi jinsi miundo inavyotenda katika mazingira halisi(fungua katika dirisha jipya), na kuongoza maamuzi ya kuitoa kwa matumizi.
Katika hatua hii, tunaupa muundo ufikiaji mpana wa intaneti, Slack yetu, hazina yetu ya msimbo na miundombinu ya ndani. Haya ni mabadiliko makubwa ya hatari, kwa kuwa hatua za muundo sasa zinaathiri moja kwa moja mifumo tunayotumia kujenga na kuendesha OpenAI. Wakati wa matumizi ya ndani, tunahitaji kutegemea zaidi ulinganifu wa muundo, kinga za mfumo na ufuatiliaji badala ya vidhibiti vya ulinzi.
Kabla ya muundo wa kiwango cha juu kutumika nje ya mazingira yaliyotengwa, lazima kwanza ufanyiwe majaribio ya ulinganifu na uwezekano wa kufuatiliwa(fungua katika dirisha jipya). Tuna seti ya tathmini za ulinganifu zinazochunguza aina mahususi za kushindwa kufuata malengo yaliyokusudiwa (kama vile kukwepa vizuizi vya usalama na ulinzi), pamoja na mielekeo ya jumla (kama vile kuchukua tena sampuli za mifululizo ya hatua za Codex ya ndani na kuchunguza kutolingana kwa malengo). Unaweza kusoma zaidi kuhusu tathmini zetu za ulinganifu na uwezekano wa kufuatiliwa katika kadi ya mfumo wa GPT‑6 Astra(fungua katika dirisha jipya) ya hivi karibuni.
Kwa kuiga mipangilio yetu ya matumizi halisi, tunaongeza safu ya ulinzi yenye viainishaji vya kiwango cha mfumo, vilivyoundwa kuzuia madhara ya kiwango cha juu kama matumizi mabaya ya mtandaoni na utengenezaji wa silaha za kibayolojia. Kwa kawaida, pia tunawataka wafanyakazi wanaotumia Codex watumie Ukaguzi wa kiotomatiki(fungua katika dirisha jipya), unaotathmini hatua zinazoweza kuwa hatari na kuzirejesha kwa mtumiaji aamue.
Hatimaye, tunafuatilia tabia zisizolingana na malengo katika kila uchakataji wa muundo wa kiwango cha juu wakati wa matumizi ya ndani. Kwa kuwa muundo sasa una ruhusa zaidi na ufikiaji wa taarifa na mifumo ya ndani, ni muhimu hasa kugundua hatari kama utoaji wa data kwa siri, au kutuma data nyeti mahali pasipoidhinishwa. Ufuatiliaji pia hutusaidia kuchunguza aina mpya za kutolingana na malengo(fungua katika dirisha jipya).
Kutolewa kwa umma huiweka miundo mbele ya watumiaji, kazi na mazingira mengi zaidi, na kuongeza kiwango na aina za hatari. Katika hatua hii, pia tunahitaji kuzuia watu wenye nia mbaya ambao wanaweza kuuelekeza muundo kwa makusudi kusababisha madhara.
Kabla ya kutolewa kwa umma, miundo na kinga za mfumo lazima zitimize masharti yetu ya usalama kwa matumizi ya nje. Tunazitathmini kwa:
Kufanya tathmini nyingi zaidi za ulinganifu na usalama. Kwa miundo yetu ya kiwango cha juu, hii inajumuisha awamu mpya za majaribio yanayobadilika kulingana na matokeo kwa kutumia mifumo yetu ya ndani ya jaribio la kubaini udhaifu wa mfumo kiotomatiki, ili kupima uimara wa muundo chini ya shinikizo. Tunachapisha matokeo ya tathmini zetu za uwezo na usalama katika kadi za mfumo(fungua katika dirisha jipya) zetu.
Kwa miundo yetu yenye uwezo mkubwa zaidi, pia tunafanya majaribio na wahusika wa nje ili kupima uimara wa kinga zetu dhidi ya matumizi mabaya na ulinganifu wa msingi wa miundo yetu.
Kuchunguza tahadhari za ufuatiliaji kutoka hatua ya matumizi ya ndani ili kufuatilia mabadiliko yoyote ya ulinganifu wa muundo wa msingi.
Mbali na kinga zetu zinazofanya kazi papo hapo (kama vile mafunzo ya usalama wa muundo na viainishaji vya kiwango cha mfumo), katika matumizi ya nje pia tunatumia mifumo ya udhibiti na uchunguzi inayofanya kazi nje ya mtandao. Timu hizi hutumia mchanganyiko wa mawakala wa kiotomatiki wa uchunguzi wanaofanya kazi kwa kiwango kikubwa na ukaguzi wa binadamu ili kugundua na kutambua wahusika wanaoweza kuwa vitisho, wakiwemo wanaohusika na matumizi mabaya ya mtandao, utengenezaji wa silaha za kibayolojia, uhamishaji wa uwezo wa muundo, uyeyushaji kwa kunereka, na kutolingana kwa malengo kunakotokana na muundo wenyewe. Udhibiti unaofanywa nje ya mtandao husaidia hasa kukusanya taarifa kutoka akaunti mbalimbali ili kupata picha pana na kamili zaidi ya tishio linaloweza kutokea.
Programu za ufikiaji unaoaminika, kama Daybreak na Rosalind, huongeza safu nyingine ya ulinzi na kuharakisha kazi ya walinzi na watafiti halali huku zikizuia ufikiaji wa washambuliaji wanaowezekana.
Tunapogundua hitilafu katika safu mojawapo ya usalama, iwe madhara yametokea au la, tunataka kuchunguza haraka, kutathmini uzito wake na, ikiwezekana na kufaa, kuifichua kwa umma. Kwa mujibu wa sera yetu ya kuripoti kutolingana na malengo, mfanyakazi yeyote anaweza kupendekeza tukio lifichuliwe kwa umma. Ripoti hizi huchunguzwa, na iwapo kuna kutokubaliana kuhusu kuzifichua kwa umma, uamuzi hupelekwa kwa Kikundi cha Ushauri wa Usalama. Mbali na kutegemea ripoti za wafanyakazi, tunatafuta kwa juhudi matukio ya kutolingana na malengo ili tuyashughulikie na kushiriki matokeo.
Unaweza kuona ripoti zetu za kutolingana na malengo hapa(fungua katika dirisha jipya).
Kazi hii inategemea maendeleo ya utafiti na nidhamu ya utendaji: kusanidi vidhibiti vizuri, kupima jinsi vinavyofanya kazi pamoja na kuchukua hatua thabiti vinaposhindwa. Huduma ya mtandao iliyosanidiwa vibaya au hitilafu ya usimamishaji wa kiotomatiki inaweza kudhoofisha kinga ambazo vinginevyo ni thabiti.
Miundo inapopata uwezo mpya, tutahitaji kuendelea kuhoji dhana zinazotegemewa na kinga zetu na kuziboresha inapohitajika. Mafunzo kutoka utafiti, matumizi ya ndani na matumizi ya umma lazima yaongoze jinsi tunavyofundisha, kutathmini na kutoa miundo inayofuata kwa matumizi.
Tutaendelea kushiriki matokeo kupitia kadi za mfumo, ripoti za matukio, ripoti za hatari(fungua katika dirisha jipya) za matumizi ya ndani na tathmini za nje ili wengine wachunguze mbinu yetu, ikiwemo mapungufu yake. Ushahidi huo usipofikia kiwango chetu cha usalama, tutasitisha tena mafunzo au kuchelewesha utoaji hadi masharti hayo yatimizwe.
Kuweka viwango vya usalama
Kudhibiti kasi ya uundaji wa miundo katika enzi ya uwezo muhimu kwa usalama wa mtandao — Jinsi tulivyopunguza kasi ya mafunzo ya kiwango cha juu huku tukiimarisha utengaji, kupanua ufuatiliaji na kuhitaji ushahidi thabiti zaidi wa ulinganifu.
Kuelekea hoja za kuthibitisha usalama wa mafunzo ya AI ya kiwango cha juu — Miongozo ya awali ya hoja za usalama zenye ushahidi kuhusu kinga za kiufundi, taratibu za utendaji na uchunguzi wa kutolingana na malengo.
Vipaumbele na kanuni za tathmini bora za wahusika wa nje — Mbinu tunayopendekeza ya uchunguzi huru wa hoja za usalama, kinga, tathmini na tabia za miundo.
Muhtasari wa mara kwa mara wa tathmini za hatari kubwa za matumizi ya ndani(fungua katika dirisha jipya) — Ripoti yetu ya umma ya Juni–Septemba 2026 inaeleza matumizi ya ndani ya miundo ya kiwango cha juu, hatari zilizotathminiwa na mabadiliko ya kinga na usimamizi.
Kufafanua na kutathmini tabia zinazolingana na malengo
Ufafanuzi wa Muundo uliosasishwa kwa ajili ya AI yenye uwezo na manufaa zaidi — Jinsi tulivyosasisha Ufafanuzi wa Muundo kwa kuzingatia maadili matano ya msingi yanayoongoza maamuzi na tabia za modeli, pamoja na heshima kwa usimamizi wa binadamu.
Tofauti za tabia kati ya tathmini na matumizi halisi katika usalama wa wakala, na nafasi ya utambuzi wa tathmini(fungua katika dirisha jipya) — Utafiti wa tofauti kati ya matokeo ya tathmini za usalama na tabia katika matumizi halisi, ikiwemo athari za tafsiri ya miundo kuhusu malengo ya tathmini kwa utendaji.
Zaidi ya g-mean²: vipimo vya ziada vya uwezekano wa kufuatiliwa(fungua katika dirisha jipya) — Vipimo vipya vya kulinganisha uwezekano wa kufuatiliwa na kukadiria hatari iliyobaki katika mifumo ya kuiga ambapo mifumo ya ufuatiliaji hukataa matokeo ya muundo.
Kadi ya mfumo ya GPT‑6 Astra(fungua katika dirisha jipya) — Tathmini za kina za uwezo, usalama, ulinganifu na uwezekano wa kufuatiliwa wa Astra, pamoja na kinga na mipaka ya matumizi yake.
Kudhibiti miundo na kuboresha kinga
Kulinda mazingira yetu ya mafunzo ya miundo ya kiwango cha juu — Jinsi tulivyoimarisha utengaji, kujenga mazingira ya utafiti yasiyounganishwa na intaneti na kutumia miundo yetu yenye uwezo mkubwa zaidi kupima mipaka ya utengaji.
Kufundisha viainishaji vya uamilishaji kwa usalama na ulinganifu(fungua katika dirisha jipya) — Jinsi viainishaji vinavyotumia uamilishaji wa ndani wa miundo kugundua tabia zinazoweza kudhuru na kukatiza majibu au miito ya zana.
Ukaguzi wa kiotomatiki wa hatua za wakala bila usimamizi wa binadamu wa papo hapo(fungua katika dirisha jipya) — Jinsi wakala tofauti wa ukaguzi anavyotathmini hatua zinazovuka mipaka ya utengaji, akisaidia mawakala wa uandishi wa msimbo kufanya kazi kwa kujitegemea huku akizuia hatua zinazoweza kudhuru au zisizoidhinishwa.
GPT‑Red: Kuwezesha kujiboresha ili kuongeza uimara — Jinsi tunavyofundisha mifumo ya kiotomatiki ya majaribio ya usalama kupitia kujipima yenyewe ili kugundua udhaifu na kuimarisha uwezo wa miundo wa kujilinda dhidi ya mashambulizi ya kuingiza maagizo hasidi.
Control Room — Jinsi tunavyofuatilia kazi katika miundombinu yetu ya utafiti na kusimamisha haraka utoaji wa matokeo ya muundo iwapo masuala ya usalama au ulinzi yanahitaji hatua.
Mwitikio na ufichuaji wa matukio
Jinsi tunavyogundua kutolingana na malengo kwa miundo ya kiwango cha juu — Mfumo wetu wa ufuatiliaji unachanganya vipima uamilishaji, ukaguzi wa miundo, uchunguzi wa kiotomatiki na hatua za binadamu kugundua na kuchunguza tabia zinazotia wasiwasi.
Tukio la Hugging Face na hatua zinazofuata — Matokeo ya uchunguzi wetu wa tukio la Hugging Face na mabadiliko yaliyotokana nalo katika ulinzi, ufuatiliaji na ulinganifu.
Wakala alitumia DNS kufikia roboti ya mazungumzo ya nje(fungua katika dirisha jipya) — Jinsi muundo wa utafiti ulivyokwepa vizuizi vya intaneti kupitia uchujaji dhaifu wa DNS, jinsi ufuatiliaji ulivyogundua hilo na vidhibiti vilivyoongezwa baadaye.
Kuvuruga kampeni iliyoratibiwa ya kunakili uwezo wa muundo — Jinsi tulivyochunguza na kuzuia majaribio ya kutoa mchakato wa ndani wa mawazo ya muundo unaolindwa kupitia hatua za udhibiti wa akaunti, vidhibiti vya kiufundi na uratibu na washirika.
Mfumo wetu wa kuripoti kutolingana na malengo kwa miundo — Mchakato wetu wa kufuatilia, kuchunguza na kufichua tabia za miundo zinazotia wasiwasi, ikiwemo matukio ambayo sababu au umuhimu wake bado haueleweki.
Ripoti na taarifa za kutolingana na malengo(fungua katika dirisha jipya) — Mkusanyiko wetu wa matukio yaliyofichuliwa na taarifa zinazoonyesha jinsi kutolingana na malengo kunavyotokea na pale kinga zinapofaulu au kushindwa.
Maendeleo ya utafiti na matumizi yake
Kuharakisha utafiti: Mtazamo kutoka ndani ya OpenAI — Ushahidi wa awali wa jinsi mawakala wa uandishi wa msimbo wanavyobadilisha utafiti ndani ya OpenAI, ikiwemo matumizi yao yanayoongezeka, kazi zinazozidi kuwa changamano na athari zake kwa majaribio.
Kuhusu tatizo la Navier–Stokes la Tuzo ya Milenia — Uthibitisho wa kihisabati uliotolewa na mfumo wa ndani wa AI, pamoja na uandishi rasmi katika Lean, unaoonyesha uwezo wa matumizi ya utafiti kwa kiwango kikubwa.
Daybreak — Programu yetu ya usalama wa mtandao huwapa walinzi waliohakikiwa uwezo wa hali ya juu wa AI, zana za ulinzi na msaada wa kutafuta udhaifu na kuimarisha ulinzi.
Tunakuletea GPT‑Rosalind kwa utafiti wa sayansi za viumbe — Muundo maalumu kwa ajili ya biolojia, ugunduzi wa dawa na matumizi ya matokeo ya utafiti wa tiba katika huduma za kliniki, inayopatikana kwa mashirika yanayostahiki kupitia programu ya ufikiaji unaoaminika.






