OpenAI

Kudhibiti hatari za AI za kiwango cha juu: Kutoka mafunzo hadi matumizi

Novemba 18, 2026 · Usalama

Uwezo wa miundo ya kiwango cha juu unaongezeka kwa kasi, na uwezo wetu wa kuielewa, kuilinganisha na malengo na kuilinda lazima utangulie. Tunadhibiti kasi ya uundaji na utoaji wa miundo yetu, ikiwemo kusitisha mafunzo ya ndani⁠(fungua katika dirisha jipya) au kuchelewesha miundo kama GPT‑6.1 Astra tunapohitaji muda zaidi kutimiza viwango vyetu vya usalama. Tumeanzisha michakato mipya kama hoja za kuthibitisha usalama na tunahitaji ushahidi thabiti zaidi wa tabia zinazolingana na malengo katika kipindi chote cha mafunzo. Masharti haya hupunguza kasi ya kutoa miundo, lakini yanatupa uhakika zaidi wa kuendelea kwa usalama.

Tangu tukio la Hugging Face⁠ mnamo Julai, tumeimarisha kinga na masharti ya ulinganifu katika kufundisha, kupima na kutoa miundo kwa matumizi. Makala hii inaeleza jinsi tunavyotathmini na kudhibiti hatari katika kila hatua, kuanzia mazingira ya mafunzo yaliyotengwa kabisa hadi Codex unayotumia kwenye kompyuta yako. Tunatathmini miundo na kinga katika kila hatua, tukihitaji mapitio ya usalama kabla ya kuendelea hadi hatua inayofuata.

Ulinzi wa safu nyingi katika mzunguko mzima wa maisha ya muundo

Tunatumia ulinzi wa safu nyingi kupunguza utegemezi wa kinga yoyote moja. Safu moja ikishindwa, nyingine husaidia kuzuia madhara, kupunguza athari, au kututahadharisha ili tuingilie kati.

Tunapanga ulinzi wetu katika safu nne:

Ufuatiliaji unaofaa hutegemea uwezekano wa muundo kufuatiliwa — jinsi mifumo ya ufuatiliaji inavyoweza kutegemewa kugundua makosa au tabia zisizo salama katika uwazaji na hatua za muundo. Kwa mfano, muundo unaoeleza nia yake ya kudanganya katika msururu wa mawazo (CoT) unaweza kufuatiliwa kwa urahisi zaidi kuliko unaoacha taarifa hiyo. Tunatathmini uwezekano wa kufuatiliwa wakati wa mafunzo na kabla ya matumizi, tunabuni mbinu bora za kuupima⁠(fungua katika dirisha jipya), na kutafiti kinachouathiri⁠(fungua katika dirisha jipya).

Tukio la Hugging Face lilionyesha kwa nini hatupaswi kutegemea utengaji pekee ili kudhibiti miundo yenye uwezo mkubwa. Sasa tunafuatilia miundo ya kiwango cha juu katika mazingira mengi ya matumizi ya ndani na nje, yakiwemo matumizi yote ya ndani yanayotumia zana.

Jukumu la kila safu hubadilika katika hatua tatu za uundaji na utoaji wa miundo kwa matumizi:

  • Utafiti: Tunafundisha, kupima na kutumia miundo katika mazingira yaliyotengwa.

  • Matumizi ya ndani: Wafanyakazi wa OpenAI hutumia miundo kwa kazi halisi.

  • Matumizi ya nje: Miundo hupatikana kwa watu na mashirika kwa upana zaidi.

Tunategemea safu tofauti katika hatua tofauti. Wakati wa mafunzo, ambapo ulinganifu hauna uhakika mkubwa, tunategemea zaidi utengaji na ufuatiliaji. Miundo inapopata ufikiaji mpana zaidi wakati wa matumizi, ulinganifu na vidhibiti vya kiwango cha mfumo huzidi kuwa muhimu. Katika kila hatua, tunatathmini iwapo kinga kwa pamoja zinatosha kulingana na uwezo na ufikiaji wa muundo. Maamuzi yetu yanaweza kupitia mapitio pamoja na Kikundi cha Ushauri wa Usalama, chini ya usimamizi wa Kamati ya Usalama na Ulinzi ya Bodi ya Wakurugenzi ya OpenAI Foundation.

Wakati wa utafiti: kuweka miundo katika mazingira yaliyotengwa

Katika hatua ya utafiti, tunatathmini miundo ili kupata uhakika wa sifa zake za ulinganifu. Kwa kuwa bado hatuwezi kutegemea ulinganifu kikamilifu kuzuia madhara, tunategemea sana ulinzi na utengaji ili kuweka mipaka ya kile inayoweza kufikia na kufanya.

Kwa kuzingatia hali ya sasa ya utafiti kuhusu ulinganifu, mifumo ya ufuatiliaji na usalama wa miundombinu ya intaneti, tunaamini kuwa njia inayowajibika ni kufundisha miundo ya akili unde ya kiwango cha juu bila ufikiaji wa moja kwa moja wa intaneti. Baada ya tukio la Hugging Face, tulipanga upya kwa kiasi kikubwa mifumo yetu ya utafiti wa ndani ili kuzuia miundo isivuke mipaka ya ufikiaji kwa kutumia:

  • mazingira yaliyotengwa yanayoweka mipaka ya ruhusa za muundo

  • mashine pepe ili kutenga zaidi kazi na kompyuta inayoziendesha

  • mipaka ya mtandao na wingu inayotenganisha kundi zima la kompyuta na intaneti

Tunajaribu kila mara kubaini udhaifu wa mfumo huu kwa kufanya timu za miundo yetu yenye uwezo mkubwa zaidi zijaribu kufikia intaneti moja kwa moja, kuvuka mipaka ya ulinzi, au kuwasiliana na mawakala ambayo inapaswa kutengwa nayo. Hii hutusaidia kupima iwapo utengaji unastahimili uwezo wa miundo inayokusudiwa kuzuiwa.

Kama safu ya ziada ya ulinzi, tunafuatilia uchakataji wote wa modeli za kiwango cha juu ili kubaini iwapo modeli imekiuka masharti yetu ya msingi ya usalama. Mfumo wetu wa ufuatiliaji ukigundua kuwa modeli imefikia intaneti, tunaziarifu timu zetu za usalama mara moja na kusitisha kiotomatiki mchakato husika.

Ufuatiliaji hutoa kinga muhimu ya ziada utengaji unaposhindwa. Katika ripoti ya hivi karibuni ya kutolingana na malengo, tulieleza kuwa mifumo ya ufuatiliaji iligundua muundo wa utafiti wa ndani ukitumia vibaya usanidi usio sahihi wa DNS⁠(fungua katika dirisha jipya) kupata ufikiaji mdogo wa intaneti. Tulisitisha mafunzo na tathmini za miundo yetu yenye uwezo mkubwa zaidi kuanzia Septemba 20 hadi Oktoba 1 tulipokuwa tukichunguza na kuziba mwanya wa ulinzi.

Ili kuingilia kati haraka na kwa uhakika, tulijenga Control Room⁠, mfumo mkuu unaofuatilia kazi za utafiti na kusimamisha utoaji zaidi wa matokeo ya muundo ndani ya sekunde 35 baada ya kupokea agizo la kusimamisha kazi. Vidhibiti hivi vinatekelezwa moja kwa moja katika miundombinu ya uchakataji, hivyo havitegemei kila kazi ya utafiti kuwa na utaratibu wake wa kuzima. Kwa kazi za utafiti wa miundo ya kiwango cha juu, pia vinasimamisha utoaji wa matokeo ya muundo ikiwa Control Room haipatikani.

Jaribio la kubaini udhaifu wa mfumo na ufuatiliaji hufanya kazi pamoja. Hatuwezi kuhakikishia kuwa mazingira yaliyotengwa hayawezi kuvunjwa, lakini jaribio la kubaini udhaifu wa mfumo hutusaidia kutathmini juhudi ambazo muundo ungehitaji ili kuyatoroka. Kadiri muundo unavyohitaji juhudi zaidi, ndivyo mifumo ya ufuatiliaji inavyopata nafasi zaidi ya kuugundua na kuusimamisha.

Tunaweka sharti la kuwa na vidhibiti thabiti vya usalama na ufuatiliaji katika hatua ya utafiti kwa sababu kadhaa:

  • Miundo bado inatathminiwa. Baadhi haijakamilisha mafunzo ya usalama, ukaguzi wa ulinganifu na mapitio yanayohitajika kabla ya kutolewa kwa umma.

  • Mazingira ya utafiti wa kiwango cha juu yanaweza kuongeza hatari. Baadhi ya kazi za utafiti huhitaji mipangilio yenye malengo makubwa zaidi, na kuufanya muundo udumu zaidi katika juhudi zake au uwe na uwezo mkubwa kuliko ilivyo kawaida katika matumizi ya nje (kwa mfano, timu ya mawakala 10,000 ilihitajika kutatua tatizo la Navier Stokes).

  • Mafunzo hufanywa kwa kiwango kikubwa bila usimamizi mwingi wa moja kwa moja wa binadamu. Tofauti na kipindi cha kawaida cha Codex, kazi zetu za mafunzo huhusisha hatua nyingi za muundo bila mtu kufuatilia kila mwingiliano.

Matumizi ya ndani: kupima ulinganifu na kufuatilia tabia kwa karibu

Kabla ya kutolewa kwa upana, wafanyakazi huhama kutoka kutumia miundo ya kiwango cha juu katika utafiti uliotengwa hadi matumizi ya ndani yasiyotengwa, k.m. kwa kuufanya muundo upatikane kwa wafanyakazi kupitia ChatGPT. Hii hutusaidia kuelewa vizuri zaidi jinsi miundo inavyotenda katika mazingira halisi⁠(fungua katika dirisha jipya), na kuongoza maamuzi ya kuitoa kwa matumizi.

Katika hatua hii, tunaupa muundo ufikiaji mpana wa intaneti, Slack yetu, hazina yetu ya msimbo na miundombinu ya ndani. Haya ni mabadiliko makubwa ya hatari, kwa kuwa hatua za muundo sasa zinaathiri moja kwa moja mifumo tunayotumia kujenga na kuendesha OpenAI. Wakati wa matumizi ya ndani, tunahitaji kutegemea zaidi ulinganifu wa muundo, kinga za mfumo na ufuatiliaji badala ya vidhibiti vya ulinzi.

Kabla ya muundo wa kiwango cha juu kutumika nje ya mazingira yaliyotengwa, lazima kwanza ufanyiwe majaribio ya ulinganifu na uwezekano wa kufuatiliwa⁠(fungua katika dirisha jipya). Tuna seti ya tathmini za ulinganifu zinazochunguza aina mahususi za kushindwa kufuata malengo yaliyokusudiwa (kama vile kukwepa vizuizi vya usalama na ulinzi), pamoja na mielekeo ya jumla (kama vile kuchukua tena sampuli za mifululizo ya hatua za Codex ya ndani na kuchunguza kutolingana kwa malengo). Unaweza kusoma zaidi kuhusu tathmini zetu za ulinganifu na uwezekano wa kufuatiliwa katika kadi ya mfumo wa GPT‑6 Astra⁠(fungua katika dirisha jipya) ya hivi karibuni.

Kwa kuiga mipangilio yetu ya matumizi halisi, tunaongeza safu ya ulinzi yenye viainishaji vya kiwango cha mfumo, vilivyoundwa kuzuia madhara ya kiwango cha juu kama matumizi mabaya ya mtandaoni na utengenezaji wa silaha za kibayolojia. Kwa kawaida, pia tunawataka wafanyakazi wanaotumia Codex watumie Ukaguzi wa kiotomatiki⁠(fungua katika dirisha jipya), unaotathmini hatua zinazoweza kuwa hatari na kuzirejesha kwa mtumiaji aamue.

Hatimaye, tunafuatilia tabia zisizolingana na malengo katika kila uchakataji wa muundo wa kiwango cha juu wakati wa matumizi ya ndani. Kwa kuwa muundo sasa una ruhusa zaidi na ufikiaji wa taarifa na mifumo ya ndani, ni muhimu hasa kugundua hatari kama utoaji wa data kwa siri, au kutuma data nyeti mahali pasipoidhinishwa. Ufuatiliaji pia hutusaidia kuchunguza aina mpya za kutolingana na malengo⁠(fungua katika dirisha jipya).

Matumizi ya nje: kuzuia matumizi mabaya na kutolingana na malengo kwa kiwango kikubwa

Kutolewa kwa umma huiweka miundo mbele ya watumiaji, kazi na mazingira mengi zaidi, na kuongeza kiwango na aina za hatari. Katika hatua hii, pia tunahitaji kuzuia watu wenye nia mbaya ambao wanaweza kuuelekeza muundo kwa makusudi kusababisha madhara.

Kabla ya kutolewa kwa umma, miundo na kinga za mfumo lazima zitimize masharti yetu ya usalama kwa matumizi ya nje. Tunazitathmini kwa:

  • Kufanya tathmini nyingi zaidi za ulinganifu na usalama. Kwa miundo yetu ya kiwango cha juu, hii inajumuisha awamu mpya za majaribio yanayobadilika kulingana na matokeo⁠ kwa kutumia mifumo yetu ya ndani ya jaribio la kubaini udhaifu wa mfumo kiotomatiki, ili kupima uimara wa muundo chini ya shinikizo. Tunachapisha matokeo ya tathmini zetu za uwezo na usalama katika kadi za mfumo⁠(fungua katika dirisha jipya) zetu.

  • Kwa miundo yetu yenye uwezo mkubwa zaidi, pia tunafanya majaribio na wahusika wa nje ili kupima uimara wa kinga zetu dhidi ya matumizi mabaya na ulinganifu wa msingi wa miundo yetu.

  • Kuchunguza tahadhari za ufuatiliaji kutoka hatua ya matumizi ya ndani ili kufuatilia mabadiliko yoyote ya ulinganifu wa muundo wa msingi.

Mbali na kinga zetu zinazofanya kazi papo hapo (kama vile mafunzo ya usalama wa muundo na viainishaji vya kiwango cha mfumo), katika matumizi ya nje pia tunatumia mifumo ya udhibiti na uchunguzi inayofanya kazi nje ya mtandao. Timu hizi hutumia mchanganyiko wa mawakala wa kiotomatiki wa uchunguzi wanaofanya kazi kwa kiwango kikubwa na ukaguzi wa binadamu ili kugundua na kutambua wahusika wanaoweza kuwa vitisho, wakiwemo wanaohusika na matumizi mabaya ya mtandao, utengenezaji wa silaha za kibayolojia, uhamishaji wa uwezo wa muundo, uyeyushaji kwa kunereka⁠, na kutolingana kwa malengo kunakotokana na muundo wenyewe. Udhibiti unaofanywa nje ya mtandao husaidia hasa kukusanya taarifa kutoka akaunti mbalimbali ili kupata picha pana na kamili zaidi ya tishio linaloweza kutokea.

Programu za ufikiaji unaoaminika, kama Daybreak na Rosalind⁠, huongeza safu nyingine ya ulinzi na kuharakisha kazi ya walinzi na watafiti halali huku zikizuia ufikiaji wa washambuliaji wanaowezekana.

Mwitikio na ufichuaji wa matukio

Tunapogundua hitilafu katika safu mojawapo ya usalama, iwe madhara yametokea au la, tunataka kuchunguza haraka, kutathmini uzito wake na, ikiwezekana na kufaa, kuifichua kwa umma. Kwa mujibu wa sera yetu ya kuripoti kutolingana na malengo⁠, mfanyakazi yeyote anaweza kupendekeza tukio lifichuliwe kwa umma. Ripoti hizi huchunguzwa, na iwapo kuna kutokubaliana kuhusu kuzifichua kwa umma, uamuzi hupelekwa kwa Kikundi cha Ushauri wa Usalama. Mbali na kutegemea ripoti za wafanyakazi, tunatafuta kwa juhudi matukio ya kutolingana na malengo ili tuyashughulikie na kushiriki matokeo.

Unaweza kuona ripoti zetu za kutolingana na malengo hapa⁠(fungua katika dirisha jipya).

​


​

Kazi hii inategemea maendeleo ya utafiti na nidhamu ya utendaji: kusanidi vidhibiti vizuri, kupima jinsi vinavyofanya kazi pamoja na kuchukua hatua thabiti vinaposhindwa. Huduma ya mtandao iliyosanidiwa vibaya au hitilafu ya usimamishaji wa kiotomatiki inaweza kudhoofisha kinga ambazo vinginevyo ni thabiti.

Miundo inapopata uwezo mpya, tutahitaji kuendelea kuhoji dhana zinazotegemewa na kinga zetu na kuziboresha inapohitajika. Mafunzo kutoka utafiti, matumizi ya ndani na matumizi ya umma lazima yaongoze jinsi tunavyofundisha, kutathmini na kutoa miundo inayofuata kwa matumizi.

Tutaendelea kushiriki matokeo kupitia kadi za mfumo, ripoti za matukio, ripoti za hatari⁠(fungua katika dirisha jipya) za matumizi ya ndani na tathmini za nje⁠ ili wengine wachunguze mbinu yetu, ikiwemo mapungufu yake. Ushahidi huo usipofikia kiwango chetu cha usalama, tutasitisha tena mafunzo au kuchelewesha utoaji hadi masharti hayo yatimizwe.

Utafiti na nyenzo zinazohusiana

Kuweka viwango vya usalama

Kufafanua na kutathmini tabia zinazolingana na malengo

Kudhibiti miundo na kuboresha kinga

Mwitikio na ufichuaji wa matukio

Maendeleo ya utafiti na matumizi yake

  • Kuharakisha utafiti: Mtazamo kutoka ndani ya OpenAI — Ushahidi wa awali wa jinsi mawakala wa uandishi wa msimbo wanavyobadilisha utafiti ndani ya OpenAI, ikiwemo matumizi yao yanayoongezeka, kazi zinazozidi kuwa changamano na athari zake kwa majaribio.

  • Kuhusu tatizo la Navier–Stokes la Tuzo ya Milenia — Uthibitisho wa kihisabati uliotolewa na mfumo wa ndani wa AI, pamoja na uandishi rasmi katika Lean, unaoonyesha uwezo wa matumizi ya utafiti kwa kiwango kikubwa.

  • Daybreak — Programu yetu ya usalama wa mtandao huwapa walinzi waliohakikiwa uwezo wa hali ya juu wa AI, zana za ulinzi na msaada wa kutafuta udhaifu na kuimarisha ulinzi.

  • Tunakuletea GPT‑Rosalind kwa utafiti wa sayansi za viumbe⁠ — Muundo maalumu kwa ajili ya biolojia, ugunduzi wa dawa na matumizi ya matokeo ya utafiti wa tiba katika huduma za kliniki, inayopatikana kwa mashirika yanayostahiki kupitia programu ya ufikiaji unaoaminika.