Mtandao wa OpenAI wa Majaribio ya Kubaini Udhaifu wa Mfumo

Tunatangaza wito wa kutuma maombi ya kujiunga na Mtandao wa OpenAI wa Majaribio ya Kubaini Udhaifu wa Mfumo. Tunawaalika wataalamu wa nyanja mbalimbali wanaotaka kuboresha usalama wa miundo ya OpenAI kuungana nasi katika juhudi hizi. Tunatafuta wataalamu wa nyanja mbalimbali ili washirikiane nasi katika kutathmini miundo yetu ya AI kwa kina na kufanya majaribio ya kubaini udhaifu wa mfumo.

Jaribio la kubaini udhaifu wa mfumo^A ni sehemu muhimu ya mchakato wetu wa kuanza kutumia mifumo kwa awamu huku tukiiboresha⁠. Katika miaka michache iliyopita, juhudi zetu za majaribio ya kubaini udhaifu wa mfumo zimepanuka. Tulianza kwa kuzingatia majaribio ya kimashambulizi ndani ya OpenAI, na sasa tunashirikiana na kundi la wataalamu wa nje^B ili kusaidia kubuni uainishaji wa hatari kwa kila nyanja na kutathmini uwezo unaoweza kuwa na madhara katika mifumo mipya. Unaweza kusoma zaidi kuhusu juhudi zetu za awali za majaribio ya kubaini udhaifu wa mfumo, ikiwemo kazi tulizofanya na wataalamu wa nje, katika miundo kama vile DALL·E 2⁠(fungua katika dirisha jipya) na GPT‑4⁠(fungua katika dirisha jipya).^C

Leo, tunazindua mpango rasmi zaidi wa kuendeleza misingi hii ya awali, na kuimarisha na kupanua ushirikiano wetu na wataalamu wa nje ili kufanya miundo yetu iwe salama zaidi. Kushirikiana na wataalamu binafsi, taasisi za utafiti na mashirika ya kiraia ni sehemu muhimu ya mchakato wetu. Tunaona kazi hii kama nyongeza ya taratibu za usimamizi zilizowekwa na wahusika wa nje, kama vile ukaguzi unaofanywa na wakaguzi huru.

Mtandao wa OpenAI wa Majaribio ya Kubaini Udhaifu wa Mfumo ni jumuiya ya wataalamu wanaoaminika na wenye uzoefu, ambao wanaweza kutoa mchango mpana zaidi katika juhudi zetu za kutathmini na kupunguza hatari. Hii ni tofauti na kuwashirikisha na kuwachagua watu kwa tukio moja tu kabla ya kuanza kutumia miundo mikubwa. Wanachama wa mtandao wataombwa, kulingana na utaalamu wao, kusaidia kufanya majaribio ya kubaini udhaifu wa mfumo katika hatua mbalimbali za uundaji wa miundo na bidhaa. Si kila mwanachama atashirikishwa katika kila muundo au bidhaa mpya. Muda wa kushiriki utakubaliwa na kila mwanachama, na unaweza kuwa saa 5–10 tu kwa mwaka.

Mbali na majaribio ya kubaini udhaifu wa mfumo yaliyoagizwa na OpenAI, wanachama watapata fursa ya kujadiliana kuhusu mbinu na matokeo ya jumla ya majaribio hayo. Lengo ni kuwezesha michango ya mitazamo tofauti kwa mfululizo, na kufanya jaribio la kubaini udhaifu wa mfumo kuwa mchakato unaorudiwa na kuboreshwa zaidi. Mtandao huu unaongezea fursa nyingine za kushirikiana katika usalama wa AI, ikiwemo Mpango wetu wa Ufikiaji kwa Watafiti⁠ na tathmini za programu huria⁠(fungua katika dirisha jipya).

Mtandao huu unatoa fursa ya kipekee ya kuchangia maendeleo ya teknolojia na sera za AI zilizo salama zaidi, pamoja na athari ambazo AI inaweza kuwa nazo katika maisha, kazi na mahusiano yetu. Ukijiunga na mtandao huu, utakuwa miongoni mwa wataalamu wetu wa nyanja mbalimbali wanaoweza kuombwa kutathmini miundo na mifumo yetu katika hatua tofauti za kuanza kutumika kwake.

Kutathmini mifumo ya AI kunahitaji uelewa wa nyanja nyingi, mitazamo tofauti na uzoefu mbalimbali wa maisha. Tunakaribisha maombi kutoka kwa wataalamu kote ulimwenguni. Katika mchakato wetu wa uteuzi, tunatoa kipaumbele kwa utofauti wa maeneo wanakotoka na nyanja za utaalamu wao. 

Baadhi ya nyanja tunazovutiwa nazo ni hizi, lakini hatujazikomea tu:

Uzoefu wa awali wa mifumo ya AI au miundo ya lugha hauhitajiki, lakini unaweza kusaidia. Tunachothamini zaidi ni utayari wako wa kushiriki na kuchangia mtazamo wako kuhusu jinsi tunavyotathmini athari za mifumo ya AI.

Wanachama wote wa Mtandao wa OpenAI wa Majaribio ya Kubaini Udhaifu wa Mfumo watalipwa kwa michango yao watakaposhiriki katika mradi wa jaribio la kubaini udhaifu wa mfumo. Ingawa uanachama katika mtandao huu hautakuzuia kuchapisha utafiti wako au kufuatilia fursa nyingine, kumbuka kwamba kushiriki katika majaribio ya kubaini udhaifu wa mfumo na miradi mingine mara nyingi kunahitaji kufuata Makubaliano ya Kutofichua Taarifa (NDA), au taarifa zake hubaki siri kwa muda usio na kikomo maalumu.

Maombi yamefungwa sasa.

Swali: Kujiunga na mtandao huu kunahusisha nini?

Jibu: Kuwa mwanachama wa mtandao huu kunamaanisha kuwa unaweza kuwasiliana nasi kuhusu fursa za kujaribu muundo mpya, au kujaribu eneo linalotuvutia katika muundo ambao tayari unatumika. Kazi zinazofanywa ndani ya mtandao huu zinafuata makubaliano ya kutofichua taarifa (NDA), ingawa hapo awali tumechapisha matokeo mengi ya majaribio yetu ya kubaini udhaifu wa mfumo katika Kadi za Mfumo na makala za blogu. Utalipwa kwa muda utakaotumia katika miradi ya majaribio ya kubaini udhaifu wa mfumo.

Swali: Ninatarajiwa kutenga muda kiasi gani nikiwa mwanachama wa mtandao huu? 

Jibu: Muda unaoamua kutenga unaweza kurekebishwa kulingana na ratiba yako. Kumbuka kwamba si kila mwanachama wa mtandao atawasilishwa kila fursa. OpenAI itachagua watu wanaofaa kwa mradi husika wa jaribio la kubaini udhaifu wa mfumo, na kusisitiza mitazamo mipya katika awamu zinazofuata za majaribio hayo. Hata saa 5 tu kwa mwaka zina thamani kwetu, kwa hivyo usisite kutuma maombi ikiwa una nia lakini una muda mchache.

Swali: Waombaji watajulishwa lini kuwa wamekubaliwa?

Jibu: OpenAI itachagua wanachama wa mtandao kadiri maombi yanavyopokelewa, na unaweza kutuma maombi hadi tarehe 1 Desemba 2023. Baada ya kipindi hiki cha maombi, tutatathmini upya uwezekano wa kufungua fursa za kutuma maombi tena baadaye.

Swali: Je, kuwa mwanachama wa mtandao kunamaanisha nitaombwa kufanya jaribio la kubaini udhaifu wa mfumo kwa kila muundo mpya?

Jibu: Hapana. OpenAI itachagua watu wanaofaa kwa mradi husika wa jaribio la kubaini udhaifu wa mfumo, na usitarajie kujaribu kila muundo mpya.

Swali: Ni baadhi ya vigezo gani mnazingatia katika kuwachagua wanachama wa mtandao?

Jibu: Baadhi ya vigezo tunavyozingatia ni:

• Utaalamu au uzoefu uliothibitishwa katika nyanja fulani inayohusika na jaribio la kubaini udhaifu wa mfumo

• Shauku ya kuboresha usalama wa AI

• Kutokuwa na mgongano wa maslahi

• Watu wa asili mbalimbali na makundi ambayo kwa muda mrefu yamekuwa na uwakilishi mdogo

• Uwakilishi wa maeneo mbalimbali 

• Ufasaha katika zaidi ya lugha moja

• Uwezo wa kiufundi (si lazima)

Swali: Kuna fursa gani nyingine za kushirikiana katika masuala ya usalama?

Jibu: Mbali na kujiunga na mtandao huu, kuna fursa nyingine za kushirikiana katika kuboresha usalama wa AI. Kwa mfano, unaweza kuunda au kufanya tathmini za usalama wa mifumo ya AI na kuchanganua matokeo.

Uhifadhi wa programu huria wa OpenAI wa Evals⁠(fungua katika dirisha jipya) (uliotolewa wakati wa uzinduzi wa GPT‑4⁠) unatoa violezo rahisi kutumia na mifano ya mbinu za kukusaidia kuanza mchakato huu.

Tathmini zinaweza kuanzia majaribio rahisi ya maswali na majibu hadi uigaji wa hali changamano zaidi. Hii hapa mifano halisi ya tathmini zilizoundwa na OpenAI ili kutathmini tabia za AI kwa mitazamo mbalimbali:

Ushawishi

• MakeMeSay⁠(fungua katika dirisha jipya): Mfumo wa AI una uwezo kiasi gani wa kuudanganya mfumo mwingine wa AI ili utaje neno la siri?

• MakeMePay⁠(fungua katika dirisha jipya): Mfumo wa AI una uwezo kiasi gani wa kushawishi mfumo mwingine wa AI uchangie pesa?

• Pendekezo la Kupigiwa Kura⁠(fungua katika dirisha jipya): Mfumo wa AI una uwezo kiasi gani wa kuathiri uungwaji mkono wa pendekezo la kisiasa na mfumo mwingine wa AI?

Steganografia (kuficha ujumbe)

• Steganografia⁠(fungua katika dirisha jipya): Mfumo wa AI una uwezo kiasi gani wa kupitisha ujumbe wa siri bila kugunduliwa na mfumo mwingine wa AI?

• Ufinyazaji wa Maandishi⁠(fungua katika dirisha jipya): Mfumo wa AI una uwezo kiasi gani wa kufinyaza na kurejesha ujumbe ili kuwezesha kuficha ujumbe wa siri?

• Sehemu ya Makubaliano ya Schelling⁠(fungua katika dirisha jipya): Mfumo wa AI una uwezo kiasi gani wa kuratibu vitendo na mfumo mwingine wa AI bila mawasiliano ya moja kwa moja?

Tunahimiza ubunifu na majaribio katika kutathmini mifumo ya AI. Ukikamilisha tathmini yako, tunakukaribisha kuichangia kwenye uhifadhi wa programu huria wa Evals⁠(fungua katika dirisha jipya) ili itumiwe na jumuiya pana ya AI.

Pia unaweza kutuma maombi ya kujiunga na Mpango wa Ufikiaji kwa Watafiti⁠, unaotoa salio kusaidia watafiti wanaotumia bidhaa zetu kuchunguza masuala yanayohusu kuanza kutumia AI kwa uwajibikaji na kupunguza hatari zinazohusiana nayo.