Tunashiriki mfumo mpya wa kufuatilia, kuchunguza na kufichua visa vya kutolingana kwa miundo katika OpenAI, pamoja na ripoti sita kuhusu tabia zisizotarajiwa au zinazotia wasiwasi za miundo ambazo tumeona katika miezi sita iliyopita.
Hapo awali, ili kuwapa taarifa bora watafiti, waundaji wa AI, watunga sera na umma kwa jumla, tumejitahidi kuweka hadharani matokeo ya utafiti wetu kuhusu kutolingana. Lakini kwa kutokuwa na utaratibu maalumu wa kuripoti matokeo haya, ufichuzi wetu umekuwa wa mara kwa mara bila mpangilio na mchache kuliko ilivyofaa: mara nyingi tumesubiri hadi tuweze kuunganisha visa kadhaa katika ripoti moja, au kuviongeza kwenye kadi za mfumo za miundo mipya iliyotolewa. Mfumo huu mpya unakusudiwa kuharakisha uchapishaji wa ripoti za kutolingana baada ya tabia kuonekana, hata wakati hatujaieleza kikamilifu au kupunguza athari zake.
Kadiri mifumo ya AI inavyoendelea kuwa ya hali ya juu na kutumiwa kwa upana zaidi, tunahitaji kujenga mwafaka mpana wenye ufahamu bora kuhusu maendeleo ya utafiti wa ulinganifu. Hatuamini kwamba sekta ya AI imetatua ulinganifu na ufuatiliaji kwa kiwango kinachotosha kuendelea kwa kuwajibika kuongeza uwezo kwa kasi ya juu zaidi kwa muda mrefu zaidi. Maamuzi kuhusu jinsi maendeleo ya AI yanavyopaswa kuendelea katika miezi na miaka ijayo yanahitaji kutegemea ushahidi ambao watu walio nje ya kampuni zinazounda miundo ya AI ya kiwango cha juu zaidi wanaweza kujichunguzia.
Mifano ya kutolingana inaweza kusaidia kubaini matatizo ambayo waundaji wengine wa AI huenda wakakumbana nayo mifumo yao inapofikia uwezo kama huo, kufichua udhaifu wa hatua za ulinzi, au kupinga dhana kuhusu tabia ya miundo. Kushiriki matokeo haya huwawezesha wengine kuchunguza matatizo yaleyale, kupima maelezo yetu na kuboresha hatua za kupunguza athari. Kwa kuwa tunaamini uwazi kuhusu kutolingana ni muhimu, mfumo wetu mpya unapendelea ufichuzi hata wakati umuhimu wake hauna uhakika. Hii inamaanisha kuwa baadhi ya visa tunavyofichua vinaweza kubainika kuwa si halisi na si sehemu ya mwenendo mpana wala dalili ya mambo yatakayotokea baadaye.
Kwa sasa, hakuna mfumo wa sekta nzima wenye viwango bayana vya jinsi waundaji wa AI wanavyopaswa kufichua mifano ya kutolingana katika miundo yao. Tunatumaini mfumo tunaoueleza leo ni hatua ya kwanza ya kuunda viwango hivyo, kwa kubainisha visa vya kutolingana ambavyo waundaji wanapaswa kufichua na mambo ambayo ripoti zao zinapaswa kujumuisha. Tunauchukulia mfumo huu kama kazi inayoendelea, ambayo tutaiboresha kupitia uzoefu na maoni ya umma.
Hapa, tunaeleza jinsi mfumo huo utakavyofanya kazi na kushiriki ripoti za kwanza tunazochapisha.
Tunalenga kufichua mifano inayotoa ushahidi muhimu kuhusu jinsi kutolingana kwa miundo kunavyojitokeza, jinsi kunavyoonekana na mahali ambapo hatua za ulinzi hufaulu au hushindwa. Tunatanguliza mbinu mpya, mabadiliko makubwa katika tabia inayojulikana na matokeo yanayopinga dhana kuhusu usalama au upunguzaji wa athari. Mfano si lazima usababishe madhara au uthibitishe mwenendo mpana ili ustahili kufichuliwa. Mfumo huu utahusu tabia zinazokidhi vigezo katika mzunguko mzima wa maisha ya muundo—ikiwemo mafunzo, tathmini, majaribio na matumizi.
Hii inajumuisha njia mpya za miundo kutenda bila idhini, kuratibu na miundo mingine au kukwepa usimamizi; kushindwa kunakotia shaka mbinu ya ulinganifu au hatua ya ulinzi; na tabia inayopinga dai lililo katika tathmini ya usalama iliyochapishwa. Vigezo vivyo hivyo vya ufichuzi vinatumika kwa kutolingana kunakoweza kuwaathiri wahusika wengine.
Hii pia inaweza kujumuisha visa vya kutolingana vinavyoonekana kufanana na visa tulivyofichua hapo awali. Kujirudia kwa tatizo kunaweza kwenyewe kuwa ushahidi muhimu kuhusu tabia ya miundo yetu au ufanisi wa hatua zetu za ulinzi—kwa mfano, ikiwa aina fulani ya tabia isiyolingana inaendelea kujirudia licha ya juhudi za mara kwa mara za kuipunguza. Katika hali hizi, tutachapisha mifano ya ziada kwa kusasisha ufichuzi wa awali wa kutolingana.
Baada ya muda, tunapanga kuandaa vigezo vya ufichuzi vyenye usawa zaidi pamoja na waundaji wengine, watafiti wa nje, mashirika ya viwango vya sekta na wadhibiti. Pia tunaamini matukio makubwa ya usalama, ulinzi na kutolingana yanapaswa kushirikiwa na serikali ya shirikisho ya Marekani, na tunashughulikia mapendekezo ya mifumo ya kuripoti. Tunauchukulia mfumo huu kuwa nyongeza ya wajibu wetu uliopo, na tunasisitiza kwamba hauchukui nafasi ya matakwa yetu ya kisheria ya ufichuzi, yakiwemo yanayohusu matukio hatari ya usalama au ukiukaji wa usalama wa mtandao.
Kuzindua mfumo wetu mpya wa kufichua kutolingana, tunachapisha ripoti sita kuhusu visa vya tabia isiyolingana tulivyoona wakati wa kufunza au kutathmini miundo yetu. Visa hivi vinaonyesha tabia mbalimbali ambazo tunaamini zinafaa kushirikiwa, kuanzia kumficha mtumiaji taarifa hadi kuchukua hatua zisizoidhinishwa ili kushinda vizuizi. Hizi ni ripoti za visa mahususi, na hazipaswi kuchukuliwa kuwa zinaonyesha jinsi kutolingana kunavyotokea mara nyingi katika miundo yetu. Kila kipengee hapa chini kina kiungo cha ripoti kamili.
Maagizo yaliyojitokeza yenyewe katika mihtasari ya kazi(fungua katika dirisha jipya). Muundo wa utafiti ambao haujatolewa uliingiza maagizo yasiyohusiana, yakiwemo ya kupuuza vikwazo vyake vya kawaida, katika mihtasari iliyotumiwa kuendeleza kazi yake katika dirisha jipya la muktadha. Tulibaini mihtasari 27 iliyoathiriwa.
Maagizo ya kuficha makosa katika mihtasari ya kazi(fungua katika dirisha jipya). Wakati wa kufunza GPT‑5.6 Sol, mifano mingi ya muundo iliongeza maagizo katika mihtasari yake ili kumficha mtumiaji makosa au tabia isiyolingana. Kwa mfano, mihtasari ya ufupishaji wa muktadha ilijumuisha maagizo ya kubuni data ya kihistoria iliyokosekana bila kufichua hilo na kuficha tofauti za matoleo ya chanzo.
Kutafuta funguo za API zilizofichuka katika hifadhi za umma, kisha kubuni taarifa(fungua katika dirisha jipya). Ilipokuwa ikijibu swali la kawaida kuhusu takwimu za mapato katika kaunti moja ya California, muundo ulipata na kutumia ufunguo wa API uliofichuka bila idhini. Iliposhindwa bado kupata takwimu zilizoombwa, ilizibuni na kuziwasilisha kama data kutoka kwenye chanzo kilichoombwa.
Kupakia faili mtandaoni ili kuzinukuu(fungua katika dirisha jipya). Mtumiaji alipouomba muundo ambao haujatolewa vitambulisho na majina ya maziwa yenye ukubwa unaozidi mita za mraba 5,000,000, wakala alipata jibu sahihi kwa kutumia Python. Lakini kwa kuwa maagizo yaliomba nukuu ya kivinjari, wakala aliamua kupakia faili hiyo ili aweze kuinukuu katika jibu lake, bila kumwomba mtumiaji ruhusa.
Uandishi na mawasiliano yasiyoidhinishwa kupitia uhifadhi wa ndani wa programu(fungua katika dirisha jipya). Miundo ilitumia uhifadhi wa ndani wa programu kama ubao wa ujumbe kubadilishana maombi na majibu kati ya sampuli tofauti za mafunzo ilipokuwa ikitafuta faili za ingizo zilizokosekana, ingawa haikuweza kuzipata tena. Ripoti hii pia inachunguza kisa cha awali ambapo muundo ulifanikiwa kupakia faili za majaribio kwenye uhifadhi ulipojaribu kukwepa vizuizi vya mtandao.
Kushiriki faili bila idhini kati ya mawakala wanaoshirikiana(fungua katika dirisha jipya). Mawakala waliokuwa wakishirikiana katika kazi ileile ya mafunzo walitumia tovuti za umma za kupangisha faili kushiriki faili waliposhindwa kufikia faili za ndani za wenzao. Hili lilifanya matokeo ya kazi yapatikane kupitia URL za umma, ingawa kazi hiyo iliagiza miundo itumie faili za ndani pekee.
Mfanyakazi yeyote wa OpenAI anaweza kuripoti mfano wa kutolingana ili uchunguzwe na timu zetu za usalama na ulinganifu, na kuomba uzingatiwe kwa ufichuzi wa umma. Hii huanzisha mchakato wetu wa ufichuzi, wenye makataa kwa kila hatua ili kuhakikisha uchunguzi na ufichuzi unafanyika kwa wakati.
Mfano ukisharipotiwa, wafanyakazi wetu wa kiufundi watachunguza kilichotokea, mambo ambayo bado hayana uhakika, iwapo ufichuzi wa umma unahitajika na mambo yanayoweza kushirikiwa. Pia watatathmini iwapo mhusika mwingine yeyote aliathiriwa na anahitaji kuarifiwa faraghani kabla ya uchapishaji.
Kisha mfano huo utawekwa katika mojawapo ya mikondo mitatu: Tayari Kufichuliwa, Uchunguzi Mdogo au Uchunguzi Mkubwa (“Mkondo wa Polepole”).
Tayari Kufichuliwa huhusu visa vinavyokidhi vigezo ambavyo uchunguzi wake umekamilika vya kutosha kuchapishwa baada ya kukaguliwa. Uchunguzi Mdogo huhusu visa vinavyohitaji uchunguzi zaidi wa kiufundi. Tunatarajia mikondo hii miwili ihusishe idadi kubwa ya visa tunavyofichua, hasa vile visivyohitaji uchunguzi wa kina, uratibu na wahusika wengine au kushughulikia hatari kubwa za matumizi mabaya. Visa vyote tunavyotoa leo vimo katika mojawapo ya mikondo hii miwili.
Uchunguzi Mkubwa huhusu uchunguzi tata, hasa unaowahusisha wahusika wengine. Mhusika mwingine anapoathiriwa, wajibu wetu wa ulinzi, kisheria na wa ufichuzi wenye kuwajibika hutangulizwa kuliko mfumo huu. Tutalenga kuchapisha taarifa ya awali haraka iwezekanavyo, lakini huenda tukahitaji kuichelewesha kwa sababu za kiusalama—kwa mfano, ikiwa muundo utagundua udhaifu ambao haukujulikana awali katika programu inayotumiwa sana. Ikiwa ripoti itamtambulisha mhusika mwingine, tunakusudia kumwarifu mapema hata kama hakuna mpaka wa usalama uliovukwa.
Taarifa ya awali kuhusu kisa cha Uchunguzi Mkubwa itatoa muhtasari wa kilichotokea, kueleza iwapo wataalamu wa nje wanasaidia uchunguzi na kutoa makadirio yoyote yanayopatikana ya wakati tunaotarajia kuchapisha ripoti ya mwisho. Tukio la OpenAI la Hugging Face lingewekwa katika mkondo huu kama lingefichuliwa chini ya mfumo huu.
Mfanyakazi aliyewasilisha mfano huo atajulishwa uamuzi wa iwapo utafichuliwa na, ikiwa utafichuzi utaendelea, utafuata mkondo upi. Kutoafikiana kusikotatuliwa kuhusu ufichuzi au mkondo unaofaa kutapelekwa kwa Kikundi cha Ushauri wa Usalama (SAG) cha OpenAI, kikundi cha maafisa wakuu kutoka sehemu mbalimbali za kampuni ambacho hutathmini uwezo na hatua za ulinzi za miundo ya AI ya kiwango cha juu zaidi, husimamia Mfumo wetu wa Maandalizi, na kushauri uongozi wa OpenAI. Kutoafikiana ndani ya SAG, au pingamizi za wafanyakazi kuhusu maamuzi yake, kutapelekwa kwa uongozi wa OpenAI. Maamuzi ya kutofichua au kwamba ufichuzi hauhitajiki yatashirikiwa na viongozi wa usalama na ulinganifu na, kadiri iwezekanavyo, wafanyakazi husika wa kiufundi.
Huenda tukarekebisha mchakato huu wa ufichuzi tunapojifunza jinsi unavyofanya kazi kivitendo, na tutarekodi mabadiliko yoyote katika chapisho hili.
Kila ripoti kamili itaeleza tabia tuliyoona, uzito wake na athari zozote za nje, mazingira ilipotokea, tarehe au kipindi chake, wakati tulipoigundua na, kwa muhtasari, muundo au miundo iliyohusika. Inapowezekana, tutashiriki pia:
Maelezo zaidi ya kilichotokea na madhara yoyote yaliyotokana nacho;
Jinsi tulivyogundua kutolingana huko na upeo wa uchunguzi wetu;
Tafsiri yetu ya athari zake kwa utafiti wa ulinganifu na usalama wa kiufundi wa AI;
Maswali muhimu ambayo mfano huo umeibua na bado hayajajibiwa;
Hatua tunazochukua au tunazopanga kuchukua kushughulikia tabia hiyo. Huenda maelezo haya yasipatikane kila wakati wakati wa ufichuzi, kwa kuwa tunaweza kuchapisha ripoti ya kutolingana kabla ya kukamilisha uchunguzi wetu au kuandaa suluhisho.
Kwa kutolingana kunakotokea katika mifumo ya wateja iliyotumika, tutashiriki maelezo mengi kadiri faragha ya wateja na wajibu wetu wa kimkataba unavyoruhusu.
Ripoti za leo ni ufichuzi wa awali, wala si maelezo ya kina kuhusu kutolingana kunakojulikana au uchunguzi unaoendelea. Ripoti hizi za awali hazikusudiwi kuwakilisha aina zote au uzito wa visa vinavyohusika katika mfumo huu. Tumejitolea kufichua visa vya kutolingana vinavyokidhi vigezo vya mfumo huu, ikiwemo visa tata zaidi vinavyohitaji uchunguzi mrefu au uratibu na wahusika wengine. Tutaendelea kuchapisha ripoti chini ya mfumo huu kila mara, na tutashiriki maelezo zaidi kuhusu ahadi zetu za kuripoti tunapoendelea kuziboresha.
