Kudhibiti kasi ya ukuzaji wa miundo katika enzi ya uwezo muhimu wa usalama wa mtandao

Katika wiki kadhaa zilizopita, matukio mawili yamesisitiza kuongezeka kwa hatari zinazohusishwa na mifumo ya AI yenye uwezo unaozidi kuimarika: tukio la OpenAI-Hugging Face na, tofauti na hilo, ushahidi wa awali kwamba mojawapo ya miundo yetu ijayo, Astra, huenda ikafikia kiwango cha uwezo muhimu wa usalama wa mtandao chini ya Mfumo wetu wa Maandalizi. Kwa pamoja, matukio haya na maendeleo ya haraka katika utafiti wetu wa ndani yameongeza udharura wa kuimarisha kinga zetu za ufuatiliaji, upatanishaji na udhibiti katika hatua zote za mafunzo.

Kadiri miundo inavyozidi kuwa na uwezo, ndivyo hatari za kuiunda na kuifanyia majaribio ndani ya shirika zinavyoongezeka. Viwango vyetu vya ufuatiliaji, upatanishaji na usalama lazima viendelee kutangulia hatari hizo. Tulitaka kutumia muda uliohitajika kufikia viwango hivyo, kwa hivyo tulipunguza kwa muda kasi ya upanuzi. Hii ilijumuisha kusitisha kwa wiki mbili mafunzo ya mafunzo ya uimarishaji (RL) kwa miundo yetu ya karibuni iliyokusudiwa kutolewa, huku tukiendelea kuimarisha na kufanya majaribio ya mashambulizi katika mazingira yetu ya utafiti na kupanua wigo wa mifumo yetu ya ufuatiliaji. Mafunzo yetu makubwa zaidi ya RL yaliyopangwa kwa muundo wa kiwango cha juu zaidi bado yamesitishwa huku tukifanya mafunzo na tathmini za kiwango kidogo ili kutathmini tabia ya muundo, kuthibitisha kinga zetu na kupata ushahidi zaidi wa upatanishaji kabla ya kuendelea.

Upatanishaji—kazi ya kuhakikisha mifumo ya AI inatenda inavyokusudiwa na kuitikia usimamizi wa binadamu—umekuwa msingi wa mpango wetu wa utafiti kwa muda mrefu. Sasa tunahitaji ushahidi thabiti zaidi wa tabia iliyopatanishwa katika hatua zote za mafunzo, tukijenga juu ya utafiti na tathmini zinazoendelea. Kudumisha upatanishaji wa mifumo yenye uwezo unaozidi kuimarika ni changamoto ambayo sekta nzima itahitaji kushughulikia. Ishara tunazoona kutokana na maendeleo ya miundo ijayo zinaonyesha wazi kwamba tunahitaji mbinu pana zaidi—inayojenga juu ya Mfumo wa sasa wa Maandalizi na kuvuka mipaka yake.

Tunaamini ni muhimu kuwa wazi kuhusu jinsi mbinu yetu inavyobadilika. Hapa chini, tunaeleza mabadiliko ambayo tayari tumefanya katika michakato na miundombinu yetu ya utafiti, pamoja na kazi ambayo bado inaendelea.

Mbinu yetu ya kuunda miundo yenye uwezo zaidi inategemea kinga tatu zinazosaidiana:

1. Ufuatiliaji, ambao hutambua tabia inayotia wasiwasi na kutuwezesha kuikabili.
2. Upatanishaji, ambao hupunguza uwezekano wa vitendo vyenye madhara au visivyoidhinishwa.
3. Hatua za usalama, ambazo huweka mipaka kwa mambo ambayo mifumo ya AI inaweza kufikia au kuathiri.

Tunatarajia hivi karibuni miundo itekeleze kazi nyingi za usalama, ikiwemo kujilinda dhidi ya miundo mingine. Hii itawezesha kinga zote tatu kupanuka kulingana na uwezo wa muundo, jambo tunaloona kuwa muhimu sana.

Tunatumia kinga hizi katika utafiti na utoaji, tukizirekebisha kulingana na uwezo, mazingira ya uendeshaji na kiwango cha hatari cha kila muundo.

Kadiri miundo ya kiwango cha juu zaidi inavyopata uwezo mkubwa zaidi wa usalama wa mtandao, tunaimarisha viwango vya usalama vya mazingira tunamoifundisha na kuitathmini. Kufikia viwango hivi kumehitaji kazi kubwa ya uhandisi na kumesababisha gharama kubwa na ucheleweshaji wa utafiti wa AI ya kiwango cha juu zaidi. Mara tu baada ya tukio la OpenAI-Hugging Face*, tulisitisha uendeshaji wa miundo ya kiwango cha juu zaidi katika makundi ya kompyuta ya utafiti kwa shughuli zilizoweza kutekeleza msimbo au kutumia zana zinazoweza kufikia intaneti. Tulirejesha haraka njia yenye mipaka na usalama zaidi ya kutekeleza msimbo, kisha tukachunguza kila mzigo wa kazi mmoja mmoja ili kubaini kama ungeweza kuendelea kwa usalama. Baadhi ya mizigo ya kazi ya utafiti iliendelea chini ya vidhibiti hivi vipya, huku mingine ikihitaji mabadiliko zaidi.

Katika wiki zilizofuata, tumefafanua na kuanza kutekeleza masharti madhubuti zaidi ya usalama kwa mizigo ya kazi ya utafiti wa AI ya kiwango cha juu zaidi. Kwa mfano:

• Utengaji wa mizigo ya kazi: Sasa tunahitaji utengaji madhubuti zaidi (“mazingira tengefu”) kwa mizigo ya kazi inayotekeleza msimbo uliotolewa na muundo au msimbo mwingine usioaminika. Hili pia linatumika kwa programu ambazo zinaweza kuathiriwa zinapochakata matokeo ya muundo.
• Utengaji wa mtandao: Tumetekeleza vidhibiti zaidi vya kutenga mizigo ya kazi yenye hatari kubwa na isiyoaminika na intaneti. Tumeunda vidhibiti hivi ili kuathiriwa kwa mzigo mmoja wa kazi au huduma saidizi kusiweze, pekee yake, kuruhusu ufikiaji wa intaneti au mitandao mingine ya ndani bila idhini.
• Majaribio endelevu ya usalama: Tumesanidi upya mazingira yetu ili kuondoa huduma za pamoja zinazoweza kuwa na udhaifu, kupunguza ruhusa za kudumu na kuboresha mipaka ya usalama na uaminifu. Pia tunaboresha uwezo wetu wa kukusanya na kufuatilia kumbukumbu za usalama. Hatimaye, tunawekeza katika uendeshaji otomatiki unaotumia miundo yetu kujaribu mipaka hii kila wakati dhidi ya mashambulizi yaliyoigwa.

Kwa pamoja, vidhibiti hivi hutoa ulinzi wa tabaka nyingi na kusaidia kulinda mazingira yetu ya utafiti dhidi ya mashambulizi. Leo, tunahitaji kiwango cha juu zaidi cha kinga za usalama kwa mizigo ya kazi inayohusisha Astra au miundo ya masuala ya mtandao, kwa sababu tumebaini kwamba miundo ya Astra huenda ikawa na kiwango muhimu cha uwezo wa mtandao. Kinga hizi pia zinatumika kwa mizigo mingine yote ya kazi inayohusiana na masuala ya mtandao.

Ingawa baadhi ya mafunzo na tathmini za Astra zinatimiza masharti hayo, idadi kubwa ya mizigo ya kazi bado imesitishwa hadi ihamishwe kikamilifu na kuimarishwa ili kufikia kiwango kipya cha usalama. Tunatoa kipaumbele kwa kuhamisha kwanza mizigo ya kazi ya usalama na upatanishaji hadi katika mazingira haya mapya.

Ufuatiliaji umekuwa sehemu muhimu ya mchakato wetu wa ukuzaji wa miundo kwa muda mrefu, ikiwemo ufuatiliaji wa mawakala wa ndani wa usimbaji na vipindi vinavyoendelea kwa muda mrefu. Juhudi zetu za ufuatiliaji zililenga hasa matumizi ya ndani ya miundo ya kiwango cha juu zaidi na mafunzo ya RL ya kiwango cha juu zaidi, ambayo tuliona kuwa mizigo ya kazi yenye hatari kubwa zaidi kwa sababu yanaweza kuunganisha uwezo wa hali ya juu wa muundo na ufikiaji wa zana, mifumo nyeti na mitandao ya ndani au nje. Hayakutumika kwa shughuli zote za uendeshaji na mafunzo zilizotumia zana. Tumerekebisha na kupanua mbinu yetu kupitia mfumo wetu mpya wa ufuatiliaji.

Mfumo huu mpya wa ufuatiliaji una hatua nyingi. Huanzia kwa viainishaji vya uamilishaji (vigunduzi vinavyochunguza shughuli za ndani za muundo), ambavyo hufanya kazi kwa kila tokeni iliyochukuliwa kama sampuli na kuwasilisha masuala yanayoweza kutia wasiwasi kwa wachunguzi otomatiki wanaozidi kuwa mahiri na kutumia nguvu kubwa za kompyuta. Mifumo hiyo huchunguza vitendo vya zana, uwazaji unaopatikana na mfuatano mzima wa shughuli ili kutambua ufikiaji usioidhinishwa, wizi wa data, tabia haribifu na majaribio ya kushinda kinga. Tunalenga kutoa tahadhari ndani ya dakika 30 baada ya shughuli inayotia wasiwasi kubainishwa na mfumo wetu wa ufuatiliaji. Mfumo wa ufuatiliaji ukitambua uwezekano wa ukiukaji wa mpaka muhimu wa usalama, hutoa tahadhari yenye kipaumbele cha juu zaidi. Katika utekelezaji wetu wa sasa, timu za usalama, ulinzi na utafiti hutumiwa arifa ya dharura. Ikiwa haziwezi kuthibitisha ndani ya dakika 30 kwamba alama hiyo ni tahadhari isiyo sahihi, timu hizo zinatarajiwa kusitisha shughuli hiyo.

Ufuatiliaji huu unahitajika kwa mafunzo na tathmini zote za RL zinazohusisha zana kwa miundo yenye uwezo wa Sol au zaidi. Baada ya kubaini tarehe 7 Agosti kwamba Astra huenda ikawa na uwezo muhimu wa mtandao, tuliongeza sharti jingine la kufuatilia uendeshaji wote wa Astra unaotumia zana (si mafunzo na tathmini za RL pekee).

Kinga hizi zinahitaji nguvu kubwa za kompyuta. Makadirio yetu ya sasa yanaonyesha kwamba ufuatiliaji huongeza matumizi ya nguvu za kompyuta kwa takribani 20% ya nguvu zinazotumika katika uendeshaji unaofuatiliwa, ingawa gharama hutofautiana sana kati ya mizigo ya kazi ya mafunzo na tathmini. Tutashiriki maelezo zaidi kuhusu mfumo huu katika chapisho lijalo la blogu.

Utafiti wa upatanishaji ni kiini cha dhamira yetu. Dhamira yetu ni kuhakikisha kwamba akili unde ya jumla inawanufaisha wanadamu wote. Kadiri miundo inavyopata uwezo wa hali ya juu, kama vile uwezo wa kufanya mashambulizi ya mtandao, na kufanya kazi katika mazingira tata zaidi, tabia zisizopatanishwa kama reward hacking (kutafuta njia za kupata zawadi kubwa katika mafunzo bila kufikia matokeo yaliyokusudiwa), udanganyifu au ufikiaji usioidhinishwa zitasababisha hatari zinazozidi kuwa kubwa.

Kwa mafunzo ya RL ya miundo yenye uwezo mkubwa zaidi, sasa tunatumia mbinu zetu kuu za upatanishaji katika hatua nyingi zaidi za mchakato wa mafunzo. Hii inajumuisha kuboresha miundo ya zawadi ili itambue na izuie vyema tabia zisizo salama katika kazi na mazingira mbalimbali; kufundisha miundo iwe wazi zaidi kuhusu vitendo, uwezo na mapungufu yake; na kupunguza tabia zinazotumia udhaifu katika zawadi, wakadiriaji, zana au usimamizi. Pia tunapanua wigo wa mafunzo kuhusu tabia zinazoweza kusababisha madhara miundo inapoingiliana na mifumo au rasilimali za nje.

Tunaendelea kuwekeza kwa nguvu katika utafiti wa upatanishaji, kupanua wigo wa tathmini na kutumia tunayojifunza kuongoza mafunzo na kinga. Tunapanga kushiriki mengi zaidi kuhusu utafiti wetu wa upatanishaji hivi karibuni, ikiwemo tunayojifunza kuhusu tabia ya miundo na changamoto zozote mpya tunazogundua.

Tutauendeleza Mfumo wetu wa Maandalizi ili kuunganisha kinga hizi katika mafunzo na utoaji, na kuakisi vyema uwezo wa miundo ya baadaye na mazingira inamofanya kazi. Kuunda mbinu zinazoweza kupanuka kulingana na uwezo huo kutahitaji uwekezaji endelevu katika usalama unaosaidiwa na miundo, ufuatiliaji wenye ufanisi zaidi na maendeleo endelevu katika utafiti wa upatanishaji. Tunakusudia kuhusisha mashirika ya nje na kushiriki zaidi tunayojifunza kadiri mbinu yetu inavyoendelea.

Uwezo wa miundo ya kiwango cha juu zaidi unaongezeka kwa kasi. Uwezo wetu wa kuielewa, kuipatanisha na kuilinda lazima uendelee kutangulia.

*Tutachapisha ripoti ya kiufundi kuhusu tuliyojifunza katika wiki zijazo.