Kusaidia kujenga viwango vya pamoja vya AI ya hali ya juu

Miundo inayozidi kuwa na uwezo inaweza kuimarisha ulinzi wa mtandao, kuharakisha ugunduzi wa kisayansi na kupanua upatikanaji wa utaalamu. Lakini pia inaweza kuleta hatari za usalama ikiwa uwezo wake utaeleweka vibaya, hatua zake za ulinzi hazitoshi, au serikali hazina taarifa zinazohitajika ili kujibu. Ili kupata manufaa kwa usalama na kwa kujiamini, jamii zitahitaji taasisi zenye uwezo wa kiufundi na kiutawala wa kutathmini, kulinda na kusimamia mifumo inayozidi kuwa na uwezo.

Hiyo ni moja ya sababu OpenAI ilisaidia kuanzisha Appia Foundation⁠(fungua katika dirisha jipya), inayohifadhiwa na Linux Foundation. Appia itaandaa vipimo vya wazi na vya moduli vinavyokusudiwa kubadili viwango vya kimataifa na mifumo iliyothibitishwa kuwa vigezo vya vitendo vya tathmini katika mnyororo wa thamani wa AI. Kazi yake inaweza kusaidia kuendeleza safu muhimu ya uaminifu iliyokuwa inakosekana, ambapo wahusika wengine hukagua ulinganifu na viwango, na kutoa ushahidi ulio wazi zaidi na unaoweza kutumika tena wakati miundo, miundombinu na programu zinatengenezwa na mashirika tofauti. Kwa kufanya kazi hii, Appia itasaidia kuunda lugha ya pamoja ya kiufundi itakayowezesha taasisi za kitaifa na kimataifa kuaminiana katika kazi zao.

Tunaona juhudi hii kama hatua muhimu inayofuata katika kazi pana ya kuimarisha taasisi, viwango na mbinu za tathmini zinazohitajika kwa mifumo ya AI ya hali ya juu.

Mpango wetu wa hivi karibuni wa utawala wa kidemokrasia wa AI ya hali ya juu unatoa ramani ya kazi hiyo. Unatoa wito wa kuwepo kwa mfumo thabiti wa Marekani, Kituo cha Viwango na Ubunifu wa AI (CAISI) kilichoimarishwa, na mkakati mpana wa ustahimilivu serikalini kote. Pia unatambua kuwa hatari za kiwango cha juu zina upeo wa kimataifa. Mataifa yanapaswa kushirikiana kuunda mifumo ya usalama inayolingana, njia zinazoaminika za kushiriki matokeo ya hatari, na majibu yaliyoratibiwa kwa matukio.

Uwezo wa kitaifa na ushirikiano wa kimataifa vinapaswa kuimarishana. Taasisi imara kama CAISI zinaweza kukuza utaalamu wa kiufundi, kutathmini mifumo ya hali ya juu na kusaidia mfumo wa tathmini huru. Kisha mtandao wa taasisi za kitaifa zenye uwezo unaweza kuweka mbinu za pamoja, kutambua ushahidi unaoaminika na kuzipa serikali uelewa wa pamoja wa kiufundi unaohitajika ili kuchukua hatua kwa pamoja.

Viwango ni kiini cha juhudi hiyo, na lazima vijengwe juu ya mbinu za tathmini zinazoaminika na uthabiti wa kiufundi. Katika mwongozo wetu wa pamoja wa tathmini za kuaminika zinazofanywa na wahusika wengine, tulibainisha kile ambacho tathmini za mifumo ya hali ya juu zinazidi kuhitaji kuweka wazi: mfumo uliojaribiwa, ufikiaji wake wa zana na mazingira ya tathmini, mbinu zilizotumika kuibua uwezo, rasilimali zilizopatikana na ukaguzi uliofanywa ili kuthibitisha matokeo. Pia tumetekeleza kanuni hizi kupitia ushirikiano wa majaribio na CAISI ya Marekani na AISI ya Uingereza, ambapo kazi yao kuhusu tathmini za uwezo wa hali ya juu na hatua za kuzuia matumizi mabaya ya kibiolojia ilisababisha maboresho halisi katika mifumo yetu. Kazi hii ina jukumu muhimu la kuweka msingi wa mbinu zinazoweza kusanifishwa ili kukagua utendaji kwa njia inayoweza kulinganishwa.

Mbinu hizi hukamilisha miundombinu mipana ya usalama ya OpenAI. Preparedness Framework yetu ndiyo msingi wa jinsi tunavyofafanua na kutekeleza mbinu yetu ya kudhibiti hatari kubwa zaidi kutoka kwa mifumo ya AI ya hali ya juu, ikiwemo mbinu zetu za ndani. Mfumo wetu wa Utawala wa AI ya Hali ya Juu unatumia sehemu husika za mbinu hiyo katika waraka wa utawala wa umma unaolenga wajibu mahususi wa udhibiti, ikiwemo tathmini ya hatari, kuripoti kuhusu muundo, udhibiti wa usalama, mwitikio kwa matukio na kujumuisha maoni ya wataalamu wa nje. Kwa pamoja, nyaraka hizi husaidia kubadili ahadi pana kuwa mbinu za kiutendaji zinazoweza kuthibitishwa na kuboreshwa.

Kazi ya Appia inalenga changamoto inayofuata: kufanya mbinu hizo ziweze kutumika kwa pamoja katika mashirika, mamlaka za kisheria na mnyororo wa ugavi.

Tayari OpenAI inachangia katika mfumo mpana wa viwango na juhudi za kabla ya usanifishaji. Tunashiriki katika Kamati ya Pamoja ya Kiufundi 1, Kamati Ndogo 42 kuhusu Akili Bandia, ya Shirika la Kimataifa la Viwango na Tume ya Kimataifa ya Umeme⁠(fungua katika dirisha jipya) na Muungano wa Akili Bandia unaoongozwa na Taasisi ya Kitaifa ya Viwango na Teknolojia⁠(fungua katika dirisha jipya); tulisaidia kuanzisha Jukwaa la Miundo ya Hali ya Juu na Taasisi ya AI ya Kiwakala⁠(fungua katika dirisha jipya) ya Linux Foundation; tunashiriki katika Muungano wa AI Salama⁠(fungua katika dirisha jipya); tunahudumu katika kamati ya uongozi ya Muungano wa Asili na Uhalisi wa Maudhui⁠(fungua katika dirisha jipya); na tunashiriki katika michakato ya Kikosi Kazi cha Uhandisi wa Intaneti⁠(fungua katika dirisha jipya) na Muungano wa Utambulisho wa Haraka Mtandaoni⁠(fungua katika dirisha jipya) ili kuendeleza viwango vya kiufundi vinavyoweza kutumika kwa pamoja.

Katika majukwaa haya, ikiwemo sasa kupitia Appia, lengo letu ni kubadili mafunzo kutoka maendeleo ya mifumo ya hali ya juu kuwa mbinu zilizo wazi, zenye msingi wa kiufundi, ambazo serikali, kampuni na wakaguzi huru wanaweza kutumia katika mamlaka mbalimbali za kisheria.