Kuweka viwango vya awamu inayofuata ya AI
Dhamira yetu ni kuhakikisha kwamba akili unde ya jumla inanufaisha binadamu wote. Kama Sam Altman alivyoeleza hivi karibuni pamoja na Jakub Pachocki, tunatanguliza kazi yetu kuelekea dhamira hii kwa kuzingatia malengo matatu makuu:
Kuongoza awamu inayofuata ya maendeleo ya AI kwa kuunda mtafiti wa AI anayejiendesha, kushirikiana naye kwa kurudia kutatua tatizo la ulinganifu, na kutafuta njia za watu kuendelea kushiriki katika mzunguko wa ujiboresha.
Kuwafikishia watu manufaa ya maendeleo ya sayansi na ukuaji wa uchumi yanayowezeshwa na mashine zenye akili ya juu sana.
Kumwezesha kila mtu binafsi kwa AGI yake binafsi.
AI inaharakisha utafiti na uhandisi wetu, na utafiti unaowezeshwa na AI umeleta maendeleo katika hisabati, yakiwemo ya Tatizo la Milenia la Navier-Stokes. Maendeleo haya yana ahadi kubwa kwa malengo yetu mengine mawili, ambayo yanaweza kuleta uvumbuzi muhimu katika tiba, huduma za afya zinazofikiwa na wengi, na uwezeshaji wa kiuchumi kwa biashara ndogo na wajasiriamali binafsi kote duniani.
AI inasonga mbele katika kampuni na nchi nyingi, na maendeleo katika nyanja hii yanabadilisha fursa na changamoto zinazomkabili kila mtu. Pamoja na manufaa yake mengine, AI yenye uwezo na iliyolinganishwa itakuwa sehemu muhimu ya jinsi tunavyoongoza mpito huu—kwa kuimarisha ulinzi, kuendeleza utafiti wa ulinganifu na kuwasaidia watu kuelewa na kuongoza hatua zinazofuata za maendeleo ya AI.
Kuongoza mpito huu kwa usalama kunahitaji utafiti wa ulinganifu uende sambamba na uwezo huu ili mifumo tunayounda sisi na wengine iendelee kulingana na maadili ya binadamu na kuwa chini ya udhibiti wa binadamu. Hili linazidi kuwa muhimu kadiri mifumo ya AI inavyopata uwezo na uhuru zaidi, ikiwemo inapochukua sehemu kubwa zaidi ya utafiti na uundaji wa AI yenyewe. Kufanya maendeleo endelevu ya AI yawe salama na yenye manufaa kutahitaji maendeleo katika utafiti wa ulinganifu pamoja na viwango vya pamoja vya kuongoza uundaji wake katika maabara na nchi mbalimbali.
Utafiti wa AI unaojiendesha unaweza kuhusisha viwango tofauti vya usimamizi wa binadamu. Kadiri mifumo ya AI inavyochukua sehemu kubwa zaidi ya kazi ya kuunda vizazi vinavyofuatana vya AI, ndivyo inavyoweza kuendeleza mchakato wa ujiboresha unaojirudia (RSI), hata watu wakiendelea kushiriki. Kadiri mchakato huu unavyozidi kujiendesha, kasi ya maendeleo ya AI inaweza kuongezeka haraka.
Tunaamini kuwa utafiti wa AI unaojiendesha utazalisha miundo inayoboresha maisha ya watu moja kwa moja. Unaweza kupunguza gharama ya akili ya hali ya juu ili watu duniani kote wanufaike. Utafiti unaojiendesha pia unaweza kutusaidia kuboresha kwa kiasi kikubwa ulinganifu na kujenga ulinzi dhidi ya AI inayozidi kuwa na uwezo—mtafiti wa AI anayejiendesha anaweza pia kuwa mtafiti wa usalama wa AI anayejiendesha. Mifumo yenye uwezo zaidi na iliyolinganishwa inaweza kusaidia kulinda miundombinu muhimu, kujihami dhidi ya mawakala hatari wa AI na kubuni hatua mpya za ulinzi.
RSI inayojiendesha kikamilifu haifanyiki leo, na hatupaswi kuifuatilia mpaka iweze kufanywa kwa usalama. Uamuzi wa iwapo na jinsi ya kuendelea lazima utegemee uwezo wetu wa kudumisha udhibiti wa binadamu na maamuzi ya kidemokrasia yenye ufahamu(fungua katika dirisha jipya) kuhusu manufaa na hatari. Ikiendeshwa bila uangalifu na tahadhari zinazofaa, RSI inaweza kusababisha binadamu kupoteza udhibiti wa kivitendo wa maendeleo ya AI na kushindwa kusimamia michakato ya utafiti ambayo hawaielewi tena. Kuanzia hapo, AI inaweza kuwa hatari zaidi, kutolingana zaidi na, kwa ujumla, kuwa tishio kwa watu. Tukio la Hugging Face tulilofichua, ingawa halikutokana moja kwa moja na RSI, linaonyesha aina za hatari zinazoweza kuwa kubwa zaidi bila ulinzi thabiti na ulinganifu.
Viwango vya kimataifa vya mbinu za usalama na ulinzi katika uundaji wa AI ya mpaka vinaweza kuwa muhimu kwa kudhibiti kasi kwenye mpaka kama ulivyo utafiti wa ulinganifu wenyewe. Viwango vinaweza kuweka ufafanuzi wa pamoja wa ushahidi wa ubora wa juu na misingi iliyokubaliwa ya uthabiti wa ulinzi wa kiufundi. Kwa ufupi, vinatusaidia kujibu swali, “Utendaji mzuri katika kupunguza hatari kubwa mno ya AI unaonekanaje?”
Taasisi zilizopo za kidemokrasia kama Center for AI Standards and Innovation (CAISI), sheria za majimbo na mfumo wa shirikisho wa AI zinaweza kusaidia katika hili, sawa na aina mpya za ubia kati ya sekta ya umma na binafsi(fungua katika dirisha jipya). Hata hivyo, uundaji na utekelezaji wa AI unafanyika katika nchi nyingi, matumizi yake yanaenea duniani, na huenda athari zake zikamfikia kila mtu kwa namna fulani wakati fulani.
Kwa hiyo, juhudi za kimataifa za kuunda viwango zinahitajika ili kutatua baadhi ya changamoto muhimu:
Mgawanyiko—Tathmini, masharti ya kuripoti na ufafanuzi wa matukio wa mataifa tofauti unaweza kukinzana, hivyo kufanya iwe vigumu kulinganisha ushahidi, kuelewa uwezo unaoibuka na kukabiliana na hatari zinazovuka mipaka.
Hatua za pamoja—Kila taifa likitenda kivyake linaweza kuleta matokeo ambayo hakuna taifa linaloyataka. RSI inaweza kuharakisha utafiti wa AI wenyewe, huenda hata kuzidi uwezo wetu wa pamoja wa kuelewa maendeleo, kutathmini hatari na kudumisha usimamizi wa maana wa binadamu.
Uwezo usio sawa—Shughuli za uundaji wa AI ya mpaka na utaalamu unaohusiana nazo hazijasambazwa kwa usawa duniani. Hili linazidisha matatizo yote mawili yaliyo hapo juu.
Changamoto hizi zinahusu miundo iliyo wazi na iliyofungwa.
Ili kuweka wazi, maabara yoyote ya AI inayofanya utafiti wa AI unaojiendesha au kukuza uwezo mwingine wa hali ya juu lazima iwajibike kwa kufanya hivyo kwa usalama, kwa kuzingatia kanuni za msingi za uwajibikaji binafsi na sheria zilizopo. Sababu yetu ya kutaka viwango inatokana na haja ya kuzuia mamlaka kujilimbikiza na kuleta matokeo bora ya kivitendo. Viwango vinawapa wadau wengi zaidi walio nje ya maabara nafasi ya kutoa maoni kuhusu jinsi teknolojia hii inavyopaswa kukua, na vinaweka kanuni zinazoonekana ambazo zinaweza kutegemewa bila kujali mbinu mahususi za maabara yoyote. Pia tunaweza kupata matokeo bora zaidi ikiwa wahusika watashirikiana kushughulikia changamoto zilizo hapo juu.
Ndiyo sababu tunaamini Marekani inapaswa kuongoza juhudi za kushirikiana na nchi duniani kote kuunda viwango vya kiufundi vya kimataifa kwa AI ya mpaka, ikiwemo RSI.
Ingawa tunatarajia dhana hii kubadilika kwa kiasi kikubwa kadiri muda unavyopita, vipengele viwili vitakuwa muhimu.
Njia moja ya kufanikisha hili ni kutumia mtandao unaoibuka wa taasisi za usalama wa AI—kama zile ambazo tayari zimeanzishwa Australia, Kanada, Ujerumani, Ufaransa, Kenya, Japani, Korea, Singapore, India na Uingereza—ili kuwezesha uwekaji wa viwango kupitia CAISI na mashirika ya kitaifa ya sekta, kwa kuzingatia hasa (1) miundo na wasanidi wa AI ya mpaka, kama inavyopimwa kwa vigezo vya uwezo; na (2) usimamizi wa manufaa na hatari za utafiti wa AI unaojiendesha, ikiwemo RSI. Marekani inaweza kuendeleza hatua ya CAISI ya kuunda Mtandao wa Kimataifa wa Upimaji, Tathmini na Sayansi ya AI ya Hali ya Juu(fungua katika dirisha jipya) mwaka 2024, ambao unaleta pamoja taasisi za umma zishirikiane katika upimaji, tathmini na sayansi ya AI.
Viwango vitakavyoundwa kupitia juhudi hii vitatoa msingi wa pamoja wa kiufundi wa kupima na kutathmini uwezo, kutathmini hatari na kubaini utoshelevu wa ulinzi. Viwango hivi vya kiufundi havitakuwa leseni, ukaguzi wa lazima kabla ya kutolewa, wala masharti ya kuidhinisha miundo ya AI. Serikali za kitaifa zitaamua iwapo na jinsi ya kujumuisha viwango hivi katika mifumo yao ya kisheria.
Kazi hii pia inapaswa kusaidia mfumo wa AI wenye ushindani kwa kushauriana na wasanidi wa open model na muundo funge, wataalamu huru wa kiufundi na wasomi. Viwango vya pamoja vinapaswa kuundwa kwa uwazi na kubuniwa ili visitangulize kampuni, nchi au miundo fulani ya biashara, ikiwemo kwa kufanya iwe vigumu kwa washindani wapya au wasanidi wa miundo yenye uzani wazi kushindana.
Kama tulivyopendekeza(fungua katika dirisha jipya), mbinu hii inaweza kujifunza kutokana na nyanja kama usafiri wa anga na uthabiti wa kifedha, ambako nchi zimeunda viwango vya pamoja vya kiufundi na njia za kuaminika za ushirikiano bila kuachia mamlaka ya kitaifa. Inapaswa pia kushirikiana kwa karibu na mashirika ya viwango yaliyoimarika na mapya, kama ISO(fungua katika dirisha jipya), Frontier Model Forum(fungua katika dirisha jipya), Agentic AI Foundation(fungua katika dirisha jipya) na Open Secure AI Alliance(fungua katika dirisha jipya), pamoja na mashirika yanayolenga utekelezaji, kama Appia Foundation, ambayo inaunda vipimo vya kivitendo vinavyounganisha viwango vya kimataifa na tathmini halisi za AI.
Viwango vya kimataifa vya AI vitakuwa muhimu hasa katika kudhibiti kuongezeka kwa uhuru katika utafiti wa AI na ujiboresha unaojirudia. Hasa, vinaweza kujumuisha viwango vya mambo yafuatayo:
Kutathmini maendeleo ya AI yanayohusiana na RSI na kiasi cha utafiti unaojiendesha unaofanyika ndani ya kampuni ya AI. Ripoti yetu ya hivi karibuni kuhusu kuharakisha utafiti ni mchango wa awali katika juhudi hii.
Usimamizi wa binadamu katika utafiti wa AI unaojiendesha, ikiwemo aina za michakato ya utafiti wa AI unaojiendesha zinazopaswa kusababisha ukaguzi wa haraka wa binadamu.
Kuainisha, kufuatilia, kuripoti na kushughulikia matukio yanayohusu ulinganifu na utafiti wa AI unaojiendesha, kama viwango vya pamoja vya ukubwa wa matukio na vizingiti vya kuripoti. Mfumo wetu wa kuripoti kutolingana ni mchango wa awali.
Mbali na viwango hivi, tunaamini itakuwa muhimu kwa waendeshaji wa miundombinu muhimu na serikali duniani kote kuanzisha njia salama za mawasiliano ili kushiriki masuala ya usalama wa taifa, udhaifu na vitisho vinavyoibuka, pamoja na mbinu bora katika nyanja inayobadilika haraka ya usalama wa AI ya mpaka. Mazungumzo kati ya Marekani na China katika maeneo haya yatakuwa hatua nzuri, na mazungumzo yajayo yanafanyika kwa wakati mwafaka.
Kudhibiti kasi ya maendeleo ya AI si kudumisha kasi iliyowekwa mapema. Kitaalamu, ni kuhakikisha kuwa utafiti wa ulinganifu na utekelezaji wa matokeo yake vinatangulia uwezo wa AI. Kwa upande wa jamii, ni kutumia viwango, taasisi na ushirikiano kuimarisha mitandao ya sekta, mahusiano ya kijamii na nguvu za soko ili kuleta matokeo yenye manufaa kwa wote. Wito wa hivi karibuni wa hatua za pamoja katika ulinzi wa mtandao ni mfano wa hili la pili.
Marekani iko katika nafasi nzuri ya kuongoza kwa sababu sekta yake ya AI iko kwenye mpaka wa teknolojia, na bado ina nafasi ya kipekee katika mtandao wa kimataifa kwenye maeneo muhimu kama fedha, biashara, ulinzi, teknolojia na mifumo ya habari. Kuongoza sasa kutaamua iwapo Marekani itaunda mfumo wa kimataifa wa AI au itatazama mfumo uliogawanyika, usio na usawa na uliojaa migogoro ukijikita kote kuihusu. Hili pia litaamua iwapo AI ya hali ya juu itaimarisha mitandao ambayo tayari Marekani na washirika wake wanayo; kutoshika usukani kunaweza kuidhoofisha.
Ushindani wa kijiografia na kisiasa hautahusu tu nani aliye mbele kiteknolojia, bali pia matumizi na usambazaji wa AI. Kwa kuongezeka, matumizi na usambazaji huo unaweza kuamuliwa na yeyote anayeendeleza ushirikiano unaotekelezeka na kanuni mwafaka ambazo biashara na jamii kote zitataka kabla ya kukabidhi mustakabali wao kwa teknolojia hii.
Utawala thabiti wa kitaifa, uliounganishwa kupitia ushirikiano wa kimataifa unaotekelezeka, unatoa njia ya kupata ulinzi imara zaidi, ubunifu endelevu na ufikiaji mpana wa manufaa ya AI.
