Kuendeleza utafiti huru kuhusu ulinganifu wa AI

Kadiri mifumo ya AI inavyozidi kuwa na uwezo na kujitegemea zaidi, utafiti wa ulinganifu unahitaji kuendana na kasi na kuongeza utofauti. Katika OpenAI, tunawekeza sana katika utafiti wa ulinganifu na usalama wa mipaka kwa kuwa ni muhimu kwa dhamira yetu. Pia tunaamini kwamba kuhakikisha AGI ni salama na yenye manufaa kwa kila mtu hakuwezi kufanywa na shirika moja pekee na tunataka kuunga mkono utafiti huru na mbinu za kidhana zinazoweza kufuatwa nje ya maabara za mpaka. Tunaamini mustakabali wa AI hautajitokeza kama mtu yeyote anavyotabiri, na kwamba watu wengi zaidi wanapaswa kushiriki katika kuunda matokeo.

Leo, tunatangaza ruzuku ya $7.5 milioni kwa Mradi wa Ulinganifu⁠(fungua katika dirisha jipya), mfuko wa kimataifa wa utafiti huru wa ulinganifu ulioundwa na Taasisi ya Usalama wa AI ya Uingereza (UK AISI). Renaissance Philanthropy inasaidia katika usimamizi wa ruzuku. Mchango huu husaidia kuifanya Mradi wa Ulinganifu kuwa mojawapo ya juhudi kubwa zaidi za ufadhili zilizojitolea kwa utafiti huru wa ulinganifu hadi sasa na kuimarisha mfumo ikolojia mpana na huru zaidi.

Maabara za mpaka kama OpenAI ziko katika nafasi ya kipekee ya kuendeleza utafiti wa ulinganifu unaotegemea ufikiaji wa miundo ya mpaka na rasilimali kubwa za kompyuta—kazi ambayo mara nyingi ni vigumu kwa watafiti huru kuichunguza. Tunatoa sehemu kubwa ya juhudi zetu za ndani za ulinganifu katika kuendeleza mbinu zinazoweza kupanuka ili maendeleo ya ulinganifu yaende sambamba na maendeleo ya uwezo. Tunaamini katika utumaji wa hatua kwa hatua—kuongeza uwezo polepole huku tukiongeza hatua za ulinzi—husaidia kugundua matatizo mapema na kutupatia ushahidi thabiti kuhusu kile kinachofanya kazi kwa vitendo, na kwamba maendeleo yenye uwajibikaji yanahitaji kazi kubwa ya ulinganifu na usalama ambayo imeunganishwa kwa karibu na uundaji na utumaji wa miundo.

Sambamba na hilo, nyanja hii hunufaika kutokana na uwekezaji endelevu katika utafiti huru wa uchunguzi—ambao unaweza kupanua wigo wa mawazo na kufichua mielekeo mipya. Utafiti huru unabaki kuwa muhimu; katika aina nyingi za uchunguzi wenye manufaa, maabara hazina faida ya kulinganisha. Mfumo ikolojia wenye afya wa ulinganifu unategemea timu huru zinazopima dhana mbalimbali, kuunda mifumo mbadala, na kuchunguza mawazo ya kidhana, ya kinadharia, na ya ubunifu ambayo huenda yasilingane kwa urahisi na ramani ya maendeleo ya shirika lolote.

Na kwa sababu maendeleo kuelekea AGI yanaweza hatimaye kutegemea mafanikio ya kimsingi yanayobadilisha sura ya tatizo la ulinganifu na mbinu zipi ni muhimu zaidi, ni muhimu kuunga mkono utafiti ambao utakuwa na umuhimu hata kama mbinu kuu za leo hazitapanuka kama tunavyotarajia. Katika ulimwengu huo, inakuwa muhimu sana kuwa na mfumo thabiti wa ikolojia wa nje unaofanya kazi ya msingi, ya dhana, na isiyohusiana. Tatizo la ulinganifu na usalama wa AI ni la umuhimu usio na kifani, na tunahitaji kila mtu kushiriki kwa sababu bado hatujui ni mbinu zipi zitathibitika kuwa za kudumu zaidi kadiri uwezo unavyoendelea kuimarika.

Ruzuku yetu—takriban £5.6 milioni kwa viwango vya sasa vya ubadilishaji—ita fadhili kwa pamoja Mradi wa Ulinganifu⁠(fungua katika dirisha jipya) pamoja na wafadhili wengine wa umma, wa uhisani, na wa sekta. Mfuko jumla unazidi pauni milioni 27 na umeundwa kusaidia jalada pana la miradi ya utafiti wa ulinganifu duniani kote, ikijumuisha mada mbalimbali kama vile nadharia ya ugumu wa ukokotoaji, nadharia ya uchumi na michezo, sayansi ya utambuzi, na nadharia ya habari na kriptografia. Miradi ya mtu binafsi kwa kawaida hufadhiliwa kwa £50,000 hadi £1 milioni, na inaweza pia kupata ufikiaji wa hiari wa rasilimali za kompyuta na usaidizi wa wataalamu.

Ufadhili wetu hauanzishi mpango mpya au mchakato wa uteuzi, wala hauathiri mchakato uliopo; unaongeza idadi ya miradi⁠(fungua katika dirisha jipya) ya ubora wa juu ambayo tayari imehakikiwa na inaweza kufadhiliwa katika raundi ya sasa.

AISI ya Uingereza iko katika nafasi nzuri ya kuelekeza ufadhili wa ulinganifu katika kiwango na wigo huu. Inaleta pamoja muungano uliothibitika wa sekta mbalimbali unaojumuisha serikali, vyuo vikuu, uhisani, na sekta ya viwanda, pamoja na mkondo wa utoaji wa ruzuku ambao tayari unaendelea na kundi kubwa la mapendekezo ambayo yamepitia ukaguzi wa wataalamu. Kama shirika la utafiti la serikali ya Uingereza ndani ya Idara ya Sayansi, Ubunifu na Teknolojia (DSIT), pia lina jukumu la kuzingatia hatari kubwa za AI na lina uzoefu wa kuendesha programu za ufadhili wa utafiti.

Kwa sababu mustakabali wa AI hautajitokeza hasa kama mtu yeyote anavyotabiri—na huenda ukaendelea kwa kasi sana—tunaamini kwamba demokrasia, “ustahimilivu wa AI,” na usambazaji wa hatua kwa hatua ni muhimu. Tunapoendelea kuendeleza utafiti wetu wa ulinganifu wa mipaka na usalama katika OpenAI, maendeleo yatanufaika kutokana na mfumo thabiti, tofauti, na huru unaofuatilia mbinu zinazokamilishana kadiri uwezo unavyoendelea kuimarika. Ruzuku hii ni hatua moja kuelekea lengo hilo. Tunatarajia kuendelea kushirikiana na jamii pana ya utafiti kadri nyanja hii inavyoendelea kusonga mbele.