Kuharakisha utafiti: Mtazamo kutoka ndani ya OpenAI

Tunaamini AGI lazima iongozwe kidemokrasia ili iwanufaishe wanadamu wote. Hili linahitaji mjadala wa umma wenye taarifa sahihi kuhusu uwezo, hatari na ulinzi wa mifumo ya AI yenye uwezo mkubwa. Watu kila mahali wanahitaji kuelewa mwelekeo unaowezekana wa AI ya mpaka ili wawe na sauti yenye maana katika maendeleo yake.

Uwazi kuhusu hatari mahususi, matukio na hatua za ulinzi ni muhimu, lakini hautoshi. Tunaamini umma pia unahitaji kuelewa maendeleo ya mifumo yenye uwezo mkubwa zaidi na jinsi inavyoendeleza utafiti katika maabara za mpaka.

Tunalenga kujenga kwa usalama mtafiti otomatiki wa AI, anayesimamiwa na binadamu, ili kuendeleza mafunzo ya kina na ulinganifu kwa maboresho ya mfululizo. Kwa vipimo vyetu, tumefikia lengo lililotangazwa⁠(fungua katika dirisha jipya) msimu uliopita wa vuli la kuwa na mwanafunzi otomatiki wa mafunzo ya utafiti kufikia Septemba mwaka huu. Kwa “mwanafunzi wa mafunzo ya utafiti,” tunamaanisha mfumo unaofanya kazi za utafiti zilizoainishwa wazi chini ya mwongozo wa binadamu, hata zile zinazomchukua mtafiti stadi siku kadhaa. Tunapiga hatua kubwa kuelekea kuunda mtafiti otomatiki wa AI kufikia Machi 2028.

Mwaka huu, kazi za kila siku za watafiti wa OpenAI zimebadilika sana. Watafiti hutumia mawakala wa usimbaji siku nzima, mara nyingi kwa vipindi sambamba. Matumizi yanaongezeka haraka kuliko katika timu nyingine za OpenAI. Watafiti wanachangia msimbo haraka zaidi na kuendesha majaribio mengi zaidi. Matumizi ya mawakala pia yanabadilika: wanashughulikia kazi zinazozidi kuwa changamano, na kufanikiwa mara nyingi zaidi. Utafiti wa AI ni changamano na una vikwazo vingi vinavyowezekana, hivyo kasi ya jumla huenda isilingane na vipimo hivi mahususi. Kwa ujumla, matokeo yanaendana na maoni ya wengi wetu ndani ya kampuni kwamba zana za kiwakala zinaharakisha utafiti kwa kiasi kikubwa. Binadamu bado huweka vipaumbele vya utafiti, huchagua mawazo na matokeo ya kufuatilia, na huamua kupanua, kusitisha au kuanza kutumia mifumo.

Tunaamini utafiti otomatiki wa AI ukifanywa kwa uwajibikaji utazalisha miundo inayoboresha moja kwa moja ustawi wa binadamu na kuendeleza dhamira ya OpenAI. Unaweza kupunguza gharama ya akili ya hali ya juu ili watu duniani kote wanufaike. Sababu mojawapo ya kazi hii ni kwamba utafiti otomatiki unaweza kutusaidia kutatua ulinganifu na kujenga kinga dhidi ya AI yenye uwezo unaoongezeka. Mtafiti otomatiki wa AI anaweza pia kuwa mtafiti otomatiki wa usalama au ulinganifu. Mifumo linganifu yenye uwezo zaidi inaweza kulinda miundombinu muhimu, kukinga dhidi ya mawakala hatari wa AI na kubuni hatua mpya za ulinzi.

Hizi ni sababu za kukuza uwezo muhimu wa utafiti otomatiki, lakini hazimaanishi kwamba lazima tulenge RSI ya haraka. Uamuzi wa kuendelea na jinsi ya kufanya hivyo utegemee uwezo wetu wa kudumisha udhibiti wa binadamu na maamuzi ya kidemokrasia yenye taarifa kuhusu faida na hatari.

Bado hatujui jinsi ya kufikia kwa usalama RSI kamili yenye ulinganifu. Tunajitahidi kupanua hatua za ulinganifu na usalama sambamba na uwezo. Lakini hatuwezi kudhani maendeleo ya ulinganifu na usalama yataenda sambamba, na mifumo yenye uwezo zaidi inaweza kuwa migumu kufuatilia. Kazi makini ya ulinganifu na usalama ndiyo kiini cha juhudi hizi, kuanzia kupima na kupunguza matatizo ya usalama ya mifumo ya usimbaji wa kiwakala ya leo. Kuendelea kunapoleta hatari ya usalama isiyokubalika, tutachukua hatua zinazofaa, ikiwemo kupunguza kasi au kusitisha uundaji au matumizi ya mifumo tusiyoweza kuilinda vya kutosha.

Baada ya tukio la karibuni la Hugging Face, tulitekeleza ahadi hii⁠: tulisitisha mafunzo ya uimarishaji (RL) ya miundo mipya iliyokusudiwa kutumika, tukaimarisha na kupima ulinzi wa mazingira yetu ya utafiti kwa mashambulizi ya majaribio, na kupanua ufuatiliaji. Si utafiti wote ulisimama: baadhi ya kazi zilirejea chini ya udhibiti imara zaidi, huku nyingine zikibaki zimesitishwa. Tumeinua viwango vya usalama na ulinganifu na kujumuisha usalama zaidi katika mzunguko wa maisha ya muundo, tukihitaji ushahidi thabiti zaidi wa tabia linganifu katika mafunzo yote.

Leo tunatoa picha ya kina ya mchango wa mifumo ya kiwakala katika maendeleo yetu kuelekea RSI katika miezi ya karibuni. Mifumo ya kiwakala ni mipya na inabadilika haraka; juhudi zetu za kuipima bado ni za awali. Kwa kushiriki matokeo haya ya awali na mbinu zake, tunalenga kuelimisha umma, kuhimiza uwazi na kusaidia sekta kufikia viwango vya pamoja vya upimaji.

Hatimaye, kama tulivyoandika katika mwongozo wetu wa sera za mpaka⁠, tunaamini sisi na kampuni nyingine tunapaswa kutakiwa kufuatilia hadharani maendeleo yetu kuelekea RSI. Hata bila sharti hilo, tunapanga kuendelea kuwa wazi kuhusu maendeleo yetu ya RSI. Tutaboresha uwazi wetu kadiri mbinu za upimaji na uelewa zinavyoimarika, huku tukilinda usalama na taarifa za umiliki.

Mwanzoni mwa mwaka huu, mtafiti wa kati kwa matumizi ya mawakala katika OpenAI aliwatumia mawakala wa usimbaji kwa kiasi kidogo. Kufikia katikati ya Agosti, mtafiti huyo aliwatumia kila siku, kwa ukokotoaji wa majibu wenye thamani ya zaidi ya $600 kwa siku kwa bei za API. Mtumiaji wa asilimia-tile ya 90 katika kitengo chetu cha utafiti sasa hutumia tokeni za zaidi ya $7,000 kwa siku.

Kabla ya Juni 2026, jumla ya muda wa mawakala katika kitengo cha utafiti bado ilikuwa chini ya jumla ya muda wa kazi za binadamu. Hilo sasa limebadilika. Kwa siku ya kawaida ya saa 8, kufikia katikati ya Agosti kitengo cha utafiti kilitumia siku 3.1 za kazi ya mawakala kwa kila siku ya kazi ya binadamu.

Njia nyingine ya kuona hili ni kuhesabu watafiti wanaoendesha kazi nyingi sambamba, kama mawakala 4 au zaidi kwa wakati mmoja. Kama inavyoonyeshwa hapa chini, idadi hii inaongezeka. Takwimu hizi zinajumuisha vilele vya kila siku vya mawakala walioanzishwa na mtumiaji moja kwa moja na mawakala wadogo walioundwa na mawakala hao.

Sehemu kubwa ya utafiti wa AI ni kazi inayohitaji juhudi nyingi ili kuingiza uboreshaji wa akili au utendaji katika mmoja wa miundo yetu mikuu. Hatua zote lazima zifaulu pamoja: watafiti hubuni maboresho, huandika tathmini za utendaji na miundombinu ya kuyapima kwa kiwango kikubwa, hubaini hitilafu na tabia zisizo salama au linganifu wakati wa mafunzo, kisha hujumuisha mawazo bora katika mafunzo makuu. Kushindwa kwa sehemu yoyote ya utafiti kunaweza kuzuia mzunguko mzima.

Kuandika msimbo na kuendesha majaribio ni shughuli mbili kuu za watafiti, na tunaona ushahidi kwamba zinaharakishwa.

Data hizi ni rahisi kiasi kupima, lakini zinaweza kuwa ngumu kutafsiri. Kadiri otomatiki inavyoendelea, kazi zenye uwezekano mdogo zaidi wa kufanywa kiotomatiki zitachukua juhudi nyingi zaidi za watafiti na kuwa vikwazo vikuu vya maendeleo. Rasilimali za ukokotoaji pia huzuia maendeleo, na zinaweza kuwa muhimu zaidi kadiri vikwazo vingine vinavyopungua.

Mwaka 2026, majaribio kwa kila mjaribishaji hai yameongezeka; Agosti ilifikia kilele tangu ufuatiliaji uanze Januari 2025. Hili linahusiana na kuenea kwa Codex, ingawa rasilimali zetu za ukokotoaji pia zimeongezeka sana tangu 2025.

Maoni na data ya ndani vinaonyesha mabadiliko ya kazi zinazokabidhiwa mawakala wa usimbaji: kazi za kiwango cha juu na za muda mrefu zinazidi kuwa za kawaida.

Ili kuelewa mwelekeo huu, tulichanganua matumizi ya karibuni katika kitengo cha utafiti kwa uainishaji uliochapishwa hivi karibuni⁠(fungua katika dirisha jipya) na Epoch AI wa kazi katika mzunguko wa utafiti na maendeleo ya AI. Uainishaji huu, uliochochewa na mfumo wa muda mrefu wa O*NET wa kuainisha kazi, umeundwa kwa utafiti na maendeleo ya AI ya mpaka. Una hatua sita kuu:

1. Amua: kazi ya kufanya, ya kuendeleza, pa kugawa rasilimali

2. Buni: mawazo ya utafiti na vipimo vya uhandisi

3. Jenga: msimbo na seti za data

4. Endesha: mafunzo/tathmini, maunzi, utoaji wa huduma

5. Changanua: majaribio, miundo, matumizi, kazi za nje

6. Wasiliana: matokeo, maoni, hali, maamuzi

Hapa chini, tunaainisha tokeni za mawakala wa usimbaji kwa mfumo huu.

Shughuli za makundi yote ya utafiti zimeongezeka kati ya Januari na Agosti 2026. Januari, kundi kubwa lilikuwa msimbo wa utafiti na miundombinu. Kundi hili limepanuka, lakini mengine pia yameongezeka sana, hasa usaidizi wa kiufundi na ufuatiliaji wa uendeshaji. Upangaji wa kiwango cha juu bado ni sehemu ndogo sana ya tokeni za matokeo za mawakala.

Wenzetu wanaripoti kwamba mawakala wa usimbaji hufaulu kutatua matatizo ya miundombinu ya ndani ya utafiti, hivyo kushughulikia kikwazo muhimu cha maendeleo. Timu kadhaa zilizotoa vipindi vya usaidizi kwa majaribio ya watafiti zimeona mahudhurio yakipungua mwaka 2026; moja imevisimamisha kabisa ili kuboresha mifumo kwa njia nyingine.

Hapa tunaonyesha idadi ya machapisho ya kuanzisha mazungumzo kwa siku katika mojawapo ya chaneli kuu za ndani za usaidizi wa kiufundi kwa watafiti. Kwa tunavyojua, kupungua kwa shughuli za chaneli hii hakujafidiwa na maswali kuhamia chaneli nyingine ya usaidizi inayoendeshwa na binadamu. Kupungua kwa shughuli kunaendana na mabadiliko haya mapana.

Tunaweza pia kuchunguza ikiwa mawakala wa usimbaji wanafaulu katika kazi wanazopewa na watafiti. Kiainishaji cha kiwakala kinaonyesha mafanikio yaliongezeka kwa jumla Januari–Julai katika makundi kadhaa ya ugumu, kwa kazi zenye matokeo yanayothibitishika. Ugumu ulikadiriwa kwa muda ambao binadamu angetumia. Hata hivyo, mawakala bado wanahitaji mwongozo mkubwa wa binadamu ili kufanikiwa, hasa kazi zinapozidi kuwa changamano. Katika miezi 6 iliyopita, zaidi ya nusu ya kazi zilizofaulu za saa 4–8 zilihitaji uingiliaji kati mara 1 au zaidi.

Maendeleo kuelekea mifumo yenye uwezo zaidi kwa ajili ya AGI salama na yenye manufaa yatategemea pia hatua za ulinzi zinazohitajika kwa kazi hiyo. Tathmini yetu ya hatua za ulinzi zinazohitajika inaweza kubadilika tunapojifunza zaidi kuhusu hatari.

Kama tulivyoeleza,⁠ hivi karibuni tumesasisha viwango vyetu vya ufuatiliaji, ulinganifu na ulinzi. Hapa, tunaonyesha jinsi vizuizi vya hivi karibuni vimeathiri kipengele kimoja cha shughuli za utafiti.

Julai 20, baada ya kugundua kuwa mawakala walikuwa wamehatarisha miundombinu yetu ya utafiti, tulizima kwa muda huduma ya kontena inayotumika kwa mafunzo, kisha tukairejesha ikiwa na vizuizi vikubwa vya ziada.

Hii ilisababisha kupungua sana kwa rasilimali za ukokotoaji za mafunzo ya RL wakati timu ziliporekebisha mtiririko wa kazi ili kufanya kazi ndani ya mazingira ya utafiti yaliyoimarishwa kiusalama. Grafu iliyo juu inajumuisha kusitishwa kwa wiki mbili kwa mafunzo ya uimarishaji ya miundo yetu ya karibuni iliyokusudiwa kutumika. Majaribio ya RL ya kundi la Astra kati ya Julai 20 na Agosti 6 yanajumuisha shughuli nyingi za uendeshaji (kwa mgao wa GPU) zilizokusudiwa kupima utekelezaji wa maboresho ya usalama na ulinzi.

Agosti 7, ushahidi wa awali kwamba Astra huenda ina uwezo wa kimtandao wa kiwango hatari sana⁠ kulingana na Mfumo wa Maandalizi⁠(fungua katika dirisha jipya) wetu ulisababisha vizuizi vya ziada vya ulinzi kwa muundo huo, vilivyohitaji muundo wa Astra uendeshwe katika mazingira ya utafiti yenye ulinzi wa juu zaidi. Wiki iliyofuata, mgao wa GPU wa kundi la Astra ulipungua kwa asilimia 59.2 zaidi, lakini mgao kwa makundi mengine ya miundo uliongezeka kwa asilimia 17.2. Ongezeko hilo lilifidia takriban asilimia 85 ya upungufu wa kundi la Astra, hivyo jumla ya mgao kwa kazi za RL zilizochanganuliwa haikubadilika sana. Mwelekeo huu unaendana na kuhamishwa kwa baadhi ya mafunzo na majaribio kwenda kwa miundo isiyo ya Astra wakati kazi za Astra zilizuiwa. Pia unaendana na taarifa zisizo rasmi za watafiti kupata matumizi mengine ya rasilimali za ukokotoaji ambazo hazingeweza tena kutumika kwa kazi zilizoathiriwa na vizuizi vipya.

Data hii inatoa kiashiria muhimu kwa mijadala inayoendelea kuhusu mafunzo na usalama: Udhibiti mpya unapoanzishwa, rasilimali za ukokotoaji hubaki na thamani na zinaweza kutumika kwa njia tofauti, hivyo kwa kawaida zitaelekezwa kwa matumizi mengine ndani ya shughuli za utafiti. Kwa muda mrefu, mijadala kuhusu kasi ya maendeleo ya AI inapaswa pia kuzingatia jinsi bora ya kutumia rasilimali za ukokotoaji zilizo chini ya udhibiti mpya au unaopendekezwa.

Kupiga hatua na kuelewa maendeleo kuelekea RSI yenye ulinganifu ni muhimu kwa dhamira yetu. Tutaendelea kuboresha mbinu zetu, kuripoti kuhusu uelewa wetu unaokua, na kujitahidi kufanikisha mjadala wa umma wenye taarifa sahihi na utawala wa kidemokrasia wenye maana wa mifumo ya mpaka.

Utafiti wa AI unaoendeshwa na mawakala bado ni mpya, na bado tunajifunza jinsi ya kuupima. Baadhi ya viashiria, kama kiasi cha msimbo ambacho timu zetu za utafiti huzalisha, ni rahisi kiasi kukusanya lakini ni vigumu kutafsiri, kwa sababu uhusiano wake na maendeleo ya utafiti hauna uhakika. Vipimo vinavyolenga maendeleo ya utafiti moja kwa moja zaidi—kama mara ambazo mawakala hufaulu kazi wanazopewa na watafiti—vinaweza kuwa muhimu zaidi, lakini ni changamano kuviunda na kuvithibitisha. Kinachoongeza ugumu ni kwamba zana na mifumo ambayo watafiti hutegemea inabadilika haraka. Kukuza uelewa wetu wa uharakishaji wa utafiti ni eneo muhimu linalopewa kipaumbele kote OpenAI.

Katika uchanganuzi huu wote, isipobainishwa vinginevyo:

• “Mtafiti” ni neno pana kwa mwanachama yeyote wa kitengo chetu cha utafiti, wakiwemo baadhi wanaojenga miundombinu ya utafiti, wanaosimamia miradi ya utafiti au kusaidia shughuli hizo kwa njia nyingine.

• Vipimo vya matumizi ya mawakala wa usimbaji vinajumuisha matumizi mengi, lakini si yote, kutokana na mabadiliko ya haraka ya zana na mifumo ambayo watafiti hutegemea.