Jinsi GPT‑5.6 huunganisha uwezo na ufanisi wa AI ya juu zaidi

Tulibuni familia ya miundo ya GPT‑5.6 ili kusawazisha uwezo na gharama katika aina mbalimbali za kazi ambazo watu hutumia miundo yetu kufanya. Muundo wetu mkuu, GPT‑5.6 Sol, wenye uwazaji wa Max, unaizidi Claude Fable 5 kwenye Artificial Analysis Coding Agent Index kwa gharama iliyo chini ya nusu. Terra hufanya vizuri sawa na GPT‑5.5 katika vipimo vya uwezo wa AI kwa nusu ya bei, na Luna ndiyo muundo wetu wa kasi na wa bei nafuu zaidi, wenye bei iliyo chini kwa 80% kuliko gharama ya Sol. Ili kufanikisha ufanisi huu, timu zetu za utafiti na ufundi zimefanya maboresho makubwa katika kila safu kuu ya mfumo wetu. Maboresho haya yanahusisha miundo yetu, uelekezaji (jinsi tunavyoendesha miundo ili kutoa matokeo) na mazingira yetu ya uendeshaji ya kiwakala, yanayotumiwa na Codex na ChatGPT Work.

Tulipopanua miundo yetu kufikia watumiaji amilifu bilioni 1 na biashara zaidi ya milioni 2 katika miaka minne iliyopita, ufanisi umekuwa kiini cha kusambaza manufaa ya uwezo wa AI kwa kila mtu. Dhamira yetu ni kuhakikisha kwamba uwezo wa AI unde ya jumla inanufaisha wanadamu wote. Katika miaka hii, tumefanya kazi kuendelea kufanikisha maboresho makubwa katika mfumo wetu ili kutoa miundo yenye utendaji bora zaidi katika kila kiwango cha uwiano wa gharama na uwezo wa AI. Tulifikia kiwango chetu bora zaidi cha ufanisi wa uwezo wa AI kwa kila tokeni kupitia GPT‑5.6, ambayo imefunzwa kukamilisha kazi zaidi kwa kila tokeni. Wakati wa mafunzo, tunaboresha mafanikio ya kazi pamoja na ufanisi, na kuufundisha muundo kufuata njia ya moja kwa moja zaidi katika kazi.

Makala haya yanaangalia zaidi ya miundo yetu na kueleza jinsi tulivyolenga ufanisi kupitia maendeleo katika sehemu nyingine mbili kuu za mfumo: 1) uelekezaji, kwa kuboresha michakato kama usawazishaji wa mzigo, usimbuaji wa kubashiri, akiba na uboreshaji wa kernel ili kupata matokeo zaidi kutoka kwenye maunzi yale yale; na 2) mazingira yetu ya uendeshaji ya kiwakala, ikiwemo usimamizi bora wa kujaa kwa muktadha, matumizi ya zana na kazi inayorudiwa. Pia tutaeleza jukumu la GPT‑5.6 Sol katika kufanikisha kwa kujitegemea baadhi ya maboresho haya. Ingawa kila boresho likitazamwa peke yake linaweza kuonekana dogo, mafanikio haya hujilimbikiza na kutuwezesha kuwa kwenye kiwango cha juu zaidi cha uwezo na ufanisi wa AI.

Katika ulimwengu wenye ukomo wa uwezo wa ukokotoaji, ambapo mahitaji ya miundo yanaongezeka kwa kasi kuliko uwezo uliopo, ufanisi ni msingi wa kila usanifu wa mfumo. Hilo ni muhimu hasa katika mfumo wetu wa uelekezaji, unaoendesha miundo iliyofunzwa ili kutoa majibu. Lengo letu kuu ni kuhudumia tokeni zaidi kwa maunzi yale yale, huku tukidumisha uwezo wa AI, muda wa kusubiri, upatikanaji na utegemewaji ambao watumiaji wanatarajia.

Kufanikisha hili kunahitaji kuboresha mfumo mzima. Muundo unaweza kuwa na ufanisi mkubwa ukiwa peke yake, lakini bado ukawa ghali kuhudumia ikiwa maombi yanasambazwa vibaya, maunzi hayatumiki au uhamishaji wa data unapunguza kasi ya ukokotoaji. Maboresho katika kila safu hujilimbikiza, yakitokana na uboreshaji wa uelekezaji (maombi yanapotumwa), upangaji wa ratiba (wakati maombi yanapotumwa), kernel (programu zinazoendeshwa kwenye GPU), akiba (kazi inayohifadhiwa na kutumiwa tena) na utekelezaji wa muundo (mpangilio wa msimbo wa GPU). GPT‑5.6 Sol katika Codex ilikuwa na jukumu muhimu katika maboresho haya yote.

Mfano muhimu wa kwanza ni usawazishaji wa mzigo. Duniani kote, tunaelekeza maombi kulingana na vipengele kama eneo la kijiografia, uwezo unaopatikana na aina ya kiongeza kasi (aina ya GPU au chipu maalum inayoendesha muundo). Ndani ya kishada, tunasambaza kazi katika matukio ya muundo kulingana na mzigo, urefu wa muktadha, upatikanaji wa akiba na sifa nyingine za ombi. Kisha, ndani ya kila tukio, kazi lazima igawanywe kwa ufanisi kati ya viongeza kasi, mitandao midogo ya muundo na viini vya ukokotoaji. GPT‑5.6 Sol katika Codex hutusaidia kuchanganua trafiki ya uzalishaji, kutambua vyanzo vya ukosefu wa usawa vilivyopuuzwa awali, kujaribu mikakati mipya ya uelekezaji na kurekebisha kanuni hizi kila wakati. Maboresho haya ya usawazishaji wa mzigo pekee yalipunguza sana gharama ya kuhudumia miundo yetu.

Pia tulitumia GPT‑5.6 Sol kuboresha pitio la mbele la muundo: ukokotoaji unaobadilisha ingizo kuwa utabiri wa tokeni inayofuata. Hata ikiwa operesheni binafsi ni za haraka, uhamishaji mwingi wa kumbukumbu, ulandanishaji na mipangilio isiyofaa ya data vinaweza kuacha GPU bila kazi. Ili kuepuka hili, GPT‑5.6 Sol ilitambua kazi inayoweza kukokotolewa mapema, kuepukwa au kufanywa sambamba. Kwa kutumia Codex, GPT‑5.6 Sol iliandika upya na kuboresha kwa kujitegemea kernel zetu za uzalishaji, yaani msimbo mkuu unaotekeleza operesheni za kihisabati zinazounda muundo. Hili liliwezekana kwa sehemu kwa sababu tumeifundisha GPT‑5.6 kuandika na kuboresha kernel kwa ufanisi katika Triton⁠(fungua katika dirisha jipya) na Gluon⁠(fungua katika dirisha jipya), lugha mbili huria za kupanga GPU zinazodumishwa na OpenAI. Juhudi hizi, pamoja na maboresho mapana ya kernel kutoka GPT‑5.6 Sol, zilipunguza gharama za huduma kutoka mwanzo hadi mwisho kwa 20%. Pia tumewekeza sana katika zana za uthibitishaji, kama zana huria ya FpSan⁠(fungua katika dirisha jipya) (Kisafishaji cha Nukta Inayoelea), ili kusaidia kuthibitisha usahihi wa kernel zilizoandikwa na GPT‑5.6 Sol.

Usimbuaji wa kubashiri ni njia nyingine ya kuboresha kasi na ufanisi. Mbinu hii huendesha muundo mdogo wa rasimu (au “mkisiaji”) sambamba na muundo mkuu, na kupendekeza tokeni kadhaa ili muundo mkuu uzithibitishe kwa pamoja. Mapendekezo hayo yanapokubaliwa, mfumo unaweza kutoa tokeni nyingi za matokeo kwa pitio moja la muundo mkuu, hivyo kupunguza ukokotoaji ghali unaofanywa kwa mfuatano. GPT‑5.6 Sol iliboresha muundo wake wa rasimu kwa kubuni na kufanya mamia ya majaribio kuhusu usanifu wake, ikijaribu mabadiliko ya ukubwa, muundo na vipengele. Zaidi ya hayo, GPT‑5.6 Sol ilianzisha na kufuatilia mchakato wa kufundisha mkisiaji, na kuingilia kati kwa kujitegemea matatizo yalipotokea, yakiwemo hitilafu za maunzi na ukosefu wa uthabiti wa mafunzo. Maboresho yaliyotokana na juhudi hizo yaliongeza ufanisi wa kutengeneza tokeni kwa zaidi ya 15%.

Unapochakata tokeni za ingizo ambazo haziko kwenye akiba, muundo huunda akiba ya thamani-ufunguo (KV) katika pitio moja linalotumia ukokotoaji mwingi; unapozalisha matokeo, huendelea kusoma kutoka kwenye akiba hiyo na kuipanua. Usanidi bora wa kuhudumia, kama vile uwekaji katika makundi, ugawaji katika visehemu na usimamizi wa KV, hutegemea sana mzigo wa kazi—urefu wa maelekezo na matokeo, ukubwa wa kundi, kiwango cha mafanikio ya akiba, sifa za hoja na mengineyo. Hata hivyo, hapo awali nafasi ya usanidi ilikuwa kubwa mno kurekebishwa kwa utaratibu, hivyo wahandisi walilazimika kutegemea kanuni za jumla. Kwa GPT‑5.6 Sol katika Codex, tuliweza kuchanganua mizigo ya uzalishaji, kutengeneza na kutathmini usanidi unaowezekana, na kuboresha kupita kiasi jinsi injini na muundo zinavyosanidiwa kwa kila hali. Hili linawezesha kiwango kipya cha uboreshaji mahususi kwa mzigo wa kazi, na kupata uelekezaji wenye manufaa zaidi kutoka kwenye maunzi yale yale.

Uboreshaji wa uelekezaji ni mzunguko endelevu wa maoni. Tunapima tabia ya mfumo wa uzalishaji, kutambua mapengo makubwa zaidi, kutekeleza mabadiliko na kuthibitisha kwamba yanaboresha mfumo mzima badala ya kipimo kimoja cha utendaji. GPT‑5.6 Sol na Codex huharakisha kila sehemu ya mzunguko huo. Hii inamaanisha timu yetu inaweza kuchunguza mawazo zaidi, kukabiliana haraka na mabadiliko ya mizigo ya kazi, na kuunda mfumo wa uelekezaji wenye muda mfupi wa kusubiri, uwezo mkubwa na gharama ndogo kwa watumiaji.

ChatGPT Work na Codex hukamilisha kazi changamano kupitia mfululizo wa maombi kwa muundo na miito ya zana. Katika zamu moja—kuanzia ombi la mtumiaji hadi jibu la mwisho—Codex inaweza kukagua msimbo chanzo, kutafuta historia ya upelekaji, kusoma ripoti za matukio, kuhariri faili na kufanya majaribio. Kila hatua inaweza kuhitaji ombi.

Kuandaa muktadha, kusambaza data, kuendesha uelekezaji, kuita zana na kuanzisha michakato vyote hutumia muda na nguvu za ukokotoaji. Ikiwa kazi inahitaji maombi 30 kwa muundo, sekunde moja ya ziada kwa kila ombi hujikusanya. Kuboresha utendaji wa jumla kunamaanisha kupunguza kazi inayorudiwa katika mfumo mzima, si tu kuongeza kasi ya muundo.

Athari hizi zinazozidiana zimeongoza usanifu wa mazingira yetu ya uendeshaji ya kiwakala, ambayo ni safu ya uratibu ya Rust inayounganisha miundo yetu, zana na mazingira ya mtumiaji. Sasa tutaeleza jinsi kuepuka kujaa kwa muktadha, kupakia zana na kutumia kazi tena kunavyofanya kila ombi liwe na ufanisi zaidi.

Mawakala wanapopewa ufikiaji wa zana, ujuzi, programu-jalizi na historia zaidi ya mazungumzo, madirisha ya muktadha yanaweza kupanuka kwa urahisi. Hali hii huongeza gharama, huukengeusha muundo na kusababisha uwazaji usiohitajika. Mazingira ya uendeshaji yanaweza kupunguza mzigo huu kupitia ugunduzi ulioahirishwa, unaofanya miunganisho, zana maalum za MCP, ujuzi na programu-jalizi zionekane tu zinapohitajika. Mazingira ya uendeshaji pia huzuia zana binafsi na miunganisho ya MCP kutumia dirisha la muktadha bila kutarajiwa. Kwa chaguomsingi, matokeo ya zana yana kikomo cha tokeni 10,000 isipokuwa muundo uombe kikomo tofauti.

Kama ilivyotajwa awali, mzunguko wa wakala unaweza kutuma maagizo yale yale, historia ya mazungumzo, ufafanuzi wa zana na matokeo ya awali kwa GPU mara nyingi ndani ya zamu moja. Kuchakata ingizo hili linalorudiwa ni ghali, kwa hivyo akiba ya maelekezo hutumia tena ukokotoaji unaohusishwa na kiambishi awali cha maelekezo lililochakatwa hapo awali. Ili kuhifadhi kiambishi hicho, mazingira ya uendeshaji huchukulia historia yote inayoonekana na muundo kuwa ya kuongezewa tu: ujumbe mpya, matokeo ya zana na masasisho ya mazingira huongezwa mwishoni badala ya kuingizwa katika muktadha wa awali. Zana pia huwasilishwa kwa mpangilio thabiti, huku mipangilio ya wakati wa utekelezaji, kama vile sera za kuidhinisha, ikitumika wakati wa utekelezaji badala ya kupachikwa katika ufafanuzi wa zana. Uamuzi huu wa usanifu unachangia viwango vya juu vya jumla vya mafanikio ya akiba ya maelekezo katika Codex na ChatGPT Work.

Mafanikio ya ufanisi tuliyopata kwa GPT‑5.6 yametokana na maboresho yaliyoongezeka kwa miaka mingi katika mfumo mzima, kuanzia utafiti na uelekezaji hadi mazingira yetu ya uendeshaji ya kiwakala. Jukumu la GPT‑5.6 katika kufanikisha mengi ya maboresho haya linatupa matumaini kuhusu jinsi kasi ya uboreshaji itakavyoongezeka. Tutaendelea kufanya maboresho makubwa zaidi katika maeneo kama uboreshaji wa kernel, sambamba na maboresho ya msingi katika mfumo wetu. Tunatazamia kuwafikishia watumiaji na wateja wetu maboresho haya endelevu ya ndani kupitia uwezo wa AI inayopatikana kwa watu wengi zaidi na yenye gharama nafuu.

Shukrani za pekee kwa Matthew Ferrari, Philippe Tillet, Ahmed Ibrahim, Joe Gershenson na Steve Coffey, Wafanyakazi wa Kiufundi, kwa michango yao katika makala haya.