Kako model GPT‑5.6 združuje prelomno inteligenco in prelomno učinkovitost

Družino modelov GPT‑5.6 smo zasnovali tako, da pri vseh nalogah, za katere ljudje uporabljajo naše modele, uravnoteži zmogljivost in stroške. Naš osrednji model GPT‑5.6 Sol z najvišjo ravnjo sklepanja po indeksu Artificial Analysis Coding Agent Index prekaša model Claude Fable 5 pri manj kot polovici stroškov. Terra se na primerjalnih preizkusih inteligence odreže enako dobro kot model GPT‑5.5, vendar stane polovico manj, Luna pa je naš najhitrejši in najugodnejši model, saj stane 80 % manj kot Sol. Da bi dosegli to učinkovitost, so naše raziskovalne in tehnične ekipe izvedle pomembne optimizacije na vseh glavnih plasteh tehnološkega sklada. Te izboljšave zajemajo naše modele, sklepanje (način izvajanja modelov za ustvarjanje izhodnih rezultatov) in agentsko ogrodje, ki ga uporabljata Codex in ChatGPT Work.

Ker smo uporabo svojih modelov v zadnjih štirih letih razširili na milijardo aktivnih uporabnikov in več kot dva milijona podjetij, je bila učinkovitost ključna za širjenje koristi inteligence med vse ljudi. Naše poslanstvo je zagotoviti, da bo splošna umetna inteligenca koristila vsemu človeštvu. V teh letih smo si nenehno prizadevali omogočati večje optimizacije celotnega tehnološkega sklada, da bi na vsaki točki krivulje med stroški in inteligenco ponudili najzmogljivejše modele. Z modelom GPT‑5.6, ki je naučen opraviti več dela na žeton, smo dosegli doslej največjo učinkovitost inteligence na žeton. Med usposabljanjem optimiziramo tako uspešnost pri nalogah kot učinkovitost, s čimer model usmerjamo k bolj neposredni poti skozi nalogo.

V tej objavi pogledamo onkraj modelov in predstavimo, kako smo učinkovitost vgradili v druga dva glavna dela tehnološkega sklada: 1) sklepanje, kjer z optimizacijo uravnoteženja obremenitve, špekulativnega dekodiranja, predpomnjenja in jeder iz iste strojne opreme pridobimo več izhodnih rezultatov, ter 2) naše agentsko ogrodje, vključno z boljšim upravljanjem napihovanja konteksta, uporabe orodij in ponavljajočega se dela. Predstavili bomo tudi vlogo modela GPT‑5.6 Sol pri samostojnem doseganju več teh izboljšav. Čeprav se posamezna izboljšava morda zdi omejena, se učinki seštevajo in nam omogočajo doseganje prelomne ravni inteligence in učinkovitosti.

V svetu omejenih računskih virov, kjer povpraševanje po modelih raste hitreje kot zmogljivosti, je učinkovitost temelj vsake zasnove sistema. To še posebej velja za naš sklad za izvajanje sklepanja, ki z izvajanjem naučenih modelov ustvarja odgovore. Naš glavni cilj je z isto strojno opremo obdelati več žetonov ter hkrati ohraniti inteligenco, odzivnost, razpoložljivost in zanesljivost, ki jih uporabniki pričakujejo.

Za to je treba optimizirati celoten sistem. Model je lahko sam po sebi zelo učinkovit, vendar je njegovo izvajanje še vedno drago, če so zahteve slabo porazdeljene, če strojna oprema miruje ali če premikanje podatkov upočasnjuje računanje. Izboljšave na vseh plasteh se seštevajo: koristi prinašajo optimizacije usmerjanja (kam se pošljejo zahteve), razporejanja (kdaj se pošljejo), jeder (programske opreme, ki se izvaja na grafičnih procesorjih), predpomnjenja (shranjenega in ponovno uporabljenega dela) ter izvedbe modela (vrstnega reda kode za grafične procesorje). GPT‑5.6 Sol v Codexu je imel ključno vlogo pri vseh teh optimizacijah.

Prvi pomemben primer je uravnoteženje obremenitve. Zahteve po svetu usmerjamo glede na dejavnike, kot so zemljepisna lokacija, razpoložljive zmogljivosti in vrsta pospeševalnika (vrsta grafičnega procesorja (GPE) ali namenskega čipa, v katerem se izvaja model). Znotraj gruče delo porazdelimo med primerke modela glede na obremenitev, dolžino konteksta, razpoložljivost predpomnilnika in druge lastnosti zahteve. Znotraj vsakega primerka je nato treba delo učinkovito razdeliti med pospeševalnike, podomrežja modela in računska jedra. GPT‑5.6 Sol v Codexu nam pomaga analizirati produkcijski promet, odkrivati prej spregledane vzroke neravnovesij, preizkušati nove strategije usmerjanja in nenehno prilagajati te hevristike. Že samo te izboljšave uravnoteženja obremenitve so močno zmanjšale stroške izvajanja naših modelov.

GPT‑5.6 Sol smo uporabili tudi za optimizacijo prehoda modela naprej: izračuna, ki vhode pretvori v napovedi naslednjega žetona. Tudi če so posamezne operacije hitre, lahko čezmerno premikanje pomnilniških podatkov, sinhronizacija in neučinkovita razporeditev podatkov povzročijo mirovanje grafičnih procesorjev (GPE). Model GPT‑5.6 Sol je zato odkril delo, ki ga je mogoče izračunati vnaprej, opustiti ali vzporedno izvajati. GPT‑5.6 Sol je s Codexom samostojno prepisal in optimiziral naša produkcijska jedra, temeljno kodo za izvajanje matematičnih operacij, iz katerih je sestavljen model. To je deloma uspelo zato, ker smo GPT‑5.6 naučili učinkovito pisati in izboljševati jedra v jezikih Triton⁠(odpre se v novem oknu) in Gluon⁠(odpre se v novem oknu), odprtokodnih programskih jezikih za grafične procesorje, ki ju vzdržuje OpenAI. Ta prizadevanja so skupaj s širšimi izboljšavami jeder, ki jih je dosegel GPT‑5.6 Sol, zmanjšala skupne stroške izvajanja za 20 %. Veliko smo vložili tudi v orodja za preverjanje, kot je odprtokodno orodje FpSan⁠(odpre se v novem oknu) (preverjevalnik operacij s plavajočo vejico), ki pomaga potrditi pravilnost jeder, ki jih napiše model GPT‑5.6 Sol.

Špekulativno dekodiranje je še en način izboljšanja hitrosti in učinkovitosti. Pri tej tehniki ob glavnem modelu deluje manjši idejni model (oziroma »špekulant«), ki predlaga več žetonov, glavni model pa jih vzporedno preveri. Ko so ti predlogi sprejeti, lahko sistem z enim prehodom glavnega modela ustvari več izhodnih žetonov in tako zmanjša količino dragega zaporednega računanja. GPT‑5.6 Sol je izboljšal svoj idejni model tako, da je zasnoval in izvedel na stotine preizkusov njegove arhitekture ter preveril spremembe velikosti, zgradbe in funkcij. GPT‑5.6 Sol je poleg tega zagnal in spremljal proces usposabljanja špekulanta ter samostojno posredoval ob težavah, med drugim ob okvarah strojne opreme in nestabilnosti usposabljanja. Te izboljšave so učinkovitost ustvarjanja žetonov povečale za več kot 15 %.

Pri obdelavi nepredpomnjenih vhodnih žetonov model v enem računsko zahtevnem prehodu zgradi predpomnilnik parov ključev in vrednosti (KV), pri ustvarjanju izhoda pa ga vedno znova bere in dopolnjuje. Optimalna konfiguracija izvajanja, kot so paketna obdelava, razdeljevanje in upravljanje parov KV, je močno odvisna od delovne obremenitve – dolžine poziva in izhoda, velikosti paketa, stopnje zadetkov predpomnilnika, lastnosti poizvedb in drugega. Vendar je bil prostor možnih konfiguracij prej prevelik za sistematično prilagajanje, zato so se morali inženirji zanašati na splošne hevristike. Z modelom GPT‑5.6 Sol v Codexu smo lahko analizirali produkcijske obremenitve, ustvarili in ovrednotili možne konfiguracije ter skrajno optimizirali nastavitve pogona in modela za vsak scenarij. S tem je postala izvedljiva nova raven optimizacije, prilagojene posameznim delovnim obremenitvam, ki iz iste strojne opreme pridobi več uporabnega izvajanja sklepanja.

Optimizacija sklepanja je neprekinjena povratna zanka. Merimo delovanje v produkciji, odkrivamo največje vrzeli, uvajamo spremembe in preverjamo, ali izboljšujejo celotni sistem, ne le posameznega primerjalnega preizkusa. GPT‑5.6 Sol in Codex pospešujeta vsak del te zanke. Naša ekipa lahko zato razišče več zamisli, se hitreje odziva na spreminjajoče se obremenitve ter ustvari sklad za izvajanje sklepanja z manjšo zakasnitvijo, večjo zmogljivostjo in nižjimi stroški za uporabnike.

ChatGPT Work in Codex opravita kompleksne naloge z nizom zahtev za model in klicev orodij. Codex lahko v eni izmenjavi – od uporabnikove zahteve do končnega odgovora – pregleda izvorno kodo, preišče zgodovino uvedb, prebere poročila o incidentih, uredi datoteko in zažene preizkuse. Vsak korak lahko poda novo zahtevo.

Priprava konteksta, prenos podatkov, izvajanje sklepanja, klicanje orodij in zaganjanje procesov zahtevajo čas in računske vire. Če naloga zahteva 30 zahtev za model, se dodatna sekunda pri vsaki hitro sešteje. Izboljšanje skupne zmogljivosti pomeni zmanjšanje ponavljajočega se dela v celotnem sistemu, ne le pospešitve modela.

Ti množilni učinki so usmerjali zasnovo našega agentskega ogrodja, orkestracijske plasti v jeziku Rust, ki povezuje naše modele, orodja in uporabnikovo okolje. V nadaljevanju pojasnjujemo, kako učinkovitost vsakokratne zahteve izboljšajo preprečevanje napihovanja konteksta, nalaganje orodij in ponovna uporaba že opravljenega dela.

Ko agenti dobivajo dostop do vse več orodij, veščin, vtičnikov in zgodovine pogovorov, se lahko kontekstna okna hitro razširijo. To poveča stroške, odvrača pozornost modela in sproža nepotrebno sklepanje. Ogrodje lahko te režijske stroške zmanjša z odloženim odkrivanjem, pri katerem integracije, orodja MCP po meri, veščine in vtičniki postanejo razpoložljivi šele, ko so potrebni. Ogrodje tudi preprečuje, da bi posamezna orodja in integracije MCP nepričakovano zapolnili kontekstno okno. Izhod orodij je privzeto omejen na 10.000 žetonov, razen če model zahteva drugačno omejitev.

Kot smo že omenili, lahko zanka agenta v eni izmenjavi grafičnim procesorjem (GPE) večkrat pošlje ista navodila, zgodovino pogovora, definicije orodij in prejšnje rezultate. Obdelava teh ponavljajočih se vnosov je draga, zato predpomnjenje pozivov ponovno uporabi izračun, povezan s predpono že obdelanega poziva. Da bi ogrodje ohranilo to predpono, vso zgodovino, vidno modelu, obravnava kot vsebino, ki jo je mogoče le dopolnjevati: nova sporočila, rezultati orodij in posodobitve okolja se dodajo na konec, namesto da bi jih vstavljali v predhodni kontekst. Tudi orodja so predstavljena v nespremenljivem vrstnem redu, medtem ko se nastavitve izvajalnega okolja, kot so pravilniki odobritev, uporabijo med izvajanjem in niso vdelane v definicije orodij. Ta oblikovalska odločitev prispeva k visoki skupni stopnji zadetkov predpomnilnika pozivov v Codexu in modelu ChatGPT Work.

Večja učinkovitost, ki smo jo dosegli z modelom GPT‑5.6, je rezultat večletnega kopičenja izboljšav v celotnem tehnološkem skladu, od raziskav in izvajanja sklepanja do našega agentskega ogrodja. Vloga modela GPT‑5.6 pri uresničevanju številnih od teh izboljšav nam vliva optimizem glede pospeševanja optimizacij. Poleg temeljnih izboljšav tehnološkega sklada bomo še naprej izvajali obsežnejše optimizacije na področjih, kakršno je optimizacija jeder. Veselimo se, da bomo te stalne izboljšave v ozadju prenesli do uporabnikov in strank v obliki širše dostopne in stroškovno učinkovite inteligence.

Posebna zahvala gre Matthewju Ferrariju, Philippu Tilletu, Ahmedu Ibrahimu, Joeju Gershensonu in Stevu Coffeyju, članom tehničnega osebja, za njihov prispevek k tej objavi.