Unapređenje dizajna čipova uz modele OpenAI-ja
Modeli OpenAI-ja ubrzano poboljšavaju čipove koji pokreću AI. U kolovozu smo objavili kako su inženjeri OpenAI-ja upotrijebili naše granične modele da bi ubrzali razvoj našeg prvog prilagođenog čipa za inferenciju, Jalapeño. Ovdje podrobnije razmatramo stručna poboljšanja dizajna koja su donijela napredak čipu Jalapeño te način na koji isti pristup primjenjujemo u suradnji s AMD-om kako bismo znatno poboljšali hardver drugih proizvođača.
Kako bismo izmjerili sposobnost naših modela za cjelovito projektiranje čipova, procijenili smo uzastopne generacije na dvama procesorskim dizajnima otvorenog koda i dobili zanimljive rezultate. Kako bismo razvoj sposobnosti temeljili na pouzdanim alatima za procjenu, surađujemo sa Synopsysom na povezivanju granične inteligencije s alatima za automatizaciju elektroničkog dizajna (EDA) koje inženjeri već upotrebljavaju za projektiranje i provjeru čipova.
Početkom 2025. počeli smo upotrebljavati GPT‑4o kao pomoć pri projektiranju čipa Jalapeño. Čak je i taj rani model pronašao načine za znatna poboljšanja potrošnje energije, performansi i površine (PPA), primjerice:
U vektorskoj jedinici, koja upravlja zadacima paralelnog računanja i izvršava ih, uštede su ostvarene na zbrajalima i množilima za brojeve s pomičnim zarezom, funkcijama pretvorbe, redukcijskoj logici i jedinici za posebne funkcije. Modeli su istraživali alternativne implementacije logike i načine raspodjele izračuna po fazama protočne obrade te pronalazili prilike za zajedničku upotrebu hardvera i smanjenje pohrane međurezultata.
U matričnoj jedinici, aritmetičkoj komponenti, poboljšanja su se zbrajala kroz zbrajala i množila za brojeve s pomičnim zarezom te sklopove za skalarni produkt niske preciznosti. Jedan redizajn množila pri sintezi je zauzimao oko 15 % manju površinu ćelija, uz smanjenje latencije s dva ciklusa takta na jedan. Zaseban redizajn zbrajala smanjio je površinu ćelija za oko 15 %, uz zadržavanje latencije od dva ciklusa. Daljnja poboljšanja logike skalarnog produkta i organizacije protočne obrade donijela su dodatne uštede u cijelom bloku.
Tim procjenjuje da su tijekom cjelokupnog projektiranja čipa Jalapeño izmjene koje su predložili modeli smanjile površinu standardnih ćelija za oko 13 % u vektorskoj jedinici i 10 % u matričnoj jedinici. Te su optimizacije potvrđene na fizičkom čipu tijekom prvog pokretanja i testiranja čipa Jalapeño.
U suradnji s AMD-om na poboljšanjima PPA-a ostvarili smo poboljšanje do 14 % u odnosu na već visoko optimizirane polazne dizajne njihova vodećeg GPU IP-a. Naš je model pronašao dodatna poboljšanja preoblikovanjem koda koji opisuje sklopove čipa (SystemVerilog RTL). Time je u manje od pet mjeseci ostvaren napredak za koji je inače potrebna otprilike godina dana – dosad nezabilježen rezultat na samom vrhu razvoja čipova. AMD je neke od tih izmjena već uključio u nedavni dizajn poslan u proizvodnju, a druge je dodao u svoje produkcijske datoteke dizajna za upotrebu u budućim verzijama.
Uočili smo da model razmatra RTL na razini stručnjaka za mikroarhitekturu. Model može preoblikovati sklopove koji izvode izračune, upravljaju operacijama ili prenose podatke. S pomoću alata Synopsysa provjerio je zadržava li svaka izmjena ponašanje bloka te procijenio kompromise između potrošnje energije, performansi i površine.
AMD je također potvrdio poboljšanja PPA-a u jednoznamenkastim postocima na ključnim blokovima svojeg nadolazećeg vodećeg CPU-a nove generacije, koristeći dizajne koje je izradio naš model. U budućnosti očekujemo daljnja poboljšanja PPA-a GPU-a i CPU-a u odnosu na najoptimiziranije polazne dizajne.
Naši rezultati na čipu Jalapeño i AMD-ovim čipovima pokazuju da modeli mogu poboljšati dizajne namijenjene proizvodnji. Kako bismo izmjerili napredak u sposobnostima projektiranja čipova između generacija modela, svaki smo model testirali na dvjema 32-bitnim jezgrama RISC-V otvorenog koda. PicoRV32 je kompaktna jezgra namijenjena reprogramabilnim čipovima koji se nazivaju FPGA. OpenTitan upotrebljava Ibex kao ugrađeni procesor u svojem sigurnosnom čipu. Obje su potpune procesorske jezgre za zadatke ugrađenih sustava na razini mikrokontrolera.
Svakom smo modelu dali izvorni opis hardvera za svaku jezgru i zatražili da poveća propusnost (broj instrukcija koje jezgra može izvršiti u sekundi). Primjerice, izmjena može omogućiti jezgri da izvrši instrukciju u manje ciklusa takta, ali produljiti trajanje svakog ciklusa. Mjerenje propusnosti obuhvaća oba učinka.
Izlazne rezultate svakog dizajna provjerili smo simulacijom. Dizajni su dobili nula bodova ako nisu prošli neku provjeru ili su zauzimali više od 16 puta veću površinu od izvorne jezgre. Za dizajne koji su prošli provjere mjerili smo broj instrukcija po ciklusu takta na zadacima skrivenima od modela. Izračunali smo geometrijsku sredinu za te zadatke i pomnožili je s maksimalnom frekvencijom takta procijenjenom alatom Yosys. Tako smo dobili procjenu broja instrukcija u sekundi. Za svaku smo jezgru najboljoj propusnosti zabilježenoj uz ista ograničenja dodijelili ocjenu 1,0. Grafikoni prikazuju prosječnu ocjenu svih pokušaja, uključujući one ocijenjene nulom.
Uz usporediv broj od oko 112.000 dodijeljenih tokena po pokušaju, GPT‑6.2 Astra ostvario je najvišu prosječnu ocjenu na objema jezgrama. GPT‑6.1 Sol također je na objema nadmašio GPT‑5.6 Sol.
Na postojećoj jezgri PicoRV32 GPT‑6.2 Astra postiže najvišu prosječnu ocjenu pri većim, usporedivim brojevima dodijeljenih tokena. Pri oko 112.000 tokena njegova je ocjena otprilike dvostruko viša od ocjene modela GPT‑6 Astra.
Na postojećoj jezgri Ibex prosječna ocjena modela GPT‑6.2 Astra nastavlja rasti s većim brojem dodijeljenih tokena. Rezultati modela GPT‑6 Astra i GPT‑6.1 Sol međusobno su bliži.
U drugom smo zadatku svakom modelu dali pisane zahtjeve i predloške iz otvorenog koda koji prikazuju kako se jezgra povezuje s ostatkom sustava. Model je odabrao način kretanja podataka kroz jezgru i raspodjelu rada po fazama. Za svaku smo jezgru zadržali iste provjere ispravnosti, postavke memorije i predmemorije te ciljeve propusnosti kao u zadatku optimizacije RTL-a.
Pri oko 112.000 tokena po pokušaju svih je pet modela postiglo više ocjene kada su projektirali jezgru prema pisanim zahtjevima nego kada su pokušavali poboljšati postojeći dizajn. To je vrijedilo i za PicoRV32 i za Ibex. GPT‑6.2 Astra ostvario je veći napredak na Ibexu nego na PicoRV32. Cjelokupna procjena obuhvatila je 9.881 ocijenjeni pokušaj kroz oba zadatka, obje jezgre i sve razine dodijeljenih tokena.
Polazeći od specifikacije za PicoRV32, GPT‑6.2 Astra premašuje prosječnu ocjenu 0,7 pri oko 112.000 tokena i postiže više ocjene pri sljedećim dvama promatranim brojevima dodijeljenih tokena.
Pri projektiranju Ibexa iz specifikacije GPT‑6.2 Astra postiže prosječnu ocjenu oko 0,75 pri približno 112.000 tokena. Njegova krivulja ostaje iznad ostalih i pri većim brojevima tokena dodijeljenima svim modelima.
Polazak od pisanih zahtjeva daje modelima slobodu da izostave značajke izvornih jezgri, poput brojača performansi i dodatnih instrukcija. Te značajke možda tek neznatno pridonose propusnosti na testnim zadacima, što bi moglo djelomično objasniti prednost u ocjenama. Kad bi te značajke bile obvezne, ograničenje površine sklopa strože, a vremenski parametri provjeravani nakon fizičke sinteze, test bi vjernije odražavao projektiranje čipova za proizvodnju.
Pokazali smo da naši modeli mogu istraživati nove procesorske arhitekture u procjenama na RISC-V-u te smo pridonijeli novim poboljšanjima već sofisticiranih dizajna namijenjenih proizvodnji, poput čipa Jalapeño i AMD-ova vodećeg GPU-a i CPU-a nove generacije. Kako bismo razvoj modela temeljili na pouzdanim alatima za procjenu i obuhvatili širi raspon projektantskih izazova, surađujemo sa Synopsysom na treniranju novog modela GPT‑Synopsys(otvara se u novom prozoru) za upotrebu Synopsysovih alata za automatizaciju elektroničkog dizajna (EDA) na način na koji ih upotrebljavaju iskusni projektanti čipova.


