OpenAI

Nobyembre 18, 2026

PananaliksikPaglalathala

Pagsulong ng disenyo ng chip gamit ang mga modelo ng OpenAI

Mabilis na pinapahusay ng mga modelo ng OpenAI ang mga chip na nagpapatakbo sa AI. Noong Agosto,⁠ ibinahagi namin kung paano ginamit ng mga inhinyero ng OpenAI ang aming mga frontier na modelo para pabilisin ang pagbuo ng Jalapeño, ang aming unang custom inference chip. Dito, mas detalyado naming tatalakayin ang mga pagpapahusay sa disenyo na nasa antas ng eksperto at naghatid ng mga pag-unlad sa Jalapeño, at kung paano namin inilalapat ang parehong paraan para makamit ang malalaking pag-unlad sa hardware ng ibang kumpanya, katuwang ang AMD.

Para masukat ang kakayahan ng aming modelo sa mga gawain sa pagdidisenyo ng chip mula simula hanggang dulo, sinuri namin ang magkakasunod na henerasyon gamit ang dalawang open-source na disenyo ng processor at nakakuha kami ng mga kawili-wiling resulta. At para ibatay ang pagpapaunlad ng kakayahan sa mga mapagkakatiwalaang sistema ng pagsusuri, nakikipagtulungan kami sa Synopsys upang isama ang frontier na talino sa mga electronic design automation (EDA) tool na ginagamit na ng mga inhinyero sa pagdisenyo at pag-verify ng mga chip.

Pagpapahusay sa mga compute block ng Jalapeño

Nagsimula kaming gumamit ng GPT‑4o para tumulong sa pagdisenyo ng Jalapeño noong unang bahagi ng 2025. Kahit ang naunang modelong iyon ay nakahanap na ng mga paraan para makamit ang mahahalagang pagpapahusay sa PPA, gaya ng:

Sa vector unit, na namamahala at nagsasagawa ng mga parallel computing task, nagmula ang mga natipid sa mga floating-point adder at multiplier, conversion function, reduction logic, at special-function unit. Sinubukan ng mga modelo ang mga alternatibong implementasyon ng logic at mga paraan ng paghahati ng mga kalkulasyon sa mga yugto ng pipeline. Nakahanap ang mga ito ng mga pagkakataong gumamit ng iisang hardware para sa iba't ibang gawain at bawasan ang pansamantalang storage.

Sa matrix unit, isang bahaging nagsasagawa ng aritmetika, nagpatong-patong ang mga pagpapahusay sa mga floating-point adder, multiplier, at low-precision dot-product circuit. Isang bagong disenyo ng multiplier ang gumamit ng humigit-kumulang 15% na mas maliit na cell area sa synthesis habang binabawasan ang latency mula dalawang clock cycle tungo sa isa. Isang hiwalay na bagong disenyo ng adder ang nagpaliit ng cell area nang humigit-kumulang 15% habang pinananatili ang latency nitong dalawang cycle. Ang iba pang pagpapahusay sa dot-product logic at pagkakaayos ng pipeline ay naghatid ng karagdagang pagtitipid sa buong block.

Sa kabuuang pagdidisenyo ng Jalapeño, tinataya ng team na ang mga pagbabagong iminungkahi ng modelo ay nagpaliit ng standard-cell area nang humigit-kumulang 13% sa vector unit at 10% sa matrix unit. Napatunayan ang mga pag-optimize na ito sa aktuwal na silicon noong unang pagpapatakbo at pagsubok sa silicon ng Jalapeño⁠.

Ang pakikipagtulungan namin sa AMD

Nakipagtulungan kami sa AMD sa pagpapahusay ng PPA at nakakita ng hanggang 14% pag-unlad kumpara sa mga baseline na lubos nang na-optimize sa flagship GPU IP. Natukoy ng aming modelo ang mga karagdagang pagpapahusay sa pamamagitan ng muling pagsulat ng code na naglalarawan sa mga circuit ng chip (SystemVerilog RTL). Katumbas ito ng humigit-kumulang isang taong pag-unlad na nakamit sa wala pang 5 buwan–mga resultang hindi pa nakikita sa pinakasulong na larangan ng pagdidisenyo ng chip. Isinama na ng AMD ang ilan sa mga pagbabagong ito sa isang kamakailang disenyo na ipinadala nito para gawin, at idinagdag ang iba sa mga production design file nito para magamit sa mga susunod na bersyon.

Naobserbahan naming mangatwiran ang modelo tungkol sa RTL sa antas ng isang ekspertong microarchitect. Kayang muling isulat ng modelo ang mga circuit na nagsasagawa ng mga kalkulasyon, kumokontrol sa mga operasyon, o naglilipat ng data. Gumamit ito ng mga tool ng Synopsys para i-verify na napanatili ng bawat muling pagsulat ang paggana ng block, at para suriin ang mga trade-off sa konsumo ng kuryente, performance, at area.

Napatunayan din ng AMD ang mga pag-unlad sa PPA na may single-digit na porsiyento sa mahahalagang block ng paparating nitong next-generation flagship CPU, gamit ang mga disenyong isinulat ng aming modelo. Sa hinaharap, inaasahan namin ang higit pang pagpapahusay sa PPA ng GPU at CPU kumpara sa pinakana-optimize na baseline.

Pag-optimize ng mga RISC-V core

Ipinapakita ng aming mga resulta sa Jalapeño at sa mga chip ng AMD na kayang pahusayin ng mga modelo ang mga disenyong ginagamit sa produksyon. Para masukat ang pag-unlad ng mga kakayahan sa pagdisenyo ng chip mula sa isang henerasyon ng modelo tungo sa susunod, sinubukan namin ang bawat modelo sa dalawang open-source na 32-bit RISC-V core. Ang PicoRV32 ay isang compact na core na idinisenyo para sa mga reprogrammable na chip na tinatawag na FPGA. Ginagamit ng OpenTitan ang Ibex bilang embedded processor sa security chip nito. Bawat isa ay isang kumpletong processor core para sa mga embedded workload na pang-microcontroller.

Ibinigay namin sa bawat modelo ang orihinal na paglalarawan ng hardware para sa bawat core at hiniling ditong pataasin ang throughput (ang bilang ng mga instruction na kayang isagawa ng core bawat segundo). Halimbawa, maaaring mapabawas ng isang pagbabago ang mga clock cycle na kailangan ng core para matapos ang isang instruction, pero mapahaba naman ang bawat cycle. Nasasaklaw ng pagsukat ng throughput ang dalawang epektong ito.

Sinuri namin sa simulation ang mga output ng bawat disenyo. Nakakuha ng iskor na zero ang mga disenyo kung bumagsak ang mga ito sa isang pagsusuri o gumamit ng area na mahigit 16 na beses ng sa orihinal na core. Para sa mga disenyong pumasa, sinukat namin ang mga instruction bawat clock cycle gamit ang mga workload na hindi ipinakita sa mga modelo. Kinuha namin ang geometric mean sa lahat ng workload na iyon at minultiply ito sa pinakamataas na clock frequency na tinantiya gamit ang Yosys. Nagbigay iyon sa amin ng tantiya sa bilang ng mga instruction bawat segundo. Para sa bawat core, binigyan namin ng iskor na 1.0 ang pinakamataas na throughput na naobserbahan namin sa ilalim ng parehong mga limitasyon. Ipinapakita ng mga chart ang average na iskor sa lahat ng run, kasama ang mga nakakuha ng zero.

Sa maihahambing na budget na humigit-kumulang 112,000 token bawat run, ang GPT‑6.2 Astra ang may pinakamataas na average na iskor sa parehong core. Mas mataas din ang iskor ng GPT‑6.1 Sol kaysa sa GPT‑5.6 Sol sa parehong core.

Sa kasalukuyang PicoRV32 core, ang GPT‑6.2 Astra ang may pinakamataas na average na iskor sa mas malalaking budget na maihahambing. Sa humigit-kumulang 112,000 token, halos doble ng iskor ng GPT‑6 Astra ang iskor nito.

Sa kasalukuyang Ibex core, patuloy na tumataas ang average na iskor ng GPT‑6.2 Astra habang umaabot ito sa mas matataas na budget. Mas magkalapit ang mga iskor ng GPT‑6 Astra at GPT‑6.1 Sol.

Pagdisenyo ng RISC-V core mula sa espesipikasyon

Para sa ikalawang gawain, binigyan namin ang bawat modelo ng mga nakasulat na kinakailangan at mga template mula sa open-source code na nagpapakita kung paano nakakonekta ang core sa iba pang bahagi ng system. Pinili ng modelo kung paano lilipat ang data sa loob ng core at kung paano hahatiin sa mga yugto ang gawain. Para sa bawat core, pinanatili namin ang parehong mga pagsusuri sa kawastuhan, mga setting ng memory at cache, at mga layunin sa throughput na ginamit sa gawaing pag-optimize ng RTL.

Sa humigit-kumulang 112,000 token bawat run, mas mataas ang iskor ng lahat ng limang modelo noong nagdisenyo ang mga ito ng core mula sa mga nakasulat na kinakailangan kaysa noong sinubukan nilang pahusayin ang kasalukuyang disenyo. Totoo ito para sa parehong PicoRV32 at Ibex. Mas malaki ang itinaas ng iskor ng GPT‑6.2 Astra sa Ibex kaysa sa PicoRV32. Kasama sa buong pagsusuri ang 9,881 run na binigyan ng iskor sa parehong gawain, parehong core, at lahat ng token budget.

Kapag nagsimula sa espesipikasyon ng PicoRV32, lumalampas sa 0.7 ang average na iskor ng GPT‑6.2 Astra malapit sa 112,000 token, at mas mataas pa ang iskor nito sa susunod na dalawang budget na naobserbahan.

Sa Ibex, nakakakuha ang GPT‑6.2 Astra ng average na humigit-kumulang 0.75 malapit sa 112,000 token kapag nagdidisenyo mula sa espesipikasyon. Nananatiling mas mataas ang kurba nito kaysa sa iba sa mas malalaking budget na pare-pareho nilang ginamit.

Kapag nagsisimula sa mga nakasulat na kinakailangan, may kalayaan ang mga modelo na hindi isama ang mga feature ng orihinal na mga core, gaya ng mga performance counter at karagdagang instruction. Maaaring maliit lang ang naitutulong ng mga feature na iyon sa pagpapataas ng throughput sa mga workload ng pagsubok, na maaaring bahagyang magpaliwanag sa mas mataas na iskor. Mas magiging katulad ng aktuwal na pagdisenyo ng chip para sa produksyon ang pagsubok kung gagawing sapilitan ang mga feature na iyon, magtatakda ng mas mahigpit na limitasyon sa area ng circuit, at susuriin ang timing pagkatapos ng physical synthesis.

Mga susunod na hakbang

Naipakita namin na kayang tumuklas ng aming mga modelo ng mga bagong arkitektura ng processor sa mga pagsusuri sa RISC-V, at nakapag-ambag kami ng mga karagdagang pagpapahusay sa mga sopistikadong disenyong pangproduksyon gaya ng Jalapeño at ng next-generation flagship GPU at CPU ng AMD. Para ibatay ang pagpapaunlad ng modelo sa mga mapagkakatiwalaang sistema ng pagsusuri at palawakin ang mga hamon sa disenyo na natutugunan, nakikipagtulungan kami sa Synopsys upang sanayin ang GPT‑Synopsys⁠(magbubukas sa bagong window), isang bagong modelo, na gumamit ng mga electronic design automation (EDA) tool ng Synopsys gaya ng ginagawa ng mga ekspertong taga-disenyo ng chip.