OpenAI

2026. november 18.

KutatásokPublikáció

Fejlettebb chiptervezés az OpenAI modelljeivel

Az OpenAI modelljei gyors ütemben fejlesztik az MI-t működtető chipeket. Augusztusban⁠ bemutattuk, hogyan gyorsították fel az OpenAI mérnökei élvonalbeli modelljeinkkel az első saját tervezésű következtetési chipünk, a Jalapeño fejlesztését. Most közelebbről is megvizsgáljuk a Jalapeñónál elért eredmények mögött álló, szakértői szintű tervezési fejlesztéseket, és azt, hogyan érünk el ugyanezzel a megközelítéssel jelentős javulást külső gyártók hardverein az AMD-vel együttműködve.

Hogy felmérjük modelljeink képességeit a teljes chiptervezési folyamatot átfogó feladatokban, két nyílt forráskódú processzorterven teszteltük az egymást követő modellgenerációkat, és érdekes eredményeket kaptunk. Hogy a képességek fejlesztését megbízható értékelőeszközökre alapozzuk, a Synopsysszal együttműködve integráljuk az élvonalbeli intelligenciát a mérnökök által már használt elektronikus tervezésautomatizálási (EDA) eszközökbe, amelyekkel chipeket terveznek és ellenőriznek.

A Jalapeño számítási blokkjainak fejlesztése

2025 elején kezdtük használni a GPT‑4o modellt a Jalapeño tervezésének támogatására. Már ez a korai modell is talált lehetőségeket az energiafogyasztás, a teljesítmény és a terület (PPA) érdemi javítására, például:

A vektoregységben, amely a párhuzamos számítási feladatokat kezeli és hajtja végre, a megtakarítások a lebegőpontos összeadóknál és szorzóknál, a konverziós függvényeknél, a redukciós logikánál és a speciális függvényeket kezelő egységnél jelentkeztek. A modellek alternatív logikai megvalósításokat és a számítások futószalagszakaszok közötti felosztását is vizsgálták, és lehetőségeket találtak a hardvererőforrások megosztására, illetve a köztes tárolás csökkentésére.

A mátrixegységben, amely egy aritmetikai részegység, a lebegőpontos összeadóknál, szorzóknál és kis pontosságú skalárszorzat-számító áramköröknél elért javulások összeadódtak. Egy újratervezett szorzó a szintézis során mintegy 15%-kal kisebb cellaterületet igényelt, miközben a késleltetése két órajelciklusról egyre csökkent. Egy összeadó különálló újratervezése mintegy 15%-kal csökkentette a cellaterületet, miközben megőrizte a kétciklusos késleltetést. A skalárszorzat-számító logika és a futószalag szervezésének további fejlesztései újabb megtakarításokat hoztak a blokk egészében.

A Jalapeño teljes tervezési folyamatát tekintve a csapat becslése szerint a modellek által javasolt módosítások a vektoregységben mintegy 13%-kal, a mátrixegységben pedig 10%-kal csökkentették a standard cellák területét. Ezeket az optimalizálásokat a legyártott chipen is igazoltuk a Jalapeño első üzembe helyezésekor⁠.

Együttműködésünk az AMD-vel

Az AMD-vel együttműködve a PPA javításán dolgozunk, és a csúcskategóriás GPU IP-blokkjainál akár 14%-os javulást is elértünk az erősen optimalizált kiindulási tervekhez képest. Modellünk a chip áramköreit leíró kód (SystemVerilog RTL) átírásával további fejlesztési lehetőségeket talált. Ez nagyjából egyévnyi előrelépést jelent kevesebb mint 5 hónap alatt – példátlan eredmény a chiptervezés élvonalában. Az AMD e módosítások egy részét már beépítette egy nemrég gyártásba küldött tervébe, másokat pedig hozzáadott a gyártási tervfájljaihoz, hogy a későbbi verziókban felhasználhassa őket.

Megfigyeltük, hogy a modell egy tapasztalt mikroarchitektúra-tervező szintjén gondolkodik az RTL-ről. A modell képes átírni a számításokat végző, műveleteket vezérlő vagy adatokat mozgató áramköröket. A Synopsys eszközeivel ellenőrizte, hogy minden átírás megőrizte-e a blokk működését, és értékelte az energiafogyasztás, a teljesítmény és a terület közötti kompromisszumokat.

Az AMD a modellünk által készített tervekkel egy számjegyű százalékos PPA-javulást is igazolt a hamarosan érkező, következő generációs csúcskategóriás CPU-ja kulcsfontosságú blokkjain. A jövőben a GPU és a CPU esetében egyaránt további PPA-javulást várunk még a leginkább optimalizált kiindulási tervekhez képest is.

RISC-V-magok optimalizálása

A Jalapeñón és az AMD chipjein elért eredményeink azt mutatják, hogy a modellek gyártásra szánt terveken is képesek javítani. Hogy mérjük a chiptervezési képességek fejlődését az egyes modellgenerációk között, minden modellt két nyílt forráskódú, 32 bites RISC-V-magon teszteltünk. A PicoRV32 egy kompakt mag, amelyet FPGA-nak nevezett, újraprogramozható chipekhez terveztek. Az OpenTitan az Ibexet használja beágyazott processzorként a biztonsági chipjében. Mindkettő teljes értékű processzormag beágyazott, mikrokontroller-szintű feladatokhoz.

Minden modellnek megadtuk mindkét mag eredeti hardverleírását, és arra kértük, hogy növelje az adatátviteli egységet (a mag által másodpercenként végrehajtható utasítások számát). Egy módosítás például lehetővé teheti, hogy a mag kevesebb órajelciklus alatt végezzen el egy utasítást, ugyanakkor megnövelheti az egyes ciklusok időtartamát. Az adatátviteli egység mérése mindkét hatást figyelembe veszi.

Minden terv kimeneteit szimulációval ellenőriztük. Nulla pontot kaptak azok a tervek, amelyek nem mentek át valamelyik ellenőrzésen, vagy az eredeti mag területének több mint 16-szorosát foglalták el. A megfelelt terveknél a modellek elől rejtett tesztfeladatokon mértük az órajelciklusonként végrehajtott utasítások számát. Kiszámítottuk az ezeken a feladatokon mért értékek mértani átlagát, majd megszoroztuk a Yosys által becsült maximális órajel-frekvenciával. Így becslést kaptunk a másodpercenként végrehajtható utasítások számára. Mindkét magnál 1,0 pontot rendeltünk az azonos korlátok mellett megfigyelt legjobb adatátviteli egységhez. A diagramok a futtatások átlagos pontszámát mutatják, a nulla pontot kapott futtatásokat is beleértve.

Futtatásonként hasonló, nagyjából 112 000 tokenes keret mellett a GPT‑6.2 Astra érte el a legmagasabb átlagpontszámot mindkét magnál. A GPT‑6.1 Sol is mindkettőnél felülmúlta a GPT‑5.6 Sol eredményét.

A meglévő PicoRV32-magnál a nagyobb, összehasonlítható tokenkeretek mellett a GPT‑6.2 Astra átlagpontszáma a legmagasabb. 112 000 token körül nagyjából kétszer annyi pontot ér el, mint a GPT‑6 Astra.

A meglévő Ibex-magnál a GPT‑6.2 Astra átlagpontszáma az általa elért magasabb tokenkeretek mellett is tovább nő. A GPT‑6 Astra és a GPT‑6.1 Sol eredményei közelebb állnak egymáshoz.

RISC-V-mag tervezése specifikációból

A második feladathoz minden modellnek írásos követelményeket és a nyílt forráskódból származó sablonokat adtunk, amelyek megmutatták, hogyan kapcsolódik a mag a rendszer többi részéhez. A modell döntötte el, hogyan áramoljanak az adatok a magon belül, és hogyan ossza szakaszokra a feldolgozást. Mindkét magnál ugyanazokat a helyességi ellenőrzéseket, memória- és gyorsítótár-beállításokat, valamint adatátviteliegység-célokat használtuk, mint az RTL-optimalizálási feladatban.

Futtatásonként nagyjából 112 000 token mellett mind az öt modell magasabb pontszámot ért el, amikor írásos követelményekből tervezett magot, mint amikor a meglévő tervet próbálta javítani. Ez a PicoRV32 és az Ibex esetében is igaz volt. A GPT‑6.2 Astra többet javult az Ibexen, mint a PicoRV32-n. A teljes értékelés összesen 9881 pontozott futtatást foglalt magában, lefedve mindkét feladatot, mindkét magot és az összes tokenkeretet.

A PicoRV32 specifikációjából kiindulva a GPT‑6.2 Astra átlagpontszáma 112 000 token körül meghaladja a 0,7-et, és a következő két vizsgált tokenkeretnél tovább nő.

Az Ibex specifikációjából kiinduló tervezésnél a GPT‑6.2 Astra átlagpontszáma 112 000 token körül nagyjából 0,75. A nagyobb, közösen vizsgált tokenkereteknél a görbéje a többi modellé felett marad.

Az írásos követelményekből kiinduló tervezés lehetővé teszi a modelleknek, hogy elhagyjanak az eredeti magokban meglévő funkciókat, például a teljesítményszámlálókat és a kiegészítő utasításokat. Ezek a funkciók a tesztfeladatoknál alig javíthatják az adatátviteli egységet, ami részben magyarázhatja a magasabb pontszámot. Ha kötelezővé tennénk ezeket a funkciókat, szigorúbban korlátoznánk az áramkör területét, és a fizikai szintézis után ellenőriznénk az időzítést, a teszt jobban tükrözné a gyártásra szánt chipek tervezését.

A következő lépések

Bemutattuk, hogy modelljeink a RISC-V-értékelésekben képesek új processzorarchitektúrákat feltárni, és újabb érdemi fejlesztésekkel járultunk hozzá olyan kifinomult, gyártásra szánt tervekhez, mint a Jalapeño, valamint az AMD következő generációs csúcskategóriás GPU-ja és CPU-ja. Hogy a modellfejlesztést megbízható értékelőeszközökre alapozzuk, és a tervezési kihívások szélesebb körére terjesszük ki, a Synopsysszal együttműködve egy új modellt, a GPT‑Synopsys⁠(új ablakban nyílik meg) modellt tanítjuk be arra, hogy a tapasztalt chiptervezőkhöz hasonlóan használja a Synopsys elektronikus tervezésautomatizálási (EDA) eszközeit.