Pokrok v navrhovaní čipov s modelmi OpenAI
Modely OpenAI rýchlo vylepšujú čipy, na ktorých beží AI. V auguste sme predstavili, ako inžinieri OpenAI využili naše prelomové modely na urýchlenie vývoja nášho prvého vlastného inferenčného čipu Jalapeño. Teraz sa bližšie pozrieme na odborné úpravy návrhu, ktoré stoja za zlepšeniami čipu Jalapeño, a na to, ako rovnaký prístup využívame v spolupráci s AMD na dosiahnutie výrazných zlepšení hardvéru tretích strán.
Aby sme zmerali schopnosť našich modelov zvládnuť celý proces navrhovania čipov, vyhodnotili sme ich po sebe idúce generácie na dvoch návrhoch procesorov s otvoreným zdrojovým kódom. Dospeli sme k zaujímavým zisteniam. Aby sa rozvoj schopností opieral o dôveryhodné hodnotiace nástroje, spolupracujeme so spoločnosťou Synopsys na prepojení prelomovej inteligencie s nástrojmi na automatizáciu elektronického návrhu (EDA), ktoré inžinieri už používajú na navrhovanie a overovanie čipov.
GPT‑4o sme začali využívať pri navrhovaní čipu Jalapeño začiatkom roka 2025. Už tento skorý model našiel spôsoby, ako dosiahnuť nezanedbateľné zlepšenia spotreby, výkonu a plochy (PPA), napríklad:
Vo vektorovej jednotke, ktorá riadi a vykonáva paralelné výpočtové úlohy, priniesli úspory sčítačky a násobičky s pohyblivou rádovou čiarkou, konverzné funkcie, redukčná logika a jednotka špeciálnych funkcií. Modely skúmali alternatívne implementácie logiky aj možnosti rozdelenia výpočtov medzi stupne zreťazeného spracovania. Našli pritom príležitosti na zdieľanie hardvéru a zníženie nárokov na ukladanie medzivýsledkov.
V maticovej jednotke, ktorá je aritmetickým komponentom, sa zlepšenia postupne nazbierali v sčítačkách a násobičkách s pohyblivou rádovou čiarkou aj v obvodoch na výpočet skalárneho súčinu s nízkou presnosťou. Jeden prepracovaný návrh násobičky pri syntéze zaberal približne o 15 % menšiu plochu buniek a zároveň znížil latenciu z dvoch taktov na jeden. Samostatný prepracovaný návrh sčítačky znížil plochu buniek približne o 15 % pri zachovaní latencie dvoch taktov. Ďalšie vylepšenia logiky skalárneho súčinu a usporiadania zreťazeného spracovania priniesli dodatočné úspory v celom bloku.
Tím odhaduje, že v rámci celého návrhu čipu Jalapeño zmeny navrhnuté modelmi znížili plochu štandardných buniek približne o 13 % vo vektorovej jednotke a o 10 % v maticovej jednotke. Tieto optimalizácie sa overili na fyzickom čipe počas prvého sprevádzkovania čipu Jalapeño.
V spolupráci s AMD sme pri vylepšovaní PPA dosiahli až 14 % zlepšenie oproti vysoko optimalizovaným východiskovým návrhom IP blokov vlajkovej GPU. Náš model našiel ďalšie možnosti zlepšenia prepísaním kódu, ktorý opisuje obvody čipu (SystemVerilog RTL). To predstavuje približne rok pokroku dosiahnutý za menej než 5 mesiacov – bezprecedentné výsledky na špičke vývoja čipov. AMD už niektoré z týchto zmien zahrnulo do nedávneho návrhu odoslaného do výroby. Ďalšie pridalo do súborov produkčného návrhu na použitie v budúcich verziách.
Pozorovali sme, že model uvažuje o RTL na úrovni skúseného mikroarchitekta. Model dokáže prepísať návrhy obvodov, ktoré vykonávajú výpočty, riadia operácie alebo prenášajú dáta. Pomocou nástrojov Synopsys overoval, či každá úprava zachováva správanie bloku, a vyhodnocoval kompromisy medzi spotrebou, výkonom a plochou.
AMD tiež overilo, že návrhy vytvorené naším modelom prinášajú zlepšenia PPA v jednotkách percent v kľúčových blokoch jeho pripravovaného vlajkového CPU novej generácie. Do budúcna očakávame ďalšie zlepšenia PPA pre GPU aj CPU oproti najoptimalizovanejším východiskovým návrhom.
Naše výsledky s čipom Jalapeño a čipmi AMD ukazujú, že modely dokážu vylepšovať produkčné návrhy. Aby sme zmerali pokrok v schopnostiach navrhovať čipy medzi generáciami modelov, otestovali sme každý model na dvoch 32-bitových jadrách RISC-V s otvoreným zdrojovým kódom. PicoRV32 je kompaktné jadro navrhnuté pre preprogramovateľné čipy nazývané FPGA. OpenTitan používa Ibex ako vstavaný procesor vo svojom bezpečnostnom čipe. Obe sú kompletné procesorové jadrá pre vstavané aplikácie s nárokmi na úrovni mikrokontrolérov.
Každému modelu sme poskytli pôvodný hardvérový opis každého jadra a požiadali ho o zvýšenie priepustnosti (počtu inštrukcií, ktoré jadro dokáže vykonať za sekundu). Zmena môže napríklad umožniť jadru dokončiť inštrukciu za menej taktov, no predĺžiť trvanie každého taktu. Meranie priepustnosti zachytáva oba účinky.
Výstupy každého návrhu sme skontrolovali v simulácii. Návrhy získali nulové skóre, ak neprešli kontrolou alebo zaberali viac než 16-násobok plochy pôvodného jadra. Pri návrhoch, ktoré prešli kontrolou, sme merali počet inštrukcií na takt na úlohách, ku ktorým modely nemali prístup. Vypočítali sme geometrický priemer výsledkov týchto úloh a vynásobili ho maximálnou taktovacou frekvenciou odhadnutou pomocou nástroja Yosys. Tak sme získali odhad počtu inštrukcií za sekundu. Pre každé jadro sme najvyššej priepustnosti dosiahnutej pri rovnakých obmedzeniach priradili skóre 1,0. Grafy zobrazujú priemerné skóre všetkých behov vrátane tých s nulovým skóre.
Pri porovnateľnom rozpočte približne 112 000 tokenov na beh dosiahol GPT‑6.2 Astra najvyššie priemerné skóre na oboch jadrách. Aj GPT‑6.1 Sol prekonal GPT‑5.6 Sol na oboch jadrách.
Na existujúcom jadre PicoRV32 má GPT‑6.2 Astra pri vyšších porovnateľných rozpočtoch najvyššie priemerné skóre. Pri približne 112 000 tokenoch je jeho skóre asi dvojnásobné oproti GPT‑6 Astra.
Na existujúcom jadre Ibex priemerné skóre modelu GPT‑6.2 Astra naďalej rastie so zvyšujúcim sa rozpočtom, ktorý využíva. Výsledky modelov GPT‑6 Astra a GPT‑6.1 Sol sú si bližšie.
V druhej úlohe sme každému modelu poskytli písomné požiadavky a šablóny z otvoreného zdrojového kódu, ktoré ukazujú, ako sa jadro pripája k zvyšku systému. Model zvolil spôsob prenosu dát v jadre a rozdelenia práce do jednotlivých stupňov. Pre každé jadro sme zachovali rovnaké kontroly správnosti, nastavenia pamäte a vyrovnávacej pamäte aj ciele priepustnosti ako pri úlohe optimalizácie RTL.
Pri približne 112 000 tokenoch na beh dosiahlo všetkých päť modelov vyššie skóre pri navrhovaní jadra podľa písomných požiadaviek než pri pokusoch o vylepšenie existujúceho návrhu. Platilo to pre PicoRV32 aj Ibex. GPT‑6.2 Astra dosiahol väčšie zlepšenie na jadre Ibex než na PicoRV32. Celé hodnotenie zahŕňalo 9 881 vyhodnotených behov naprieč oboma úlohami, oboma jadrami a všetkými tokenovými rozpočtami.
Pri návrhu podľa špecifikácie PicoRV32 prekračuje GPT‑6.2 Astra priemerné skóre 0,7 pri približne 112 000 tokenoch a pri ďalších dvoch sledovaných rozpočtoch dosahuje ešte vyššie skóre.
Pri navrhovaní jadra Ibex podľa špecifikácie dosahuje GPT‑6.2 Astra pri približne 112 000 tokenoch priemerné skóre okolo 0,75. Pri vyšších rozpočtoch spoločných pre porovnávané modely zostáva jeho krivka nad ostatnými.
Ak modely vychádzajú z písomných požiadaviek, majú priestor vynechať funkcie pôvodných jadier, ako sú počítadlá výkonu a dodatočné inštrukcie. Tieto funkcie môžu k priepustnosti pri testovacích úlohách prispievať len málo, čo by mohlo čiastočne vysvetľovať vyššie skóre. Ak by test vyžadoval tieto funkcie, stanovil prísnejší limit plochy obvodov a kontroloval časovanie po fyzickej syntéze, lepšie by odrážal navrhovanie čipov pre výrobu.
Ukázali sme, že naše modely dokážu v hodnoteniach RISC-V skúmať nové procesorové architektúry, a prispeli sme k ďalším zlepšeniam sofistikovaných produkčných návrhov, ako sú Jalapeño a vlajkové GPU a CPU novej generácie od AMD. Aby sa vývoj modelov opieral o dôveryhodné hodnotiace nástroje a aby sme rozšírili okruh riešených návrhových výziev, spolupracujeme so spoločnosťou Synopsys na trénovaní nového modelu GPT‑Synopsys(otvorí sa v novom okne). Učíme ho používať nástroje Synopsys na automatizáciu elektronického návrhu (EDA) tak, ako ich používajú skúsení návrhári čipov.


