OpenAI mudelid täiustavad kiiresti AI käitamiseks kasutatavaid kiipe. Augustis rääkisime, kuidas OpenAI insenerid kasutasid meie tipptasemel mudeleid, et kiirendada meie esimese spetsiaalse järelduskiibi Jalapeño arendust. Siin vaatleme lähemalt Jalapeño edusammude taga olevaid eksperditasemel täiustusi ning seda, kuidas rakendame sama lähenemist koostöös AMD-ga, et saavutada märkimisväärseid tulemusi ka teiste tootjate riistvaral.
Et mõõta mudelite võimekust kiipide projekteerimisel algusest lõpuni, hindasime järjestikuseid mudelipõlvkondi kahe avatud lähtekoodiga protsessorilahenduse abil ja saime huvitavaid tulemusi. Et võimekuse arendamine tugineks usaldusväärsetele hindamisvahenditele, teeme koostööd Synopsysiga, et lõimida tipptasemel AI elektroonika projekteerimise automatiseerimise (EDA) tööriistadega, mida insenerid kiipide projekteerimiseks ja kontrollimiseks juba kasutavad.
Alustasime GPT‑4o kasutamist Jalapeño projekteerimise abivahendina 2025. aasta alguses. Juba see varajane mudel leidis võimalusi PPA märkimisväärseks parandamiseks, näiteks:
Vektormoodulis, mis haldab ja täidab paralleelarvutusülesandeid, saavutati kokkuhoid ujukomaliitjate ja -korrutajate, teisendusfunktsioonide, reduktsiooniloogika ning erifunktsioonide mooduli arvelt. Mudelid uurisid nii alternatiivseid loogikalahendusi kui ka arvutuste jaotamist konveierietappide vahel, leides võimalusi riistvara ühiskasutuseks ja vahetulemuste salvestusmahu vähendamiseks.
Maatriksmoodulis, mis on aritmeetikakomponent, saavutati täiustusi ujukomaliitjates ja -korrutajates ning madala täpsusega skalaarkorrutise ahelates. Üks ümberprojekteeritud korrutaja kasutas sünteesis umbes 15% vähem loogikaelementide pindala ning vähendas samal ajal latentsust kahelt taktsüklilt ühele. Eraldi ümberprojekteeritud liitja vähendas loogikaelementide pindala umbes 15%, säilitades kahe taktsükli pikkuse latentsuse. Skalaarkorrutise loogika ja konveieri korralduse edasised täiustused tõid kogu plokis lisakokkuhoidu.
Meeskonna hinnangul vähendasid mudelite pakutud muudatused kogu Jalapeño projekteerimise käigus standardelementide pindala vektormoodulis umbes 13% ja maatriksmoodulis 10%. Nende optimeeringute toimivus sai kinnituse füüsilisel kiibil Jalapeño esmase käivitamise ja testimise käigus.
Oleme teinud AMD-ga koostööd PPA parandamiseks ning saavutanud lipulaeva GPU IP-s kuni 14% paranemise võrreldes juba põhjalikult optimeeritud lähtelahendustega. Meie mudel leidis täiendavaid täiustusvõimalusi, kirjutades ümber kiibi ahelaid kirjeldava koodi (SystemVerilog RTL). See tähendab ligikaudu aasta jagu edusamme vähem kui viie kuuga – enneolematuid tulemusi kiipide projekteerimise tipptasemel. AMD on osa neist muudatustest juba lisanud hiljuti tootmisse saadetud lahendusse ning teised tootmislahenduste failidesse, et kasutada neid tulevastes versioonides.
Oleme näinud, et mudel analüüsib RTL-i kogenud mikroarhitekti tasemel. Mudel suudab ümber kirjutada ahelaid, mis teevad arvutusi, juhivad toiminguid või liigutavad andmeid. See kasutas Synopsysi tööriistu, et kontrollida ploki käitumise säilimist iga ümberkirjutuse järel ning hinnata kompromisse energiatarbe, jõudluse ja pindala vahel.
AMD kinnitas ka, et meie mudeli loodud lahendused parandasid tulevase järgmise põlvkonna lipulaeva CPU põhiplokkides PPA-d ühekohaliste protsendimäärade võrra. Edaspidi ootame GPU ja CPU puhul täiendavat PPA paranemist ka võrreldes kõige optimeerituma lähtelahendusega.
Meie tulemused Jalapeño ja AMD kiipidega näitavad, et mudelid suudavad täiustada tootmislahendusi. Et mõõta kiipide projekteerimise võimekuse arengut ühest mudelipõlvkonnast teiseni, testisime iga mudelit kahel avatud lähtekoodiga 32-bitisel RISC-V tuumal. PicoRV32 on kompaktne tuum, mis on mõeldud ümberprogrammeeritavatele kiipidele ehk FPGA-dele. OpenTitan kasutab Ibexit oma turvakiibi manustatud protsessorina. Mõlemad on terviklikud protsessorituumad mikrokontrolleri tasemel manusrakenduste jaoks.
Andsime igale mudelile kummagi tuuma algse riistvarakirjelduse ja palusime suurendada läbilaset ehk käskude arvu, mida tuum suudab sekundis täita. Näiteks võib muudatus võimaldada tuumal täita käsu vähema arvu taktsüklitega, kuid pikendada iga tsükli kestust. Läbilaske mõõtmine arvestab mõlemat mõju.
Kontrollisime iga lahenduse väljundeid simulatsioonis. Lahendused said null punkti, kui need ei läbinud mõnd kontrolli või kasutasid algse tuumaga võrreldes rohkem kui 16-kordset pindala. Kontrolli läbinud lahendustel mõõtsime ühe taktsükli jooksul täidetud käskude arvu mudelite eest varjatud töökoormustel. Võtsime nende töökoormuste tulemuste geomeetrilise keskmise ja korrutasime selle Yosysega hinnatud maksimaalse taktsagedusega. Nii saime hinnangulise sekundis täidetud käskude arvu. Iga tuuma puhul andsime samade piirangute juures täheldatud parimale läbilaskele skoori 1,0. Diagrammid näitavad katsete keskmist skoori, arvestades ka null punkti saanud katseid.
Võrreldava, ligikaudu 112 000 tokeni suuruse eelarvega katse kohta saavutas GPT‑6.2 Astra mõlema tuuma puhul kõrgeima keskmise skoori. Ka GPT‑6.1 Sol ületas mõlema puhul GPT‑5.6 Soli skoori.
Olemasoleva PicoRV32 tuuma puhul on GPT‑6.2 Astral suuremate võrreldavate eelarvete juures kõrgeim keskmine skoor. Ligikaudu 112 000 tokeni juures on selle skoor umbes kaks korda kõrgem kui GPT‑6 Astral.
Olemasoleva Ibexi tuuma puhul kasvab GPT‑6.2 Astra keskmine skoor jätkuvalt ka suuremate eelarvete juures, milleni mudel jõuab. GPT‑6 Astra ja GPT‑6.1 Soli tulemused on üksteisele lähemal.
Teise ülesande jaoks andsime igale mudelile kirjalikud nõuded ja avatud lähtekoodist pärit mallid, mis näitasid tuuma ühendusi ülejäänud süsteemiga. Mudel valis, kuidas andmed tuumas liiguvad ja kuidas töö etappideks jaotada. Iga tuuma puhul jätsime korrektsuse kontrollid, mälu ja vahemälu sätted ning läbilaske eesmärgid samaks nagu RTL-i optimeerimise ülesandes.
Ligikaudu 112 000 tokeni juures katse kohta said kõik viis mudelit kõrgema skoori kirjalike nõuete põhjal tuuma projekteerides kui olemasolevat lahendust täiustada püüdes. See kehtis nii PicoRV32 kui ka Ibexi puhul. GPT‑6.2 Astra tulemus paranes Ibexi puhul rohkem kui PicoRV32 puhul. Kogu hindamine hõlmas 9881 hinnatud katset mõlema ülesande, mõlema tuuma ja kõigi tokenieelarvete lõikes.
PicoRV32 spetsifikatsioonist lähtudes ületab GPT‑6.2 Astra keskmine skoor ligikaudu 112 000 tokeni juures 0,7 ning tõuseb kahe järgmise vaadeldud eelarve juures veelgi.
Ibexi spetsifikatsioonist lähtuva projekteerimise puhul saavutab GPT‑6.2 Astra ligikaudu 112 000 tokeni juures keskmise skoori 0,75. Suuremate ühiste eelarvete korral jääb selle kõver teiste omast kõrgemale.
Kirjalikest nõuetest lähtumine annab mudelitele võimaluse jätta välja algsete tuumade funktsioone, näiteks jõudlusloendurid ja lisakäsud. Need funktsioonid võivad testide töökoormuste puhul läbilaske parandamisele vähe kaasa aidata, mis võib osaliselt selgitada skooride erinevust. Nende funktsioonide nõudmine, ahela pindalale rangema piirangu seadmine ja ajastuse kontrollimine pärast füüsilist sünteesi muudaksid testi tootmisse minevate kiipide projekteerimisele lähedasemaks.
Oleme näidanud, et meie mudelid suudavad RISC-V hindamistes uurida uusi protsessoriarhitektuure ning lisada täiesti uusi täiustusi keerukatele tootmislahendustele, nagu Jalapeño ning AMD järgmise põlvkonna lipulaeva GPU ja CPU. Et mudelite arendamine tugineks usaldusväärsetele hindamisvahenditele ja hõlmaks laiemat valikut projekteerimisülesandeid, teeme koostööd Synopsysiga. Õpetame uut mudelit GPT‑Synopsys(avaneb uues aknas) kasutama Synopsysi elektroonika projekteerimise automatiseerimise (EDA) tööriistu nii, nagu seda teevad kogenud kiibiprojekteerijad.


