Framsteg inom chipdesign med OpenAI:s modeller
OpenAI:s modeller förbättrar snabbt chippen som driver AI. I augusti berättade vi hur OpenAI:s ingenjörer använde våra banbrytande modeller för att påskynda utvecklingen av vårt första specialutvecklade inferenschip, Jalapeño. Här tittar vi närmare på de designförbättringar på expertnivå som ligger bakom framstegen med Jalapeño och hur vi använder samma metod tillsammans med AMD för att åstadkomma betydande förbättringar i hårdvara från andra tillverkare.
För att mäta vår modells förmåga att hantera kompletta chipdesignuppgifter utvärderade vi flera modellgenerationer i följd på två processorkonstruktioner med öppen källkod, med intressanta resultat. Och för att låta tillförlitliga utvärderingsverktyg ligga till grund för utvecklingen av modellernas förmågor samarbetar vi med Synopsys för att integrera banbrytande intelligens med de verktyg för elektronisk designautomation (EDA) som ingenjörer redan använder för att konstruera och verifiera chipp.
Vi började använda GPT‑4o som stöd i konstruktionen av Jalapeño i början av 2025. Redan den tidiga modellen hittade sätt att göra betydande PPA-förbättringar, till exempel:
I vektorenheten, som hanterar och utför parallella beräkningsuppgifter, kom besparingarna från flyttalsadderare och flyttalsmultiplikatorer, konverteringsfunktioner, reduktionslogik och enheten för specialfunktioner. Modellerna utforskade både alternativa logikimplementationer och hur beräkningar kunde fördelas mellan pipelinesteg. De hittade möjligheter att dela hårdvara och minska mellanlagringen.
I matrisenheten, en aritmetisk komponent, byggdes förbättringarna upp genom ändringar i flyttalsadderare, multiplikatorer och skalärproduktkretsar med låg precision. En omkonstruerad multiplikator använde cirka 15 % mindre cellyta vid syntes och minskade samtidigt latensen från två klockcykler till en. En separat omkonstruktion av en adderare minskade cellytan med cirka 15 % med bibehållen latens på två cykler. Ytterligare förbättringar av skalärproduktlogiken och pipelineorganisationen gav fler besparingar i hela blocket.
Sett till hela konstruktionsarbetet med Jalapeño uppskattar teamet att modellernas föreslagna ändringar minskade standardcellytan med cirka 13 % i vektorenheten och 10 % i matrisenheten. Dessa optimeringar verifierades i fysiskt kisel under driftsättningen av Jalapeño.
Vi har samarbetat med AMD kring PPA-förbättringar och sett förbättringar på upp till 14 % jämfört med redan kraftigt optimerade referenskonstruktioner för deras flaggskepps-GPU-IP. Vår modell identifierade ytterligare förbättringar genom att skriva om koden som beskriver chippets kretsar (SystemVerilog RTL). Det motsvarar ungefär ett års framsteg på mindre än fem månader – resultat utan motstycke i chipdesignens framkant. AMD har redan inkluderat några av dessa ändringar i en nyligen framtagen konstruktion som skickats till tillverkning, och lagt till andra i sina produktionsdesignfiler för användning i framtida versioner.
Vi har sett modellen resonera om RTL på samma nivå som en expert på mikroarkitektur. Modellen kan skriva om kretsar som utför beräkningar, styr operationer eller flyttar data. Den använde Synopsys verktyg för att verifiera att varje omskrivning bevarade blockets beteende och för att utvärdera avvägningarna mellan effekt, prestanda och yta.
AMD verifierade också ensiffriga procentuella PPA-förbättringar i centrala block i nästa generations kommande flaggskepps-CPU med hjälp av konstruktioner skrivna av vår modell. Framöver förväntar vi oss ytterligare PPA-förbättringar för GPU:er och CPU:er jämfört med de mest optimerade referenskonstruktionerna.
Våra resultat med Jalapeño och AMD:s chipp visar att modeller kan förbättra produktionskonstruktioner. För att mäta hur förmågan till chipdesign utvecklas från en modellgeneration till nästa testade vi varje modell på två 32-bitars RISC-V-kärnor med öppen källkod. PicoRV32 är en kompakt kärna avsedd för omprogrammerbara chipp som kallas FPGA:er. OpenTitan använder Ibex som inbyggd processor i sitt säkerhetschipp. Båda är kompletta processorkärnor för arbetslaster i inbyggda system på mikrokontrollernivå.
Vi gav varje modell den ursprungliga hårdvarubeskrivningen för respektive kärna och bad den öka kapaciteten (antalet instruktioner som kärnan kan utföra per sekund). En ändring kan till exempel göra att en kärna slutför en instruktion på färre klockcykler, men att varje cykel tar längre tid. Genom att mäta kapaciteten fångar vi båda effekterna.
Vi kontrollerade varje konstruktions utdata genom simulering. Konstruktioner fick noll poäng om de inte klarade en kontroll eller använde mer än 16 gånger den ursprungliga kärnans yta. För konstruktioner som godkändes mätte vi antalet instruktioner per klockcykel på arbetslaster som var dolda för modellerna. Vi tog det geometriska medelvärdet över dessa arbetslaster och multiplicerade det med den maximala klockfrekvens som uppskattats med Yosys. Det gav oss en uppskattning av antalet instruktioner per sekund. För varje kärna gav vi den högsta kapacitet vi observerade under samma begränsningar poängen 1,0. Diagrammen visar medelpoängen för alla körningar, inklusive dem som fick noll poäng.
Med en jämförbar budget på cirka 112 000 token per körning hade GPT‑6.2 Astra högst medelpoäng på båda kärnorna. GPT‑6.1 Sol fick också högre poäng än GPT‑5.6 Sol på båda.
På den befintliga PicoRV32-kärnan har GPT‑6.2 Astra högst medelpoäng vid de högre jämförbara budgetnivåerna. Vid omkring 112 000 token är poängen ungefär dubbelt så hög som för GPT‑6 Astra.
På den befintliga Ibex-kärnan fortsätter medelpoängen för GPT‑6.2 Astra att stiga vid de högre budgetar som modellen når. GPT‑6 Astra och GPT‑6.1 Sol ligger närmare varandra.
I den andra uppgiften gav vi varje modell skriftliga krav och mallar från den öppna källkoden som visade hur kärnan ansluts till resten av systemet. Modellen valde hur data skulle flöda genom kärnan och hur arbetet skulle delas upp i steg. För varje kärna behöll vi samma korrekthetskontroller, minnes- och cacheinställningar samt kapacitetsmål som i RTL-optimeringsuppgiften.
Vid cirka 112 000 token per körning fick alla fem modeller högre poäng när de konstruerade en kärna utifrån skriftliga krav än när de försökte förbättra den befintliga konstruktionen. Det gällde både PicoRV32 och Ibex. GPT‑6.2 Astra förbättrade sina resultat mer på Ibex än på PicoRV32. Den fullständiga utvärderingen omfattade 9 881 poängsatta körningar fördelade över båda uppgifterna, båda kärnorna och alla tokenbudgetar.
Med en PicoRV32-specifikation som utgångspunkt passerar GPT‑6.2 Astra en medelpoäng på 0,7 vid omkring 112 000 token och får högre poäng vid de två följande observerade budgetnivåerna.
På Ibex får GPT‑6.2 Astra en medelpoäng på cirka 0,75 vid omkring 112 000 token när modellen konstruerar utifrån en specifikation. Dess kurva ligger kvar över de andra vid högre gemensamma budgetnivåer.
Att utgå från skriftliga krav ger modellerna utrymme att utelämna funktioner som finns i de ursprungliga kärnorna, till exempel prestandaräknare och extra instruktioner. Dessa funktioner bidrar kanske inte mycket till kapaciteten för testets arbetslaster, vilket skulle kunna förklara en del av poängförsprånget. Att kräva dessa funktioner, sätta en snävare gräns för kretsytan och kontrollera tidsförhållandena efter fysisk syntes skulle göra testet mer representativt för chipdesign för produktion.
Vi har visat att våra modeller kan utforska nya processorarkitekturer i RISC-V-utvärderingar och bidra med ytterligare förbättringar av redan avancerade produktionskonstruktioner som Jalapeño och AMD:s nästa generations flaggskepps-GPU och flaggskepps-CPU. För att förankra modellutvecklingen i tillförlitliga utvärderingsverktyg och ta oss an fler typer av konstruktionsutmaningar samarbetar vi med Synopsys för att träna GPT‑Synopsys(öppnas i ett nytt fönster), en ny modell, att använda Synopsys verktyg för elektronisk designautomation (EDA) på samma sätt som erfarna chipkonstruktörer.


