Modelele OpenAI îmbunătățesc rapid cipurile pe care rulează AI. În august, am prezentat modul în care inginerii OpenAI au folosit modelele noastre de vârf pentru a accelera dezvoltarea primului nostru cip de inferență personalizat, Jalapeño. Aici analizăm mai îndeaproape îmbunătățirile de proiectare la nivel de expert care au dus la progresele Jalapeño și modul în care aplicăm aceeași abordare, alături de AMD, pentru a obține progrese semnificative pe hardware de la alți producători.
Pentru a măsura capacitatea modelului nostru de a realiza sarcini complete de proiectare a cipurilor, am evaluat generații succesive pe două proiecte de procesoare open-source, cu rezultate interesante. Iar pentru a baza dezvoltarea capabilităților pe instrumente de evaluare de încredere, colaborăm cu Synopsys pentru a integra inteligența de vârf cu instrumentele de automatizare a proiectării electronice (EDA) pe care inginerii le folosesc deja la proiectarea și verificarea cipurilor.
Am început să folosim GPT‑4o pentru a ne ajuta la proiectarea Jalapeño la începutul anului 2025. Chiar și acel model timpuriu a găsit modalități de a îmbunătăți semnificativ consumul, performanța și suprafața (PPA), de exemplu:
În unitatea vectorială, care gestionează și execută sarcini de calcul paralel, reducerile au provenit din sumatoarele și multiplicatoarele în virgulă mobilă, funcțiile de conversie, logica de reducere și unitatea pentru funcții speciale. Modelele au explorat atât implementări logice alternative, cât și modalități de repartizare a calculelor între etapele pipeline-ului, găsind oportunități de a utiliza în comun resursele hardware și de a reduce stocarea intermediară.
În unitatea matriceală, o componentă aritmetică, îmbunătățirile s-au cumulat la nivelul sumatoarelor și multiplicatoarelor în virgulă mobilă și al circuitelor pentru produs scalar de precizie redusă. O reproiectare a unui multiplicator a redus cu aproximativ 15% suprafața celulelor la sinteză, reducând totodată latența de la două cicluri de ceas la unul. O reproiectare separată a unui sumator a redus suprafața celulelor cu aproximativ 15%, păstrând latența de două cicluri. Alte îmbunătățiri ale logicii pentru produs scalar și ale organizării pipeline-ului au adus reduceri suplimentare la nivelul întregului bloc.
În ansamblul efortului de proiectare a Jalapeño, echipa estimează că modificările propuse de modele au redus suprafața celulelor standard cu aproximativ 13% în unitatea vectorială și cu 10% în unitatea matriceală. Aceste optimizări au fost validate pe siliciu în timpul punerii în funcțiune a cipului Jalapeño.
Am încheiat un parteneriat cu AMD pentru îmbunătățirea PPA și am observat îmbunătățiri de până la 14% față de variante de referință intens optimizate ale blocurilor IP din GPU-ul de top. Modelul nostru a identificat îmbunătățiri suplimentare rescriind codul care descrie circuitele cipului (RTL în SystemVerilog). Aceasta înseamnă aproximativ un an de progres realizat în mai puțin de 5 luni — rezultate fără precedent la cel mai avansat nivel al proiectării cipurilor. AMD a inclus deja unele dintre aceste modificări într-un proiect recent trimis în fabricație și a adăugat altele în fișierele de proiectare pentru producție, pentru a fi folosite în versiunile viitoare.
Am observat că modelul analizează RTL la nivelul unui expert în microarhitectură. Modelul poate rescrie circuite care efectuează calcule, controlează operații sau transferă date. A folosit instrumente Synopsys pentru a verifica dacă fiecare rescriere păstra comportamentul blocului și pentru a evalua compromisurile dintre consum, performanță și suprafață.
AMD a confirmat și îmbunătățiri PPA de câteva procente în blocurile-cheie ale viitorului său CPU de top din generația următoare, folosind proiecte scrise de modelul nostru. Pe viitor, ne așteptăm la îmbunătățiri PPA suplimentare pentru GPU și CPU, față de cea mai optimizată variantă de referință.
Rezultatele obținute pentru Jalapeño și cipurile AMD arată că modelele pot îmbunătăți proiectele destinate producției. Pentru a măsura progresul capabilităților de proiectare a cipurilor de la o generație de modele la alta, am testat fiecare model pe două nuclee RISC-V open-source pe 32 de biți. PicoRV32 este un nucleu compact conceput pentru cipuri reprogramabile numite FPGA. OpenTitan folosește Ibex ca procesor încorporat în cipul său de securitate. Fiecare este un nucleu de procesor complet, destinat sarcinilor din sisteme încorporate, de tip microcontroler.
Am oferit fiecărui model descrierea hardware originală a fiecărui nucleu și i-am cerut să crească randamentul (numărul de instrucțiuni pe care nucleul le poate executa pe secundă). De exemplu, o modificare ar putea permite unui nucleu să finalizeze o instrucțiune în mai puține cicluri de ceas, dar să prelungească durata fiecărui ciclu. Măsurarea randamentului surprinde ambele efecte.
Am verificat prin simulare rezultatele fiecărui proiect. Proiectele au primit scorul zero dacă nu treceau o verificare sau dacă ocupau o suprafață de peste 16 ori mai mare decât cea a nucleului original. Pentru proiectele care au trecut verificările, am măsurat numărul de instrucțiuni pe ciclu de ceas folosind sarcini de lucru ascunse modelelor. Am calculat media geometrică pentru acele sarcini de lucru și am înmulțit-o cu frecvența maximă de ceas estimată cu Yosys. Astfel am obținut o estimare a numărului de instrucțiuni pe secundă. Pentru fiecare nucleu, am atribuit scorul 1,0 celui mai bun randament observat în aceleași condiții de constrângere. Graficele prezintă scorul mediu al rulărilor, inclusiv al celor care au primit scorul zero.
Cu un buget comparabil de aproximativ 112.000 de tokenuri pe rulare, GPT‑6.2 Astra a obținut cel mai mare scor mediu pe ambele nuclee. Și GPT‑6.1 Sol a depășit GPT‑5.6 Sol pe ambele nuclee.
Pe nucleul PicoRV32 existent, GPT‑6.2 Astra are cel mai mare scor mediu la bugetele comparabile mai mari. La aproximativ 112.000 de tokenuri, scorul său este de circa două ori mai mare decât cel al GPT‑6 Astra.
Pe nucleul Ibex existent, scorul mediu al GPT‑6.2 Astra continuă să crească pe măsură ce bugetele disponibile cresc. GPT‑6 Astra și GPT‑6.1 Sol au rezultate mai apropiate.
Pentru a doua sarcină, am oferit fiecărui model cerințe scrise și șabloane din codul open-source care arătau cum se conectează nucleul la restul sistemului. Modelul a ales cum vor circula datele prin nucleu și cum va fi împărțită activitatea în etape. Pentru fiecare nucleu, am păstrat aceleași verificări de corectitudine, setări de memorie și cache și obiective de randament ca în sarcina de optimizare RTL.
La aproximativ 112.000 de tokenuri pe rulare, toate cele cinci modele au obținut scoruri mai mari când au proiectat un nucleu pe baza cerințelor scrise decât atunci când au încercat să îmbunătățească proiectul existent. Acest lucru a fost valabil atât pentru PicoRV32, cât și pentru Ibex. GPT‑6.2 Astra a înregistrat un câștig mai mare pe Ibex decât pe PicoRV32. Evaluarea completă a inclus 9.881 de rulări punctate, acoperind ambele sarcini, ambele nuclee și toate bugetele de tokenuri.
Pornind de la o specificație PicoRV32, GPT‑6.2 Astra depășește un scor mediu de 0,7 la aproximativ 112.000 de tokenuri și obține scoruri mai mari la următoarele două bugete testate.
Pe Ibex, GPT‑6.2 Astra obține un scor mediu de aproximativ 0,75 la circa 112.000 de tokenuri când proiectează pornind de la o specificație. Curba sa rămâne deasupra celorlalte la bugetele mai mari pentru care există rezultate comune.
Pornind de la cerințe scrise, modelele au libertatea de a omite funcționalități prezente în nucleele originale, precum contoarele de performanță și instrucțiunile suplimentare. Aceste funcționalități pot contribui puțin la îmbunătățirea randamentului pentru sarcinile de test, ceea ce ar putea explica o parte din avantajul de scor. Impunerea acestor funcționalități, stabilirea unei limite mai stricte pentru suprafața circuitului și verificarea parametrilor temporali după sinteza fizică ar face testul mai reprezentativ pentru proiectarea cipurilor destinate producției.
Am demonstrat că modelele noastre pot explora noi arhitecturi de procesoare în evaluările RISC-V și am adus îmbunătățiri cu totul noi unor proiecte sofisticate destinate producției, precum Jalapeño și GPU-ul și CPU-ul de top AMD din generația următoare. Pentru a baza dezvoltarea modelelor pe instrumente de evaluare de încredere și a aborda o gamă mai largă de provocări de proiectare, colaborăm cu Synopsys pentru a instrui GPT‑Synopsys(se deschide într-o fereastră nouă), un model nou, să folosească instrumentele Synopsys de automatizare a proiectării electronice (EDA) așa cum o fac experții în proiectarea cipurilor.


