Progressi nella progettazione dei chip con i modelli OpenAI
I modelli di OpenAI stanno migliorando rapidamente i chip che alimentano l’IA. Ad agosto, abbiamo raccontato come gli ingegneri di OpenAI hanno usato i nostri modelli di frontiera per accelerare lo sviluppo di Jalapeño, il nostro primo chip personalizzato per l’inferenza. Qui esaminiamo più da vicino i miglioramenti progettuali di livello esperto alla base dei progressi di Jalapeño e come stiamo applicando lo stesso approccio, insieme ad AMD, per ottenere miglioramenti significativi su hardware di terze parti.
Per misurare le capacità dei nostri modelli in attività di progettazione di chip dall’inizio alla fine, ne abbiamo valutato le generazioni successive su due progetti di processori open source, ottenendo risultati interessanti. E per sviluppare queste capacità sulla base di valutazioni affidabili, stiamo collaborando con Synopsys per integrare l’intelligenza di frontiera con gli strumenti di automazione della progettazione elettronica (EDA) che gli ingegneri usano già per progettare e verificare i chip.
Abbiamo iniziato a usare GPT‑4o come supporto alla progettazione di Jalapeño all’inizio del 2025. Già quel primo modello aveva individuato modi per ottenere miglioramenti non trascurabili in termini di potenza, prestazioni e area (PPA), ad esempio:
Nell’unità vettoriale, che gestisce ed esegue le attività di calcolo parallelo, i risparmi sono derivati da sommatori e moltiplicatori in virgola mobile, funzioni di conversione, logica di riduzione e unità per funzioni speciali. I modelli hanno esplorato sia implementazioni logiche alternative sia modi per suddividere i calcoli tra gli stadi della pipeline, individuando opportunità per condividere l’hardware e ridurre la memoria intermedia.
Nell’unità matriciale, un componente aritmetico, i miglioramenti si sono accumulati nei sommatori e moltiplicatori in virgola mobile e nei circuiti per il prodotto scalare a bassa precisione. La riprogettazione di un moltiplicatore ha ridotto di circa il 15% l’area occupata dalle celle in fase di sintesi, portando al contempo la latenza da due cicli di clock a uno. La riprogettazione separata di un sommatore ha ridotto l’area occupata dalle celle di circa il 15%, mantenendo una latenza di due cicli. Ulteriori miglioramenti alla logica del prodotto scalare e all’organizzazione della pipeline hanno generato altri risparmi nell’intero blocco.
Considerando l’intero lavoro di progettazione di Jalapeño, il team stima che le modifiche proposte dai modelli abbiano ridotto l’area delle celle standard di circa il 13% nell’unità vettoriale e del 10% nell’unità matriciale. Queste ottimizzazioni sono state confermate sul silicio durante la messa in funzione iniziale di Jalapeño.
Abbiamo collaborato con AMD per migliorare i parametri PPA, ottenendo miglioramenti fino al 14% rispetto a versioni di riferimento già altamente ottimizzate dell’IP della GPU di punta. Il nostro modello ha individuato ulteriori miglioramenti riscrivendo il codice che descrive i circuiti del chip (RTL in SystemVerilog). Si tratta di circa un anno di progressi ottenuti in meno di 5 mesi: risultati senza precedenti alle frontiere della progettazione dei chip. AMD ha già incluso alcune di queste modifiche in un recente progetto inviato in produzione e ne ha aggiunte altre ai file di progettazione destinati alla produzione, per utilizzarle nelle versioni future.
Abbiamo osservato il modello ragionare sull’RTL al livello di un esperto di microarchitetture. Il modello è in grado di riscrivere circuiti che eseguono calcoli, controllano operazioni o trasferiscono dati. Ha usato gli strumenti di Synopsys per verificare che ogni riscrittura preservasse il comportamento del blocco e per valutare i compromessi tra potenza, prestazioni e area.
AMD ha inoltre verificato miglioramenti percentuali a una cifra nei parametri PPA dei blocchi chiave della sua prossima CPU di punta di nuova generazione, usando progetti realizzati dal nostro modello. In futuro, prevediamo ulteriori miglioramenti dei parametri PPA su GPU e CPU rispetto alla versione di riferimento più ottimizzata.
I risultati ottenuti su Jalapeño e sui chip di AMD dimostrano che i modelli possono migliorare progetti destinati alla produzione. Per misurare i progressi nelle capacità di progettazione dei chip da una generazione di modelli alla successiva, abbiamo testato ciascun modello su due core RISC-V open source a 32 bit. PicoRV32 è un core compatto progettato per chip riprogrammabili chiamati FPGA. OpenTitan usa Ibex come processore integrato nel proprio chip di sicurezza. Entrambi sono core di processore completi per carichi di lavoro embedded tipici dei microcontrollori.
Abbiamo fornito a ciascun modello la descrizione hardware originale di ogni core e gli abbiamo chiesto di aumentare la capacità di elaborazione (il numero di istruzioni che il core può eseguire al secondo). Ad esempio, una modifica potrebbe consentire a un core di completare un’istruzione in meno cicli di clock, ma allungare la durata di ciascun ciclo. La misura della capacità di elaborazione tiene conto di entrambi gli effetti.
Abbiamo verificato gli output di ciascun progetto tramite simulazione. I progetti ricevevano un punteggio pari a zero se non superavano una verifica o se occupavano un’area superiore a 16 volte quella del core originale. Per i progetti che superavano le verifiche, abbiamo misurato le istruzioni per ciclo di clock su carichi di lavoro non accessibili ai modelli. Abbiamo calcolato la media geometrica su questi carichi di lavoro e l’abbiamo moltiplicata per la frequenza di clock massima stimata con Yosys. Abbiamo così ottenuto una stima del numero di istruzioni al secondo. Per ciascun core, abbiamo assegnato un punteggio di 1,0 alla migliore capacità di elaborazione osservata con gli stessi vincoli. I grafici mostrano il punteggio medio delle esecuzioni, comprese quelle con punteggio pari a zero.
Con un budget comparabile di circa 112.000 token per esecuzione, GPT‑6.2 Astra ha ottenuto il punteggio medio più alto su entrambi i core. Anche GPT‑6.1 Sol ha superato GPT‑5.6 Sol su entrambi.
Sul core PicoRV32 esistente, GPT‑6.2 Astra ottiene il punteggio medio più alto ai budget comparabili più elevati. Intorno ai 112.000 token, il suo punteggio è circa il doppio di quello di GPT‑6 Astra.
Sul core Ibex esistente, il punteggio medio di GPT‑6.2 Astra continua a crescere all’aumentare dei budget raggiunti. GPT‑6 Astra e GPT‑6.1 Sol ottengono risultati più vicini tra loro.
Per la seconda attività, abbiamo fornito a ciascun modello requisiti scritti e schemi tratti dal codice open source che mostravano come il core si collega al resto del sistema. Il modello ha scelto come far fluire i dati attraverso il core e come suddividere il lavoro in stadi. Per ogni core, abbiamo mantenuto le stesse verifiche di correttezza, impostazioni di memoria e cache e gli stessi obiettivi di capacità di elaborazione dell’attività di ottimizzazione RTL.
Con circa 112.000 token per esecuzione, tutti e cinque i modelli hanno ottenuto punteggi più alti progettando un core a partire da requisiti scritti che tentando di migliorare il progetto esistente. Questo risultato si è confermato sia su PicoRV32 sia su Ibex. GPT‑6.2 Astra ha ottenuto un miglioramento maggiore su Ibex rispetto a PicoRV32. La valutazione completa ha incluso 9.881 esecuzioni con punteggio, considerando entrambe le attività, entrambi i core e tutti i budget di token.
Partendo da una specifica PicoRV32, GPT‑6.2 Astra supera un punteggio medio di 0,7 intorno ai 112.000 token e ottiene punteggi ancora più alti ai due budget successivi osservati.
Su Ibex, GPT‑6.2 Astra raggiunge una media di circa 0,75 intorno ai 112.000 token quando progetta a partire da una specifica. La sua curva resta al di sopra delle altre ai budget più elevati comuni ai modelli.
Partire da requisiti scritti lascia ai modelli la possibilità di omettere funzionalità presenti nei core originali, come i contatori delle prestazioni e le istruzioni aggiuntive. Queste funzionalità potrebbero contribuire poco a migliorare la capacità di elaborazione sui carichi di lavoro del test, il che potrebbe spiegare in parte il vantaggio nel punteggio. Richiedere queste funzionalità, imporre un limite più stringente all’area del circuito e verificare le temporizzazioni dopo la sintesi fisica renderebbe il test più rappresentativo della progettazione di chip destinati alla produzione.
Abbiamo dimostrato che i nostri modelli possono esplorare nuove architetture di processori nelle valutazioni RISC-V e abbiamo apportato miglioramenti del tutto nuovi a progetti sofisticati destinati alla produzione, come Jalapeño e le GPU e CPU di punta di nuova generazione di AMD. Per basare lo sviluppo dei modelli su valutazioni affidabili e ampliare le sfide progettuali affrontate, stiamo collaborando con Synopsys per addestrare GPT‑Synopsys(si apre in una nuova finestra), un nuovo modello, a usare gli strumenti di automazione della progettazione elettronica (EDA) di Synopsys come fanno i progettisti di chip esperti.


