Faire progresser la conception de puces avec les modèles OpenAI
Les modèles d’OpenAI améliorent rapidement les puces qui propulsent l’IA. En août, nous avons expliqué comment les ingénieurs d’OpenAI ont utilisé nos modèles de pointe pour accélérer le développement de Jalapeño, notre première puce d’inférence sur mesure. Nous examinons ici de plus près les améliorations de conception de niveau expert à l’origine des gains de Jalapeño, ainsi que la façon dont nous appliquons la même approche avec AMD pour obtenir des gains importants sur du matériel tiers.
Pour mesurer les capacités de notre modèle dans des tâches de conception de puces de bout en bout, nous avons évalué des générations successives sur deux conceptions de processeurs à code source ouvert, avec des résultats intéressants. Et pour appuyer le développement des capacités sur des outils d’évaluation fiables, nous travaillons avec Synopsys afin d’intégrer une intelligence de pointe aux outils d’automatisation de la conception électronique (EDA) que les ingénieurs utilisent déjà pour concevoir et vérifier les puces.
Nous avons commencé à utiliser GPT‑4o pour aider à concevoir Jalapeño au début de 2025. Même ce premier modèle a trouvé des moyens d’apporter des améliorations non négligeables à la consommation, aux performances et à la surface (PPA), notamment :
Dans l’unité vectorielle, qui gère et exécute les tâches de calcul parallèle, les économies provenaient des additionneurs et multiplicateurs en virgule flottante, des fonctions de conversion, de la logique de réduction et de l’unité de fonctions spéciales. Les modèles ont exploré à la fois d’autres implémentations logiques et la répartition des calculs entre les étages du pipeline, trouvant des occasions de partager le matériel et de réduire le stockage intermédiaire.
Dans l’unité matricielle, un composant arithmétique, les améliorations se sont accumulées dans les additionneurs, les multiplicateurs en virgule flottante et les circuits de produit scalaire à faible précision. La refonte d’un multiplicateur a réduit d’environ 15 % la surface des cellules à la synthèse, tout en faisant passer la latence de deux cycles d’horloge à un seul. Une refonte distincte d’un additionneur a réduit la surface des cellules d’environ 15 %, tout en conservant sa latence de deux cycles. D’autres améliorations de la logique de produit scalaire et de l’organisation du pipeline ont permis des économies supplémentaires dans l’ensemble du bloc.
Dans l’ensemble des travaux de conception de Jalapeño, l’équipe estime que les changements proposés par les modèles ont réduit la surface des cellules standard d’environ 13 % dans l’unité vectorielle et de 10 % dans l’unité matricielle. Ces optimisations ont été validées sur silicium lors de la mise en service initiale de la puce Jalapeño.
Nous avons collaboré avec AMD pour améliorer les PPA et constaté jusqu’à 14 % d’amélioration par rapport à des références fortement optimisées sur les blocs de propriété intellectuelle (IP) de son processeur graphique phare. Notre modèle a trouvé d’autres améliorations en réécrivant le code qui décrit les circuits de la puce (RTL en SystemVerilog). Cela représente environ un an de progrès réalisés en moins de 5 mois — des résultats sans précédent à la fine pointe de la conception de puces. AMD a déjà intégré certains de ces changements à une conception récente envoyée en fabrication, et en a ajouté d’autres à ses fichiers de conception de production pour les utiliser dans de futures versions.
Nous avons observé le modèle raisonner sur le RTL au niveau d’un expert en microarchitecture. Le modèle peut réécrire des circuits qui effectuent des calculs, contrôlent des opérations ou déplacent des données. Il a utilisé les outils de Synopsys pour vérifier que chaque réécriture préservait le comportement du bloc et pour évaluer les compromis entre consommation, performances et surface.
AMD a également confirmé des gains de quelques pour cent sur les PPA dans des blocs clés de son futur processeur central phare de nouvelle génération, grâce à des conceptions écrites par notre modèle. À l’avenir, nous prévoyons d’autres améliorations des PPA sur les processeurs graphiques et centraux, par rapport à la référence la plus optimisée.
Nos résultats sur Jalapeño et les puces d’AMD montrent que les modèles peuvent améliorer des conceptions de production. Pour mesurer la progression des capacités de conception de puces d’une génération de modèles à l’autre, nous avons testé chaque modèle sur deux cœurs RISC-V de 32 bits à code source ouvert. PicoRV32 est un cœur compact conçu pour des puces reprogrammables appelées FPGA. OpenTitan utilise Ibex comme processeur embarqué dans sa puce de sécurité. Chacun est un cœur de processeur complet destiné aux charges de travail embarquées de type microcontrôleur.
Nous avons fourni à chaque modèle la description matérielle d’origine de chaque cœur et lui avons demandé d’augmenter le débit (le nombre d’instructions que le cœur peut exécuter par seconde). Par exemple, un changement pourrait permettre à un cœur d’exécuter une instruction en moins de cycles d’horloge, mais allonger la durée de chaque cycle. La mesure du débit tient compte de ces deux effets.
Nous avons vérifié les sorties de chaque conception par simulation. Les conceptions obtenaient un score de zéro si elles échouaient à une vérification ou utilisaient plus de 16 fois la surface du cœur d’origine. Pour les conceptions qui réussissaient, nous avons mesuré le nombre d’instructions par cycle d’horloge sur des charges de travail cachées aux modèles. Nous avons calculé la moyenne géométrique sur ces charges de travail et l’avons multipliée par la fréquence d’horloge maximale estimée avec Yosys. Nous avons ainsi obtenu une estimation du nombre d’instructions par seconde. Pour chaque cœur, nous avons attribué un score de 1,0 au meilleur débit observé sous les mêmes contraintes. Les graphiques montrent le score moyen de l’ensemble des essais, y compris ceux ayant obtenu zéro.
Avec un budget comparable d’environ 112 000 tokens par essai, GPT‑6.2 Astra a obtenu le score moyen le plus élevé sur les deux cœurs. GPT‑6.1 Sol a également surpassé GPT‑5.6 Sol sur les deux.
Sur le cœur PicoRV32 existant, GPT‑6.2 Astra obtient le score moyen le plus élevé aux budgets comparables les plus importants. Vers 112 000 tokens, son score est environ le double de celui de GPT‑6 Astra.
Sur le cœur Ibex existant, le score moyen de GPT‑6.2 Astra continue de grimper à mesure qu’il atteint des budgets plus élevés. GPT‑6 Astra et GPT‑6.1 Sol affichent des résultats plus proches.
Pour la deuxième tâche, nous avons fourni à chaque modèle des exigences écrites et des gabarits tirés du code source ouvert montrant comment le cœur se connecte au reste du système. Le modèle choisissait comment les données circuleraient dans le cœur et comment répartir le travail entre les étages. Pour chaque cœur, nous avons conservé les mêmes vérifications d’exactitude, paramètres de mémoire et de cache, et objectifs de débit que pour la tâche d’optimisation RTL.
À environ 112 000 tokens par essai, les cinq modèles ont obtenu de meilleurs scores en concevant un cœur à partir d’exigences écrites qu’en tentant d’améliorer la conception existante. Ce constat s’appliquait autant à PicoRV32 qu’à Ibex. GPT‑6.2 Astra a davantage progressé sur Ibex que sur PicoRV32. L’évaluation complète comprenait 9 881 essais notés couvrant les deux tâches, les deux cœurs et tous les budgets de tokens.
À partir d’une spécification PicoRV32, GPT‑6.2 Astra dépasse un score moyen de 0,7 vers 112 000 tokens et obtient des scores plus élevés aux deux budgets suivants observés.
Sur Ibex, GPT‑6.2 Astra obtient un score moyen d’environ 0,75 vers 112 000 tokens en concevant le cœur à partir d’une spécification. Sa courbe reste au-dessus des autres aux budgets communs plus élevés.
Partir d’exigences écrites donne aux modèles la latitude d’omettre des fonctions présentes dans les cœurs d’origine, comme les compteurs de performance et les instructions supplémentaires. Ces fonctions contribuent peut-être peu à améliorer le débit sur les charges de travail de test, ce qui pourrait expliquer une partie de l’avantage observé dans les scores. Exiger ces fonctions, fixer une limite plus stricte à la surface des circuits et vérifier les contraintes temporelles après la synthèse physique rendrait le test plus représentatif de la conception de puces de production.
Nous avons démontré que nos modèles peuvent explorer de nouvelles architectures de processeurs dans les évaluations RISC-V et apporter des améliorations inédites à des conceptions de production sophistiquées comme Jalapeño et les processeurs graphiques et centraux phares de nouvelle génération d’AMD. Pour appuyer le développement des modèles sur des outils d’évaluation fiables et élargir les défis de conception abordés, nous collaborons avec Synopsys pour entraîner GPT‑Synopsys(s'ouvre dans une nouvelle fenêtre), un nouveau modèle, à utiliser les outils d’automatisation de la conception électronique (EDA) de Synopsys comme le font les experts en conception de puces.


