Avances en el diseño de chips con modelos de OpenAI
Los modelos de OpenAI están mejorando rápidamente los chips que impulsan la IA. En agosto, compartimos cómo los ingenieros de OpenAI usaron nuestros modelos de vanguardia para acelerar el desarrollo de Jalapeño, nuestro primer chip de inferencia a medida. Aquí analizamos en detalle las mejoras de diseño de nivel experto que hicieron posibles los avances de Jalapeño y cómo estamos aplicando el mismo enfoque para lograr mejoras significativas en hardware de terceros junto con AMD.
Para medir la capacidad de nuestro modelo en tareas de diseño de chips de principio a fin, evaluamos generaciones sucesivas en dos diseños de procesadores de código abierto, con resultados interesantes. Y para basar el desarrollo de capacidades en evaluadores confiables, estamos trabajando con Synopsys para integrar inteligencia de vanguardia con las herramientas de automatización del diseño electrónico (EDA) que los ingenieros ya usan para diseñar y verificar chips.
Empezamos a usar GPT‑4o como apoyo para diseñar Jalapeño a principios de 2025. Incluso ese primer modelo encontró formas de lograr mejoras importantes en potencia, rendimiento y área (PPA), como las siguientes:
En la unidad vectorial, que gestiona y ejecuta tareas de cómputo paralelo, los ahorros provinieron de los sumadores y multiplicadores de punto flotante, las funciones de conversión, la lógica de reducción y la unidad de funciones especiales. Los modelos exploraron tanto implementaciones lógicas alternativas como formas de distribuir los cálculos entre las etapas de segmentación, y encontraron oportunidades para compartir hardware y reducir el almacenamiento intermedio.
En la unidad matricial, un componente aritmético, se acumularon mejoras en los sumadores de punto flotante, los multiplicadores y los circuitos de producto escalar de baja precisión. El rediseño de un multiplicador redujo el área de celdas en la síntesis en aproximadamente un 15 %, a la vez que redujo la latencia de dos ciclos de reloj a uno. Por separado, el rediseño de un sumador redujo el área de celdas en aproximadamente un 15 %, sin modificar su latencia de dos ciclos. Otras mejoras en la lógica de producto escalar y la organización de la segmentación aportaron ahorros adicionales en todo el bloque.
En el conjunto del trabajo de diseño de Jalapeño, el equipo estima que los cambios propuestos por el modelo redujeron el área de celdas estándar en aproximadamente un 13 % en la unidad vectorial y un 10 % en la unidad matricial. Estas optimizaciones se validaron en silicio durante la puesta en marcha del chip Jalapeño.
Colaboramos con AMD en mejoras de PPA y observamos mejoras de hasta un 14 % respecto de diseños de referencia muy optimizados en la IP de su GPU insignia. Nuestro modelo identificó mejoras adicionales al reescribir el código que describe los circuitos del chip (RTL en SystemVerilog). Esto representa aproximadamente un año de progreso logrado en menos de 5 meses: resultados sin precedentes en la frontera del diseño de chips. AMD ya incluyó algunos de estos cambios en un diseño reciente que envió a fabricación y añadió otros a sus archivos de diseño de producción para usarlos en futuras versiones.
Observamos que el modelo razona sobre RTL al nivel de un experto en microarquitectura. El modelo puede reescribir circuitos que realizan cálculos, controlan operaciones o transfieren datos. Usó herramientas de Synopsys para verificar que cada reescritura conservara el comportamiento del bloque y evaluar el equilibrio entre potencia, rendimiento y área.
AMD también verificó mejoras porcentuales de un solo dígito en PPA en bloques clave de su próxima CPU insignia de nueva generación, usando diseños escritos por nuestro modelo. De cara al futuro, esperamos lograr más mejoras de PPA en GPU y CPU respecto del diseño de referencia más optimizado.
Nuestros resultados con Jalapeño y los chips de AMD muestran que los modelos pueden mejorar diseños de producción. Para medir el avance de las capacidades de diseño de chips de una generación de modelos a la siguiente, probamos cada modelo con dos núcleos RISC-V de 32 bits de código abierto. PicoRV32 es un núcleo compacto diseñado para chips reprogramables llamados FPGA. OpenTitan usa Ibex como procesador integrado en su chip de seguridad. Cada uno es un núcleo de procesador completo para cargas de trabajo de sistemas integrados de clase microcontrolador.
Le dimos a cada modelo la descripción de hardware original de cada núcleo y le pedimos que aumentara el rendimiento (la cantidad de instrucciones que el núcleo puede ejecutar por segundo). Por ejemplo, un cambio podría permitir que un núcleo complete una instrucción en menos ciclos de reloj, pero hacer que cada ciclo dure más. Medir el rendimiento permite reflejar ambos efectos.
Verificamos las salidas de cada diseño mediante simulación. Los diseños recibieron una puntuación de cero si no superaban alguna verificación o si ocupaban más de 16 veces el área del núcleo original. Para los diseños que superaron las verificaciones, medimos las instrucciones por ciclo de reloj con cargas de trabajo ocultas a los modelos. Calculamos la media geométrica de esas cargas de trabajo y la multiplicamos por la frecuencia máxima de reloj estimada con Yosys. Así obtuvimos una estimación de las instrucciones por segundo. Para cada núcleo, asignamos una puntuación de 1,0 al mejor rendimiento que observamos bajo las mismas restricciones. Las gráficas muestran la puntuación media de las ejecuciones, incluidas las que obtuvieron cero.
Con un presupuesto comparable de unos 112 000 tokens por ejecución, GPT‑6.2 Astra obtuvo la puntuación media más alta en ambos núcleos. GPT‑6.1 Sol también superó a GPT‑5.6 Sol en ambos.
En el núcleo PicoRV32 existente, GPT‑6.2 Astra obtiene la puntuación media más alta con los presupuestos comparables más altos. Con unos 112 000 tokens, su puntuación es aproximadamente el doble de la de GPT‑6 Astra.
En el núcleo Ibex existente, la puntuación media de GPT‑6.2 Astra sigue aumentando a medida que alcanza presupuestos más altos. GPT‑6 Astra y GPT‑6.1 Sol obtienen resultados más cercanos entre sí.
Para la segunda tarea, le dimos a cada modelo requisitos escritos y plantillas del código abierto que muestran cómo se conecta el núcleo con el resto del sistema. El modelo eligió cómo se moverían los datos por el núcleo y cómo dividir el trabajo en etapas. Para cada núcleo, mantuvimos las mismas verificaciones de funcionamiento correcto, configuraciones de memoria y caché, y objetivos de rendimiento que en la tarea de optimización de RTL.
Con unos 112 000 tokens por ejecución, los cinco modelos obtuvieron puntuaciones más altas al diseñar un núcleo a partir de requisitos escritos que al intentar mejorar el diseño existente. Esto se cumplió tanto para PicoRV32 como para Ibex. GPT‑6.2 Astra logró una mejora mayor en Ibex que en PicoRV32. La evaluación completa incluyó 9881 ejecuciones puntuadas entre ambas tareas, ambos núcleos y todos los presupuestos de tokens.
Partiendo de una especificación de PicoRV32, GPT‑6.2 Astra supera una puntuación media de 0,7 con cerca de 112 000 tokens y obtiene puntuaciones más altas en los dos siguientes presupuestos observados.
En Ibex, GPT‑6.2 Astra obtiene una media de alrededor de 0,75 con cerca de 112 000 tokens al diseñar a partir de una especificación. Su curva se mantiene por encima de las demás con presupuestos más altos comunes a los modelos.
Partir de requisitos escritos les da a los modelos margen para omitir funciones presentes en los núcleos originales, como contadores de rendimiento e instrucciones adicionales. Esas funciones pueden contribuir poco a mejorar el rendimiento con las cargas de trabajo de prueba, lo que podría explicar parte de la ventaja en la puntuación. Exigir esas funciones, establecer un límite más estricto para el área del circuito y verificar la temporización después de la síntesis física haría que la prueba fuera más representativa del diseño de chips de producción.
Demostramos que nuestros modelos pueden explorar nuevas arquitecturas de procesadores en evaluaciones de RISC-V y aportamos mejoras nuevas a diseños de producción sofisticados como Jalapeño y las próximas GPU y CPU insignia de nueva generación de AMD. Para basar el desarrollo de modelos en evaluadores confiables y abordar una mayor variedad de desafíos de diseño, estamos colaborando con Synopsys para entrenar a GPT‑Synopsys(se abre en una nueva ventana), un nuevo modelo, para que use las herramientas de automatización del diseño electrónico (EDA) de Synopsys como lo hacen los diseñadores de chips expertos.


