Avançando no projeto de chips com modelos da OpenAI
Os modelos da OpenAI estão aprimorando rapidamente os chips que viabilizam a IA. Em agosto, mostramos como os engenheiros da OpenAI usaram nossos modelos de fronteira para acelerar o desenvolvimento do Jalapeño, nosso primeiro chip de inferência personalizado. Aqui, examinamos mais de perto as melhorias de projeto de nível especializado que levaram aos ganhos do Jalapeño e como estamos aplicando a mesma abordagem para obter ganhos significativos em hardware de terceiros, em parceria com a AMD.
Para medir a capacidade do nosso modelo em tarefas de projeto de chips de ponta a ponta, avaliamos gerações sucessivas em dois projetos de processadores de código aberto, com resultados interessantes. E, para basear o desenvolvimento de capacidades em avaliadores confiáveis, estamos trabalhando com a Synopsys para integrar inteligência de ponta às ferramentas de automação de projeto eletrônico (EDA) que os engenheiros já usam para projetar e verificar chips.
Começamos a usar o GPT‑4o para ajudar a projetar o Jalapeño no início de 2025. Mesmo esse modelo inicial encontrou maneiras de fazer melhorias relevantes em potência, desempenho e área (PPA), como:
Na unidade vetorial, que gerencia e executa tarefas de computação paralela, as economias vieram dos somadores e multiplicadores de ponto flutuante, das funções de conversão, da lógica de redução e da unidade de funções especiais. Os modelos exploraram tanto implementações alternativas de lógica quanto maneiras de dividir os cálculos entre os estágios do pipeline, encontrando oportunidades de compartilhar hardware e reduzir o armazenamento intermediário.
Na unidade matricial, um componente aritmético, as melhorias se acumularam nos somadores e multiplicadores de ponto flutuante e nos circuitos de produto escalar de baixa precisão. Um multiplicador reprojetado usou cerca de 15% menos área de células na síntese e reduziu a latência de dois ciclos de clock para um. Em outro caso, um somador reprojetado reduziu a área de células em cerca de 15%, mantendo a latência de dois ciclos. Outras melhorias na lógica de produto escalar e na organização do pipeline geraram economias adicionais em todo o bloco.
Considerando o trabalho de projeto do Jalapeño como um todo, a equipe estima que as mudanças propostas pelos modelos reduziram a área de células padrão em cerca de 13% na unidade vetorial e 10% na unidade matricial. Essas otimizações foram comprovadas em silício durante a validação inicial do chip Jalapeño.
Em parceria com a AMD, trabalhamos em melhorias de PPA e observamos ganhos de até 14% em relação a versões de referência altamente otimizadas no IP de sua GPU topo de linha. Nosso modelo identificou melhorias adicionais ao reescrever o código que descreve os circuitos do chip (RTL em SystemVerilog). Isso representa cerca de um ano de progresso alcançado em menos de 5 meses — resultados sem precedentes na vanguarda do projeto de chips. A AMD já incluiu algumas dessas mudanças em um projeto recente enviado para fabricação e adicionou outras aos arquivos de projeto de produção para uso em versões futuras.
Observamos o modelo raciocinar sobre RTL no nível de um especialista em microarquitetura. O modelo pode reescrever circuitos que realizam cálculos, controlam operações ou movimentam dados. Ele usou ferramentas da Synopsys para verificar se cada reescrita preservava o comportamento do bloco e para avaliar os compromissos entre potência, desempenho e área.
A AMD também verificou ganhos percentuais de um dígito em PPA nos principais blocos de sua próxima CPU topo de linha, usando projetos escritos pelo nosso modelo. Daqui para frente, esperamos melhorias adicionais de PPA em GPU e CPU em relação à versão de referência mais otimizada.
Nossos resultados no Jalapeño e nos chips da AMD mostram que os modelos podem melhorar projetos de produção. Para medir a evolução das capacidades de projeto de chips de uma geração de modelos para a seguinte, testamos cada modelo em dois núcleos RISC-V de 32 bits de código aberto. O PicoRV32 é um núcleo compacto projetado para chips reprogramáveis chamados FPGAs. O OpenTitan usa o Ibex como processador embarcado em seu chip de segurança. Cada um é um núcleo de processador completo para cargas de trabalho de sistemas embarcados da classe dos microcontroladores.
Fornecemos a cada modelo a descrição de hardware original de cada núcleo e pedimos que aumentasse a taxa de processamento (o número de instruções que o núcleo consegue executar por segundo). Por exemplo, uma mudança pode permitir que um núcleo conclua uma instrução em menos ciclos de clock, mas fazer cada ciclo demorar mais. A medição da taxa de processamento considera os dois efeitos.
Verificamos as saídas de cada projeto por meio de simulação. Os projetos recebiam pontuação zero se falhassem em uma verificação ou usassem mais de 16 vezes a área do núcleo original. Nos projetos aprovados, medimos as instruções por ciclo de clock em cargas de trabalho não reveladas aos modelos. Calculamos a média geométrica dessas cargas de trabalho e a multiplicamos pela frequência máxima de clock estimada com o Yosys. Isso nos deu uma estimativa de instruções por segundo. Para cada núcleo, atribuímos a pontuação 1,0 à melhor taxa de processamento observada sob as mesmas restrições. Os gráficos mostram a pontuação média das execuções, incluindo as que receberam zero.
Com um limite comparável de cerca de 112.000 tokens por execução, o GPT‑6.2 Astra obteve a maior pontuação média nos dois núcleos. O GPT‑6.1 Sol também superou o GPT‑5.6 Sol em ambos.
No núcleo PicoRV32 existente, o GPT‑6.2 Astra tem a maior pontuação média nos limites comparáveis mais altos de tokens. Por volta de 112.000 tokens, sua pontuação é cerca do dobro da obtida pelo GPT‑6 Astra.
No núcleo Ibex existente, a pontuação média do GPT‑6.2 Astra continua subindo à medida que ele alcança limites maiores de tokens. O GPT‑6 Astra e o GPT‑6.1 Sol têm resultados mais próximos entre si.
Para a segunda tarefa, fornecemos a cada modelo requisitos escritos e templates do código aberto que mostravam como o núcleo se conecta ao restante do sistema. O modelo escolheu como os dados se moveriam pelo núcleo e como dividir o trabalho em estágios. Para cada núcleo, mantivemos as mesmas verificações de correção, configurações de memória e cache e metas de taxa de processamento da tarefa de otimização de RTL.
Com cerca de 112.000 tokens por execução, os cinco modelos obtiveram pontuações maiores ao projetar um núcleo a partir de requisitos escritos do que ao tentar melhorar o projeto existente. Isso se confirmou tanto no PicoRV32 quanto no Ibex. O GPT‑6.2 Astra teve ganhos maiores no Ibex do que no PicoRV32. A avaliação completa incluiu 9.881 execuções pontuadas, abrangendo as duas tarefas, os dois núcleos e todos os limites de tokens.
Partindo de uma especificação do PicoRV32, o GPT‑6.2 Astra supera a pontuação média de 0,7 perto de 112.000 tokens e obtém pontuações maiores nos dois limites de tokens seguintes observados.
No Ibex, o GPT‑6.2 Astra obtém uma média de cerca de 0,75 perto de 112.000 tokens ao projetar a partir de uma especificação. Sua curva permanece acima das demais nos limites maiores de tokens usados em comum.
Partir de requisitos escritos dá aos modelos liberdade para omitir recursos presentes nos núcleos originais, como contadores de desempenho e instruções adicionais. Esses recursos podem contribuir pouco para melhorar a taxa de processamento nas cargas de trabalho de teste, o que poderia explicar parte da vantagem na pontuação. Exigir esses recursos, impor um limite mais rígido à área do circuito e verificar a temporização após a síntese física tornaria o teste mais representativo do projeto de chips de produção.
Demonstramos que nossos modelos podem explorar novas arquiteturas de processadores em avaliações de RISC-V e trouxemos melhorias inéditas a projetos de produção sofisticados, como o Jalapeño e a GPU e a CPU topo de linha da próxima geração da AMD. Para basear o desenvolvimento de modelos em avaliadores confiáveis e ampliar os desafios de projeto abordados, estamos trabalhando com a Synopsys para treinar o GPT‑Synopsys(abre em uma nova janela), um novo modelo, para usar as ferramentas de automação de projeto eletrônico (EDA) da Synopsys como os especialistas em projeto de chips fazem.


