OpenAI

Развитие проектирования чипов с моделями OpenAI

Модели OpenAI помогают быстро совершенствовать чипы, на которых работает ИИ. В августе⁠ мы рассказали, как инженеры OpenAI использовали наши передовые модели, чтобы ускорить разработку Jalapeño — нашего первого специализированного чипа для инференса. Здесь мы подробнее рассмотрим инженерные решения экспертного уровня, которые позволили улучшить Jalapeño, и расскажем, как вместе с AMD применяем тот же подход для существенного улучшения стороннего оборудования.

Чтобы оценить способность моделей решать задачи полного цикла проектирования чипов, мы протестировали несколько последовательных поколений на двух проектах процессоров с открытым исходным кодом и получили интересные результаты. А чтобы развивать эти способности, опираясь на проверенные средства оценки, мы сотрудничаем с Synopsys: интегрируем передовые возможности ИИ с инструментами автоматизации проектирования электроники (EDA), которые инженеры уже используют для проектирования и верификации чипов.

Улучшение вычислительных блоков Jalapeño

Мы начали использовать GPT‑4o при проектировании Jalapeño в начале 2025 года. Даже эта ранняя модель находила способы существенно улучшить показатели энергопотребления, производительности и площади (PPA). Например:

В векторном блоке, который управляет параллельными вычислениями и выполняет их, экономию обеспечили улучшения сумматоров и умножителей с плавающей точкой, функций преобразования, логики редукции и блока специальных функций. Модели исследовали как альтернативные реализации логики, так и способы распределения вычислений по ступеням конвейера, находя возможности совместно использовать аппаратные ресурсы и сократить хранение промежуточных данных.

В матричном блоке, выполняющем арифметические операции, общий эффект складывался из улучшений сумматоров и умножителей с плавающей точкой, а также схем скалярного произведения низкой точности. Один из переработанных умножителей после синтеза занимал примерно на 15% меньше площади ячеек, а его задержка сократилась с двух тактов до одного. Отдельная переработка сумматора сократила площадь ячеек примерно на 15%, сохранив задержку в два такта. Дальнейшие улучшения логики скалярного произведения и организации конвейера обеспечили дополнительную экономию ресурсов по всему блоку.

По оценке команды, за всё время проектирования Jalapeño предложенные моделями изменения сократили площадь стандартных ячеек примерно на 13% в векторном блоке и на 10% в матричном. Эффективность этих оптимизаций подтвердилась на реальном кристалле при первом запуске и отладке Jalapeño⁠.

Наше сотрудничество с AMD

Вместе с AMD мы работали над улучшением PPA и добились прироста до 14% относительно уже тщательно оптимизированных исходных вариантов IP-блоков флагманского GPU. Наша модель нашла дополнительные возможности для улучшения, переписав код, описывающий схемы чипа (RTL на SystemVerilog). Менее чем за 5 месяцев удалось добиться прогресса, на который обычно уходит около года, — беспрецедентный результат для передового проектирования чипов. AMD уже включила часть этих изменений в недавно переданный в производство проект, а другие добавила в производственные проектные файлы для будущих версий.

Мы наблюдали, как модель анализирует RTL на уровне эксперта по микроархитектуре. Модель способна перерабатывать схемы, которые выполняют вычисления, управляют операциями или передают данные. Она использовала инструменты Synopsys, чтобы проверять сохранение поведения блока после каждой переработки и оценивать компромиссы между энергопотреблением, производительностью и площадью.

AMD также подтвердила улучшение PPA на несколько процентов в ключевых блоках своего будущего флагманского CPU следующего поколения благодаря проектным решениям нашей модели. В дальнейшем мы ожидаем новых улучшений PPA для GPU и CPU относительно наиболее оптимизированных исходных вариантов.

Оптимизация ядер RISC-V

Результаты работы с Jalapeño и чипами AMD показывают, что модели способны улучшать проекты, предназначенные для серийного производства. Чтобы измерить прогресс в проектировании чипов от одного поколения моделей к следующему, мы протестировали каждую модель на двух 32-битных ядрах RISC-V с открытым исходным кодом. PicoRV32 — компактное ядро для перепрограммируемых микросхем FPGA (ПЛИС). OpenTitan использует Ibex как встроенный процессор в своём чипе безопасности. Каждое из них — полноценное процессорное ядро для задач встраиваемых систем класса микроконтроллеров.

Мы предоставили каждой модели исходное аппаратное описание обоих ядер и попросили увеличить пропускную способность — число инструкций, которые ядро может выполнить за секунду. Например, изменение может позволить ядру выполнять инструкцию за меньшее число тактов, но при этом увеличить длительность каждого такта. Измерение пропускной способности учитывает оба эффекта.

Мы проверяли выходные данные каждого проекта при моделировании. Проекты получали нулевой балл, если не проходили проверку или занимали площадь более чем в 16 раз больше исходного ядра. Для проектов, прошедших проверку, мы измеряли число инструкций за такт на нагрузках, скрытых от моделей. Мы брали среднее геометрическое по этим нагрузкам и умножали его на максимальную тактовую частоту, оценённую с помощью Yosys. Так мы получали оценку числа инструкций в секунду. Для каждого ядра лучшей пропускной способности, достигнутой при тех же ограничениях, мы присваивали оценку 1,0. На графиках показан средний балл по запускам, включая запуски с нулевым результатом.

При сопоставимом бюджете около 112 000 токенов на запуск GPT‑6.2 Astra показала наивысший средний балл на обоих ядрах. GPT‑6.1 Sol также опередила GPT‑5.6 Sol на обоих ядрах.

При оптимизации существующего ядра PicoRV32 модель GPT‑6.2 Astra показывает наивысший средний балл при более высоких сопоставимых бюджетах. При бюджете около 112 000 токенов её балл примерно вдвое выше, чем у GPT‑6 Astra.

При оптимизации существующего ядра Ibex средний балл GPT‑6.2 Astra продолжает расти с увеличением доступного ей бюджета. Результаты GPT‑6 Astra и GPT‑6.1 Sol ближе друг к другу.

Проектирование ядра RISC-V по спецификации

Во второй задаче мы предоставили каждой модели письменные требования и шаблоны из открытого исходного кода, показывающие, как ядро подключается к остальной системе. Модель сама выбирала, как данные будут перемещаться внутри ядра и как разделить работу на этапы. Для каждого ядра мы сохранили те же проверки корректности, настройки памяти и кэша и цели по пропускной способности, что и в задаче оптимизации RTL.

При бюджете около 112 000 токенов на запуск все пять моделей получали более высокие баллы, проектируя ядро по письменным требованиям, чем пытаясь улучшить существующий проект. Это наблюдалось и на PicoRV32, и на Ibex. У GPT‑6.2 Astra прирост на Ibex был больше, чем на PicoRV32. Полная оценка включала 9 881 запуск с выставлением баллов — по обеим задачам, обоим ядрам и всем бюджетам токенов.

При проектировании по спецификации PicoRV32 средний балл GPT‑6.2 Astra превышает 0,7 при бюджете около 112 000 токенов и растёт на двух следующих протестированных уровнях бюджета.

При проектировании Ibex по спецификации GPT‑6.2 Astra получает средний балл около 0,75 при бюджете примерно 112 000 токенов. При более высоких общих для моделей бюджетах её кривая остаётся выше остальных.

Проектируя по письменным требованиям, модели могут отказаться от некоторых функций исходных ядер, например счётчиков производительности и дополнительных инструкций. Эти функции могут мало влиять на пропускную способность при тестовых нагрузках, что отчасти объясняет преимущество в баллах. Если сделать эти функции обязательными, ужесточить ограничение на площадь схемы и проверять временные характеристики после физического синтеза, тест будет точнее отражать условия проектирования серийных чипов.

Что дальше

Мы показали, что наши модели способны исследовать новые процессорные архитектуры в тестах RISC-V, и добились дополнительных улучшений сложных серийных проектов, таких как Jalapeño и флагманские GPU и CPU следующего поколения от AMD. Чтобы развивать модели, опираясь на проверенные средства оценки, и расширить круг решаемых задач проектирования, мы сотрудничаем с Synopsys. Вместе мы обучаем новую модель GPT‑Synopsys⁠(открывается в новом окне) пользоваться инструментами автоматизации проектирования электроники (EDA) Synopsys так, как это делают опытные проектировщики чипов.