OpenAI

Унапређење пројектовања чипова уз OpenAI моделе

OpenAI модели брзо унапређују чипове који покрећу AI. У августу⁠ смо објавили како су инжењери компаније OpenAI користили наше граничне моделе да убрзају развој нашег првог наменског чипа за инференцију, Jalapeño. Овде детаљније разматрамо стручна унапређења дизајна која су донела побољшања чипу Jalapeño, као и начин на који исти приступ примењујемо у сарадњи са компанијом AMD да бисмо значајно унапредили хардвер других произвођача.

Да бисмо измерили способност наших модела да обављају целовите задатке пројектовања чипова, тестирали смо њихове узастопне генерације на два дизајна процесора отвореног кода и дошли до занимљивих налаза. А како бисмо развој способности заснивали на поузданим алатима за евалуацију, сарађујемо са компанијом Synopsys на интеграцији граничне AI са алатима за аутоматизацију електронског пројектовања (EDA), које инжењери већ користе за пројектовање и верификацију чипова.

Унапређење рачунских блокова чипа Jalapeño

Почетком 2025. почели смо да користимо GPT‑4o као помоћ у пројектовању чипа Jalapeño. Чак је и тај рани модел пронашао начине за значајна побољшања потрошње енергије, перформанси и површине (PPA), као што су:

У векторској јединици, која управља паралелним рачунским задацима и извршава их, уштеде су остварене на сабирачима и множачима са покретним зарезом, функцијама конверзије, логици редукције и јединици за специјалне функције. Модели су истраживали и алтернативне имплементације логике и начине расподеле израчунавања по степенима проточне обраде, проналазећи могућности за заједничко коришћење хардвера и смањење простора за чување међурезултата.

У матричној јединици, аритметичкој компоненти, побољшања су се сабирала кроз измене сабирача и множача са покретним зарезом и кола за скаларни производ ниске прецизности. Један редизајнирани множач заузимао је око 15% мању површину ћелија након синтезе, уз смањење кашњења са два циклуса такта на један. Засебним редизајном сабирача површина ћелија смањена је за око 15%, уз задржавање кашњења од два циклуса. Даља побољшања логике скаларног производа и организације проточне обраде донела су додатне уштеде у целом блоку.

У оквиру ширег рада на пројектовању чипа Jalapeño, тим процењује да су измене које су модели предложили смањиле површину стандардних ћелија за око 13% у векторској и 10% у матричној јединици. Ове оптимизације потврђене су на физичком чипу током првог покретања и тестирања чипа Jalapeño⁠.

Наша сарадња са компанијом AMD

У партнерству са компанијом AMD радили смо на побољшањима PPA и остварили напредак до 14% у односу на већ високооптимизоване полазне дизајне IP блокова њиховог водећег GPU-а. Наш модел је пронашао додатна побољшања преписивањем кода који описује кола чипа (SystemVerilog RTL). То одговара приближно годину дана напретка оствареног за мање од 5 месеци — резултатима без преседана на самом врху пројектовања чипова. AMD је неке од ових измена већ уврстио у недавни дизајн послат у производњу, а друге је додао у датотеке производног дизајна за употребу у будућим верзијама.

Приметили смо да модел расуђује о RTL-у на нивоу стручњака за микроархитектуру. Модел може да препише описе кола која обављају израчунавања, управљају операцијама или преносе податке. Користио је алате компаније Synopsys да провери да ли је свака измена очувала понашање блока и да процени компромисе између потрошње енергије, перформанси и површине.

AMD је такође потврдио побољшања PPA од једноцифреног броја процената у кључним блоковима свог предстојећег водећег CPU-а следеће генерације, користећи дизајне које је израдио наш модел. У наредном периоду очекујемо додатна побољшања PPA на GPU-има и CPU-има у односу на најоптимизованије полазне дизајне.

Оптимизација RISC-V језгара

Наши резултати на чипу Jalapeño и чиповима компаније AMD показују да модели могу да унапреде дизајне намењене производњи. Да бисмо измерили напредак способности пројектовања чипова из генерације у генерацију модела, тестирали смо сваки модел на два 32-битна RISC-V језгра отвореног кода. PicoRV32 је компактно језгро пројектовано за репрограмабилне чипове познате као FPGA. OpenTitan користи Ibex као уграђени процесор у свом безбедносном чипу. Оба су потпуна процесорска језгра за задатке у уграђеним системима класе микроконтролера.

Сваком моделу дали смо оригинални опис хардвера за свако језгро и затражили да повећа пропусну моћ (број инструкција које језгро може да изврши у секунди). На пример, нека измена може омогућити језгру да изврши инструкцију у мање циклуса такта, али уз дуже трајање сваког циклуса. Мерење пропусне моћи обухвата оба ефекта.

Проверили смо излазе сваког дизајна у симулацији. Дизајни су добијали оцену нула ако нису прошли неку проверу или ако су заузимали више од 16 пута већу површину од оригиналног језгра. За дизајне који су прошли провере мерили смо број инструкција по циклусу такта на задацима који нису били доступни моделима. Израчунали смо геометријску средину за те задатке и помножили је са максималном фреквенцијом такта процењеном алатом Yosys. Тако смо добили процену броја инструкција у секунди. За свако језгро, најбољој пропусној моћи коју смо измерили под истим ограничењима доделили смо оцену 1,0. Графикони приказују просечну оцену свих покушаја, укључујући и оне оцењене нулом.

Уз упоредив буџет од око 112.000 токена по покушају, GPT‑6.2 Astra је имао највишу просечну оцену на оба језгра. GPT‑6.1 Sol је такође надмашио GPT‑5.6 Sol на оба језгра.

На постојећем језгру PicoRV32, GPT‑6.2 Astra има највишу просечну оцену при већим упоредивим буџетима. При око 112.000 токена, његова оцена је приближно двоструко већа од оцене модела GPT‑6 Astra.

На постојећем језгру Ibex, просечна оцена модела GPT‑6.2 Astra наставља да расте и при већим буџетима које достиже. Оцене модела GPT‑6 Astra и GPT‑6.1 Sol ближе су једна другој.

Пројектовање RISC-V језгра на основу спецификације

У другом задатку, сваком моделу дали смо писане захтеве и шаблоне из отвореног кода који показују како се језгро повезује са остатком система. Модел је бирао како ће се подаци кретати кроз језгро и како ће посао бити подељен на степене обраде. За свако језгро задржали смо исте провере исправности, подешавања меморије и кеша и циљеве пропусне моћи као у задатку оптимизације RTL-а.

При око 112.000 токена по покушају, свих пет модела постигло је више оцене када су пројектовали језгро на основу писаних захтева него када су покушавали да унапреде постојећи дизајн. То је важило и за PicoRV32 и за Ibex. GPT‑6.2 Astra је остварио већи напредак на језгру Ibex него на језгру PicoRV32. Целокупна евалуација обухватила је 9.881 оцењени покушај на оба задатка, оба језгра и свим буџетима токена.

Када полази од спецификације језгра PicoRV32, GPT‑6.2 Astra премашује просечну оцену 0,7 при око 112.000 токена и остварује више оцене на следећа два посматрана буџета.

При пројектовању језгра Ibex на основу спецификације, GPT‑6.2 Astra постиже просечну оцену око 0,75 при приближно 112.000 токена. Његова крива остаје изнад осталих и при већим буџетима на којима су модели упоређивани.

Када полазе од писаних захтева, модели имају слободу да изоставе могућности оригиналних језгара, попут бројача перформанси и додатних инструкција. Те могућности можда мало доприносе пропусној моћи на тестним задацима, што би могло делимично да објасни предност у оценама. Када би те могућности биле обавезне, ограничење површине кола строже, а временски параметри проверавани након физичке синтезе, тест би верније одражавао пројектовање чипова за производњу.

Шта следи

Показали смо да наши модели могу да истражују нове процесорске архитектуре у RISC-V евалуацијама и допринели додатним унапређењима већ напредних производних дизајна, као што су Jalapeño и водећи GPU и CPU следеће генерације компаније AMD. Да бисмо развој модела заснивали на поузданим алатима за евалуацију и проширили спектар пројектантских изазова које решавамо, сарађујемо са компанијом Synopsys на обучавању новог модела GPT‑Synopsys⁠(отвара се у новом прозору) да користи њихове алате за аутоматизацију електронског пројектовања (EDA) онако како то раде стручњаци за пројектовање чипова.