OpenAI:n mallit parantavat nopeasti tekoälyn käyttämiä siruja. Elokuussa kerroimme, miten OpenAI:n insinöörit nopeuttivat edistyneillä malleillamme Jalapeñon, ensimmäisen räätälöidyn päättelys irumme, kehitystä. Tässä tarkastelemme lähemmin Jalapeñon parannusten taustalla olevia asiantuntijatason suunnitteluratkaisuja sekä sitä, miten saavutamme samalla lähestymistavalla merkittäviä parannuksia kolmannen osapuolen laitteistoon yhteistyössä AMD:n kanssa.
Mitataksemme malliemme kykyä suoriutua sirusuunnittelusta alusta loppuun arvioimme peräkkäisiä mallisukupolvia kahdella avoimen lähdekoodin prosessorimallilla ja saimme kiinnostavia tuloksia. Jotta kyvykkyyksien kehitys perustuisi luotettaviin arviointivälineisiin, teemme yhteistyötä Synopsysin kanssa yhdistääksemme edistyneen älykkyyden elektroniikkasuunnittelun automaatiotyökaluihin (EDA), joita insinöörit jo käyttävät sirujen suunnitteluun ja todentamiseen.
Aloimme käyttää GPT‑4o:ta Jalapeñon suunnittelun apuna alkuvuodesta 2025. Jo tuo varhainen malli löysi keinoja parantaa merkittävästi tehonkulutusta, suorituskykyä ja pinta-alaa (PPA):
Vektoriyksikössä, joka hallitsee ja suorittaa rinnakkaisia laskentatehtäviä, säästöjä saatiin liukulukujen yhteenlasku- ja kertolaskupiireistä, muunnosfunktioista, reduktiologiikasta ja erikoisfunktioyksiköstä. Mallit tutkivat sekä vaihtoehtoisia logiikkatoteutuksia että laskennan jakamista liukuhihnan eri vaiheisiin. Ne löysivät mahdollisuuksia käyttää samoja laitteistoresursseja ja vähentää välitulosten tallennustarvetta.
Matriisiyksikössä, joka on aritmeettinen komponentti, parannuksia kertyi liukulukujen yhteenlasku- ja kertolaskupiireistä sekä matalan tarkkuuden pistetulopiireistä. Yksi uudistettu kertolaskupiiri käytti synteesissä noin 15 % vähemmän solupinta-alaa, ja samalla sen viive lyheni kahdesta kellojaksosta yhteen. Erillinen yhteenlaskupiirin uudistus pienensi solupinta-alaa noin 15 % säilyttäen kahden kellojakson viiveen. Pistetulologiikan ja liukuhihnan rakenteen lisäparannukset toivat lisää säästöjä koko lohkossa.
Tiimin arvion mukaan mallien ehdottamat muutokset pienensivät Jalapeñon suunnittelutyössä standardisolujen pinta-alaa yhteensä noin 13 % vektoriyksikössä ja 10 % matriisiyksikössä. Näiden optimointien toimivuus todennettiin fyysisellä sirulla Jalapeñon käyttöönottotestauksessa.
Olemme tehneet AMD:n kanssa yhteistyötä PPA-parannusten parissa ja saavuttaneet sen lippulaiva-GPU:n IP-lohkoissa jopa 14 %:n parannuksen pitkälle optimoituihin vertailutoteutuksiin nähden. Mallimme löysi lisäparannuksia kirjoittamalla uudelleen sirun piirejä kuvaavaa koodia (SystemVerilog RTL). Tämä vastaa noin vuoden edistystä alle viidessä kuukaudessa – ennennäkemätön tulos sirusuunnittelun huipulla. AMD on jo sisällyttänyt osan näistä muutoksista hiljattain valmistukseen lähettämäänsä suunnitelmaan ja lisännyt muita tuotantosuunnittelutiedostoihinsa tulevia versioita varten.
Olemme havainneet mallin päättelevän RTL-koodista mikroarkkitehtuurin asiantuntijan tasolla. Malli voi kirjoittaa uudelleen piirejä, jotka suorittavat laskentaa, ohjaavat toimintoja tai siirtävät dataa. Se käytti Synopsysin työkaluja varmistaakseen, että jokainen uudelleenkirjoitus säilytti lohkon toiminnan ennallaan, sekä arvioidakseen tehonkulutuksen, suorituskyvyn ja pinta-alan välisiä kompromisseja.
AMD vahvisti myös yksinumeroisia prosentuaalisia PPA-parannuksia tulevan sukupolven lippulaiva-CPU:n keskeisissä lohkoissa mallimme kirjoittamien toteutusten avulla. Odotamme jatkossa lisää PPA-parannuksia GPU- ja CPU-toteutuksiin myös kaikkein optimoiduimpaan vertailutoteutukseen nähden.
Jalapeñolla ja AMD:n siruilla saadut tulokset osoittavat, että mallit voivat parantaa tuotantoon tarkoitettuja toteutuksia. Mitataksemme sirusuunnittelukyvyn kehitystä mallisukupolvesta toiseen testasimme kutakin mallia kahdella avoimen lähdekoodin 32-bittisellä RISC-V-ytimellä. PicoRV32 on kompakti ydin, joka on suunniteltu uudelleenohjelmoitaville FPGA-piireille. OpenTitan käyttää Ibexiä turvapiirinsä sulautettuna prosessorina. Kumpikin on kokonainen prosessoriydin sulautettujen järjestelmien mikrokontrolleritason työkuormille.
Annoimme kullekin mallille kummankin ytimen alkuperäisen laitteistokuvauksen ja pyysimme parantamaan suoritustehoa eli ytimen sekunnissa suorittamien käskyjen määrää. Muutos saattaa esimerkiksi auttaa ydintä suorittamaan käskyn harvemmassa kellojaksossa mutta pidentää yksittäisen jakson kestoa. Suoritustehon mittaaminen huomioi molemmat vaikutukset.
Tarkistimme kunkin toteutuksen tuottamat tulokset simulaatiossa. Toteutus sai nolla pistettä, jos se ei läpäissyt tarkistusta tai käytti yli 16 kertaa alkuperäisen ytimen pinta-alan. Hyväksytyistä toteutuksista mittasimme käskyjen määrän kellojaksoa kohti työkuormilla, jotka oli piilotettu malleilta. Laskimme näiden työkuormien tulosten geometrisen keskiarvon ja kerroimme sen Yosysilla arvioidulla enimmäiskellotaajuudella. Näin saimme arvion sekunnissa suoritettavien käskyjen määrästä. Kummallakin ytimellä paras samoilla rajoitteilla havaittu suoritusteho sai pistemäärän 1,0. Kaaviot esittävät ajokertojen keskimääräisen pistemäärän, johon sisältyvät myös nolla pistettä saaneet ajot.
Kun vertailukelpoinen token-budjetti oli noin 112 000 tokenia ajokertaa kohti, GPT‑6.2 Astra saavutti korkeimman keskimääräisen pistemäärän kummallakin ytimellä. Myös GPT‑6.1 Sol sai kummallakin ytimellä enemmän pisteitä kuin GPT‑5.6 Sol.
Olemassa olevalla PicoRV32-ytimellä GPT‑6.2 Astra saa korkeimman keskimääräisen pistemäärän suuremmilla vertailukelpoisilla token-budjeteilla. Noin 112 000 tokenin kohdalla sen pistemäärä on noin kaksinkertainen GPT‑6 Astraan nähden.
Olemassa olevalla Ibex-ytimellä GPT‑6.2 Astran keskimääräinen pistemäärä jatkaa nousuaan sen saavuttaessa suurempia token-budjetteja. GPT‑6 Astran ja GPT‑6.1 Solin tulokset ovat lähempänä toisiaan.
Toisessa tehtävässä annoimme kullekin mallille kirjalliset vaatimukset sekä avoimesta lähdekoodista poimitut pohjat, jotka kuvaavat ytimen liitäntöjä muuhun järjestelmään. Malli valitsi, miten data kulkee ytimen läpi ja miten työ jaetaan vaiheisiin. Pidimme kummankin ytimen oikeellisuustarkistukset, muisti- ja välimuistiasetukset sekä suoritustehotavoitteet samoina kuin RTL-optimointitehtävässä.
Kun ajokertaa kohti käytettiin noin 112 000 tokenia, kaikki viisi mallia saivat enemmän pisteitä suunnitellessaan ytimen kirjallisten vaatimusten pohjalta kuin yrittäessään parantaa olemassa olevaa toteutusta. Tämä päti sekä PicoRV32:een että Ibexiin. GPT‑6.2 Astran parannus oli suurempi Ibexillä kuin PicoRV32:lla. Koko arviointi sisälsi 9 881 pisteytettyä ajokertaa molemmilla tehtävillä, molemmilla ytimillä ja kaikilla token-budjeteilla.
Kun lähtökohtana on PicoRV32:n määrittely, GPT‑6.2 Astran keskimääräinen pistemäärä ylittää 0,7:n noin 112 000 tokenin kohdalla ja nousee edelleen kahdella seuraavalla tarkastellulla token-budjetilla.
Kun GPT‑6.2 Astra suunnittelee Ibex-ytimen määrittelyn pohjalta, se saa keskimäärin noin 0,75 pistettä noin 112 000 tokenin kohdalla. Sen käyrä pysyy muiden yläpuolella suuremmillakin yhteisillä token-budjeteilla.
Kirjallisten vaatimusten käyttäminen lähtökohtana antaa malleille mahdollisuuden jättää pois alkuperäisten ytimien ominaisuuksia, kuten suorituskykylaskureita ja lisäkäskyjä. Nämä ominaisuudet eivät välttämättä juuri paranna suoritustehoa testityökuormilla, mikä voi selittää osan piste-erosta. Jos nämä ominaisuudet vaadittaisiin, piirin pinta-alalle asetettaisiin tiukempi raja ja ajoitus tarkistettaisiin fyysisen synteesin jälkeen, testi vastaisi paremmin tuotantoon tarkoitettujen sirujen suunnittelua.
Olemme osoittaneet, että mallimme voivat tutkia uusia prosessoriarkkitehtuureja RISC-V-arvioinneissa, ja olemme tuoneet uusia parannuksia jo pitkälle kehitettyihin tuotantototeutuksiin, kuten Jalapeñoon sekä AMD:n seuraavan sukupolven lippulaiva-GPU:hun ja -CPU:hun. Jotta mallien kehitys perustuisi luotettaviin arviointivälineisiin ja kattaisi entistä laajemmin suunnittelun haasteita, koulutamme yhteistyössä Synopsysin kanssa uutta GPT‑Synopsys(avautuu uudessa ikkunassa)-mallia käyttämään Synopsysin elektroniikkasuunnittelun automaatiotyökaluja (EDA) sirusuunnittelun asiantuntijoiden tavoin.


