Model OpenAI kanthi cepet ningkatake chip sing nglakokake AI. Ing wulan Agustus, kita nuduhake carane insinyur OpenAI nggunakake model tercanggih kita kanggo nyepetake pangembangan chip inferensi khusus pisanan kita, Jalapeño. Ing kene, kita njlentrehake dandan desain tingkat ahli sing ndadekake Jalapeño luwih apik, lan carane kita ngetrapake pendekatan sing padha bareng AMD kanggo ningkatake piranti keras pihak katelu kanthi signifikan.
Kanggo ngukur kabisan model kita ngrampungake tugas desain chip saka wiwitan nganti pungkasan, kita ngevaluasi model saka generasi siji menyang sabanjure nganggo rong desain prosesor sumber terbuka, lan nemokake asil sing narik kawigaten. Supaya pangembangan kabisan adhedhasar sarana evaluasi sing bisa dipercaya, kita kerja bareng Synopsys kanggo nggabungake kecerdasan tercanggih karo piranti otomatisasi desain elektronik (EDA) sing wis digunakake insinyur kanggo ngrancang lan verifikasi chip.
Kita wiwit nggunakake GPT‑4o kanggo mbantu ngrancang Jalapeño ing wiwitan taun 2025. Malah model wiwitan iku wis nemokake cara kanggo ningkatake PPA kanthi cukup gedhe, kayata:
Ing unit vektor, sing ngatur lan nglakokake tugas komputasi paralel, pangiritan asale saka sirkuit panjumlahan lan perkalian floating-point, fungsi konversi, logika reduksi, lan unit fungsi khusus. Model njajaki alternatif implementasi logika lan cara mbagi komputasi ing tahap-tahap pipeline, banjur nemokake kesempatan kanggo nggunakake piranti keras bebarengan lan nyuda panyimpenan sauntara.
Ing unit matriks, sawijining komponen aritmetika, dandan diklumpukake saka sirkuit panjumlahan floating-point, perkalian, lan dot-product presisi rendah. Salah siji desain ulang sirkuit perkalian nggunakake area sel udakara 15% luwih sithik nalika sintesis, lan uga nyuda latensi saka rong siklus clock dadi siji. Desain ulang sirkuit panjumlahan liyane nyuda area sel udakara 15% kanthi tetep njaga latensi rong siklus. Dandan luwih lanjut ing logika dot-product lan tata pipeline nambah pangiritan ing saindenging blok.
Ing sakabehing upaya ngrancang Jalapeño, tim ngira owah-owahan sing diusulake model nyuda area sel standar udakara 13% ing unit vektor lan 10% ing unit matriks. Optimasi iki kabukten ing silikon nalika pengaktifan lan pangujian awal silikon Jalapeño.
Kita wis kerja bareng AMD kanggo ningkatake PPA lan kasil nggayuh paningkatan nganti 14% dibandhingake karo patokan awal sing wis dioptimalake banget ing IP GPU unggulan. Model kita nemokake dandan luwih lanjut kanthi nulis maneh kode sing nggambarake sirkuit chip (SystemVerilog RTL). Iki padha karo kemajuan udakara setaun sing digayuh kurang saka 5 wulan—asil sing durung tau ana ing desain chip paling maju. AMD wis nglebokake sawetara owah-owahan iki ing desain anyar sing dikirim kanggo diprodhuksi, lan nambahake liyane menyang file desain produksine kanggo digunakake ing versi sabanjure.
Kita wis mirsani model nalar babagan RTL ing tingkat ahli mikroarsitektur. Model bisa nulis maneh sirkuit sing nindakake petungan, ngontrol operasi, utawa mindhah data. Model nggunakake piranti Synopsys kanggo mesthekake yen saben asil panulisan ulang tetep njaga cara kerjane blok, lan kanggo ngevaluasi imbangan antarane daya, kinerja, lan area.
AMD uga wis ngonfirmasi paningkatan PPA kanthi persentase siji digit ing blok-blok utama CPU unggulan generasi sabanjure sing bakal dirilis, nganggo desain sing ditulis model kita. Ing mangsa ngarep, kita ngarepake paningkatan PPA luwih lanjut ing GPU lan CPU dibandhingake karo patokan awal sing paling optimal.
Asil kita ing Jalapeño lan chip AMD nuduhake yen model bisa ndandani desain produksi. Kanggo ngukur kemajuan kabisan ngrancang chip saka siji generasi model menyang sabanjure, kita nguji saben model ing rong inti RISC-V 32-bit sumber terbuka. PicoRV32 iku inti ringkes sing dirancang kanggo chip sing bisa diprogram maneh, sing diarani FPGA. OpenTitan nggunakake Ibex minangka prosesor sematan ing chip keamanane. Saben inti iku prosesor pepak kanggo beban kerja sistem sematan kelas mikrokontroler.
Kita menehi saben model deskripsi piranti keras asli kanggo saben inti lan njaluk supaya ningkatake kapasitas pangolahan (cacah instruksi sing bisa dilakokake inti saben detik). Contone, sawijining owah-owahan bisa ndadekake inti ngrampungake instruksi nganggo siklus clock luwih sithik, nanging saben siklus dadi luwih suwe. Pangukuran kapasitas pangolahan nyakup kaloro efek kasebut.
Kita mriksa output saben desain liwat simulasi. Desain entuk skor nol yen ora lolos pamriksan utawa nggunakake area luwih saka 16 kaping area inti asli. Kanggo desain sing lolos, kita ngukur cacah instruksi saben siklus clock nganggo beban kerja sing didhelikake saka model. Kita ngetung rata-rata geometris saka kabeh beban kerja kasebut lan ngalekake karo frekuensi clock maksimal sing dikira nganggo Yosys. Saka petungan iku, kita entuk prakiraan cacah instruksi saben detik. Kanggo saben inti, kita menehi skor 1,0 marang kapasitas pangolahan paling apik sing kita temokake kanthi watesan sing padha. Grafik nuduhake skor rata-rata saka kabeh uji coba, kalebu sing entuk skor nol.
Kanthi alokasi sing sebanding, udakara 112.000 token saben uji coba, GPT‑6.2 Astra entuk skor rata-rata paling dhuwur ing kaloro inti. GPT‑6.1 Sol uga ngluwihi skor GPT‑5.6 Sol ing kalorone.
Ing inti PicoRV32 sing wis ana, GPT‑6.2 Astra entuk skor rata-rata paling dhuwur ing alokasi sebanding sing luwih gedhe. Ing udakara 112.000 token, skore udakara kaping pindho skor GPT‑6 Astra.
Ing inti Ibex sing wis ana, skor rata-rata GPT‑6.2 Astra terus mundhak nalika alokasi sing digayuh saya gedhe. Skor GPT‑6 Astra lan GPT‑6.1 Sol luwih cedhak siji lan sijine.
Kanggo tugas kapindho, kita menehi saben model syarat tinulis lan cithakan saka kode sumber terbuka sing nuduhake carane inti nyambung karo bagean sistem liyane. Model milih carane data mili liwat inti lan carane mbagi pakaryan dadi tahap-tahap. Kanggo saben inti, kita njaga pamriksan kabeneran, setelan memori lan cache, sarta target kapasitas pangolahan tetep padha karo tugas optimasi RTL.
Ing udakara 112.000 token saben uji coba, kabeh model cacah lima entuk skor luwih dhuwur nalika ngrancang inti saka syarat tinulis tinimbang nalika nyoba ndandani desain sing wis ana. Asil iki dumadi ing PicoRV32 lan Ibex. GPT‑6.2 Astra entuk paningkatan luwih gedhe ing Ibex tinimbang ing PicoRV32. Evaluasi sakabehe nyakup 9.881 uji coba sing diwenehi skor ing kaloro tugas, kaloro inti, lan kabeh alokasi token.
Wiwit saka spesifikasi PicoRV32, GPT‑6.2 Astra ngluwihi skor rata-rata 0,7 ing alokasi cedhak 112.000 token lan entuk skor luwih dhuwur ing rong alokasi sabanjure sing diamati.
Ing Ibex, GPT‑6.2 Astra entuk skor rata-rata udakara 0,75 ing alokasi cedhak 112.000 token nalika ngrancang saka spesifikasi. Kurvane tetep luwih dhuwur tinimbang model liyane ing alokasi padha sing luwih gedhe.
Miwiti saka syarat tinulis menehi kalonggaran marang model kanggo ora nglebokake fitur sing ana ing inti asli, kayata pangitung kinerja lan instruksi tambahan. Fitur kasebut bisa uga mung sethithik mbantu ningkatake kapasitas pangolahan ing beban kerja uji, saengga iki bisa dadi salah siji sebab skore luwih unggul. Yen fitur kasebut diwajibake, wates area sirkuit digawe luwih ketat, lan pewaktuan dipriksa sawise sintesis fisik, uji iki bakal luwih nggambarake desain chip produksi.
Kita wis mbuktekake yen model kita bisa njajaki arsitektur prosesor anyar ing evaluasi RISC-V lan menehi dandan anyar sing nyata ing desain produksi canggih kayata Jalapeño lan GPU sarta CPU unggulan generasi sabanjure saka AMD. Supaya pangembangan model adhedhasar sarana evaluasi sing bisa dipercaya lan bisa ngrampungake tantangan desain sing luwih maneka warna, kita kerja bareng Synopsys kanggo nglatih GPT‑Synopsys(mbukak ing jendhela anyar), sawijining model anyar, supaya bisa nggunakake piranti otomatisasi desain elektronik (EDA) Synopsys kaya ahli desain chip.


