Navvanzaw id-disinn taċ-ċipep bil-mudelli ta’ OpenAI
Il-mudelli ta’ OpenAI qed itejbu b’pass mgħaġġel iċ-ċipep li jħaddmu l-IA. F’Awwissu, qsamna kif l-inġiniera ta’ OpenAI użaw l-aktar mudelli avvanzati tagħna biex jaċċelleraw l-iżvilupp tal-ewwel ċippa tagħna mfassla apposta għall-inferenza, Jalapeño. Hawnhekk, inħarsu aktar mill-qrib lejn it-titjib fid-disinn fuq livell ta’ esperti li wassal għall-avvanzi ta’ Jalapeño, u lejn kif qed napplikaw l-istess approċċ ma’ AMD biex niksbu titjib sinifikanti fil-ħardwer ta’ partijiet terzi.
Biex inkejlu l-ħila tal-mudell tagħna f’kompiti ta’ disinn taċ-ċipep mill-bidu sal-aħħar, evalwajna ġenerazzjonijiet suċċessivi fuq żewġ disinni ta’ proċessuri b’sors miftuħ, b’sejbiet interessanti. U biex nibbażaw l-iżvilupp tal-kapaċitajiet fuq evalwaturi affidabbli, qed naħdmu ma’ Synopsys biex nintegraw intelliġenza mill-aktar avvanzata mal-għodod tal-awtomazzjoni tad-disinn elettroniku (EDA) li l-inġiniera diġà jużaw biex jiddisinjaw u jivverifikaw iċ-ċipep.
Bdejna nużaw GPT‑4o biex jgħinna niddisinjaw Jalapeño fil-bidu tal-2025. Anki dak il-mudell bikri sab modi kif jikseb titjib sostanzjali fil-PPA, bħal:
Fl-unità vettorjali, li timmaniġġja u tesegwixxi kompiti ta’ komputazzjoni parallela, l-iffrankar ġie miċ-ċirkwiti tal-addizzjoni u l-multiplikazzjoni b’punt li jvarja, il-funzjonijiet ta’ konverżjoni, il-loġika ta’ riduzzjoni u l-unità tal-funzjonijiet speċjali. Il-mudelli esploraw kemm implimentazzjonijiet alternattivi tal-loġika kif ukoll modi kif jaqsmu l-kalkoli bejn l-istadji tal-pipeline, u sabu opportunitajiet biex jerġgħu jużaw l-istess ħardwer u jnaqqsu l-ħażna intermedja.
Fl-unità matriċjali, komponent aritmetiku, it-titjib akkumula fiċ-ċirkwiti tal-addizzjoni u l-multiplikazzjoni b’punt li jvarja, kif ukoll fiċ-ċirkwiti tal-prodott skalari bi preċiżjoni baxxa. Disinn ġdid ta’ ċirkwit tal-multiplikazzjoni uża madwar 15% inqas erja taċ-ċelloli fis-sinteżi, filwaqt li naqqas il-latenza minn żewġ ċikli tal-arloġġ għal wieħed. Disinn ġdid separat ta’ ċirkwit tal-addizzjoni naqqas l-erja taċ-ċelloli b’madwar 15%, filwaqt li żamm il-latenza tiegħu ta’ żewġ ċikli. Aktar titjib fil-loġika tal-prodott skalari u fl-organizzazzjoni tal-pipeline wassal għal iffrankar addizzjonali fil-blokk kollu.
Fil-ħidma usa’ fuq id-disinn ta’ Jalapeño, it-tim jistma li l-bidliet proposti mill-mudelli naqqsu l-erja taċ-ċelloli standard b’madwar 13% fl-unità vettorjali u b’10% fl-unità matriċjali. Dawn l-ottimizzazzjonijiet ġew ikkonfermati fuq is-silikon waqt l-ewwel tħaddim ta’ Jalapeño fis-silikon.
Sħabna ma’ AMD biex intejbu l-PPA u rajna titjib sa 14% meta mqabbel ma’ linji bażi diġà ottimizzati sew fl-IP tal-GPU ewlieni. Il-mudell tagħna identifika aktar titjib billi kiteb mill-ġdid il-kodiċi li jiddeskrivi ċ-ċirkwiti taċ-ċippa (SystemVerilog RTL). Dan jirrappreżenta madwar sena ta’ progress miksub f’inqas minn 5 xhur — riżultati bla preċedent fl-aktar livell avvanzat tad-disinn taċ-ċipep. AMD diġà inkludiet xi wħud minn dawn il-bidliet f’disinn reċenti li bagħtet għall-manifattura, u żiedet oħrajn mal-fajls tad-disinn tal-produzzjoni tagħha biex jintużaw f’verżjonijiet futuri.
Rajna lill-mudell jirraġuna dwar l-RTL fil-livell ta’ espert fil-mikroarkitettura. Il-mudell jista’ jikteb mill-ġdid ċirkwiti li jwettqu kalkoli, jikkontrollaw operazzjonijiet jew jittrasferixxu d-data. Uża għodod ta’ Synopsys biex jivverifika li kull kitba mill-ġdid żammet l-imġiba tal-blokk, u biex jevalwa l-kompromessi bejn il-konsum tal-enerġija, il-prestazzjoni u l-erja.
AMD ivverifikat ukoll titjib perċentwali b’ċifra waħda fil-PPA fil-blokki ewlenin tas-CPU ewlieni tagħha tal-ġenerazzjoni li jmiss, permezz ta’ disinni miktuba mill-mudell tagħna. Għall-futur, nistennew aktar titjib fil-PPA tal-GPU u s-CPU meta mqabbel mal-aktar linja bażi ottimizzata.
Ir-riżultati tagħna fuq Jalapeño u ċ-ċipep ta’ AMD juru li l-mudelli jistgħu jtejbu disinni użati fil-produzzjoni. Biex inkejlu l-progress fil-kapaċitajiet tad-disinn taċ-ċipep minn ġenerazzjoni ta’ mudelli għall-oħra, ittestjajna kull mudell fuq żewġ qlub RISC-V ta’ 32 bit b’sors miftuħ. PicoRV32 hija qalba kompatta ddisinjata għal ċipep riprogrammabbli msejħa FPGAs. OpenTitan juża Ibex bħala l-proċessur inkorporat fiċ-ċippa tas-sigurtà tiegħu. Kull waħda hija qalba kompluta ta’ proċessur għal xogħol f’sistemi inkorporati fil-klassi tal-mikrokontrolluri.
Tajna lil kull mudell id-deskrizzjoni oriġinali tal-ħardwer ta’ kull qalba u tlabnieh iżid it-throughput (l-għadd ta’ struzzjonijiet li l-qalba tista’ tesegwixxi kull sekonda). Pereżempju, bidla tista’ tippermetti lil qalba tlesti struzzjoni f’inqas ċikli tal-arloġġ, iżda ttawwal kull ċiklu. Il-kejl tat-throughput jirrifletti ż-żewġ effetti.
Iċċekkjajna l-outputs ta’ kull disinn permezz ta’ simulazzjoni. Id-disinni ngħataw punteġġ ta’ żero jekk fallew xi verifika jew użaw erja aktar minn 16-il darba dik tal-qalba oriġinali. Għad-disinni li għaddew, kejjelna l-istruzzjonijiet għal kull ċiklu tal-arloġġ fuq tagħbijiet tax-xogħol moħbija mill-mudelli. Ħadna l-medja ġeometrika ta’ dawk it-tagħbijiet tax-xogħol u mmultiplikajnieha bil-frekwenza massima tal-arloġġ stmata b’Yosys. Dan tana stima tal-għadd ta’ struzzjonijiet kull sekonda. Għal kull qalba, tajna punteġġ ta’ 1.0 lill-aħjar throughput li osservajna taħt l-istess restrizzjonijiet. Il-graffs juru l-punteġġ medju tal-provi kollha, inklużi dawk li ngħataw żero.
B’baġit komparabbli ta’ madwar 112,000 token għal kull prova, GPT‑6.2 Astra kiseb l-ogħla punteġġ medju fuq iż-żewġ qlub. GPT‑6.1 Sol ukoll kiseb punteġġ ogħla minn GPT‑5.6 Sol fuq it-tnejn.
Fuq il-qalba PicoRV32 eżistenti, GPT‑6.2 Astra għandu l-ogħla punteġġ medju fil-baġits komparabbli akbar. B’madwar 112,000 token, il-punteġġ tiegħu huwa madwar id-doppju ta’ dak ta’ GPT‑6 Astra.
Fuq il-qalba Ibex eżistenti, il-punteġġ medju ta’ GPT‑6.2 Astra jkompli jiżdied hekk kif jilħaq baġits ogħla. Il-punteġġi ta’ GPT‑6 Astra u GPT‑6.1 Sol huma eqreb ta’ xulxin.
Għat-tieni kompitu, tajna lil kull mudell rekwiżiti bil-miktub u mudelli ta’ kodiċi mis-sors miftuħ li juru kif il-qalba tikkonnettja mal-bqija tas-sistema. Il-mudell għażel kif id-data tgħaddi mill-qalba u kif ix-xogħol jinqasam fi stadji. Għal kull qalba, żammejna l-verifiki tal-korrettezza, is-settings tal-memorja u l-cache, u l-objettivi tat-throughput l-istess bħal fil-kompitu tal-ottimizzazzjoni tal-RTL.
B’madwar 112,000 token għal kull prova, il-ħames mudelli kollha kisbu punteġġi ogħla meta ddisinjaw qalba minn rekwiżiti bil-miktub milli meta ppruvaw itejbu d-disinn eżistenti. Dan kien minnu kemm għal PicoRV32 kif ukoll għal Ibex. GPT‑6.2 Astra kiseb aktar titjib fuq Ibex milli fuq PicoRV32. L-evalwazzjoni sħiħa inkludiet 9,881 prova li ngħataw punteġġ, u kopriet iż-żewġ kompiti, iż-żewġ qlub u l-baġits kollha tat-tokens.
Meta jibda minn speċifikazzjoni ta’ PicoRV32, GPT‑6.2 Astra jaqbeż punteġġ medju ta’ 0.7 b’madwar 112,000 token u jikseb punteġġi ogħla fiż-żewġ baġits osservati li jmiss.
Fuq Ibex, GPT‑6.2 Astra jikseb medja ta’ madwar 0.75 b’madwar 112,000 token meta jiddisinja minn speċifikazzjoni. Il-kurva tiegħu tibqa’ ’l fuq mill-oħrajn meta jitqabblu fuq l-istess baġits ogħla.
Meta jibdew minn rekwiżiti bil-miktub, il-mudelli jkollhom il-libertà li jħallu barra karatteristiċi li jinsabu fil-qlub oriġinali, bħal counters tal-prestazzjoni u struzzjonijiet addizzjonali. Dawn il-karatteristiċi jistgħu ftit li xejn itejbu t-throughput fuq it-tagħbijiet tax-xogħol tat-test, u dan jista’ jispjega parti mill-vantaġġ fil-punteġġ. Li dawn il-karatteristiċi jsiru obbligatorji, li jiġi stabbilit limitu aktar strett fuq l-erja taċ-ċirkwit u li jiġi ċċekkjat it-timing wara s-sinteżi fiżika jagħmel it-test aktar rappreżentattiv tad-disinn taċ-ċipep għall-produzzjoni.
Urejna li l-mudelli tagħna jistgħu jesploraw arkitetturi ġodda ta’ proċessuri f’evalwazzjonijiet RISC-V, u kkontribwejna titjib ġdid addizzjonali għal disinni sofistikati tal-produzzjoni bħal Jalapeño u l-GPU u s-CPU ewlenin tal-ġenerazzjoni li jmiss ta’ AMD. Biex nibbażaw l-iżvilupp tal-mudelli fuq evalwaturi affidabbli u nindirizzaw firxa usa’ ta’ sfidi tad-disinn, qed nissieħbu ma’ Synopsys biex inħarrġu GPT‑Synopsys(jinfetaħ f’tieqa ġdida), mudell ġdid, biex juża l-għodod tal-awtomazzjoni tad-disinn elettroniku (EDA) ta’ Synopsys kif jużawhom l-esperti fid-disinn taċ-ċipep.


