OpenAI ၏ မော်ဒယ်များသည် AI ကို မောင်းနှင်ပေးသော ချစ်ပ်များကို လျင်မြန်စွာ ပိုမိုကောင်းမွန်လာစေပါသည်။ ဩဂုတ်လတွင် ကျွန်ုပ်တို့၏ ပထမဆုံး စိတ်ကြိုက် inference ချစ်ပ် Jalapeño ကို ပိုမိုမြန်ဆန်စွာ ဖန်တီးနိုင်ရန် OpenAI အင်ဂျင်နီယာများက စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များကို အသုံးပြုပုံအား မျှဝေခဲ့ပါသည်။ ဤဆောင်းပါးတွင် Jalapeño ၏ တိုးတက်မှုကို ဖြစ်စေခဲ့သော ကျွမ်းကျင်သူအဆင့် ဒီဇိုင်းပြုပြင်မှုများနှင့် အလားတူနည်းလမ်းဖြင့် ပြင်ပဟာ့ဒ်ဝဲများတွင် သိသာသော တိုးတက်မှုရရှိရန် AMD နှင့် ပူးပေါင်းဆောင်ရွက်ပုံကို အသေးစိတ် လေ့လာပါမည်။
ချစ်ပ်ဒီဇိုင်းကို အစမှအဆုံး ဖန်တီးနိုင်စွမ်းအား တိုင်းတာရန် မော်ဒယ်မျိုးဆက်များကို ရင်းမြစ်ကုဒ်ဖွင့်ထားသည့် ပရိုဆက်ဆာဒီဇိုင်းနှစ်ခုဖြင့် အကဲဖြတ်ခဲ့ရာ စိတ်ဝင်စားဖွယ် ရလဒ်များ တွေ့ရှိခဲ့ပါသည်။ စွမ်းရည်တိုးတက်ရေးကို ယုံကြည်စိတ်ချရသော အကဲဖြတ်စနစ်များပေါ် အခြေခံနိုင်ရန် Synopsys နှင့်လည်း ပူးပေါင်းနေပါသည်။ စွမ်းဆောင်ရည်အမြင့်ဆုံး AI ကို အင်ဂျင်နီယာများ ချစ်ပ်ဒီဇိုင်းဆွဲရန်နှင့် စစ်ဆေးရန် အသုံးပြုနေသည့် အီလက်ထရွန်နစ်ဒီဇိုင်း အလိုအလျောက်လုပ်ဆောင်ရေး (EDA) ကိရိယာများနှင့် ပေါင်းစပ်လျက်ရှိပါသည်။
2025 အစောပိုင်းတွင် Jalapeño ဒီဇိုင်းဆွဲရာ၌ GPT‑4o ကို စတင်အသုံးပြုခဲ့ပါသည်။ ထိုအစောပိုင်း မော်ဒယ်ပင်လျှင် ပါဝါ၊ စွမ်းဆောင်ရည်နှင့် ဧရိယာ (PPA) ကို သိသာစွာ တိုးတက်စေမည့် နည်းလမ်းများ တွေ့ရှိခဲ့ပါသည်။ ဥပမာ—
အပြိုင်တွက်ချက်မှုများကို စီမံလုပ်ဆောင်သည့် ဗက်တာယူနစ်တွင် floating-point ပေါင်းကိရိယာနှင့် မြှောက်ကိရိယာများ၊ ပြောင်းလဲပေးသည့် လုပ်ဆောင်ချက်များ၊ စုစည်းတွက်ချက်ရေး လော့ဂျစ်နှင့် အထူးလုပ်ဆောင်ချက်ယူနစ်တို့မှ သက်သာမှုများ ရရှိခဲ့ပါသည်။ မော်ဒယ်များသည် အခြားလော့ဂျစ်အကောင်အထည်ဖော်နည်းများနှင့် တွက်ချက်မှုများကို ပိုက်လိုင်းအဆင့်များအကြား ခွဲဝေပုံတို့ကို စူးစမ်းခဲ့ရာ ဟာ့ဒ်ဝဲကို မျှဝေသုံးစွဲနိုင်ပြီး ကြားခံသိုလှောင်မှု လျှော့ချနိုင်သည့် နည်းလမ်းများ တွေ့ရှိခဲ့ပါသည်။
ဂဏန်းတွက်ချက်ရေးအစိတ်အပိုင်းဖြစ်သော မက်ထရစ်ယူနစ်တွင် floating-point ပေါင်းကိရိယာများ၊ မြှောက်ကိရိယာများနှင့် တိကျမှုနိမ့် dot-product ဆားကစ်များတစ်လျှောက် တိုးတက်မှုများ စုစည်းရရှိခဲ့ပါသည်။ ပြန်လည်ဒီဇိုင်းဆွဲထားသော မြှောက်ကိရိယာတစ်ခုသည် ဆားကစ်အဖြစ် ဖွဲ့စည်းရာတွင် ဆဲလ်ဧရိယာ 15% ခန့် ပိုနည်းပြီး တုံ့ပြန်ချိန်ကို clock စက်ဝန်းနှစ်ခုမှ တစ်ခုသို့ လျှော့ချနိုင်ခဲ့ပါသည်။ သီးခြားပြန်လည်ဒီဇိုင်းဆွဲထားသော ပေါင်းကိရိယာတစ်ခုသည် တုံ့ပြန်ချိန် စက်ဝန်းနှစ်ခုကို ထိန်းထားလျက် ဆဲလ်ဧရိယာကို 15% ခန့် လျှော့ချနိုင်ခဲ့ပါသည်။ dot-product လော့ဂျစ်နှင့် ပိုက်လိုင်းဖွဲ့စည်းပုံတို့ကို ထပ်မံပြုပြင်ခြင်းဖြင့် ဘလောက်တစ်ခုလုံးတွင် နောက်ထပ်သက်သာမှုများ ရရှိခဲ့ပါသည်။
Jalapeño ဒီဇိုင်းလုပ်ငန်းတစ်ရပ်လုံးတွင် မော်ဒယ်အဆိုပြုသော ပြောင်းလဲမှုများကြောင့် စံဆဲလ်ဧရိယာသည် ဗက်တာယူနစ်၌ 13% ခန့်နှင့် မက်ထရစ်ယူနစ်၌ 10% ခန့် လျော့ကျခဲ့သည်ဟု အဖွဲ့က ခန့်မှန်းပါသည်။ ဤပြုပြင်မှုများကို Jalapeño ဆီလီကွန်ချစ်ပ်အား ကနဦးစမ်းသပ်လည်ပတ်စဉ် လက်တွေ့ချစ်ပ်ပေါ်တွင် အတည်ပြုနိုင်ခဲ့ပါသည်။
PPA တိုးတက်ရေးအတွက် AMD နှင့် ပူးပေါင်းခဲ့ရာ ထိပ်တန်း GPU IP တွင် အလွန်ကောင်းမွန်အောင် ပြုပြင်ထားပြီးသော အခြေခံဒီဇိုင်းများထက် 14% အထိ ပိုမိုကောင်းမွန်လာသည်ကို တွေ့ရှိခဲ့ပါသည်။ ကျွန်ုပ်တို့၏ မော်ဒယ်သည် ချစ်ပ်ဆားကစ်များကို ဖော်ပြသည့် ကုဒ် (SystemVerilog RTL) ကို ပြန်ရေးကာ နောက်ထပ်တိုးတက်မှုများ ဖော်ထုတ်ခဲ့ပါသည်။ ယင်းမှာ တစ်နှစ်စာခန့် တိုးတက်မှုကို 5 လမပြည့်မီ ရရှိခဲ့ခြင်းဖြစ်ပြီး ချစ်ပ်ဒီဇိုင်းနည်းပညာ၏ ထိပ်တန်းအဆင့်တွင် ယခင်က မရဖူးသော ရလဒ်များဖြစ်ပါသည်။ AMD သည် မကြာသေးမီက ထုတ်လုပ်ရန် ပေးပို့ခဲ့သည့် ဒီဇိုင်းတွင် ဤပြောင်းလဲမှုအချို့ကို ထည့်သွင်းထားပြီး နောင်ဗားရှင်းများတွင် အသုံးပြုရန် အခြားပြောင်းလဲမှုများကိုလည်း ထုတ်လုပ်ရေးဒီဇိုင်းဖိုင်များထဲ ထည့်ထားပါသည်။
မော်ဒယ်သည် RTL ကို ကျွမ်းကျင်သော မိုက်ခရိုဗိသုကာဒီဇိုင်းပညာရှင်အဆင့်ဖြင့် ဆင်ခြင်သုံးသပ်နိုင်သည်ကို တွေ့ရှိခဲ့ပါသည်။ မော်ဒယ်သည် တွက်ချက်မှု၊ လုပ်ဆောင်ချက်ထိန်းချုပ်မှု သို့မဟုတ် ဒေတာရွှေ့ပြောင်းမှု လုပ်ဆောင်သည့် ဆားကစ်များကို ပြန်ရေးနိုင်ပါသည်။ ပြန်ရေးမှုတိုင်းက ဘလောက်၏ လုပ်ဆောင်ပုံကို မပြောင်းလဲစေကြောင်း စစ်ဆေးရန်နှင့် ပါဝါ၊ စွမ်းဆောင်ရည်၊ ဧရိယာတို့အကြား အလဲအလှယ်များကို အကဲဖြတ်ရန် Synopsys ကိရိယာများကို အသုံးပြုခဲ့ပါသည်။
AMD သည် ကျွန်ုပ်တို့၏ မော်ဒယ်ရေးဆွဲသော ဒီဇိုင်းများကို အသုံးပြု၍ မကြာမီထွက်ရှိမည့် မျိုးဆက်သစ် ထိပ်တန်း CPU ၏ အဓိကဘလောက်များတွင် PPA ရာခိုင်နှုန်း တစ်လုံးကိန်းအတွင်း တိုးတက်မှုများကိုလည်း အတည်ပြုခဲ့ပါသည်။ အနာဂတ်တွင် GPU နှင့် CPU တို့၌ အကောင်းဆုံးပြုပြင်ထားသော အခြေခံဒီဇိုင်းနှင့် နှိုင်းယှဉ်ပါက PPA ထပ်မံတိုးတက်လာရန် မျှော်လင့်ပါသည်။
Jalapeño နှင့် AMD ချစ်ပ်များမှ ရလဒ်များက မော်ဒယ်များသည် ထုတ်လုပ်ရေးဒီဇိုင်းများကို ပိုမိုကောင်းမွန်အောင် ပြုပြင်နိုင်ကြောင်း ပြသပါသည်။ မော်ဒယ်မျိုးဆက်တစ်ခုမှ နောက်တစ်ခုသို့ ချစ်ပ်ဒီဇိုင်းစွမ်းရည် တိုးတက်လာပုံကို တိုင်းတာရန် မော်ဒယ်တစ်ခုစီအား ရင်းမြစ်ကုဒ်ဖွင့်ထားသည့် 32-bit RISC-V ကော်နှစ်ခုဖြင့် စမ်းသပ်ခဲ့ပါသည်။ PicoRV32 သည် FPGA ဟုခေါ်သော ပြန်လည်ပရိုဂရမ်ရေးသွင်းနိုင်သည့် ချစ်ပ်များအတွက် ဒီဇိုင်းဆွဲထားသည့် ကျစ်လျစ်သော ကော်ဖြစ်ပါသည်။ OpenTitan သည် ၎င်း၏ လုံခြုံရေးချစ်ပ်တွင် Ibex ကို မြှုပ်နှံထားသော ပရိုဆက်ဆာအဖြစ် အသုံးပြုပါသည်။ နှစ်ခုစလုံးသည် မြှုပ်နှံစနစ်နှင့် မိုက်ခရိုကွန်ထရိုလာအဆင့် အလုပ်များအတွက် ပြည့်စုံသော ပရိုဆက်ဆာကော်များဖြစ်ပါသည်။
မော်ဒယ်တစ်ခုစီကို ကော်တစ်ခုစီ၏ မူလဟာ့ဒ်ဝဲဖော်ပြချက် ပေးပြီး ဆောင်ကြဉ်းပေးမှု ပမာဏ (ကော်က တစ်စက္ကန့်လျှင် လုပ်ဆောင်နိုင်သည့် ညွှန်ကြားချက်အရေအတွက်) တိုးမြှင့်ရန် တောင်းဆိုခဲ့ပါသည်။ ဥပမာ၊ ပြောင်းလဲမှုတစ်ခုကြောင့် ကော်သည် ညွှန်ကြားချက်တစ်ခုကို clock စက်ဝန်း ပိုနည်းနည်းဖြင့် ပြီးစီးနိုင်သော်လည်း စက်ဝန်းတစ်ခုစီက အချိန်ပိုကြာနိုင်ပါသည်။ ဆောင်ကြဉ်းပေးမှု ပမာဏကို တိုင်းတာခြင်းက ထိုသက်ရောက်မှုနှစ်မျိုးစလုံးကို ထည့်တွက်ပေးပါသည်။
ဒီဇိုင်းတစ်ခုစီ၏ အထွက်ရလဒ်များကို သရုပ်တူစမ်းသပ်မှုဖြင့် စစ်ဆေးခဲ့ပါသည်။ စစ်ဆေးမှုတစ်ခုခု မအောင်မြင်လျှင် သို့မဟုတ် မူလကော်၏ ဧရိယာထက် 16 ဆကျော် အသုံးပြုလျှင် ထိုဒီဇိုင်းကို သုညမှတ် ပေးခဲ့ပါသည်။ အောင်မြင်သည့် ဒီဇိုင်းများအတွက် မော်ဒယ်များ မမြင်ဖူးသော အလုပ်များကို သုံး၍ clock စက်ဝန်းတစ်ခုလျှင် လုပ်ဆောင်နိုင်သည့် ညွှန်ကြားချက်အရေအတွက်ကို တိုင်းတာခဲ့ပါသည်။ ထိုအလုပ်များတစ်လျှောက် ဂျီဩမေတြီပျမ်းမျှကို ယူပြီး Yosys ဖြင့် ခန့်မှန်းထားသော အများဆုံး clock ကြိမ်နှုန်းနှင့် မြှောက်ခဲ့ပါသည်။ ထိုနည်းဖြင့် တစ်စက္ကန့်လျှင် လုပ်ဆောင်နိုင်သည့် ညွှန်ကြားချက်အရေအတွက် ခန့်မှန်းတန်ဖိုးကို ရရှိခဲ့ပါသည်။ ကော်တစ်ခုစီအတွက် တူညီသော ကန့်သတ်ချက်များအောက်တွင် တွေ့ရှိခဲ့သည့် အကောင်းဆုံး ဆောင်ကြဉ်းပေးမှု ပမာဏကို 1.0 မှတ် သတ်မှတ်ခဲ့ပါသည်။ ဇယားများသည် သုညမှတ်ရသည့် အကြိမ်များအပါအဝင် စမ်းသပ်မှုအားလုံး၏ ပျမ်းမျှရမှတ်ကို ပြသပါသည်။
တစ်ကြိမ်လျှင် တိုကင် 112,000 ခန့် တူညီစွာ ခွဲဝေသုံးစွဲစေရာ GPT‑6.2 Astra သည် ကော်နှစ်ခုစလုံးတွင် အမြင့်ဆုံး ပျမ်းမျှရမှတ် ရရှိခဲ့ပါသည်။ GPT‑6.1 Sol သည်လည်း နှစ်ခုစလုံးတွင် GPT‑5.6 Sol ထက် ရမှတ်ပိုများခဲ့ပါသည်။
လက်ရှိ PicoRV32 core တွင် နှိုင်းယှဉ်နိုင်သော တိုကင်ခွဲဝေမှုပမာဏ ပိုများသည့်အခါ GPT‑6.2 Astra သည် အမြင့်ဆုံး ပျမ်းမျှရမှတ် ရရှိပါသည်။ တိုကင် 112,000 ဝန်းကျင်၌ ၎င်း၏ရမှတ်သည် GPT‑6 Astra ၏ နှစ်ဆခန့် ဖြစ်ပါသည်။
လက်ရှိ Ibex core တွင် GPT‑6.2 Astra ၏ ပျမ်းမျှရမှတ်သည် အသုံးပြုခွင့်ရသော တိုကင်ပမာဏ မြင့်လာသည်နှင့်အမျှ ဆက်လက်တက်လာပါသည်။ GPT‑6 Astra နှင့် GPT‑6.1 Sol တို့၏ ရမှတ်များက ပိုမိုနီးစပ်ပါသည်။
ဒုတိယလုပ်ငန်းအတွက် မော်ဒယ်တစ်ခုစီအား စာဖြင့်ရေးသားထားသော လိုအပ်ချက်များနှင့် core က စနစ်၏ အခြားအစိတ်အပိုင်းများကို ချိတ်ဆက်ပုံ ပြသသည့် ရင်းမြစ်ဖွင့်ကုဒ်မှ နမူနာပုံစံများ ပေးခဲ့ပါသည်။ မော်ဒယ်က core အတွင်း ဒေတာရွေ့လျားပုံနှင့် အလုပ်ကို အဆင့်များအဖြစ် ခွဲဝေပုံတို့ကို ရွေးချယ်ခဲ့ပါသည်။ core တစ်ခုစီအတွက် မှန်ကန်မှုစစ်ဆေးချက်များ၊ မမ်မိုရီနှင့် ကက်ရှ်ဆက်တင်များ၊ ဆောင်ကြဉ်းပေးမှု ပမာဏဆိုင်ရာ ရည်မှန်းချက်များကို RTL ပိုမိုကောင်းမွန်အောင် ပြုပြင်သည့်လုပ်ငန်းနှင့် တူညီစွာ ထားရှိခဲ့ပါသည်။
တစ်ကြိမ်လျှင် တိုကင် 112,000 ခန့် အသုံးပြုရာ၌ မော်ဒယ်ငါးခုစလုံးသည် လက်ရှိဒီဇိုင်းကို ပိုမိုကောင်းမွန်အောင် ပြုပြင်ရန် ကြိုးစားသည့်အခါထက် စာဖြင့်ရေးသားထားသော လိုအပ်ချက်များမှ core တစ်ခုကို ဒီဇိုင်းဆွဲသည့်အခါ ရမှတ်ပိုမြင့်ခဲ့ပါသည်။ PicoRV32 နှင့် Ibex နှစ်ခုစလုံးတွင် ထိုသို့ဖြစ်ခဲ့ပါသည်။ GPT‑6.2 Astra သည် PicoRV32 ထက် Ibex တွင် ပိုမိုတိုးတက်ခဲ့ပါသည်။ အကဲဖြတ်မှုတစ်ရပ်လုံးတွင် လုပ်ငန်းနှစ်မျိုး၊ core နှစ်ခုနှင့် တိုကင်ခွဲဝေမှုပမာဏအားလုံးအတွက် ရမှတ်သတ်မှတ်ထားသည့် စမ်းသပ်မှု 9,881 ကြိမ် ပါဝင်ပါသည်။
PicoRV32 သတ်မှတ်ချက်မှ စတင်ဒီဇိုင်းဆွဲရာတွင် GPT‑6.2 Astra သည် တိုကင် 112,000 နီးပါး၌ ပျမ်းမျှရမှတ် 0.7 ကို ကျော်လွန်ပြီး နောက်ထပ် စမ်းသပ်ခဲ့သည့် တိုကင်ခွဲဝေမှုပမာဏ နှစ်ခုတွင်လည်း ရမှတ်ပိုမြင့်လာပါသည်။
Ibex ကို သတ်မှတ်ချက်မှ စတင်ဒီဇိုင်းဆွဲရာတွင် GPT‑6.2 Astra သည် တိုကင် 112,000 နီးပါး၌ ပျမ်းမျှရမှတ် 0.75 ခန့် ရရှိပါသည်။ ပိုကြီးသည့် ခွဲသုံးတိုကင်ပမာဏ နှစ်ခု ထပ်ပေးရာတွင်လည်း ၎င်း၏ မျဉ်းကွေးသည် အခြားမော်ဒယ်များထက် မြင့်နေပါသည်။
စာဖြင့်ရေးသားထားသော လိုအပ်ချက်များမှ စတင်ခြင်းက မော်ဒယ်များအား မူလcore များရှိ စွမ်းဆောင်ရည်ရေတွက်ကိရိယာများနှင့် အပိုညွှန်ကြားချက်များကဲ့သို့ လုပ်ဆောင်ချက်များကို ချန်လှပ်ခွင့် ပေးပါသည်။ ထိုလုပ်ဆောင်ချက်များသည် စမ်းသပ်သည့် အလုပ်ဝန်များ၏ ဆောင်ကြဉ်းပေးမှု ပမာဏကို တိုးတက်စေရန် အနည်းငယ်သာ အထောက်အကူပြုနိုင်သဖြင့် ရမှတ်ပိုမြင့်ရသည့် အကြောင်းရင်းတစ်စိတ်တစ်ပိုင်း ဖြစ်နိုင်ပါသည်။ ထိုလုပ်ဆောင်ချက်များ မဖြစ်မနေပါဝင်စေခြင်း၊ ဆားကစ်ဧရိယာကို ပိုမိုတင်းကျပ်စွာ ကန့်သတ်ခြင်းနှင့် ဆားကစ်ဖွဲ့စည်းပြီးနောက် ရုပ်ပိုင်းဆိုင်ရာအချိန်ကိုက်မှု စစ်ဆေးခြင်းတို့ ပြုလုပ်ပါက စမ်းသပ်မှုသည် လက်တွေ့ထုတ်လုပ်မည့် ချစ်ပ်ဒီဇိုင်းလုပ်ငန်းကို ပိုမိုထင်ဟပ်နိုင်ပါမည်။
ကျွန်ုပ်တို့၏ မော်ဒယ်များသည် RISC-V အကဲဖြတ်မှုများတွင် ပရိုဆက်ဆာဗိသုကာပုံစံအသစ်များကို စူးစမ်းနိုင်ကြောင်း ပြသခဲ့ပြီး Jalapeño နှင့် AMD ၏ မျိုးဆက်သစ် ထိပ်တန်း GPU၊ CPU တို့ကဲ့သို့ အဆင့်မြင့်ထုတ်လုပ်ရေးဒီဇိုင်းများ၌လည်း နောက်ထပ်တိုးတက်မှုအသစ်များ ဖော်ဆောင်ပေးနိုင်ခဲ့ပါသည်။ မော်ဒယ်ဖွံ့ဖြိုးရေးကို ယုံကြည်စိတ်ချရသော အကဲဖြတ်စနစ်များပေါ် အခြေခံရန်နှင့် ပိုမိုကျယ်ပြန့်သော ဒီဇိုင်းစိန်ခေါ်မှုများကို ဖြေရှင်းရန် Synopsys နှင့် ပူးပေါင်း၍ မော်ဒယ်အသစ် GPT‑Synopsys(ဝင်းဒိုးအသစ်တွင် ဖွင့်မည်) ကို လေ့ကျင့်ပေးနေပါသည်။ ၎င်းသည် Synopsys ၏ အီလက်ထရွန်နစ်ဒီဇိုင်း အလိုအလျောက်လုပ်ဆောင်ရေး (EDA) ကိရိယာများကို ကျွမ်းကျင်ချစ်ပ်ဒီဇိုင်းပညာရှင်များကဲ့သို့ အသုံးပြုနိုင်မည်ဖြစ်ပါသည်။


