OpenAI နှင့် Broadcom တို့ LLM အထူးပြု inference chip ကို မိတ်ဆက်

• အစောပိုင်းစမ်းသပ်မှုများအရ ပထမမျိုးဆက် accelerator သည် လက်ရှိ အကောင်းဆုံးနည်းပညာများထက် ဝပ်တစ်ခုလျှင် စွမ်းဆောင်ရည် အတော်လေး ပိုကောင်းမည်ဖြစ်ကြောင်း ပြသထားသည်
• စက်မှုလုပ်ငန်းတစ်လျှောက် လက်ရှိနှင့် အနာဂတ် LLM များအတွက် အစမှအဆုံး တည်ဆောက်ထားသည်
• ဒီဇိုင်းမှ ထုတ်လုပ်မှုအထိ ကိုးလအတွင်း ဖန်တီးခဲ့ပြီး OpenAI ၏ မော်ဒယ်များက အရှိန်မြှင့်ပေးခဲ့သည်
• ထုတ်ကုန်များမှ မော်ဒယ်များအထိ၊ ယခု chip များအထိ OpenAI ၏ full-stack platform ကို ချဲ့ထွင်သည်
• ဒေတာစင်တာ မိတ်ဖက်များနှင့်အတူ မျိုးဆက်များစွာအလိုက် gigawatt အရွယ်အစားဖြင့် အသုံးချမည်

OpenAI နှင့် Broadcom (NASDAQ: AVGO) တို့သည် ယနေ့ Jalapeño ကို မိတ်ဆက်ခဲ့သည်။ ၎င်းသည် OpenAI ၏ ပထမဆုံး Intelligence Processor ဖြစ်ပြီး OpenAI ၏ LLM inference အနာဂတ်အမြင်ပေါ် အခြေခံ၍ ပုံဖော်ထားသော accelerator ဖြစ်သည်။ ထို့အပြင် အဆင့်မြင့် AI ကို ပိုမိုမြန်ဆန်၊ ပိုမိုယုံကြည်စိတ်ချရပြီး ပိုများသော လူများအတွက် ပိုမိုလက်လှမ်းမီစေရန် ကုမ္ပဏီနှစ်ခု ပူးတွဲတည်ဆောက်နေသည့် မျိုးဆက်များစွာပါ compute platform ၏ ပထမဆုံး AI accelerator လည်း ဖြစ်သည်။

Broadcom ဥက္ကဋ္ဌနှင့် CEO Hock Tan နှင့် ဥက္ကဋ္ဌ Charlie Kawwas တို့က Jalapeño ကို OpenAI CEO Sam Altman နှင့် President Greg Brockman ထံ ပေးအပ်ခဲ့ပြီး၊ ၎င်းသည် OpenAI ၏ မော်ဒယ်များနှင့် ထုတ်ကုန်များအောက်ရှိ full stack ကို တည်ဆောက်ရန် ဗျူဟာတွင် အရေးကြီးသော ခြေလှမ်းတစ်ခု ဖြစ်သည်။

OpenAI သည် LLM အခြေခံသဘောတရားများကို နက်နက်ရှိုင်းရှိုင်း နားလည်မှုအပေါ် အခြေခံကာ chip ကို အစမှ ဒီဇိုင်းဆွဲခဲ့သည်။ ၎င်းတွင် မော်ဒယ်များ၊ kernel များ၊ serving system များနှင့် ထုတ်ကုန်လိုအပ်ချက်များအတွက် ၎င်း၏ လမ်းပြမြေပုံမှ သိမြင်ချက်များ ပါဝင်ပြီး၊ မိတ်ဖက် Broadcom နှင့် Celestica တို့နှင့်အတူ chip implementation၊ board၊ rack system ပေါင်းစည်းမှု၊ high-performance networking နှင့် အရွယ်အစားချဲ့နိုင်သော ထုတ်လုပ်မှုစနစ်များမှတစ်ဆင့် platform ကို စက်မှုအဆင့်သို့ ရောက်ရှိစေရန် ကူညီခဲ့သည်။ Jalapeño ကို စက်မှုလုပ်ငန်းတစ်လျှောက် လက်ရှိနှင့် အနာဂတ် AI မော်ဒယ်များ၏ inference လိုအပ်ချက်များအပေါ် OpenAI ၏ သိမြင်ချက်များဖြင့် ဦးဆောင်ကာ LLM အားလုံးနှင့် အလုပ်လုပ်နိုင်သည့် လိုက်လျောညီထွေမှုဖြင့် ဒီဇိုင်းထုတ်ထားသည်။ Jalapeño chip ၏ engineering နမူနာများသည် GPT‑5.3‑Codex‑Spark အပါအဝင် ML workload များကို ထုတ်လုပ်မှုရည်မှန်းချက်ကြိမ်နှုန်းနှင့် စွမ်းအားဖြင့် ဓာတ်ခွဲခန်းတွင် လည်ပတ်နေသည်။

OpenAI သည် နောက်ဆုံးစွမ်းဆောင်ရည်ကို ဆက်လက်တိုင်းတာနေသော်လည်း အစောပိုင်းစမ်းသပ်မှုများအရ Jalapeño သည် လက်ရှိ အကောင်းဆုံးနည်းပညာများထက် ဝပ်တစ်ခုလျှင် စွမ်းဆောင်ရည် အတော်လေး ပိုကောင်းမည်ဖြစ်ကြောင်း ပြသထားသည်။ စွမ်းဆောင်ရည်ဆိုင်ရာ အသေးစိတ်နည်းပညာအစီရင်ခံစာကို လာမည့်လများအတွင်း တင်ပြမည်။ ဤ architecture သည် ဒေတာရွှေ့ပြောင်းမှုကို လျှော့ချပြီး compute၊ memory နှင့် networking အရင်းအမြစ်များကို မျှတစေကာ သီအိုရီအရ အမြင့်ဆုံးစွမ်းဆောင်ရည်နှင့် ပိုမိုနီးစပ်သော လက်တွေ့အသုံးချနိုင်မှုကို ရရှိစေသည်။ Tomahawk networking silicon အပါအဝင် Broadcom ၏ silicon implementation နှင့် networking နည်းပညာများသည် platform ကို အကြီးစားထုတ်လုပ်မှုသို့ ရောက်ရှိစေရန် ကူညီပေးသည်။

“ကမ္ဘာဟာ compute အင်အားပေါ် အခြေခံတဲ့ စီးပွားရေးစနစ်သို့ ပြောင်းလဲနေပါတယ်” ဟု OpenAI ဥက္ကဋ္ဌနှင့် ပူးတွဲတည်ထောင်သူ Greg Brockman က ပြောသည်။ “Jalapeño ဟာ compute ကို ပိုမိုပေါများစေဖို့ ရည်ရွယ်တဲ့ ကျွန်ုပ်တို့ရဲ့ ရေရှည် full-stack အခြေခံအဆောက်အအုံဗျူဟာရဲ့ အစိတ်အပိုင်းတစ်ခုဖြစ်ပြီး၊ အဲ့ဒီကနေတစ်ဆင့် လူများနဲ့ လုပ်ငန်းတွေအတွက် ပိုမိုမြန်ဆန်၊ ပိုမိုယုံကြည်စိတ်ချရ၊ ပိုမိုဈေးသက်သာတဲ့ AI ကို ပေးနိုင်ကာ ပိုအရေးကြီးတဲ့ ပြဿနာတွေကို ဖြေရှင်းရာမှာ အသုံးပြုနိုင်မှာပါ။ Stack ရဲ့ အစိတ်အပိုင်းတွေကို ကျွန်ုပ်တို့ကိုယ်တိုင် ပိုမိုဒီဇိုင်းဆွဲခြင်းဖြင့် intelligence ကို ပိုမိုထိရောက်စွာ ပံ့ပိုးနိုင်ပြီး အဆင့်မြင့် AI ကို ပိုမိုကျယ်ပြန့်စွာ လက်လှမ်းမီနိုင်အောင် ဆက်လက်တွန်းအားပေးနိုင်မှာ ဖြစ်ပါတယ်။”

“Jalapeño ကို OpenAI သုတေသီများနဲ့ ကျွန်ုပ်တို့ရဲ့ နီးကပ်တဲ့ ပူးပေါင်းဆောင်ရွက်မှုကနေ ရရှိတဲ့ အသေးစိတ်သိမြင်ချက်များကို အသုံးပြုပြီး LLM inference အတွက် အစကနေ ဒီဇိုင်းထုတ်ခဲ့ပါတယ်” ဟု OpenAI ၏ hardware program ကို ဦးဆောင်သူ Richard Ho က ပြောသည်။ “စွမ်းဆောင်ရည်အမြင့်ဆုံး AI မော်ဒယ်တွေအတွက် အရေးအကြီးဆုံးဖြစ်တဲ့ kernel များ၊ memory movement၊ networking နှင့် serving patterns များကို ဗဟိုပြုကာ architecture ကို ကျွန်ုပ်တို့ ပိုကောင်းအောင်လုပ်ခဲ့ပါတယ်။ အစောပိုင်းစမ်းသပ်မှုများအပေါ် အခြေခံပြီး Jalapeño ဟာ ကျွန်ုပ်တို့ရဲ့ အရေးအကြီးဆုံး workload တွေကို hardware ရဲ့သီအိုရီအရ ကန့်သတ်ချက်များနီးပါးမှာ ထိရောက်စွာ လည်ပတ်စေနိုင်မှာဖြစ်ပါတယ်။”

“OpenAI နဲ့ ကျွန်ုပ်တို့၏ ပူးပေါင်းဆောင်ရွက်မှုသည် AI ရဲ့ လာမယ့်ဆယ်စုနှစ်အတွက် လိုအပ်တဲ့ ရုပ်ပိုင်းဆိုင်ရာ အခြေခံအဆောက်အအုံကို တိုးချဲ့ဖို့ အခြေခံကျတဲ့ ကတိကဝတ်ကို ကိုယ်စားပြုပါတယ်” ဟု Broadcom ဥက္ကဋ္ဌနှင့် CEO Hock Tan က ပြောသည်။ “ဒါက မျိုးဆက်များစွာပါတဲ့ လမ်းပြမြေပုံ၏ အစလေးပါ။ OpenAI နဲ့ တိုက်ရိုက်ပူးတွဲပြီး ကျွန်ုပ်တို့ရဲ့ စက်မှုလုပ်ငန်းဦးဆောင် silicon ကို ဖန်တီးခြင်းဖြင့် ၂၀၂၆ ခုနှစ်မှစတင်ကာ Microsoft နှင့် အခြားမိတ်ဖက်များနှင့်အတူ gigawatt အရွယ်အစားဒေတာစင်တာများကို ဖြန့်ချိအသုံးချနိုင်စေမှာဖြစ်ပါတယ်။”

Jalapeño သည် ခေတ်မီ LLM inference အတွက် အစမှရေးဆွဲထားသော ဒီဇိုင်းဖြစ်ပြီး၊ ယခင် AI workload များမှ ပြုပြင်သုံးထားသော general-purpose accelerator မဟုတ်ပါ။ ၎င်းသည် ChatGPT၊ Codex၊ API နှင့် အနာဂတ် အေးဂျင့်ဆန်သော ထုတ်ကုန်များတစ်လျှောက် OpenAI နေ့စဉ်လည်ပတ်နေသည့် စနစ်များမှ သိမြင်ချက်များအပေါ် အခြေခံထားပြီး၊ စက်မှုလုပ်ငန်းတစ်လျှောက် လက်ရှိနှင့် အနာဂတ် LLM များအတွက်လည်း ဒီဇိုင်းထုတ်ထားသည်။ ရည်မှန်းချက်မှာ ယနေ့ ဦးဆောင်နေသည့် AI accelerator များ၏ စွမ်းအားနှင့် ဆောင်ကြဉ်းပေးမှု ပမာဏကို အမြန်ဆုံး အထူးပြု inference စနစ်များနှင့် ပိုနီးစပ်သော latency ဖြင့် ပေါင်းစပ်ရန်ဖြစ်ပြီး၊ ထိုကြောင့် Jalapeño သည် အရွယ်အစားကြီးမားသော အပြန်အလှန်တုံ့ပြန်တဲ့ LLM ထုတ်ကုန်များအတွက် သင့်လျော်စေသည်။

ဤသည်က full-stack အားသာချက်ဖြစ်သည်။ OpenAI သည် စွမ်းဆောင်ရည်အမြင့်ဆုံး မော်ဒယ်များကို ဖန်တီးခြင်း သို့မဟုတ် ၎င်းတို့အပေါ် အခြေခံ၍ ထုတ်ကုန်များ တည်ဆောက်ခြင်းသာမက၊ ၎င်းတို့အောက်ရှိ အခြေခံအဆောက်အအုံကိုလည်း ဒီဇိုင်းဆွဲနေသည်။ ၎င်းတွင် chip architecture၊ kernel များ၊ memory system များ၊ networking၊ scheduling၊ ဖြန့်ချိအသုံးချထုတ်ဝေမှုစနစ်များနှင့် ကုန်ပစ္စည်းအတွေ့အကြုံတို့ ပါဝင်သည်။ OpenAI သည် stack တစ်ခုလုံးတစ်လျှောက် လုပ်ဆောင်နေသောကြောင့် အလွှာတိုင်းကို တူညီသော ရည်မှန်းချက်ဖြစ်သည့် ၎င်း၏ မော်ဒယ်များကို အသုံးပြုသူများအတွက် ပိုမိုမြန်ဆန်၊ ပိုမိုယုံကြည်စိတ်ချရပြီး ပိုမိုဈေးသက်သာစေရန် ပိုကောင်းအောင်လုပ်နိုင်သည်။

Jalapeño သည် OpenAI ၏ တိုးတက်မှုနောက်ကွယ်ရှိ flywheel ကို ပိုမိုအားကောင်းစေသည်။ ပိုကောင်းသော အခြေခံအဆောက်အအုံသည် compute ထိရောက်မှုကို တိုးစေသည်။ ပိုမြင့်သော compute ထိရောက်မှုသည် ပိုကောင်းသော လေ့ကျင့်မှုနှင့် ဆောင်ရွက်မှုကို ဖြစ်စေပြီး နောက်ဆုံးတွင် ပိုမိုစွမ်းရည်ရှိသော AI မော်ဒယ်များကို အားဖြည့်ပေးသည်။ ပိုကောင်းသော မော်ဒယ်များသည် လူများ၊ developer များနှင့် လုပ်ငန်းများအတွက် ပိုကောင်းသော ထုတ်ကုန်များ ဖြစ်လာသည်။ ပိုကောင်းသော ထုတ်ကုန်များသည် အသုံးပြုမှု၊ သုံးစွဲသူနှင့် ဝင်ငွေ ပိုမိုတိုးလာစေပြီး၊ ထိုဝင်ငွေဖြင့် OpenAI သည် နောက်မျိုးဆက် အခြေခံအဆောက်အအုံတွင် ပြန်လည်ရင်းနှီးမြှုပ်နှံနိုင်သည်။ အချိန်ကြာလာသည်နှင့်အမျှ ထိုသံသရာသည် ဥာဏ်ရည်ကို လူတိုင်းအတွက် ပိုမိုစွမ်းရည်ရှိ၊ ပိုမိုယုံကြည်စိတ်ချရပြီး ပိုမိုကုန်ကျစရိတ်သက်သာစေရန် ကူညီပေးသည်။

Jalapeño ကို ကနဦးဒီဇိုင်းမှ ထုတ်လုပ်ရေး tape-out အထိ ကိုးလအတွင်း ပူးတွဲဖန်တီးခဲ့ပြီး၊ ဤ custom AI accelerator program သည် စွမ်းဆောင်ရည်မြင့်သော အဆင့်မြင့် semiconductors တွင် ယခင်က ရရှိဖူးသမျှ အမြန်ဆုံး ASIC development cycle ဖြစ်သည်ဟု ကျွန်ုပ်တို့ ယုံကြည်သည်။ ထိုအမြန်နှုန်းသည် OpenAI ၏ အင်ဂျင်နီယာအဖွဲ့များနှင့်အတူ software-hardware ကို နက်နက်ရှိုင်းရှိုင်း ပူးတွဲဖန်တီးမှု၊ Broadcom ၏ silicon implementation ကျွမ်းကျင်မှုနှင့် ဒီဇိုင်းနှင့် ပိုမိုကောင်းမွန်အောင်ပြုလုပ်ရေးလုပ်ငန်းစဉ်အချို့ကို အရှိန်မြှင့်ရန် OpenAI မော်ဒယ်များ အသုံးပြုမှုတို့ကို ထင်ဟပ်စေသည်။

အသုံးပြုသူများအတွက် ဝန်ဆောင်မှုပေးနေသည့် ထိုမော်ဒယ်များပင် အနာဂတ်မော်ဒယ်များကို လည်ပတ်စေရန် အသုံးပြုမည့် အခြေခံအဆောက်အအုံကို တိုးတက်ကောင်းမွန်စေရန် ကူညီနေသည်။ AI သည် အင်ဂျင်နီယာများကို ပိုကောင်းသော chip များကို ပိုမြန်မြန် ဒီဇိုင်းဆွဲရာတွင် ကူညီနိုင်ပါက၊ ၎င်းသည် စက်မှုလုပ်ငန်းတစ်လျှောက် compute ကုန်ကျစရိတ်ကို လျှော့ချနိုင်ပြီး အဆင့်မြင့် AI ကို လူအများ ပိုမိုလက်လှမ်းမီစေရန် ကူညီနိုင်သည်။

Jalapeño သည် ၂၀၂၆ ခုနှစ်အကုန်တွင် ကနဦး ဖြန့်ချိအသုံးချမှုပြုလုပ်ရန် ဒီဇိုင်းထုတ်ထားပြီး နောက်လာမည့်နှစ်များတွင် ချဲ့ထွင်သွားမည့် မျိုးဆက်များစွာပါ compute platform ၏ ပထမဆုံးခြေလှမ်းဖြစ်သည်။ ၎င်းသည် OpenAI ဒီဇိုင်းထုတ် accelerator များကို Broadcom ၏ silicon implementation၊ networking နှင့် connectivity နည်းပညာများ၊ Celestica ၏ board၊ rack နှင့် စနစ်ကျွမ်းကျင်မှုတို့နှင့် ပေါင်းစပ်ထားသည်။

ဤလုပ်ငန်း၏ အချက်မှာ ရိုးရှင်းသည်။ inference သည် AI က လူများထံ ရောက်ရှိသည့် နေရာဖြစ်သည်။ ကုန်ကျစရိတ်၊ မြန်နှုန်းနှင့် ယုံကြည်စိတ်ချရမှု တစ်ခုခု တိုးတက်လာတိုင်း ChatGPT အဖြေ ပိုမြန်လာခြင်း၊ Codex အလုပ်တစ်ခုက စောင့်ဆိုင်းချိန်နည်းပြီး အဆင့်များ ပိုလုပ်နိုင်ခြင်း၊ တည်ဆောက်ရန် ပိုဈေးသက်သာသော API ထုတ်ကုန်ဖြစ်ခြင်း၊ သို့မဟုတ် တောင်းဆိုမှုမြင့်နေချိန် ပိုမိုယုံကြည်စိတ်ချရသော ဝင်ရောက်ခွင့်ရရှိခြင်းတို့အဖြစ် မြင်တွေ့နိုင်သည်။

AI ကို လူအများလက်လှမ်းမီစေခြင်းဆိုသည်မှာ အဆင့်မြင့်မော်ဒယ်များကို လူများပိုမိုနေ့စဉ်အသုံးပြုနိုင်လောက်အောင် ရရှိနိုင်၊ ယုံကြည်စိတ်ချရပြီး ဈေးသက်သာစေရန် ဖြစ်သည်။ Jalapeño သည် OpenAI ၏ အခြေခံအဆောက်အအုံကို ကျောင်းသားများ၊ developer များ၊ အသေးစားလုပ်ငန်းများ၊ သုတေသီများ၊ လုပ်ငန်းကြီးများနှင့် သင်ယူရန်၊ ဖန်တီးရန် သို့မဟုတ် ခက်ခဲသောပြဿနာများကို ဖြေရှင်းရန် ကြိုးစားနေသူ မည်သူမဆိုအတွက် အသုံးဝင်သော ဥာဏ်ရည်အဖြစ် ပိုမိုပြောင်းလဲနိုင်စေရန် ကူညီပေးသည်။