OpenAI, Broadcom LLM-д оновчилсон инференс чипээ танилцууллаа
- Эхний туршилтаар нэгдүгээр үеийн хурдасгуур нь ватт тутам дахь гүйцэтгэлээрээ өнөөгийн тэргүүлэх түвшнээс хавьгүй давуу байх нь харагдлаа
- Салбар даяарх одоогийн болон ирээдүйн LLM-үүдэд эхнээс нь зориулан бүтээв
- OpenAI-ийн загваруудаар хурдасган, дизайнаас үйлдвэрлэл хүртэл есөн сарын дотор хөгжүүлэв
- OpenAI-ийн бүтээгдэхүүнээс загвар, одоо чип хүртэлх бүрэн стек платформыг өргөжүүлнэ
- Дата төвийн түншүүдтэй хамт хэд хэдэн үе дамнан гигаваттын хэмжээнд нэвтрүүлнэ
OpenAI болон Broadcom (NASDAQ: AVGO) өнөөдөр OpenAI-ийн анхны Оюун ухааны процессор болох Jalapeño-г танилцууллаа. Энэ нь OpenAI-ийн LLM инференсийн ирээдүйн талаарх алсын хараанд тулгуурлан зохиомжлогдсон хурдасгуур бөгөөд дэвшилтэт AI-г илүү хурдан, найдвартай, олон хүнд хүртээмжтэй болгохын тулд хоёр компанийн хамтран бүтээж буй олон үеийн тооцооллын платформын анхны AI хурдасгуур юм.
Jalapeño-г Broadcom-ийн Ерөнхийлөгч бөгөөд Гүйцэтгэх захирал Хок Тан болон Ерөнхийлөгч Чарли Каввас нар OpenAI-ийн Гүйцэтгэх захирал Сэм Алтман, Ерөнхийлөгч Грег Брокман нарт гардуулсан нь OpenAI өөрийн загвар, бүтээгдэхүүний ар дахь бүрэн стекийг байгуулах стратегид чухал алхам боллоо.
OpenAI чипийг LLM-ийн суурь зарчмуудын талаарх гүн ойлголтдоо тулгуурлан, загвар, кернел, үйлчилгээний систем, бүтээгдэхүүний хэрэгцээний замын зураглалаараа чиглүүлж, түнш Broadcom болон Celestica-тай хамтран эхнээс нь загварчилсан. Тэд чип хэрэгжүүлэлт, хавтан, рэк системийн интеграц, өндөр гүйцэтгэлтэй сүлжээ, өргөтгөх боломжтой үйлдвэрлэлийн системээр дамжуулан платформыг аж үйлдвэржүүлэхэд тусалж байна. Jalapeño нь салбар даяарх одоогийн болон ирээдүйн AI загваруудын инференсийн хэрэгцээний талаарх OpenAI-ийн ойлголтод тулгуурлан бүх LLM-тэй ажиллах уян хатан байдлаар зохион бүтээгдсэн. Jalapeño чипийн инженерийн дээжүүд лабораторид үйлдвэрлэлийн зорилтот давтамж, чадлаар ML ачааллуудыг, үүнд GPT‑5.3‑Codex‑Spark‑ийг ажиллуулж байна.
OpenAI эцсийн гүйцэтгэлийг хэмжсээр байгаа ч эхний туршилтаар Jalapeño нь ватт тутам дахь гүйцэтгэлээрээ өнөөгийн тэргүүлэх түвшнээс хавьгүй давуу байх нь харагдлаа. Гүйцэтгэлийн дэлгэрэнгүй техникийн тайланг ирэх саруудад танилцуулна. Архитектур нь өгөгдөл шилжилтийг багасгаж, тооцоолол, санах ой, сүлжээний нөөцийг тэнцвэржүүлснээр бодит ашиглалтыг онолын оргил гүйцэтгэлд илүү ойртуулна. Broadcom-ийн цахиур хэрэгжүүлэлт болон сүлжээний технологиуд, түүний дотор Tomahawk сүлжээний цахиур нь платформыг их хэмжээгээр үйлдвэрлэлд нэвтрүүлэхэд тусална.
“Дэлхий тооцооллоор тэжээгддэг эдийн засаг руу шилжиж байна” гэж OpenAI-ийн Ерөнхийлөгч бөгөөд хамтран үүсгэн байгуулагч Грег Брокман хэллээ. “Jalapeño нь тооцооллын нөөцийг илүү элбэг болгох манай урт хугацааны бүрэн стек дэд бүтцийн стратегийн нэг хэсэг бөгөөд ингэснээр AI хүмүүс, бизнесүүдэд илүү хурдан, найдвартай, боломжийн өртөгтэй болж, илүү чухал асуудлыг шийдэхэд ашиглагдана. Стекийн илүү олон хэсгийг өөрсдөө загварчилснаар бид илүү их оюун ухааныг өндөр үр ашигтайгаар хүргэж, дэвшилтэт AI-г улам өргөн хүртээмжтэй болгох чиглэлд үргэлжлүүлэн урагшлуулж чадна.”
“Jalapeño-г OpenAI-ийн судлаачидтай ойр хамтран ажилласнаар олж авсан нарийвчилсан ойлголтод тулгуурлан LLM инференст эхнээс нь зориулж загварчилсан” гэж OpenAI-ийн техник хангамжийн хөтөлбөрийг удирддаг Ричард Хо хэллээ. “Бид архитектурыг хил хязгаарын AI загваруудад хамгийн чухал кернел, санах ойн шилжилт, сүлжээ, үйлчилгээний хэв маягт тааруулан оновчилсон. Эхний туршилтаас үзэхэд Jalapeño манай хамгийн чухал ачааллуудыг техник хангамжийн онолын хязгаарт ойр үр ашигтайгаар гүйцэтгэнэ.”
“OpenAI-тэй хийж буй бидний хамтын ажиллагаа нь ирэх арван жилийн AI-д шаардлагатай физик дэд бүтцийг өргөтгөх суурь амлалтыг илэрхийлж байна” гэж Broadcom-ийн Ерөнхийлөгч бөгөөд Гүйцэтгэх захирал Хок Тан хэллээ. “Энэ бол олон үеийн замын зураглалын дөнгөж эхлэл. Салбартаа тэргүүлэгч цахиураа OpenAI-тэй шууд хамтран хөгжүүлснээр бид Microsoft болон бусад түнштэй хамт 2026 оноос эхлэн гигаваттын хэмжээний дата төвүүдийг нэвтрүүлэх боломжийг бүрдүүлж байна.”
Jalapeño нь өмнөх AI ачааллуудаас тохируулсан ерөнхий зориулалтын хурдасгуур биш, харин орчин үеийн LLM инференст зориулсан цоо шинэ загвар юм. Энэ нь OpenAI-ийн ChatGPT, Codex, API болон ирээдүйн агент суурьтай бүтээгдэхүүнүүдэд өдөр бүр ажиллуулдаг системүүдээс суралцсан бөгөөд мөн салбар даяарх одоогийн болон ирээдүйн LLM-үүдэд зориулан бүтээгдсэн. Зорилго нь өнөөгийн тэргүүлэх AI хурдасгуурын хүч чадал, нэвтрүүлэх чадамжийг хамгийн хурдан тусгай инференс системүүдтэй ойролцоо хоцролттой нэгтгэж, Jalapeño-г өргөн цар хүрээний интерактив LLM бүтээгдэхүүнд нэн тохиромжтой болгох явдал юм.
Энэ бол бүрэн стекийн давуу тал юм. OpenAI зөвхөн хил хязгаарын загварууд хөгжүүлж, дээр нь бүтээгдэхүүн бүтээж байгаа биш; тэдгээрийн доорх дэд бүтцийг буюу чипийн архитектур, кернел, санах ойн систем, сүлжээ, хуваарьлалт, нэвтрүүлэлтийн систем, бүтээгдэхүүний туршлагыг загварчилж байна. OpenAI стек даяар ажилладаг учраас давхарга бүрийг нэг зорилгод буюу загваруудаа хэрэглэгчдэд илүү хурдан, найдвартай, боломжийн өртөгтэй болгоход чиглүүлэн оновчлох боломжтой.
Jalapeño нь OpenAI-ийн ахиц дэвшлийг хөдөлгөдөг эерэг эргэлтийг улам бэхжүүлнэ. Илүү сайн дэд бүтэц тооцооллын үр ашгийг нэмэгдүүлнэ. Тооцооллын өндөр үр ашиг нь илүү сайн сургалт, үйлчилгээ үзүүлэлтийг боломжтой болгож, эцэстээ илүү чадварлаг AI загваруудыг тэтгэнэ. Илүү сайн загварууд нь хүмүүс, хөгжүүлэгчид, бизнесүүдэд зориулсан илүү сайн бүтээгдэхүүн болно. Илүү сайн бүтээгдэхүүн нь хэрэглээ, хэрэглэгч, орлогыг өсгөж, OpenAI-д дараагийн үеийн дэд бүтцэд дахин хөрөнгө оруулах боломж олгоно. Цаг хугацаа өнгөрөх тусам энэ мөчлөг оюун ухааныг хүн бүрт илүү чадварлаг, найдвартай, хямд болгоход тусална.
Jalapeño-г анхны загвараас үйлдвэрлэлийн tape-out хүртэл ердөө есөн сарын дотор хамтран хөгжүүлсэн бөгөөд энэ тусгай AI хурдасгуурын хөтөлбөр нь өндөр гүйцэтгэлтэй дэвшилтэт хагас дамжуулагчийн салбарт урьд өмнө хүрсэн хамгийн хурдан ASIC хөгжүүлэлтийн мөчлөг гэж бид үзэж байна. Энэ хурд нь OpenAI-ийн инженерийн багуудтай хийсэн гүнзгий програм хангамж-техник хангамжийн хамтарсан хөгжүүлэлт, Broadcom-ийн цахиур хэрэгжүүлэлтийн мэргэшил, мөн загварчлал, оновчлолын үйл явцын зарим хэсгийг хурдасгахад OpenAI загваруудыг ашигласны үр дүн юм.
Хэрэглэгчдэд үйлчилж буй ижил загварууд ирээдүйн загваруудыг ажиллуулах дэд бүтцийг сайжруулахад тусалж байна. Хэрэв AI инженерүүдэд илүү сайн чипийг хурдан загварчлахад тусалж чадвал салбар даяар тооцооллын өртгийг бууруулж, дэвшилтэт AI-д хандах боломжийг ардчилж чадна.
Jalapeño нь 2026 оны эцэс гэхэд анхны нэвтрүүлэлтээ хийж, дараагийн жилүүдэд өргөжихээр төлөвлөгдсөн олон үеийн тооцооллын платформын эхний алхам юм. Энэ платформ нь OpenAI-ийн загварчилсан хурдасгуурыг Broadcom-ийн цахиур хэрэгжүүлэлт, сүлжээ, холболтын технологитой; мөн Celestica-ийн хавтан, рэк, системийн мэргэшилтэй нэгтгэнэ.
Энэ ажлын зорилго энгийн: инференс бол AI хүмүүст хүрэх цэг юм. Өртөг, хурд, найдвартай байдлын аливаа сайжруулалт нь ChatGPT‑ийн илүү хурдан хариулт, бага хүлээлттэйгээр илүү олон алхам хийх Codex даалгавар, бүтээхэд хямд API бүтээгдэхүүн, эсвэл эрэлт өндөр үед илүү найдвартай хандалт болж илэрч чадна.
AI-г ардчилах гэдэг нь дэвшилтэт загваруудыг илүү олон хүн өдөр бүр ашиглаж чадахаар хүртээмжтэй, найдвартай, боломжийн өртөгтэй болгохыг хэлнэ. Jalapeño нь OpenAI-д дэд бүтцийнхээ илүү их хэсгийг оюутан, хөгжүүлэгч, жижиг бизнес, судлаач, байгууллага болон суралцах, бүтээх, эсвэл хүнд асуудал шийдэхийг зорьж буй хэн бүхэнд хэрэгтэй оюун ухаан болгон хувиргахад тусална.
