OpenAI и Broadcom откривају инференциони чип оптимизован за LLM

• Рана тестирања показују да ће акцелератор прве генерације пружити знатно бољи учинак по вату од тренутно најнапреднијих решења
• Направљен од темеља за садашње и будуће LLM-ове у целом сектору
• Развијен од дизајна до производње за девет месеци, уз убрзање које су омогућили модели привредног друштва OpenAI
• Проширује платформу OpenAI целог стека, од производа до модела, а сада и до чипова
• Биће примењен у гигаватском обиму са партнерима за центре података, кроз више генерација

OpenAI и Broadcom (NASDAQ: AVGO) данас су представили Jalapeño, први OpenAI Intelligence Processor: акцелератор пројектован око визије будућности инференције LLM-ова привредног друштва OpenAI, као и први AI акцелератор у вишегенерацијској рачунарској платформи коју компаније заједно граде како би напредни AI учиниле бржим, поузданијим и доступнијим већем броју људи.

Jalapeño су извршном директору привредног друштва OpenAI Сему Алтману и председнику Грегу Брокману уручили председник и извршни директор корпорације Broadcom Хок Тан и председник Чарли Кавас, што означава важан корак у стратегији привредног друштва OpenAI изградње целог стека који стоји иза његових модела и производа.

OpenAI је чип осмислио од нуле, ослањајући се на дубоко разумевање основа LLM-ова и на своју мапу развоја модела, језгра, система за сервирање и потреба производа, уз партнере Broadcom и Celestica, који помажу да се платформа индустријализује кроз примену чипа, плочу, интеграцију система рафова, мреже високог учинка и производне системе који се могу скалирати. Jalapeño је пројектован флексибилно како би радио са свим LLM-овима, вођен увидима привредног друштва OpenAI у потребе инференције садашњих и будућих AI модела широм сектора. Инжењерски узорци чипа Jalapeño у лабораторији извршавају ML радна оптерећења на циљној производној фреквенцији и снази, укључујући GPT‑5.3‑Codex‑Spark.

Иако OpenAI још увек мери коначни учинак, рана тестирања показују да ће Jalapeño пружити знатно бољи учинак по вату од тренутно најнапреднијих решења. Детаљан технички извештај о учинку биће представљен у наредним месецима. Архитектура смањује кретање података и уравнотежава рачунарске, меморијске и мрежне ресурсе како би се постигла стварна искоришћеност много ближа теоријском врхунцу перформанси. Примена силицијума и мрежне технологије корпорације Broadcom, укључујући мрежни силицијум Tomahawk, помажу да платформа стигне до производње у великом обиму.

„Свет прелази на економију покретану рачунарском снагом”, рекао је Грег Брокман, председник и суоснивач привредног друштва OpenAI. „Jalapeño је део наше дугорочне инфраструктурне стратегије целог стека, чији је циљ да рачунарска снага буде обилнија, што доноси AI који је бржи, поузданији и приступачнији људима и предузећима и који се може користити за решавање важнијих проблема. Тиме што сами пројектујемо већи део стека, можемо ефикасније да испоручујемо више интелигенције и да наставимо да померамо напредни AI ка широј доступности.”

„Jalapeño је од темеља пројектован за инференцију LLM-ова, уз детаљне увиде из наше блиске сарадње са истраживачима привредног друштва OpenAI”, рекао је Ричард Хо, који води програм хардвера привредног друштва OpenAI. „Архитектуру смо оптимизовали око језгра, кретања меморије, умрежавања и образаца сервирања који су најважнији за граничне AI моделе. На основу раних тестирања, Jalapeño ће ефикасно извршавати наша најважнија радна оптерећења близу теоријских граница хардвера.”

„Наша сарадња са привредним друштвом OpenAI представља темељну посвећеност скалирању физичке инфраструктуре потребне за наредну деценију AI-ја”, казао је Хок Тан, председник и извршни директор корпорације Broadcom. „Ово је тек почетак вишегенерацијске мапе развоја. Заједничким развојем нашег водећег силицијума у сектору директно са привредним друштвом OpenAI, омогућавамо примену центара података гигаватског обима са корпорацијом Microsoft и другим партнерима почевши од 2026. године.”

Jalapeño је дизајн од нуле за модерну инференцију LLM-ова, а не акцелератор опште намене прилагођен ранијим AI радним оптерећењима. Заснован је на системима које OpenAI свакодневно покреће у оквиру услуга ChatGPT, Codex, API-ја и будућих агентских производа, а истовремено је пројектован за садашње и будуће LLM-ове широм сектора. Циљ је да се снага и пропусна моћ данашњих водећих AI акцелератора комбинују са латенцијом ближом најбржим специјализованим системима за инференцију, што Jalapeño чини погодним за интерактивне производе LLM-ова у великом обиму.

То је предност целог стека. OpenAI не развија само граничне моделе нити само гради производе на њима; он пројектује инфраструктуру испод њих: архитектуру чипова, језгра, меморијске системе, умрежавање, распоређивање, системе примене и искуство производа. Пошто OpenAI делује кроз цео стек, сваки слој може да се оптимизује око истог циља: да његови модели буду бржи, поузданији и приступачнији корисницима.

Jalapeño јача замајац на којем почива напредак привредног друштва OpenAI. Боља инфраструктура повећава ефикасност рачунарске снаге. Већа ефикасност рачунарске снаге омогућава бољу обуку и сервирање, што на крају покреће способније AI моделе. Бољи модели постају бољи производи за људе, програмере и предузећа. Бољи производи подстичу већу употребу, више клијената и већи приход, што привредном друштву OpenAI омогућава да поново улаже у наредну генерацију инфраструктуре. Временом, тај циклус помаже да интелигенција постане способнија, поузданија и јефтинија за свакога.

Jalapeño је заједнички развијен од почетног дизајна до последње фазе пред производњу за само девет месеци, а програм прилагођеног AI акцелератора представља, по нашем уверењу, најбржи циклус развоја ASIC-а икада постигнут у напредним полупроводницима високих перформанси. Та брзина одражава дубок заједнички развој софтвера и хардвера са OpenAI инжењерским тимовима, стручност корпорације Broadcom у примени силицијума и употребу модела привредног друштва OpenAI за убрзавање делова процеса дизајна и оптимизације.

Исти модели који се сервирају корисницима помажу у унапређењу инфраструктуре која ће се користити за покретање будућих модела. Ако AI може да помогне инжењерима да брже пројектују боље чипове, може да снизи цену рачунарске снаге у целом сектору и помогне да се приступ напредном AI-ју демократизује.

Jalapeño је први корак у вишегенерацијској рачунарској платформи пројектованој за почетну примену до краја 2026. и ширење у годинама које следе, комбинујући акцелераторе које је пројектовало OpenAI са применом силицијума корпорације Broadcom, технологијама умрежавања и повезивања, као и стручношћу Celestica за плоче, рафове и системе.

Смисао овог рада је једноставан: инференција је место где AI стиже до људи. Свако побољшање цене, брзине и поузданости може да се испољи као бржи одговор услуге ChatGPT, задатак услуге Codex који може да изведе више корака уз мање чекања, API производ који је јефтинији за изградњу или поузданији приступ када је потражња велика.

Демократизација AI-ја значи учинити напредне моделе доступним, поузданим и довољно приступачним да их више људи користи сваког дана. Jalapeño помаже привредном друштву OpenAI да већи део своје инфраструктуре претвори у корисну интелигенцију за студенте, програмере, мала предузећа, истраживаче, велика предузећа и свакога ко покушава да учи, ствара или решава тешке проблеме.