OpenAI-Broadcom, novi čip, optimiran za velike jezikovne modele

• Prva testiranja kažejo, da bo pospeševalnik prve generacije zagotavljal bistveno boljšo zmogljivost na vat kot današnja najnaprednejša tehnologija
• Od začetka zasnovan za današnje in prihodnje velike jezikovne modele v celotni panogi
• Od zasnove do proizvodnje razvit v devetih mesecih, pospešen z modeli OpenAI
• Širi celoskladovno platformo OpenAI, od izdelkov do modelov in zdaj še do čipov
• Uveden bo v gigavatnem obsegu s partnerji za podatkovne centre in skozi več generacij

OpenAI in Broadcom (NASDAQ: AVGO) sta danes predstavila Jalapeño, prvi procesor za inteligenco družbe OpenAI: pospeševalnik, zasnovan po viziji OpenAI za prihodnost sklepanja velikih jezikovnih modelov, ter prvi pospeševalnik AI v večgeneracijski računski platformi, ki jo podjetji gradita skupaj, da bi bila napredna AI hitrejša, zanesljivejša in dostopnejša več ljudem.

Jalapeño sta izvršnemu direktorju OpenAI Samu Altmanu in predsedniku Gregu Brockmanu predala predsednik in izvršni direktor Broadcoma Hock Tan ter predsednik Charlie Kawwas, kar pomeni pomemben korak v strategiji OpenAI za izgradnjo celotnega sklada za svojimi modeli in izdelki.

OpenAI je čip zasnoval od začetka na podlagi poglobljenega razumevanja temeljev velikih jezikovnih modelov, ki ga usmerjajo načrt razvoja modelov, jeder, sistemov za streženje in potreb izdelkov; pri tem sta partnerja Broadcom in Celestica pomagala industrializirati platformo z izvedbo čipa, integracijo plošč in regalnih sistemov, visokozmogljivim omrežjem in razširljivimi proizvodnimi sistemi. Jalapeño je zasnovan prilagodljivo, da deluje z vsemi velikimi jezikovnimi modeli, pri čemer ga usmerjajo vpogledi OpenAI v potrebe sklepanja današnjih in prihodnjih modelov AI v celotni panogi. Inženirski vzorci čipa Jalapeño v laboratoriju izvajajo obremenitve ML pri ciljni proizvodni frekvenci in porabi energije, vključno z GPT‑5.3‑Codex‑Spark.

Čeprav OpenAI še vedno meri končno zmogljivost, prva testiranja kažejo, da bo Jalapeño zagotavljal bistveno boljšo zmogljivost na vat kot današnja najnaprednejša tehnologija. Podrobno tehnično poročilo o zmogljivosti bo predstavljeno v prihodnjih mesecih. Arhitektura zmanjšuje premikanje podatkov ter uravnoteža računske, pomnilniške in omrežne vire, da doseže dejansko izrabo, ki je veliko bližje teoretični najvišji zmogljivosti. Broadcomova izvedba silicija in omrežne tehnologije, vključno z omrežnim silicijem Tomahawk, pomagajo platformo pripeljati do obsežne proizvodnje.

»Svet prehaja v gospodarstvo, ki ga poganjajo računske zmogljivosti,« je dejal Greg Brockman, predsednik in soustanovitelj OpenAI. »Jalapeño je del naše dolgoročne celoskladovne infrastrukturne strategije za večjo razpoložljivost računskih zmogljivosti, kar prinaša AI, ki je hitrejša, zanesljivejša in cenovno dostopnejša za ljudi in podjetja ter jo je mogoče uporabiti za reševanje pomembnejših problemov. Ker večji del sklada zasnujemo sami, lahko zagotavljamo več inteligence z večjo učinkovitostjo in še naprej širimo dostop do napredne AI.«

»Jalapeño je bil od začetka zasnovan za sklepanje velikih jezikovnih modelov na podlagi podrobnih vpogledov iz našega tesnega sodelovanja z raziskovalci OpenAI,« je dejal Richard Ho, ki vodi program strojne opreme OpenAI. »Arhitekturo smo optimizirali glede na jedra, premikanje pomnilnika, omrežje in vzorce streženja, ki so najpomembnejši za najsodobnejše modele AI. Po prvih testiranjih bo Jalapeño učinkovito izvajal naše najpomembnejše delovne obremenitve blizu teoretičnih meja strojne opreme.«

»Naše sodelovanje z OpenAI predstavlja temeljno zavezo k širjenju fizične infrastrukture, potrebne za naslednje desetletje AI,« je dejal Hock Tan, predsednik in izvršni direktor družbe Broadcom. »To je šele začetek večgeneracijskega načrta. S skupnim razvojem našega vodilnega silicija v panogi neposredno z OpenAI omogočamo uvajanje podatkovnih centrov gigavatnega obsega z Microsoftom in drugimi partnerji od leta 2026.«

Jalapeño je povsem na novo zasnovana rešitev za sodobno sklepanje velikih jezikovnih modelov, ne splošnonamenski pospeševalnik, prilagojen iz prejšnjih obremenitev AI. Temelji na sistemih, ki jih OpenAI vsak dan uporablja v ChatGPT, Codex, API-ju in prihodnjih agentskih izdelkih, hkrati pa je zasnovan za današnje in prihodnje velike jezikovne modele v celotni panogi. Cilj je združiti moč in prepustnost današnjih vodilnih pospeševalnikov AI z zakasnitvijo, bližjo najhitrejšim specializiranim sistemom za sklepanje, zato je Jalapeño zelo primeren za interaktivne izdelke z velikimi jezikovnimi modeli v velikem obsegu.

To je prednost celotnega sklada. OpenAI ne razvija le najnaprednejših modelov ali izdelkov, zgrajenih na njih; zasnuje tudi infrastrukturo pod njimi: arhitekturo čipov, jedra, pomnilniške sisteme, omrežja, razporejanje, sisteme uvajanja in izkušnjo izdelka. Ker OpenAI deluje po celotnem skladu, je mogoče vsako plast optimizirati za isti cilj: da so njegovi modeli za uporabnike hitrejši, zanesljivejši in cenovno dostopnejši.

Jalapeño krepi pozitivno zanko, ki poganja napredek OpenAI. Boljša infrastruktura povečuje računsko učinkovitost. Večja računska učinkovitost omogoča boljše učenje in streženje ter na koncu poganja zmogljivejše modele AI. Boljši modeli postanejo boljši izdelki za ljudi, razvijalce in podjetja. Boljši izdelki prinašajo več uporabe, več strank in več prihodkov, kar OpenAI omogoča ponovno vlaganje v naslednjo generacijo infrastrukture. Sčasoma ta krog pomaga, da inteligenca postane zmogljivejša, zanesljivejša in cenejša za vse.

Jalapeño je bil skupaj razvit od začetne zasnove do predaje proizvodnji v samo devetih mesecih, program namenskega pospeševalnika AI pa po našem prepričanju predstavlja najhitrejši razvojni cikel ASIC, ki je bil kadar koli dosežen pri visokozmogljivih naprednih polprevodnikih. Ta hitrost odraža tesen skupni razvoj programske in strojne opreme z inženirskimi ekipami OpenAI, Broadcomovo strokovno znanje pri izvedbi silicija ter uporabo modelov OpenAI za pospešitev delov procesa načrtovanja in optimizacije.

Isti modeli, ki so na voljo uporabnikom, pomagajo izboljševati infrastrukturo za izvajanje prihodnjih modelov. Če lahko AI pomaga inženirjem hitreje načrtovati boljše čipe, lahko zniža stroške računskih zmogljivosti v celotni panogi in pomaga demokratizirati dostop do napredne AI.

Jalapeño je prvi korak v večgeneracijski računski platformi, zasnovani za prvo uvedbo do konca leta 2026 in širitev v naslednjih letih; združuje pospeševalnike, ki jih je zasnoval OpenAI, z Broadcomovo izvedbo silicija, omrežnimi in povezljivostnimi tehnologijami ter Celesticinim strokovnim znanjem o ploščah, regalih in sistemih.

Namen tega dela je preprost: sklepanje je trenutek, ko AI doseže ljudi. Vsaka izboljšava stroškov, hitrosti in zanesljivosti se lahko pokaže kot hitrejši odgovor ChatGPT, naloga Codex, ki lahko opravi več korakov z manj čakanja, izdelek API, ki ga je ceneje zgraditi, ali zanesljivejši dostop ob velikem povpraševanju.

Demokratizirati AI pomeni, da so napredni modeli na voljo, zanesljivi in dovolj cenovno dostopni, da jih lahko vsak dan uporablja več ljudi. Jalapeño pomaga OpenAI, da več svoje infrastrukture pretvori v uporabno inteligenco za študente, razvijalce, mala podjetja, raziskovalce, velika podjetja in vsakogar, ki se želi učiti, ustvarjati ali reševati težke probleme.