OpenAI અને Broadcom એ LLM-અનુકૂળ ઇન્ફરન્સ ચિપ રજૂ કરી
- પ્રારંભિક પરીક્ષણ દર્શાવે છે કે પ્રથમ પેઢીનું ઍક્સેલેરેટર વર્તમાન શ્રેષ્ઠ ટેકનોલોજી કરતાં કામગીરીમાં પ્રતિ વોટ નોંધપાત્ર રીતે બહેતર રહેશે
- ઉદ્યોગભરના વર્તમાન અને ભવિષ્યના LLM માટે મૂળથી બનાવાયેલ
- OpenAIના મોડલ્સથી ઝડપી બની, ડિઝાઇનથી ઉત્પાદન સુધી નવ મહિનામાં વિકસિત
- OpenAIના પૂર્ણ-સ્ટૅક પ્લેટફોર્મને વિસ્તારે છે, ઉત્પાદનોથી મોડલ્સ અને હવે ચિપ્સ સુધી
- ડેટા સેન્ટર ભાગીદારો સાથે, અનેક પેઢીઓમાં ગિગાવોટ સ્કેલ પર તૈનાત કરવામાં આવશે
OpenAI અને Broadcom (NASDAQ: AVGO) એ આજે Jalapeñoનું અનાવરણ કર્યું, જે OpenAIનું પ્રથમ ઇન્ટેલિજન્સ પ્રોસેસર છે: OpenAIની LLM ઇન્ફરન્સના ભવિષ્ય માટેની દૃષ્ટિ મુજબ રચાયેલ ઍક્સેલેરેટર અને અદ્યતન AIને વધુ ઝડપી, વધુ વિશ્વસનીય અને વધુ લોકો માટે વધુ સુલભ બનાવવા બંને કંપનીઓ મળીને બનાવી રહી છે તે મલ્ટી-જનરેશન કમ્પ્યુટ પ્લેટફોર્મનું પ્રથમ AI ઍક્સેલેરેટર છે.
Broadcomના પ્રમુખ અને CEO Hock Tan તથા પ્રમુખ Charlie Kawwas દ્વારા Jalapeño OpenAIના CEO Sam Altman અને પ્રેસિડન્ટ Greg Brockmanને સોંપવામાં આવ્યો, જે તેના મોડલ્સ અને ઉત્પાદનો પાછળ પૂર્ણ સ્ટૅક બનાવવાની OpenAIની વ્યૂહરચનામાં એક મહત્વપૂર્ણ પગલું દર્શાવે છે.
OpenAIએ LLMના મૂળભૂત સિદ્ધાંતો અંગેની પોતાની ઊંડી સમજના આધારે આ ચિપ શરૂઆતથી ડિઝાઇન કરી, જેમાં મોડલ્સ, કર્નલ્સ, સર્વિંગ સિસ્ટમ્સ અને ઉત્પાદન જરૂરિયાતોના તેના રોડમેપની સમજ સામેલ હતી; ભાગીદાર Broadcom અને Celesticaએ ચિપ અમલીકરણ, બોર્ડ, રેક સિસ્ટમ ઇન્ટિગ્રેશન, ઉચ્ચ-કાર્યક્ષમ નેટવર્કિંગ અને સ્કેલેબલ ઉત્પાદન સિસ્ટમ્સ દ્વારા પ્લેટફોર્મને ઔદ્યોગિક સ્તરે લાવવામાં મદદ કરી. Jalapeño ઉદ્યોગભરના વર્તમાન અને ભવિષ્યના AI મોડલ્સની ઇન્ફરન્સ જરૂરિયાતો અંગે OpenAIની સમજના આધારે તમામ LLM સાથે કામ કરી શકે તેવી લવચીકતા સાથે ડિઝાઇન કરાયું છે. Jalapeño ચિપના એન્જિનિયરિંગ નમૂનાઓ લેબમાં ઉત્પાદન-લક્ષ્ય આવર્તન અને પાવર પર ML વર્કલોડ ચલાવી રહ્યા છે, જેમાં GPT‑5.3‑Codex‑Spark પણ સામેલ છે.
OpenAI હજુ અંતિમ કામગીરી માપી રહ્યું છે, પરંતુ પ્રારંભિક પરીક્ષણ દર્શાવે છે કે Jalapeño વોટ દીઠ કામગીરીમાં વર્તમાન શ્રેષ્ઠ ટેકનોલોજી કરતાં નોંધપાત્ર રીતે બહેતર રહેશે. આગામી મહિનાઓમાં કામગીરી અંગે વિગતવાર તકનીકી અહેવાલ રજૂ કરવામાં આવશે. આ આર્કિટેક્ચર ડેટાની હેરફેર ઘટાડે છે અને કમ્પ્યુટ, મેમરી તથા નેટવર્કિંગ સંસાધનોમાં સંતુલન સાધે છે, જેથી વાસ્તવિક ઉપયોગ સૈદ્ધાંતિક ટોચ કામગીરીની ઘણી નજીક પહોંચી શકે. Broadcomની સિલિકોન અમલીકરણ અને નેટવર્કિંગ ટેકનોલોજીઓ, જેમાં Tomahawk નેટવર્કિંગ સિલિકોન સામેલ છે, પ્લેટફોર્મને મોટા પાયે ઉત્પાદનમાં લાવવામાં મદદ કરે છે.
“વિશ્વ કમ્પ્યુટ-સંચાલિત અર્થતંત્ર તરફ આગળ વધી રહ્યું છે,” OpenAIના પ્રેસિડન્ટ અને સહ-સ્થાપક Greg Brockmanએ કહ્યું. “Jalapeño કમ્પ્યુટને વધુ પ્રચુર બનાવવા માટેની અમારી લાંબા ગાળાની પૂર્ણ-સ્ટૅક ઇન્ફ્રાસ્ટ્રક્ચર વ્યૂહરચનાનો ભાગ છે, જેના પરિણામે AI લોકો અને વ્યવસાયો માટે વધુ ઝડપી, વધુ વિશ્વસનીય, વધુ કિફાયતી બનશે અને વધુ મહત્વપૂર્ણ સમસ્યાઓ ઉકેલવા ઉપયોગી થશે. સ્ટૅકના વધુ ભાગો અમે પોતે ડિઝાઇન કરીને, વધુ કાર્યક્ષમતા સાથે વધુ ઇન્ટેલિજન્સ આપી શકીએ છીએ અને અદ્યતન AIને વધુ વ્યાપક પહોંચ તરફ આગળ ધપાવવાનું ચાલુ રાખી શકીએ છીએ.”
“OpenAIના સંશોધકો સાથેના અમારા નિકટ સહયોગમાંથી મળેલી વિગતવાર સમજના આધારે Jalapeñoને LLM ઇન્ફરન્સ માટે મૂળથી ડિઝાઇન કરાયું હતું,” OpenAIના હાર્ડવેર કાર્યક્રમનું નેતૃત્વ કરતા Richard Hoએ કહ્યું. “અમે આર્કિટેક્ચરને કર્નલ્સ, મેમરી મૂવમેન્ટ, નેટવર્કિંગ અને સર્વિંગ પેટર્ન્સને કેન્દ્રમાં રાખીને ઑપ્ટિમાઇઝ કર્યું, જે અત્યાધુનિક AI મોડલ્સ માટે સૌથી અગત્યની છે. પ્રારંભિક પરીક્ષણના આધારે, Jalapeño અમારા સૌથી મહત્વપૂર્ણ વર્કલોડને હાર્ડવેરની સૈદ્ધાંતિક મર્યાદાની નજીક કાર્યક્ષમ રીતે ચલાવશે.”
“OpenAI સાથેનો અમારો સહયોગ AIના આગામી દાયકામાં જરૂરી ભૌતિક ઇન્ફ્રાસ્ટ્રક્ચરને સ્કેલ કરવાની મૂળભૂત પ્રતિબદ્ધતા દર્શાવે છે,” Broadcomના પ્રેસિડન્ટ અને CEO Hock Tanએ કહ્યું. “આ મલ્ટી-જનરેશન રોડમેપની માત્ર શરૂઆત છે. અમારું ઉદ્યોગ-અગ્રણી સિલિકોન સીધું OpenAI સાથે સહ-વિકસાવીને, અમે 2026થી Microsoft અને અન્ય ભાગીદારો સાથે ગિગાવોટ-સ્કેલ ડેટા સેન્ટરોની તૈનાતી શક્ય બનાવી રહ્યા છીએ.”
Jalapeño આધુનિક LLM ઇન્ફરન્સ માટેનો બ્લૅન્ક-સ્લેટ ડિઝાઇન છે; તે અગાઉના AI વર્કલોડમાંથી અનુકૂલિત કરાયેલ સામાન્ય હેતુનો ઍક્સેલેરેટર નથી. તે ChatGPT, Codex, API અને ભવિષ્યના એજન્ટિક ઉત્પાદનોમાં OpenAI દરરોજ ચલાવે છે તેવી સિસ્ટમ્સથી માહિતગાર છે, સાથે સાથે ઉદ્યોગભરના વર્તમાન અને ભવિષ્યના LLM માટે પણ ડિઝાઇન કરાયો છે. ધ્યેય આજના અગ્રણી AI ઍક્સેલેરેટર્સની શક્તિ અને થ્રૂપુટને સૌથી ઝડપી વિશિષ્ટ ઇન્ફરન્સ સિસ્ટમ્સ જેવી ઓછી લેટન્સી સાથે જોડવાનું છે, જેથી Jalapeño મોટા પાયે ઇન્ટરેક્ટિવ LLM ઉત્પાદનો માટે યોગ્ય બને.
આ જ પૂર્ણ-સ્ટૅકનો ફાયદો છે. OpenAI માત્ર અત્યાધુનિક મોડલ્સ વિકસાવી રહ્યું નથી અથવા તેના પર ઉત્પાદનો બનાવી રહ્યું નથી; તે તેની નીચેનું ઇન્ફ્રાસ્ટ્રક્ચર પણ ડિઝાઇન કરી રહ્યું છે: ચિપ આર્કિટેક્ચર, કર્નલ્સ, મેમરી સિસ્ટમ્સ, નેટવર્કિંગ, શેડ્યુલિંગ, તૈનાતી સિસ્ટમ્સ અને ઉત્પાદન અનુભવ. OpenAI આખા સ્ટૅકમાં કાર્ય કરે છે, તેથી દરેક સ્તરને એક જ ધ્યેય મુજબ ઑપ્ટિમાઇઝ કરી શકાય છે: તેના મોડલ્સને વપરાશકર્તાઓ માટે વધુ ઝડપી, વધુ વિશ્વસનીય અને વધુ કિફાયતી બનાવવું.
Jalapeño OpenAIની પ્રગતિ પાછળના ફ્લાયવ્હીલને મજબૂત બનાવે છે. વધુ સારું ઇન્ફ્રાસ્ટ્રક્ચર કમ્પ્યુટ કાર્યક્ષમતા વધારે છે. વધુ કમ્પ્યુટ કાર્યક્ષમતા વધુ સારું તાલીમકરણ અને સર્વિંગ શક્ય બનાવે છે, જે અંતે વધુ સક્ષમ AI મોડલ્સને શક્તિ આપે છે. વધુ સારા મોડલ્સ લોકો, ડેવલપર્સ અને વ્યવસાયો માટે વધુ સારા ઉત્પાદનો બને છે. વધુ સારા ઉત્પાદનો વધુ ઉપયોગ, વધુ ગ્રાહકો અને વધુ આવક લાવે છે, જેના કારણે OpenAI ઇન્ફ્રાસ્ટ્રક્ચરની આગલી પેઢીમાં ફરી રોકાણ કરી શકે છે. સમય જતાં, આ ચક્ર દરેક માટે ઇન્ટેલિજન્સને વધુ સક્ષમ, વધુ વિશ્વસનીય અને ઓછી ખર્ચાળ બનાવવામાં મદદ કરે છે.
Jalapeñoને પ્રારંભિક ડિઝાઇનથી ઉત્પાદન ટેપ-આઉટ સુધી ફક્ત નવ મહિનામાં સહ-વિકાસ કરવામાં આવ્યો અને કસ્ટમ AI ઍક્સેલેરેટર કાર્યક્રમ અમારા મતે ઊંચી કામગીરીવાળા અદ્યતન સેમિકન્ડક્ટર્સમાં અત્યાર સુધી હાંસલ થયેલો સૌથી ઝડપી ASIC વિકાસ ચક્ર દર્શાવે છે. આ ઝડપ OpenAIની એન્જિનિયરિંગ ટીમો સાથેના ઊંડા સોફ્ટવેર-હાર્ડવેર સહ-વિકાસ, Broadcomની સિલિકોન અમલીકરણ કુશળતા અને ડિઝાઇન તથા ઑપ્ટિમાઇઝેશન પ્રક્રિયાના ભાગોને ઝડપી બનાવવા OpenAI મોડલ્સના ઉપયોગનું પરિણામ છે.
વપરાશકર્તાઓને સેવા આપતા એ જ મોડલ્સ ભવિષ્યના મોડલ્સ ચલાવવા માટે વપરાતા ઇન્ફ્રાસ્ટ્રક્ચરને સુધારવામાં મદદ કરી રહ્યા છે. જો AI એન્જિનિયરોને વધુ સારી ચિપ્સ વધુ ઝડપથી ડિઝાઇન કરવામાં મદદ કરી શકે, તો તે આખા ઉદ્યોગમાં કમ્પ્યુટનો ખર્ચ ઘટાડી શકે છે અને અદ્યતન AI સુધીની પહોંચને લોકતંત્રીય બનાવી શકે છે.
Jalapeño મલ્ટી-જનરેશન કમ્પ્યુટ પ્લેટફોર્મનું પ્રથમ પગલું છે, જે 2026ના અંત સુધી પ્રારંભિક તૈનાતી માટે રચાયેલ છે અને આગળના વર્ષોમાં વિસ્તરશે; તેમાં OpenAI-ડિઝાઇન કરેલા ઍક્સેલેરેટર્સ સાથે Broadcomનું સિલિકોન અમલીકરણ, નેટવર્કિંગ અને કનેક્ટિવિટી ટેકનોલોજીઓ; અને Celesticaની બોર્ડ, રેક અને સિસ્ટમ કુશળતા જોડાય છે.
આ કાર્યનો મુદ્દો સરળ છે: ઇન્ફરન્સ એ જગ્યા છે જ્યાં AI લોકો સુધી પહોંચે છે. ખર્ચ, ઝડપ અને વિશ્વસનીયતામાં દરેક સુધારો વધુ ઝડપી ChatGPT જવાબ, ઓછા પ્રતીક્ષા સમય સાથે વધુ પગલાં લઈ શકતું Codex કાર્ય, બનાવવામાં સસ્તું API ઉત્પાદન અથવા માંગ વધુ હોય ત્યારે વધુ ભરોસાપાત્ર પહોંચ તરીકે દેખાઈ શકે છે.
AIને લોકશાહી બનાવવાનો અર્થ છે અદ્યતન મોડલ્સને એટલા ઉપલબ્ધ, ભરોસાપાત્ર અને કિફાયતી બનાવવું કે વધુ લોકો દરરોજ તેનો ઉપયોગ કરી શકે. Jalapeño OpenAIને તેના ઇન્ફ્રાસ્ટ્રક્ચરના વધુ ભાગને વિદ્યાર્થીઓ, ડેવલપર્સ, નાના વ્યવસાયો, સંશોધકો, ઉદ્યોગો અને શીખવા, સર્જન કરવા અથવા મુશ્કેલ સમસ્યાઓ ઉકેલવાનો પ્રયાસ કરતા કોઈપણ માટે ઉપયોગી ઇન્ટેલિજન્સમાં ફેરવવામાં મદદ કરે છે.
