OpenAI आणि Broadcom ने LLM-अनुकूल इन्फरन्स चिप सादर केली
- सुरुवातीच्या चाचण्यांनुसार पहिल्या जनरेशनचा अॅक्सेलरेटर सध्याच्या अत्याधुनिक तंत्रज्ञानापेक्षा प्रति वॅट लक्षणीयरीत्या चांगली कामगिरी देईल
- संपूर्ण उद्योगातील सध्याच्या आणि भविष्यातील LLM साठी अगदी सुरुवातीपासून तयार केलेले
- OpenAI च्या मॉडेलच्या मदतीने वेग मिळवत, डिझाइनपासून उत्पादनापर्यंत नऊ महिन्यांत विकसित केलेले
- उत्पादनांपासून मॉडेलपर्यंत आणि आता चिपपर्यंत, OpenAI चे फुल-स्टॅक प्लॅटफॉर्म विस्तारित करते
- डेटा सेंटर भागीदारांसह अनेक जनरेशन्समध्ये गिगावॅट स्केलवर तैनात केले जाणार
OpenAI आणि Broadcom (NASDAQ: AVGO) यांनी आज Jalapeño चे अनावरण केले, जे OpenAI चे पहिले इंटेलिजन्स प्रोसेसर आहे. हे LLM इन्फरन्सच्या भविष्याबद्दलच्या OpenAI च्या दृष्टिकोनावर आधारित एक ॲक्सिलरेटर असून, प्रगत AI ला अधिक वेगवान, अधिक विश्वासार्ह आणि अधिकाधिक लोकांपर्यंत सहज उपलब्ध करून देण्यासाठी या कंपन्या एकत्रितपणे तयार करत असलेल्या मल्टी-जनरेशन कम्प्युट प्लॅटफॉर्ममधील हे पहिले AI ॲक्सिलरेटर आहे.
Broadcom चे अध्यक्ष आणि मुख्य कार्यकारी अधिकारी Hock Tan आणि अध्यक्ष Charlie Kawwas यांनी OpenAI चे CEO Sam Altman आणि अध्यक्ष Greg Brockman यांच्याकडे Jalapeño सुपूर्द केला. OpenAI च्या मॉडेल आणि उत्पादनांमागील फूल स्टॅक तयार करण्याच्या धोरणातील हे एक महत्त्वाचे पाऊल आहे.
LLM च्या मूलभूत तत्त्वांच्या सखोल आकलनावर आधारित, आणि मॉडेल, कर्नल, सर्व्हिंग सिस्टम व उत्पादन गरजांच्या रोडमॅपची माहिती वापरून OpenAI ने ही चिप सुरुवातीपासून डिझाइन केली. Broadcom आणि Celestica या भागीदारांनी चिप अंमलबजावणी, बोर्ड, रॅक सिस्टम एकत्रीकरण, उच्च-कार्यक्षमता नेटवर्किंग आणि स्केलेबल उत्पादन प्रणालींद्वारे प्लॅटफॉर्मचे औद्योगिकीकरण करण्यात मदत केली. उद्योगातील विद्यमान आणि भविष्यातील AI मॉडेलच्या इन्फरन्स गरजांबाबत OpenAI च्या सखोल माहितीच्या आधारावर सर्व LLM सह कार्य करता यावे, अशी लवचिकता Jalapeño मध्ये ठेवली आहे. Jalapeño चिपचे अभियांत्रिकी नमुने उत्पादनासाठी अपेक्षित फ्रिक्वेन्सी आणि पॉवरवर प्रयोगशाळेत ML वर्कलोड चालवत आहेत, ज्यात GPT‑5.3‑Codex‑Spark समाविष्ट आहे.
OpenAI अजून अंतिम कामगिरी मोजत असली, तरी सुरुवातीच्या चाचण्यांनुसार Jalapeño प्रति वॅट कामगिरीत सध्याच्या अत्याधुनिक तंत्रज्ञानापेक्षा लक्षणीयरित्या सरस ठरेल. कामगिरीवरील सविस्तर तांत्रिक अहवाल येत्या महिन्यांत सादर केला जाईल. ही आर्किटेक्चर डेटा मुव्हमेंट कमी करते आणि संगणकीय, मेमरी व नेटवर्किंग संसाधनांचा समतोल साधते, ज्यामुळे प्रत्यक्ष वापर सैद्धांतिक सर्वोच्च कामगिरीच्या बऱ्याच जवळ पोहोचतो. Tomahawk नेटवर्किंग सिलिकॉनसह Broadcom ची सिलिकॉन अंमलबजावणी आणि नेटवर्किंग तंत्रज्ञान प्लॅटफॉर्मला मोठ्या प्रमाणावर उत्पादनात आणण्यास मदत करतात.
“जग संगणकीय शक्तीवर चालणाऱ्या अर्थव्यवस्थेकडे वाटचाल करत आहे,” असे OpenAI चे अध्यक्ष आणि सह-संस्थापक Greg Brockman म्हणाले. “Jalapeño हा आमच्या दीर्घकालीन फुल-स्टॅक इन्फ्रास्ट्रक्चर धोरणाचा एक भाग आहे, ज्याद्वारे संगणकीय शक्ती अधिक मुबलक प्रमाणात उपलब्ध होईल. परिणामी, AI अधिक वेगवान, अधिक विश्वासार्ह, लोकांसाठी आणि व्यवसायांसाठी अधिक किफायतशीर होईल आणि त्याचा उपयोग अधिक महत्त्वाच्या समस्या सोडवण्यासाठी केला जाऊ शकेल. स्टॅकचा अधिक भाग स्वतः डिझाइन केल्यामुळे, आम्ही अधिक कार्यक्षमतेने अधिक बुद्धिमत्ता प्रदान करू शकतो आणि प्रगत AI ला व्यापक वापरासाठी पुढे नेत राहू शकतो.”
“OpenAI संशोधकांशी आमच्या निकट सहकार्यांतून मिळालेल्या तपशीलवार माहिती वापरून Jalapeño हे LLM इन्फरन्ससाठी सुरुवातीपासून डिझाइन केले गेले,” असे OpenAI च्या हार्डवेअर कार्यक्रमाचे नेतृत्व करणारे Richard Ho म्हणाले. “अत्याधुनिक AI मॉडेलसाठी सर्वाधिक महत्त्वाच्या असलेल्या कर्नल, मेमरी मुव्हमेंट, नेटवर्किंग आणि सर्व्हिंग पॅटर्नभोवती आम्ही आर्किटेक्चर अनुकूल केले. सुरुवातीच्या चाचण्यांवरून, Jalapeño आमचे सर्वात महत्त्वाचे वर्कलोड हार्डवेअरच्या सैद्धांतिक मर्यादांच्या जवळपास कार्यक्षमतेने चालवेल.”
“OpenAI सोबतचे आमचे सहकार्य पुढील दशकातील AI साठी आवश्यक भौतिक इन्फ्रास्ट्रक्चर वाढवण्याच्या मूलभूत बांधिलकीचे प्रतीक आहे,” असे Broadcom चे अध्यक्ष आणि मुख्य कार्यकारी अधिकारी Hock Tan म्हणाले. “मल्टी जनरेशन रोडमॅपची ही फक्त सुरुवात आहे. OpenAI सोबत थेट आमचे उद्योग-अग्रणी सिलिकॉन सह-विकसित करून, आम्ही 2026 पासून Microsoft आणि इतर भागीदारांसह गिगावॅट स्केल डेटा सेंटर तैनात करणे शक्य करत आहोत.”
Jalapeño हे आधुनिक LLM इन्फरन्ससाठी कोऱ्या पाटीवरून केलेले डिझाइन आहे; आधीच्या AI वर्कलोडमधून रूपांतरित केलेला सामान्य-उद्देश अॅक्सेलरेटर नाही. OpenAI दररोज ChatGPT, Codex, API आणि भविष्यातील एजंटसदृश उत्पादनांमध्ये चालवते त्या प्रणालींची माहिती त्यात वापरली आहे, तसेच ते उद्योगातील विद्यमान आणि भविष्यातील LLM साठीही डिझाइन केले आहे. आजच्या आघाडीच्या AI अॅक्सेलरेटरची शक्ती आणि थ्रुपुट सर्वात वेगवान विशेष इन्फरन्स प्रणालींच्या जवळच्या लेटन्सीसह एकत्र करणे हे उद्दिष्ट आहे, ज्यामुळे Jalapeño मोठ्या प्रमाणावरील इंटरॅक्टिव्ह LLM उत्पादनांसाठी योग्य ठरते.
हाच फुल-स्टॅक फायदा आहे. OpenAI फक्त अत्याधुनिक मॉडेल विकसित करत नाही किंवा त्यांच्यावर उत्पादने तयार करत नाही; ती त्यांच्या पायाभूत स्तरावरचे इन्फ्रास्ट्रक्चर डिझाइन करत आहे: चिप आर्किटेक्चर, कर्नल, मेमरी प्रणाली, नेटवर्किंग, शेड्यूलिंग, डिप्लॉयमेंट प्रणाली आणि उत्पादन अनुभव. OpenAI संपूर्ण स्टॅकमध्ये कार्य करत असल्याने, प्रत्येक स्तर समान उद्दिष्टाभोवती अनुकूल करता येतो: त्याची मॉडेल वापरकर्त्यांसाठी अधिक जलद, अधिक विश्वासार्ह आणि अधिक परवडणारी करणे.
Jalapeño OpenAI च्या प्रगतीमागील चक्राला अधिक बळकट करते. उत्तम पायाभूत सुविधांमुळे संगणकीय कार्यक्षमता वाढते. अधिक संगणकीय कार्यक्षमतेमुळे उत्तम प्रशिक्षण आणि सर्व्हिंग शक्य होते, ज्यामुळे अखेरीस अधिक सक्षम AI मॉडेल्सना शक्ती मिळते. उत्तम मॉडेल्स हे लोकांसाठी, डेव्हलपर्ससाठी आणि व्यवसायांसाठी उत्तम उत्पादने बनतात. उत्तम उत्पादनांमुळे अधिक वापर, अधिक ग्राहक आणि अधिक महसूल मिळतो, ज्यामुळे OpenAI ला पुढच्या जनरेशनच्या पायाभूत सुविधांमध्ये पुन्हा गुंतवणूक करता येते. कालांतराने, हे चक्र सर्वांसाठी बुद्धिमत्ता अधिक सक्षम, अधिक विश्वासार्ह आणि कमी खर्चिक बनविण्यात मदत करते.
Jalapeño सुरुवातीच्या डिझाइनपासून उत्पादन टेप-आउटपर्यंत फक्त नऊ महिन्यांत सह-विकसित करण्यात आले, आणि हा कस्टम AI अॅक्सेलरेटर कार्यक्रम उच्च-कार्यक्षमता प्रगत सेमिकंडक्टरमध्ये आजवर साध्य झालेला सर्वात वेगवान ASIC डेव्हलपमेंट सायकल आहे, असे आम्हाला वाटते. या वेगामागे OpenAI च्या अभियांत्रिकी टीम्ससोबतचे सखोल सॉफ्टवेअर-हार्डवेअर सह-विकास, Broadcom चे सिलिकॉन अंमलबजावणी कौशल्य, आणि डिझाइन व ऑप्टिमायझेशन प्रक्रियेतील काही भागांना गती देण्यासाठी OpenAI मॉडेलचा वापर आहे.
वापरकर्त्यांना सादर केलेली तीच मॉडेल्स भविष्यातील मॉडेल्स चालवण्यासाठी वापरल्या जाणाऱ्या पायाभूत सुविधा सुधारण्यास मदत करत आहेत. जर AI अभियंत्यांना अधिक चांगल्या चिप्स अधिक वेगाने डिझाइन करण्यास मदत करू शकले, तर ते संपूर्ण उद्योगातील संगणकीय खर्च कमी करू शकते आणि प्रगत AI सर्वांसाठी सहज उपलब्ध होण्यास मदत करू शकते.
Jalapeño हे एका मल्टी जनरेशन संगणकीय प्लॅटफॉर्ममधील पहिले पाऊल आहे, जे 2026 च्या अखेरीस सुरुवातीच्या वापरासाठी आणि येत्या काही वर्षांत विस्तारण्यासाठी डिझाइन केलेले आहे. यामध्ये OpenAI-डिझाइन केलेले ॲक्सिलरेटर्स, ब्रॉडकॉमचे सिलिकॉन अंमलबजावणी, नेटवर्किंग आणि कनेक्टिव्हिटी तंत्रज्ञान; आणि Celestica चे बोर्ड, रॅक व सिस्टीममधील कौशल्य यांचा मेळ घातला आहे.
या कामाचा उद्देश सोपा आहे: अनुमान काढण्याच्या माध्यमातूनच AI लोकांपर्यंत पोहोचते. खर्च, वेग आणि विश्वासार्हतेमधील प्रत्येक सुधारणा अधिक जलद ChatGPT उत्तराच्या, कमी प्रतीक्षेत अधिक टप्पे पार पाडणाऱ्या Codex टास्कच्या, तयार करण्यास स्वस्त असलेल्या API उत्पादनाच्या, किंवा मागणी जास्त असताना अधिक विश्वासार्ह उपलब्धतेच्या रूपात दिसून येऊ शकते.
AI चे लोकशाहीकरण म्हणजे प्रगत मॉडेल्स अधिकाधिक लोकांना दररोज वापरता येतील इतके उपलब्ध, विश्वासार्ह आणि परवडणारे बनवणे. Jalapeño OpenAI ला त्यांच्या पायाभूत सुविधांचा अधिक भाग विद्यार्थी, डेव्हलपर्स, छोटे व्यवसाय, संशोधक, उद्योग आणि शिकण्याचा, नवनिर्मिती करण्याचा किंवा कठीण समस्या सोडवण्याचा प्रयत्न करणाऱ्या प्रत्येकासाठी उपयुक्त बुद्धिमत्तेत रूपांतरित करण्यास मदत करते.
