OpenAI के मॉडल AI को चलाने वाली चिपों में तेज़ी से सुधार कर रहे हैं. अगस्त में, हमने बताया था कि OpenAI के इंजीनियरों ने हमारे अत्याधुनिक मॉडल की मदद से हमारी पहली कस्टम इन्फ़रेंस चिप, Jalapeño, के विकास को कैसे गति दी. यहाँ हम डिज़ाइन में हुए उन विशेषज्ञ-स्तरीय सुधारों पर करीब से नज़र डालेंगे जिनसे Jalapeño को फ़ायदा हुआ. साथ ही, हम बताएँगे कि AMD के साथ मिलकर इसी तरीके से दूसरे निर्माताओं के हार्डवेयर में कैसे बड़े सुधार ला रहे हैं.
चिप डिज़ाइन के काम शुरू से अंत तक करने की हमारे मॉडल की क्षमता मापने के लिए, हमने उनकी क्रमिक पीढ़ियों को दो मुक्त-स्रोत प्रोसेसर डिज़ाइन पर परखा. इससे दिलचस्प नतीजे मिले. साथ ही, क्षमताओं का विकास भरोसेमंद मूल्यांकन साधनों के आधार पर करने के लिए, हम Synopsys के साथ काम कर रहे हैं. इसका उद्देश्य अत्याधुनिक AI क्षमताओं को उन इलेक्ट्रॉनिक डिज़ाइन स्वचालन (EDA) उपकरणों से जोड़ना है जिनका इस्तेमाल इंजीनियर पहले से चिप डिज़ाइन करने और उन्हें सत्यापित करने के लिए करते हैं.
हमने 2025 की शुरुआत में Jalapeño के डिज़ाइन में मदद के लिए GPT‑4o का इस्तेमाल शुरू किया. उस शुरुआती मॉडल ने भी बिजली की खपत, प्रदर्शन और क्षेत्रफल (PPA) में उल्लेखनीय सुधार के तरीके ढूँढे, जैसे:
वेक्टर इकाई में, जो समानांतर गणना के कामों का प्रबंधन और निष्पादन करती है, बचत फ़्लोटिंग-पॉइंट योजकों और गुणकों, रूपांतरण फ़ंक्शन, रिडक्शन लॉजिक और विशेष-फ़ंक्शन इकाई में सुधार से हुई. मॉडल ने लॉजिक लागू करने के वैकल्पिक तरीकों और पाइपलाइन के चरणों में गणनाओं को बाँटने के तरीकों, दोनों को परखा. इससे हार्डवेयर को साझा करने और बीच के नतीजों के लिए भंडारण घटाने के अवसर मिले.
मैट्रिक्स इकाई में, जो एक अंकगणितीय घटक है, फ़्लोटिंग-पॉइंट योजकों, गुणकों और कम परिशुद्धता वाले अदिश-गुणनफल परिपथों में सुधार जुड़ते गए. एक गुणक के नए डिज़ाइन ने संश्लेषण में लगभग 15% कम सेल क्षेत्रफल इस्तेमाल किया और विलंबता को दो क्लॉक चक्रों से घटाकर एक कर दिया. एक योजक के अलग नए डिज़ाइन ने दो चक्रों की विलंबता बनाए रखते हुए सेल क्षेत्रफल लगभग 15% घटाया. अदिश-गुणनफल लॉजिक और पाइपलाइन की संरचना में और सुधार करने से पूरे ब्लॉक में अतिरिक्त बचत हुई.
टीम का अनुमान है कि Jalapeño के व्यापक डिज़ाइन प्रयास में मॉडल द्वारा सुझाए गए बदलावों से वेक्टर इकाई में मानक-सेल क्षेत्रफल लगभग 13% और मैट्रिक्स इकाई में 10% घटा. Jalapeño के सिलिकॉन को पहली बार चालू कर जाँचने के दौरान, वास्तविक चिप पर इन अनुकूलनों की पुष्टि हुई.
हमने PPA सुधारों के लिए AMD के साथ साझेदारी की है. उसके प्रमुख GPU IP में, पहले से व्यापक रूप से अनुकूलित आधारभूत डिज़ाइन की तुलना में हमें 14% तक सुधार मिला है. हमारे मॉडल ने चिप के परिपथों का वर्णन करने वाला कोड (SystemVerilog RTL) दोबारा लिखकर और सुधार के तरीके खोजे. यह लगभग एक साल की प्रगति को 5 महीने से भी कम समय में हासिल करने जैसा है—अत्याधुनिक चिप डिज़ाइन के क्षेत्र में ऐसे नतीजे अभूतपूर्व हैं. AMD ने हाल ही में निर्माण के लिए भेजे गए एक डिज़ाइन में इनमें से कुछ बदलाव शामिल कर लिए हैं. अन्य बदलाव भविष्य के संस्करणों में इस्तेमाल के लिए उसकी उत्पादन डिज़ाइन फ़ाइलों में जोड़ दिए गए हैं.
हमने देखा है कि मॉडल RTL पर एक विशेषज्ञ माइक्रोआर्किटेक्ट के स्तर पर तर्क-विचार करता है. मॉडल उन परिपथों का कोड दोबारा लिख सकता है जो गणनाएँ करते हैं, संचालन नियंत्रित करते हैं या डेटा स्थानांतरित करते हैं. उसने Synopsys के उपकरणों से सत्यापित किया कि हर बार कोड दोबारा लिखने के बाद ब्लॉक का व्यवहार बरकरार रहा. साथ ही, बिजली की खपत, प्रदर्शन और क्षेत्रफल के बीच संतुलन का मूल्यांकन किया.
हमारे मॉडल के लिखे डिज़ाइन इस्तेमाल करके, AMD ने अपनी आगामी पीढ़ी के प्रमुख CPU के अहम ब्लॉक में भी PPA में एकल-अंक प्रतिशत के सुधार की पुष्टि की. आगे हमें उम्मीद है कि GPU और CPU में सबसे अधिक अनुकूलित आधारभूत डिज़ाइन की तुलना में भी PPA में और सुधार होंगे.
Jalapeño और AMD की चिपों पर हमारे नतीजे दिखाते हैं कि मॉडल उत्पादन में इस्तेमाल होने वाले डिज़ाइन में सुधार कर सकते हैं. मॉडल की एक पीढ़ी से अगली पीढ़ी तक चिप डिज़ाइन की क्षमताओं में प्रगति मापने के लिए, हमने हर मॉडल को दो मुक्त-स्रोत 32-बिट RISC-V कोर पर परखा. PicoRV32 एक छोटा कोर है, जिसे दोबारा प्रोग्राम की जा सकने वाली FPGA चिपों के लिए डिज़ाइन किया गया है. OpenTitan अपनी सुरक्षा चिप में अंतर्निहित प्रोसेसर के रूप में Ibex का इस्तेमाल करता है. दोनों एम्बेडेड, माइक्रोकंट्रोलर-श्रेणी के कार्यभार के लिए पूर्ण प्रोसेसर कोर हैं.
हमने हर मॉडल को प्रत्येक कोर का मूल हार्डवेयर विवरण दिया और थ्रूपुट बढ़ाने को कहा, यानी उन निर्देशों की संख्या जिन्हें कोर प्रति सेकंड निष्पादित कर सकता है. मिसाल के लिए, किसी बदलाव से कोर कम क्लॉक चक्रों में एक निर्देश पूरा कर सकता है, लेकिन हर चक्र में ज़्यादा समय लग सकता है. थ्रूपुट मापने से दोनों प्रभावों का हिसाब मिलता है.
हमने सिमुलेशन में हर डिज़ाइन के आउटपुट जाँचे. अगर कोई डिज़ाइन किसी जाँच में विफल हुआ या उसने मूल कोर के क्षेत्रफल से 16 गुने से ज़्यादा जगह इस्तेमाल की, तो उसे शून्य अंक मिले. जाँच में सफल डिज़ाइन के लिए, हमने मॉडल से छिपाए गए कार्यभार पर प्रति क्लॉक चक्र निष्पादित निर्देशों की संख्या मापी. हमने उन कार्यभारों के नतीजों का ज्यामितीय माध्य निकाला और उसे Yosys से अनुमानित अधिकतम क्लॉक आवृत्ति से गुणा किया. इससे हमें प्रति सेकंड निर्देशों की संख्या का अनुमान मिला. हर कोर के लिए, समान सीमाओं के तहत मिले सर्वश्रेष्ठ थ्रूपुट को हमने 1.0 का स्कोर दिया. चार्ट सभी परीक्षणों का औसत स्कोर दिखाते हैं, जिनमें शून्य अंक वाले परीक्षण भी शामिल हैं.
प्रति परीक्षण लगभग 112,000 टोकन के तुलनीय बजट पर, दोनों कोर में GPT‑6.2 Astra का औसत स्कोर सबसे अधिक था. GPT‑6.1 Sol ने भी दोनों में GPT‑5.6 Sol से अधिक स्कोर हासिल किया.
मौजूदा PicoRV32 कोर पर बड़े और एक जैसे टोकन बजट में GPT‑6.2 Astra का औसत स्कोर सबसे ज़्यादा है. करीब 112,000 टोकन्स पर इसका स्कोर GPT‑6 Astra से लगभग दोगुना है.
मौजूदा Ibex कोर पर GPT‑6.2 Astra का औसत स्कोर बड़े टोकन बजट के साथ लगातार बढ़ता है. GPT‑6 Astra और GPT‑6.1 Sol के स्कोर एक-दूसरे के ज़्यादा करीब हैं.
दूसरे टास्क में हमने हर मॉडल को लिखी हुई ज़रूरतें और ओपन-सोर्स कोड से टेम्प्लेट्स दिए, जिनसे पता चलता था कि कोर बाकी सिस्टम से कैसे जुड़ता है. मॉडल ने खुद तय किया कि कोर में डेटा कैसे आगे बढ़ेगा और काम को अलग-अलग स्टेजेज़ में कैसे बाँटा जाएगा. हर कोर के लिए हमने सही काम करने की जाँच, मेमोरी और कैश सेटिंग्स और थ्रूपुट के लक्ष्य वही रखे, जो RTL ऑप्टिमाइज़ेशन टास्क में थे.
हर रन में करीब 112,000 टोकन्स पर सभी पाँच मॉडल्स ने मौजूदा डिज़ाइन सुधारने के मुकाबले लिखी हुई ज़रूरतों से नया कोर डिज़ाइन करने पर बेहतर स्कोर किया. ऐसा PicoRV32 और Ibex, दोनों में हुआ. GPT‑6.2 Astra को PicoRV32 के मुकाबले Ibex पर ज़्यादा फ़ायदा मिला. पूरे इवैल्यूएशन में दोनों टास्क्स, दोनों कोर्स और सभी टोकन बजट को मिलाकर 9,881 स्कोर किए गए रन्स शामिल थे.
PicoRV32 के स्पेसिफ़िकेशन से शुरुआत करने पर GPT‑6.2 Astra का औसत स्कोर करीब 112,000 टोकन्स पर 0.7 से ऊपर पहुँचता है. इसके बाद जाँचे गए अगले दो टोकन बजट पर स्कोर और बढ़ता है.
Ibex पर स्पेसिफ़िकेशन से डिज़ाइन बनाते समय GPT‑6.2 Astra का औसत स्कोर करीब 112,000 टोकन्स पर 0.75 रहता है. बड़े साझा टोकन बजट पर भी इसका ग्राफ़ दूसरे मॉडल्स से ऊपर रहता है.
लिखी हुई ज़रूरतों से शुरुआत करने पर मॉडल्स ओरिजिनल कोर्स के कुछ फ़ीचर्स छोड़ सकते हैं, जैसे परफ़ॉर्मेंस काउंटर्स और अतिरिक्त इंस्ट्रक्शन्स. हो सकता है कि ये फ़ीचर्स टेस्ट वर्कलोड्स पर थ्रूपुट बढ़ाने में ज़्यादा मदद न करते हों. इससे नए डिज़ाइन्स के बेहतर स्कोर की एक वजह समझ आती है. अगर इन फ़ीचर्स को ज़रूरी बनाया जाए, सर्किट एरिया की सीमा और कम रखी जाए और फ़िज़िकल सिंथेसिस के बाद टाइमिंग जाँची जाए, तो यह टेस्ट प्रोडक्शन चिप डिज़ाइन के ज़्यादा करीब होगा.
हमने दिखाया है कि हमारे मॉडल्स RISC-V इवैल्यूएशन्स में नए प्रोसेसर आर्किटेक्चर्स आज़मा सकते हैं. साथ ही, Jalapeño और AMD के नेक्स्ट-जेनरेशन फ़्लैगशिप GPU और CPU जैसे पहले से एडवांस्ड प्रोडक्शन डिज़ाइन्स में भी नए सुधार कर सकते हैं. मॉडल डेवलपमेंट को भरोसेमंद इवैल्यूएटर्स से जोड़ने और डिज़ाइन के ज़्यादा चैलेंजेस पर काम करने के लिए हम Synopsys के साथ पार्टनरशिप कर रहे हैं. इसके तहत हम GPT‑Synopsys(एक नई विंडो में खुलेगा) नाम के नए मॉडल को ट्रेन करेंगे, ताकि वह Synopsys के इलेक्ट्रॉनिक डिज़ाइन ऑटोमेशन (EDA) टूल्स को एक्सपर्ट चिप डिज़ाइनर्स की तरह इस्तेमाल कर सके.


