GPT‑5.6 कैसे अत्याधुनिक इंटेलिजेंस और दक्षता को एक साथ जोड़ता है

हमने GPT‑5.6 मॉडल परिवार को उन सभी कार्यों में क्षमता और लागत का संतुलन बनाने के लिए डिज़ाइन किया है, जिनके लिए लोग हमारे मॉडल का उपयोग करते हैं. मैक्स रीज़निंग वाला हमारा फ़्लैगशिप मॉडल GPT‑5.6 Sol, आधे से भी कम लागत पर Artificial Analysis Coding Agent Index में Claude Fable 5 से बेहतर प्रदर्शन करता है. इंटेलिजेंस बेंचमार्क पर Terra आधी कीमत में GPT‑5.5 जितना अच्छा प्रदर्शन करता है, जबकि Luna हमारा सबसे तेज़ और सबसे किफ़ायती मॉडल है, जिसकी कीमत Sol की लागत से 80% कम है. यह दक्षता हासिल करने के लिए हमारी शोध और तकनीकी टीमों ने हमारे तकनीकी तंत्र की हर प्रमुख परत में बड़े अनुकूलन किए हैं. ये सुधार हमारे मॉडल, इन्फ़रेंस (आउटपुट बनाने के लिए मॉडल चलाने का तरीका) और Codex व ChatGPT Work, दोनों में इस्तेमाल होने वाले हमारे एजेंटिक हार्नेस तक फैले हैं.

पिछले चार वर्षों में, हमने अपने मॉडल्स को बढ़ाकर 1 बिलियन सक्रिय यूज़र्स और 2 मिलियन से ज़्यादा बिज़नेस तक पहुँचाया है. इस सफर में, इंटेलिजेंस के फ़ायदे सभी तक पहुँचाने के लिए दक्षता हमारी सबसे अहम प्राथमिकताओं में रही है. हमारा मिशन है यह सुनिश्चित करना कि आर्टिफ़िशियल जनरल इंटेलिजेंस पूरी मानवता के लिए फ़ायदेमंद हो. इसी लक्ष्य के साथ, हमने अपने पूरे स्टैक में लगातार ऑप्टिमाइज़ेशन किए हैं, ताकि कॉस्ट-इंटेलिजेंस कर्व के हर स्तर पर सबसे बेहतर परफ़ॉर्मेंस देने वाले मॉडल्स उपलब्ध करा सकें. GPT‑5.6 के साथ हमने अब तक की सबसे बेहतर इंटेलिजेंस-पर-टोकन दक्षता हासिल की है. इसे हर टोकन से ज़्यादा काम करने के लिए ट्रेन किया गया है. ट्रेनिंग के दौरान, हम टास्क की सफलता और दक्षता—दोनों के लिए ऑप्टिमाइज़ करते हैं, ताकि मॉडल किसी भी टास्क को पूरा करने के लिए ज़्यादा सीधा और असरदार रास्ता अपनाए.

यह पोस्ट हमारे मॉडल से आगे बढ़कर बताती है कि तकनीकी तंत्र के दो अन्य प्रमुख हिस्सों में प्रगति के ज़रिए हमने दक्षता को कैसे डिज़ाइन किया. इनमें 1) इन्फ़रेंस है, जहां उसी हार्डवेयर से अधिक आउटपुट पाने के लिए लोड संतुलन, अनुमान-आधारित डिकोडिंग, कैशिंग और कर्नेल अनुकूलन जैसी प्रक्रियाएं बेहतर बनाई गईं, और 2) हमारा एजेंटिक हार्नेस है, जिसमें कॉन्टेक्स्ट के अनावश्यक विस्तार, टूल के उपयोग और दोहराए जाने वाले काम का बेहतर प्रबंधन शामिल है. हम यह भी बताएंगे कि इनमें से कई लाभ स्वायत्त रूप से हासिल करने में GPT‑5.6 Sol की क्या भूमिका रही. अलग-अलग देखने पर कोई भी सुधार सीमित लग सकता है, लेकिन ये लाभ मिलकर हमें इंटेलिजेंस और दक्षता, दोनों में अत्याधुनिक स्तर तक पहुंचाते हैं.

कंप्यूट की सीमाओं वाली दुनिया में, जहां मॉडल की मांग क्षमता से तेज़ी से बढ़ रही है, हर सिस्टम के डिज़ाइन में दक्षता मूलभूत है. यह बात विशेष रूप से हमारे इन्फ़रेंस तकनीकी तंत्र पर लागू होती है, जो उत्तर बनाने के लिए प्रशिक्षित मॉडल चलाता है. हमारा मुख्य उद्देश्य उसी हार्डवेयर से अधिक टोकन उपलब्ध कराना है, साथ ही उपयोगकर्ताओं की अपेक्षा के अनुरूप इंटेलिजेंस, विलंबता, उपलब्धता और विश्वसनीयता बनाए रखना है.

इसके लिए पूरे सिस्टम को अनुकूलित करना ज़रूरी है. कोई मॉडल अपने स्तर पर बहुत दक्ष हो सकता है, फिर भी अनुरोधों का खराब वितरण, हार्डवेयर का निष्क्रिय रहना या डेटा स्थानांतरण से गणना धीमी होना उसे उपलब्ध कराना महंगा बना सकता है. हर परत के सुधार मिलकर बड़ा प्रभाव डालते हैं. ये लाभ रूटिंग (अनुरोध कहां भेजे जाते हैं), शेड्यूलिंग (अनुरोध कब भेजे जाते हैं), कर्नेल (जीपीयू पर चलने वाला सॉफ़्टवेयर), कैशिंग (काम को सहेजना और दोबारा इस्तेमाल करना) और मॉडल क्रियान्वयन (जीपीयू कोड का क्रम) के अनुकूलन से आते हैं. Codex में GPT‑5.6 Sol ने इन सभी अनुकूलनों में अहम भूमिका निभाई.

पहला महत्वपूर्ण उदाहरण लोड संतुलन है. विश्व स्तर पर हम भौगोलिक स्थिति, उपलब्ध क्षमता और एक्सेलेरेटर के प्रकार (मॉडल चलाने वाले जीपीयू या विशेष चिप का प्रकार) जैसे कारकों के आधार पर अनुरोधों को रूट करते हैं. किसी क्लस्टर में हम लोड, कॉन्टेक्स्ट की लंबाई, कैश की उपलब्धता और अनुरोध के अन्य गुणों के आधार पर मॉडल इंस्टेंस में काम बांटते हैं. इसके बाद हर इंस्टेंस में काम को एक्सेलेरेटर, मॉडल के उप-नेटवर्क और कंप्यूटिंग कोर के बीच दक्षता से बांटना होता है. Codex में GPT‑5.6 Sol हमें उत्पादन ट्रैफ़िक का विश्लेषण करने, पहले अनदेखे रह गए असंतुलन के स्रोत पहचानने, नई रूटिंग रणनीतियां परखने और इन व्यावहारिक नियमों को लगातार बेहतर बनाने में मदद करता है. केवल इन लोड-संतुलन सुधारों ने ही हमारे मॉडल उपलब्ध कराने की लागत बहुत घटा दी.

हमने मॉडल के फ़ॉरवर्ड पास को अनुकूलित करने के लिए भी GPT‑5.6 Sol का उपयोग किया. यह वह गणना है जो इनपुट को अगले टोकन के पूर्वानुमान में बदलती है. अलग-अलग संक्रियाएं तेज़ होने पर भी अत्यधिक मेमोरी स्थानांतरण, समकालिकरण और डेटा की अदक्ष संरचना जीपीयू को निष्क्रिय छोड़ सकती है. इससे बचने के लिए GPT‑5.6 Sol ने ऐसे काम खोजे जिनकी पहले गणना की जा सकती थी, जिन्हें टाला जा सकता था या समानांतर चलाया जा सकता था. Codex के साथ GPT‑5.6 Sol ने हमारे उत्पादन कर्नेल को स्वायत्त रूप से दोबारा लिखा और अनुकूलित किया. ये उस गणितीय संक्रिया को चलाने वाला मूल कोड हैं जिससे मॉडल बनता है. यह आंशिक रूप से इसलिए संभव हुआ क्योंकि हमने GPT‑5.6 को Triton⁠(एक नई विंडो में खुलेगा) और Gluon⁠(एक नई विंडो में खुलेगा) में कर्नेल लिखने और सुधारने में प्रभावी होने के लिए प्रशिक्षित किया है. ये OpenAI द्वारा अनुरक्षित दो मुक्त-स्रोत जीपीयू प्रोग्रामिंग भाषाएं हैं. GPT‑5.6 Sol के व्यापक कर्नेल सुधारों के साथ इन प्रयासों ने शुरू से अंत तक सेवा उपलब्ध कराने की लागत 20% घटा दी. हमने GPT‑5.6 Sol द्वारा लिखे कर्नेल की शुद्धता सत्यापित करने में मदद के लिए मुक्त-स्रोत टूल FpSan⁠(एक नई विंडो में खुलेगा) (फ़्लोटिंग-पॉइंट सैनिटाइज़र) जैसे सत्यापन टूल में भी भारी निवेश किया है.

अनुमान-आधारित डिकोडिंग गति और दक्षता सुधारने का एक और उपाय है. इस तकनीक में मुख्य मॉडल के साथ एक छोटा प्रारूप मॉडल (या “अनुमानक”) चलाया जाता है, जो मुख्य मॉडल के लिए समानांतर रूप से सत्यापित करने हेतु कई टोकन प्रस्तावित करता है. ये प्रस्ताव स्वीकार होने पर सिस्टम मुख्य मॉडल के एक ही पास से कई आउटपुट टोकन बना सकता है, जिससे महंगी क्रमिक गणना घटती है. GPT‑5.6 Sol ने अपनी संरचना पर सैकड़ों प्रयोग डिज़ाइन करके और चलाकर अपने प्रारूप मॉडल को सुधारा तथा आकार, बनावट और सुविधाओं में बदलाव परखे. इसके अतिरिक्त, GPT‑5.6 Sol ने अनुमानक के प्रशिक्षण की प्रक्रिया शुरू की और उसकी निगरानी की. हार्डवेयर की विफलता और प्रशिक्षण की अस्थिरता सहित समस्याएं आने पर उसने स्वायत्त रूप से हस्तक्षेप किया. इन सुधारों से टोकन बनाने की दक्षता 15% से अधिक बढ़ गई.

कैश न किए गए इनपुट टोकन को प्रोसेस करते समय मॉडल एक कंप्यूट-सघन पास में की-वैल्यू (KV) कैश बनाता है. आउटपुट बनाते समय वह उस कैश से बार-बार पढ़ता और उसे बढ़ाता है. बैचिंग, शार्डिंग और केवी प्रबंधन जैसी सेवा की सर्वोत्तम संरचना कार्यभार पर बहुत निर्भर करती है. इसमें प्रॉम्प्ट और आउटपुट की लंबाई, बैच का आकार, कैश हिट दर, क्वेरी की विशेषताएं और अन्य कारक शामिल हैं. हालांकि, पहले संभावित संरचनाओं का दायरा इतना बड़ा था कि उसे व्यवस्थित रूप से बेहतर नहीं बनाया जा सकता था, इसलिए इंजीनियरों को व्यापक व्यावहारिक नियमों पर निर्भर रहना पड़ता था. Codex में GPT‑5.6 Sol की मदद से हम उत्पादन कार्यभार का विश्लेषण, संभावित संरचनाओं का निर्माण और मूल्यांकन तथा हर परिस्थिति के लिए इंजन और मॉडल की संरचना का अत्यधिक अनुकूलन कर सके. इससे कार्यभार के अनुसार नए स्तर का अनुकूलन व्यावहारिक हो जाता है और उसी हार्डवेयर से अधिक उपयोगी इन्फ़रेंस मिलता है.

इन्फ़रेंस अनुकूलन एक सतत फ़ीडबैक चक्र है. हम उत्पादन के व्यवहार को मापते हैं, सबसे बड़ी कमियां पहचानते हैं, बदलाव लागू करते हैं और सत्यापित करते हैं कि वे किसी एक बेंचमार्क के बजाय पूरे सिस्टम को सुधारते हैं. GPT‑5.6 Sol और Codex उस चक्र के हर हिस्से को तेज़ करते हैं. इसका अर्थ है कि हमारी टीम अधिक विचार आज़मा सकती है, बदलते कार्यभार पर तेज़ प्रतिक्रिया दे सकती है और उपयोगकर्ताओं के लिए कम विलंबता, अधिक क्षमता और कम लागत वाला इन्फ़रेंस तकनीकी तंत्र बना सकती है.

ChatGPT Work और Codex, मॉडल अनुरोधों और टूल कॉल की श्रृंखला के ज़रिए जटिल कार्य पूरे करते हैं. उपयोगकर्ता के अनुरोध से अंतिम उत्तर तक के एक ही चरण में Codex सोर्स कोड की जांच, डिप्लॉयमेंट इतिहास की खोज, घटना रिपोर्ट पढ़ने, फ़ाइल संपादित करने और परीक्षण चलाने जैसे काम कर सकता है. हर चरण के लिए एक अनुरोध ज़रूरी हो सकता है.

कॉन्टेक्स्ट तैयार करने, डेटा भेजने, इन्फ़रेंस चलाने, टूल कॉल करने और प्रक्रियाएं शुरू करने में समय और कंप्यूट, दोनों लगते हैं. अगर किसी कार्य के लिए 30 मॉडल अनुरोध चाहिए, तो हर अनुरोध में लगने वाला एक अतिरिक्त सेकंड मिलकर काफ़ी बढ़ जाता है. समग्र प्रदर्शन सुधारने का अर्थ पूरे सिस्टम में दोहराए जाने वाले काम को घटाना है, न कि केवल मॉडल को तेज़ बनाना.

इन गुणक प्रभावों को ध्यान में रखकर हमने अपना एजेंटिक हार्नेस डिज़ाइन किया है. यह Rust में बनी एक ऑर्केस्ट्रेशन परत है, जो हमारे मॉडल, टूल और उपयोगकर्ता के परिवेश को जोड़ती है. अब हम बताएंगे कि कॉन्टेक्स्ट को अनावश्यक रूप से बढ़ने से रोकना, टूल लोड करना और काम का दोबारा उपयोग करना हर अनुरोध को कैसे अधिक दक्ष बनाता है.

एजेंट को अधिक टूल, कौशल, प्लगइन और बातचीत के इतिहास की पहुंच मिलने पर कॉन्टेक्स्ट विंडो आसानी से बढ़ सकती है. इससे लागत बढ़ती है, मॉडल का ध्यान भटकता है और अनावश्यक रीज़निंग शुरू होती है. हार्नेस विलंबित खोज के ज़रिए यह अतिरिक्त भार घटा सकता है, जिससे एकीकरण, कस्टम एमसीपी टूल, कौशल और प्लगइन केवल ज़रूरत पड़ने पर ही सामने आते हैं. हार्नेस अलग-अलग टूल और एमसीपी एकीकरणों को अप्रत्याशित रूप से कॉन्टेक्स्ट विंडो भरने से भी रोकता है. जब तक मॉडल कोई अलग सीमा न मांगे, टूल आउटपुट की डिफ़ॉल्ट सीमा 10,000 टोकन होती है.

जैसा पहले बताया गया है, एजेंट लूप एक ही चरण में समान निर्देश, बातचीत का इतिहास, टूल की परिभाषाएं और पिछले परिणाम कई बार जीपीयू को भेज सकता है. इन दोहराए गए इनपुट को प्रोसेस करना महंगा है, इसलिए प्रॉम्प्ट कैशिंग पहले प्रोसेस किए गए प्रॉम्प्ट प्रीफ़िक्स से जुड़ी गणना का दोबारा उपयोग करती है. उस प्रीफ़िक्स को बनाए रखने के लिए हार्नेस, मॉडल को दिखाई देने वाले पूरे इतिहास को केवल अंत में जोड़ने योग्य मानता है: नए संदेश, टूल के परिणाम और परिवेश के अपडेट पुराने कॉन्टेक्स्ट में डालने के बजाय अंत में जोड़े जाते हैं. टूल भी एक निश्चित क्रम में प्रस्तुत किए जाते हैं, जबकि अनुमोदन नीतियों जैसी रनटाइम सेटिंग को टूल की परिभाषाओं में शामिल करने के बजाय निष्पादन के समय लागू किया जाता है. डिज़ाइन का यह विकल्प Codex और ChatGPT Work की समग्र प्रॉम्प्ट-कैश हिट दर को ऊंचा रखने में योगदान देता है.

GPT‑5.6 के साथ हासिल हुई दक्षता, शोध, इन्फ़रेंस और हमारे एजेंटिक हार्नेस सहित पूरे तकनीकी तंत्र में वर्षों से लगातार जुड़ते सुधारों का परिणाम है. इनमें से कई सुधारों को संभव बनाने में GPT‑5.6 की भूमिका से हमें भरोसा है कि अनुकूलन की गति और तेज़ होगी. हम अपने तकनीकी तंत्र में मूलभूत सुधारों के साथ-साथ कर्नेल अनुकूलन जैसे क्षेत्रों में और बड़े अनुकूलन करते रहेंगे. हम पर्दे के पीछे लगातार हो रहे इन सुधारों का लाभ उपयोगकर्ताओं और ग्राहकों तक अधिक व्यापक रूप से उपलब्ध, किफ़ायती इंटेलिजेंस के रूप में पहुंचाने के लिए उत्सुक हैं.

इस पोस्ट में योगदान देने के लिए तकनीकी स्टाफ़ के सदस्यों Matthew Ferrari, Philippe Tillet, Ahmed Ibrahim, Joe Gershenson और Steve Coffey का विशेष धन्यवाद.