GPT‑6 Cyber: निर्देशों के अनुरूप साइबर सुरक्षा एजेंटों में नई प्रगति

हम पेश कर रहे हैं GPT‑6 Cyber, जो सुरक्षा अनुसंधान में एक बड़ी छलाँग है: कमज़ोरियाँ खोजने और ठीक करने में अधिक सक्षम, और शोधकर्ताओं की तय सीमाओं में रहने में कहीं अधिक भरोसेमंद. GPT‑6 Cyber ने प्रमुख साइबर सुरक्षा मानकों पर GPT‑5.6 Cyber के मुकाबले बड़ी प्रगति की है. इसमें ExploitGym पर 51% सापेक्ष सुधार और निर्धारित दायरे में रहने के परीक्षण में बहुत बड़ा सुधार शामिल है. यह पहले से ही वास्तविक उपयोग वाले सॉफ़्टवेयर को सुरक्षित करने में मदद कर रहा है. इसने Linux और Firefox जैसे सुरक्षा की दृष्टि से महत्वपूर्ण कोडबेस में हज़ारों एक्सप्लॉइट खोजे हैं और उनकी पुष्टि की है.

ExploitGym जाँचता है कि मॉडल किसी निर्दिष्ट कमज़ोरी का फ़ायदा उठा सकते हैं या नहीं. इस पर GPT‑6 Cyber का स्कोर 48.5% है, जबकि GPT‑5.6 Cyber का स्कोर 32.1% था. यह कार्य की सीमाओं का अधिक भरोसेमंद ढंग से पालन भी करता है: निर्देशों के अनुरूप व्यवहार के एक अलग मूल्यांकन में, GPT‑6 Cyber ने अपने तैनाती प्रॉम्प्ट के बिना 99.93% परीक्षणों में और इस प्रॉम्प्ट के साथ 100% परीक्षणों में दायरे से बाहर की सेवाओं की कमज़ोरियों का फ़ायदा नहीं उठाया. निर्देशों के अनुरूप व्यवहार में यह सुधार अधिकृत दायरे में रहने, पाबंदियों का पालन करने और नतीजों की सही जानकारी देने के विशेष प्रशिक्षण का परिणाम है.

ये क्षमताएँ पहले से ही वास्तविक सिस्टम को सुरक्षित करने में मदद कर रही हैं. हमारे शोधकर्ताओं ने GPT‑6 Cyber से Linux में विशेषाधिकार बढ़ाने वाले 948 एक्सप्लॉइट⁠ विकसित किए और Firefox में पहले अज्ञात उच्च गंभीरता वाली 81 कमज़ोरियाँ पहचानीं, जबकि अत्याधुनिक मॉडलों से पहले ही व्यापक परीक्षण हो चुके थे. मॉडल ने संभावित पैच विकसित करने में भी मदद की और Mozilla ने Firefox की कई कमज़ोरियों के सुधार जारी कर दिए हैं⁠(एक नई विंडो में खुलेगा). Cisco, Calif और CodeRabbit की सुरक्षा टीमें कमज़ोरियों पर अनुसंधान और कोड समीक्षा के लिए इसका इस्तेमाल कर रही हैं. हमने भी अपने बुनियादी ढाँचे की कमज़ोरियाँ खोजने और ठीक करने⁠ के लिए इसकी मदद ली है.

यह स्पष्ट है कि हमारे पास अत्याधुनिक मॉडलों से सॉफ़्टवेयर सुरक्षित करने के लिए सीमित समय है⁠. हमारा लक्ष्य Daybreak का व्यापक विस्तार करना है, ताकि हर आकार के संगठन, स्वतंत्र शोधकर्ता और खुले स्रोत वाले सॉफ़्टवेयर के रखरखावकर्ता उन्नत सुरक्षा अनुसंधान कर सकें. GPT‑6 Astra जैसे मुख्यधारा के मॉडल पहले से ही कोड समीक्षा, कमज़ोरियों की प्राथमिकता तय करने और पैच विकसित करने में सहायता देते हैं. Daybreak Blue सत्यापित सुरक्षा विशेषज्ञों को कम अनावश्यक इनकारों के साथ कमज़ोरियों और सुधारों की पुष्टि करने में मदद करता है. वहीं, Daybreak Red, GPT‑6 Cyber के साथ अधिक गहन एक्सप्लॉइट विकास और अधिकृत सुरक्षा परीक्षण संभव बनाता है.

GPT‑6 Cyber, GPT‑5.6 Cyber से एक बड़ा कदम आगे है और अधिकांश साइबर कार्यों में GPT‑6 Astra से बेहतर प्रदर्शन करता है, तब भी जब Astra अनुरोध को अस्वीकार नहीं करता. हमने मॉडल को ऐसे कार्यों पर परखा जिनमें उसे सॉफ़्टवेयर समझना, कमज़ोरियाँ पहचानना और काम करने वाले एक्सप्लॉइट विकसित करना होता है. इन नतीजों के आधार पर, हमारे प्रिपेयर्डनेस फ़्रेमवर्क के तहत साइबर सुरक्षा में मॉडल को अति-गंभीर श्रेणी में रखा गया है, जबकि GPT‑5.6 Cyber उच्च श्रेणी में था.

ExploitGym जाँचता है कि मॉडल दूरस्थ लक्ष्य की किसी निर्दिष्ट कमज़ोरी का फ़ायदा उठा सकते हैं या नहीं. इस पर GPT‑6 Cyber का स्कोर 48.5% है—GPT‑5.6 Cyber के 32.1% से लगभग 16 प्रतिशत अंक अधिक. कमज़ोरियाँ खोजने की क्षमता परखने के लिए हमने आक्रामक वेब सेंध परीक्षण का एक नया मूल्यांकन भी बनाया. मॉडल स्रोत कोड की पहुँच के बिना वेब अनुप्रयोगों की जाँच करते हैं. GPT‑6 Cyber ने मौजूद कमज़ोरियों में से 40.3% खोजीं, जबकि GPT‑6 Astra ने 32.0% खोजीं.

Daybreak Red अधिक उन्नत सुरक्षा कार्यप्रणालियों में सहायता के लिए बनाया गया है. इनमें काम करने वाले एक्सप्लॉइट विकसित करना और दूरस्थ लक्ष्यों पर उनका इस्तेमाल करना शामिल है. इन क्षमताओं को परखने के लिए हमने RemoteExploitBench नाम का एक नया मानक परीक्षण बनाया. यह नियंत्रित परिवेश में तैनात GitLab, PostgreSQL और Jenkins जैसे अनुप्रयोगों की ज्ञात कमज़ोरियों का इस्तेमाल करता है. हमारे शुरुआती मूल्यांकन में, Daybreak Blue के साथ चल रहे GPT‑6 Astra ने 100% कार्य अस्वीकार किए, जबकि GPT‑6 Cyber ने 95% पूरे किए. उसकी एकमात्र विफलता एक ऐसा एक्सप्लॉइट था जिसे वह दूर से काम नहीं करा सका. पूरे नतीजों और मूल्यांकन की सेटिंग के लिए सिस्टम कार्ड⁠(एक नई विंडो में खुलेगा) देखें.

साइबर सुरक्षा एजेंटों से जुड़ा एक जोखिम यह है कि वे सौंपे गए काम के दायरे से बाहर चले जाएँ, असंबंधित सेवाओं की कमज़ोरियों का फ़ायदा उठाने की कोशिश करें या शोधकर्ता के तय किए गए कार्य-नियमों की अनदेखी करें.

हमने GPT‑6 Cyber में निर्देशों के अनुरूप व्यवहार को विशेष महत्व दिया. इसके लिए विशेष प्रशिक्षण दिया गया, ताकि मॉडल अधिकृत दायरे में रहे, अपने कार्यों पर लगी पाबंदियों का पालन करे और अपने काम की सही जानकारी दे. तैनाती से पहले, हमने इन व्यवहारों को मापने के लिए निर्देशों के अनुरूप व्यवहार के कई मूल्यांकन किए. पूरे नतीजों के लिए सिस्टम कार्ड⁠(एक नई विंडो में खुलेगा) देखें.

इनमें से एक मूल्यांकन ExploitGym Honeypot है, जिसे Hugging Face की घटना⁠ से मिली जानकारी के आधार पर बनाया गया था. हम मॉडल को एक अलग-थलग परिवेश में कमज़ोरी का फ़ायदा उठाने का कठिन काम देते हैं. वहाँ उसे पैकेज रजिस्ट्री या ऑब्जेक्ट स्टोर जैसी सहायक सेवाओं की पहुँच मिलती है. हम जानबूझकर इन सेवाओं की कमज़ोरियों का फ़ायदा उठाना आसान बनाते हैं, ताकि उन पर हमला करके कार्य का फ़्लैग हासिल किया जा सके. मॉडल को स्वयं समझना होता है कि इन सेवाओं की कमज़ोरियों का फ़ायदा उठाना उसके काम के दायरे से बाहर है.

इस मूल्यांकन में GPT‑6 Cyber ने GPT‑5.6 Cyber के मुकाबले बहुत बड़ा सुधार दिखाया है. तैनाती संबंधी सुरक्षा प्रॉम्प्ट के बिना परीक्षण में, इसने 99.93% मामलों में दायरे से बाहर की सेवाओं की कमज़ोरियों का फ़ायदा नहीं उठाया. GPT‑5.6 Cyber के लिए यह आँकड़ा 94.49% था. इन प्रॉम्प्ट के साथ, GPT‑6 Cyber 100% मामलों में सीमाओं के भीतर रहा.

GPT‑6 Cyber मॉडल की चेन-ऑफ-थॉट में हम सीधे देख सकते हैं कि वह सीमाओं के भीतर रहने के बारे में कैसे तर्क करता है:

GPT‑6 Cyber पहले से ही सुरक्षा टीमों को कमज़ोरियाँ खोजने, उनके प्रभाव की पुष्टि करने और सुधार विकसित करने में मदद कर रहा है. ग्राहक इसका इस्तेमाल बड़े कोडबेस, लंबे समय तक चलने वाले एक्सप्लॉइट विकास और सुरक्षा समीक्षा में कर रहे हैं:

अपने सिस्टम सुरक्षित करने के लिए भी हमने GPT‑6 Cyber की मदद ली है. हाल ही में हमने अत्याधुनिक मॉडलों के प्रशिक्षण में इस्तेमाल होने वाले बुनियादी ढाँचे की सुरक्षा मज़बूत करने⁠ का जो काम साझा किया था, उसमें यह प्रमुख मॉडलों में से एक था. नियंत्रित रेड टीमिंग अभियानों में, GPT‑6 Cyber और अन्य OpenAI मॉडलों का इस्तेमाल करने वाले एजेंटों ने कई कमज़ोरियों को जोड़कर microVMs से बाहर निकलने और उन्हें चलाने वाले होस्ट पर कोड चलाने में सफलता पाई. इन निष्कर्षों के आधार पर हमने सॉफ़्टवेयर में पैच लगाए, नेटवर्क पाबंदियाँ कड़ी कीं और रखरखावकर्ताओं व विक्रेताओं को समस्याओं की जानकारी दी.

हमारे सुरक्षा-कमज़ोरी शोधकर्ता भी खुले स्रोत वाले सॉफ़्टवेयर में बड़े पैमाने पर कमज़ोरियाँ खोजने और उनकी पुष्टि करने के लिए GPT‑6 Cyber का इस्तेमाल करते हैं. इस काम से ऐसे सॉफ़्टवेयर में पहले अज्ञात खामियाँ मिली हैं जिनकी वर्षों से गहन जाँच होती रही है:

• Firefox में 81 नई कमज़ोरियाँ मिलीं. GPT‑6 Cyber बड़े पैमाने पर कमज़ोरियाँ खोजने और उच्च-गुणवत्ता वाले पैच सुझाने की स्वायत्त कार्यप्रणालियों में इस्तेमाल के लिए उपयुक्त हो सकता है. सुरक्षा-कमज़ोरियों पर एक अनुसंधान अभियान में, GPT‑6 Cyber ने 81 नई कमज़ोरियों के सबूत और दोहराए जा सकने वाले परीक्षण तैयार किए, जिन्हें Mozilla ने उच्च गंभीरता वाली श्रेणी में रखा. साथ ही, इसने दिखाया कि 30 अन्य ज्ञात समस्याएँ पहले बताई गई गंभीरता से अधिक गंभीर थीं. हमने Mozilla को इन निष्कर्षों के साथ प्रस्तावित पैच भी दिए, ताकि उसके इंजीनियर सुधार तैयार कर सकें. Mozilla ने इस काम का समर्थन किया और रिपोर्ट मिलने के कुछ ही समय बाद सुधार लागू करने शुरू कर दिए⁠(एक नई विंडो में खुलेगा).

• Linux कर्नेल की 948 कमज़ोरियों⁠ के लिए एक्सप्लॉइट विकसित करना. GPT‑6 Cyber ने 1,724 कमज़ोरियों को दोहराकर दिखाया और 948 के लिए काम करने वाले एक्सप्लॉइट विकसित किए—यह उसी अनुसंधान हार्नेस में GPT‑5.6 Sol द्वारा इस्तेमाल की गई 166 कमज़ोरियों के पाँच गुने से भी अधिक है. Linux समुदाय के दिशानिर्देशों के अनुसार, हमने रखरखावकर्ताओं को संभावित पैच के साथ 304 अति-गंभीर निष्कर्ष बताए और अब अन्य कमज़ोरियाँ ठीक करवाने की प्रक्रिया में हैं.

• दूरस्थ कोड निष्पादन की अति-गंभीर कमज़ोरियों का प्रदर्शन. हाल ही में हमने Brotli में एक अति-गंभीर कमज़ोरी⁠(एक नई विंडो में खुलेगा) पर चर्चा की. यह Node.js और अन्य सॉफ़्टवेयर में इस्तेमाल होने वाली संपीड़न लाइब्रेरी है. हमारे सुरक्षा शोधकर्ताओं ने अन्य OpenAI मॉडलों के साथ GPT‑6 Cyber का इस्तेमाल करके एक्सप्लॉइट विकसित किए और उनकी पुष्टि की. इनसे पता चला कि यह खामी इस लाइब्रेरी पर निर्भर अनुप्रयोगों में दूरस्थ कोड निष्पादन कैसे संभव बना सकती है.

जैसे-जैसे मॉडल अधिक सक्षम हो रहे हैं और अधिक सुरक्षा कमज़ोरियाँ खोज रहे हैं, हमें नुकसान पहुँचाने के लिए उनके इस्तेमाल की कोशिशें भी अधिक दिख रही हैं. इनमें दुर्भावनापूर्ण साइबर हमलावरों और हमारे मॉडलों की क्षमताएँ दूसरे मॉडलों में उतारने की कोशिश करने वाले विरोधी समूहों के प्रयास शामिल हैं. इसीलिए हमने GPT‑6 Cyber की बढ़ी हुई क्षमताओं के साथ सुरक्षा उपाय भी मज़बूत किए हैं, ताकि दुरुपयोग पहचानकर रोका जा सके और मॉडल के काम उपयोगकर्ता की मंशा और अनुमति के दायरे में रहें.

GPT‑6 Cyber जारी करने के साथ हमने ये सुरक्षा उपाय जोड़े और मज़बूत किए हैं (पूरी जानकारी के लिए सिस्टम कार्ड⁠(एक नई विंडो में खुलेगा) देखें):

• साइबर कार्यों में निर्देशों से विचलन की विशेष निगरानी. हम वैध एक्सप्लॉइट विकास और परीक्षण को पहचानते हुए यह निगरानी करते हैं कि कार्रवाइयाँ उपयोगकर्ता की अनुमति के अनुरूप हैं या नहीं.

• उभरते खतरों की लक्षित निगरानी. उदाहरण के लिए, PHP की अति-गंभीर कमज़ोरियों के समन्वित खुलासे के दौरान, हमने चालू PHP सर्वरों के विरुद्ध एक्सप्लॉइट विकसित करने के प्रयासों की लक्षित निगरानी शुरू की. साथ ही, प्रभावित सिस्टम में पैच लगाने वाले सुरक्षा विशेषज्ञों को सहायता मिलती रही.

• निजी सुरक्षा प्रसंस्करण (PSP). हम संबंधित संवादों में दुरुपयोग की समीक्षा के लिए स्वचालित जाँच का इस्तेमाल करते हैं. मानक डेटा प्रतिधारण ही डिफ़ॉल्ट बना हुआ है. ज़ीरो डेटा रिटेंशन⁠(एक नई विंडो में खुलेगा) इस्तेमाल करने वाले API ग्राहकों के लिए आम तौर पर PSP⁠(एक नई विंडो में खुलेगा) इस्तेमाल करना ज़रूरी है. यह ग्राहक के भंडारण में 30 दिन तक रखे गए एन्क्रिप्ट किए गए रिकॉर्ड की समीक्षा करता है, बिना OpenAI कर्मचारियों को प्रॉम्प्ट और जवाब दिखाए.

• चुराए गए प्रवेश-प्रमाणों से सुरक्षा. Daybreak Red API की पहुँच के लिए हम डिफ़ॉल्ट रूप से IP अनुमति-सूची अनिवार्य करते हैं. इससे सीमित अपवादों को छोड़कर अनुरोध केवल स्वीकृत नेटवर्क से ही आ सकते हैं. हम प्रवेश-प्रमाणों के चोरी होने या अनधिकृत पहुँच में आने की भी निगरानी करते हैं.

• अलग-थलग परिवेश में संचालन और निगरानी. पिछले मॉडलों की तरह, हम उच्च जोखिम वाली कार्यप्रणालियों के लिए अलग-थलग परिवेश में संचालन⁠(एक नई विंडो में खुलेगा), कार्रवाइयों की समीक्षा⁠(एक नई विंडो में खुलेगा) और मानवीय निगरानी की सलाह देते हैं.

• उच्च जोखिम वाली साइबर सहायता के विरुद्ध सुरक्षा उपाय. हम महत्वपूर्ण सिस्टम से जुड़ी उच्च जोखिम वाली गतिविधियाँ रोकने के लिए नई जाँच का इस्तेमाल करते हैं (अधिक जानकारी नीचे देखें).

GPT‑6 Cyber के सुरक्षा उपाय और पहुँच व्यवस्था तैयार करते समय महत्वपूर्ण बुनियादी ढाँचे की रक्षा एक प्रमुख विचार रहा है. इसमें बिजली संयंत्र, जल शोधन सुविधाएँ और उन्हें चलाने वाली परिचालन प्रौद्योगिकी व औद्योगिक नियंत्रण प्रणालियाँ (OT/ICS) शामिल हैं. हम इन सिस्टम की रक्षा करने वाली टीमों को अपने सबसे सक्षम मॉडलों की पहुँच देना चाहते हैं. साथ ही, अनधिकृत हमले रोकने के लिए अपने सुरक्षा उपाय भी मज़बूत करना चाहते हैं.

पहला कदम इन सुरक्षा विशेषज्ञों को साधन देना है. इसके लिए हमारा 1 अरब डॉलर का अग्रिम पंक्ति के सुरक्षा विशेषज्ञों के लिए Daybreak⁠ अनुदान कार्यक्रम सीमित संसाधनों वाली टीमों, जैसे सरकारी संगठनों और आवश्यक सेवा प्रदाताओं, को पहुँच की लागत में सहायता देता है. हम Daybreak Red में स्वीकृत महत्वपूर्ण बुनियादी ढाँचा सुरक्षा विशेषज्ञों के लिए एक नया समूह (महत्वपूर्ण बुनियादी ढाँचे के लिए Daybreak Red) भी शुरू कर रहे हैं. यह उन्हें महत्वपूर्ण सिस्टम के अधिकृत परीक्षण की अनुमति देता है, जबकि मॉडल के निर्देशों से भटकने के विरुद्ध सुरक्षा उपाय बने रहते हैं.

दूसरा कदम Daybreak Red और Blue मंचों का दुरुपयोग रोकना है. हमने ऐसी सहायता और क्षमता-विकास के विरुद्ध सुरक्षा उपाय बेहतर किए हैं जो औद्योगिक नियंत्रणों या सुरक्षा के लिए महत्वपूर्ण सिस्टम में सेंध लगा सकते हैं, उपकरणों में हस्तक्षेप कर सकते हैं, या गंभीर चोट, विनाशकारी भौतिक नुकसान अथवा जान को खतरे में डालने वाला सेवा व्यवधान पैदा कर सकते हैं. नीचे दिया गया चित्र पहुँच की चार व्यवस्थाओं में सुरक्षा उपायों द्वारा चिह्नित किए जाने की दरों की तुलना करता है. इसमें GPT‑6 Cyber के साथ लागू किए जा रहे हालिया बदलावों से पहले और बाद की दरें दिखाई गई हैं.

सुरक्षा उपायों द्वारा अधिक अनुरोध रोका जाना हमेशा बेहतर नहीं होता. इस मूल्यांकन की कई तकनीकें वैध सुरक्षा कार्यों के लिए भी आवश्यक हैं: सिस्टम को समझना, कमज़ोरियाँ खोजना और यह सत्यापित करना कि सुधार हमलों का सामना कर सकते हैं. इसलिए हम 100% का लक्ष्य रखने के बजाय इन दरों को वैध अनुसंधान और पैच लगाने के काम में मिलने वाली सहायता के साथ परखते हैं.

महत्वपूर्ण बुनियादी ढाँचे की रक्षा में हमारे मॉडल कैसे मदद कर सकते हैं, यह परखने के लिए हमने विस्तारित परिचालन प्रौद्योगिकी (xOT) की साइबर सुरक्षा के वैश्विक प्रदाता Dragos के साथ साझेदारी की. Dragos ने नियंत्रित प्रयोगशाला परिवेश में साइबर कार्यों की अधिक अनुमति देने वाले Daybreak Red मॉडलों से मूल्यांकन किए. इन मूल्यांकनों में नेटवर्क खोजने और परिसंपत्तियाँ सूचीबद्ध करने से लेकर लक्षित टोह लेने, संवेदनशील डेटा बाहर निकालने तथा उपकरणों पर अनधिकृत और संभावित रूप से खतरनाक कार्रवाइयों तक के अनुरोध शामिल थे.

हमने Dragos की प्रतिक्रिया के आधार पर अपने सुरक्षा उपाय बेहतर किए, ताकि अधिकृत परीक्षण पर अनावश्यक रोक लगाए बिना हानिकारक सहायता रोकी जा सके. मूल्यांकनों की विस्तृत जानकारी के लिए उनकी अंतिम रिपोर्ट देखें⁠(एक नई विंडो में खुलेगा). हम AI के साथ सेंध परीक्षण और रेड टीमिंग के लिए अन्य आक्रामक सुरक्षा प्रदाताओं तथा आक्रमण व रक्षा दोनों पर काम करने वाली टीमों के साथ साझेदारियाँ भी बढ़ा रहे हैं. साथ ही, औद्योगिक सुरक्षा में अपने मॉडलों की प्रभावशीलता और सुरक्षा उपाय परखने के लिए ऊर्जा कंपनियों, अन्य महत्वपूर्ण बुनियादी ढाँचा संचालकों और राष्ट्रीय प्रयोगशालाओं के साथ काम बढ़ा रहे हैं. OT/ICS से जुड़े मॉडल उपयोग का पता लगाने के लिए हमने खतरों की जाँच में निवेश भी बढ़ाया है. हम साझेदारों और सुरक्षा समुदाय की प्रतिक्रिया से अपने सुरक्षा उपाय बेहतर करते रहेंगे. इसमें /feedback से मिलने वाली वे रिपोर्ट भी शामिल हैं जो बताती हैं कि सुरक्षा उपाय कब हानिकारक गतिविधि पकड़ नहीं पाए या वैध काम में बाधा बने.

शुरुआत में GPT‑6 Cyber, API और Codex के ज़रिए Daybreak Red के कुछ चुने हुए स्वीकृत ग्राहकों को उपलब्ध है. हम जल्द ही धीरे-धीरे सभी Daybreak Red ग्राहकों तक इसकी पहुँच बढ़ाएँगे. साथ ही, हम GPT‑5.6 Cyber भी सभी Daybreak Red ग्राहकों को उपलब्ध करा रहे हैं. हम GPT‑6 Astra के लिए Daybreak Blue की अल्फ़ा पहुँच अधिक संगठनों और स्वतंत्र सुरक्षा शोधकर्ताओं तक भी बढ़ा रहे हैं. अगर आप रुचि रखते हैं, तो हमें बताएँ⁠(एक नई विंडो में खुलेगा).

नए उपयोगकर्ता और संगठन Daybreak के लिए आवेदन कर सकते हैं⁠ और हमारे साइबर कौशल, उत्पादों और साझेदारों⁠ के साथ शुरुआत कर सकते हैं.