AI कैपेबिलिटीज़ के आगे बढ़ने के साथ साइबर रेज़िलिएंस को मजबूत बनाना

AI मॉडल्स में साइबर कैपेबिलिटीज़ तेजी से आगे बढ़ रही हैं, जिससे साइबर डिफेंस के लिए ठोस फायदे मिल रहे हैं, साथ ही नए ड्यूल-यूज़ रिस्क भी सामने आ रहे हैं जिन्हें सावधानी से मैनेज करना ज़रूरी है. उदाहरण के लिए, कैप्चर-द-फ्लैग (CTF) चैलेंजेस के ज़रिए आंकी गई कैपेबिलिटीज़ अगस्त 2025 में GPT‑5⁠(एक नई विंडो में खुलेगा) पर 27% से बढ़कर नवंबर 2025 में GPT‑5.1‑Codex‑Max⁠(एक नई विंडो में खुलेगा) पर 76% हो गई हैं.

हमें उम्मीद है कि आने वाले AI मॉडल्स इसी दिशा में आगे बढ़ते रहेंगे; इसकी तैयारी में, हम इस तरह प्लानिंग और इवैल्यूएशन कर रहे हैं जैसे हर नया मॉडल साइबरसिक्योरिटी कैपेबिलिटी के ‘हाई’ स्तर तक पहुँच सकता है, जैसा कि हमारे प्रिपेयर्डनेस फ्रेमवर्क⁠(एक नई विंडो में खुलेगा) से मापा जाता है. इसका मतलब ऐसे मॉडल्स से है जो या तो अच्छी तरह सुरक्षित सिस्टम्स के खिलाफ काम करने वाले ज़ीरो-डे रिमोट एक्सप्लॉइट्स विकसित कर सकें, या जटिल और स्टेल्थी एंटरप्राइज़ या इंडस्ट्रियल इंट्रूज़न ऑपरेशन्स में वास्तविक दुनिया के प्रभावों के लिए सार्थक मदद दे सकें. यह पोस्ट बताता है कि हम ऐसे हाई कैपेबिलिटी वाले मॉडल्स के लिए सेफगार्ड्स के बारे में कैसे सोचते हैं, और कैसे सुनिश्चित करते हैं कि वे डिफेंडर्स की मदद करें जबकि मिसयूज़ को सीमित रखें.

जैसे-जैसे ये कैपेबिलिटीज़ आगे बढ़ती हैं, OpenAI डिफेंसिव साइबरसिक्योरिटी टास्क्स के लिए अपने मॉडल्स को मजबूत बनाने और ऐसे टूल्स बनाने में निवेश कर रहा है जो डिफेंडर्स को कोड ऑडिट करना और वल्नरेबिलिटीज़ पैच करना जैसे वर्कफ़्लोज़ आसानी से करने में मदद दें. हमारा लक्ष्य है कि हमारे मॉडल्स और प्रॉडक्ट्स डिफेंडर्स के लिए बड़ा फायदा लाएँ, जो अक्सर संख्या में कम होते हैं और सीमित संसाधनों के साथ काम करते हैं.

अन्य ड्यूल-यूज़ डोमेन्स की तरह, डिफेंसिव और ऑफेंसिव साइबर वर्कफ़्लोज़ अक्सर एक ही बेसिक नॉलेज और टेक्नीक्स पर निर्भर करते हैं. हम ऐसे सेफगार्ड्स में निवेश कर रहे हैं जो सुनिश्चित करें कि ये पावरफुल कैपेबिलिटीज़ मुख्य रूप से डिफेंसिव उपयोग में आएँ और मैलिशियस उद्देश्यों के लिए इनके दुरुपयोग को सीमित करें. साइबरसिक्योरिटी लगभग हर क्षेत्र को प्रभावित करती है, जिसका मतलब है कि हम केवल एक तरह के सेफगार्ड—जैसे नॉलेज को सीमित करना या सिर्फ जाँचा-परखा हुआ एक्सेस देना—पर निर्भर नहीं रह सकते; इसके बजाय हमें डिफेंस-इन-डेप्थ अप्रोच की ज़रूरत है जो रिस्क को बैलेंस करे और यूज़र्स को सक्षम बनाए. व्यवहार में, इसका मतलब है कि कैपेबिलिटीज़ को कैसे एक्सेस किया जाता है, कैसे गाइड किया जाता है, और कैसे लागू किया जाता है—इसे इस तरह डिज़ाइन करना कि एडवांस्ड मॉडल्स सिक्योरिटी को मजबूत करें, न कि मिसयूज़ की बाधाएँ कम करें.

हम इस काम को एक बार का प्रयास नहीं, बल्कि एक सतत और लंबे समय का निवेश मानते हैं—जिसका उद्देश्य डिफेंडर्स को बढ़त देना और व्यापक इकोसिस्टम में क्रिटिकल इन्फ्रास्ट्रक्चर की सिक्योरिटी को लगातार मजबूत करना है.

हमारे मॉडल्स को सुरक्षित तरीके से काम करने के लिए डिज़ाइन और ट्रेन किया गया है, जिन्हें ऐसे प्रोक्टिव सिस्टम्स का सपोर्ट मिलता है जो साइबर अब्यूज़ को डिटेक्ट और रिस्पॉन्ड करते हैं. जैसे-जैसे हमारी कैपेबिलिटीज़ और थ्रेट लैंडस्केप बदलते हैं, हम इन प्रोटेक्शन्स को लगातार बेहतर बनाते रहते हैं. साइबरसिक्योरिटी में कोई भी सिस्टम बिना डिफेंसिव उपयोग को गंभीर रूप से प्रभावित किए मिसयूज़ को पूरी तरह रोकने की गारंटी नहीं दे सकता; इसलिए हमारी रणनीति लेयर्ड सेफ्टी स्टैक के ज़रिए रिस्क को कम करना है.

इसकी नींव में, हम डिफेंस-इन-डेप्थ अप्रोच अपनाते हैं, जिसमें एक्सेस कंट्रोल्स, इंफ्रास्ट्रक्चर को मजबूत करना, एग्रेस कंट्रोल्स और निगरानी का संयोजन शामिल है. हम इन उपायों को पहचान और प्रतिक्रिया सिस्टम्स, और समर्पित थ्रेट इंटेलिजेंस व इनसाइडर-रिस्क प्रोग्राम्स के साथ मजबूत करते हैं, ताकि उभरते खतरों को जल्दी पहचानकर रोका जा सके. ये सेफगार्ड्स बदलते थ्रेट लैंडस्केप के साथ विकसित होने के लिए बनाए गए हैं. हम बदलाव को ध्यान में रखकर सिस्टम बनाते हैं, ताकि हम तेज़ी से और सही तरीके से बदलाव के अनुसार खुद को ढाल सकें.

इसी आधार पर आगे बढ़ते हुए:

• मॉडल को हानिकारक रिक्वेस्ट्स को अस्वीकार करने या सुरक्षित तरीके से जवाब देने के लिए ट्रेन करना, जबकि एजुकेशनल और डिफेंसिव यूज़ केस में मददगार बने रहना: हम अपने फ्रंटियर मॉडल्स को इस तरह ट्रेन कर रहे हैं कि वे स्पष्ट साइबर अब्यूज़ को सक्षम बनाने वाली रिक्वेस्ट्स को अस्वीकार करें या सुरक्षित तरीके से जवाब दें, और साथ ही वैध डिफेंसिव और एजुकेशनल यूज़ केस में अधिकतम मददगार बने रहें.
• डिटेक्शन सिस्टम्स: हम फ्रंटियर मॉडल्स का उपयोग करने वाले प्रॉडक्ट्स में सिस्टम-वाइड मॉनिटरिंग को लगातार बेहतर बनाते और बनाए रखते हैं, ताकि संभावित मैलिशियस साइबर एक्टिविटी को डिटेक्ट किया जा सके. जब कोई गतिविधि असुरक्षित लगती है, तो हम आउटपुट को रोक सकते हैं, अनुरोधों को अधिक सुरक्षित या कम सक्षम मॉडल्स की ओर भेज सकते हैं, या कार्रवाई के लिए आगे बढ़ा सकते हैं. हमारी कार्रवाई में स्वचालित और मानवीय समीक्षा दोनों शामिल होती हैं, जो कानूनी आवश्यकताओं, गंभीरता और दोहराए गए व्यवहार जैसे कारकों पर आधारित होती हैं. हम डेवलपर्स और एंटरप्राइज़ ग्राहकों के साथ मिलकर सुरक्षा मानकों पर तालमेल बनाते हैं और स्पष्ट एस्केलेशन प्रक्रिया के साथ जिम्मेदार उपयोग को सक्षम करते हैं.
• एंड-टू-एंड रेड टीमिंग: हम अपने सेफ्टी मिटिगेशन्स का इवैल्यूएशन करने और उन्हें बेहतर बनाने के लिए एक्सपर्ट रेड टीमिंग ऑर्गनाइजेशन्स के साथ काम कर रहे हैं. उनका काम है एंड-टू-एंड तरीके से हमारे सभी सुरक्षा उपायों को बायपास करने की कोशिश करना, ठीक वैसे ही जैसे कोई दृढ़ और पर्याप्त संसाधनों वाला विरोधी कर सकता है. इससे हमें शुरुआती चरण में कमियों की पहचान करने और पूरे सिस्टम को मजबूत बनाने में मदद मिलती है.

OpenAI ने डिफेंसिव साइबरसिक्योरिटी उपयोग मामलों में AI के इस्तेमाल में शुरुआती निवेश किया है, और हमारी टीम ग्लोबल एक्सपर्ट्स के साथ मिलकर हमारे मॉडल्स और उनके उपयोग दोनों को परिपक्व बनाने पर काम करती है. हम उन साइबरसिक्योरिटी प्रैक्टिशनर्स की वैश्विक कम्युनिटी को महत्व देते हैं जो हमारी डिजिटल दुनिया को सुरक्षित बनाने में लगे हैं, और हम डिफेंसिव सिक्योरिटी को सपोर्ट करने वाले शक्तिशाली टूल्स देने के लिए प्रतिबद्ध हैं. जैसे-जैसे हम नए सेफगार्ड्स जारी करते हैं, हम साइबरसिक्योरिटी कम्युनिटी के साथ मिलकर यह समझते रहेंगे कि कहाँ AI वास्तव में रेज़िलिएंस को मजबूत कर सकता है, और कहाँ सोच-समझकर बनाए गए सेफगार्ड्स सबसे ज़रूरी हैं.

इन सहयोगों के साथ-साथ, हम ऐसे प्रयासों का एक सेट बना रहे हैं जो डिफेंडर्स को तेज़ी से काम करने में मदद करें, हमारे सेफगार्ड्स को वास्तविक दुनिया की ज़रूरतों से जोड़ें, और बड़े स्तर पर जिम्मेदार सुधार को तेज़ करें.

हम जल्द ही एक ट्रस्टेड एक्सेस प्रोग्राम शुरू करेंगे, जिसमें हम योग्य यूज़र्स और साइबर डिफेंस पर काम कर रहे ग्राहकों को हमारे नवीनतम मॉडल्स की बेहतर कैपेबिलिटीज़ तक टियरड एक्सेस देने की संभावना तलाश रहे हैं, खासकर डिफेंसिव उपयोग मामलों के लिए. हम अभी भी यह तय करने की प्रक्रिया में हैं कि किन कैपेबिलिटीज़ को व्यापक एक्सेस दिया जा सकता है और किन पर टियरड प्रतिबंध ज़रूरी हैं, जो इस प्रोग्राम के भविष्य के डिज़ाइन को प्रभावित कर सकता है. हमारा लक्ष्य है कि यह ट्रस्टेड एक्सेस प्रोग्राम एक मजबूत और रेज़िलिएंट इकोसिस्टम की दिशा में एक अहम आधार बने.

Aardvark, हमारा एजेंटिक सिक्योरिटी रिसर्चर, जो डेवलपर्स और सिक्योरिटी टीम्स को बड़े स्तर पर वल्नरेबिलिटीज़ खोजने और ठीक करने में मदद करता है, अब प्राइवेट बीटा में है. यह कोडबेस में वल्नरेबिलिटीज़ के लिए स्कैन करता है और ऐसे पैच सुझाता है जिन्हें मेंटेनर्स जल्दी अपना सकते हैं. इसने पूरे कोडबेस पर रीजनिंग करके ओपन-सोर्स सॉफ्टवेयर में नए CVEs की पहचान पहले ही कर ली है. हम चुनिंदा गैर-व्यावसायिक ओपन सोर्स रिपॉज़िटरीज़ को मुफ्त कवरेज देने की योजना बना रहे हैं, ताकि ओपन सोर्स सॉफ्टवेयर इकोसिस्टम और सप्लाई चेन की सुरक्षा में योगदान दिया जा सके. भाग लेने के लिए यहाँ आवेदन करें.

हम फ्रंटियर रिस्क काउंसिल स्थापित करेंगे, जो एक सलाहकार समूह होगा और अनुभवी साइबर डिफेंडर्स व सिक्योरिटी प्रैक्टिशनर्स को हमारी टीम्स के साथ करीबी सहयोग में लाएगा. यह काउंसिल शुरुआत में साइबरसिक्योरिटी पर फोकस करेगी और भविष्य में अन्य फ्रंटियर कैपेबिलिटी डोमेन्स तक विस्तार करेगी. सदस्य उपयोगी और जिम्मेदार कैपेबिलिटी तथा संभावित दुरुपयोग के बीच की सीमा पर सलाह देंगे, और ये सीख सीधे हमारे इवैल्यूएशन्स और सेफगार्ड्स को प्रभावित करेगी. हम जल्द ही इस काउंसिल के बारे में और जानकारी साझा करेंगे. 

अंत में, हम मानते हैं कि इंडस्ट्री के किसी भी फ्रंटियर मॉडल से साइबर दुरुपयोग संभव हो सकता है. इसे संबोधित करने के लिए, हम फ्रंटियर मॉडल फोरम के माध्यम से अन्य फ्रंटियर लैब्स के साथ काम करते हैं, जो प्रमुख AI लैब्स और इंडस्ट्री पार्टनर्स द्वारा समर्थित एक नॉनप्रॉफिट है, ताकि थ्रेट मॉडल्स और सर्वोत्तम प्रथाओं की साझा समझ विकसित की जा सके. इस संदर्भ में, थ्रेट मॉडलिंग यह पहचानकर जोखिम कम करने में मदद करता है कि AI कैपेबिलिटीज़ को कैसे हथियार बनाया जा सकता है, अलग-अलग थ्रेट एक्टर्स के लिए महत्वपूर्ण बॉटलनेक्स कहाँ हैं, और फ्रंटियर मॉडल्स किस तरह सार्थक बढ़त दे सकते हैं. यह सहयोग थ्रेट एक्टर्स और अटैक पाथवे की एक समान, पूरे इकोसिस्टम में साझा समझ बनाने का लक्ष्य रखता है, जिससे लैब्स, मेंटेनर्स और डिफेंडर्स अपने सुरक्षा उपायों को बेहतर बना सकें और महत्वपूर्ण सिक्योरिटी इनसाइट्स पूरे इकोसिस्टम में तेजी से फैल सकें. हम बाहरी टीम्स के साथ मिलकर साइबरसिक्योरिटी इवैल्यूएशन्स⁠(एक नई विंडो में खुलेगा) विकसित कर रहे हैं. हमें उम्मीद है कि स्वतंत्र इवैल्यूएशन्स का एक इकोसिस्टम मॉडल कैपेबिलिटीज़ की साझा समझ को और मजबूत करेगा.

ये सभी प्रयास मिलकर इकोसिस्टम के डिफेंसिव पक्ष को मजबूत करने के प्रति हमारी दीर्घकालिक प्रतिबद्धता को दर्शाते हैं. जैसे-जैसे मॉडल्स अधिक सक्षम होते हैं, हमारा लक्ष्य है यह सुनिश्चित करना कि ये कैपेबिलिटीज़ डिफेंडर्स के लिए वास्तविक बढ़त में बदलें—जो वास्तविक दुनिया की ज़रूरतों पर आधारित हों, विशेषज्ञों के इनपुट से आकार लें, और सावधानी से लागू किए जाएँ. इस काम के साथ-साथ, हम अन्य पहल और साइबर सिक्योरिटी ग्रांट्स को भी तलाशने की योजना बना रहे हैं, ताकि ऐसे ब्रेकथ्रू आइडियाज़ सामने आ सकें जो पारंपरिक तरीकों से नहीं आते, और अकादमिक जगत, इंडस्ट्री और ओपन-सोर्स कम्युनिटी से साहसी और रचनात्मक डिफेंस समाधान एकत्र किए जा सकें. कुल मिलाकर, यह एक लगातार चलने वाला काम है, और हम उम्मीद करते हैं कि जैसे-जैसे हमें यह समझ आएगा कि वास्तविक दुनिया की सुरक्षा को सबसे प्रभावी ढंग से कैसे आगे बढ़ाया जाए, हम इन प्रोग्राम्स को लगातार विकसित करते रहेंगे.