साइबर की क्रिटिकल क्षमताओं में अगले अत्याधुनिक बदलावों की तैयारी

मॉडल्स की क्षमताएँ बढ़ने के साथ ही साइबर सुरक्षा की तस्वीर भी बदल रही है. जिनसे पहले से कहीं ज़्यादा तेज़ी और बड़े पैमाने पर साइबर डिफ़ेंस मज़बूत हो रहा है, तो हमलों की संभावनाएँ भी उतनी ही बढ़ी हैं.

हमारे आने वाले मॉडल Astra के नए इंटरनल इवैल्यूएशन्स में एजेंटिक कोडिंग और साइबर सुरक्षा में पिछले कुछ दिनों में काफ़ी प्रोग्रेस दिखाई दी है. इन नतीजों और एक्सपर्ट के असेसमेंट्स को देखते हुए, हमने कल रात हम इस नतीजे पर पहुँचे कि हमारे प्रिपेयर्डनेस फ़्रेमवर्क⁠(एक नई विंडो में खुलेगा) के तहत क्रिटिकल साइबर क्षमताओं की संभावना को खारिज नहीं किया जा सकता.

हम यह जानकारी इसलिए शेयर कर रहे हैं क्योंकि हमारा मानना है कि क्षमताओं में इस संभावित बदलाव के बारे में लोगों को और सेफ़्टी व सिक्योरिटी कम्युनिटीज़ को पूरी तरह से पता होना चाहिए.

हमने अपना प्रिपेयर्डनेस फ़्रेमवर्क दिसंबर 2023 में पहली बार पब्लिश किया था. उस समय मॉडल्स में बायोलॉजिकल, केमिकल, और साइबर सुरक्षा की ऐसी खूबियाँ नहीं थी, और न ही AI की सेल्फ़-इम्प्रूवमेंट की क्षमताएँ इन स्तरों तक पहुँची थीं. हमने यह फ़्रेमवर्क इसलिए बनाया था ताकि मॉडल्स की क्षमताओं में हो रही प्रोग्रेस को पहचानने और इन क्षमताओं के सामने आने पर कंपनी को क्या कदम उठाने चाहिए, इसकी तैयारी करने के लिए एक गाइड मिल सके. GPT‑5.6‑Sol समेत पिछले मॉडल्स को साइबर की अत्याधुनिक क्षमताओं के लिए परखा गया था और उन्हें हाई थ्रेशोल्ड पर रखा गया था, क्रिटिकल थ्रेशोल्ड पर नहीं.

हमारे प्रिपेयर्डनेस फ़्रेमवर्क के तहत, कोई मॉडल साइबर सुरक्षा के क्रिटिकल थ्रेशोल्ड तक तब पहुँचता है, जब वह बिना किसी इंसानी मदद के, कई मज़बूत सिक्योरिटी वाले असली क्रिटिकल सिस्टम्स में हर स्तर की सुरक्षा खामियों को पहचान और डेवलप कर सके. या फिर, सिर्फ़ एक बड़े स्तर का लक्ष्य दिए जाने पर, मज़बूत सिक्योरिटी वाले टार्गेट्स के खिलाफ़ साइबर हमलों की पूरी नई स्ट्रैटेजी खुद तैयार करके उसे लागू कर सके. 

हम इस मॉडल की बेंचमार्किंग और जाँच जारी रखे हुए हैं. हमारी शुरुआती जाँच में मॉडल की परफ़ॉर्मेंस काफ़ी मज़बूत दिखी है. इसलिए फ़िलहाल हम इसके क्रिटिकल क्षमता के स्तर तक पहुँचने की संभावना को खारिज नहीं कर सकते. Astra एक आने वाला मॉडल है और Hugging Face को हैक करने में इसका इस्तेमाल नहीं हुआ था. 

इसी के मुताबिक, हमने अपने सेफ़गार्ड्स और सिक्योरिटी कंट्रोल्स की मज़बूती की टेस्टिंग बढ़ा दी है, ताकि ये इन क्षमताओं की डिप्लॉयमेंट के लिए सही हों. हमने मॉडल के आगे के डेवलपमेंट को सुरक्षित तरीके से जारी रखने के लिए अंदरूनी तौर पर ये कदम भी उठाए हैं: 

• हम ज़्यादा क्षमता वाले मॉडल्स और उनसे जुड़ी गतिविधियों के लिए और सख्त सिक्योरिटी कंट्रोल्स लागू कर रहे हैं. इनमें अलग रखे गए टेस्टिंग एनवायरनमेंट्स, सीमित नेटवर्क और टूल एक्सेस, मॉडल वेट्स की बेहतर सुरक्षा और एन्क्रिप्शन, अतिरिक्त मॉनिटरिंग और डिटेक्शन की क्षमताएँ और सैंडबॉक्स में एक्ज़ीक्यूशन शामिल हैं.
• हम Astra से जुड़ी उन इंटरनल ऐक्टिविटीज़ को रोक रहे हैं, जो अभी इन बेहतर सिक्योरिटी कंट्रोल की ज़रूरतों को पूरा नहीं करतीं.
• हमने Astra के सभी एजेंटिक ऐप्लिकेशंस में जोखिम वाले ऐक्शंस और मिसअलाइनमेंट के लिए यूनिवर्सल मॉनिटरिंग शुरू कर दी है. इसमें ट्रेनिंग और एवैल्युएशन भी शामिल हैं. मॉनिटर्स मॉडल के चेन-ऑफ-थॉट को परखते हैं और ज़्यादा रिस्क वाली एक्टिविटी का रिव्यू करने और उसे रोकने के लिए सुरक्षा उपायों को लागू करते हैं.
• हम संबंधित सरकारी एजेंसियों और चुनिंदा AI सेफ़्टी ऑर्गेनाइज़ेशंस के साथ मिलकर इस मॉडल की क्षमताओं की टेस्टिंग करेंगे.
• हम थर्ड-पार्टी टेस्टिंग पार्टनर्स को सुझाए गए सिक्योरिटी कंट्रोल्स देंगे, ताकि वे ज़्यादा जोखिम वाले एवैल्युएशन्स और वर्कलोड्स को सुरक्षित तरीके से चला सकें. 

इस फ़्रेमवर्क ने पहले भी हमें नई क्षमताओं को हासिल करने का रास्ता दिखाया है. जून 2025 में, जब हमारे मॉडल्स प्रिपेयर्डनेस फ़्रेमवर्क के तहत बायोलॉजी में ज़्यादा क्षमता वाले थ्रेशोल्ड के करीब पहुँच रहे थे, तब हमने सेफ़गार्ड्स को मज़बूत करने, टेस्टिंग बढ़ाने, बाहरी एक्सपर्ट्स के साथ काम करने और अतिरिक्त सिक्योरिटी कंट्रोल्स डिप्लॉय करने के लिए उठाए जा रहे कदमों के बारे में बताया था. यहाँ भी हम इसी तरीके को अपना रहे हैं.

हम मानते हैं कि एडवांस्ड साइबर क्षमता वाले मॉडल्स को डिफ़ेंडर्स की मदद करनी चाहिए, ताकि सुरक्षा खामियों को हमलावरों से पहले पहचाना और दूर किया जा सके. हम सरकारों, सेफ़्टी इंस्टीट्यूट्स और सिविल सोसाइटी के साथ मिलकर काम करने के लिए प्रतिबद्ध हैं, ताकि Astra जैसे मॉडल्स और उनके बाद आने वाले मॉडल्स की फ़्रंटियर क्षमताओं को ज़िम्मेदारी से डिप्लॉय किया जा सके और उनका फ़ायदा पूरी मानवता को मिल सके.