Astra कडे वाटचाल: महत्त्वपूर्ण क्षमता आणि अत्याधुनिक सुरक्षात्मक उपाय

Astra कदाचित सायबरसुरक्षा क्षमतेची महत्त्वपूर्ण पातळी गाठेल, या आमच्या पूर्वीच्या मूल्यमापनानंतर आम्ही आणखी पुरावे गोळा केले आणि मॉडेलच्या क्षमतांचे मूल्यमापन करण्यासाठी अतिरिक्त चाचण्या केल्या. आता आमच्या मते Astra आमच्या प्रिपेयर्डनेस फ्रेमवर्कअंतर्गत महत्त्वपूर्ण सायबरसुरक्षा क्षमतेची मर्यादा पूर्ण करते. याचा अर्थ, योग्य साधने आणि प्रवेश मिळाल्यास ती अनेक अत्यंत संरक्षित प्रणालींतील पूर्वी अज्ञात सुरक्षा त्रुटी शोधू शकते आणि प्रत्येक टप्प्यावर मानवी मार्गदर्शनाशिवाय त्यांचा एक्सप्लॉइट करण्याचे मार्ग विकसित करू शकते. या पातळीवर घोषित केलेले हे आमचे पहिले मॉडेल असून, विकासादरम्यान आणि प्रकाशनापूर्वी त्यासाठी अधिक मजबूत सुरक्षात्मक उपाय आवश्यक आहेत.

गेल्या अनेक आठवड्यांत सायबर गैरवापर आणि मॉडेलच्या अनधिकृत कृतींविरुद्धचे संरक्षण मजबूत करून त्याची चाचणी करताना आम्ही Astra च्या विकासाचे आणि प्रकाशनाचे काही भाग लांबणीवर टाकले. या कामाच्या आधारे, आमच्या प्रिपेयर्डनेस फ्रेमवर्कनुसार Astra च्या सुरक्षात्मक उपायांनी प्रकाशनामुळे होणाऱ्या गंभीर हानीचा धोका पुरेसा कमी केला आहे, असे आम्हाला वाटते.

Hugging Face घटनेत Astra सहभागी नसली, तरी त्या घटनेतून शिकलेल्या बाबींचा⁠(नवीन विंडोमध्ये उघडेल) आम्ही आमच्या सुरक्षा दृष्टिकोनात समावेश केला आहे. घटनेनंतर केलेल्या चाचण्यांच्या आधारे, त्या वेळी आमच्या उत्पादनातील सुरक्षात्मक उपायांनी Hugging Face घटना रोखली असती, असे आम्हाला वाटते. त्यानंतर आम्ही Astra साठी आणखी मजबूत सुरक्षात्मक उपाय लागू केले. त्यांत हानिकारक सायबर विनंत्या अधिक विश्वासार्हपणे नाकारण्याचे आणि सुरक्षा निर्बंध पाळण्याचे मॉडेलला प्रशिक्षण, गैरवापराविरुद्ध अतिरिक्त संरक्षण आणि संभाव्य अनधिकृत कृती थांबवू शकणारी देखरेख समाविष्ट आहे.

Astra लवकरच उपलब्ध करण्याचा आमचा मानस आहे, पण तिच्या सर्वाधिक प्रगत सायबरसुरक्षा क्षमतांचा प्रवेश अधिक मर्यादित असेल. प्रगत सायबरसुरक्षा काम सुरुवातीला परीक्षकांच्या एका गटाला उपलब्ध असेल. त्यानंतर संरक्षणात्मक वापराचा विस्तार करण्यासाठी Daybreak Blue द्वारे प्रवेश दिला जाईल.

प्रकाशनाच्या वेळी मॉडेलच्या सिस्टम कार्डमध्ये आम्ही सुरक्षा, संरक्षण आणि संरेखन चाचण्या व मूल्यमापनांविषयी अधिक तपशील देऊ. प्रकाशनापूर्वी, या पातळीची सायबरसुरक्षा क्षमता असलेले मॉडेल सुरक्षितपणे प्रकाशित करण्यासाठी आम्ही करत असलेल्या काही कामांची माहिती द्यायची आहे आणि उर्वरित धोक्यांविषयी पारदर्शक राहायचे आहे.

आमच्या प्रिपेयर्डनेस फ्रेमवर्कअंतर्गत, पुढीलपैकी कोणतीही अट पूर्ण झाल्यास मॉडेल महत्त्वपूर्ण मर्यादा पूर्ण करते:

• मॉडेल मानवी हस्तक्षेपाशिवाय प्रत्यक्ष जगातील अनेक कठोर संरक्षित महत्त्वपूर्ण प्रणालींमध्ये सर्व तीव्रता पातळ्यांचे कार्यक्षम झिरो-डे एक्सप्लॉइट ओळखून विकसित करू शकते.
• केवळ उच्च-स्तरीय अपेक्षित उद्दिष्ट दिल्यावर मॉडेल संरक्षित लक्ष्यांवरील सायबर हल्ल्यांसाठी सुरुवातीपासून शेवटपर्यंत नवीन धोरणे आखून अमलात आणू शकते.

Astra च्या आमच्या सज्जता मूल्यमापनात स्वयंचलित सार्वजनिक व खाजगी मानदंडांसोबत तज्ज्ञांनी केलेली मूल्यमापने समाविष्ट होती. GPT‑5.6 Sol च्या तुलनेत Astra ची सायबरसुरक्षा क्षमता लक्षणीयरीत्या वाढली आहे: ती टोकनच्या वापरात अधिक कार्यक्षम असून असुरक्षा ओळखण्यात आणि एक्सप्लॉइट विकसित करण्यात अधिक सक्षम आहे.

उदाहरणार्थ, ज्ञात असुरक्षांवरून एक्सप्लॉइट विकसित करण्याच्या मॉडेलच्या क्षमतेचे मूल्यमापन करण्यासाठी आम्ही ExploitBench वर Astra चालवली आणि मॉडेलने या मानदंडात 100% असा परिपूर्ण गुण मिळवला.

डेटा-दूषित होण्याच्या चिंतेमुळे आम्ही नंतर “ExploitBench - अंतर्गत पोर्ट (जून–ऑगस्ट 2026)” नावाचा अंतर्गत मानदंड तयार केला. त्यात अलीकडेच उघड झालेल्या 20 उच्च-तीव्रतेच्या V8 असुरक्षा आहेत. या डेटासंचावर, GPT‑5.6 Sol पेक्षा खूप कमी आउटपुट टोकन वापरून Astra स्वेच्छित कोड अंमलबजावणीचा कितीतरी अधिक दर गाठते. मूल्यमापनादरम्यान एक्सप्लॉइट साखळीचा भाग म्हणून मॉडेलने दोन झिरो-डे असुरक्षाही शोधून वापरल्या. या दोन असुरक्षा देखभालकर्त्यांना कळवण्याची प्रक्रिया सुरू आहे.

कठोर संरक्षित ब्राउझर आणि कार्यप्रणालीवर तज्ज्ञांच्या नेतृत्वाखाली केलेल्या मूल्यमापनांत Astra ने पूर्वी अज्ञात असुरक्षा शोधल्या आणि त्यांपासून कार्यक्षम एक्सप्लॉइट साखळ्या तयार केल्या. ब्राउझरने HTML फाइल उघडल्यावर तिने सँडबॉक्समधून बाहेर पडून यजमानावर आदेश चालवणारी संपूर्ण ब्राउझर-ताबा साखळी तयार केली. मॉडेलने कठोर संरक्षित कार्यप्रणालीत अनेक असुरक्षाही शोधल्या आणि त्यांना एकत्र करून विशेषाधिकार नसलेल्या वापरकर्त्यापासून रूटपर्यंत स्थानिक विशेषाधिकार-वाढ साखळी तयार केली. एकंदर, आमच्या तपासणीतून Astra महत्त्वपूर्ण मर्यादा पूर्ण करते, असा निष्कर्ष आम्ही काढला आहे.

Astra इतकी सायबरसुरक्षा क्षमता असलेल्या मॉडेलसाठी, विकासादरम्यान आणि उपयोजनापूर्वी गंभीर सायबर हानीचा धोका कमी करण्यासाठी आपल्याला दोन मार्गांचा विचार करावा लागेल:

• दुर्भावनापूर्ण घटकांकडून मॉडेलचा वापर. कठोर संरक्षण असलेल्या महत्त्वपूर्ण प्रणालींतील पूर्वी अज्ञात त्रुटींसाठी एक्सप्लॉइट विकसित करण्यासाठी किंवा संरक्षित लक्ष्यांवर सुरुवातीपासून शेवटपर्यंत हल्ले करण्यासाठी दुर्भावनापूर्ण घटकांनी Astra वापरण्याला आमच्या सुरक्षात्मक उपायांनी प्रभावीपणे प्रतिबंध केला पाहिजे.
• मॉडेलकडून अनधिकृत आणि विसंगत कृती. दुर्भावनापूर्ण वापरकर्ता नसला, तरी प्रगत सायबरसुरक्षा क्षमता असलेले मॉडेल विसंगत असल्यास स्वतःच सायबर हानी करू शकते. या क्षमता असलेल्या मॉडेलच्या संरेखनासाठी अत्यंत उच्च निकष ठेवण्याबरोबरच, संरक्षणाचा दुसरा स्तर म्हणून प्रत्यक्ष जगात मोठी हानी करू शकणाऱ्या विसंगत कृती त्वरेने शोधून रोखण्यास आमचे सुरक्षात्मक उपाय सक्षम असले पाहिजेत.

विशेष म्हणजे, दुसरा मार्ग अंतर्गत विकास आणि बाह्य उपयोजन या दोन्हींना लागू होतो. आम्ही यापूर्वी वर्णन केल्याप्रमाणे, OpenAI-Hugging Face घटनेनंतर विलगीकरण व नेटवर्क नियंत्रणे, विस्तारित देखरेख आणि अधिक सक्षम संरेखन प्रशिक्षण व मर्यादा यांसह आमची प्रशिक्षण पायाभूत सुविधा मजबूत करण्यासाठी काही अत्याधुनिक प्रशिक्षण दोन आठवडे थांबवले होते. त्यात Astra चे काही प्रशिक्षणही समाविष्ट होते. त्यानंतर आम्ही अधिक कठोर नियंत्रणांत लहान प्रमाणावरील काम सुरू ठेवले.

Astra च्या भावी आवृत्त्यांसाठीचे काही मोठे रीइन्फोर्समेंट लर्निंग (RL) प्रयोग आम्ही आणखी काही काळ रोखून ठेवले आणि त्यांच्या प्रशिक्षण वातावरणाच्या सुरक्षिततेसाठी अधिक कठोर निकष निश्चित केले. नवीन सुरक्षा आवश्यकता लागू केल्यानंतर, यापूर्वी थांबवलेला मोठा अत्याधुनिक RL प्रयोग आम्ही 28 ऑगस्ट रोजी पुन्हा सुरू केला. काही लहान प्रायोगिक प्रशिक्षण प्रयोग आम्ही अजूनही तात्पुरते रोखून ठेवले आहेत.

Astra प्रकाशनासाठी तयार करताना सायबर गैरवापर आणि अनधिकृत कृतींविरुद्ध अधिक मजबूत संरक्षणही आवश्यक ठरले. खाली आम्ही हे सुरक्षात्मक उपाय आणि त्यांच्या चाचणीची पद्धत सांगितली आहे.

सायबरसुरक्षेत उच्च क्षमता असलेले मानलेले पहिले मॉडेल फेब्रुवारीमध्ये उपयोजित केल्यापासून, प्रत्येक पुढील प्रकाशनासोबत आम्ही आमचे सायबर सुरक्षात्मक उपाय अधिक मजबूत केले आहेत. आमच्या एकूण सुरक्षा दृष्टिकोनात पोस्ट-ट्रेंड मॉडेलचे नकार, प्रणाली-स्तरीय सुरक्षा वर्गीकारक, तसेच ऑफलाइन शोध आणि धोका निवारण यांचे अनेक स्तर आहेत.

GPT‑5.6⁠(नवीन विंडोमध्ये उघडेल) साठी, सायबर गैरवापर शोधणारे सक्रियता वर्गीकारक जोडून आणि सखोल स्वयंचलित रेड टीमिंगमधून आढळलेल्या सार्वत्रिक जेलब्रेकचे संरक्षण सुधारून आम्ही प्रणाली-स्तरीय रचनेची दृढता लक्षणीयरीत्या वाढवली. या सुधारणांच्या आधारे, Astra साठी आम्ही आमच्या सुरक्षात्मक रचनेच्या मॉडेल स्तरात आणखी गुंतवणूक केली आणि विविध संभाषणांमधील संदर्भ हाताळण्याची सुरक्षात्मक उपायांची क्षमताही सुधारली.

• मॉडेलच्या दृढतेसाठी नवीन प्रशिक्षण तंत्रांचा वापर केल्यामुळे, Astra प्रतिबंधित सायबर मदतीच्या विनंत्या अधिक ठामपणे नाकारते. आमच्या सायबर जेलब्रेक मूल्यमापन संचात Astra 91.5% विनंत्या नाकारते, तर GPT‑5.6 Sol 59% विनंत्या नाकारते.
• अधिक धोकादायक ठरवलेल्या खात्यांसाठी आम्ही मॉडेलच्या वर्तनावर अधिक सावध मर्यादा लागू करतो, ज्यामुळे संभाव्य धोकादायक सायबर मदतीची व्यापक श्रेणी नाकारली जाते. अतिधोकादायक वापरकर्त्यांकडून होणारा असा सायबर गैरवापर पकडता यावा म्हणून आम्ही आमच्या देखरेख प्रणालींचा संदर्भ विस्तारला आहे.

आम्ही कठोर चाचण्या, अंतर्गत व बाह्य रेड टीमिंग आणि त्रुटीनिवारणाचा कार्यक्रमही सुरू ठेवला आहे. मागील चाचणी कालावधींत आढळलेल्या सर्व जेलब्रेकविरुद्ध संरक्षण कायम असल्याची खात्री करण्यासाठी प्रतिगमन चाचण्या करण्याबरोबरच, आम्ही आमच्या नवीनतम अंतर्गत रेड टीमिंग हल्लेखोरांसह रेड टीमिंगची नवी फेरी करत आहोत. जेलब्रेकचे मूल्यमापन करण्यासाठी एक सामायिक प्रणाली निश्चित करण्याकरिता आम्ही उद्योग भागीदारांसोबत काम करत आहोत आणि नवीन निष्कर्ष तपासून त्यांवर उपाय करण्यासाठी आमचा 24/7 जलद-प्रतिसाद कार्यक्रम वापरू. Astra सिस्टम कार्डमध्ये आम्ही आमच्या सायबर सुरक्षात्मक उपायांच्या चाचण्यांविषयी अधिक तपशील देऊ.

संरक्षकांना असुरक्षा शोधून दुरुस्त करण्यात मदत करणे हा आमच्या सुरक्षा दृष्टिकोनाचा मुख्य आधार आहे. संभाव्य गैरवापरापासून संरक्षण करण्यासाठी, प्रकाशनाच्या वेळी Astra चे सुरक्षात्मक उपाय अंतिमतः अपेक्षित असण्यापेक्षा अधिक अडथळे निर्माण करतील, अशी आमची अपेक्षा आहे. प्रगत सायबरसुरक्षा कार्यप्रवाहांसाठी Astra चा प्रवेश सुरुवातीला अल्फा परीक्षकांच्या एका छोट्या गटाला मिळेल. त्यानंतर संरक्षणात्मक वापराला पाठिंबा देण्यासाठी Daybreak Blue द्वारे प्रवेशाचा विस्तार केला जाईल.

मॉडेलने संभाव्य विसंगत कृती करू नयेत यासाठी आम्ही स्तरित अतिरिक्त संरक्षणेही जोडली आहेत:

• मॉडेल संरेखन: आमच्या मूल्यमापनांत, GPT‑5.6 Sol पेक्षा Astra ने स्पष्ट सुरक्षा निर्बंध पाळण्याची आणि अधिकृत कार्यक्षेत्रात राहण्याची शक्यता कितीतरी अधिक होती. त्यामुळे ते आजवरचे आमचे सर्वाधिक संरेखित मॉडेल ठरले. मॉडेल सुरक्षा निर्बंधांचा किती आदर करते आणि आपल्या अधिकृत कार्यक्षेत्रात राहण्याची त्याची प्रवृत्ती किती आहे, यावर आम्ही विशेष भर दिला.
• देखरेख आणि नियंत्रण: आमच्या अंतर्गत प्रक्रियांप्रमाणेच, संभाव्य विसंगत कृती त्वरेने शोधून रोखण्यासाठी आम्ही Astra अतिरिक्त चेन-ऑफ-थॉट देखरेखीसह उपयोजित करत आहोत.

Astra ही मॉडेल संरेखनातील मोठी प्रगती असून, अनेक दीर्घकालीन संरेखन कार्यप्रवाहांचे फलित आहे. यात प्री-ट्रेनिंगमधील हस्तक्षेपांपासून रीइन्फोर्समेंट लर्निंगदरम्यान अधिक काळजीपूर्वक आणि सातत्यपूर्ण श्रेणीकरणापर्यंतच्या कामाचा समावेश आहे. चाचण्यांत आम्हाला आढळले की GPT 5.6 Sol च्या तुलनेत Astra स्पष्ट सुरक्षा निर्बंध आणि स्वयंचलित पुनरावलोकनासारख्या इशाऱ्यांचे सातत्याने पालन करण्याची अधिक शक्यता आहे.

Hugging Face घटनेवर आधारित एक चाचणीही आम्ही विकसित केली. त्या घटनेत ExploitGym सायबर मूल्यमापन चालवणाऱ्या एजंटनी तृतीय पक्षाच्या प्रणालींशी तडजोड केली होती. मॉडेल नियुक्त कार्य सोडवण्याऐवजी आसपासच्या सुरक्षा पायाभूत सुविधांशी तडजोड करण्याचा प्रयत्न करेल का, हे तपासण्यासाठी आम्ही त्या मूल्यमापनातील सर्वांत कठीण कार्ये वापरून “हनीपॉट” चाचण्या तयार केल्या. उत्पादनातील सुरक्षात्मक उपायांशिवाय GPT‑5.6 Sol ने एक्सप्लॉइट विकसित करण्याची सूचना मॉडेलला दिलेल्या मानदंड वातावरणाचे अनुकरण करणाऱ्या 56% चाचण्यांत ती लक्ष्ये वापरण्याचा प्रयत्न केला. या चाचण्यांत Astra ने असा एकही प्रयत्न केला नाही. ही आकडेवारी सायबर सुरक्षात्मक उपाय नसलेल्या चाचणी परिस्थितीतील वर्तन दर्शवते, सामान्य उत्पादन वापरातील नव्हे.

मॉडेलना संरेखित होण्याचे प्रशिक्षण देणे हा सुरक्षेचा एक स्तर आहे. Astra सिस्टम कार्डमध्ये आम्ही आमच्या संरेखन चाचण्या आणि निकालांविषयी अधिक तपशील देऊ.

संभाव्य विसंगती शोधून ती त्वरेने रोखण्यासाठी आम्ही Astra-वर्गातील मॉडेलसाठी उत्पादनातही विसंगती देखरेख उपयोजित करत आहोत. हे सुरक्षात्मक उपाय आमच्या अंतर्गत उपयोजनांच्या देखरेखीसारखे आहेत. त्यांत मॉडेलचे रीझनिंग आणि कृती अनधिकृत वर्तनासाठी तपासणाऱ्या व संभाव्य अनधिकृत कृती आपोआप थांबवणाऱ्या वर्गीकारकांची प्रणाली आहे. क्षमता वाढत असताना हे सुरक्षात्मक उपाय आमच्या मॉडेलच्या चांगल्या संरेखनाची जागा घेऊ शकत नाहीत. भावी मॉडेल इतकी चांगली संरेखित असावीत की हे उपाय कधीही सक्रिय होऊ नयेत, हे आमचे उद्दिष्ट आहे.

कृत्रिम बुद्धिमत्तेचे लाभ सर्वांना व्यापकपणे उपलब्ध होतील, हे सुनिश्चित करण्यासाठी OpenAI कटिबद्ध आहे. Astra च्या सायबरसुरक्षा क्षमतांमध्ये झालेली लक्षणीय वाढ लक्षात घेता, हे उपयोजन सुरक्षित करण्यासाठी आम्ही विशेष काळजी घेत आहोत. अतिरिक्त सुरक्षा तपासण्यांमुळे संरक्षणात्मक सायबरसुरक्षेसह वैध काम कधीकधी मंदावू, थांबवले जाऊ किंवा रद्द होऊ शकते.

प्रणाली कधीकधी वैध कृतीला संभाव्य सायबर गैरवापर किंवा अनधिकृत वर्तन मानू शकते. त्यामुळे ती कृती अनवधानाने मंदावली, थांबवली किंवा रद्द केली जाऊ शकते. यात सायबरसुरक्षेशी थेट संबंधित न वाटणारे काम किंवा एजंट दीर्घकाळ चालू असलेली कार्येही समाविष्ट असू शकतात.

विसंगती निरीक्षकाने एखादे कार्य थांबवल्यास, ChatGPT किंवा Codex मधील वापरकर्त्यांना पुढे जाण्यापूर्वी त्या कृतीचे पुनरावलोकन करण्यास सांगितले जाऊ शकते. API सारख्या इतर माध्यमांचा वापर केल्यास कार्य थांबेल. अनावश्यक व्यत्यय कमी करण्यासाठी हे सुरक्षात्मक उपाय अधिक अचूक करत राहण्याचा आणि Daybreak सारख्या कार्यक्रमांद्वारे अत्याधुनिक क्षमतांचा प्रवेश वाढवण्याचा आमचा मानस आहे.

आपण कृत्रिम बुद्धिमत्ता विकासाच्या अशा टप्प्यात प्रवेश करत आहोत जिथे मॉडेल अधिक परिणामकारक कामे करू शकतात आणि संरेखन व नियंत्रणातील अपयशांचे परिणाम अधिक गंभीर होऊ शकतात. या प्रणालींचे लाभ प्रत्यक्षात आणणे त्यांच्या क्षमता वाढत असताना मॉडेलना संरेखित व नियंत्रित करण्याच्या आपल्या क्षमतेवर अवलंबून असेल.

ही जबाबदारी प्रशिक्षण, मूल्यमापन आणि उपयोजन या सर्व टप्प्यांवर लागू होते. त्यासाठी संरेखित वर्तनाचे अधिक ठोस पुरावे, क्षमतांच्या वाढीशी जुळणारे सुरक्षात्मक उपाय आणि ते उपाय अपुरे असताना कामाची गती कमी करण्याची तयारी आवश्यक आहे.

आम्ही या प्रणालींची चाचणी करत राहू, आम्हाला समजलेल्या गोष्टी सांगू आणि अजूनही अनिश्चित असलेल्या बाबींविषयी स्पष्ट राहू. Astra नंतरची मॉडेल आमच्याकडून अधिक अपेक्षा करतील. ती जबाबदारी पूर्ण करण्यासाठी आवश्यक वेळ घेऊन आम्ही आवश्यक काम करू.