डिपार्टमेंट ऑफ वॉर के साथ हमारा समझौता
2 मार्च, 2026 का अपडेट
हमारी चर्चाओं के दौरान, विभाग ने स्पष्ट किया कि वह इस बात को सुनिश्चित करने की हमारी प्रतिबद्धता साझा करता है कि हमारे टूल्स का उपयोग घरेलू निगरानी के लिए नहीं किया जाएगा. अपने सिद्धांतों को जितना संभव हो उतना स्पष्ट बनाने के लिए, हमने मिलकर अपने समझौते में अतिरिक्त भाषा जोड़ी.
यह भाषा स्पष्ट रूप से बताती है कि हमारे टूल्स का उपयोग U.S. व्यक्तियों की घरेलू निगरानी के लिए नहीं किया जाएगा, जिसमें व्यावसायिक रूप से प्राप्त व्यक्तिगत या पहचान योग्य जानकारी की खरीद या उपयोग भी शामिल है. विभाग ने यह भी पुष्टि की कि हमारी सेवाओं का उपयोग Department of War की इंटेलिजेंस एजेंसियाँ, जैसे NSA, नहीं करेंगी. उन एजेंसियों को दी जाने वाली किसी भी सेवा के लिए एक नए समझौते की आवश्यकता होगी.
नई भाषा इस प्रकार है:
- लागू कानूनों के अनुरूप, जिनमें United States Constitution का Fourth Amendment, National Security Act of 1947, और FISA Act of 1978 शामिल हैं, AI सिस्टम का जानबूझकर उपयोग U.S. व्यक्तियों और नागरिकों की घरेलू निगरानी के लिए नहीं किया जाएगा.
- किसी भी संदेह से बचने के लिए, विभाग समझता है कि यह सीमा U.S. व्यक्तियों या नागरिकों की जानबूझकर ट्रैकिंग, निगरानी या मॉनिटरिंग को प्रतिबंधित करती है, जिसमें व्यावसायिक रूप से प्राप्त व्यक्तिगत या पहचान योग्य जानकारी की खरीद या उपयोग भी शामिल है.
डिपार्टमेंट ऑफ वॉर फ्रंटियर AI लैब्स, क्लाउड प्रोवाइडर्स और विभाग की पॉलिसी व ऑपरेशनल कम्युनिटीज़ के नेताओं से मिलकर एक वर्किंग ग्रुप बुलाने की योजना बना रहा है. OpenAI इसमें भाग लेगा और उम्मीद करता है कि आगे चलकर उभरती AI क्षमताओं, प्राइवेसी और राष्ट्रीय सुरक्षा से जुड़ी चुनौतियों पर चल रही बातचीत के लिए यह एक महत्वपूर्ण फोरम होगा.
ये अपडेट्स उस फ्रेमवर्क पर आधारित हैं जिसकी घोषणा हमने पिछले सप्ताह की थी, और हमें उम्मीद है कि आगे चलकर इससे अन्य लैब्स के लिए विभाग के साथ काम करने का एक मार्ग बनेगा.
कल हमने पेंटागन के साथ क्लासिफाइड एनवायरनमेंट में एडवांस्ड AI सिस्टम्स की डिप्लॉयमेंट के लिए एक एग्रीमेंट किया, और अनुरोध किया कि इसे सभी AI कंपनियों के लिए भी उपलब्ध कराया जाए.
हमें लगता है कि क्लासिफाइड AI डिप्लॉयमेंट्स के लिए हमारा एग्रीमेंट किसी भी पिछले एग्रीमेंट, जिसमें Anthropic का भी शामिल है, से ज़्यादा गार्डरेइल्स प्रदान करता है. इसका कारण यह है.
हमारे पास DoW के साथ अपने काम का मार्गदर्शन करने वाली तीन मुख्य रेड लाइन्स हैं, जिन्हें आमतौर पर कई अन्य फ्रंटियर लैब्स भी साझा करती हैं:
- जन-स्तरीय घरेलू सर्विलांस के लिए OpenAI टेक्नोलॉजी का कोई उपयोग नहीं.
- ऑटोनॉमस वेपन्स सिस्टम्स को निर्देशित करने के लिए OpenAI टेक्नोलॉजी का कोई उपयोग नहीं.
- उच्च-जोखिम वाले ऑटोमेटेड निर्णयों के लिए OpenAI टेक्नोलॉजी का कोई उपयोग नहीं (जैसे. सिस्टम्स जैसे “सोशल क्रेडिट”).
अन्य AI लैब्स ने नेशनल सिक्योरिटी डिप्लॉयमेंट्स में अपने सेफ्टी गार्डरेइल्स को कम या हटाया है और मुख्य रूप से यूसेज पॉलिसीज़ पर ही अपने प्रमुख सेफगार्ड्स के रूप में निर्भर किया है. हमें लगता है कि हमारा अप्रोच अस्वीकार्य उपयोग के खिलाफ बेहतर सुरक्षा प्रदान करता है.
अपने एग्रीमेंट में, हम अपनी रेड लाइन्स की सुरक्षा एक अधिक व्यापक, मल्टी-लेयर्ड अप्रोच के माध्यम से करते हैं. हम अपने सेफ्टी स्टैक पर पूरा विवेकाधिकार बनाए रखते हैं, क्लाउड के माध्यम से डिप्लॉय करते हैं, क्लियर किए गए OpenAI पर्सोनल प्रक्रिया में शामिल रहते हैं, और हमारे पास मजबूत कॉन्ट्रैक्चुअल प्रोटेक्शन्स हैं. यह सब U.S. कानून में पहले से मौजूद मजबूत प्रोटेक्शन्स के अतिरिक्त है.
हम लोकतंत्र में गहरा विश्वास रखते हैं. इस टेक्नोलॉजी के महत्व को देखते हुए, हमारा मानना है कि आगे बढ़ने का सही रास्ता AI प्रयासों और लोकतांत्रिक प्रक्रिया के बीच गहरे सहयोग से ही संभव है. हम यह भी मानते हैं कि हमारी टेक्नोलॉजी दुनिया में नए जोखिम लेकर आएगी, और हम चाहते हैं कि अमेरिका की रक्षा करने वाले लोगों के पास बेहतरीन टूल्स हों.
हमारे एग्रीमेंट में शामिल है:
1. डिप्लॉयमेंट आर्किटेक्चर. यह केवल क्लाउड-आधारित डिप्लॉयमेंट है, जिसमें हमारा संचालित सेफ्टी स्टैक शामिल है, जो इन सिद्धांतों और अन्य प्रावधानों को समाहित करता है. हम DoW को “गार्डरेइल्स ऑफ” या बिना सेफ्टी ट्रेनिंग वाले मॉडल्स उपलब्ध नहीं करा रहे हैं, और न ही हम अपने मॉडल्स को एज डिवाइसेज़ पर डिप्लॉय कर रहे हैं (जहाँ ऑटोनॉमस घातक वेपन्स के लिए उपयोग की संभावना हो सकती है).
हमारा डिप्लॉयमेंट आर्किटेक्चर हमें इन रेड लाइनों को पार न किए जाने की स्वतंत्र रूप से पुष्टि करने में सक्षम बनाएगा, जिसमें क्लासिफ़ायर को चलाना और अपडेट करना भी शामिल है.
2. हमारा कॉन्ट्रैक्ट. यहाँ प्रासंगिक भाषा है:
डिपार्टमेंट ऑफ वॉर AI सिस्टम का उपयोग सभी विधिसम्मत उद्देश्यों के लिए कर सकता है, बशर्ते यह लागू कानून, ऑपरेशनल आवश्यकताओं और स्थापित सेफ्टी व ओवरसाइट प्रोटोकॉल्स के अनुरूप हो. AI सिस्टम का उपयोग किसी भी ऐसी स्थिति में ऑटोनॉमस वेपन्स को स्वतंत्र रूप से निर्देशित करने के लिए नहीं किया जाएगा, जहाँ कानून, नियम या डिपार्टमेंट की पॉलिसी मानव नियंत्रण की आवश्यकता निर्धारित करती हो, और न ही इसे अन्य उच्च-जोखिम वाले निर्णयों के लिए उपयोग किया जाएगा जिनके लिए समान प्राधिकरणों के तहत मानव निर्णयकर्ता की स्वीकृति आवश्यक हो. DoD Directive 3000.09 (dtd 25 January 2023) के अनुसार, ऑटोनॉमस और सेमी-ऑटोनॉमस सिस्टम्स में AI के किसी भी उपयोग को डिप्लॉयमेंट से पहले कठोर वेरिफिकेशन, वैलिडेशन और टेस्टिंग से गुजरना होगा, ताकि यह सुनिश्चित किया जा सके कि वे वास्तविक परिस्थितियों में निर्धारित उद्देश्य के अनुसार कार्य करें.
इंटेलिजेंस गतिविधियों के लिए, निजी जानकारी का कोई भी प्रबंधन फोर्थ अमेंडमेंट, नेशनल सिक्योरिटी एक्ट ऑफ 1947, फॉरेन इंटेलिजेंस एंड सर्विलांस एक्ट ऑफ 1978, एग्जीक्यूटिव ऑर्डर 12333, तथा स्पष्ट रूप से परिभाषित फॉरेन इंटेलिजेंस उद्देश्य की आवश्यकता वाले लागू DoD डायरेक्टिव्स के अनुरूप होगा. इन प्राधिकरणों के अनुरूप, AI सिस्टम का उपयोग U.S. व्यक्तियों की निजी जानकारी की बिना-सीमा निगरानी के लिए नहीं किया जाएगा. यह सिस्टम घरेलू लॉ-एन्फोर्समेंट गतिविधियों के लिए भी उपयोग नहीं किया जाएगा, सिवाय उन मामलों के जहाँ पॉसे कोमिटेटस एक्ट और अन्य लागू कानून इसकी अनुमति देते हों.
3. AI विशेषज्ञ की भागीदारी. हम सरकार की मदद के लिए क्लियरेंस प्राप्त फॉरवर्ड-डिप्लॉयड OpenAI इंजीनियर्स तैनात करेंगे, और क्लियरेंस प्राप्त सुरक्षा और अलाइनमेंट शोधकर्ताओं को भी प्रक्रिया में शामिल रखेंगे.
आप ऐसा क्यों कर रहे हैं?
पहला, हमारा मानना है कि US मिलिट्री को अपने मिशन का समर्थन करने के लिए मजबूत AI मॉडल्स की बिल्कुल आवश्यकता है, खासकर उन संभावित विरोधियों से बढ़ते खतरों के सामने, जो तेजी से AI टेक्नोलॉजीज़ को अपने सिस्टम्स में इंटीग्रेट कर रहे हैं. शुरुआत में हमने क्लासिफाइड डिप्लॉयमेंट के लिए कॉन्ट्रैक्ट में जल्दबाज़ी नहीं की, क्योंकि हमें नहीं लगा कि हमारे सेफगार्ड्स और सिस्टम्स तैयार थे, और हम यह सुनिश्चित करने के लिए कड़ी मेहनत कर रहे हैं कि क्लासिफाइड डिप्लॉयमेंट ऐसे सेफगार्ड्स के साथ हो, जिससे रेड लाइन्स पार न हों.
हम राष्ट्रीय सुरक्षा से जुड़े कार्य में परफॉर्मेंस बढ़ाने के लिए प्रमुख टेक्निकल सेफगार्ड्स हटाने के लिए पहले भी तैयार नहीं थे—और अब भी नहीं हैं. मिलिट्री का समर्थन करने का सही अप्रोच नहीं है.
दूसरा, हम DoW और US AI लैब्स के बीच स्थिति को डी-एस्केलेट करना भी चाहते थे. एक बेहतर भविष्य के लिए सरकार और AI लैब्स के बीच वास्तविक और गहरा कोलैबोरेशन आवश्यक होगा. इस डील के तहत, हमने अनुरोध किया कि वही शर्तें सभी AI लैब्स के लिए उपलब्ध कराई जाएँ, और विशेष रूप से यह कि सरकार Anthropic के साथ मुद्दों को सुलझाने की कोशिश करे; मौजूदा स्थिति सरकार और AI लैब्स के बीच कोलैबोरेशन के इस अगले चरण की शुरुआत करने का बेहद खराब तरीका है.
जब Anthropic डील तक नहीं पहुँच सका, तो आप कैसे पहुँच पाए? क्या आपने वह डील साइन की, जिसे वे साइन नहीं करना चाहते थे?
जो हम जानते हैं उसके आधार पर, हमारा मानना है कि हमारा कॉन्ट्रैक्ट पहले के एग्रीमेंट्स, जिनमें Anthropic का मूल कॉन्ट्रैक्ट भी शामिल है, की तुलना में बेहतर गारंटी और अधिक जिम्मेदार सेफगार्ड्स प्रदान करता है. हमें लगता है कि यहाँ हमारी रेड लाइन्स अधिक प्रभावी रूप से लागू की जा सकती हैं, क्योंकि डिप्लॉयमेंट केवल क्लाउड तक सीमित है (एज पर नहीं), इससे हमारा सेफ्टी स्टैक उसी तरह काम करता रहता है जैसा हम सही मानते हैं, और क्लियर किए गए OpenAI पर्सोनल प्रक्रिया में शामिल रहते हैं.
हमें नहीं पता कि Anthropic यह डील क्यों नहीं कर सका, और हमें उम्मीद है कि वे और अन्य लैब्स इस पर विचार करेंगे.
क्या आपको लगता है कि Anthropic को “सप्लाई चेन रिस्क” के रूप में नामित किया जाना चाहिए?
नहीं, और हमने इस पर अपनी स्थिति सरकार के सामने स्पष्ट कर दी है.
क्या यह डील डिपार्टमेंट ऑफ वॉर को ऑटोनॉमस वेपन्स को संचालित करने के लिए OpenAI मॉडल्स का उपयोग करने में सक्षम बनाएगी?
नहीं. हमारे सेफ्टी स्टैक, केवल क्लाउड-आधारित डिप्लॉयमेंट, कॉन्ट्रैक्ट की भाषा, और मौजूदा कानून, रेगुलेशन तथा पॉलिसी के आधार पर हमें भरोसा है कि ऐसा नहीं हो सकता. अतिरिक्त आश्वासन के लिए OpenAI पर्सोनल भी प्रक्रिया में शामिल रहेंगे.
क्या यह डील डिपार्टमेंट ऑफ वॉर को U.S. व्यक्तियों पर जन-स्तरीय सर्विलांस करने के लिए OpenAI मॉडल्स का उपयोग करने में सक्षम बनाएगी?
नहीं. हमारे सेफ्टी स्टैक, कॉन्ट्रैक्ट की भाषा, और उन मौजूदा कानूनों के आधार पर जो DoW को घरेलू सर्विलांस से सख्ती से प्रतिबंधित करते हैं, हमें भरोसा है कि ऐसा नहीं हो सकता. अतिरिक्त आश्वासन के लिए OpenAI पर्सोनल भी प्रक्रिया में शामिल रहेंगे.
क्या आपको मॉडल्स को बिना सेफ्टी स्टैक के डिप्लॉय करना होगा?
नहीं, हम जिस सेफ्टी स्टैक को डिप्लॉय करते हैं उस पर पूरा नियंत्रण बनाए रखते हैं और सेफ्टी गार्डरेइल्स के बिना डिप्लॉय नहीं करेंगे. इसके अलावा, हमारे सेफ्टी और अलाइनमेंट रिसर्चर्स प्रक्रिया में शामिल रहेंगे और समय के साथ सिस्टम्स को बेहतर बनाने में मदद करेंगे. हम जानते हैं कि अन्य AI लैब्स ने मॉडल गार्डरेइल्स को कम किया है और प्राथमिक सेफगार्ड के रूप में यूसेज पॉलिसीज़ पर निर्भर रहे हैं, लेकिन हमें लगता है कि हमारा लेयर्ड अप्रोच अस्वीकार्य उपयोग के खिलाफ बेहतर सुरक्षा प्रदान करता है.
यदि सरकार कॉन्ट्रैक्ट की शर्तों का उल्लंघन करती है तो क्या होगा?
किसी भी कॉन्ट्रैक्ट की तरह, यदि काउंटरपार्टी शर्तों का उल्लंघन करती है तो हम इसे टर्मिनेट कर सकते हैं. हमें उम्मीद नहीं है कि ऐसा होगा.
यदि सरकार कानून या मौजूदा DoW पॉलिसीज़ में बदलाव कर दे तो क्या होगा?
हमारा कॉन्ट्रैक्ट सर्विलांस और ऑटोनॉमस वेपन्स से जुड़े कानूनों और पॉलिसीज़ का स्पष्ट रूप से जैसा वे आज मौजूद हैं संदर्भ देता है, ताकि भविष्य में यदि वे कानून या पॉलिसीज़ बदल भी जाएँ, तब भी हमारे सिस्टम्स का उपयोग एग्रीमेंट में दर्शाए गए वर्तमान मानकों के अनुरूप ही बना रहे.
DoW के साथ अपनी चर्चा को लेकर Anthropic ने अपने ब्लॉग पोस्ट(एक नई विंडो में खुलेगा) में जो तर्क दिए हैं, उनका आप कैसे जवाब देते हैं?
अपने पोस्ट में, Anthropic ने अपनी दो रेड लाइन्स का उल्लेख किया है (हमारी भी वही दो रेड लाइन्स हैं, साथ ही एक तीसरी: ऑटोमेटेड हाई-स्टेक्स डिसीजन मेकिंग), और उन्होंने यह कारण बताया कि उस समय DoW से देखे गए कॉन्ट्रैक्ट्स में उन्हें विश्वास नहीं था कि इन रेड लाइन्स का पालन सुनिश्चित किया जाएगा. नीचे बताया गया है कि हमें क्यों विश्वास है कि वही रेड लाइन्स हमारे कॉन्ट्रैक्ट में भी लागू रहेंगी:
- जन-स्तरीय घरेलू सर्विलांस. हमारी बातचीत में यह स्पष्ट था कि DoW जन-स्तरीय घरेलू सर्विलांस को अवैध मानता है और इस उद्देश्य के लिए इसका उपयोग करने की उसकी कोई योजना नहीं थी. हमने यह सुनिश्चित किया कि इसे विधिसम्मत उपयोग के अंतर्गत शामिल न होने की बात हमारे कॉन्ट्रैक्ट में स्पष्ट रूप से दर्ज की जाए.
- फुली ऑटोनॉमस वेपन्स. हमारे कॉन्ट्रैक्ट में शामिल क्लाउड डिप्लॉयमेंट सरफेस फुली ऑटोनॉमस वेपन्स को पावर करने की अनुमति नहीं देगा, क्योंकि इसके लिए एज डिप्लॉयमेंट की आवश्यकता होगी.
इन सुरक्षा उपायों के अलावा, हमारा कॉन्ट्रैक्ट अतिरिक्त लेयर्ड सेफगार्ड्स भी प्रदान करता है, जिनमें हमारा सेफ्टी स्टैक और OpenAI टेक्निकल एक्सपर्ट्स प्रक्रिया में शामिल रहना शामिल है.
