युद्ध विभागा सोबतचा आमचा करार

काल आम्ही पेंटागॉनसोबत वर्गीकृत वातावरणांमध्ये प्रगत AI प्रणाली तैनात करण्यासाठी एक करार केला, आणि आम्ही त्यांना हे सर्व AI कंपन्यांसाठीही उपलब्ध करून देण्याची विनंती केली.

आम्हाला वाटते की वर्गीकृत AI तैनातींसाठी आमच्या करारामध्ये, Anthropic च्या करारासह, कोणत्याही पूर्वीच्या करारापेक्षा अधिक सुरक्षा उपाय आहेत. हे का आहे ते येथे आहे.

DoW सोबतच्या आमच्या कामाला मार्गदर्शन करणाऱ्या तीन मुख्य लाल रेषा आहेत, ज्या सर्वसाधारणपणे इतर अनेक अत्याधुनिक लॅब्सद्वारेही सामायिक केल्या जातात:

• मोठ्या प्रमाणावर देशांतर्गत पाळत ठेवण्यासाठी OpenAI तंत्रज्ञानाचा वापर नाही.
• स्वायत्त शस्त्र प्रणालींना दिशा देण्यासाठी OpenAI तंत्रज्ञानाचा वापर नाही. 
• उच्च-जोखमीच्या स्वयंचलित निर्णयांसाठी OpenAI तंत्रज्ञानाचा वापर नाही (उदा. “सामाजिक क्रेडिट”) सारख्या प्रणाली.

इतर AI लॅब्सनी त्यांच्या सुरक्षा उपायांमध्ये कपात केली किंवा ते काढून टाकले आणि राष्ट्रीय सुरक्षा तैनातींमध्ये प्राथमिक संरक्षण म्हणून प्रामुख्याने वापर धोरणांवर अवलंबून राहिले. आम्हाला वाटते की आमचा दृष्टिकोन अस्वीकार्य वापरापासून अधिक चांगले संरक्षण करतो.

आमच्या करारामध्ये, आम्ही अधिक व्यापक, बहु-स्तरीय दृष्टिकोनाद्वारे आमच्या लाल रेषांचे संरक्षण करतो. आमच्या सेफ्टी स्टॅकवर आमचा पूर्ण स्वविवेकाधिकार आहे, आम्ही क्लाउडद्वारे डिप्लॉय करतो, क्लिअर केलेले OpenAI कर्मचारी प्रक्रियेत सहभागी असतात, आणि आमच्याकडे मजबूत करारात्मक संरक्षणे आहेत. हे सर्व U.S. कायद्यातील विद्यमान मजबूत संरक्षणांव्यतिरिक्त आहे. 

आम्हाला लोकशाहीवर ठाम विश्वास आहे. या तंत्रज्ञानाचे महत्त्व लक्षात घेता, आम्हाला विश्वास आहे की पुढे जाण्यासाठीचा एकमेव चांगला मार्ग म्हणजे AI प्रयत्न आणि लोकशाही प्रक्रिया यांच्यातील सखोल सहकार्य. आम्हाला हेही वाटते की आमचे तंत्रज्ञान जगात नवीन जोखीम निर्माण करणार आहे, आणि संयुक्त राज्यांचे संरक्षण करणाऱ्या लोकांकडे सर्वोत्तम साधने असावीत अशी आमची इच्छा आहे.

आमच्या करारामध्ये समाविष्ट आहेत:

1. डिप्लॉयमेंट आर्किटेक्चर. हे केवळ क्लाउड-आधारित उपयोजन आहे, ज्यामध्ये आम्ही चालवतो असा सुरक्षा स्टॅक आहे, ज्यात ही तत्त्वे आणि इतरही समाविष्ट आहेत. आम्ही DoW ला “guardrails off” किंवा सुरक्षा प्रशिक्षण न दिलेली मॉडेल्स प्रदान करत नाही, तसेच आम्ही आमची मॉडेल्स एज डिव्हाइसेसवर तैनात करत नाही (जिथे स्वायत्त प्राणघातक शस्त्रांसाठी वापर होण्याची शक्यता असू शकते). 

आमचे डिप्लॉयमेंट आर्किटेक्चर आम्हाला वर्गीकरण करणारे चालवणे आणि अद्यतनित करणे यासह, या रेड लाईन्स ओलांडल्या जात नाहीत याची स्वतंत्रपणे पडताळणी करण्यास सक्षम करेल.

2. आमचा करार. येथे संबंधित भाषा आहे:

युद्ध विभाग लागू कायदे, ऑपरेशनल आवश्यकता आणि सुस्थापित सुरक्षा व देखरेख प्रोटोकॉलशी सुसंगत सर्व कायदेशीर हेतूंकरिता AI प्रणालीचा वापर करू शकतो. कायदा, नियम किंवा विभागाच्या धोरणामुळे मानवी नियंत्रणाची आवश्यकता असलेल्या कोणत्याही परिस्थितीत स्वायत्त शस्त्रास्त्रांना स्वतंत्रपणे निर्देश देण्यासाठी AI प्रणालीचा वापर केला जाणार नाही, तसेच त्याच अधिकारांअंतर्गत मानवी निर्णयकर्त्याच्या मंजुरीची आवश्यकता असलेल्या इतर उच्च-जोखीम निर्णय घेण्यासाठीही त्याचा वापर केला जाणार नाही. DoD निर्देश 3000.09 (दिनांक 25 जानेवारी 2023) नुसार, स्वायत्त आणि अर्ध-स्वायत्त प्रणालींमध्ये कृत्रिम बुद्धिमत्तेचा कोणताही वापर तैनातीपूर्वी वास्तविक परिस्थितीत अपेक्षितप्रमाणे कार्य करतो याची खात्री करण्यासाठी कठोर पडताळणी, प्रमाणीकरण आणि चाचणी प्रक्रियेतून जाणे आवश्यक आहे.

गुप्तचर उपक्रमांसाठी, खाजगी माहिती हाताळताना चौथा दुरुस्ती, 1947 चा राष्ट्रीय सुरक्षा कायदा, 1978 चा परकीय गुप्तचर व देखरेख कायदा, कार्यकारी आदेश 12333 आणि परकीय गुप्तचर हेतू निश्चित करणाऱ्या लागू DoDच्या निर्देशांचे पालन केले जाईल. AI प्रणालीचा वापर या अधिकारांशी सुसंगतपणे U.S. व्यक्तींच्या खाजगी माहितीच्या अनियंत्रित देखरेखीकरिता केला जाणार नाही. Posse Comitatus Act आणि इतर लागू कायद्याने परवानगी दिल्याशिवाय, या प्रणालीचा वापर देशांतर्गत कायदा अंमलबजावणीच्या कार्यांसाठी केला जाणार नाही.

3. AI तज्ञांचा सहभाग. आमच्याकडे सरकारला मदत करणारे, मंजूर केलेले फॉरवर्ड-डिप्लॉयड OpenAI अभियंते असतील आणि मंजूर केलेले सुरक्षा व अलाइनमेंट संशोधक प्रक्रियेत सहभागी असतील. 

तुम्ही हे का करत आहात? 

पहिलं, आमच्या मते अमेरिकन लष्कराला त्यांच्या मिशनला सपोर्ट करण्यासाठी मजबूत AI मॉडेल्सची नितांत गरज आहे, विशेषतः संभाव्य प्रतिस्पर्ध्यांकडून वाढत्या धोक्यांच्या पार्श्वभूमीवर, जे त्यांच्या सिस्टीम्समध्ये AI तंत्रज्ञान अधिकाधिक समाकलित करत आहेत. आम्ही सुरुवातीला वर्गीकृत तैनातीसाठी करारात सामील झालो नव्हतो, कारण आमच्या सुरक्षितता उपाय आणि प्रणाली तयार नसल्याचे आम्हाला वाटत होते, आणि लाल रेषा ओलांडल्या जाऊ नयेत यासाठी सुरक्षिततेच्या उपाययोजनांसह वर्गीकृत तैनाती होऊ शकेल याची खात्री करण्यासाठी आम्ही खूप मेहनत घेत आहोत. 

आम्ही राष्ट्रीय सुरक्षेशी संबंधित कामातील कार्यक्षमता वाढवण्यासाठी महत्त्वाचे तांत्रिक सुरक्षा उपाय काढून टाकण्यास अनिच्छुक होतो—आणि अजूनही आहोत. अमेरिकन लष्कराला समर्थन करण्यासाठी तो योग्य दृष्टिकोन नाही. 

दुसरे म्हणजे, DoW आणि US AI labs यांच्यातील तणाव कमी करायचा आमचा उद्देशही होता. चांगल्या भविष्यासाठी सरकार आणि AI लॅब्स यांच्यात वास्तविक आणि सखोल सहकार्य आवश्यक असेल. येथील आमच्या कराराचा भाग म्हणून, आम्ही विनंती केली होती की त्याच अटी सर्व AI लॅब्सना उपलब्ध करून दिल्या जाव्यात, आणि विशेषतः सरकारने Anthropic सोबतचे प्रश्न सोडवण्याचा प्रयत्न करावा; सरकार आणि AI लॅब्स यांच्यातील सहकार्याच्या या पुढील टप्प्याची सुरुवात करण्यासाठी सध्याची स्थिती ही अतिशय वाईट पद्धत आहे.

Anthropic करू शकले नाही तेव्हा तुम्ही करार कसा करू शकलात? तुम्ही तो व्यवहार स्वाक्षरी केला का जो त्यांनी केला नाही?

आम्हाला जे माहीत आहे त्यावरून, आम्हाला विश्वास आहे की आमचा करार पूर्वीच्या करारांपेक्षा, Anthropic च्या मूळ करारासह, अधिक चांगल्या हमी आणि अधिक जबाबदार सुरक्षा उपाय प्रदान करतो. आम्हाला वाटतं की आमच्या रेड लाइन्स इथे अधिक अंमलबजावणीयोग्य आहेत, कारण डिप्लॉयमेंट फक्त क्लाउड-ओन्ली (एजवर नाही) इतकंच मर्यादित आहे, आमचा सेफ्टी स्टॅक आम्हाला जसा सर्वोत्तम वाटतो तसा कार्यरत ठेवतो, आणि क्लिअर केलेले OpenAI कर्मचारी प्रक्रियेत सहभागी राहतात.

Anthropic हा करार का करू शकला नाही हे आम्हाला माहीत नाही, आणि आम्हाला आशा आहे की ते आणि अधिक लॅब्स याचा विचार करतील.

तुम्हाला वाटते का की Anthropic ला “पुरवठा साखळी जोखीम” म्हणून घोषित करायला हवे?

नाही, आणि आम्ही याबाबतची आमची भूमिका सरकारसमोर स्पष्ट केली आहे.

हा करार युद्ध विभागाला स्वायत्त शस्त्रांना सामर्थ्य देण्यासाठी OpenAI मॉडेल्स वापरण्यास सक्षम करेल का? 

नाही. आमच्या सुरक्षा स्टॅक, आमच्या केवळ-क्लाउड डिप्लॉयमेंट, करारातील भाषा, आणि विद्यमान कायदे, नियमावली आणि धोरण यांच्या आधारे, हे घडू शकत नाही याबद्दल आम्हाला खात्री आहे. अतिरिक्त आश्वासनासाठी आम्ही OpenAI कर्मचारी देखील प्रक्रियेत सहभागी ठेवू.  

हा करार Department of War ला U.S. persons वर मोठ्या प्रमाणावर पाळत ठेवण्यासाठी OpenAI मॉडेल्स वापरण्यास सक्षम करेल का?

नाही. आमच्या सुरक्षा स्टॅक, करारातील भाषा आणि देशांतर्गत पाळत ठेवण्यापासून DoW ला मोठ्या प्रमाणात मर्यादित करणारे विद्यमान कायदे यांच्या आधारे, हे घडू शकत नाही याबद्दल आम्हाला आत्मविश्वास आहे. अतिरिक्त आश्वासनासाठी आम्ही OpenAI कर्मचारी देखील प्रक्रियेत सहभागी ठेवू.  

तुम्हाला सुरक्षा स्टॅकशिवाय मॉडेल्स तैनात करावे लागतात का?

नाही, आम्ही तैनात करत असलेल्या सुरक्षा स्टॅकवर पूर्ण नियंत्रण ठेवतो आणि सुरक्षा गार्डरेल्सशिवाय तैनात करणार नाही. याव्यतिरिक्त, आमचे सुरक्षितता आणि अलाइनमेंट संशोधक प्रक्रियेत सहभागी असतील आणि कालांतराने प्रणाली सुधारण्यात मदत करतील. आम्हाला माहिती आहे की इतर AI लॅब्सने मॉडेल गार्डरेल्स कमी केले आहेत आणि प्राथमिक सुरक्षा उपाय म्हणून usage policies वर अवलंबून राहिले आहेत, पण आम्हाला वाटते की आमचा लेयर्ड दृष्टिकोन अस्वीकार्य वापरापासून अधिक चांगले संरक्षण करतो.

जर सरकारने कराराच्या अटींचे उल्लंघन केले तर काय होईल?

कोणत्याही कराराप्रमाणेच, प्रतिपक्षाने अटींचे उल्लंघन केल्यास आम्ही तो समाप्त करू शकतो. आम्हाला असे होईल अशी अपेक्षा नाही.

जर सरकारने फक्त कायदा किंवा विद्यमान DoW धोरणे बदलली तर काय?

आमचा करार पाळत ठेवणे आणि स्वायत्त शस्त्रे यांसंबंधीचे कायदे आणि धोरणे आज जशी अस्तित्वात आहेत तशी स्पष्टपणे संदर्भित करतो, जेणेकरून भविष्यात ते कायदे किंवा धोरणे बदलली तरीही, आमच्या प्रणालींचा वापर करारात प्रतिबिंबित झालेल्या सध्याच्या मानकांशी सुसंगतच राहिला पाहिजे. 

DoW सोबतच्या त्यांच्या चर्चेबद्दल Anthropic ने त्यांच्या ब्लॉग पोस्टमध्ये⁠(नवीन विंडोमध्ये उघडेल) मांडलेल्या युक्तिवादांना तुम्ही कसे उत्तर देता?

त्यांच्या पोस्टमध्ये, Anthropic त्यांच्या दोन रेड-लाइन (आमच्याकडेही त्याच दोन रेड-लाइन आहेत, तसेच तिसरी: automated high-stakes decision making) नमूद करते, आणि त्या वेळी DoW कडून त्यांनी पाहिलेल्या करारांमध्ये या रेड-लाइन पाळल्या जातील असे त्यांना का वाटत नाही याची कारणे देते. खाली आम्हाला का विश्वास आहे की आमच्या करारातही त्या त्याच लाल रेषा लागू राहतील:

• मोठ्या प्रमाणावर देशांतर्गत पाळत ठेवणे. आमच्या परस्परसंवादात हे स्पष्ट झाले की DoW मोठ्या प्रमाणावर देशांतर्गत पाळत ठेवणे बेकायदेशीर मानते आणि या उद्देशासाठी ते वापरण्याची योजना करत नव्हते. आम्ही आमच्या करारामध्ये कायदेशीर वापराच्या अंतर्गत ते समाविष्ट नाही ही बाब स्पष्टपणे नमूद केली असल्याची खात्री केली.
• पूर्णपणे ऑटोनॉमस शस्त्रे. आमच्या करारात समाविष्ट असलेली cloud deployment पृष्ठभाग पूर्णपणे स्वायत्त शस्त्रांना शक्ती पुरवण्यास परवानगी देणार नाही, कारण यासाठी edge deployment आवश्यक असेल. 

या संरक्षणांव्यतिरिक्त, आमचा करार आमच्या सुरक्षा स्टॅकसह आणि लूपमध्ये OpenAI तांत्रिक तज्ज्ञांसह अतिरिक्त स्तरित संरक्षण उपाय प्रदान करतो.