राष्ट्रीय सुरक्षा के मामले में लोकतांत्रिक निगरानी को मज़बूत करना
OpenAI एक नई पहल शुरू कर रहा है ताकि लोकतांत्रिक निगरानी संस्थाओं को ऐसी विशेषज्ञता और टूल्स विकसित करने में मदद मिल सके, जिनकी उन्हें राष्ट्रीय सुरक्षा के लिए सरकार द्वारा AI के इस्तेमाल को समझने और उसकी निगरानी करने के लिए ज़रूरत है.
AI इस बात को बदल रहा है कि लोकतांत्रिक सरकारें अपने लोगों की सुरक्षा कैसे करती हैं. यह साइबर हमलों को रोकने, ज़रूरी इंफ़्रास्ट्रक्चर को सुरक्षित करने, ख़तरों का पहले ही पता लगाने और संकट के समय सरकारी अधिकारियों को साफ़ तस्वीर देने में मदद कर सकता है. अगर सही तरीके से इस्तेमाल किया जाए, तो ये टूल्स राष्ट्रीय सुरक्षा को मज़बूत कर सकते हैं.
लोकतांत्रिक निगरानी यह पक्का करने में मदद करती है कि पब्लिक पावर का इस्तेमाल जिन लोगों की सेवा के लिए किया जा रहा है, उनके प्रति जवाबदेह बना रहे. जैसे-जैसे AI राष्ट्रीय सुरक्षा के काम को तेज़ और ज़्यादा काबिल बनाता जा रहा है, वैसे-वैसे उस काम की निगरानी करने वाली संस्थाओं को भी उसी रफ़्तार से आगे बढ़ना होगा. AI अधूरे या पुराने संदर्भ, गलत तरीके से तय किए गए उद्देश्यों या गलत मान्यताओं के आधार पर बहुत तेज़ी और बड़े पैमाने पर काम कर सकता है, जिससे गलतियों के फैलने से पहले उन्हें मैन्युअल तौर से पकड़ना मुश्किल हो जाता है. राष्ट्रीय सुरक्षा के लिए AI के इस्तेमाल में निगरानी ख़ास तौर पर ज़रूरी है क्योंकि इसमें लिए जाने वाले फ़ैसलों में गोपनीयता शामिल हो सकती है और उनके नतीजे बहुत गंभीर हो सकते हैं.
हमारे राष्ट्रीय सुरक्षा सिद्धांतों द्वारा निर्देशित होकर, हम राष्ट्रीय सुरक्षा तैनाती को सुरक्षा उपायों, सार्थक मानवीय निर्णय और उचित निगरानी के साथ करते हैं, ख़ास तौर से हाई-रिस्क वाली सेटिंग्स में. वे सिद्धांत निगरानी के लिए ज़िम्मेदार संस्थानों को गति और पैमाने पर AI के इस्तेमाल की निगरानी करने की क्षमता बनाने में मदद करने को भी प्राथमिकता देते हैं.
सरकारी संस्थानों में राष्ट्रीय सुरक्षा से जुड़ी गतिविधियों की निगरानी के लिए पहले से ही तय अधिकार और ज़िम्मेदारियाँ मौजूद हैं. जब AI इन गतिविधियों में योगदान देता है, तो निगरानी के तरीकों में बदलाव की ज़रूरत पड़ सकती है. पारंपरिक निगरानी में बहुत ज़्यादा मेहनत लगती है और यह तब लगभग नामुमकिन हो जाता है जब कागज़ी-करवाई वाले ज़माने के तरीकों का इस्तेमाल करने वाली छोटी टीमें मशीन की रफ़्तार से चलने वाले सिस्टम को रिव्यू करती हैं.
OpenAI का मानना है कि ज़्यादा काबिल सिस्टम के लिए मज़बूत निगरानी की ज़रूरत होती है, और हम ख़ुद पर भी यही सिद्धांत लागू करते हैं. हमारे प्रिपेयर्डनेस फ़्रेमवर्क के तहत, एडवांस्ड मॉडल को डिप्लॉय करने से पहले उनकी क्षमताओं को समझने और यह तय करने के लिए कि सुरक्षा उपाय काफ़ी हैं या नहीं, उनका सख़्त रिव्यू किया जाता है. डिप्लॉयमेंट के बाद भी लगातार निगरानी और घटना के रिव्यू के ज़रिए यह जाँच जारी रहती है, और इससे मिली जानकारी के आधार पर बेहतर सुरक्षा उपाय और भविष्य के मॉडल विकसित किए जाते हैं.
OpenAI सरकार पर निगरानी रखने का काम नहीं करता है, और न ही उसे ऐसा करना चाहिए. यह ज़िम्मेदारी चुने हुए अधिकारियों और इस काम के लिए बनी सरकारी संस्थाओं की होती है. इसके बजाय, जब निगरानी करने वाले संस्थान अपने मौजूदा दायित्व निभाते हैं, तो हम अपनी तकनीक से उनकी सहायता कर सकते हैं.
इस काम का मार्गदर्शन तीन सिद्धांत करेंगे.
पहला, AI को इंसानी और संस्थागत फ़ैसले लेने की क्षमता को मज़बूत करना चाहिए, न कि उनकी जगह लेनी चाहिए.यह तय करना कि सरकार का कामकाज कानून के मुताबिक, उचित और लागू नियमों और नीतियों के अनुरूप है या नहीं, ऑथोराइज़ की गई एजेंसियों और कानून के तहत बनी निगरानी संस्थाओं का काम है.
दूसरा, सरकार द्वारा AI का इस्तेमाल ऐसा होना चाहिए जिसे ऑथोराइज़ किए गए निगरानी करने वाले ट्रैक कर सकें और आसानी से समझ सकें. रिव्यू करने वालों को यह समझने में मदद मिलनी चाहिए कि किसी गोपनीय, निजी और सुरक्षा के नज़रिए से संवेदनशील जानकारी को सुरक्षित रखते हुए AI ने किसी फ़ैसले में कैसे योगदान दिया.
तीसरा, AI का इस्तेमाल लोकतांत्रिक निगरानी संस्थानों को सशक्त बनाने के लिए किया जाना चाहिए. सरकारी कामकाज में AI के इस्तेमाल की मैन्युअल निगरानी बड़े पैमाने पर नहीं की जा सकती. जैसे-जैसे राष्ट्रीय सुरक्षा और सरकार के अन्य अहम काम में AI को अपनाया जा रहा है, निगरानी संस्थाओं को भी अपने अधिकार-क्षेत्र के अनुसार ज़िम्मेदारी और स्पष्टता के साथ इसका इस्तेमाल करना चाहिए.
अगले साल के दौरान, हम इस पहल को इन तरीकों से आगे बढ़ाने की योजना बना रहे हैं:
हम ऑथोराइज़ किए गए अधिकारियों के साथ मिलकर ऐसे व्यावहारिक अवसरों की पहचान करेंगे, जहाँ AI टूल्स या तकनीकी सहायता से निगरानी को और ज़्यादा असरदार बनाया जा सके.
हम लोकतांत्रिक सरकारों की निगरानी करने वाली संस्थाओं को AI टूल्स को ज़िम्मेदारी से अपनाने और उनके मूल्यांकन में मदद करने के लिए $5 मिलियन की ट्रेनिंग, तकनीकी सहायता और OpenAI क्रेडिट देंगे.
हम निगरानी करने वाली संस्थाओं के साथ मिलकर ऐसे टूल्स का शुरूआती इस्तेमाल करेंगे जो ऑथोराइज़ किए गए रिव्यूअर को AI-की मदद से लिए गए सरकारी फ़ैसलों से जुड़े रिकॉर्ड्स की जाँच करने में मदद करेंगे. इसमें संबंधित इनपुट, आउटपुट और टूल का इस्तेमाल शामिल होगा, ताकि यह बेहतर ढंग से समझा जा सके कि AI ने नतीजों को कैसे प्रभावित किया. जहाँ मुमकिन होगा, ये टूल्स इंटरऑपरेबल या मॉडल-एग्नोस्टिक होंगे मतलब उनसे बंधे नहीं होंगे. सबूतों, आउटपुट और नतीजों पर कंट्रोल OpenAI के पास नहीं, बल्कि इसमें शामिल संस्थाओं के पास रहेगा और ये सिर्फ़ ऑथोराइज़ किए गए सरकारी अधिकारियों के लिए ही उपलब्ध होंगे.
हम नागरिक समाज और तकनीकी विशेषज्ञों को शामिल करेंगे, ताकि उनके नज़रिए से OpenAI को यह समझने में मदद मिले कि इन टूल्स को कैसे विकसित किया जाए और इनसे जुड़ी ज़िम्मेदारियों को कैसे निभाया जाए.
AI से सत्ता एक जगह केंद्रित हो सकती है, या फिर यह लोकतांत्रिक संस्थाओं को सत्ता का बेहतर ढंग से इस्तेमाल करने और उस पर नज़र रखने में मदद कर सकता है. सिर्फ़ टेक्नोलॉजी यह तय नहीं करेगी कि हमारा भविष्य कैसा होगा, बल्कि इंसानी संस्थाएँ और कंपनियाँ जो फ़ैसले अभी लेंगी, उससे यह तय होगा.
हम इस पहल की प्रगति को इस आधार पर परखेंगे कि क्या ऑथोराइज़ किए गए रिव्यूअर अपनी ज़िम्मेदारियाँ बेहतर ढंग से निभा पा रहे हैं और क्या जनता के पास इस बात पर भरोसा करने की मज़बूत वजह हैं कि सरकारी AI सिस्टम का इस्तेमाल उसी तरह किया जा रहा है, जैसा कि तय किया गया था.
जैसे-जैसे सरकार AI का इस्तेमाल बढ़ा रही है, OpenAI इसकी निगरानी के लिए ज़िम्मेदार संस्थानों की सहायता करना जारी रखेगा.
