AI के अगले दौर के लिए बेहतर नियम बनाना
हमारा मिशन यह पक्का करना है कि आर्टिफ़िशियल जेनरल इंटेलिजेंस का फ़ायदा पूरी इंसानियत को मिले. जैसा कि सैम ऑल्टमैन और याकुब पाचॉकी ने हाल में बताया, हम इस मिशन के लिए अपने काम को तीन खास लक्ष्यों पर फ़ोकस रखते हैं:
AI की अगली प्रोग्रेस को सही दिशा देने के लिए एक ऑटोमेटेड AI रिसर्चर बनाना होगा, उसके साथ अलाइनमेंट से जुड़ी समस्या पर लगातार काम करना होगा और यह तय करना होगा कि AI के अपने आप बेहतर होने के प्रोसेस में इंसानों की भूमिका बनी रहे.
बहुत इंटेलिजेंट मशीनों से मिलने वाली साइंटिफ़िक प्रोग्रेस और इकोनॉमिक ग्रोथ के फ़ायदे लोगों तक पहुँचाना.
हर व्यक्ति को उसके अपने पर्सनल AGI की ताकत देना.
AI हमारी अपनी रिसर्च और इंजीनियरिंग की रफ़्तार बढ़ा रहा है. AI की मदद से हुई रिसर्च ने मैथ्स में भी तरक्की की है, जिसमें नेवियर-स्टोक्स मिलेनियम प्रॉब्लम शामिल है. यह तरक्की हमारे बाकी दो लक्ष्यों के लिए भी बड़ी संभावनाएँ दिखाती है. इससे मेडिसिन में अहम खोजें हो सकती हैं, हेल्थ केयर ज़्यादा लोगों तक पहुँच सकती है और छोटे बिज़नेस व अपने दम पर काम करने वाले लोगों के लिए नए आर्थिक मौके बन सकते हैं.
कई कंपनियों और देशों में AI तेज़ी से आगे बढ़ रहा है, और पूरे क्षेत्र की प्रोग्रेस से सभी के लिए मौके और चुनौतियाँ बदल रही हैं. इसके दूसरे फ़ायदों के साथ, सक्षम और बेहतर अलाइनमेंट वाला AI इस बदलाव को संभालने में अहम भूमिका निभाएगा. यह डिफ़ेंस को मज़बूत करने, अलाइनमेंट रिसर्च को आगे बढ़ाने और लोगों को AI डेवलपमेंट के अगले दौर को समझने और दिशा देने में मदद कर सकता है.
इस बदलाव को सुरक्षित तरीके से संभालने के लिए अलाइनमेंट रिसर्च को AI की बढ़ती क्षमताओं के साथ आगे बढ़ना होगा, ताकि हमारे और दूसरे लोगों के बनाए सिस्टम इंसानी वैल्यूज़ के मुताबिक रहें और इंसानों के कंट्रोल में रहें. जैसे-जैसे AI सिस्टम ज़्यादा सक्षम हो रहे हैं और अपने आप ज़्यादा काम करने लगे हैं, यह और भी अहम हो जाता है, खासकर जब वे AI रिसर्च और डेवलपमेंट का ज़्यादा काम खुद करने लगें. AI की आगे की प्रोग्रेस को सुरक्षित और फ़ायदेमंद बनाए रखने के लिए अलाइनमेंट रिसर्च में सुधार और अलग-अलग लैब्स व देशों के लिए साझा नियम, दोनों ज़रूरी होंगे.
ऑटोमेटेड AI रिसर्च में इंसानों की निगरानी अलग-अलग स्तर पर हो सकती है. जैसे-जैसे AI सिस्टम अगली पीढ़ी के AI को बनाने का ज़्यादा काम अपने हाथों में ले रहे हैं, वे रिकर्सिव सेल्फ़-इम्प्रूवमेंट (RSI) की प्रक्रिया को तेज़ी से आगे बढ़ा सकते हैं, भले ही इंसान इसमें शामिल रहें. जैसे-जैसे यह प्रोसेस ज़्यादा ऑटोमेटेड होगा, AI के बढ़ने की रफ़्तार बहुत तेज़ हो सकती है.
हमारा मानना है कि ऑटोमेटेड AI रिसर्च ऐसे मॉडल बना सकती है, जो लोगों की ज़िंदगी सीधे बेहतर करें. इससे एडवांस्ड इंटेलिजेंस की लागत कम हो सकती है और दुनिया भर के लोगों को इसका फ़ायदा मिल सकता है. ऑटोमेटेड रिसर्च अलाइनमेंट को बेहतर बनाने और ज़्यादा सक्षम AI से बचाव के तरीके बनाने में भी मदद कर सकती है—एक ऑटोमेटेड AI रिसर्चर, AI सेफ़्टी रिसर्चर का काम भी कर सकता है. ज़्यादा सक्षम और बेहतर अलाइनमें वाले सिस्टम क्रिटिकल इंफ़्रास्ट्रक्चर को सुरक्षित रखने, खतरनाक AI एजेंट्स से बचाव करने और नए सुरक्षा उपाय बनाने में मदद कर सकते हैं.
पूरी तरह से अपने आप चलने वाला RSI आज नहीं बन रहा है, और हमें इस दिशा में तब तक आगे नहीं बढ़ना चाहिए जब तक इसे सुरक्षित तरीके से करना संभव न हो. आगे बढ़ना है या नहीं और कैसे बढ़ना है, यह इस बात से तय होना चाहिए कि इंसानों का कंट्रोल बना रहता है या नहीं और लोग इसके फ़ायदों व रिस्क को समझकर क्या फ़ैसला लेते हैं(एक नई विंडो में खुलेगा). अगर RSI को सही सावधानी के बिना आगे बढ़ाया जाए, तो इंसान AI डेवलपमेंट पर असली कंट्रोल खो सकते हैं और ऐसी रिसर्च की निगरानी नहीं कर पाएँगे जिसे वे खुद समझ नहीं पा रहे हों. ऐसी स्थिति में AI ज़्यादा खतरनाक, कम अलाइन और लोगों के लिए बड़ा रिस्क बन सकता है. हमने जो Hugging Face का इंसिडेंट शेयर किया था, वह सीधे RSI की वजह से नहीं हुआ था, लेकिन यह दिखाता है कि मज़बूत सेफ़गार्ड्स और अलाइनमेंट न होने पर ऐसे रिस्क कितने गंभीर हो सकते हैं.
फ़्रंटियर AI डेवलपमेंट में सेफ़्टी और सिक्योरिटी के लिए इंटरनेशनल नियम, AI की रफ़्तार को सुरक्षित रखने में अलाइनमेंट रिसर्च जितने ही अहम हो सकते हैं. ये नियम यह तय करने में मदद कर सकते हैं कि भरोसेमंद एविडेंस किसे माना जाए और टेक्निकल सेफ़गार्ड्स कितने मज़बूत होने चाहिए. आसान शब्दों में, ये इस सवाल का जवाब देने में मदद करते हैं: "बहुत बड़े AI रिस्क को कम करने का अच्छा तरीका कैसा दिखता है?"
सेंटर फ़ॉर AI स्टैंडर्ड्स एंड इनोवेशन (CAISI) जैसी मौजूदा संस्थाएँ, राज्यों के कानून, AI के लिए फ़ेडरल फ़्रेमवर्क और सरकार व निजी कंपनियों के बीच नई पार्टनरशिप(एक नई विंडो में खुलेगा) इसमें मदद कर सकती हैं. लेकिन AI का डेवलपमेंट और इस्तेमाल कई देशों में हो रहा है, इसे दुनिया भर में अपनाया जा रहा है और इसका असर किसी न किसी रूप में सभी लोगों तक पहुँच सकता है.
इसलिए कुछ अहम चुनौतियों से निपटने के लिए देशों को मिलकर साझा नियम बनाने की ज़रूरत है:
अलग-अलग नियम—अलग देशों के इवैल्युएशन, रिपोर्टिंग की ज़रूरतें और इंसिडेंट के मतलब एक-दूसरे से अलग हो सकते हैं. इससे एविडेंस की तुलना करना, नई क्षमताओं को समझना और देशों की सीमाओं से बाहर जाने वाले रिस्क से निपटना मुश्किल हो सकता है.
मिलकर काम करना—अगर हर देश अलग-अलग काम करे, तो ऐसे नतीजे सामने आ सकते हैं जो कोई भी देश नहीं चाहता. RSI, AI रिसर्च की रफ़्तार इतनी बढ़ा सकता है कि हमारे लिए उसकी प्रोग्रेस को समझना, रिस्क को जाँचना और इंसानों की असरदार निगरानी बनाए रखना मुश्किल हो जाए.
असमान क्षमता—फ़्रंटियर AI डेवलपमेंट और उससे जुड़ी एक्सपर्टीज़ दुनिया भर में बराबर नहीं है. इससे ऊपर बताई गई दोनों समस्याएँ और बढ़ सकती हैं.
ये चुनौतियाँ ओपन और क्लोज़्ड, दोनों तरह के मॉडल्स पर लागू होती हैं.
साफ़ तौर पर, ऑटोमेटेड AI रिसर्च या दूसरी एडवांस्ड क्षमताओं पर काम करने वाली हर AI लैब की ज़िम्मेदारी है कि वह इसे सुरक्षित तरीके से करे और मौजूदा कानूनों का पालन करे. साझा नियम बनाने का मकसद ताकत को कुछ ही जगहों तक सीमित होने से रोकना और बेहतर नतीजे हासिल करना है. ऐसे नियम लैब्स के बाहर के ज़्यादा लोगों और ऑर्गेनाइज़ेशन्स को भी यह तय करने में मदद करते हैं कि यह टेक्नोलॉजी कैसे आगे बढ़े. साथ ही, ये ऐसे साफ़ नियम देते हैं जिन पर किसी एक लैब के अपने तरीकों से अलग भी भरोसा किया जा सके. ऊपर बताई गई चुनौतियों पर सभी पक्ष मिलकर काम करें, तो बेहतर नतीजे मिलने की संभावना है.
इसी वजह से हमारा मानना है कि अमेरिका को दुनिया भर के देशों के साथ मिलकर फ़्रंटियर AI और RSI के लिए ग्लोबल टेक्निकल नियम बनाने की कोशिश को आगे बढ़ाना चाहिए.
हमें उम्मीद है कि समय के साथ यह कॉन्सेप्ट काफ़ी बदलेगा, लेकिन इसके दो हिस्से बहुत अहम रहेंगे.
इसका एक तरीका AI सेफ़्टी इंस्टिट्यूट्स के बढ़ते नेटवर्क का इस्तेमाल करना हो सकता है—ऐसे इंस्टिट्यूट्स ऑस्ट्रेलिया, कनाडा, जर्मनी, फ़्रांस, केन्या, जापान, कोरिया, सिंगापुर, भारत और यूनाइटेड किंगडम में पहले से मौजूद हैं—CAISI और देशों की इंडस्ट्री संस्थाओं के ज़रिए साझा नियम बनाने में इनकी मदद ली जा सकती है. फ़ोकस खास तौर पर दो चीज़ों पर हो सकता है: (1) कैपेबिलिटी बेंचमार्क्स के आधार पर फ़्रंटियर AI मॉडल्स और डेवलपर्स, और (2) RSI समेत ऑटोमेटेड AI रिसर्च के फ़ायदों और रिस्क को मैनेज करना. अमेरिका 2024 में CAISI के बनाए 'इंटरनेशनल नेटवर्क फ़ॉर एडवांस्ड AI मेज़रमेंट, इवैल्यूएशन एंड साइंस'(एक नई विंडो में खुलेगा) को आगे बढ़ा सकता है, जो AI को मापने, जाँचने और उससे जुड़ी साइंस पर मिलकर काम करने के लिए पब्लिक संस्थाओं को साथ लाता है.
इस कोशिश से बने साझा टेक्निकल नियम AI की क्षमताएँ मापने और जाँचने, रिस्क समझने और सेफ़गार्ड्स काफ़ी हैं या नहीं यह तय करने के लिए एक कॉमन बेस देंगे. ये नियम AI मॉडल्स के लिए लाइसेंस, रिलीज़ से पहले ज़रूरी रिव्यू या अप्रूवल की शर्तें नहीं होंगे. हर देश की सरकार खुद तय करेगी कि इन्हें अपने कानूनों में शामिल करना है या नहीं और कैसे करना है.
इस काम में ओपन और क्लोज़्ड मॉडल डेवलपर्स, बाहरी टेक्निकल एक्सपर्ट्स और अकैडमिक लोगों की राय भी शामिल होनी चाहिए, ताकि AI इकोसिस्टम में स्वस्थ मुकाबला बना रहे. साझा नियम साफ़ और खुले तरीके से बनाए जाने चाहिए और ऐसे होने चाहिए कि किसी खास कंपनी, देश या बिज़नेस मॉडल को बेवजह फ़ायदा न मिले. नए खिलाड़ियों या ओपन-वेट डेवलपर्स के लिए मुकाबला करना भी मुश्किल नहीं होना चाहिए.
जैसा कि हमने सुझाव दिया है(एक नई विंडो में खुलेगा), यह तरीका एविएशन और फ़ाइनेंशियल स्टेबिलिटी जैसे क्षेत्रों से सीख सकता है, जहाँ देशों ने अपनी अथॉरिटी बनाए रखते हुए कॉमन टेक्निकल नियम और मिलकर काम करने के भरोसेमंद चैनल बनाए हैं. इसे ISO(एक नई विंडो में खुलेगा), फ़्रंटियर मॉडल फ़ोरम(एक नई विंडो में खुलेगा), एजेंटिक AI फ़ाउंडेशन(एक नई विंडो में खुलेगा) और ओपन सिक्योर AI अलायंस(एक नई विंडो में खुलेगा) जैसी पुरानी और नई संस्थाओं के साथ भी मिलकर काम करना चाहिए. इसके अलावा इम्प्लीमेंटेशन पर फ़ोकस करने वाली संस्थाओं, जैसे ऐपिया फ़ाउंडेशन के साथ भी, जो इंटरनेशनल नियमों को असली दुनिया में AI के असेसमेंट से कनेक्ट करने के लिए काम करने लायक स्पेसिफ़िकेशन्स बना रही है.
AI रिसर्च में बढ़ती ऑटोनॉमी और रिकर्सिव सेल्फ़-इम्प्रूवमेंट को मैनेज करने में इंटरनेशनल AI नियम खास तौर पर अहम होंगे. इनमें खास तौर पर ये शामिल हो सकते हैं:
RSI से जुड़ी AI प्रोग्रेस को इवैल्युएट करना और यह देखना कि किसी AI कंपनी के अंदर अपने आप कितनी रिसर्च हो रही है. रिसर्च की बढ़ती रफ़्तार पर हमारी हाल की रिपोर्ट इस दिशा में शुरुआती कदम है.
ऑटोमेटेड AI रिसर्च पर इंसानों की निगरानी, जिसमें यह तय करना भी शामिल है कि किस तरह की ऑटोमेटेड रिसर्च पर तुरंत इंसानी रिव्यू होना चाहिए.
अलाइनमेंट और ऑटोमेटेड AI रिसर्च से जुड़े इंसिडेंट्स को कैटेगरी में बाँटना, ट्रैक करना, रिपोर्ट करना और उन पर कार्रवाई करना. इसमें इंसिडेंट की गंभीरता के कॉमन लेवल और रिपोर्ट करने की सीमा जैसे नियम शामिल हो सकते हैं. हमारा मिसअलाइनमेंट रिपोर्टिंग फ़्रेमवर्क इस दिशा में शुरुआती कदम है.
इन नियमों के साथ-साथ, हमारा मानना है कि क्रिटिकल इंफ़्रास्ट्रक्चर चलाने वाली ऑर्गेनाइज़ेशन्स और दुनिया भर की सरकारों को सुरक्षित कम्युनिकेशन चैनल बनाने चाहिए. इनके ज़रिए नेशनल सिक्योरिटी से जुड़ी चिंताएँ, नए कमज़ोर हिस्से और खतरे, और तेज़ी से बदल रहे फ़्रंटियर AI सेफ़्टी क्षेत्र के अच्छे तरीके साझा किए जा सकें. इन क्षेत्रों में अमेरिका और चीन के बीच बातचीत एक अच्छा कदम हो सकती है, और आने वाली बातचीत सही समय पर हो रही है.
AI डेवलपमेंट की रफ़्तार तय करने का मतलब किसी पहले से तय स्पीड पर चलना नहीं है. टेक्निकल तौर पर इसका मतलब है कि अलाइनमेंट रिसर्च और उसका इस्तेमाल, AI की बढ़ती क्षमताओं से आगे रहे. समाज के स्तर पर इसका मतलब है ऐसे नियम, संस्थाएँ और मिलकर काम करने के तरीके बनाना, जो इंडस्ट्री, समाज और मार्केट की ताकत को साथ लाकर सभी के लिए बेहतर नतीजे दें. साइबर डिफ़ेंस पर हाल में मिलकर काम करने की अपील इसकी एक मिसाल है.
अमेरिका के पास लीड करने की अच्छी स्थिति है, क्योंकि उसकी AI इंडस्ट्री फ़्रंटियर टेक्नोलॉजी में सबसे आगे है और फ़ाइनेंस, ट्रेड, डिफ़ेंस, टेक्नोलॉजी और इन्फ़ॉर्मेशन सिस्टम्स जैसे अहम क्षेत्रों में उसका ग्लोबल नेटवर्क भी मज़बूत है. अभी लीड करने से यह तय होगा कि ग्लोबल AI फ़्रेमवर्क बनाने में अमेरिका की अहम भूमिका होगी या उसके आसपास अलग-अलग और टकराव वाले सिस्टम बनते जाएँगे. इससे यह भी तय होगा कि एडवांस्ड AI, अमेरिका और उसके सहयोगी देशों के मौजूदा नेटवर्क्स को मज़बूत करेगा या लीड न करने की वजह से वे कमज़ोर पड़ेंगे.
देशों के बीच मुकाबला सिर्फ़ इस बात पर नहीं होगा कि टेक्नोलॉजी में कौन आगे है. यह इस पर भी होगा कि AI को कितनी तेज़ी से अपनाया और फैलाया जाता है. आगे चलकर इसमें वही देश आगे हो सकते हैं जो काम करने लायक सहयोग और समझदारी वाले नियम आगे बढ़ाएँ, जिन पर बिज़नेस और समाज भरोसा करके इस टेक्नोलॉजी को अपनाना चाहें.
देश के अंदर मज़बूत व्यवस्था और देशों के बीच मिलकर काम करने का सही तरीका, बेहतर सेफ़गार्ड्स, लगातार इनोवेशन और AI के फ़ायदे ज़्यादा लोगों तक पहुँचाने में मदद कर सकता है.
