इंटेलिजेंस युग का परिचय

“क्या सत्ता की अतिक्रमणकारी प्रवृत्ति के विरुद्ध इन कागजी अवरोधों पर भरोसा करना पर्याप्त होगा?”
—जेम्स मैडिसन, संघवादी लेख संख्या 48

हमें OpenAI की नई भावी रणनीतियों की टीम का ब्लॉग इंटेलिजेंस युग शुरू करते हुए खुशी हो रही है. हम एक छोटी-सी टीम हैं जिसका साझा लक्ष्य एक व्यापक प्रश्न का उत्तर देना है: रूपांतरणकारी एआई के उदय को अपनाते हुए व्यक्तिगत अधिकारों और स्वायत्त निर्णय-क्षमता की रक्षा के लिए स्वतंत्र समाज का पुनर्गठन कैसे किया जाना चाहिए?

व्यापक एआई सुरक्षा और नीति समुदाय में ऐसे प्रश्नों को कभी-कभी सत्ता के संकेंद्रण से जुड़े जोखिम कहा जाता है. हमारी टीम की नींव इस विचार पर रखी गई है कि दीर्घावधि में जोखिम की यह श्रेणी सबसे बड़ी, सबसे गंभीर और अवधारणात्मक रूप से सबसे चुनौतीपूर्ण है. क्यों?

आधुनिक राज्य सत्ता के विभिन्न केंद्रों के बीच सौदेबाजी की लंबी और असमान प्रक्रिया का परिणाम है. इन केंद्रों में पूंजी और वस्तुओं के स्वामी, राजनीतिक सत्ता का प्रयोग करने वाले और आम लोग शामिल हैं. सबसे बुनियादी स्तर पर राजनीतिक और सैन्य शक्ति श्रम पर टिकी रही है. राजनीतिक सत्ता होने का अर्थ वैध बल-प्रयोग पर एकाधिकार होना है. पूरे मानव इतिहास में यह एकाधिकार सैनिकों और उन लोगों से बना रहा है जिन्हें आज हम “पुलिस” कहते हैं, साथ ही विशाल नागरिक-सैन्य नौकरशाही भी इसका हिस्सा रही है. निस्संदेह, अनेक तकनीकी साधनों ने इसमें सहायता की, लेकिन मूल रूप से इसे मनुष्य ही चलाते थे और व्यवस्था बनाए रखने के लिए उनका समर्थन जरूरी था. और इस पूरे तंत्र—सैनिकों, साधनों और उनसे जुड़ी नौकरशाही—का वित्तपोषण उन लोगों के वेतन या उत्पादन से वसूले गए करों से होता था, जिन्हें भुगतान के लिए तैयार होना पड़ता था. मूलतः, सत्ता बड़ी संख्या में लोगों के व्यापक सहयोग और सहमति पर निर्भर रही है. डेविड ह्यूम ने इस प्रायः अनकही धारणा को संक्षेप में व्यक्त करते हुए कहा था कि राजनीतिक नेताओं के पास “उन्हें सहारा देने के लिए [जनता की] राय के अलावा कुछ नहीं है.”

लेकिन शायद अब ऐसा न रहे. वास्तविक दुनिया में काम करने वाली स्वायत्त प्रणालियों की प्रगति का जल्द ही यह अर्थ हो सकता है कि राज्य सहयोगी सैनिकों या पुलिस अधिकारियों पर निर्भर हुए बिना देश के भीतर और अंतरराष्ट्रीय स्तर पर बल का प्रयोग कर सकेंगे. और मशीनी बुद्धिमत्ता में प्रगति का अर्थ यह हो सकता है कि राज्य अपनी आवश्यक आय व्यक्तिगत मानव श्रम के फल से नहीं, बल्कि डेटा केंद्रों के उत्पादन से जुटा सकेगा. स्वयं नौकरशाही का संचालन भी काफी हद तक स्वचालित किया जा सकता है. इसलिए सत्ता को बनाए रखने के लिए अब पूरे समाज के साथ समझौते की आवश्यकता शायद न रहे, और व्यापक अर्थ में जनता को वार्ता की मेज पर बहुत छोटी जगह मिले या शायद कोई जगह ही न मिले.

मानव स्वतंत्रता की रक्षा के लिए इस परिणाम से बचना बुनियादी आवश्यकता है. यह परिणाम दीर्घावधि में व्यक्तिगत स्वायत्तता का जो बलिदान मांगेगा, उसके सामने कोई भी वैज्ञानिक खोज, तकनीकी प्रगति या आर्थिक वृद्धि सार्थक नहीं है. एआई की उभरती राजनीति को उचित रूप से दिशा देने वाली कई चिंताएं इसी प्रश्न से जुड़ी हैं. व्यवसायों, हित समूहों और व्यक्तियों, सभी की साझा चिंता है: “क्या वार्ता में मेरी जगह छिन जाएगी?” कुछ हद तक, 21वीं सदी की अमेरिकी राजनीति भी देश की दिशा पर व्यक्तिगत और सामूहिक निर्णय-क्षमता तथा अर्थव्यवस्था “किसके लिए है” जैसे प्रश्नों से जुड़ी ऐसी ही चिंताओं से आकार पाती रही है. एआई इन पहले से मौजूद चिंताओं को उचित रूप से अधिक प्रमुख बना देता है.

यह एक संरचनात्मक समस्या है जो मौजूदा दलगत राजनीति से भी गहरी है, यहां तक कि उन स्वरूपों और रीति-रिवाजों से भी जिनके माध्यम से आज गणतांत्रिक लोकतंत्र अमल में लाया जाता है, भले ही वे हमारे लिए कितने ही पवित्र क्यों न हों. अपने प्रतिनिधियों को चुनने के लिए मतदान की नियमित प्रक्रिया कायम रहने पर भी मनुष्य अधिकारहीनता की ओर बढ़ सकते हैं. कागज का कोई टुकड़ा लोगों को स्वतंत्र घोषित करे, तब भी उनसे निर्णय लेने की क्षमता छीनी जा सकती है.

एक स्वतंत्र राष्ट्र के रूप में संयुक्त राज्य अमेरिका के उदय के समय ही जेम्स मैडिसन जानते थे कि अत्याचार रोकने के लिए “कागजी अवरोध” पर्याप्त नहीं होंगे. कई अन्य संस्थापकों की तरह उनकी मुख्य चिंता सत्ता का अनुचित संकेंद्रण रोकना थी.

लेकिन इसका अर्थ यह नहीं था कि संस्थापक सत्ता के आमूल विकेंद्रीकरण के पक्षधर थे. इसके बजाय, उन्होंने अपने समय के सर्वश्रेष्ठ विज्ञान—न्यूटनीय यांत्रिकी—से लिए गए रूपकों के आधार पर सत्ता के संतुलन का प्रतिरूप बनाया. गुरुत्वाकर्षण की भाषा और तर्क को प्रतिबिंबित करने वाले अमेरिका के संस्थापक दस्तावेजों में “कक्षाओं,” “गोलकों” और एक वस्तु के दूसरी ओर “आकर्षित” होने की प्रवृत्तियों के अनेक संदर्भ हैं. सौरमंडल चट्टानों का अधिकतम रूप से विकेंद्रीकृत समूह नहीं होता. इसमें ग्रहों की परिक्रमा करने वाले चंद्रमा होते हैं और वे ग्रह एक केंद्रीय सूर्य की परिक्रमा करते हैं. उनका मानना था कि लोगों और संगठनों में सत्ता पाने की प्रवृत्तियां होती हैं, ठीक वैसे ही जैसे खगोलीय पिंडों में गति और आकर्षण की पूर्वानुमेय प्रवृत्तियां होती हैं. सत्ता का अनुचित संकेंद्रण रोकने के लिए इन प्रवृत्तियों की यांत्रिकी समझना जरूरी था, ताकि उन्हें एक-दूसरे के विरुद्ध सक्रिय किया जा सके.

इस प्रकार, संस्थापकों का लक्ष्य सत्ता के हर प्रकार के संकेंद्रण से बचना नहीं, बल्कि सत्ता से सत्ता और महत्वाकांक्षा से महत्वाकांक्षा पर अंकुश लगाकर उसका अत्यधिक संकेंद्रण रोकना था. आज इन्हीं बुनियादी अंतर्निहित गतिशीलताओं का वर्णन करने के लिए हम “प्रोत्साहन” और “खेल सिद्धांत” जैसे शब्दों का उपयोग कर सकते हैं.

इसी तरह, एडवांस्ड मशीनी इंटेलिजेंस से आज़ाद समाज के सामने खड़ी इस बड़ी चुनौती का जवाब भी शायद सत्ता को जितना हो सके उतना अलग-अलग जगह बाँट देना नहीं है. इसके बजाय, हमें सत्ता के बीच ऐसा सही तालमेल बनाना और बरकरार रखना होगा, जिसमें कोई एक इंसान, कंपनी या छोटा-सा ग्रुप बाकी सब पर हावी न हो सके.

यह तालमेल बनाने के लिए हमें इस टेक्नोलॉजी की असलियत को साफ़ नज़र से समझना होगा. अगर कोई भी व्यक्ति, चाहे उसकी नीयत कितनी भी खराब क्यों न हो, बहुत आसानी से हज़ारों या लाखों लोगों को बड़ा नुकसान पहुँचा सकता है, तो यह सत्ता का सही तालमेल नहीं है. लेकिन सत्ता का सही तालमेल तब भी नहीं होगा, अगर लोगों को अपनी आज़ादी जताने के लिए इस्तेमाल किए जाने वाले लगभग सभी टूल्स तक अच्छी पहुँच और उन पर कंट्रोल न हो. किसी एक कंपनी या कुछ बड़ी कंपनियों के ग्रुप को पूरी इकॉनमी या इंसानी समाज के बुनियादी ढाँचे को तय या कंट्रोल नहीं करना चाहिए.

हमें उन रिस्क को भी गंभीरता से लेना होगा जो किसी बुरी नीयत वाले इंसान से शुरू नहीं होते. हाल ही में Hugging Face में हुई घटना ने दिखाया कि AI एजेंट अपने दिए गए काम से आगे बढ़ सकते हैं और एक-दूसरे की खोजों को इस तरह आगे बढ़ा सकते हैं, जिसकी ऑपरेटरों ने न तो उम्मीद की थी और न ही इसकी इजाज़त दी थी. Hugging Face की घटना से आगे भी, इंसानों के लिए यह चिंता करना सही है कि अगर सुपरइंटेलिजेंट AI इंसानी कंट्रोल से "आज़ाद" होकर काम करने लगे, तो इसका हमारी राजनीतिक और इकोनॉमिक संस्थाओं की मज़बूती पर और हमारी ज़िंदगी पर क्या असर होगा. यह मान लेना कि सत्ता को अलग-अलग जगह बाँट देने से हर समस्या हल हो जाएगी—भले ही आपको लगे कि इससे कई समस्याएँ हल होती हैं—उन रिस्क को नज़रअंदाज़ करना है जो अब साफ़ तौर पर हमारे सामने हैं.

नीचे दिए गए कुछ मुख्य सिद्धांत—यह पूरी लिस्ट नहीं है—ऊपर उठाए गए सवाल पर काम करते हुए हमारा रास्ता तय करने में मदद करेंगे:

• AI और उससे जुड़ी टेक्नोलॉजी इस्तेमाल करते समय लोगों को अपने फ़ैसले खुद लेने की आज़ादी और आगे बढ़ने के मौके बनाए रखने चाहिए, भले ही इसके लिए कभी-कभी सेफ़्टी और इकोनॉमी की ग्रोथ के बीच समझौता करना पड़े;
• अपने फ़ैसले खुद लेने की आज़ादी के साथ यह ज़िम्मेदारी भी होनी चाहिए कि टेक्नोलॉजी का गलत इस्तेमाल या उससे होने वाले नुकसान की ज़िम्मेदारी उसी व्यक्ति की हो;
• कुछ ऐसे रिस्क हैं जो संख्या में कम हैं, लेकिन बहुत गंभीर हैं. उनसे निपटने के लिए कुछ हद तक सबको मिलकर काम करना होगा, लेकिन यह काम जितना हो सके उतना सीमित और कम दखल वाला होना चाहिए;
• जहाँ भी संभव हो, कानून को ऐसा होना चाहिए कि सबको बराबर मौका मिले और लोगों व छोटे ऑर्गेनाइज़ेशंस को अपने दम पर आगे बढ़ने की ताकत मिले, न कि सत्ता कुछ ही जगहों पर जमा हो;
• दुनिया किस दिशा में आगे बढ़ेगी, यह तय करने में इंसानों के राजनीतिक, सामाजिक और इकोनॉमिक सिस्टम की अहम भूमिका बनी रहनी चाहिए, भले ही आने वाले समय में इन्हें ऐसे तरीकों से बदलना पड़े जो आज हमें अजीब लग सकते हैं;
• लंबे समय में AI के लिए ऐसे नए सिस्टम की ज़रूरत होगी, जिनसे ज़रूरत पड़ने पर यह पता लगाया जा सके कि किसी बड़े काम के पीछे कौन ज़िम्मेदार इंसान या संस्था है—जब AI सिस्टम ऐसे अहम काम करें जिनसे आसपास के लोगों की शारीरिक सेहत या उनकी संपत्ति पर असर पड़ सकता है, तो उन कामों का संबंध किसी ज़िम्मेदार इंसान या इंसानों के कंट्रोल वाली संस्था से जोड़ा जा सके, यह ज़रूरी होगा. लेकिन ऐसे किसी भी सिस्टम में प्राइवेसी सबसे अहम होनी चाहिए. अपनी बात खुलकर कहने की आज़ादी के लिए कई बार अपनी पहचान छिपाना ज़रूरी होता है और कई जगहों पर लोगों को अपनी पहचान बताए बिना AI इस्तेमाल करने की आज़ादी होनी चाहिए.

हम कोशिश करेंगे कि इन सिद्धांतों के बीच सही तालमेल कैसे बनाया जाए, इसे जितना हो सके उतने साफ़ और ठोस तरीके से समझाएँ. यह आसान नहीं होगा, क्योंकि इन विचारों में कुछ टकराव भी है - और अच्छे विचारों के किसी भी सेट में ऐसा होना स्वाभाविक है. इसके लिए हमें पब्लिक पॉलिसी कैसे बनाई जाए, इकोनॉमिक्स, कानून, इतिहास और मशीन लर्निंग - इन सभी के बीच के संबंध पर काम करना होगा. इसके साथ हमें आने वाले समय का अनुमान लगाने की भी काफ़ी ज़रूरत होगी. उदाहरण के लिए, हमारा मानना है कि AI कंपनियों के काम करने के तरीके को अंदर तक बदल सकता है, ठीक वैसे ही जैसे इंडस्ट्रियल रिवॉल्यूशन की टेक्नोलॉजी (खासकर रेलरोड) ने आज की मैनेजमेंट वाली कंपनियों को जन्म दिया था. आने वाले समय में पॉलिटिकल इकोनॉमी और सत्ता के बीच तालमेल को समझना मुश्किल होगा, जब तक हम यह बेहतर तरीके से न समझें कि कंपनियों, सरकारी एजेंसियों और बड़े स्तर पर सिविल सोसाइटी के काम करने के तरीके भी किस तरह बदल सकते हैं.

'स्ट्रैटेजिक फ़्यूचर्स' टीम अपना काम यहाँ और दूसरे फ़ॉर्मैट्स में भी शेयर करेगी, जिनमें पेपर्स, वीडियो और पॉडकास्ट शामिल हैं. हमारा काम अभी जारी है और हम इसे लगातार बेहतर बनाने, चर्चा करने और फ़ीडबैक को खुले मन से अपनाने पर ध्यान देंगे. सिंग्युलैरिटी की ओर बढ़ते इस शुरुआती दौर में, हमारे पास जवाबों से कहीं ज़्यादा सवाल हैं. हम जानते हैं कि सिर्फ़ "कागज़ी रोक" हमारे सवालों का हल नहीं दे सकती, लेकिन लिखी हुई बातों को "सिर्फ़ शब्द" कहकर नज़रअंदाज़ भी नहीं किया जा सकता. हम अभिव्यक्ति की आज़ादी और व्यक्ति की आज़ादी के उन आदर्शों के लिए काम कर रहे हैं, जिन्हें अमेरिका के संविधान और दुनिया भर के कई दूसरे स्वतंत्र समाजों के संविधानों में जगह दी गई है.

अंततः, हम जानते हैं कि कोई एक कंपनी, उद्योग या यहां तक कि कोई एक मानव समाज भी हमारे सामने मौजूद गंभीर प्रश्नों के उत्तर अकेले नहीं दे सकता. यह ऐसा दायित्व है जिसे पूरी मानवता को मिलकर निभाना होगा. हमारी सबसे बड़ी आशा है कि एआई हमारी दुनिया को कैसे नया रूप देगा, इससे जुड़े सबसे कठिन विषयों पर हम प्रकाश डाल सकें. हमारा काम अभी शुरू ही हुआ है और हमें अभी बहुत ऊंचाई चढ़नी है.

टिप्पणी: गैर-लाभकारी एआई फ्यूचर्स प्रोजेक्ट से अलग पहचान देने के लिए हमने इस ब्लॉग का नाम बदलकर इंटेलिजेंस युग कर दिया है.