संयुक्त राष्ट्र सुरक्षा परिषद में Sam Altman का संबोधन

आज OpenAI के मुख्य कार्यकारी अधिकारी Sam Altman ने संयुक्त राष्ट्र सुरक्षा परिषद को कृत्रिम बुद्धिमत्ता के विषय पर संबोधित किया. उन्होंने अवसरों को बढ़ाने की AI की क्षमता, शक्तिशाली प्रणालियों को मानव नियंत्रण में रखने के महत्व और AI सुरक्षा पर अंतरराष्ट्रीय सहयोग की आवश्यकता पर चर्चा की.

माननीय अध्यक्ष और महामहिमगण, आपका बहुत-बहुत धन्यवाद. इस महत्वपूर्ण समय में यहां उपस्थित होना और आप सभी से बात करने का अवसर मिलना मेरे लिए सम्मान की बात है.

हम वर्षों से कृत्रिम बुद्धिमत्ता के बारे में बात करते रहे हैं, लेकिन हाल के सप्ताहों और महीनों में स्थिति अलग महसूस होने लगी है. मॉडल में तेज प्रगति के कारण समयसीमा छोटी लगने लगी है और लाभ अधिक प्रत्यक्ष हुए हैं, लेकिन दांव और जोखिम भी अधिक तात्कालिक हो गए हैं.

हमारे सामने एक विकल्प है. AI या तो रचनात्मकता और खोज के एक नए पुनर्जागरण जैसा हो सकता है या उथल-पुथल और अव्यवस्था वाली नई औद्योगिक क्रांति जैसा.

पुनर्जागरण वह दौर था जब नए औजारों, नए विचारों और नई संस्थाओं ने लोगों की इस धारणा का विस्तार किया कि वे क्या कर सकते हैं. AI हमारे युग में यही भूमिका निभा सकता है. मेरा मानना है कि लोग अपनी कल्पना से कहीं अधिक सक्षम हैं, लेकिन सीमित तकनीक ने उन्हें पीछे रोका है. यह तकनीक उन्हें सशक्त बनाने के लिए थी, पर इसके बजाय ध्यान भटकाती है और अक्सर उनका ध्यान छीन लेती है.

AI का सर्वोत्तम रूप लोगों को किसी विशाल मशीन का पुर्जा बनाने या जीवन के हर हिस्से को इस हद तक अनुकूलित करने के बारे में नहीं है कि मानवीय पहलू ही गायब हो जाएं. इसका उद्देश्य लगातार जटिल होती दुनिया में लोगों को अधिक अधिकार देना है: सीखने, रचने, खोजने, निर्माण करने और भाग लेने की अधिक क्षमता. कई काम ऐसे हैं जिन्हें AI स्वचालित नहीं कर सकता और न ही उसे करना चाहिए.

AI लोगों के लिए बनाया जाना चाहिए, न कि केवल मशीनों को यूं ही और तेजी से चलाने के लिए. AI बनाने में जुटे कुछ लोगों की बातें इतनी भयावह भविष्य की तस्वीर पेश करती हैं कि वे खराब विज्ञान-कथा फिल्मों की कहानी जैसी लगती हैं.

इतनी शक्तिशाली कोई भी चीज भयभीत भी करती है. यह क्षण जटिल है, क्योंकि हम एक ही समय में अपार संभावनाएं और पूरी तरह स्वाभाविक चिंता—दोनों महसूस कर रहे हैं.

ये मॉडल लोगों को नया ज्ञान खोजने में मदद कर सकते हैं: नई दवाएं, बेहतर स्वास्थ्य सेवा, सशक्त शिक्षा और अधिक उत्पादक अर्थव्यवस्थाओं का निर्माण. ये लोगों के लिए उन सपनों और महत्वाकांक्षाओं को पूरा करने के नए साधन बन सकते हैं जो आज पहुंच से बाहर लगते हैं. औसत व्यक्ति के लिए जीवन की जटिलता बहुत अधिक बढ़ गई है. AI इस जटिलता से बचाव का साधन भी बन सकता है और अभूतपूर्व खोज व नवाचार का माध्यम भी.

दूसरी ओर, AI प्रणालियां अधिक सक्षम और स्वायत्त होने के साथ हमारी संस्थाओं से तेज चल सकती हैं, सत्ता को बहुत कम हाथों में केंद्रित कर सकती हैं या ऐसे फैसले ले सकती हैं जिन्हें लोग समझ या नियंत्रित न कर पाएं.

जब हम ऐसी प्रणालियों के करीब पहुंचते हैं जो स्वयं को और अपने भावी संस्करणों को बेहतर बना सकती हैं—जिसे अक्सर पुनरावर्ती आत्म-सुधार कहा जाता है—तो यह चिंता विशेष रूप से महत्वपूर्ण हो जाती है. AI के निर्माण की प्रक्रिया अधिक स्वचालित होने के साथ इसकी प्रगति की गति तेजी से बढ़ सकती है. इस समय अत्यधिक सावधानी बरतना आवश्यक है.

मैं प्रोफेसर बेंगियो से काफी हद तक सहमत हूं. हालांकि मैं तीन के बजाय दो कहूंगा—मेरा मानना है कि AI की प्रगति दो तरह से बेहद गलत दिशा में जा सकती है और हमें दोनों से बचना होगा.

पहला, हम भविष्य का नियंत्रण AI के हाथों खो सकते हैं. जोखिम यह है कि इसकी गति इतनी तेज हो जाए कि लोग न तो समझ पाएं कि क्या हो रहा है और न ही जरूरत पड़ने पर हस्तक्षेप कर सकें. यह निस्संदेह भयानक होगा.

उद्योग को केवल इसलिए अत्यधिक तकनीकी जोखिम स्वीकार नहीं करना चाहिए कि संभावित लाभ बहुत बड़े हैं और प्रगति को धीमा करना अनुचित लगता है. प्रतिस्पर्धा में दूसरी कंपनियों को पछाड़ना जल्दबाजी में फैसले लेने का कारण नहीं हो सकता. न ही हमारा मानना है कि हम ऐसी दौड़ में फंसे हैं जिसमें अपनी गति धीमी नहीं कर सकते. हमने पहले भी अपनी पहल पर गति धीमी की है. हम भविष्य में भी ऐसा करेंगे. हम ऐसी प्रणालियां नहीं बनाना चाहते—और हमारा मानना है कि सभी को ऐसी प्रणालियां बनाने से बचना चाहिए—जिनके बारे में हम मानवीय उद्देश्यों के अनुरूप होने, निगरानी में रहने और सुरक्षित होने की आवश्यक गारंटी न दे सकें.

हमें समझना होगा कि ये प्रणालियां क्या कर रही हैं और हमारे पास इस बात के ठोस साक्ष्य होने चाहिए कि अत्यंत बुद्धिमान हो जाने पर भी वे वही करेंगी जो लोग चाहते हैं. वास्तव में, खासकर तब जब वे अत्यंत बुद्धिमान हो जाएं. इससे फर्क नहीं पड़ता कि लोग विनाशकारी घटना का जोखिम 10%, 1%, 12% या .1% मानते हैं. इनमें से कोई भी स्तर जरा भी स्वीकार्य नहीं है. हमें ऐसे मॉडल प्रशिक्षित नहीं करने चाहिए जिनके मानव नियंत्रण में बने रहने के पक्ष में हम अत्यंत ठोस प्रमाण प्रस्तुत न कर सकें.

तो यह एक तरीका है जिससे हालात गलत दिशा में जा सकते हैं. दूसरी ओर, ये प्रणालियां बहुत अधिक सत्ता को बहुत कम हाथों में केंद्रित कर सकती हैं. किसी भी व्यक्ति, कंपनी या देश को सबसे शक्तिशाली AI मॉडल का उपयोग करके अपना विश्वदृष्टिकोण बाकी सभी पर थोपने में सक्षम नहीं होना चाहिए. यदि कोई कंपनी या देश मानता है कि इस तकनीक के मामले में केवल उसी पर भरोसा किया जा सकता है, तो वह इस धारणा से लगभग किसी भी अन्य कदम को उचित ठहरा सकता है. हमें इस तर्क को अस्वीकार करना होगा, भले ही वह किसी पक्ष के लिए सुविधाजनक क्यों न हो.

मेरा मानना है कि इन दोनों के बीच एक व्यावहारिक रास्ता मौजूद है. OpenAI में हम इन सवालों पर एक स्पष्ट लक्ष्य के साथ विचार करते हैं: AI लोगों को अपने जीवन पर अधिक अधिकार दे. अपनी इच्छा के अनुसार जीवन जीने की अधिक स्वतंत्रता. छोटी-बड़ी समस्याओं को हल करने और अपने समुदायों को बेहतर बनाने की अधिक क्षमता. हम अंधे आशावाद के जाल में नहीं फंसना चाहते. हम निराशावादी भय के जाल में भी नहीं फंसना चाहते. किसी भी अति की ओर खिंचने से हम अपने सामने मौजूद चुनौतियों का सफल समाधान नहीं खोज पाएंगे, खासकर ऐसे समय में जब दुनिया और उसके लोग इतनी बड़ी चुनौतियों से जूझ रहे हैं जिन्हें हल करने में यह तकनीक मदद कर सकती है. इसलिए हम इन दोनों ध्रुवों के बीच का रास्ता अपनाने की कोशिश करते हैं.

हमारे लिए इसके अर्थ तीन सिद्धांत हैं.

पहला, AI के अधिक सक्षम होने के साथ उसके फैसलों में लोगों की भूमिका केंद्रीय बनी रहनी चाहिए. मानवीय उद्देश्यों के अनुरूप बनाना कोई अमूर्त शोध प्रश्न नहीं है. इसका अर्थ यह सुनिश्चित करना है कि ये प्रणालियां विश्वसनीय रूप से मानव नियंत्रण में रहें, मानवीय मूल्यों को प्रतिबिंबित करें और विकास के अगले चरणों को दिशा देने में लोगों की मदद करें. हम मानवीय विवेक या मानवीय मूल्यों को स्वचालित बनाने की कोशिश नहीं कर रहे हैं और हमें ऐसा करना भी नहीं चाहिए.

दूसरा, वैज्ञानिक प्रगति और आर्थिक वृद्धि के लाभ लोगों के प्रयासों से और लोगों के लिए होने चाहिए. AI को शोधकर्ताओं को नई खोज करने, चिकित्सकों को रोगियों का उपचार करने, शिक्षकों को विद्यार्थियों को पढ़ाने, उद्यमियों को कंपनियां शुरू करने और समुदायों को अब तक पहुंच से बाहर लगने वाली समस्याएं हल करने सहित कई अन्य कार्यों में मदद करनी चाहिए. मानव प्रगति की सतत कहानी यह नहीं है कि औजार इंसान की निर्णय लेने और काम करने की क्षमता की जगह ले लेते हैं. बल्कि सही औजार लोगों को अधिक सक्षम बनाते हैं, और मेरा विश्वास है कि यह हमारी कल्पना से कहीं आगे जाएगा.

तीसरा, इस तकनीक को हर व्यक्ति को सशक्त बनाना चाहिए. बेहतरीन भविष्य तब बनेगा जब लोग अपनी क्षमताओं को साकार करेंगे और अपने लिए, अपने समुदायों, अपने देशों तथा व्यापक दुनिया के लिए मूल्य का निर्माण करेंगे. हम भले ही इस तकनीक के निर्माताओं में से एक हों, लेकिन इस कहानी के नायक हम नहीं हैं. हमारी भूमिका दुनिया भर के लोगों को सक्षम बनाना और मानवता के कौशल व क्षमताओं के चमत्कार पर भरोसा करना है.

अब हमारे पास ऐसे मॉडल हैं जो उस ज्ञान की खोज कर सकते हैं जो पहले हमारे पास कभी नहीं था. गणित में हुई हमारी प्रगति पर विचार कीजिए. तीन वर्ष पहले हमारे मॉडल प्राथमिक स्तर के गणित में ठीक-ठाक थे. दो वर्ष पहले वे उच्चतर माध्यमिक स्तर की गणित प्रतियोगिताओं में काफी अच्छे हो गए थे. पिछले वर्ष हमने सबसे प्रतिष्ठित अंतरराष्ट्रीय गणित प्रतियोगिता में स्वर्ण पदक का स्तर हासिल किया. और इसी वर्ष कुछ सप्ताह पहले हमारे एक मॉडल ने सहस्राब्दी पुरस्कार समस्याओं में से एक, नावियर-स्टोक्स समीकरणों को हल किया.

इन समीकरणों का उपयोग विमान डिजाइन, मौसम पूर्वानुमान और रक्त प्रवाह के अध्ययन में किया जाता है. हम गणित की समस्याएं केवल उन्हें हल करने के लिए नहीं सुलझा रहे, बल्कि लोगों को नया ज्ञान खोजने और उसका उपयोग स्वास्थ्य सेवा सुधारने, जीवन स्तर ऊंचा उठाने तथा दुनिया भर में हर व्यक्ति की क्षमता बढ़ाने के लिए सशक्त बना रहे हैं. अभी बहुत कुछ खोजा जाना बाकी है.

लेकिन यह बेहद महत्वपूर्ण है कि कंपनियां लोकतांत्रिक प्रक्रिया की जगह न लें.

यदि AI को लोकतांत्रिक बनाना है, तो सबसे महत्वपूर्ण फैसले केवल सैन फ्रांसिस्को की प्रयोगशालाएं नहीं ले सकतीं. इन फैसलों को लोकतांत्रिक प्रक्रियाओं और उन लोगों के प्रति जवाबदेह सरकारों के माध्यम से आकार दिया जाना चाहिए जिनकी वे सेवा करती हैं.

अंतरराष्ट्रीय स्तर पर इसके लिए सहयोग की आवश्यकता होगी. इतिहास में कई बार ऐसा हुआ है कि एक-दूसरे से प्रतिस्पर्धा करने वाले और आपस में बहुत अच्छे संबंध न रखने वाले देश भी किसी शक्तिशाली नई तकनीक के सामने साझा हितों और सामूहिक भलाई के लिए साथ आए हैं. हमारा मानना है कि यह भी वैसा ही एक अवसर होना चाहिए.

हमें राष्ट्रीय और अंतरराष्ट्रीय स्तर पर एक-दूसरे के पूरक अत्याधुनिक AI मानकों की व्यवस्था चाहिए: क्षमताओं को मापने, जोखिमों का आकलन करने, सुरक्षा उपायों की पर्याप्तता निर्धारित करने और प्रणालियों के अधिक स्वायत्त होने पर सार्थक मानवीय निगरानी बनाए रखने के मानक.

हमें साझा मानक चाहिए, ताकि देश साक्ष्यों की तुलना कर सकें, अनुपालन की पुष्टि कर सकें और जो कुछ हो रहा है उसे समझने के लिए उनके पास एक साझा भाषा और समझ हो.

हमें घटनाओं की सटीक और त्वरित सूचना देने के साथ ही उनके वर्गीकरण और सूचना देने के नियम चाहिए, ताकि विफलताओं के आपदा बनने से पहले दुनिया उनसे सीख सके.

साथ ही, उभरती कमजोरियों और नए खतरों की जानकारी साझा करने के लिए सरकारों, महत्वपूर्ण बुनियादी ढांचे के संचालकों और तकनीकी विशेषज्ञों के बीच सुरक्षित माध्यम चाहिए.

निस्संदेह, इन मानकों से मौजूदा संस्थाओं का वर्चस्व स्थायी नहीं होना चाहिए और न ही किसी एक व्यावसायिक प्रारूप को दूसरे पर तरजीह मिलनी चाहिए. इन मानकों को खुले और बंद मॉडल विकसित करने वालों, नए प्रतिभागियों और स्थापित प्रयोगशालाओं, राष्ट्रीय अधिकार तथा अंतरराष्ट्रीय सहयोग—सभी का समर्थन करना चाहिए. हर सरकार को स्वयं तय करना चाहिए कि वह इन मानकों को अपनी कानूनी व्यवस्था में कैसे शामिल करेगी. लेकिन वैश्विक स्तर पर अच्छे साक्ष्य, प्रभावी सुरक्षा उपाय और उचित निगरानी कैसी होनी चाहिए, इस पर सहमति बना सकें तो हम सभी के लिए बेहतर होगा.

हमारे पास सभी सवालों के जवाब नहीं हैं और हम किसी भी बेहतर विचार का खुले दिल से स्वागत करते हैं. हम आप सभी के साथ काम करने और आगे का रास्ता खोजने के लिए अपनी पूरी कोशिश करने को तैयार हैं.

हम एक निर्णायक मोड़ पर हैं. एक रास्ता ऐसी दुनिया की ओर जाता है जहां सत्ता कुछ हाथों में केंद्रित हो, फैसले अपारदर्शी हों और लोगों को लगे कि उनके जीवनकाल की सबसे महत्वपूर्ण तकनीक उनकी इच्छा के विरुद्ध उन पर थोपी जा रही है. दूसरा रास्ता ऐसी दुनिया की ओर जाता है जहां AI लोगों के लिए काम करे, क्योंकि लोग लोकतांत्रिक संस्थाओं के माध्यम से इसके विकास और मार्गदर्शन से जुड़े फैसलों में भाग लें; जहां वैज्ञानिक प्रगति वास्तविक जीवन को बेहतर बनाए; जहां अधिक लोग भविष्य के निर्माण में भाग ले सकें; और जहां यह तकनीक लोगों और समुदायों को अपनी पसंद का जीवन जीने के लिए अधिक सक्षम बनाती रहे. यह ऐसा भविष्य है जिसमें संभावनाएं साकार होंगी और उत्साह व विस्मय होगा.

और हमारा मानना है कि इस भविष्य का निर्माण करना सार्थक है. आपका बहुत-बहुत धन्यवाद.