हमारे सिद्धांत

AI में समाज के कई पहलुओं को महत्वपूर्ण रूप से बेहतर बनाने की क्षमता है.

यह तकनीक, पहले की अन्य तकनीकों की तरह, लोगों को अधिक क्षमता और स्वायत्तता देगी; AI के साथ लोग जो कर सकेंगे, वह भाप इंजनों या बिजली के साथ लोगों की क्षमता से कहीं आगे होगा.

हम एक ऐसी दुनिया की कल्पना करते हैं जहाँ व्यापक समृद्धि और उन्नति हो, उस स्तर पर जिसकी कल्पना करना अभी कठिन है, और ऐसी दुनिया जहाँ व्यक्तिगत क्षमता, स्वायत्तता और संतुष्टि में उल्लेखनीय वृद्धि हो. जिन कई चीजों को हमने अब तक सिर्फ साइंस-फिक्शन में सपना देखा है, वे वास्तविकता बन सकती हैं, और अधिकांश लोग आज की तुलना में अधिक सार्थक जीवन जी सकते हैं.

लेकिन यह परिणाम सुनिश्चित नहीं है. भविष्य में शक्ति या तो कुछ गिनी-चुनी कंपनियों के हाथ में हो सकती है जो सुपरइंटेलिजेंस का उपयोग और नियंत्रण करें, या फिर यह लोगों के बीच विकेंद्रीकृत रूप से वितरित हो सकती है. हमारा मानना है कि दूसरा विकल्प कहीं बेहतर है, और हमारा लक्ष्य वास्तव में सामान्य AI को जितने अधिक लोगों तक संभव हो, पहुँचाना है. वर्तमान की तरह, भविष्य भी पूरी तरह बुरा या पूरी तरह अच्छा नहीं होगा, लेकिन हम आज जो निर्णय लेते हैं वे अच्छाई को अधिकतम करने में मदद कर सकते हैं.

हमारा मिशन यह सुनिश्चित करना है कि AGI पूरी मानवता के लिए लाभकारी हो. यहाँ वे सिद्धांत हैं जो हमारे काम का मार्गदर्शन करते हैं.

1. लोकतंत्रीकरण. हम इस तकनीक की उस संभावना का विरोध करेंगे जिसमें शक्ति कुछ लोगों के हाथों में सिमट जाए.

इसका अर्थ है कि सभी को AI तक पहुँच देने के अलावा, हमें यह भी सुनिश्चित करना होगा कि AI के बारे में महत्वपूर्ण निर्णय लोकतांत्रिक प्रक्रियाओं और समतावादी सिद्धांतों के माध्यम से लिए जाएँ, केवल AI लैब्स द्वारा नहीं.

2. सशक्तिकरण. हम मानते हैं कि AI हर व्यक्ति को अपने लक्ष्य हासिल करने, अधिक सीखने, अधिक खुश और संतुष्ट रहने, और अपने सपनों का पीछा करने में सक्षम बना सकता है, और इससे पूरे समाज को लाभ होगा.

इसे हासिल करने के लिए लोगों को अपने सामने मौजूद विशाल संभावनाओं का अन्वेषण करने देना आवश्यक है, और हमें ऐसे उत्पाद बनाने होंगे जो इसे संभव करें. उपयोगकर्ताओं को हमारी सेवाओं के साथ लगातार अधिक मूल्यवान कार्य पूरे कर पाने चाहिए.

दुनिया विविध है और लोगों की ज़रूरतें अलग-अलग हैं. हम अपने उपयोगकर्ताओं को वह स्वायत्तता देना चाहते हैं जिसकी उन्हें आवश्यकता है और जहाँ तक उचित हो, उतनी स्वतंत्रता देना चाहते हैं.

हालाँकि हम अपने उपयोगकर्ताओं को हमारी सेवाओं के उपयोग के तरीके में बहुत व्यापक छूट देना चाहते हैं और दृढ़ता से मानते हैं that AI समग्र रूप से बहुत लाभकारी होगा, फिर भी हमारी ज़िम्मेदारी है कि हम इसे ऐसे तरीके से बनाएँ और लागू करें जिससे हानि न्यूनतम हो. इसमें निश्चित रूप से विनाशकारी नुकसान को रोकना शामिल है, लेकिन साथ ही स्थानीय स्तर की हानियों को कम करना और संभावित रूप से समाज को भीतर से कमजोर करने वाले प्रभावों से बचना भी शामिल है. इसका अर्थ होगा अनिश्चितता की स्थिति में सावधानी को प्राथमिकता देना, और अधिक प्रमाण मिलने पर प्रतिबंधों को शिथिल करना.

3. सार्वभौमिक समृद्धि. हम ऐसा भविष्य चाहते हैं जहाँ हर व्यक्ति एक उत्कृष्ट जीवन जी सके.

आसान-से-उपयोग वाले, बहुत अधिक कंप्यूट शक्ति वाले AI सिस्टम सबके हाथों में देकर, हमारा मानना है कि लोग मूल्य सृजन के नए तरीके खोजेंगे और सबके जीवन-स्तर में भारी सुधार करेंगे, विशेष रूप से नए विज्ञान की खोज के साथ.

समृद्धि को पूरी तरह साकार करने और व्यापक रूप से साझा करने के लिए, हमारा मानना है कि 1) हमारी सरकारों को नए आर्थिक मॉडलों पर विचार करना पड़ सकता है ताकि हर व्यक्ति हमारे सामने मौजूद मूल्य-सृजन में भाग ले सके और 2) हमें विशाल मात्रा में AI अवसंरचना बनानी होगी और नई तकनीक विकसित करनी होगी ताकि AI अवसंरचना की लागत बहुत कम हो सके.

हम जो बहुत-सी चीजें करते हैं और जो कभी-कभी अजीब लगती हैं—जैसे हमारी आय अपेक्षाकृत कम होने पर भी भारी मात्रा में कंप्यूट खरीदना, लागत घटाने और हमारी तकनीक को उपयोग में आसान बनाने के लिए ऊर्ध्वाधर एकीकरण करना, दुनिया भर में डेटासेंटर बनाने के लिए प्रयास करना, और बहुत कुछ—इन सबके पीछे सार्वभौमिक समृद्धि वाले भविष्य में हमारा मूलभूत विश्वास है.

4. लचीलापन. AI नए जोखिम लाएगा, और हम उन्हें हल करने के लिए अन्य कंपनियों, व्यापक पारिस्थितिक तंत्रों, सरकारों और समाज के साथ काम करेंगे. हम इस कार्य के समर्थन में अपनी Foundation के संसाधनों का महत्वपूर्ण उपयोग करेंगे.

कोई भी AI लैब अकेले एक अच्छा भविष्य सुनिश्चित नहीं कर सकती. एक स्पष्ट उदाहरण के तौर पर, ऐसे अत्यंत सक्षम मॉडल हो सकते हैं जो किसी नए रोगजनक को बनाना आसान कर दें, और हमें इसके विरुद्ध रोगजनक-निरपेक्ष प्रतिरोधक उपायों के साथ समाज-व्यापी दृष्टिकोण की आवश्यकता है. एक और उदाहरण के रूप में, जैसे-जैसे मॉडलों की साइबरसुरक्षा क्षमताएँ बढ़ेंगी, हमें इन मॉडलों का तेजी से उपयोग ओपन-सोर्स सॉफ़्टवेयर और महत्वपूर्ण अवसंरचना को सुरक्षित करने में करना होगा, साथ ही मॉडलों को इस तरह प्रशिक्षित करना होगा कि वे सभी को अधिक सुरक्षित सॉफ़्टवेयर बनाने में मदद करें.

यह हमारी लंबे समय से अपनाई गई क्रमिक परिनियोजन रणनीति का विस्तार है; हमारा मानना है कि समाज को AI क्षमता के प्रत्येक अगले स्तर का सामना करना, उसे समझना, उसे अपनाना, और मिलकर आगे का सर्वोत्तम रास्ता तय करना होगा. यह शून्य में नहीं किया जा सकता; समाज और तकनीक साथ-साथ विकसित होते हैं, और इसके लिए समय चाहिए.

हमारा मतलब यह नहीं है कि यही हमारी एकमात्र सुरक्षा रणनीति है; हमें सुरक्षित सिस्टम भी बनाने हैं और तकनीकी एलाइनमेंट पर उत्कृष्ट काम जारी रखना है.

हम उम्मीद करते हैं कि ऐसे दौर आएँगे जब हमें सरकारों, अंतरराष्ट्रीय एजेंसियों और अन्य AGI प्रयासों के साथ सहयोग करना होगा ताकि अपने काम में आगे बढ़ने से पहले यह सुनिश्चित किया जा सके कि हमने एलाइनमेंट, सुरक्षा या सामाजिक समस्याओं जैसे गंभीर मुद्दों का पर्याप्त समाधान कर लिया है.

5. अनुकूलनशीलता. हम अब भी मानते हैं कि अत्यंत अप्रत्याशित भविष्य की चुनौतियों का सामना करने का एकमात्र तरीका यह है कि जैसे-जैसे हम अधिक सीखें, हम अपने दृष्टिकोण को अद्यतन करने के लिए तैयार रहें. हम यह भी स्वीकार करते हैं कि OpenAI आज दुनिया में कुछ वर्ष पहले की तुलना में कहीं अधिक बड़ी शक्ति है, और हम इस बारे में पारदर्शी रहेंगे कि हमारे संचालन सिद्धांत कब, कैसे और क्यों बदलते हैं. एक ठोस उदाहरण के रूप में, जबकि हमें पूरा भरोसा है कि सार्वभौमिक समृद्धि बेहद महत्वपूर्ण बनी रहेगी, हम भविष्य में ऐसे दौर की कल्पना कर सकते हैं जहाँ हमें अधिक लचीलेपन के लिए कुछ सशक्तिकरण से समझौता करना पड़े.

AI के विकास ने कई आश्चर्य पैदा किए हैं, और आगे भी कई आने बाकी हैं. जैसे-जैसे तकनीक आगे बढ़ेगी, इसके उभरते व्यवहारों की भविष्यवाणी करना लगातार कठिन होता जाएगा. हम क्षमताओं को सावधानी से आगे बढ़ाकर, सिस्टमों को क्रमिक रूप से तैनात करके, और दुनिया के साथ उनकी अंतःक्रियाओं से सीखकर उस अनिश्चितता को अपनाते हैं⁠.

बहुत समय पहले की बात नहीं है जब हम GPT‑2 के वेट्स जारी करने को लेकर चिंतित थे क्योंकि हमें यह निश्चित नहीं था कि समाज पर उसके क्या प्रभाव होंगे. पीछे मुड़कर देखने पर यह चिंता स्पष्ट रूप से गलत साबित हुई, लेकिन इसी से हमें क्रमिक परिनियोजन की रणनीति मिली, जो उन सबसे महत्वपूर्ण बातों में से एक रही है जिन्हें हमने समझा है.

__

तकनीक के लगातार बेहतर होने के साथ हम एक बहुत प्रभावशाली चरण में प्रवेश कर रहे हैं. हमारे हर निर्णय की आलोचना करना पूरी तरह उचित है; हम जो कर रहे हैं उसके महत्व को देखते हुए हम गहन जाँच-पड़ताल के पात्र हैं. हम हर चीज़ सही नहीं करेंगे, लेकिन हम जल्दी सीखेंगे और दिशा-सुधार करेंगे.

हम भविष्य को अतीत से बेहतर बनाने में अपनी भूमिका निभाने के लिए प्रतिबद्ध हैं; हमें खुशी है कि हमें इतना महत्वपूर्ण काम करने का अवसर मिला है.