AI Alignment पर स्वतंत्र अनुसंधान को प्रगति देना

जैसे-जैसे AI सिस्टम ज़्यादा काबिल और ज़्यादा ऑटोनॉमस होते जा रहे हैं, अलाइनमेंट रिसर्च को तालमेल बनाए रखने और डाइवर्सिटी को स्केल करने की ज़रूरत है. OpenAI में, हम अत्याधुनिक अलाइनमेंट और सुरक्षा अनुसंधान में भारी निवेश करते हैं क्योंकि यह हमारे मिशन के लिए अत्यंत महत्वपूर्ण है. हम यह भी मानते हैं कि AGI को सभी के लिए सुरक्षित और लाभकारी बनाना किसी एक संगठन के बस की बात नहीं है, और हम स्वतंत्र अनुसंधान और वैचारिक दृष्टिकोणों का समर्थन करना चाहते हैं जिन्हें अत्याधुनिक प्रयोगशालाओं के बाहर विकसित किया जा सके. हम मानते हैं कि AI का भविष्य वैसा नहीं होगा जैसा कोई भी भविष्यवाणी करता है, और परिणाम को आकार देने में अधिक लोगों की भागीदारी होनी चाहिए.

आज, हम The Alignment Project⁠(एक नई विंडो में खुलेगा) को $7.5 मिलियन का अनुदान देने की घोषणा कर रहे हैं, जो UK AI Security Institute (UK AISI) द्वारा निर्मित स्वतंत्र संरेखण अनुसंधान के लिए एक वैश्विक कोष है. Renaissance Philanthropy अनुदान के प्रशासन का समर्थन कर रहा है. यह योगदान The Alignment Project को अब तक स्वतंत्र संरेखण अनुसंधान के लिए समर्पित सबसे बड़े फंडिंग प्रयासों में से एक बनाने में मदद करता है और व्यापक, स्वतंत्र इकोसिस्टम को मजबूत करता है.

OpenAI जैसी अत्याधुनिक लैब्स एक अनोखी स्थिति में हैं कि वे अलाइनमेंट रिसर्च कर सकें, जो अत्याधुनिक मॉडलों तक पहुँच और महत्वपूर्ण कंप्यूट पर निर्भर करता है—ऐसा काम जिसे स्वतंत्र शोधकर्ताओं के लिए अक्सर खोजना मुश्किल होता है. हम अपने आंतरिक एलाइनमेंट प्रयास का अधिकांश हिस्सा स्केलेबल तरीकों के विकास में लगाते हैं ताकि एलाइनमेंट प्रगति, क्षमता प्रगति के साथ तालमेल बनाए रख सके. हमारा मानना है कि इटरेटिव डिप्लॉयमेंट—सुरक्षा उपायों को मज़बूत करते हुए क्षमताओं को धीरे-धीरे बढ़ाना—समस्याओं को जल्दी उजागर करने में मदद करता है और हमें इस बारे में ठोस प्रमाण देता है कि व्यवहार में क्या काम करता है. जिम्मेदार विकास के लिए महत्वपूर्ण संरेखण और सुरक्षा कार्य की आवश्यकता होती है, जो मॉडल निर्माण और डिप्लॉयमेंट के साथ निकटता से एकीकृत हो.

समानांतर रूप से, यह क्षेत्र स्वतंत्र, अन्वेषणात्मक अनुसंधान में निरंतर निवेश से लाभान्वित होता है—जो विचारों के दायरे का विस्तार कर सकता है और नई दिशाओं का पता लगा सकता है. स्वतंत्र अनुसंधान आवश्यक बना रहता है; कई प्रकार की उपयोगी जांच में, प्रयोगशालाओं के पास तुलनात्मक लाभ नहीं होता है. एक स्वस्थ अलाइनमेंट इकोसिस्टम स्वतंत्र टीमों द्वारा विविध मान्यताओं का परीक्षण करने, वैकल्पिक फ्रेमवर्क विकसित करने, और ऐसे कॉन्सेप्चुअल, थ्योरिटिकल, और ब्लू-स्काई विचारों को एक्स्प्लोर करने पर निर्भर करता है, जो किसी एक संगठन के रोडमैप के साथ साफ़-साफ़ मेल न भी खाएँ.

और क्योंकि AGI की ओर प्रगति आखिरकार उन बुनियादी सफलताओं पर निर्भर कर सकती है जो अलाइनमेंट समस्या का स्वरूप बदलती हैं और कौन से तरीके सबसे उपयोगी हैं, इसलिए ऐसे शोध का समर्थन करना महत्वपूर्ण है जो तब भी मायने रखेगा, भले ही आज के प्रमुख तरीके हमारी अपेक्षा के अनुसार स्केल न करें. उन दुनियाओं में, बुनियादी, वैचारिक, और असंबद्ध कार्य करने के लिए एक मजबूत बाहरी इकोसिस्टम का होना विशेष रूप से महत्वपूर्ण हो जाता है. AI अलाइनमेंट और सुरक्षा की समस्या अभूतपूर्व महत्व की है, और हमें सभी का सहयोग चाहिए क्योंकि हम अभी तक नहीं जानते कि क्षमताएं बढ़ने के साथ कौन-से दृष्टिकोण सबसे टिकाऊ साबित होंगे.

हमारा अनुदान—वर्तमान विनिमय दरों पर लगभग £5.6 मिलियन—अन्य सार्वजनिक, परोपकारी और उद्योग समर्थकों के साथ मिलकर The Alignment Project का सह-वित्तपोषण करेगा⁠(एक नई विंडो में खुलेगा) . कुल फंड £27 मिलियन से अधिक है और इसे दुनिया भर में अलाइनमेंट रिसर्च प्रोजेक्ट्स के एक व्यापक पोर्टफोलियो का समर्थन करने के लिए डिज़ाइन किया गया है, जिसमें कंप्यूटेशनल कॉम्प्लेक्सिटी थ्योरी, इकोनॉमिक थ्योरी और गेम थ्योरी, कॉग्निटिव साइंस, और इन्फॉर्मेशन थ्योरी और क्रिप्टोग्राफी जैसे विविध विषय शामिल हैं. व्यक्तिगत प्रोजेक्ट्स को आमतौर पर £50,000 से £1 मिलियन तक की फंडिंग मिलती है, और उन्हें कंप्यूट संसाधनों और विशेषज्ञ समर्थन तक वैकल्पिक पहुंच भी मिल सकती है.

हमारी फंडिंग कोई नया कार्यक्रम या चयन प्रक्रिया नहीं बनाती है, और न ही मौजूदा प्रक्रिया को प्रभावित करती है; यह मौजूदा दौर में फंड किए जा सकने वाले पहले से जांचे-परखे, उच्च-गुणवत्ता वाले प्रोजेक्ट्स⁠(एक नई विंडो में खुलेगा) की संख्या बढ़ाती है.

UK AISI इस पैमाने और दायरे पर संरेखण फंडिंग को निर्देशित करने के लिए अच्छी स्थिति में है. यह सरकार, शिक्षा, परोपकार और उद्योग के बीच एक स्थापित क्रॉस-सेक्टर गठबंधन लाता है, साथ ही एक सक्रिय अनुदान प्रक्रिया और विशेषज्ञ समीक्षा से गुजरे प्रस्तावों का एक बड़ा संग्रह भी. विज्ञान, नवाचार और प्रौद्योगिकी विभाग (DSIT) के अंतर्गत एक यूके सरकार के अनुसंधान संगठन के रूप में, इसका एक दायित्व गंभीर एआई जोखिमों पर केंद्रित है और इसे अनुसंधान फंडिंग कार्यक्रम चलाने का अनुभव है.

क्योंकि AI का भविष्य ठीक वैसा नहीं होगा जैसा कोई भी भविष्यवाणी करता है—और यह बहुत तेजी से आगे बढ़ सकता है—हम मानते हैं कि लोकतंत्रीकरण, “AI रेज़िलिएंस,” और पुनरावृत्त तैनाती आवश्यक हैं. जब हम OpenAI में अपने अत्याधुनिक अलाइनमेंट और सुरक्षा अनुसंधान को आगे बढ़ाते हैं, तो प्रगति को एक मज़बूत, विविध, स्वतंत्र इकोसिस्टम से लाभ होगा, जो क्षमताओं के बढ़ने के साथ पूरक दृष्टिकोणों को आगे बढ़ा रहा है. यह अनुदान उस लक्ष्य की ओर एक कदम है. हम व्यापक शोध समुदाय के साथ इस क्षेत्र के विकास के साथ सहयोग जारी रखने के लिए उत्सुक हैं.