AI अलाइनमेंटवर स्वतंत्र संशोधन पुढे नेणे

AI प्रणाली अधिक सक्षम आणि अधिक स्वायत्त होत असताना, अलाइनमेंट संशोधनाला गतीशी जुळवून घेणे आणि विविधता वाढवणे आवश्यक आहे. OpenAI मध्ये, आम्ही अत्याधुनिक अलाइनमेंट आणि सुरक्षा संशोधनामध्ये मोठ्या प्रमाणात गुंतवणूक करतो कारण ते आमच्या ध्येयासाठी अत्यंत महत्त्वाचे आहे. आम्हाला असेही वाटते की AGI सुरक्षित आणि सर्वांसाठी फायदेशीर बनवणे हे कोणत्याही एका संस्थेद्वारे साध्य होऊ शकत नाही, आणि म्हणूनच आम्ही अत्याधुनिक लॅब्सच्या बाहेरही पुढे नेल्या जाऊ शकतील अशा स्वतंत्र संशोधन आणि संकल्पनात्मक दृष्टिकोनांना पाठिंबा देऊ इच्छितो. आम्हाला विश्वास आहे की AI चे भविष्य कोणाच्याही अंदाजानुसार नेमके उलगडणार नाही, आणि परिणामाला आकार देण्यासाठी अधिकाधिक लोकांचा सहभाग असावा.

आज, आम्ही The Alignment Project⁠(नवीन विंडोमध्ये उघडेल) साठी $7.5 दशलक्ष अनुदान जाहीर करत आहोत, जो UK AI Security Institute (UK AISI) द्वारे तयार केलेला स्वतंत्र अलाइनमेंट संशोधनासाठीचा एक जागतिक निधी आहे. Renaissance Philanthropy अनुदानाच्या व्यवस्थापनाला समर्थन देत आहे. हे योगदान The Alignment Project ला आजपर्यंतच्या स्वतंत्र अलाइनमेंट संशोधनासाठीच्या सर्वात मोठ्या समर्पित निधी प्रयत्नांपैकी एक बनवण्यास मदत करते आणि व्यापक, स्वतंत्र इकोसिस्टमला बळकट करते.

OpenAI सारख्या अत्याधुनिक लॅब्सना अत्याधुनिक मॉडेल्स आणि मोठ्या प्रमाणातील संगणकीय संसाधनांचा प्रवेश मिळतो, ज्यामुळे ते अलाइनमेंट संशोधनाचा पाठपुरावा करू शकतात—असे काम जे स्वतंत्र संशोधकांसाठी अनेकदा कठीण असते. आम्ही आमच्या अंतर्गत अलाइनमेंट प्रयत्नांचा मोठा भाग स्केलेबल पद्धती विकसित करण्यासाठी समर्पित करतो, जेणेकरून अलाइनमेंट प्रगती क्षमता प्रगतीच्या गतीशी जुळवून घेईल. आम्हाला विश्वास आहे की पुनरावृत्ती तैनाती—सुरक्षात्मक उपाय अधिक मजबूत करताना क्षमतांमध्ये हळूहळू वाढ केल्याने—समस्या लवकर समोर येण्यास मदत होते आणि प्रत्यक्षात काय कार्य करते याबद्दल आम्हाला ठोस पुरावे मिळतात, तसेच जबाबदार विकासासाठी मॉडेल तयार करणे आणि तैनाती यांच्यासोबत घट्टपणे एकत्रित केलेले लक्षणीय अलाइनमेंट आणि सुरक्षा काम आवश्यक असते.

समांतरपणे, या क्षेत्राला स्वतंत्र आणि अन्वेषणात्मक संशोधनातील सातत्यपूर्ण गुंतवणुकीचा लाभ होतो—ज्यामुळे कल्पनांचा अवकाश विस्तारता येतो आणि नवीन दिशा शोधता येतात. स्वतंत्र संशोधन अत्यावश्यक राहते; अनेक प्रकारच्या उपयुक्त चौकशीत, प्रयोगशाळांना तुलनात्मक लाभ राहात नाही. एक निरोगी अलाइनमेंट इकोसिस्टम स्वतंत्र टीम्स विविध गृहितकांची चाचणी घेणे, पर्यायी फ्रेमवर्क विकसित करणे, आणि कोणत्याही एका संस्थेच्या रोडमॅपशी नीटनेटकेपणे जुळतीलच असे नाहीत अशा संकल्पनात्मक, सैद्धांतिक, आणि ब्लू-स्काय कल्पनांचा शोध घेणे यावर अवलंबून असते.

आणि AGI कडे प्रगती अखेरीस अशा मूलभूत यशांवर अवलंबून असू शकते जी अलाइनमेंट समस्येचे स्वरूप बदलतात आणि कोणते दृष्टिकोन सर्वाधिक उपयुक्त आहेत हे ठरवतात, त्यामुळे आजच्या प्रबळ पद्धती अपेक्षेप्रमाणे स्केल होत नाहीत असे निघाले तरीही महत्त्वाचे ठरेल अशा संशोधनाला समर्थन देणे आवश्यक आहे. त्या जगांमध्ये, मूलभूत, संकल्पनात्मक आणि असंबंधित काम करणारी एक मजबूत बाह्य परिसंस्था असणे अत्यंत महत्त्वाचे ठरते. AI अलाइनमेंट आणि सुरक्षा यांची समस्या अभूतपूर्व महत्त्वाची आहे, आणि क्षमता सतत प्रगत होत असताना कोणते दृष्टिकोन सर्वाधिक टिकाऊ ठरतील हे आपल्याला अजून माहीत नसल्यामुळे, आपल्याला सर्वांची मदत आवश्यक आहे.

आमचे अनुदान—सध्याच्या विनिमय दरांनुसार अंदाजे £5.6 दशलक्ष—इतर सार्वजनिक, परोपकारी आणि उद्योग क्षेत्रातील पाठीराख्यांसोबत The Alignment Project सह-वित्तपुरवठा करेल⁠(नवीन विंडोमध्ये उघडेल). एकूण निधी £27 दशलक्ष पेक्षा जास्त आहे आणि जगभरातील विविध विषयांवर पसरलेल्या अलाइनमेंट संशोधन प्रोजेक्ट्सच्या व्यापक पोर्टफोलिओला पाठिंबा देण्यासाठी तयार करण्यात आला आहे. यात संगणकीय गुंतागुंत सिद्धांत, आर्थिक सिद्धांत आणि गेम सिद्धांत, संज्ञानात्मक विज्ञान, तसेच माहिती सिद्धांत आणि क्रिप्टोग्राफी यांसारख्या विविध विषयांचा समावेश आहे. वैयक्तिक प्रोजेक्ट्सना साधारणपणे £50,000 ते £1 मिलियन इतका निधी दिला जातो, आणि त्यांना संगणकीय संसाधनांपर्यंत ऐच्छिक प्रवेश आणि तज्ज्ञ समर्थन मिळू शकतो.

आमचा निधी नवीन कार्यक्रम किंवा निवड प्रक्रिया निर्माण करत नाही, तसेच विद्यमान प्रक्रियेवर प्रभाव टाकत नाही; तो सध्याच्या फेरीत निधी दिले जाऊ शकणाऱ्या, आधीच तपासलेल्या, उच्च-गुणवत्तेच्या प्रकल्पांची⁠(नवीन विंडोमध्ये उघडेल) संख्या वाढवतो.

UK AISI या प्रमाणात आणि व्याप्तीत अलाइनमेंट निधीचे दिशानिर्देशन करण्यासाठी चांगल्या स्थितीत आहे. हे सरकार, अकॅडेमिया, परोपकार आणि उद्योग यांमध्ये पसरलेली एक स्थापित आंतर-क्षेत्रीय आघाडी आणते, ज्यामध्ये आधीच सुरू असलेली अनुदान-वितरणाची पाइपलाइन आणि तज्ज्ञांच्या पुनरावलोकनातून गेलेल्या प्रस्तावांचा मोठा साठा समाविष्ट आहे. विज्ञान, नवोन्मेष आणि तंत्रज्ञान विभाग (DSIT) अंतर्गत यूके सरकारची संशोधन संस्था म्हणून, तिच्याकडे गंभीर AI जोखमींवर लक्ष केंद्रित करणारा अधिदेश आहे आणि तिला संशोधन निधी कार्यक्रम चालवण्याचा अनुभव आहे.

AIचे भविष्य कोणाच्याही अंदाजाप्रमाणे नेमके उलगडणार नाही—आणि ते खूप वेगाने प्रगती करू शकते—म्हणून आम्हाला वाटते की लोकशाहीकरण, “AI लवचिकता,” आणि पुनरावृत्तीपूर्ण अंमलबजावणी अत्यावश्यक आहेत. OpenAI मध्ये आम्ही आमचे अत्याधुनिक अलाइनमेंट आणि सुरक्षा संशोधन पुढे नेत असताना, प्रगतीला पूरक दृष्टिकोनांचा पाठपुरावा करणाऱ्या मजबूत, विविध, स्वतंत्र इकोसिस्टमचा फायदा होईल कारण क्षमता प्रगत होत आहेत. हे अनुदान त्या उद्दिष्टाच्या दिशेने एक पाऊल आहे. आम्ही क्षेत्राच्या प्रगतीसोबत व्यापक संशोधन समुदायासोबत सहकार्य सुरू ठेवण्यास उत्सुक आहोत.