AI च्या पुढील टप्प्यासाठी मानके तयार करणे
आर्टिफिशियल जनरल इंटेलिजन्सचा संपूर्ण मानवजातीला लाभ मिळेल याची खात्री करणे हे आमचे ध्येय आहे. Sam Altman यांनी अलीकडे मांडल्याप्रमाणे आणि Jakub Pachocki यांनी स्पष्ट केल्याप्रमाणे, या ध्येयासाठी आम्ही तीन प्रमुख उद्दिष्टांना प्राधान्य देतो:
स्वयंचलित AI संशोधक तयार करून, त्याच्या मदतीने संरेखनाची समस्या टप्प्याटप्प्याने सोडवून आणि स्वयं-सुधारणेच्या प्रक्रियेत लोकांचा सहभाग कायम ठेवण्याचे मार्ग शोधून AI प्रगतीच्या पुढील टप्प्याला दिशा देणे.
अत्यंत बुद्धिमान यंत्रांमुळे शक्य होणाऱ्या वैज्ञानिक प्रगतीचे आणि आर्थिक विकासाचे लाभ लोकांपर्यंत पोहोचवणे.
प्रत्येक व्यक्तीला वैयक्तिक AGI देऊन सक्षम करणे.
AI मुळे आमच्या स्वतःच्या संशोधनाला आणि अभियांत्रिकीला वेग मिळत आहे. तसेच AI-सक्षम संशोधनामुळे गणितात प्रगती झाली आहे, ज्यात नॅव्हियर-स्टोक्स मिलेनियम समस्या समाविष्ट आहे. ही प्रगती आमच्या उर्वरित दोन उद्दिष्टांसाठीही मोठी आशा निर्माण करते. त्यातून वैद्यकशास्त्रातील महत्त्वाचे शोध, सर्वांना सहज उपलब्ध होणारी आरोग्यसेवा आणि जगभरातील लघु व्यवसाय व स्वतंत्र उद्योजकांचे आर्थिक सक्षमीकरण शक्य होऊ शकते.
अनेक कंपन्या आणि देशांमध्ये AI प्रगती करत आहे, आणि या क्षेत्रातील प्रगतीमुळे प्रत्येकासमोरील संधी आणि आव्हाने बदलत आहेत. त्याच्या इतर फायद्यांसोबतच, सक्षम आणि सुसंगत AI हा या स्थित्यंतरातून मार्ग काढण्याच्या आपल्या पद्धतीचा एक महत्त्वाचा भाग असेल—जसे की संरक्षण मजबूत करणे, सुसंगतता संशोधनाला चालना देणे, आणि लोकांना AI विकासाचे पुढील टप्पे समजून घेण्यास व मार्गदर्शन करण्यास मदत करणे.
हे संक्रमण सुरक्षितपणे हाताळण्यासाठी संरेखन संशोधनाने या क्षमतांशी बरोबरी राखणे आवश्यक आहे, जेणेकरून आम्ही आणि इतरांनी तयार केलेल्या प्रणाली मानवी मूल्यांशी संरेखित आणि मानवी नियंत्रणाखाली राहतील. AI प्रणाली अधिक सक्षम आणि स्वायत्त होत असताना, विशेषतः त्या स्वतः AI संशोधन आणि विकासाचे अधिक काम हाती घेत असताना, हे अधिकाधिक महत्त्वाचे ठरते. AI ची पुढील प्रगती सुरक्षित आणि लाभदायक करण्यासाठी संरेखन संशोधनातील प्रगतीसोबतच विविध प्रयोगशाळा आणि देशांतील विकासाला दिशा देणारी सामायिक मानकेही आवश्यक असतील.
स्वयंचलित AI संशोधनात मानवी देखरेखीचे प्रमाण वेगवेगळे असू शकते. AI प्रणाली पुढील पिढ्यांतील AI विकसित करण्याचे अधिक काम हाती घेत असताना, लोकांचा सहभाग कायम असला तरी त्या पुनरावर्ती स्वयं-सुधारणेच्या प्रक्रियेला (RSI) वाढत्या प्रमाणात चालना देऊ शकतात. ही प्रक्रिया अधिक स्वयंचलित होत गेल्यास AI प्रगतीचा वेग झपाट्याने वाढू शकतो.
स्वयंचलित AI संशोधनातून लोकांचे जीवन थेट सुधारणारी मॉडेल तयार होतील, असा आमचा विश्वास आहे. यामुळे प्रगत बुद्धिमत्तेचा खर्च कमी होऊन जगभरातील लोकांना तिचा लाभ मिळू शकतो. स्वयंचलित संशोधनामुळे संरेखनात लक्षणीय सुधारणा करण्यास आणि अधिकाधिक सक्षम होत जाणाऱ्या AI विरुद्ध संरक्षण उभारण्यासही मदत होऊ शकते. स्वयंचलित AI संशोधक हा स्वयंचलित AI सुरक्षा संशोधकही असू शकतो. अधिक सक्षम आणि संरेखित प्रणाली महत्त्वाची पायाभूत सुविधा सुरक्षित ठेवू शकतात, धोकादायक AI एजंटपासून संरक्षण करू शकतात आणि नवीन सुरक्षा उपाय विकसित करू शकतात.
पूर्णपणे स्वायत्त RSI आज अस्तित्वात नाही. तो सुरक्षितपणे करता येत नाही तोपर्यंत आपण त्याचा पाठपुरावा करू नये. पुढे जायचे की नाही आणि कसे जायचे, हे मानवी नियंत्रण टिकवून ठेवण्याच्या आपल्या क्षमतेवर आणि लाभ व जोखमींबाबतच्या माहितीपूर्ण लोकशाही निर्णयांवर(नवीन विंडोमध्ये उघडेल) अवलंबून असले पाहिजे. योग्य काळजी आणि सावधगिरी न बाळगता RSI राबवल्यास AI विकासावरील प्रभावी मानवी नियंत्रण सुटू शकते. लोकांना न समजणाऱ्या संशोधन प्रक्रियांवर देखरेख ठेवणेही अशक्य होऊ शकते. त्यानंतर AI अधिक धोकादायक आणि कमी संरेखित होऊ शकतो व एकंदरीत लोकांसाठी धोका ठरू शकतो. आम्ही उघड केलेली हगिंग फेस घटना ही RSI चा थेट परिणाम नसली, तरी सक्षम सुरक्षा उपाय आणि संरेखन नसल्यास कोणत्या प्रकारच्या जोखमी अधिक गंभीर होऊ शकतात, याची ती झलक देते.
अत्याधुनिक AI विकासातील सुरक्षितता आणि संरक्षण पद्धतींसाठीची आंतरराष्ट्रीय मानके ही अत्याधुनिक AI च्या प्रगतीची गती नियंत्रित करण्यासाठी संरेखन संशोधनाइतकीच महत्त्वाची ठरू शकतात. उच्च दर्जाचा पुरावा म्हणजे काय याच्या सामायिक व्याख्या आणि तांत्रिक सुरक्षा उपायांच्या काटेकोरपणासाठी सर्वमान्य किमान निकष मानकांमुळे तयार होऊ शकतात. थोडक्यात, ती आपल्याला या प्रश्नाचे उत्तर देण्यास मदत करतात, “AI मुळे निर्माण होणारी विनाशकारी जोखीम कमी करण्याची चांगली पद्धत कशी असते?”
AI मानके आणि नवोन्मेष केंद्र (CAISI), राज्यांचे कायदे आणि AI साठीची फेडरल चौकट यांसारख्या विद्यमान लोकशाही संस्था यासाठी मदत करू शकतात. तसेच सार्वजनिक-खासगी भागीदारीचे नवे प्रकार(नवीन विंडोमध्ये उघडेल)ही उपयुक्त ठरू शकतात. मात्र AI चा विकास आणि वापर अनेक देशांत होत आहे, त्याचा स्वीकार जगभर होत आहे आणि त्याचे परिणाम वेगवेगळ्या काळात कोणत्या ना कोणत्या प्रकारे बहुधा सर्वांनाच जाणवतील.
त्यामुळे काही महत्त्वाची आव्हाने सोडवण्यासाठी मानके विकसित करण्याचे आंतरराष्ट्रीय प्रयत्न आवश्यक आहेत:
विखंडन—वेगवेगळ्या देशांची मूल्यमापने, अहवालविषयक आवश्यकता आणि घटनांच्या व्याख्या परस्परविरोधी असू शकतात. त्यामुळे पुराव्यांची तुलना करणे, उदयोन्मुख क्षमता समजून घेणे आणि सीमापार जोखमींना प्रतिसाद देणे कठीण होऊ शकते.
सामूहिक कृती—प्रत्येक देशाने स्वतंत्रपणे कृती केल्यास कोणत्याही देशाला नको असलेले परिणाम घडू शकतात. RSI मध्ये AI संशोधनालाच वेग देण्याची क्षमता आहे. त्यामुळे प्रगती समजून घेणे, जोखमींचे मूल्यांकन करणे आणि अर्थपूर्ण मानवी देखरेख कायम ठेवणे आपल्या सामूहिक क्षमतेपलीकडे जाऊ शकते.
असमान क्षमता—अत्याधुनिक विकासाचे कार्य आणि संबंधित कौशल्य जगभर समान प्रमाणात उपलब्ध नाही. यामुळे वरील दोन्ही समस्या अधिक तीव्र होतात.
ही आव्हाने खुल्या आणि बंद अशा दोन्ही मॉडेल्सना लागू होतात.
स्पष्टपणे सांगायचे तर, स्वयंचलित AI संशोधन किंवा इतर प्रगत क्षमतांचा पाठपुरावा करणाऱ्या प्रत्येक AI प्रयोगशाळेने स्वयं-जबाबदारीची मूलभूत तत्त्वे आणि विद्यमान कायदे पाळून ते काम सुरक्षितपणे करण्याची जबाबदारी स्वीकारली पाहिजे. मानकांमागील आमची भूमिका सत्तेचे केंद्रीकरण टाळण्यावर आणि अधिक चांगले व्यावहारिक परिणाम साधण्यावर आधारित आहे. मानकांमुळे प्रयोगशाळांबाहेरील अधिक हितधारकांना हे तंत्रज्ञान कसे विकसित व्हावे याबाबत मत मांडता येते. तसेच कोणत्याही एका प्रयोगशाळेच्या विशिष्ट पद्धतींवर अवलंबून न राहता भरवसा ठेवता येईल अशी स्पष्ट तत्त्वेही उपलब्ध होतात. वरील आव्हानांवर उपाय शोधण्यासाठी संबंधित पक्षांनी सहकार्य केल्यास आपल्याला अधिक चांगले परिणाम मिळण्याची शक्यता आहे.
म्हणूनच RSI सह अत्याधुनिक AI साठी जागतिक तांत्रिक मानके विकसित करण्याकरिता अमेरिकेने जगभरातील देशांसोबत एकत्र काम करण्याच्या प्रयत्नाचे नेतृत्व करावे, असे आम्हाला वाटते.
ही संकल्पना कालांतराने मोठ्या प्रमाणात विकसित होईल, अशी आमची अपेक्षा असली तरी दोन पैलू अत्यावश्यक असतील.
हे साध्य करण्याचा एक मार्ग म्हणजे ऑस्ट्रेलिया, कॅनडा, जर्मनी, फ्रान्स, केनिया, जपान, कोरिया, सिंगापूर, भारत आणि युनायटेड किंगडममध्ये आधीच स्थापन झालेल्या संस्थांसारख्या AI सुरक्षा संस्थांच्या उदयोन्मुख जाळ्याचा उपयोग करणे. CAISI आणि राष्ट्रीय उद्योग संस्थांच्या माध्यमातून मानके निश्चित करण्यासाठी या जाळ्याची मदत घेता येईल. यात विशेष भर (1) क्षमतेच्या मापदंडांनुसार मोजलेले अत्याधुनिक AI मॉडेल आणि त्यांचे डेव्हलपर्स व (2) RSI सह स्वयंचलित AI संशोधनातील लाभ-जोखीम व्यवस्थापन यांवर असेल. AI मापन, मूल्यमापन आणि विज्ञान यांमध्ये सहकार्य करण्यासाठी सार्वजनिक संस्थांना एकत्र आणणाऱ्या व CAISI ने 2024 मध्ये स्थापन केलेल्या प्रगत AI मापन, मूल्यमापन आणि विज्ञानासाठीच्या आंतरराष्ट्रीय जाळ्याचा(नवीन विंडोमध्ये उघडेल) अमेरिका पुढे विस्तार करू शकते.
या प्रयत्नातून विकसित झालेली मानके क्षमता मोजणे व त्यांचे मूल्यमापन करणे, जोखीम तपासणे आणि सुरक्षा उपाय पुरेसे आहेत का हे ठरवणे यासाठी एक समान तांत्रिक पाया देतील. ही तांत्रिक मानके AI मॉडेलसाठी परवाने, प्रकाशनापूर्वीची अनिवार्य तपासणी किंवा मंजुरीच्या अटी नसतील. ही मानके स्वतःच्या कायदेशीर व्यवस्थांमध्ये समाविष्ट करायची की नाही आणि कशी करायची, हे राष्ट्रीय सरकारे ठरवतील.
या कामामुळे ओपन मॉडेल आणि क्लोज्ड मॉडेल डेव्हलपर्स, स्वतंत्र तांत्रिक तज्ञ आणि शिक्षण क्षेत्रातील तज्ञांशी सल्लामसलत करून एका स्पर्धात्मक AI इकोसिस्टमलाही पाठिंबा मिळाला पाहिजे. सामान्य मानके पारदर्शकपणे विकसित केली पाहिजेत आणि त्यांची रचना अशा प्रकारे केली पाहिजे की, त्यामुळे विशिष्ट कंपन्या, देश किंवा व्यवसाय मॉडेल्सना फायदा होणार नाही; यामध्ये नवीन प्रवेशकर्ते किंवा ओपन-वेट डेव्हलपर्सना स्पर्धा करणे अधिक कठीण करण्याचाही समावेश आहे.
आम्ही सुचविल्याप्रमाणे(नवीन विंडोमध्ये उघडेल), हा दृष्टिकोन विमान वाहतूक आणि आर्थिक स्थिरता यांसारख्या क्षेत्रांमधून धडे घेऊ शकतो, जिथे देशांनी राष्ट्रीय अधिकार न सोडता सामान्य तांत्रिक मानके आणि सहकार्यासाठी विश्वसनीय मार्ग विकसित केले आहेत. याने ISO(नवीन विंडोमध्ये उघडेल), फ्रंटियर मॉडेल फोरम(नवीन विंडोमध्ये उघडेल), एजंटिक AI फाउंडेशन(नवीन विंडोमध्ये उघडेल) आणि ओपन सिक्युअर AI अलायन्स(नवीन विंडोमध्ये उघडेल) यांसारख्या प्रस्थापित आणि नवीन मानक संस्थांसोबतच, अप्पिया फाउंडेशनसारख्या अंमलबजावणीवर लक्ष केंद्रित करणाऱ्या संस्थांसोबतही जवळून काम केले पाहिजे; ही संस्था आंतरराष्ट्रीय मानकांना वास्तविक AI मूल्यांकनांशी जोडणारी व्यावहारिक वैशिष्ट्ये विकसित करत आहे.
AI संशोधनातील वाढती स्वायत्तता आणि पुनरावर्ती स्वयं-सुधारणा यांचे व्यवस्थापन करण्यासाठी आंतरराष्ट्रीय AI मानके विशेष महत्त्वाची ठरतील. विशेषतः, यात पुढील बाबींसाठीची मानके समाविष्ट असू शकतात:
RSI शी संबंधित AI प्रगतीचे आणि AI कंपनीमध्ये होत असलेल्या स्वायत्त संशोधनाच्या प्रमाणाचे मूल्यमापन. संशोधनाला मिळणाऱ्या वेगावरील आमचा अलीकडील अहवाल हे या प्रयत्नातील प्रारंभिक योगदान आहे.
स्वयंचलित AI संशोधनावरील मानवी देखरेख, तसेच कोणत्या प्रकारच्या स्वयंचलित AI संशोधन प्रक्रियांची तातडीने मानवी तपासणी व्हावी याचे निकष.
संरेखन आणि स्वयंचलित AI संशोधनाशी संबंधित घटनांचे वर्गीकरण, निरीक्षण, अहवाल व प्रतिसाद, तसेच घटनांच्या तीव्रतेचे समान स्तर आणि अहवाल देण्याच्या मर्यादा. विसंरेखनावरील आमची अहवाल चौकट हे यातील प्रारंभिक योगदान आहे.
या मानकांसोबतच, महत्त्वाच्या पायाभूत सुविधांचे संचालक आणि जगभरातील सरकारांनी राष्ट्रीय सुरक्षाविषयक चिंता, उदयोन्मुख असुरक्षितता व धोके आणि झपाट्याने विकसित होत असलेल्या अत्याधुनिक AI सुरक्षेच्या क्षेत्रातील सर्वोत्तम पद्धती सामायिक करण्यासाठी सुरक्षित संवादमाध्यमे स्थापन करणे महत्त्वाचे ठरेल, असे आम्हाला वाटते. या क्षेत्रांमध्ये अमेरिका आणि चीन यांच्यातील संवाद हे सकारात्मक पाऊल ठरेल. आगामी चर्चा योग्य वेळी होत आहेत.
AI विकासाची गती नियंत्रित करणे म्हणजे पूर्वनिर्धारित वेग कायम ठेवणे नव्हे. तांत्रिकदृष्ट्या, संरेखन संशोधन आणि त्याचा वापर क्षमता-विकासाच्या पुढे राहतील याची खात्री करणे हा यामागचा उद्देश आहे. सामाजिक पातळीवर, उद्योगांचे जाळे, सामाजिक संबंध आणि बाजारातील शक्ती यांना मानके, संस्था आणि सहकार्याच्या मदतीने बळ देऊन सर्वांना लाभदायक परिणाम साधणे हा यामागचा उद्देश आहे. अलीकडे करण्यात आलेले सायबर संरक्षणासाठी सामूहिक कृतीचे आवाहन हे याचे उदाहरण आहे.
नेतृत्व करण्यासाठी अमेरिका सुस्थितीत आहे, कारण तिचा AI उद्योग तांत्रिक अत्याधुनिकतेवर आधारित आहे आणि वित्त, व्यापार, संरक्षण, तंत्रज्ञान व माहिती प्रणाली यांसारख्या महत्त्वपूर्ण क्षेत्रांमध्ये तिचे जागतिक नेटवर्कमध्ये अजूनही एक विशेषाधिकार प्राप्त स्थान आहे. आता नेतृत्व केल्यानेच हे ठरेल की, अमेरिका जागतिक AI आराखड्याला आकार देईल की आपल्या सभोवताली एक विखंडित, असमान आणि संघर्षमय प्रणाली रुजताना केवळ बघत राहील. यावरून हे देखील ठरेल की, प्रगत AI मुळे अमेरिका आणि तिच्या मित्र राष्ट्रांकडे आधीपासूनच असलेले नेटवर्क अधिक मजबूत होईल की नाही; नेतृत्व करण्यात अयशस्वी झाल्यास ते कमकुवत होऊ शकतात.
भू-राजकीय स्पर्धा केवळ तांत्रिकदृष्ट्या कोण पुढे आहे यावरच अवलंबून राहणार नाही, तर AI चा स्वीकार आणि प्रसार यावरही अवलंबून असेल. वाढत्या प्रमाणात, ही दुसरी बाब यावर अवलंबून असेल की, जो कोणी वास्तववादी सहकार्य आणि सुज्ञ नियम प्रस्थापित करेल, तेच याला चालना देईल; कारण जर जगभरातील व्यवसाय आणि समाजांना आपले भविष्य या तंत्रज्ञानावर पणाला लावायचे असेल, तर त्यांना हे नियमच हवे असतील.
व्यावहारिक आंतरराष्ट्रीय सहकार्याशी जोडलेले मजबूत राष्ट्रीय प्रशासन अधिक सक्षम सुरक्षा उपाय, सातत्यपूर्ण नवोन्मेष आणि AI च्या लाभांपर्यंत व्यापक प्रवेशाचा मार्ग खुला करते.
