AI च्या पुढील टप्प्यासाठी मानके उभारणे
आर्टिफिशियल जनरल इंटेलिजन्सचा संपूर्ण मानवजातीला लाभ मिळेल याची खात्री करणे हे आमचे ध्येय आहे. सॅम ऑल्टमन यांनी अलीकडे मांडल्याप्रमाणे आणि याकुब पाखोत्स्की यांनी स्पष्ट केल्याप्रमाणे, या ध्येयासाठी आम्ही तीन प्रमुख उद्दिष्टांना प्राधान्य देतो:
स्वयंचलित AI संशोधक तयार करून, त्याच्या मदतीने संरेखनाची समस्या टप्प्याटप्प्याने सोडवून आणि स्वयं-सुधारणेच्या प्रक्रियेत लोकांचा सहभाग कायम ठेवण्याचे मार्ग शोधून AI प्रगतीच्या पुढील टप्प्याला दिशा देणे.
अत्यंत बुद्धिमान यंत्रांमुळे शक्य होणाऱ्या वैज्ञानिक प्रगतीचे आणि आर्थिक विकासाचे लाभ लोकांपर्यंत पोहोचवणे.
प्रत्येक व्यक्तीला वैयक्तिक AGI देऊन सक्षम करणे.
AI मुळे आमच्या स्वतःच्या संशोधनाला आणि अभियांत्रिकीला वेग मिळत आहे. तसेच AI-सक्षम संशोधनामुळे गणितात प्रगती झाली आहे, ज्यात नॅव्हियर-स्टोक्स मिलेनियम समस्या समाविष्ट आहे. ही प्रगती आमच्या उर्वरित दोन उद्दिष्टांसाठीही मोठी आशा निर्माण करते. त्यातून वैद्यकशास्त्रातील महत्त्वाचे शोध, सर्वांना सहज उपलब्ध होणारी आरोग्यसेवा आणि जगभरातील लघु व्यवसाय व स्वतंत्र उद्योजकांचे आर्थिक सक्षमीकरण शक्य होऊ शकते.
अनेक कंपन्या आणि देशांमध्ये AI प्रगत होत आहे. या संपूर्ण क्षेत्रातील प्रगतीमुळे सर्वांसमोरील संधी आणि आव्हाने बदलत आहेत. इतर लाभांसोबतच, सक्षम आणि संरेखित AI या संक्रमणाला दिशा देण्यात महत्त्वाची भूमिका बजावेल. तो संरक्षण अधिक बळकट करेल, संरेखन संशोधन पुढे नेईल आणि AI विकासाचे पुढील टप्पे समजून घेण्यासाठी व त्यांना दिशा देण्यासाठी लोकांना मदत करेल.
हे संक्रमण सुरक्षितपणे हाताळण्यासाठी संरेखन संशोधनाने या क्षमतांशी बरोबरी राखणे आवश्यक आहे, जेणेकरून आम्ही आणि इतरांनी तयार केलेल्या प्रणाली मानवी मूल्यांशी संरेखित आणि मानवी नियंत्रणाखाली राहतील. AI प्रणाली अधिक सक्षम आणि स्वायत्त होत असताना, विशेषतः त्या स्वतः AI संशोधन आणि विकासाचे अधिक काम हाती घेत असताना, हे अधिकाधिक महत्त्वाचे ठरते. AI ची पुढील प्रगती सुरक्षित आणि लाभदायक करण्यासाठी संरेखन संशोधनातील प्रगतीसोबतच विविध प्रयोगशाळा आणि देशांतील विकासाला दिशा देणारी सामायिक मानकेही आवश्यक असतील.
स्वयंचलित AI संशोधनात मानवी देखरेखीचे प्रमाण वेगवेगळे असू शकते. AI प्रणाली पुढील पिढ्यांतील AI विकसित करण्याचे अधिक काम हाती घेत असताना, लोकांचा सहभाग कायम असला तरी त्या पुनरावर्ती स्वयं-सुधारणेच्या प्रक्रियेला (RSI) वाढत्या प्रमाणात चालना देऊ शकतात. ही प्रक्रिया अधिक स्वयंचलित होत गेल्यास AI प्रगतीचा वेग झपाट्याने वाढू शकतो.
स्वयंचलित AI संशोधनातून लोकांचे जीवन थेट सुधारणारी मॉडेल तयार होतील, असा आमचा विश्वास आहे. यामुळे प्रगत बुद्धिमत्तेचा खर्च कमी होऊन जगभरातील लोकांना तिचा लाभ मिळू शकतो. स्वयंचलित संशोधनामुळे संरेखनात लक्षणीय सुधारणा करण्यास आणि अधिकाधिक सक्षम होत जाणाऱ्या AI विरुद्ध संरक्षण उभारण्यासही मदत होऊ शकते. स्वयंचलित AI संशोधक हा स्वयंचलित AI सुरक्षा संशोधकही असू शकतो. अधिक सक्षम आणि संरेखित प्रणाली महत्त्वाची पायाभूत सुविधा सुरक्षित ठेवू शकतात, धोकादायक AI एजंटपासून संरक्षण करू शकतात आणि नवीन सुरक्षा उपाय विकसित करू शकतात.
पूर्णपणे स्वायत्त RSI आज अस्तित्वात नाही. तो सुरक्षितपणे करता येत नाही तोपर्यंत आपण त्याचा पाठपुरावा करू नये. पुढे जायचे की नाही आणि कसे जायचे, हे मानवी नियंत्रण टिकवून ठेवण्याच्या आपल्या क्षमतेवर आणि लाभ व जोखमींबाबतच्या माहितीपूर्ण लोकशाही निर्णयांवर(नवीन विंडोमध्ये उघडेल) अवलंबून असले पाहिजे. योग्य काळजी आणि सावधगिरी न बाळगता RSI राबवल्यास AI विकासावरील प्रभावी मानवी नियंत्रण सुटू शकते. लोकांना न समजणाऱ्या संशोधन प्रक्रियांवर देखरेख ठेवणेही अशक्य होऊ शकते. त्यानंतर AI अधिक धोकादायक आणि कमी संरेखित होऊ शकतो व एकंदरीत लोकांसाठी धोका ठरू शकतो. आम्ही उघड केलेली हगिंग फेस घटना ही RSI चा थेट परिणाम नसली, तरी सक्षम सुरक्षा उपाय आणि संरेखन नसल्यास कोणत्या प्रकारच्या जोखमी अधिक गंभीर होऊ शकतात, याची ती झलक देते.
अत्याधुनिक AI विकासातील सुरक्षितता आणि संरक्षण पद्धतींसाठीची आंतरराष्ट्रीय मानके ही अत्याधुनिक AI च्या प्रगतीची गती नियंत्रित करण्यासाठी संरेखन संशोधनाइतकीच महत्त्वाची ठरू शकतात. उच्च दर्जाचा पुरावा म्हणजे काय याच्या सामायिक व्याख्या आणि तांत्रिक सुरक्षा उपायांच्या काटेकोरपणासाठी सर्वमान्य किमान निकष मानकांमुळे तयार होऊ शकतात. थोडक्यात, ती आपल्याला या प्रश्नाचे उत्तर देण्यास मदत करतात, “AI मुळे निर्माण होणारी विनाशकारी जोखीम कमी करण्याची चांगली पद्धत कशी असते?”
AI मानके आणि नवोन्मेष केंद्र (CAISI), राज्यांचे कायदे आणि AI साठीची संघीय चौकट यांसारख्या विद्यमान लोकशाही संस्था यासाठी मदत करू शकतात. तसेच सार्वजनिक-खासगी भागीदारीचे नवे प्रकार(नवीन विंडोमध्ये उघडेल)ही उपयुक्त ठरू शकतात. मात्र AI चा विकास आणि वापर अनेक देशांत होत आहे, त्याचा स्वीकार जगभर होत आहे आणि त्याचे परिणाम वेगवेगळ्या काळात कोणत्या ना कोणत्या प्रकारे बहुधा सर्वांनाच जाणवतील.
त्यामुळे काही महत्त्वाची आव्हाने सोडवण्यासाठी मानके विकसित करण्याचे आंतरराष्ट्रीय प्रयत्न आवश्यक आहेत:
विखंडन—वेगवेगळ्या देशांची मूल्यमापने, अहवालविषयक आवश्यकता आणि घटनांच्या व्याख्या परस्परविरोधी असू शकतात. त्यामुळे पुराव्यांची तुलना करणे, उदयोन्मुख क्षमता समजून घेणे आणि सीमापार जोखमींना प्रतिसाद देणे कठीण होऊ शकते.
सामूहिक कृती—प्रत्येक देशाने स्वतंत्रपणे कृती केल्यास कोणत्याही देशाला नको असलेले परिणाम घडू शकतात. RSI मध्ये AI संशोधनालाच वेग देण्याची क्षमता आहे. त्यामुळे प्रगती समजून घेणे, जोखमींचे मूल्यांकन करणे आणि अर्थपूर्ण मानवी देखरेख कायम ठेवणे आपल्या सामूहिक क्षमतेपलीकडे जाऊ शकते.
असमान क्षमता—अत्याधुनिक विकासाचे कार्य आणि संबंधित कौशल्य जगभर समान प्रमाणात उपलब्ध नाही. यामुळे वरील दोन्ही समस्या अधिक तीव्र होतात.
ही आव्हाने ओपन आणि बंद अशा दोन्ही प्रकारच्या मॉडेलना लागू होतात.
स्पष्टपणे सांगायचे तर, स्वयंचलित AI संशोधन किंवा इतर प्रगत क्षमतांचा पाठपुरावा करणाऱ्या प्रत्येक AI प्रयोगशाळेने स्वयं-जबाबदारीची मूलभूत तत्त्वे आणि विद्यमान कायदे पाळून ते काम सुरक्षितपणे करण्याची जबाबदारी स्वीकारली पाहिजे. मानकांमागील आमची भूमिका सत्तेचे केंद्रीकरण टाळण्यावर आणि अधिक चांगले व्यावहारिक परिणाम साधण्यावर आधारित आहे. मानकांमुळे प्रयोगशाळांबाहेरील अधिक हितधारकांना हे तंत्रज्ञान कसे विकसित व्हावे याबाबत मत मांडता येते. तसेच कोणत्याही एका प्रयोगशाळेच्या विशिष्ट पद्धतींवर अवलंबून न राहता भरवसा ठेवता येईल अशी स्पष्ट तत्त्वेही उपलब्ध होतात. वरील आव्हानांवर उपाय शोधण्यासाठी संबंधित पक्षांनी सहकार्य केल्यास आपल्याला अधिक चांगले परिणाम मिळण्याची शक्यता आहे.
म्हणूनच RSI सह अत्याधुनिक AI साठी जागतिक तांत्रिक मानके विकसित करण्याकरिता अमेरिकेने जगभरातील देशांसोबत एकत्र काम करण्याच्या प्रयत्नाचे नेतृत्व करावे, असे आम्हाला वाटते.
ही संकल्पना कालांतराने मोठ्या प्रमाणात विकसित होईल, अशी आमची अपेक्षा असली तरी दोन पैलू अत्यावश्यक असतील.
हे साध्य करण्याचा एक मार्ग म्हणजे ऑस्ट्रेलिया, कॅनडा, जर्मनी, फ्रान्स, केनिया, जपान, कोरिया, सिंगापूर, भारत आणि युनायटेड किंगडममध्ये आधीच स्थापन झालेल्या संस्थांसारख्या AI सुरक्षा संस्थांच्या उदयोन्मुख जाळ्याचा उपयोग करणे. CAISI आणि राष्ट्रीय उद्योग संस्थांच्या माध्यमातून मानके निश्चित करण्यासाठी या जाळ्याची मदत घेता येईल. यात विशेष भर (1) क्षमतेच्या मापदंडांनुसार मोजलेले अत्याधुनिक AI मॉडेल आणि त्यांचे विकासक व (2) RSI सह स्वयंचलित AI संशोधनातील लाभ-जोखीम व्यवस्थापन यांवर असेल. AI मापन, मूल्यमापन आणि विज्ञान यांमध्ये सहकार्य करण्यासाठी सार्वजनिक संस्थांना एकत्र आणणाऱ्या व CAISI ने 2024 मध्ये स्थापन केलेल्या प्रगत AI मापन, मूल्यमापन आणि विज्ञानासाठीच्या आंतरराष्ट्रीय जाळ्याचा(नवीन विंडोमध्ये उघडेल) अमेरिका पुढे विस्तार करू शकते.
या प्रयत्नातून विकसित झालेली मानके क्षमता मोजणे व त्यांचे मूल्यमापन करणे, जोखीम तपासणे आणि सुरक्षा उपाय पुरेसे आहेत का हे ठरवणे यासाठी एक समान तांत्रिक पाया देतील. ही तांत्रिक मानके AI मॉडेलसाठी परवाने, प्रकाशनापूर्वीची अनिवार्य तपासणी किंवा मंजुरीच्या अटी नसतील. ही मानके स्वतःच्या कायदेशीर व्यवस्थांमध्ये समाविष्ट करायची की नाही आणि कशी करायची, हे राष्ट्रीय सरकारे ठरवतील.
या कामात ओपन मॉडेल आणि बंद मॉडेलचे विकासक, स्वतंत्र तांत्रिक तज्ज्ञ व शैक्षणिक क्षेत्र यांच्याशी सल्लामसलत करून स्पर्धात्मक AI परिसंस्थेलाही पाठबळ दिले पाहिजे. सामायिक मानके पारदर्शकपणे विकसित केली पाहिजेत. नव्या स्पर्धकांना किंवा खुले वेट उपलब्ध करून देणाऱ्या विकासकांना स्पर्धा करणे कठीण होईल अशा प्रकारे विशिष्ट कंपन्या, देश किंवा व्यवसाय प्रारूपांना लाभ होणार नाही, याचीही काळजी घेतली पाहिजे.
आम्ही सुचवल्याप्रमाणे(नवीन विंडोमध्ये उघडेल), या दृष्टिकोनाला विमानवाहतूक आणि आर्थिक स्थैर्य यांसारख्या क्षेत्रांतून धडे घेता येतील. या क्षेत्रांत देशांनी आपले राष्ट्रीय अधिकार न सोडता समान तांत्रिक मानके आणि सहकार्यासाठी विश्वासार्ह माध्यमे विकसित केली आहेत. या प्रयत्नाने ISO(नवीन विंडोमध्ये उघडेल), अत्याधुनिक मॉडेल मंच(नवीन विंडोमध्ये उघडेल), एजंटिक AI प्रतिष्ठान(नवीन विंडोमध्ये उघडेल) आणि खुली सुरक्षित AI आघाडी(नवीन विंडोमध्ये उघडेल) यांसारख्या प्रस्थापित व नव्या मानक संस्थांसोबत जवळून काम केले पाहिजे. आंतरराष्ट्रीय मानके आणि प्रत्यक्ष AI मूल्यमापने यांना जोडणारी व्यावहारिक वैशिष्ट्ये विकसित करणाऱ्या अप्पिया प्रतिष्ठानासारख्या अंमलबजावणी-केंद्रित संस्थांशीही सहकार्य केले पाहिजे.
AI संशोधनातील वाढती स्वायत्तता आणि पुनरावर्ती स्वयं-सुधारणा यांचे व्यवस्थापन करण्यासाठी आंतरराष्ट्रीय AI मानके विशेष महत्त्वाची ठरतील. विशेषतः, यात पुढील बाबींसाठीची मानके समाविष्ट असू शकतात:
RSI शी संबंधित AI प्रगतीचे आणि AI कंपनीमध्ये होत असलेल्या स्वायत्त संशोधनाच्या प्रमाणाचे मूल्यमापन. संशोधनाला मिळणाऱ्या वेगावरील आमचा अलीकडील अहवाल हे या प्रयत्नातील प्रारंभिक योगदान आहे.
स्वयंचलित AI संशोधनावरील मानवी देखरेख, तसेच कोणत्या प्रकारच्या स्वयंचलित AI संशोधन प्रक्रियांची तातडीने मानवी तपासणी व्हावी याचे निकष.
संरेखन आणि स्वयंचलित AI संशोधनाशी संबंधित घटनांचे वर्गीकरण, निरीक्षण, अहवाल व प्रतिसाद, तसेच घटनांच्या तीव्रतेचे समान स्तर आणि अहवाल देण्याच्या मर्यादा. विसंरेखनावरील आमची अहवाल चौकट हे यातील प्रारंभिक योगदान आहे.
या मानकांसोबतच, महत्त्वाच्या पायाभूत सुविधांचे संचालक आणि जगभरातील सरकारांनी राष्ट्रीय सुरक्षाविषयक चिंता, उदयोन्मुख असुरक्षितता व धोके आणि झपाट्याने विकसित होत असलेल्या अत्याधुनिक AI सुरक्षेच्या क्षेत्रातील सर्वोत्तम पद्धती सामायिक करण्यासाठी सुरक्षित संवादमाध्यमे स्थापन करणे महत्त्वाचे ठरेल, असे आम्हाला वाटते. या क्षेत्रांमध्ये अमेरिका आणि चीन यांच्यातील संवाद हे सकारात्मक पाऊल ठरेल. आगामी चर्चा योग्य वेळी होत आहेत.
AI विकासाची गती नियंत्रित करणे म्हणजे पूर्वनिर्धारित वेग कायम ठेवणे नव्हे. तांत्रिकदृष्ट्या, संरेखन संशोधन आणि त्याचा वापर क्षमता-विकासाच्या पुढे राहतील याची खात्री करणे हा यामागचा उद्देश आहे. सामाजिक पातळीवर, उद्योगांचे जाळे, सामाजिक संबंध आणि बाजारातील शक्ती यांना मानके, संस्था आणि सहकार्याच्या मदतीने बळ देऊन सर्वांना लाभदायक परिणाम साधणे हा यामागचा उद्देश आहे. अलीकडे करण्यात आलेले सायबर संरक्षणासाठी सामूहिक कृतीचे आवाहन हे याचे उदाहरण आहे.
अमेरिकेचा AI उद्योग तांत्रिकदृष्ट्या अत्याधुनिक पातळीवर असल्यामुळे ती नेतृत्व करण्याच्या उत्तम स्थितीत आहे. तसेच वित्त, व्यापार, संरक्षण, तंत्रज्ञान आणि माहिती प्रणाली यांसारख्या महत्त्वाच्या क्षेत्रांतील जागतिक जाळ्यात तिचे स्थान अजूनही प्रभावशाली आहे. आता नेतृत्व केल्याने अमेरिका जागतिक AI चौकट घडवेल की तिच्याभोवती विखुरलेली, असमान आणि संघर्षग्रस्त व्यवस्था रुजताना केवळ पाहत राहील, हे ठरेल. प्रगत AI मुळे अमेरिका आणि तिच्या मित्रदेशांची विद्यमान जाळी अधिक बळकट होतील की नाही, हेही यावर ठरेल. नेतृत्व करण्यात अपयश आल्यास ती कमकुवत होऊ शकतात.
भूराजकीय स्पर्धा केवळ तांत्रिकदृष्ट्या कोण पुढे आहे यापुरती मर्यादित राहणार नाही, तर AI चा स्वीकार आणि प्रसार यांसाठीही असेल. जगभरातील व्यवसाय आणि समाजांना या तंत्रज्ञानावर आपले भविष्य अवलंबून ठेवायचे असेल, तर त्यांना व्यवहार्य सहकार्य आणि समंजस नियम हवे असतील. त्यामुळे AI चा स्वीकार आणि प्रसार वाढत्या प्रमाणात अशा सहकार्याला व नियमांना चालना देणाऱ्यांकडून ठरवला जाऊ शकतो.
व्यावहारिक आंतरराष्ट्रीय सहकार्याशी जोडलेले मजबूत राष्ट्रीय प्रशासन अधिक सक्षम सुरक्षा उपाय, सातत्यपूर्ण नवोन्मेष आणि AI च्या लाभांपर्यंत व्यापक प्रवेशाचा मार्ग खुला करते.
