एक परकी बुद्धी

2023 च्या मध्यात “RLSlow” संशोधन प्रकल्पामध्ये आम्हाला असे पहिले निष्कर्ष दिसले ज्यांमुळे रीझनिंग मॉडेलच्या प्रशिक्षणाचा विस्तार करता येईल, असा विश्वास वाटला. त्यामुळे पूर्वप्रशिक्षित मॉडेलना स्वतःच्या चेन्स-ऑफ-थॉट तयार करण्याची क्षमता खुली होणार होती. त्या रात्री शिमॉन आणि मी कार्यालयातच होतो. हे तंत्रज्ञान देणार असलेल्या अविश्वसनीय मापन-निकषांच्या आकड्यांचा, उत्पादनांचा किंवा वैज्ञानिक निष्कर्षांचा विचार आम्ही करत नव्हतो. आपल्या हयातीतच आपल्यापेक्षा अर्थपूर्णरीत्या अधिक बुद्धिमान यंत्रे प्रत्यक्ष पाहू आणि या प्रणालींचे स्वरूप आपल्याला आताच दिसत आहे, हे गंभीर वास्तव समजून घेण्याचा आम्ही प्रयत्न करत होतो. याचे महत्त्व लोकांना कसे सांगावे, हाही प्रश्न आम्हाला पडला होता.

तीन वर्षांनंतर, रीझनिंग करणारी भाषा मॉडेल अर्थव्यवस्थेचा वेगाने वाढणारा भाग झाली आहेत आणि विज्ञानाच्या सीमा पुढे ढकलू लागली आहेत. ती संगणक आणि चित्रमय अंतराफलक चालवू शकतात, लोकांशी व परस्परांशी सहकार्य करू शकतात आणि संशोधन प्रकल्प राबवू शकतात. ती संगणक सुरक्षेचे स्वरूपही बदलत आहेत आणि त्यामुळे स्पष्ट नवे धोके निर्माण होत आहेत.

या काळात बरेच नवे संशोधन झाले आणि या प्रणालींबद्दलची आपली समज पुन्हा 2023 पेक्षा थोडी वेगळी झाली आहे. अंतर्गत निष्कर्षांच्या आधारे, प्रगतीचा हा वेग पुनरावर्ती स्व-सुधारणेपर्यंत टिकू शकतो, अशी माझी ठाम अपेक्षा आहे. AI विकास सध्याच्या मार्गावर सुरू राहिल्यास, पुढील काही वर्षांत दिसणाऱ्या प्रणालींच्या क्षमतेत तेवढीच किंवा त्याहून मोठी झेप होण्याची आणि त्या वाढत्या प्रमाणात स्वतःचाच विकास घडवण्याची शक्यता आहे.

या काळात अत्यंत सावधगिरी बाळगणे आवश्यक आहे. यांत्रिक बुद्धिमत्तेतील निरंतर वेगवान वाढीच्या परिणामांसाठी कोणीही तयार नाही, याची मला चिंता वाटते. OpenAI संरेखन आणि निरीक्षणासाठी तांत्रिक उपाय शोधणे, संरक्षणात्मक प्रणाली उभारणे आणि आवश्यकतेनुसार स्वतःहून पुढील विस्तार थांबवणे सुरू ठेवेल. मात्र, अधिक व्यापक हस्तक्षेप आवश्यक आहेत, असे मला वाटते.

व्यापक पातळीवर पाहता, वाढती संगणकीय शक्ती यांत्रिक बुद्धिमत्तेतील प्रगतीला चालना देते. अनेक संशोधन प्रकल्पांमध्ये विस्ताराचे सातत्यपूर्ण लाभ पाहिल्यानंतर, 2017 च्या सुमारास OpenAI मध्ये आम्ही हे तत्त्व मनापासून आत्मसात केले¹. परिणामी, आम्ही मूळ नियोजनापेक्षा कितीतरी अधिक संगणकीय क्षमतेचा प्रवेश मिळवण्याचा प्रयत्न केला आणि अतिशय विस्तारक्षम अशा मोजक्या दिशांभोवती आमचे संशोधन अधिकाधिक केंद्रित केले. AI संशोधनाच्या अत्याधुनिक स्तरावर राहण्याचा आणि AGI च्या परिणामांवर प्रभाव टाकण्याचा आमच्यासाठी तोच एकमेव मार्ग आहे, असा आमचा विश्वास होता.

या प्रवासात नवे अल्गोरिदम विकसित झाले आहेत आणि संघांनी व वैयक्तिक संशोधकांनी कल्पकतेचे नवे पराक्रम केले आहेत. मी यांकडे प्रामुख्याने विस्ताराच्या मार्गावरील शोध म्हणून पाहतो. डीप लर्निंगचे विज्ञान अजून बाल्यावस्थेत आहे आणि अर्थपूर्ण अल्गोरिदमिक प्रगतीचा संबंध बहुधा संगणकीय क्षमतेच्या उपलब्धतेशी असतो. अनेक वर्षांचा व्यापक कालखंड विचारात घेतल्यास, मोठ्या संगणकांवर विस्तार होत असताना AI अधिक बुद्धिमान होत आहे.

तसेच, विसाव्या शतकाच्या अखेरीस रे कुर्झवेल यांनी केलेल्या भाकितांनुसार⁠(नवीन विंडोमध्ये उघडेल), आपण आता संगणनाच्या इतिहासातील अशा क्षणी आहोत जिथे यांत्रिक बुद्धिमत्ता परिवर्तनकारी मार्गांनी मानवी बुद्धिमत्तेला मागे टाकू लागली आहे.

AI ची रचना करण्यापेक्षा ती वाढवली जाते. प्राथमिक पातळीवर ती कल्पनेपलीकडील संगणकीय क्षमतेवर सरळ अनुकूलनाची पायरी अनेकदा पुनरावृत्त केल्याचे फलित आहे. यातून अमूर्त संकल्पनांवर काम करणारी आणि मानवी वर्तनाच्या विविध पैलूंचे अनुकरण करू शकणारी अविश्वसनीयरीत्या गुंतागुंतीची प्रणाली तयार होते. मेंदूविज्ञानासारख्या प्रक्रियेद्वारे या प्रणालीत उदयास येणाऱ्या छोट्या यंत्रणांबद्दल विविध अंतर्दृष्टी आपल्याला मिळू शकतात. मात्र, मेंदूविज्ञानाप्रमाणेच तिच्या एकूण कार्याचे आपल्याला पूर्णपणे समजेल असे वर्णन करणे कठीण ठरते.

डीप लर्निंगवर आधारित AI चा अभ्यास प्रामुख्याने प्रयोगाधारित विज्ञान आहे. तत्त्वाधारित अल्गोरिदम तयार करण्यासाठी आणि पडताळता येतील अशी भाकिते करण्यासाठी आम्ही खूप प्रयत्न करतो⁠. पण मूलतः आमच्या लार्ज-स्केल ट्रेनिंगच्या प्रक्रिया हे प्रयोग आहेत आणि त्यांच्या निष्कर्षांमुळे आम्ही कधीकधी आश्चर्यचकित होतो. शिवाय, प्रणाली अधिक सक्षम होत जातात तसतसे निष्कर्षांचा अर्थ लावणे कठीण होते.

सध्याचे अल्गोरिदम वस्तुनिष्ठपणे मोजायला कठीण असलेल्या क्षमतांपेक्षा सहज मोजता येणाऱ्या क्षमता अधिक वेगाने सुधारतात, त्यामुळे हे आणखी गुंतागुंतीचे होते. क्षमतांचे सामान्यीकरण कसे होते आणि पुढील काही वर्षांत सर्वाधिक उपयुक्त ठरणारी कौशल्ये विकसित करण्यासाठी कशाला प्राधान्य द्यावे, हे समजून घेण्यासाठी आम्ही बराच वेळ देतो. उदाहरणार्थ, अधिक लक्ष दिल्यास मॉडेलना गणितीय संशोधनात विशेषतः अधिक सक्षम करता येईल, असे आम्हाला वाटते. मात्र, RSI आणि स्वयंचलित संरेखन संशोधनाची तातडी लक्षात घेऊन आम्ही या दिशेला प्राधान्य देत नाही. याची चर्चा मी पुढे करेन.

डीप लर्निंगचा विस्तार करून निर्माण होणाऱ्या बुद्धिमत्तेची थेट मानवी बुद्धिमत्तेशी तुलना करता येत नाही. वास्तविक जगात अत्यंत प्रभावी, म्हणजे अतिशय उपयुक्त किंवा अतिशय धोकादायक होण्यासाठी AI ला सर्व मानवी क्षमतांची बरोबरी करणे किंवा त्यांना मागे टाकणे आवश्यक नाही. पुरेशा क्षमतांमध्ये पुढे जाणेच तिच्यासाठी पुरेसे आहे. अधिकाधिक पैलूंमध्ये ती मानवांना मागे टाकत असल्याने, तिची नेमकी क्षमता किती आहे हे समजून घेणे दिवसेंदिवस कठीण होत आहे.

यांत्रिक बुद्धिमत्ता मानवी बुद्धिमत्तेपेक्षा मूलभूतरीत्या वेगळ्या प्रक्रियेतून निर्माण होते. त्यामुळे ती आपोआप मानवी तत्त्वांचे पालन करेल किंवा त्यांवरून माणसासारखे सामान्यीकरण करेल असे आपण गृहीत धरू शकत नाही. AI संशोधनातील मुख्य समस्या म्हणजे संरेखन, म्हणजे मानवी निकषांनुसार AI ने “योग्य गोष्ट करण्याचा प्रयत्न करावा” अशी व्यवस्था करणे.

व्यावहारिक संशोधनाच्या दिशा व्यवस्थित मांडण्यासाठी ध्येय-संरेखन आणि मूल्य-संरेखन यांत फरक करणे मला उपयुक्त वाटते.

ध्येय-संरेखनाचा व्यापक अर्थ असा आहे: “AI तिच्यासमोर ठेवलेले ध्येय साध्य करण्याचा प्रयत्न करते का?”. यात सूचना-श्रेणीचे⁠ पालन किंवा लोकांची उद्दिष्टे समजून घेण्याचा प्रयत्न करण्यासाठी त्यांच्याशी संवाद साधण्याची आणि सहकार्य करण्याची क्षमता यांचा समावेश असू शकतो. या दिशांचा संच व्यवहारात अत्यंत उपयुक्त ठरला आहे.

मूल्य-संरेखन हा मॉडेलचा अधिक अंतर्निहित गुणधर्म आहे. उच्चस्तरीय तत्त्वांचा संच अंगीकारण्याची आणि त्यावरून सामान्यीकरण करण्याची ही क्षमता आहे. अस्पष्ट किंवा परस्परविरोधी उद्दिष्टे दिली, अथवा अपरिचित किंवा प्रतिकूल परिस्थितीत ठेवले, तरी “विवेकाने” वागणे यात अपेक्षित आहे. संरेखित AI ने प्रामाणिकपणे, सचोटीने आणि मानवतेबद्दल प्रेम बाळगून वागले पाहिजे.

अर्थात, मूल्य-संरेखन आणि ध्येय-संरेखन यांच्यातील सीमारेषा धूसर असू शकते. ध्येयांची खरोखर काळजी घेण्यासाठी त्यामागील हेतू⁠(नवीन विंडोमध्ये उघडेल) आणि मूल्ये समजून घेण्याचा प्रयत्न करावा लागतो. मात्र, संरेखन संशोधनाच्या दीर्घकालीन महत्त्वाबद्दल बोलताना मी सर्वसाधारणपणे मूल्य-संरेखनाचा उल्लेख करत असतो.

सामान्यीकरण हे AI संरेखनातील मूलभूत आव्हान आहे. यंत्रे अधिक बुद्धिमान होताना ती उच्चस्तरीय संकल्पनांवर काम करू लागतात आणि प्रशिक्षणात अनुभवलेल्या वातावरणांपेक्षा अधिकाधिक वेगळ्या वातावरणात जातात. प्रशिक्षण प्रक्रियेत शिकवलेल्या आणि बळकट केलेल्या मूल्यांचे या नव्या परिस्थितींमध्ये सामान्यीकरण करण्यात ती अपयशी ठरू शकतात. ती कशी वागतील याची खात्री करणेही आपल्यासाठी कठीण होऊ शकते. AI ज्या व्यापक परिसंस्थेत वापरली जाते ती अतिशय वेगाने बदलत असल्यामुळे हे आणखी कठीण होते. उदाहरणार्थ, आज प्रशिक्षित केलेली AI विविध प्रकारच्या इतर AI सोबतच्या परस्परसंवादात सक्षम आणि टिकाऊ असणे आवश्यक आहे. सर्वांत महत्त्वाचे म्हणजे, मानवी देखरेखीखाली असल्याचे वाटत असो वा नसो, भविष्यातील AI ने मानवी मूल्ये कायम जपली पाहिजेत.

संरेखन प्रशिक्षणासाठी सध्या व्यवहारात वापरल्या जाणाऱ्या पद्धतींचे दोन प्रमुख वर्ग आहेत.

पहिली पद्धत म्हणजे ध्येयाभिमुख रीइन्फोर्समेंट लर्निंगचा भाग म्हणून संरेखित वर्तनाला प्रोत्साहन देणे. मॉडेलच्या कृती दिलेल्या पसंतीच्या मॉडेलशी, “विनिर्देशाशी” किंवा “संविधानाशी” सुसंगत आहेत का याचे, सहसा AI द्वारे, मूल्यमापन करून त्यानुसार बक्षीस दिले जाते. ही पद्धत सरासरी परिस्थितीत अत्यंत प्रभावी ठरू शकते आणि आधुनिक AI सहाय्यक तयार करण्याच्या प्रक्रियेचा ती मुख्य भाग आहे. दुर्दैवाने, ही पद्धत नाजूकही ठरू शकते आणि प्रशिक्षणातील देखरेखीची व्याप्ती व प्रशिक्षणात अनुभवलेल्या परिस्थितींवरून सामान्यीकरण करण्याची मॉडेलची क्षमता यांवर मोठ्या प्रमाणात अवलंबून असते. उदाहरणार्थ, OpenAI-Hugging Face घटनेत एजंटनी मानवांवर सामाजिक अभियांत्रिकी न करण्याची सीमा पाळली. मात्र, व्याप्तीबाहेरील आणि इतर परिस्थितींमध्ये शिकवलेल्या मूल्यांच्या भावनेविरुद्ध जाणाऱ्या इतर कृती टाळण्यात ते स्पष्टपणे अपयशी ठरले.

दुसरी पद्धत पूर्वप्रशिक्षणाच्या माहितीतून सामान्यीकरण करण्याच्या मॉडेलच्या क्षमतेचा लाभ घेण्याचा प्रयत्न करते. यात संरेखन घडवणारे प्रशिक्षण माहिती-संच तयार करणे किंवा व्यक्तिमत्त्व निवड मॉडेलप्रमाणे⁠(नवीन विंडोमध्ये उघडेल) पूर्वप्रशिक्षण-वितरणातील “संरेखित” भागावर मॉडेल केंद्रित करणे यांचा समावेश असू शकतो. पुढील अनुकूलनाच्या दबावासमोर टिकाऊपणा नसणे ही या पद्धतीची कमकुवत बाजू आहे. सर्वसाधारणपणे “संरेखित” विचार करणाऱ्या मॉडेलला अतिशय कठीण उद्दिष्टे साध्य करण्याचे पुरेसे प्रशिक्षण दिले, तर ते प्रेरणाप्रभावित पद्धतीने रीझनिंग करायला शिकू शकते. म्हणजे ध्येय साध्य करण्यासाठी आवश्यकतेनुसार 'संरेखित' भासणारे विचार वाकवू शकते. OpenAI चे नसलेले एक मॉडेल सहभागी असलेल्या अलीकडील सायबरसुरक्षा घटनांमध्ये असे वर्तन दिसले असण्याची शक्यता आहे.

या दिशांनी व्यापलेल्या विविध पद्धतींमध्ये आम्ही मोठी गुंतवणूक करतो. आम्हाला अर्थपूर्ण प्रगतीही दिसत आहे. GPT‑6 Astra हे आम्ही बराच काळ काम करत असलेल्या काही महत्त्वाच्या प्रगतीचा लाभ घेणारे पहिले मॉडेल असून ते GPT‑5.6 Sol पेक्षा लक्षणीयरीत्या अधिक चांगले संरेखित आहे. तरीही, मॉडेल अधिक सक्षम होत असताना आणखी खूप प्रगती आवश्यक आहे, हे मान्य करणे आणि समजून घेणे महत्त्वाचे आहे. सामान्यीकरणक्षम संरेखनातील प्रगती सर्वसाधारण मॉडेल बुद्धिमत्तेतील प्रगतीपेक्षा पुरेशा वेगाने पुढे जाईलच असे नाही.

सामान्यीकरणाचा समाधानकारक सिद्धांत आमच्याकडे नाही आणि अधिक शक्तिशाली AI ची मदत मिळाल्याशिवाय तो लवकर विकसित करता येईल, असे वाटत नाही. त्यामुळे सध्या आमच्या संरेखन तंत्रांची अनुभवाधारित पडताळणी करण्याची क्षमता प्रत्यक्षात त्या तंत्रांपेक्षाही अधिक महत्त्वाची आहे, असे म्हणता येईल.

येथे OpenAI ची प्रमुख भिस्त चेन-ऑफ-थॉट निरीक्षणावर⁠(नवीन विंडोमध्ये उघडेल) राहिली आहे. ही कल्पना आकर्षकपणे विस्तारक्षम आहे: मॉडेलची बरीच क्षमता शब्दांत व्यक्त होणाऱ्या रीझनिंग प्रक्रियेतून, म्हणजे चेन-ऑफ-थॉटमधून, येते. आपण त्या प्रक्रियेच्या निष्पत्तीवरील अनुकूलनाचा विस्तार केला, पण प्रक्रियेवरच देखरेख केली नाही, तर त्या चेन-ऑफ-थॉटला प्रशिक्षणादरम्यान विसंगत कल्पना किंवा उद्दिष्टे लपवण्याची थेट प्रेरणा मिळत नाही. याचा अर्थ मॉडेल चेन-ऑफ-थॉटचा वापर न करणाऱ्या विसंगत प्रवृत्ती उघडपणे व्यक्त करायला शिकेल असा नाही. मात्र, रीझनिंगमुळे नेमकी किती क्षमता वाढते यावर आपल्याला लक्ष ठेवता येते.

रीझनिंग मॉडेल विकसित करतानाच आम्हाला चेन-ऑफ-थॉट निरीक्षणाचे संभाव्य महत्त्व समजले होते. o1‑preview उपलब्ध करताना आम्ही उत्पादनाची रचना जाणीवपूर्वक चेन-ऑफ-थॉट लपवण्यासाठी⁠ केली, जेणेकरून दीर्घकाळात देखरेखीच्या दबावापासून त्याचे संरक्षण होईल². त्यानंतरच्या विकासात रीझनिंग प्रक्रियेवर देखरेख न करण्याचा नियम कायम राखण्याचा आम्ही प्रयत्न केला आहे. आमची मॉडेल त्यांच्या प्रशिक्षण-वितरणापलीकडे कसे सामान्यीकरण करतात याचा अभ्यास करताना CoT निरीक्षण आमच्यासाठी अत्यंत महत्त्वाचे साधन ठरले. त्यामुळे त्यांच्या कृतींबरोबरच अंतर्गत प्रक्रियेचेही निरीक्षण आणि विश्लेषण करता आले.

Astra वर्गातील मॉडेलचा अभ्यास करताना हे साधन अजूनही अत्यंत महत्त्वाचे आहे. मात्र, दुर्दैवाने आमची मूल्यमापने दर्शवतात की CoT निरीक्षणावर अवलंबून राहण्याची आमची क्षमता हळूहळू कमी होत आहे. यामागे अनेक घटकांचे मिश्रण आहे.

• आधुनिक रीझनिंग मॉडेल o1‑preview पेक्षा अधिक गुंतागुंतीच्या वातावरणात वापरली जातात. त्यांची रीझनिंग प्रक्रिया लोकांशी व इतर AI शी संवाद साधणे आणि साधने वापरणे यांत वाढत्या प्रमाणात मिसळत आहे. यापैकी अनेक परस्परसंवादांवर देखरेख करावी लागते आणि त्यामुळे आम्हाला जपायची असलेली सीमारेषा धूसर होते.

• स्वतःच्या रीझनिंग प्रक्रियेबद्दल तर्क करणे आणि तिच्यात फेरफार करणे AI ला अधिक चांगले जमू लागले आहे.

• पूर्वप्रशिक्षणातील कामगिरी सुधारल्यामुळे, शब्दांत व्यक्त होणारे रीझनिंग अजिबात न वापरताही मॉडेल अधिक बुद्धिमान होत असल्याचे आम्हाला दिसते.

ही आव्हाने अजिंक्यच आहेत असे नाही. मॉडेल वापरत असलेली विविध अनुकूलन उद्दिष्टे आणि चाचणीच्या वेळी वापरल्या जाणाऱ्या संगणकीय प्रक्रियेचे प्रकार यांच्यातील परस्परसंबंध अधिक चांगल्या प्रकारे समजून घेऊन, आमच्या मॉडेलची चेन-ऑफ-थॉट निरीक्षणक्षमता सुधारणारे उपाय विकसित करता येतील, अशी मला आशा आहे. CoT आणि सक्रियता निरीक्षणातील कल्पना एकत्र करण्यातही मोठे मूल्य असू शकते, असे मला वाटते. उदाहरणार्थ, जालाच्या अंतर्गत भागांमध्ये थेट प्रवेश असलेल्या निरीक्षकांच्या प्रशिक्षणाचा विस्तार करणे, जसे की कबुलीजबाब⁠(नवीन विंडोमध्ये उघडेल). आम्ही या कल्पनांवर सक्रियपणे काम करत आहोत. तरीही, सर्वसाधारण AI प्रगतीला निरीक्षणावरील विश्वासाचा अडथळा वाढत्या प्रमाणात मर्यादित करेल, अशी माझी अपेक्षा आहे.

अधिक बुद्धिमान मॉडेलचे वेगाने प्रशिक्षण सुरू ठेवण्याच्या बाजूने मला दिसणारा सर्वांत ठोस युक्तिवाद म्हणजे इतर AI मुळे उद्भवणाऱ्या धोक्यांविरुद्ध संरक्षणात्मक प्रणाली उभारण्याची गरज.

या वर्षभरात स्पष्टपणे चर्चिला गेलेला एक धोका म्हणजे सायबरसुरक्षा. संगणक प्रणालींमध्ये घुसणे आणि त्यांतून बाहेर पडणे यात मॉडेलची क्षमता मानवापेक्षा श्रेष्ठ होत आहे. यामुळे AI शी संबंधित धोक्यांची व्याप्ती प्रचंड वाढते. एजंटना सर्वाधिक सुरक्षित पायाभूत सुविधा वगळता इतर कोणत्याही सुविधेत प्रवेश करता येईल आणि भौतिक शरीर नसतानाही ते जगातील अनेक गोष्टींवर थेट परिणाम करू शकतील. सर्वोत्तम उपलब्ध मॉडेल वापरून महत्त्वपूर्ण प्रणालींची सुरक्षा लक्षणीयरीत्या मजबूत करण्यासाठी⁠ सध्या आपल्याकडे अतिशय मर्यादित संधी⁠ आहे.

दुर्दैवाने, येथून पुढे AI शी संबंधित धोके वाढतच जाणार आहेत. दुष्ट कृत्ये करण्यासाठी स्पष्टपणे प्रशिक्षित आणि निर्देशित केलेला अत्यंत सक्षम एजंट एका नव्या प्रकारचा धोका निर्माण करतो. तो आपल्या Operator च्या हेतूची व्याप्ती ओलांडून अधिक टोकाच्या दुर्भावनापूर्ण वर्तनाकडे सामान्यीकरण करण्याची शक्यता आहे. AI ची स्वायत्त कृतीक्षमता वाढत जाईल, तशी गैरवापर आणि स्वायत्त विसंगत कृती यांच्यातील सीमारेषा धूसर होईल. AI कडे साधन म्हणून पाहण्याची आपल्याला सवय असेल, पण काही एजंट स्वतःच्या उद्दिष्टांचा पाठपुरावा करतील. ते लोकांशी सौदेबाजी करून, त्यांना फसवून किंवा धमकावून त्यांच्याबरोबर सहकार्य करण्याचे मार्ग शोधतील.

याशिवाय, AI मुळे शक्य होऊ शकणाऱ्या अभियांत्रिकीद्वारे तयार केलेल्या रोगकारकांसारख्या नव्या तंत्रज्ञानांमधूनही धोके उद्भवतात.

संरक्षणासाठी आपल्याला शक्तिशाली आणि संरेखित AI ची गरज असेल. पायाभूत सुविधा सुरक्षित करणे, बेलगाम एजंटपासून तत्काळ संरक्षण करणे आणि पूर्णपणे नवे सुरक्षात्मक उपाय शोधणे यासाठी ती आवश्यक असेल. OpenAI च्या उपयोजन प्रयत्नांचा हा प्रमुख केंद्रबिंदू असेल.

त्याच वेळी, अपेक्षित व्यापक AI प्रगतीमुळे निर्माण होणारी अनिश्चितता आणि संरक्षणात्मक प्रणाली उभारण्याची गरज यांचा वापर आपण बेपर्वाईचे निमित्त म्हणून करू नये. काय पणाला लागले आहे याचे गांभीर्य मनापासून समजल्यावर, कोणतीही किंमत मोजून पुढे धावण्याची कल्पना हास्यास्पद वाटते.

स्वतःच्या विकास प्रक्रियेत यांत्रिक बुद्धिमत्तेची भूमिका सतत वाढत जाणे हा सातत्यपूर्ण तांत्रिक प्रगतीचा स्वाभाविक परिणाम आहे. AI ची प्रगती सुरू राहिल्यास, यंत्रांचे पुनरावर्ती स्व-सुधारण (RSI) भविष्यातील वैज्ञानिक शोधांच्या केंद्रस्थानी असेल.

स्वयंचलित AI संशोधन हे संगणकीय क्षमतेच्या साहाय्याने बुद्धिमत्तेचा विस्तार करण्याचे अधिक नाट्यमय रूप आहे. त्याचाच भाग म्हणून AI संगणकीय पायाही⁠ सुधारेल. विस्ताराप्रमाणेच आम्ही OpenAI चे संशोधन RSI कडे केंद्रित करत आहोत, कारण भविष्यात AI संशोधनाच्या अत्याधुनिक स्तरावर टिकून राहण्याचा तोच एकमेव मार्ग आहे, असे आम्हाला वाटते.

संशोधन समुदाय म्हणून आपण एकत्रितपणे करावी अशी योग्य कृती म्हणजे डीप लर्निंग संशोधनाला, विशेषतः अल्पावधीत, प्रचंड वेग देणे असे मला वाटते, असा वरील शब्दांचा अर्थ नाही, हे मी आवर्जून सांगू इच्छितो. मात्र, सध्याचा मार्ग आपल्याला याच दिशेने घेऊन जात आहे असे मला वाटते आणि पुढे कसे जायचे याची जाणीवपूर्वक निवड आपण सर्वांनी करणे आवश्यक आहे. आपल्याकडे दोन प्रमुख पर्याय आहेत. AI बरोबरच संरेखन आणि निरीक्षण बळकट करण्यासाठी प्रक्रिया योग्य दिशेने नेणे व लोकांना प्रक्रियेत सहभागी ठेवण्याचे मार्ग शोधणे, किंवा या उपायांवरील विश्वास वाढवण्यासाठी गरजेनुसार भविष्यातील विकासाचा वेग कमी करण्यासाठी समन्वय साधणे.

सध्या या दोन्हींचे संयोजन हाच सर्वोत्तम मार्ग मला दिसतो.

संरेखन आणि निरीक्षणात आम्ही केलेली ठोस प्रगती सर्वसाधारण AI प्रगतीशी बहुतांश वेळा घनिष्ठपणे जोडलेली आहे. याची उत्तम उदाहरणे म्हणजे सुरुवातीच्या AI सहाय्यकांच्या प्रशिक्षणासाठी महत्त्वाचे ठरलेले मानवी अभिप्रायातून केलेले रीइन्फोर्समेंट लर्निंग⁠(नवीन विंडोमध्ये उघडेल) आणि रीझनिंग मॉडेलमधील प्रगतीमुळे शक्य झालेले, वर उल्लेखलेले चेन-ऑफ-थॉट निरीक्षण⁠(नवीन विंडोमध्ये उघडेल). वाढत्या प्रमाणात स्वयंचलित होत असलेल्या संशोधन प्रक्रियेला अशा नव्या अंतर्दृष्टी, अल्गोरिदम आणि सिद्धांतांच्या विकासावर केंद्रित करणे आणि अधिक सक्षम AI साठी सुरक्षिततेची प्रकरणे पुनरावृत्तीने बळकट करणे आवश्यक आहे.

AI प्रणालींचा विस्तार सुरक्षिततेवरील आपल्या विश्वासाने मर्यादित केला पाहिजे. सातत्यपूर्ण विकासासाठी प्रिपेयर्डनेस फ्रेमवर्क⁠ किंवा जबाबदार विस्तार धोरण⁠(नवीन विंडोमध्ये उघडेल) यांसारख्या बांधिलक्यांना व्यापकपणे अनिवार्य सुरक्षितता निकषांचे रूप देणे आवश्यक आहे. तृतीय-पक्ष लेखापरीक्षकांचे जाळे, सरकारी संस्था किंवा आंतरराष्ट्रीय संघटना या निकषांची अंमलबजावणी करू शकतात.

AI संशोधन स्वयंचलित करण्यातील मुख्य आव्हान “तिथे पोहोचणे” हे नाही. लोकांना निरंतर सुधारणा प्रक्रियेचा भाग ठेवून आणि भविष्य मानवतेच्या हाती राखून तिथे पोहोचणे हे खरे आव्हान आहे.

आम्ही अलीकडेच सॅमसोबत मांडल्याप्रमाणे⁠, OpenAI तीन मार्गदर्शक ध्येयांच्या सेवेत असलेल्या कामाला प्राधान्य देते:

1. स्वयंचलित AI संशोधक तयार करून, त्याच्यासोबत संरेखन समस्येवर पुनरावृत्तीने काम करून आणि लोकांना स्व-सुधारणेच्या चक्राचा भाग ठेवण्याचे मार्ग शोधून AI प्रगतीच्या पुढील टप्प्यातून योग्य वाटचाल करणे.

2. अत्यंत बुद्धिमान यंत्रांमुळे शक्य होणाऱ्या वैज्ञानिक प्रगतीचे आणि आर्थिक वृद्धीचे लाभ लोकांपर्यंत पोहोचवणे.

3. प्रत्येक व्यक्तीला वैयक्तिक AGI देऊन सक्षम करणे.

या निबंधात मी केवळ पहिल्या मुद्द्यावर लक्ष केंद्रित केले आहे, कारण तो इतरांपेक्षा कितीतरी अधिक तातडीचा आहे, असे मला वाटते. मात्र, पुढील तांत्रिक प्रगतीमुळे मिळणाऱ्या लाभांबद्दल माझ्या मनात दृढ आशा आणि कृतज्ञता आहे. भविष्यातील संरेखित AI विज्ञानाला पुढे नेऊ शकते, नवे उपचार विकसित करू शकते आणि व्यापक भौतिक समृद्धी आणू शकते. मैत्रीपूर्ण आणि प्रामाणिक AI लोकांना आयुष्यातील अडचणींमधून मार्ग काढण्यास मदत करू शकते आणि त्यांचा आनंद व जीवनातील सार्थकतेची भावना लक्षणीयरीत्या वाढवू शकते. हे लाभ प्रत्यक्षात आणण्यासाठी OpenAI प्रचंड प्रयत्न करते. याचे सध्याचे एक उदाहरण म्हणजे आरोग्यविषयक माहिती देण्याची ChatGPT ची क्षमता विकसित करण्यासाठी केलेली मोठी गुंतवणूक. याचा मला अभिमान आहे आणि माझ्या जवळच्या व्यक्तींनाही ती उपयुक्त ठरली आहे.

AI चे दीर्घकालीन आश्वासन कितीही मोठे असले, तरी आपले बहुतांश लक्ष पुढील काही वर्षांवर असले पाहिजे. आपण विलक्षण बुद्धिमान यंत्रे असलेल्या जगाकडे संक्रमण करत आहोत आणि हे संक्रमण मानवतेसाठी चांगले घडेल याची खात्री करणे आवश्यक आहे. बहुतेक कामे AI करू शकणाऱ्या जगात मानवी कृतीस्वातंत्र्य जपण्याचे आणि मनुष्य असण्याच्या अंगभूत मूल्याला दृढ स्थान देण्याचे मार्ग आपल्याला शोधावे लागतील. पूर्वी हजारो तज्ज्ञांची गरज भासणारी मोठी कामे आता मोठा संगणक चालवणाऱ्या काही लोकांना करता येतील अशा जगात सत्तेचे अतिशय केंद्रीकरण रोखावे लागेल. तसेच, आपल्या बुद्धीपेक्षा श्रेष्ठ असलेल्या परक्या बुद्धिमत्तेमुळे घडणारी अनियंत्रित प्रगती मानवांना मागे टाकणार नाही आणि भविष्यावरील नियंत्रण मानवांकडेच राहील याची खात्री करावी लागेल.

सध्या माझ्या मते, आणखी बराच काळ कमाल वेगाने जबाबदारीने विस्तार सुरू ठेवता येईल इतक्या प्रमाणात संरेखन आणि निरीक्षणाची समस्या कोणत्याही प्रयोगशाळेने सोडवलेली नाही. सामायिक सुरक्षितता निकष प्रस्थापित होईपर्यंत स्वेच्छेने वेग कमी करणे सामान्य व्हावे, अशी माझी अपेक्षा आणि आशा आहे. तसेच, भविष्यातील AI विकासावरील आंतरराष्ट्रीय समन्वयाला जगभरातील सरकारांनी सर्वोच्च प्राधान्य दिले पाहिजे, असे मला वाटते.