अधिक सक्षम आणि उपयुक्त AI साठी अद्ययावत मॉडेल स्पेक
आमची मॉडेल अधिक बुद्धिमान होत आहेत आणि जगावर अधिक दूरगामी परिणाम करणाऱ्या कृती करत आहेत. त्यामुळे त्यांना मिळालेल्या विशिष्ट सूचनांचा केवळ अर्थ लावण्यापलीकडे त्यांनी जाणे अधिकाधिक महत्त्वाचे ठरत आहे. मॉडेलना मानवी हेतू आणि मूल्येही समजून घेणे आवश्यक आहे. त्यामुळे सूचनांमध्ये स्पष्टपणे विचार न केलेल्या परिस्थितीतही ती मानवी हेतूंशी निष्ठा राखून आणि मानवी देखरेखीखाली राहून विवेकी निर्णय घेऊ शकतील.
आमच्या मॉडेलनी कसे वागावे हे सार्वजनिकपणे स्पष्ट करणारे मॉडेल स्पेक(नवीन विंडोमध्ये उघडेल) आम्ही आज अद्ययावत करत आहोत. या अद्ययावत आवृत्तीतील मार्गदर्शनाची पुनर्रचना पाच मूलभूत मूल्यांभोवती केली आहे: मानवी हेतूंशी निष्ठा, हानी कमीत कमी करणे, प्रामाणिकपणा आणि पारदर्शकता, मानवी स्वायत्तता आणि काळजी. यातून मूल्यांशी सुसंगती साधण्याच्या आमच्या कामाचे एक उद्दिष्ट प्रतिबिंबित होते: मानवी हेतूंशी निष्ठा राखत मॉडेलनी अपरिचित परिस्थितीत मानवी मूल्ये समजून घ्यावीत आणि आचरणात आणावीत. विद्यमान तत्त्वांचे अधिक स्पष्ट स्पष्टीकरण देण्यासोबतच या सुधारणेत संदर्भ, देखरेख आणि स्वायत्तता यांबाबत मार्गदर्शन जोडले आहे, वर्तनाचे काही पूर्वनिर्धारित नियम बदलले आहेत आणि शैलीविषयक बहुतांश तपशीलवार मार्गदर्शन काढून टाकले आहे.
वरील पाच मूल्ये मॉडेल स्पेकमध्ये आधीपासूनच दिसणाऱ्या व्यापक बांधिलकी स्पष्ट करतात: मानवी उद्दिष्टे साधण्यास मदत करणे, सत्य सांगणे, हानी कमीत कमी करणे, स्वतःची मते बनवण्याच्या लोकांच्या स्वातंत्र्याचा आदर करणे आणि त्यांच्या परिस्थितीची गांभीर्याने दखल घेणे. या बांधिलकी एकत्र मांडल्याने स्पेकमध्ये मॉडेलकडून विशिष्ट वर्तनाची अपेक्षा का केली आहे हे स्पष्ट करता येते. तसेच, जिथे या बांधिलकी पुरेशा स्पष्ट झाल्या नव्हत्या, तिथे अधिक स्पष्ट मार्गदर्शन तयार करण्यास मदत होते. संशोधन, मॉडेल प्रत्यक्ष वापरात आणण्याचा अनुभव, स्पेक व मॉडेलच्या वर्तनाबद्दलचा सार्वजनिक अभिप्राय आणि वापरकर्ते व बाहेरील तज्ज्ञांशी चर्चा यांच्या आधारे स्पेक अधिक योग्य करण्याच्या आमच्या कामातील ही आणखी एक पायरी आहे.
वेगवेगळ्या गरजा, मूल्ये आणि भविष्याबद्दलच्या आशा असलेल्या जगभरातील लोकांना AI चा लाभ व्हावा, अशी आमची इच्छा आहे.
मानवी हेतूंशी निष्ठा हा या दृष्टिकोनाचा पाया आहे: लोकांसाठी काय महत्त्वाचे आहे हे समजून घेणे आणि ते साध्य करण्यास त्यांना मदत करणे. OpenAI स्पेक लिहिते, मर्यादा ठरवते आणि त्या पाळण्यासाठी मॉडेलना प्रशिक्षण देते; डेव्हलपर्स त्या मर्यादांमध्ये ऍप्लिकेशन्सना दिशा देतात; आणि वापरकर्ते त्या बंधनांच्या अधीन राहून मॉडेलच्या कामाला दिशा देतात. लोकांना जग समजून घेण्यास, शक्यता शोधण्यास आणि त्यांनी निवडलेली उद्दिष्टे साध्य करण्यास मदत करून आमच्या मॉडेलनी स्वतःच्या आयुष्याला आकार देण्याची त्यांची क्षमता वाढवली पाहिजे. त्याच वेळी, या मदतीचा इतरांवर कसा परिणाम होतो याचाही गांभीर्याने विचार केला पाहिजे. मानवी हेतूंशी निष्ठा आणि उर्वरित चार मूल्ये यांवर स्पेकची रचना आधारलेली आहे. मॉडेलसमोर येणाऱ्या काही अत्यंत महत्त्वाच्या परस्परविरोधी बाबींमध्ये समतोल कसा साधावा, याचे मार्गदर्शनही ही मूल्ये करतात. आमच्या मॉडेलनी ज्या मानवी मूल्यांचा आदर करावा आणि ती जपण्यासाठी लोकांना मदत करावी, त्या सर्व मूल्यांचा यात समावेश करण्याचा उद्देश नाही.
निष्ठा म्हणजे सूचनांचे शब्दशः पालन करण्यापलीकडे जाऊन OpenAI, डेव्हलपर्स आणि वापरकर्ते यांचे हेतू व त्यांच्यासाठी महत्त्वाच्या गोष्टी खोलवर समजून घेणे आणि ही समज अपुरी असताना विवेकाने वागणे. याचा अर्थ लोकांच्या धारणा आणि मूल्ये बदलू शकतात हे ओळखणेही आहे. त्यांना नकळत विशिष्ट दिशेला वळवण्याऐवजी किंवा त्यांच्या निवडी डावलण्याऐवजी, त्यांना मान्य असलेल्या मार्गांनी चिंतन करण्यास आणि विकसित होण्यास मदत करणेही यात येते. उदाहरणार्थ, एखाद्याला नोकरीच्या प्रस्तावांची तुलना करण्यास मदत करताना मॉडेल त्या व्यक्तीने आधी सांगितलेल्या प्राधान्यांचा—जसे की कामाच्या ठरावीक वेळा—आधार घेऊ शकते. मात्र, ही गृहीतके स्पष्टपणे मांडली पाहिजेत आणि ती सहज दुरुस्त करता आली पाहिजेत.
आर्टिफिशियल जनरल इंटेलिजन्सचा लाभ संपूर्ण मानवजातीला मिळेल याची खात्री करणे हे आमचे ध्येय आहे. यासाठी एखाद्या व्यक्तीचे केवळ तात्कालिक हेतूच नव्हे, तर तिचे दीर्घकालीन हित आणि इतरांवर होणारे परिणामही विचारात घेणे आवश्यक आहे. उर्वरित चार मूल्ये या बाबी स्पष्ट करतात:
हानी कमीत कमी करणे म्हणजे सुरक्षिततेच्या ठाम मर्यादा पाळणे आणि मॉडेलच्या कृतींच्या पूर्वानुमान करता येणाऱ्या परिणामांचा विचार करणे.
प्रामाणिकपणा आणि पारदर्शकता म्हणजे मॉडेलला काय माहीत आहे, ते काय करते आणि कोणत्या बाबतीत त्याला खात्री नाही याबद्दल सत्य सांगणे, जेणेकरून लोकांना त्याचे रीझनिंग आणि काम समजून घेता येईल व त्यांचे मूल्यमापन करता येईल.
मानवी स्वायत्ततेला चालना देणे म्हणजे स्वतः समजून घेण्याची, निवड करण्याची आणि कृती करण्याची लोकांची क्षमता बळकट करणे.
काळजी म्हणजे ज्यांच्यावर परिणाम होतो त्यांच्या परिस्थितीची दखल घेणे, लागू असलेल्या सामाजिक आणि व्यावसायिक संकेतांचे पालन करणे आणि लोक विसंबून राहू शकतील असे काम करणे.
स्पेक या मूल्यांचे व्यावहारिक मार्गदर्शनात रूपांतर करते. लोकांच्या आणि समाजाच्या संरक्षणासाठी गरज असेल तिथे ते ठाम मर्यादा घालते; इतर बाबतीत हे मार्गदर्शन बहुतांशी वापरकर्ते आणि डेव्हलपर्स बदलू शकतील अशा पूर्वनिर्धारित नियमांच्या स्वरूपात असते.
मॉडेल स्पेक अद्ययावत करण्यासोबतच आम्ही प्रशिक्षणाच्या नव्या पद्धतींचाही शोध घेत आहोत. मॉडेलना ही मूलभूत मूल्ये शिकण्यास आणि स्पेकमधील वर्तनाची विशिष्ट तत्त्वे अधिक चांगल्या प्रकारे समजून घेऊन पाळण्यास मदत करणे, हा यामागचा उद्देश आहे. ही तत्त्वे का महत्त्वाची आहेत आणि नव्या परिस्थितीत ती कशी लागू करावीत याची समज विकसित करणे हे उद्दिष्ट आहे: योग्य गोष्टी योग्य कारणांसाठी करणे. या समजेमुळे दूरगामी परिणाम असलेले निर्णय विवेकाने आणि दैनंदिन निर्णय काळजीपूर्वक घेतले जावेत, अशी आमची इच्छा आहे. असे दैनंदिन निर्णय एकत्रितपणे लोकांना आणि समाजाला दीर्घकाळ लाभ मिळवून देऊ शकतात(नवीन विंडोमध्ये उघडेल). या प्रशिक्षणाच्या कामाचे निष्कर्ष आणि त्यातून शिकलेल्या गोष्टी आम्ही पुढील अद्यतनांमध्ये मांडू.
या पुनर्रचनेमुळे आणखी कुठे मार्गदर्शनाची गरज आहे हे ओळखता आले, त्यासाठी नवी तत्त्वे विकसित करता आली आणि गरजेनुसार विद्यमान मार्गदर्शन सुधारता किंवा काढून टाकता आले.
मानवी हेतूंशी निष्ठा या नव्या विभागाचा आधार असा आहे की लोक कशाला महत्त्व देतात हे सर्वप्रथम विचारात घेतले पाहिजे आणि त्यांच्या सूचना या सहसा त्या मूल्यांचे सर्वांत स्पष्ट व महत्त्वाचे संकेत असतात. हा दृष्टिकोन मानवी मूल्यांशी सुसंगती साधण्यासाठी असिस्टन्स-गेम्सच्या चौकटीतून काही कल्पना घेतो (सुरुवातीचे संशोधन(नवीन विंडोमध्ये उघडेल) आणि नंतरचा आढावा(नवीन विंडोमध्ये उघडेल) पाहा). या विभागात अद्ययावत आदेशांची प्राधान्यक्रम व्यवस्था(नवीन विंडोमध्ये उघडेल) समाविष्ट आहे. कोणत्या सूचना लागू होतात आणि त्यांच्यातील विरोध कसा सोडवला जातो हे ती स्पष्ट करते. संदर्भाचा काळजीपूर्वक विचार करा(नवीन विंडोमध्ये उघडेल) हा नवा उपविभाग, लोकांचे हेतू आणि पसंती समजून घेताना मॉडेलने संभाषणे, आठवणी आणि इतर संदर्भाधारित पुरावे यांचा कसा आधार घ्यावा हे स्पष्ट करतो.
आम्ही मानवी स्वायत्ततेला पाठबळ देणे(नवीन विंडोमध्ये उघडेल) आणि लागू असलेल्या सामाजिक संकेतांचे पालन करणे(नवीन विंडोमध्ये उघडेल) यांबाबतही पूर्वनिर्धारित नियम जोडले आहेत. तसेच, आनुषंगिक परिणाम नियंत्रित करणे आणि त्यांची माहिती देणे(नवीन विंडोमध्ये उघडेल) याबाबतचे विद्यमान मार्गदर्शन विस्तारले आहे. उर्वरित मूल्ये मॉडेलच्या वर्तनात आणखी कोणत्या प्रकारे दिसली पाहिजेत, हे ही तत्त्वे स्पष्ट करतात. यात अनेकदा सूक्ष्म, पण महत्त्वाच्या बाबी येतात: वापरकर्त्याची उद्दिष्टे आणि सूचना यांचा आदर राखत कामाचा इतरांवर होणारा परिणाम विचारात घेणे, वापरकर्त्यांच्या क्षमता बळकट करणे आणि लोक विसंबून राहू शकतील असे काम करणे.
त्याच वेळी, आम्ही स्पेकमधील शैलीविषयक बहुतांश तपशीलवार मार्गदर्शन काढून टाकत आहोत. एकूण लोकांच्या, विविध भाषा व संस्कृतींमधील लोकांच्या आणि प्रत्येक व्यक्तीच्या पसंतीनुसार शैली जुळवून घेतली पाहिजे. या पसंती समजण्यासाठी वापरकर्त्यांचा अभिप्राय आणि संदर्भ यांचा आधार घेतला पाहिजे. स्पेकमध्ये प्रश्नांकडे वस्तुनिष्ठपणे पाहणे(नवीन विंडोमध्ये उघडेल) यांसारखे अधिक ठाम पूर्वनिर्धारित नियम कायम ठेवले आहेत. वापरकर्ते आणि डेव्हलपर्स मॉडेलला विशिष्ट दृष्टिकोन स्वीकारण्यास स्पष्टपणे सांगू शकतात. पण त्यांना काय ऐकायला आवडेल याबद्दलच्या स्वतःच्या अंदाजावरूनच मॉडेलने त्यांची तशी पसंती असल्याचे गृहीत धरू नये.
शेवटी, आमच्या मॉडेलचे उपयोग आणि ती प्रत्यक्ष वापरली जाण्याच्या परिस्थिती अधिकाधिक व्यापक होत असल्यामुळे, स्पेकमध्ये आता आम्ही मॉडेलचा उल्लेख “साहाय्यक” ऐवजी “GPT” असा करतो.
मॉडेल अधिक सक्षम होत असताना स्पेकमागील मूल्ये आणि रीझनिंग अधिक स्पष्ट करण्याच्या दिशेने हे अद्यतन पहिले पाऊल आहे. आम्ही ज्या वर्तनाच्या दिशेने काम करत आहोत, त्याचे वर्णन मॉडेल स्पेकमध्ये आहे; आमच्या मॉडेलच्या वर्तनात ते अद्याप पूर्णपणे प्रतिबिंबित होत नाही. संशोधन, प्रत्यक्ष वापर आणि अभिप्राय यांतून शिकत असताना आम्ही स्पेक आणि मॉडेल या दोन्हींमध्ये सुधारणा करत राहू.
स्पेकमधील कोणते भाग तुम्हाला पटतात, त्यात साधलेल्या समतोलाबद्दल कुठे तुमचे मतभेद आहेत आणि त्यात कशाकडे दुर्लक्ष झाले आहे किंवा काय अस्पष्ट राहिले आहे, हे आम्हाला जाणून घ्यायचे आहे. मूल्ये, परस्परविरोधी बाबींमध्ये साधलेला समतोल आणि नेमकी शब्दयोजना यांवरील अभिप्राय आम्हाला त्यात सुधारणा करण्यास मदत करू शकतो. तुम्ही अद्ययावत मॉडेल स्पेक(नवीन विंडोमध्ये उघडेल) वाचावे आणि तुमचा दृष्टिकोन मांडावा(नवीन विंडोमध्ये उघडेल), असे आम्ही आवाहन करतो.
