ज़्यादा सक्षम और फ़ायदेमंद AI के लिए अपडेट किया गया मॉडल स्पेक
जैसे-जैसे हमारे मॉडल्स ज़्यादा स्मार्ट हो रहे हैं और ऐसे काम कर रहे हैं जिनका बड़ा असर पड़ सकता है, उनके लिए सिर्फ़ मिले हुए निर्देशों को समझना काफ़ी नहीं है. मॉडल्स को लोगों के इरादे और उनकी वैल्यूज़ भी समझनी चाहिए. इससे वे उन हालात में भी सोच-समझकर फ़ैसले ले सकेंगे, जिनके बारे में निर्देशों में साफ़ तौर पर कुछ नहीं बताया गया है. साथ ही, वे लोगों के इरादों के मुताबिक और उनकी देखरेख में काम करते रहेंगे.
आज हम मॉडल स्पेक(एक नई विंडो में खुलेगा) को अपडेट कर रहे हैं. यह एक पब्लिक डॉक्यूमेंट है, जिसमें बताया गया है कि हम अपने मॉडल्स से किस तरह के व्यवहार की उम्मीद करते हैं. इस अपडेट में गाइडलाइन्स को पाँच अहम वैल्यूज़ के आधार पर नए तरीके से ऑर्गेनाइज़ किया गया है: लोगों के इरादों के मुताबिक काम करना, नुकसान कम करना, ईमानदारी और पारदर्शिता, लोगों को अपने फ़ैसले लेने की आज़ादी देना और दूसरों की ज़रूरतों का ध्यान रखना. यह वैल्यू अलाइनमेंट पर हमारे काम के एक अहम लक्ष्य को दिखाता है: मॉडल्स अनजान हालात में भी लोगों की वैल्यूज़ को समझकर उनके मुताबिक काम करें और उनके इरादों का ध्यान रखें. इस अपडेट में मौजूदा सिद्धांतों को ज़्यादा साफ़ तरीके से समझाया गया है. साथ ही, कॉन्टेक्स्ट, लोगों की देखरेख और अपने फ़ैसले लेने की क्षमता से जुड़ी नई गाइडलाइन्स जोड़ी गई हैं. मॉडल्स के कुछ डिफ़ॉल्ट व्यवहार बदले गए हैं और स्टाइल से जुड़ी कई डिटेल्ड गाइडलाइन्स हटा दी गई हैं.
ऊपर बताई गई पाँच वैल्यूज़ उन बड़े कमिटमेंट्स को साफ़ करती हैं, जो पहले से ही मॉडल स्पेक के अलग-अलग हिस्सों में मौजूद हैं. इनमें लोगों के काम आना, सच बोलना, नुकसान कम करना, लोगों को अपनी राय बनाने की आज़ादी देना और उनके हालात को गंभीरता से लेना शामिल है. इन कमिटमेंट्स को एक साथ रखने से यह समझना आसान होता है कि स्पेक मॉडल्स से किसी खास तरह के व्यवहार की उम्मीद क्यों करता है. इससे उन मामलों के लिए भी ज़्यादा साफ़ गाइडलाइन्स बनाने में मदद मिलती है, जहाँ इन कमिटमेंट्स को पहले पूरी तरह नहीं समझाया गया था. यह अपडेट स्पेक को बेहतर बनाने की हमारी लगातार कोशिशों का एक और कदम है. इसके लिए हम रिसर्च, मॉडल्स डिप्लॉय करने से मिले अनुभव, मॉडल स्पेक और मॉडल्स के व्यवहार पर लोगों के फ़ीडबैक और यूज़र्स व बाहरी एक्सपर्ट्स के साथ बातचीत से सीख रहे हैं.
हम चाहते हैं कि AI दुनिया भर के ऐसे लोगों के काम आए, जिनकी ज़रूरतें, वैल्यूज़ और भविष्य से उम्मीदें अलग-अलग हैं.
इस तरीके की सबसे अहम बात है लोगों के इरादों के मुताबिक काम करना: इसका मतलब है यह समझना कि लोगों के लिए क्या मायने रखता है और उनके लक्ष्यों को पूरा करने में मदद करना. OpenAI स्पेक को लिखता है, सीमाएँ तय करता है और मॉडल्स को उन सीमाओं के मुताबिक काम करने के लिए ट्रेन करता है; डेवलपर्स इन सीमाओं के अंदर ऐप्लिकेशन्स के काम करने का तरीका तय करते हैं; वहीं, यूज़र्स इन नियमों के दायरे में मॉडल्स को बताते हैं कि उन्हें क्या करना है. हमारे मॉडल्स को लोगों की इस क्षमता को बढ़ाना चाहिए कि वे अपनी ज़िंदगी को अपने हिसाब से बेहतर बना सकें. इसके लिए मॉडल्स उन्हें दुनिया समझने, नई संभावनाएँ खोजने और अपने चुने हुए लक्ष्यों को पूरा करने में मदद कर सकते हैं. साथ ही, उन्हें इस बात का भी ध्यान रखना चाहिए कि इस मदद का दूसरों पर क्या असर पड़ सकता है. लोगों के इरादों के मुताबिक काम करने और बाकी चार वैल्यूज़ के आधार पर स्पेक को ऑर्गेनाइज़ किया गया है. ये वैल्यूज़ मॉडल्स को ऐसे मुश्किल फ़ैसले लेने में गाइड करती हैं, जहाँ अलग-अलग बातों के बीच बैलेंस बनाना ज़रूरी होता है. हालाँकि, ये उन सभी मानवीय वैल्यूज़ की पूरी लिस्ट नहीं हैं, जिनका मॉडल्स को ध्यान रखना चाहिए और जिन्हें आगे बढ़ाने में लोगों की मदद करनी चाहिए.
लोगों के इरादों के मुताबिक काम करने का मतलब सिर्फ़ निर्देशों को ज्यों का त्यों फ़ॉलो करना नहीं है. मॉडल्स को गहराई से समझना चाहिए कि OpenAI, डेवलपर्स और यूज़र्स क्या चाहते हैं और उनके लिए क्या अहम है. अगर उन्हें पूरी बात समझ न आए, तब भी उन्हें सोच-समझकर काम करना चाहिए. इसका मतलब यह भी समझना है कि समय के साथ लोगों की सोच और वैल्यूज़ बदल सकती हैं. मॉडल्स को लोगों को अपने विचारों पर दोबारा सोचने और आगे बढ़ने में इस तरह मदद करनी चाहिए, जिसे वे खुद सही मानें. उन्हें चुपचाप किसी खास दिशा में नहीं ले जाना चाहिए या उनके फ़ैसले नहीं बदलने चाहिए. उदाहरण के लिए, अगर कोई व्यक्ति अलग-अलग जॉब ऑफ़र्स की तुलना कर रहा है, तो मॉडल उसकी पहले बताई गई प्रायोरिटीज़, जैसे काम के तय घंटे, को ध्यान में रख सकता है. लेकिन उसे अपनी इन मान्यताओं को साफ़ बताना चाहिए, ताकि ज़रूरत पड़ने पर व्यक्ति उन्हें आसानी से बदल सके.
हमारा मिशन यह पक्का करना है कि आर्टिफ़िशियल जेनरल इंटेलिजेंस से पूरी मानवता को फ़ायदा मिले. इसके लिए सिर्फ़ यह समझना काफ़ी नहीं है कि कोई व्यक्ति अभी क्या चाहता है. उसके लंबे समय के हितों और दूसरों पर पड़ने वाले असर का भी ध्यान रखना ज़रूरी है. बाकी चार वैल्यूज़ इन बातों को और साफ़ करती हैं:
नुकसान कम करने का मतलब है सुरक्षा से जुड़ी सख्त सीमाओं का ध्यान रखना और मॉडल के ऐक्शन्स से पड़ने वाले संभावित असर को समझना.
ईमानदारी और पारदर्शिता का मतलब है साफ़-साफ़ बताना कि मॉडल क्या जानता है, क्या करता है और किन बातों को लेकर उसे पूरी जानकारी नहीं है. इससे लोग उसकी रीज़निंग और काम को समझ सकते हैं और उनकी जाँच कर सकते हैं.
लोगों को अपने फ़ैसले लेने की आज़ादी देने का मतलब है उनकी समझने, अपने ऑप्शन्स चुनने और खुद कदम उठाने की क्षमता को बढ़ाना.
दूसरों की ज़रूरतों का ध्यान रखने का मतलब है उन लोगों के हालात को समझना, जिन पर मॉडल के काम का असर पड़ता है. साथ ही, सामाजिक और प्रोफ़ेशनल तौर-तरीकों का ध्यान रखना और ऐसा काम करना, जिस पर लोग भरोसा कर सकें.
स्पेक इन वैल्यूज़ को काम में आने वाली गाइडलाइन्स में बदलता है. जहाँ लोगों और समाज की सुरक्षा के लिए ज़रूरी है, वहाँ सख्त सीमाएँ तय की गई हैं. बाकी ज़्यादातर गाइडलाइन्स डिफ़ॉल्ट सेटिंग्स के तौर पर हैं, जिन्हें यूज़र्स और डेवलपर्स बदल सकते हैं.
मॉडल स्पेक के इस अपडेट के साथ हम ट्रेनिंग के नए तरीकों पर भी काम कर रहे हैं, ताकि हमारे मॉडल्स इन अहम वैल्यूज़ को सीख सकें और स्पेक में दिए गए व्यवहार से जुड़े नियमों को बेहतर तरीके से समझकर फ़ॉलो कर सकें. हमारा मकसद है कि मॉडल्स समझें कि ये नियम क्यों ज़रूरी हैं और नए हालात में इन्हें कैसे लागू करना है. यानी वे सही वजहों से सही काम करें. हम चाहते हैं कि यह समझ मॉडल्स को बड़े असर वाले फ़ैसले सोच-समझकर लेने और रोज़मर्रा के छोटे फ़ैसलों में भी सावधानी बरतने में मदद करे. ऐसे छोटे फ़ैसले मिलकर लंबे समय में लोगों और समाज को फ़ायदा(एक नई विंडो में खुलेगा) पहुँचा सकते हैं. इस ट्रेनिंग से मिले नतीजे और सीख हम आने वाले अपडेट्स में शेयर करेंगे.
इस बदलाव से हमें यह समझने में भी मदद मिली कि कहाँ और गाइडलाइन्स की ज़रूरत है. इसके लिए हमने नए नियम बनाए और ज़रूरत के हिसाब से मौजूदा गाइडलाइन्स को अपडेट किया या हटा दिया.
लोगों के इरादों के मुताबिक काम करने से जुड़ा नया सेक्शन इस सोच पर आधारित है कि लोगों के लिए जो अहम है, उसे सबसे ज़्यादा महत्व दिया जाना चाहिए. आम तौर पर उनके निर्देश ही उनकी वैल्यूज़ को समझने का सबसे साफ़ और अहम ज़रिया होते हैं. यह तरीका अलाइनमेंट के असिस्टेंस गेम्स फ़्रेमवर्क से प्रेरित है (शुरुआती रिसर्च(एक नई विंडो में खुलेगा) और बाद में दिया गया ओवरव्यू(एक नई विंडो में खुलेगा) देखें). इस सेक्शन में अपडेटेड चेन ऑफ़ कमांड(एक नई विंडो में खुलेगा) भी शामिल है, जो बताती है कि कौन-से निर्देश लागू होते हैं और निर्देशों में टकराव होने पर उसे कैसे सुलझाया जाता है. इसमें "कॉन्टेक्स्ट को ध्यान से समझें(एक नई विंडो में खुलेगा)" नाम का नया सब-सेक्शन भी है. यह बताता है कि बातचीत, मेमोरी और कॉन्टेक्स्ट से जुड़ी दूसरी जानकारी की मदद से मॉडल्स लोगों के इरादों और पसंद को कैसे बेहतर समझ सकते हैं.
हमने लोगों को अपने फ़ैसले लेने में मदद करने(एक नई विंडो में खुलेगा) के साथ-साथ सामाजिक तौर-तरीकों को फ़ॉलो करने(एक नई विंडो में खुलेगा) से जुड़ी नई डिफ़ॉल्ट गाइडलाइन्स भी जोड़ी हैं. साथ ही, मॉडल के काम से होने वाले दूसरे असर को सीमित करने और उसकी जानकारी देने से जुड़ी(एक नई विंडो में खुलेगा) मौजूदा गाइडलाइन्स को और अच्छे से समझाया है. ये नियम बताते हैं कि बाकी वैल्यूज़ मॉडल के व्यवहार में और किन तरीकों से दिखनी चाहिए. ये तरीके अक्सर छोटे लग सकते हैं, लेकिन अहम होते हैं. जैसे, मॉडल के काम का दूसरों पर पड़ने वाला असर ध्यान में रखना, यूज़र्स की क्षमताएँ बढ़ाना और ऐसा काम करना जिस पर लोग भरोसा कर सकें. यह सब यूज़र के लक्ष्यों और निर्देशों का ध्यान रखते हुए किया जाना चाहिए.
इसके साथ ही, हम स्पेक से स्टाइल से जुड़ी ज़्यादातर डिटेल्ड गाइडलाइन्स हटा रहे हैं. मॉडल के जवाब देने का स्टाइल लोगों की पसंद के हिसाब से बदलना चाहिए. इसमें आम तौर पर लोगों की पसंद, अलग-अलग भाषाओं और संस्कृतियों की पसंद और हर व्यक्ति की अपनी पसंद शामिल है. यूज़र के फ़ीडबैक और कॉन्टेक्स्ट से इन पसंदों को समझने में मदद मिलती है. हालाँकि, स्पेक में कुछ अहम डिफ़ॉल्ट नियम बने रहेंगे, जैसे सवालों को बिना किसी पक्षपात के देखना(एक नई विंडो में खुलेगा). यूज़र्स और डेवलपर्स मॉडल से किसी खास नज़रिए से जवाब देने के लिए साफ़ तौर पर कह सकते हैं. लेकिन मॉडल को सिर्फ़ यह सोचकर उनकी पसंद का अंदाज़ा नहीं लगाना चाहिए कि वे क्या सुनना चाहते हैं.
आखिर में, हमारे मॉडल्स का इस्तेमाल अब ज़्यादा तरह के कामों और अलग-अलग सेटिंग्स में हो रहा है. इसी को ध्यान में रखते हुए अब स्पेक में मॉडल को "द असिस्टेंट" के बजाय "GPT" कहा गया है.
जैसे-जैसे मॉडल्स ज़्यादा सक्षम हो रहे हैं, उनके लिए तय की गई वैल्यूज़ और स्पेक के पीछे की वजहों को ज़्यादा साफ़ तरीके से समझाने की दिशा में यह अपडेट पहला कदम है. मॉडल स्पेक बताता है कि हम मॉडल्स में किस तरह का व्यवहार लाना चाहते हैं. फ़िलहाल हमारे मॉडल्स पूरी तरह उस स्तर पर नहीं पहुँचे हैं. हम रिसर्च, असल दुनिया में मॉडल्स के इस्तेमाल और फ़ीडबैक से सीखते हुए स्पेक और मॉडल्स, दोनों को बेहतर बनाते रहेंगे.
हम जानना चाहते हैं कि स्पेक की कौन-सी बातें आपको सबसे अच्छी लगीं, कहाँ आपको लगता है कि अलग-अलग ज़रूरतों के बीच सही संतुलन नहीं बनाया गया है और कौन-सी बातें छूट गई हैं या साफ़ नहीं हैं. वैल्यूज़, अलग-अलग बातों के बीच संतुलन और इस्तेमाल की गई भाषा पर आपका फ़ीडबैक इसे बेहतर बनाने में मदद कर सकता है. हम आपको अपडेट किया गया मॉडल स्पेक(एक नई विंडो में खुलेगा) पढ़ने और अपनी राय साझा करने के लिए(एक नई विंडो में खुलेगा) इनवाइट करते हैं.
