हमारे मॉडल स्पेक को किशोर सुरक्षा के साथ अपडेट करना

हम अपने मॉडल स्पेक, जो नियमों, मूल्यों और व्यवहारिक अपेक्षाओं का लिखित सेट है और जो कठिन या उच्च दांव वाली स्थितियों में हमारे AI मॉडल के व्यवहार को निर्देशित करता है, में एक अपडेट शेयर कर रहे हैं, जिसमें नए Under-18 (U18) सिद्धांत⁠(एक नई विंडो में खुलेगा) शामिल हैं। मॉडल व्यवहार इस बात के लिए महत्वपूर्ण है कि लोग AI के साथ कैसे बातचीत करते हैं, और किशोरों की विकासात्मक आवश्यकताएँ वयस्कों से भिन्न होती हैं।

U18 सिद्धांत यह बताते हैं कि ChatGPT को 13 से 17 साल के किशोरों के लिए एक सुरक्षित और उम्र के अनुसार अनुभव कैसे देना चाहिए। विकासात्मक विज्ञान पर आधारित, यह दृष्टिकोण रोकथाम, पारदर्शिता और प्रारंभिक हस्तक्षेप को प्राथमिकता देता है। इन सिद्धांतों को विकसित करते समय, हमने अपनी अप्रोच को मज़बूत करने के लिए इनपुट प्राप्त करने के अपने चल रहे प्रयास के हिस्से के रूप में, अमेरिकन साइकोलॉजिकल एसोसिएशन सहित बाहरी विशेषज्ञों के साथ इनका प्रीव्यू किया।

हालांकि मॉडल स्पेक के सिद्धांत वयस्क और किशोर यूज़र दोनों पर लागू होते रहते हैं, यह अपडेट स्पष्ट करता है कि ये सिद्धांत किशोरों के कॉन्टेक्स्ट में कैसे लागू होते हैं, विशेष रूप से जहां नाबालिगों के लिए सुरक्षा संबंधी विचार अधिक महत्वपूर्ण हो सकते हैं। 

U18 सिद्धांत चार मार्गदर्शक प्रतिबद्धताओं पर आधारित हैं:

• किशोरों की सुरक्षा को प्राथमिकता दो, भले ही यह अन्य लक्ष्यों के साथ टकरा जाए
• वास्तविक दुनिया के सपोर्ट को बढ़ावा दो ऑफलाइन संबंधों और भरोसेमंद संसाधनों को प्रोत्साहित करके
• किशोरों को किशोरों की तरह ही समझो, न तो उन्हें नीचा दिखाओ और न ही उन्हें वयस्कों की तरह समझो
• स्पष्ट रहें और स्पष्ट अपेक्षाएँ निर्धारित करो

हमारे टीन सेफ़्टी ब्लूप्रिंट⁠ के अनुरूप, इन सिद्धांतों ने अब तक हमारे टीन सुरक्षा कार्य को निर्देशित किया है, जिसमें उन यूज़र के लिए सामग्री सुरक्षा शामिल है जो हमें साइन अप करते समय बताते हैं कि वे 18 वर्ष से कम उम्र के हैं, और पेरेंटल कंट्रोल के माध्यम से भी। इन कॉन्टेक्स्ट में, हमने मॉडल को उच्च-जोखिम वाले क्षेत्रों जैसे आत्म-हानि और आत्महत्या, रोमांटिक या यौनिक भूमिका निभाने, ग्राफिक या स्पष्ट सामग्री, खतरनाक गतिविधियों और पदार्थों, शरीर की इमेज और विकृत खाने की आदतों, और असुरक्षित व्यवहार के बारे में रहस्य रखने के अनुरोधों पर चर्चा करते समय अतिरिक्त सावधानी बरतने के लिए मार्गदर्शन करने के लिए सुरक्षा उपाय लागू किए हैं।

अमेरिकन साइकोलॉजिकल एसोसिएशन, जिसने U18 मॉडल स्पेक के प्रारंभिक ड्राफ़्ट का रिव्यु किया और दीर्घकालिक के लिए महत्वपूर्ण अंतर्दृष्टियाँ प्रदान कीं, किशोरों की सुरक्षा के महत्व को लेकर स्पष्ट है:

यह अपडेट यह भी स्पष्ट करता है कि जब किशोरों के लिए सुरक्षा संबंधी चिंताएँ उत्पन्न होती हैं, तो सहायक को कैसे प्रतिक्रिया देनी चाहिए। इसका मतलब है कि किशोरों को मज़बूत सुरक्षा उपाय, सुरक्षित विकल्प और जब बातचीत उच्च-जोखिम वाले क्षेत्र में जाती है, तो विश्वसनीय ऑफलाइन सपोर्ट की तलाश करने के लिए प्रोत्साहन मिलना चाहिए। जहां आसन्न खतरा हो, वहां किशोरों को इमरजेंसी सेवाओं या संकट संसाधनों से संपर्क करने के लिए कहा जाता है।

बाकी मॉडल स्पेक की तरह, U18 सिद्धांत हमारे इच्छित मॉडल व्यवहार को प्रतिबिंबित करते हैं। हम नए शोध, विशेषज्ञ इनपुट और वास्तविक दुनिया के उपयोग को शामिल करते हुए उन्हें और बेहतर बनाते हुए आगे बढ़ेंगे।

मॉडल स्पेक को अपडेट करने के साथ-साथ, हमने ChatGPT में किशोरों की सुरक्षा को मज़बूत करने⁠ के लिए एक बहु-स्तरीय दृष्टिकोण अपनाया है, जिसमें उत्पाद सुरक्षा उपाय, पारिवारिक सपोर्ट, और विशेषज्ञ मार्गदर्शन शामिल हैं।

जब से हमने पेरेंटल कंट्रोल⁠(एक नई विंडो में खुलेगा) को लागू किया है, हमने ग्रुप चैट्स, ChatGPT Atlas ब्राउज़र, और Sora ऐप सहित नए उत्पादों में सुरक्षा का विस्तार किया है। ये अपडेट्स माता-पिता को उनके किशोरों के ChatGPT अनुभव को कस्टमाइज़ करने में मदद करते हैं, क्योंकि हम नए उत्पाद और फीचर्स पेश कर रहे हैं।

विशेषज्ञों के मार्गदर्शन के अनुसार, हम माता-पिता और किशोरों के बीच उनके परिवार में स्वस्थ और जिम्मेदार AI उपयोग के बारे में निरंतर बातचीतरिव्यु को प्रोत्साहित करते हैं। इन बातचीतों का सपोर्ट करने के लिए, हमने पेरेंट्स रिसोर्स हब⁠(एक नई विंडो में खुलेगा) में नए विशेषज्ञ-सत्यापित संसाधन जोड़े हैं, जिनमें टीनएजर्स को AI का जिम्मेदारी से उपयोग करने में मदद करने के लिए फैमिली गाइड⁠(एक नई विंडो में खुलेगा) और माता-पिता के लिए सुझाव⁠(एक नई विंडो में खुलेगा) शामिल हैं कि वे अपने बच्चों से AI के बारे में कैसे बात करें, जिन्हें ConnectSafely और हमारे कल्याण और AI पर विशेषज्ञ परिषद⁠ के मेंबर द्वारा रिव्यु किया गया है। हम समय के साथ और संसाधन आगे जोड़ते रहेंगे। हम प्रोडक्ट में सीधे स्वस्थ उपयोग का सपोर्ट करते हैं, जिसमें लंबे सेशनों के दौरान इन-बिल्ट ब्रेक रिमाइंडर्स⁠ होते हैं, ताकि ChatGPT के साथ बिताया गया समय उद्देश्यपूर्ण और संतुलित बना रहे।

हमारा किशोर सुरक्षा में कार्य विशेषज्ञों के साथ निकट सहयोग द्वारा निर्देशित है। अक्टूबर में, हमने कल्याण और AI पर विशेषज्ञ परिषद⁠ की स्थापना की ताकि सभी उम्र के लोगों के लिए AI के साथ स्वस्थ बातचीत कैसी होनी चाहिए, इस पर सलाह देने और परिभाषित करने में मदद मिल सके। उस कार्य ने पेरेंटल कंट्रोल और पेरेंट नोटिफिकेशन्स के लिए मार्गदर्शन को प्रभावित किया है। हम अपने ग्लोबल फिजिशियन नेटवर्क⁠ के माध्यम से क्लिनिकल विशेषज्ञता को भी शामिल करते हैं ताकि सुरक्षा अनुसंधान को सूचित किया जा सके और मॉडल के व्यवहार का मूल्यांकन किया जा सके, जिसमें यह सुधार भी शामिल है कि ChatGPT संकट को कैसे पहचानता है और जब उपयुक्त हो तो लोगों को पेशेवर देखभाल की ओर कैसे मार्गदर्शन करता है। हमने इन नींवों पर GPT‑5.2⁠ के साथ निर्माण किया है, और ThroughLine⁠(एक नई विंडो में खुलेगा) के साथ अपनी साझेदारी के माध्यम से ChatGPT और Sora में स्थानीयकृत हेल्पलाइनों को प्रदर्शित करके वास्तविक दुनिया के सपोर्ट तक एक्सेस का विस्तार किया है।

हम ChatGPT प्लॉन पर उम्र अनुमान मॉडल⁠(एक नई विंडो में खुलेगा) को प्रारंभिक चरण में लागू कर रहे हैं। यह हमें स्वचालित रूप से किशोर सुरक्षा उपाय लागू करने में मदद करेगा जब हमें विश्वास होगा कि कोई अकाउंट नाबालिग का है। यदि हमें किसी की उम्र के बारे में विश्वास नहीं है या हमारे पास जानकारी अधूरी है, तो हम U18 अनुभव को डिफ़ॉल्ट रूप से लागू करेंगे और वयस्कों को अपनी उम्र वेरिफ़ाई करने के तरीके प्रदान करेंगे।

किशोरों की सुरक्षा को मज़बूत करना एक सतत कार्य है और हम पेरेंटल कंट्रोल और मॉडल क्षमताओं में सुधार करना जारी रखेंगे, माता-पिता के लिए संसाधनों का विस्तार करेंगे, और वेल-बीइंग काउंसिल और ग्लोबल फिजिशियन नेटवर्क सहित संगठनों, शोधकर्ताओं और विशेषज्ञ भागीदारों के साथ काम करेंगे। 

हम किशोरों की सुरक्षा को मज़बूत बनाने और समय के साथ उन्हें बेहतर करने के लिए प्रतिबद्ध हैं ताकि किशोरों और परिवारों को बेहतर सपोर्ट मिल सके।