हम ChatGPT उपभोक्ता योजनाओं पर उम्र अनुमान सुविधा शुरू कर रहे हैं ताकि यह पता लगाया जा सके कि कोई खाता संभवतः 18 वर्ष से कम उम्र के व्यक्ति का है या नहीं, जिससे किशोरों के लिए सही अनुभव और सुरक्षा उपाय लागू किए जा सकें. जैसा कि हमने अपने टीन सेफ़्टी ब्लूप्रिंट और मॉडल व्यवहार के लिए अंडर-18 सिद्धांत में बताया है, युवा लोग ऐसी तकनीक के हकदार हैं जो अवसरों का विस्तार करे और उनकी भलाई की रक्षा करे.
उम्र का अनुमान पहले से मौजूद सुरक्षा उपायों पर आधारित है। जो किशोर हमें साइन अप करते समय बताते हैं कि वे 18 वर्ष से कम उम्र के हैं, उन्हें संवेदनशील या संभावित रूप से हानिकारक सामग्री के संपर्क को कम करने के लिए स्वचालित रूप से अतिरिक्त सुरक्षा उपाय प्राप्त होते हैं। यह हमें वयस्कों के साथ वयस्कों जैसा व्यवहार करने और हमारे उपकरणों का उपयोग उनकी इच्छानुसार, सुरक्षा की सीमाओं के भीतर करने में सक्षम बनाता है।
हमने पहले उम्र का अनुमान लगाने के लिए अपनी शुरुआती योजनाएँ साझा की थीं, और आज हम अधिक जानकारी साझा कर रहे हैं क्योंकि रोलआउट जारी है।
ChatGPT एक उम्र अनुमान मॉडल का उपयोग करता है ताकि यह अनुमान लगाया जा सके कि कोई खाता संभवतः 18 वर्ष से कम उम्र के व्यक्ति का है. मॉडल व्यवहार और खाता-स्तरीय संकेतों के संयोजन का विश्लेषण करता है, जैसे कि खाता कितने समय से है, दिन के कौन से समय पर कोई सक्रिय होता है, समय के साथ उपयोग के पैटर्न, और उपयोगकर्ता की बताई गई उम्र. उम्र का अनुमान लगाने से हमें यह जानने में मदद मिलती है कि कौन-से संकेत सटीकता में सुधार करते हैं, और हम उन जानकारियों का उपयोग समय के साथ मॉडल को लगातार सुधारने के लिए करते हैं.
जो यूज़र्स गलती से अंडर-18 एक्सपीरियंस में डाल दिए गए हैं, उनके पास Persona, जो एक सुरक्षित आइडेंटिटी-वेरिफिकेशन सर्विस है, के ज़रिए सेल्फ़ी लेकर अपनी उम्र कन्फर्म करने और अपना पूरा एक्सेस वापस पाने का हमेशा एक तेज़ और आसान तरीका होगा. यूजर्स यह चेक कर सकते हैं कि उनके अकाउंट में सेफगार्ड्स जोड़े गए हैं या नहीं, और किसी भी समय सेटिंग्स > अकाउंट पर जाकर यह प्रोसेस शुरू कर सकते हैं.
जब उम्र अनुमान मॉडल यह अनुमान लगाता है कि कोई खाता 18 वर्ष से कम उम्र के व्यक्ति का हो सकता है, तो ChatGPT स्वचालित रूप से अतिरिक्त सुरक्षा लागू करता है, जो संवेदनशील सामग्री के संपर्क को कम करने के लिए डिज़ाइन की गई है, जैसे:
- ग्राफिक हिंसा या वीभत्स सामग्री
- वायरल चुनौतियाँ जो नाबालिगों में जोखिम भरा या हानिकारक व्यवहार प्रोत्साहित कर सकती हैं
- यौन, रोमांटिक, या हिंसक रोल निभाना
- आत्म-क्षति के चित्रण
- ऐसा कंटेंट जो अत्यधिक सौंदर्य मानकों, अस्वास्थ्यकर आहार, या शरीर को शर्मिंदा करने को बढ़ावा देता है
यह दृष्टिकोण विशेषज्ञों के इनपुट से निर्देशित है और बाल विकास के विज्ञान पर आधारित अकादमिक साहित्य में निहित है, और यह जोखिम की धारणा, आवेग नियंत्रण, साथियों के प्रभाव, और भावनात्मक नियमन में किशोरों के ज्ञात अंतर को स्वीकार करता है। हालांकि ये सामग्री प्रतिबंध किशोरों के संवेदनशील सामग्री के संपर्क को कम करने में मदद करते हैं, हम इन सुरक्षा उपायों को लगातार सुधारने पर ध्यान केंद्रित कर रहे हैं, विशेष रूप से हमारे सुरक्षा उपायों को दरकिनार करने के प्रयासों से निपटने के लिए। जब हमें किसी की उम्र के बारे में यकीन नहीं होता या हमारे पास पूरी जानकारी नहीं होती, तो हम स्वाभाविक रूप से एक अधिक सुरक्षित अनुभव का चयन करते हैं।
इन सुरक्षा उपायों के अलावा, माता-पिता पेरेंटल कंट्रोल(एक नई विंडो में खुलेगा) के माध्यम से अपने किशोर के अनुभव को और अधिक अनुकूलित कर सकते हैं, जिसमें ChatGPT का उपयोग न किए जा सकने वाले शांत समय निर्धारित करना, मेमोरी या मॉडल प्रशिक्षण जैसी सुविधाओं को नियंत्रित करना, और यदि तीव्र संकट के संकेत मिलते हैं तो सूचनाएं प्राप्त करना शामिल है।
हम शुरुआती रोलआउट से सीख रहे हैं और समय के साथ उम्र का अनुमान लगाने की सटीकता में सुधार करते रहेंगे। हम रोलआउट को बारीकी से ट्रैक करेंगे और उन संकेतों का उपयोग करते हुए निरंतर सुधारों का मार्गदर्शन करेंगे।
EU में, क्षेत्रीय ज़रूरतों को ध्यान में रखते हुए आने वाले हफ़्तों में एज प्रेडिक्शन शुरू किया जाएगा. और अधिक जानकारी के लिए हमारे सहायता पृष्ठ(एक नई विंडो में खुलेगा) पर जाएं.
हालांकि यह एक महत्वपूर्ण मील का पत्थर है, किशोरों की सुरक्षा का समर्थन करने के लिए हमारा काम लगातार जारी है। हम अपनी प्रगति और जो हम सीख रहे हैं, उस पर अपडेट साझा करना जारी रखेंगे, अमेरिकन साइकोलॉजिकल एसोसिएशन, ConnectSafely, और ग्लोबल फिजिशियन नेटवर्क सहित विशेषज्ञों के साथ संवाद में।
