पेश है पैरेंटल कंट्रोल्स

30 सितंबर, 2025 को अपडेट: हमने पैरेंटल कंट्रोल्स के साथ Sora ऐप लॉन्च किया है. माता-पिता ChatGPT में कनेक्ट किए हुए अपने 13 से 19 साल के बीच की उम्र वाले बच्चे के अकाउंट के लिए Sora सेटिंग्स को एडजस्ट कर सकते हैं, जिसमें नॉन-पर्सनलाइज़्ड फ़ीड का ऑप्शन चुनना, ये चुनना कि क्या उनका 13 से 19 साल के बीच की उम्र वाला बच्चा डायरेक्ट मेसेज भेज और प्राप्त कर सकता है, और ये कंट्रोल करने की क्षमता है कि स्क्रॉल करते समय कंटेंट की बिना रुकावट वाली फ़ीड है या नहीं. Sora 2 ब्लॉग⁠ में और ज़्यादा जानें.

हम फ़ैमिलीज़ को ये गाइड करने में मदद करने के लिए पैरेंटल कंट्रोल्स और एक नया पैरेंट रीसोर्स पेज⁠(एक नई विंडो में खुलेगा) शुरू कर रहे हैं कि ChatGPT उनके घरों में कैसे काम करता है. आज से सभी ChatGPT यूज़र्स के लिए उपलब्ध, पैरेंटल कंट्रोल्स माता-पिता को अपने अकाउंट को अपने 13 से 19 साल के बीच की उम्र वाले बच्चे के अकाउंट से जोड़ने और सुरक्षित, उम्र के हिसाब से सही अनुभव के लिए सेटिंग्स को कस्टमाइज़ करने में मदद करता है.

ये काम ChatGPT को सभी के लिए मददगार बनाने⁠, और फ़ैमिलीज़ को अपने 13 से 19 साल के बीच की उम्र वाले बच्चों के AI के इस्तेमाल को सपोर्ट करने के लिए टूल्स देने के हमारी लगातार कोशिश का हिस्सा है. हमने पहले शेयर किया था कि हम एक लॉन्ग टर्म उम्र का पहले से अंदाज़ा लगाने वाला सिस्टम⁠ बना रहे हैं जो हमें ये अंदाज़ा लगाने में मदद करेगा कि कोई यूज़र 18 साल से कम उम्र का है या नहीं, ताकि ChatGPT अपने आप 13 से 19 साल के बीच की उम्र वाले बच्चों के लिए उम्र के हिसाब से सही सेटिंग्स लागू कर सके. माता-पिता को ChatGPT के साथ अपने 13 से 19 साल के बीच की उम्र वाले बच्चों के अनुभव को कंट्रोल करने की क्षमता देने में पैरेंटल कंट्रोल्स एक अहम कदम है.

हमने अपनी अप्रोच को सूचित करने में मदद करने के लिए एक्सपर्ट्स, Common Sense Media सहित, वकालत समूहों और कैलिफ़ोर्निया और डेलावेयर के अटॉर्नी जनरल सहित पॉलिसीमेकर्स के साथ मिलकर काम किया है, और समय के साथ इन कंट्रोल्स को और बेहतर व एक्स्पैंड करने की उम्मीद करते हैं.

"ये पैरेंटल कंट्रोल्स, पैरेंट्स के लिए अपने 13 से 19 साल के बीच की उम्र वाले बच्चों द्वारा ChatGPT के इस्तेमाल को मैनेज करने के लिए एक अच्छी शुरुआत है. जब 13 से 19 साल के बीच की उम्र वाले बच्चों को ऑनलाइन सुरक्षित रखने की बात आती है, तो पैरेंटल कंट्रोल्स पहेली का केवल एक हिस्सा है—वे सबसे अच्छा तब काम करते हैं जब उन्हें ज़िम्मेदार AI इस्तेमाल, तकनीक के बारे में क्लियर पारिवारिक नियमों और उनके 13 से 19 साल के बीच की उम्र वाले बच्चों द्वारा ऑनलाइन क्या किया जा रहा है, ये समझने में एक्टिव भागीदारी के बारे में लगातार बातचीत के साथ जोड़ा जाता है." —Robbie Torney, सीनियर डायरेक्टर, AI Programs, Common Sense Media

पैरेंटल कंट्रोल्स सेट अप करने के लिए, माता-पिता या गार्डियन अपने 13 से 19 साल के बीच की उम्र वाले बच्चे को अकाउंट कनेक्ट करने के लिए इन्वाईट भेजते हैं. 13 से 19 साल के बीच की उम्र वाले बच्चे द्वारा मंज़ूर किए जाने के बाद, पैरेंट अपने अकाउंट से अपने 13 से 19 साल के बीच की उम्र वाले बच्चे की सेटिंग्स को मैनेज कर सकते हैं. 13 से 19 साल के बीच की उम्र वाले बच्चे अपने माता-पिता को भी कनेक्ट करने के लिए इन्वाईट कर सकते हैं.

एक बार लिंक हो जाने पर, माता-पिता अकाउंट की सेटिंग्स में एक सिंपल कंट्रोल पेज में ChatGPT में अपने 13 से 19 साल के बीच की उम्र वाले बच्चे के अनुभव को कस्टमाइज़ कर सकते हैं. अगर कोई 13 से 19 साल के बीच की उम्र वाला बच्चा अपना अकाउंट अनलिंक करता है, तो उसके माता-पिता को सूचित किया जाएगा.

पैरेंटल कंट्रोल्स के एक हिस्से के तौर पर, हम लिंक किए गए 13 से 19 साल के बीच की उम्र वाले बच्चों के अकाउंट्स के लिए बेहतर सुरक्षा उपाय लागू कर रहे हैं. एक बार जब माता-पिता और 13 से 19 साल के बीच की उम्र वाले बच्चे अपने अकाउंट्स को जोड़ लेते हैं, तो टीन अकाउंट को अपने आप अतिरिक्त कंटेंट सुरक्षा मिल जाएगी, जिसमें कम ग्राफ़िक कंटेंट, वायरल चुनौतियां, यौन, रोमांटिक या हिंसक भूमिकाएं और चरम सौंदर्य आदर्श शामिल हैं, ताकि उनके अनुभव को उम्र के हिसाब से सही बनाए रखने में मदद मिल सके.

ये सुरक्षा उपाय, 13 से 19 साल के बीच की उम्र वाले बच्चों के यूनिक विकासात्मक अंतरों को समझने के लिए मौजूदा रिसर्च के सावधानीपूर्वक रिव्यु के आधार पर बनाए गए हैं.

माता-पिता के पास यदि वे चाहें तो इस सेटिंग को बंद करने का ऑप्शन होगा, लेकिन 13 से 19 साल के बीच की उम्र वाले यूज़र्स इसमें बदलाव नहीं कर सकते.

सुरक्षा उपायों से मदद मिलती है, लेकिन वे पूरी तरह सुरक्षित नहीं हैं और अगर कोई जानबूझकर उन्हें पार करने की कोशिश कर रहा है तो उन्हें नजरअंदाज किया जा सकता है. हम समय के साथ सोच-समझकर सुधार और बदलाव जारी रखेंगे. हम माता-पिता को सलाह देते हैं कि वे अपने 13 से 19 साल के बीच की उम्र वाले बच्चों से सही AI इस्तेमाल के बारे में बात करें और जानें कि ये उनकी फ़ैमिली के लिए कैसा रहेगा.

हम माता-पिता को अतिरिक्त फ़ीचर्स भी दे रहे हैं जिन्हें वे अपने 13 से 19 साल के बीच की उम्र वाले बच्चों के लिए कस्टमाइज़ कर सकते हैं. एक सिंपल कंट्रोल पेज से, माता-पिता ये कर सकते हैं:

• शांत घंटे, या ख़ास समय सेट करें जब ChatGPT का इस्तेमाल नहीं किया जा सकता. 
• ChatGPT में वॉइस मोड का इस्तेमाल करने का ऑप्शन हटाने के लिए वॉइस मोड बंद करें. 
• मेमोरी बंद करें, ताकि ChatGPT जवाब देते समय मेमोरी को सेव और इस्तेमाल न करे.
• इमेज जनरेशन हटाएं, ताकि ChatGPT में इमेजेज़ बनाने या एडिट करने की क्षमता न हो. 
• मॉडल ट्रेनिंग से बाहर निकलें, ताकि उनके 13 से 19 साल के बीच की उम्र वाले बच्चों की बातचीतों का इस्तेमाल ChatGPT को सशक्त बनाने वाले मॉडल को बेहतर बनाने के लिए न किया जा सके.

ये सेटिंग्स ऑप्शनल और फ़्लेक्सिबल हैं, इसलिए फ़ैमिलीज़ चुन सकती हैं कि उनके लिए क्या सबसे बेस्ट है.

हम जानते हैं कि 13 से 19 साल के बीच की उम्र वाले कुछ बच्चे मुश्किल पलों के दौरान ChatGPT की ओर रुख करते हैं, इसलिए हमने माता-पिता को ये जानने में मदद करने के लिए एक नया नोटिफ़िकेशन सिस्टम बनाया है कि क्या कुछ गंभीर रूप से गलत हो सकता है.

हमने कुछ सुरक्षा उपाय जोड़े हैं जो ChatGPT को उन संभावित संकेतों को पहचानने में मदद करते हैं कि कोई 13 से 19 साल के बीच की उम्र वाला बच्चा खुद को नुकसान पहुंचाने के बारे में सोच रहा है. अगर हमारे सिस्टम्स संभावित नुकसान का पता लगाते हैं, तो ख़ास तौर से ट्रेन किए गए लोगों की एक छोटी टीम स्थिति को रिव्यु करती है. अगर गंभीर खतरे के संकेत हों, तो हम पेरेंट्स से ईमेल, टेक्स्ट मेसेज के ज़रिये संपर्क करेंगे और उनके फ़ोन पर अलर्ट भेजेंगे, बशर्ते कि उन्होंने ऐसा करने से मना कर दिया हो।

हम इसे डिज़ाइन करने के लिए मेंटल हेल्थ और तीन एक्सपर्ट्स के साथ काम कर रहे हैं क्योंकि हम इसे सही तरीके से करना चाहते हैं. कोई भी सिस्टम पूरी तरह से पर्फ़ेक्ट नहीं होता, और हम जानते हैं कि कभी-कभी हम तब भी अलार्म बजा देंगे जब असली में खतरा नहीं होता, लेकिन हमारा मानना ​​है कि चुप रहने के बजाय, माता-पिता को सचेत करना बेहतर है, ताकि वे मदद कर सकें.

हम कानून प्रवर्तन या दूसरी इमरजेंसी सर्विसेज़ तक पहुंचने के लिए सही प्रोसेस और परिस्थितियों पर भी काम कर रहे हैं, जैसे कि अगर हमें किसी गंभीर जानलेवा खतरे का पता चलता है और हम माता-पिता तक नहीं पहुंच पा रहे हैं।

इन बहुत कम होने वाली स्थितियों में भी, हम 13 से 19 साल के बीच की उम्र वाले बच्चों की प्राइवेसी को गंभीरता से लेते हैं, और सिर्फ़ पैरेंट्स या इमरजेंसी रिस्पोंडर्स के लिए किशोरों की सुरक्षा पक्की करने हेतु ज़रूरी जानकारी ही शेयर करेंगे.

फ़ैमिलीज़ रोज़मर्रा के जीवन में ChatGPT को शामिल करने के लिए और ज़्यादा तरीके खोज रही हैं, चाहे वो स्टडी मोड के साथ स्कूल का काम निपटाना हो, वीकेंड आईडिया पर ब्रेनस्टॉर्म करना हो, या सिर्फ़ क्विक सवालों के जवाब देना हो. कुछ लोगों के लिए, ये AI को एक साथ तलाशने की दिशा में पहला कदम भी है. इसलिए हम माता-पिता को ChatGPT के बारे में ज़रूरी जानकारी देना चाहते हैं तथा ये बताना चाहते हैं कि वे अपने 13 से 19 साल के बीच की उम्र वाले बच्चों को सुरक्षित और सकारात्मक इस्तेमाल के लिए कैसे गाइड कर सकते हैं.

हमने सब कुछ एक ही जगह पर लाने के लिए एक नया पैरेंट रिसोर्स पेज बनाया है. इसमें बताया गया है कि ChatGPT कैसे काम करता है, इसमें पैरेंटल कंट्रोल्स क्या उपलब्ध है, तथा ये भी बताया गया है कि किशोर इसे सीखने, क्रिएटिविटी और रोज़मर्रा की जिंदगी में कैसे इस्तेमाल कर सकते हैं. ये सिर्फ़ एक शुरुआती बिंदु है और हम उम्मीद करते हैं कि इसे नियमित रूप से सुझावों, गाइड्स, एक्सपर्ट सलाह और बातचीत शुरू करने वाले विषयों के साथ अपडेट किया जाएगा ताकि माता-पिता अपने परिवार में AI के इस्तेमाल के बढ़ने के साथ समर्थित महसूस कर सकें.

आने वाले महीनों में, हम एक उम्र का अंदाज़ा लगाने वाला सिस्टम⁠ बना रहे हैं जो हमें ये अनुमान लगाने में मदद करेगा कि कोई यूज़र 18 वर्ष से कम उम्र का है या नहीं, ताकि ChatGPT अपने आप 13 से 19 साल के बीच की उम्र वाले बच्चों के लिए सही सेटिंग्स लागू कर सके. ऐसे मामलों में जहां हमें यूज़र की आयु के बारे में अनिश्चित हैं, हम सुरक्षित रास्ता अपनाएंगे और टीन सेटिंग्स को एक्टिव तरीके से लागू करेंगे. इस बीच, पैरेंटल कंट्रोल्स माता-पिता के लिए ये पक्का करने का सबसे असरदार तरीका होगा कि उनके 13 से 19 साल के बीच की उम्र वाले बच्चों को हमारे उम्र के हिसाब से सही टीन अनुभव का विकल्प दिया जाए.

ये एक महत्वपूर्ण कदम है, लेकिन हमारा काम अभी पूरा नहीं हुआ है. हम उन फ़ीचर्स में निवेश करना जारी रखेंगे जो माता-पिता और 13 से 19 साल के बीच की उम्र वाले बच्चों को ChatGPT का सुरक्षित और आत्मविश्वास से इस्तेमाल करने में मदद करते हैं, और हमारी प्रोग्रेस को शेयर करते हैं.