किशोरों को सुरक्षित एआई की पहुंच क्यों मिलनी चाहिए

किशोर एआई के साथ बड़े होने वाली पहली पीढ़ी हैं, और यह तकनीक उनके भविष्य को बहुत गहराई से आकार देगी. आज, ChatGPT पर लगभग 10 में से 9 किशोर एक ही सप्ताह में सीखने, जानकारी पाने, कौशल बनाने या उत्पादकता के लिए इसका उपयोग करते हैं. इसीलिए हमारा मानना है कि किशोरों को एआई की पहुंच मिलना बेहद जरूरी है. किशोरों को वयस्क होने तक इसका उपयोग करने से रोकना पिछली पीढ़ी से यह कहने जैसा होगा कि वे 18 साल के होने तक इंटरनेट या सर्च इंजन से दूर रहें, जिससे वे अपने समय की निर्णायक तकनीकों में से एक का उपयोग करने के लिए कम तैयार रह जाते. लेकिन पहुंच के साथ किशोरों के लिए खास तौर पर बनाई गई सुरक्षा भी होनी चाहिए.

हाल ही में OpenAI अकादमी⁠(एक नई विंडो में खुलेगा) के दौरान ओरियाना मैकेंज़ी ने साझा किया कि ChatGPT ने उन्हें ज्यादा समझदारी से पढ़ाई करने और अपना काम संभालने में मदद करके हाई स्कूल कक्षा में नंबर 1 बनने में कैसे सहायता की, जिससे उन्हें उन खेलों और स्कूल कार्यक्रमों के लिए जरूरी समय मिला जिन्हें वे पसंद करती हैं. उनकी कहानी दिखाती है कि जब किशोरों को सीखने और रचने में मदद करने वाली एआई तक पहुंच मिलती है, तो क्या संभव हो सकता है.

इन लाभों को अधिकतम करने के लिए, किशोरों को जीवन के इस चरण के हिसाब से मजबूत सुरक्षा चाहिए, जिसमें स्वचालित गार्डरेल शामिल हैं जो उन्हें आत्मविश्वास के साथ खोजने, सीखने और निर्माण करने देते हैं, साथ ही उनकी उम्र के अनुरूप सुरक्षा उपाय प्रदान करते हैं. जैसे-जैसे एआई और सक्षम होती जा रही है, हमारी जिम्मेदारी है कि हम व्यापक पहुंच को उम्र के अनुरूप सुरक्षा के साथ जोड़ें, ताकि किशोर इस तकनीक के विकसित होने पर उससे लाभ उठा सकें.

पिछले वर्ष में, इसका मतलब रहा है किशोरों के लिए डिफ़ॉल्ट सुरक्षा को मजबूत करना, उम्र का अनुमान⁠ लागू करना, पेरेंटल कंट्रोल⁠ का विस्तार करना, अभिभावकों को स्वस्थ और जिम्मेदार उपयोग में मदद करने के लिए अतिरिक्त परिवार संसाधन⁠(एक नई विंडो में खुलेगा) बनाना, और केवल उत्तर देने के बजाय गहरी समझ को समर्थन देने वाली सीखने की सुविधाएं पेश करना.

हमारा काम चार प्रमुख प्रतिबद्धताओं⁠ से मार्गदर्शित है:

• हम किशोरों की सुरक्षा को पहले रखते हैं, भले ही वह अन्य लक्ष्यों से टकराए.
• हम जरूरत के समय वास्तविक दुनिया में सहायता लेने को प्रोत्साहित करते हैं.
• हम किशोरों को किशोरों की तरह ही देखते हैं.
• हम स्पष्ट अपेक्षाएं तय करके पारदर्शी रहते हैं.

सीखना उन सबसे स्पष्ट तरीकों में से एक है जिनसे किशोर एआई से लाभ उठाते हैं, इसलिए हम ऐसे टूल बना रहे हैं जो सक्रिय भागीदारी, आलोचनात्मक सोच और गहरी समझ को बढ़ावा देते हैं. स्टडी मोड⁠(एक नई विंडो में खुलेगा) को शिक्षकों, लर्निंग वैज्ञानिकों और शिक्षा-शास्त्र विशेषज्ञों के साथ मिलकर डिजाइन किया गया था, ताकि छात्रों को केवल उत्तर देने के बजाय मार्गदर्शक प्रश्नों, संरचित व्याख्याओं और चिंतन के अवसरों के जरिए समस्याओं पर चरण-दर-चरण काम करने में मदद मिले. स्टडी मोड जैसे टूल के शुरुआती मूल्यांकन ने छात्र प्रदर्शन में आशाजनक सुधार दिखाए हैं⁠, जिससे यह समझने के हमारे व्यापक शोध को दिशा मिली है कि एआई सीखने के परिणामों को कैसे समर्थन दे सकती है.

किशोर इस मोड को खुद चालू कर सकते हैं, लेकिन अब लिंक किए गए किशोर खातों वाले अभिभावक पेरेंटल कंट्रोल⁠ से सीधे स्टडी मोड⁠ चालू कर सकते हैं. चालू होने पर, जब भी कोई किशोर नई चैट शुरू करता है तो यह डिफ़ॉल्ट रूप से चालू रहता है, जिससे परिवारों को स्कूलवर्क और पढ़ाई के लिए ChatGPT के उपयोग का मार्गदर्शन करने का एक और तरीका मिलता है.

हमने हाल ही में किशोरों के लिए शिक्षा-केंद्रित शुरुआती प्रॉम्प्ट भी पेश किए हैं, ताकि किसी विषय को सरल चरणों में बांटना, नोट्स को अध्ययन गाइड में बदलना, फ्लैशकार्ड या अभ्यास प्रश्न बनाना, और साक्ष्य व स्पष्टता की जांच करना जैसे कार्य शुरू करना आसान हो.

हम इंटरैक्टिव सीखने के अनुभवों⁠ का विस्तार भी जारी रख रहे हैं. शोध ने लगातार दिखाया है⁠ कि लोग जानकारी को निष्क्रिय रूप से ग्रहण करने के बजाय जब अवधारणाओं से सक्रिय रूप से जुड़ते हैं, तो अधिक प्रभावी ढंग से सीखते हैं. इस साल की शुरुआत में लॉन्च होने के बाद से, अब हर सप्ताह 1.8 करोड़ उपयोगकर्ता ChatGPT में इंटरैक्टिव गणित और विज्ञान अनुभवों से जुड़ते हैं, और हमने इन अनुभवों को 250 से अधिक नए विषयों तक बढ़ाया है, इंटीग्रल और माइटोसिस से लेकर चंद्रमा के चरणों, प्रकाश संश्लेषण और अन्य विषयों तक. हमने एक उच्चारण अनुभव भी पेश किया है, जो लोगों को 61 से अधिक भाषाओं में शब्दों का उच्चारण सीखने में मदद करने के लिए ऑडियो का उपयोग करता है.

अगर हमारा सिस्टम अनुमान लगाता है कि ChatGPT का उपयोग करने वाला कोई व्यक्ति 18 वर्ष से कम है,⁠ तो हम अपने आप अधिक उम्र-अनुरूप अनुभव⁠(एक नई विंडो में खुलेगा) प्रदान करते हैं. किशोर अभी भी ChatGPT का उपयोग सीखने, रचने और खोजने के लिए कर सकते हैं, लेकिन ऐसी अतिरिक्त सुरक्षा के साथ जो उनके लिए अनुपयुक्त हो सकने वाली सामग्री के संपर्क को कम करने के लिए बनाई गई है. इसमें ग्राफिक हिंसा, आत्म-हानि, जोखिम भरी वायरल चुनौतियों, अस्वस्थ शरीर-छवि सामग्री, और खतरनाक, रोमांटिक या यौन रोलप्ले के आसपास मजबूत सुरक्षा उपाय शामिल हैं. मुख्य दिशा यह सुनिश्चित करने में मदद करना है कि ChatGPT सीखने और रचनात्मकता का टूल बना रहे, वास्तविक दुनिया के रिश्तों का विकल्प नहीं.

हम ChatGPT को स्वस्थ आदतों को प्रोत्साहित करने के लिए भी डिजाइन कर रहे हैं. जो किशोर ChatGPT में लंबे समय तक बिताते हैं, उन्हें अब अधिक बार ब्रेक रिमाइंडर⁠ मिलेंगे, जो उन्हें रुकने और दूर जाने के लिए प्रोत्साहित करेंगे. इन रिमाइंडर का उद्देश्य युवाओं को संतुलित तकनीकी आदतें बनाने में मदद करना है, साथ ही उन्हें सीखने, रचनात्मकता और समस्या-समाधान के लिए एआई का उपयोग करने की स्वतंत्रता देना है.

हमारा मानना है कि सर्वोत्तम सुरक्षा टूल परिवारों को किशोरों के ऑनलाइन अनुभवों को मिलकर संभालने में मदद कर सकते हैं. हमने पेरेंटल कंट्रोल और सूचनाएं⁠ बनाए हैं, जो उन्हें शांत समय तय करने, वॉयस मोड बंद करने, इमेज जेनरेशन की पहुंच प्रबंधित करने, और संभावित आत्म-हानि के संकेतों जैसी कुछ उच्च-जोखिम स्थितियों में सूचनाएं पाने की सुविधा देते हैं.

हम इन सूचनाओं का विस्तार कर रहे हैं ताकि वे ऐसे मामलों को भी शामिल करें जहां लिंक किए गए किशोर खाते को ऑनलाइन हिंसक धमकियों या हिंसा के कृत्यों पर हमारी उपयोग नीतियों का उल्लंघन करने⁠ के लिए निष्क्रिय किया गया हो. यह दृष्टिकोण अभिभावकों को यह जानने में मदद करता है कि कब कुछ गंभीर हुआ है, साथ ही किशोरों की निजता का सम्मान करता है और ऑफलाइन बातचीत व समर्थन को प्रोत्साहित करता है.

इन सुविधाओं को विकसित करते समय हमने कई विशेषज्ञों से परामर्श किया, जिनमें ऑनलाइन हिंसा रोकने में अग्रणी Moonshot⁠(एक नई विंडो में खुलेगा) भी शामिल है, ताकि यह सुनिश्चित करने में मदद मिले कि ये हस्तक्षेप विचारशील, प्रभावी और जरूरत के समय परिवारों को प्रतिक्रिया देने में मदद करने पर केंद्रित हों.

हम यह भी सुनिश्चित करना चाहते हैं कि अभिभावकों, किशोरों और शिक्षकों के पास एआई का जिम्मेदारी से सर्वोत्तम उपयोग करने के बारे में स्पष्ट मार्गदर्शन हो. हम 50 से अधिक भाषाओं में शैक्षिक संसाधन प्रकाशित करते हैं, जिनमें किशोरों को एआई का जिम्मेदारी से उपयोग करने में मदद करने के लिए परिवार गाइड⁠(एक नई विंडो में खुलेगा), अपने किशोर से एआई के बारे में बात करने के सुझाव⁠(एक नई विंडो में खुलेगा), और ChatGPT का उपयोग करने वाले अभिभावकों के लिए सुझाव⁠(एक नई विंडो में खुलेगा) शामिल हैं.

युवाओं को ऑनलाइन सुरक्षित रखना ऐसा काम नहीं है जिसे कोई एक कंपनी अकेले हल कर सके. हम किशोरों, अभिभावकों, शिक्षकों, बाल सुरक्षा विशेषज्ञों, मानसिक स्वास्थ्य पेशेवरों, शोधकर्ताओं, सरकारों और नागरिक समाज संगठनों के साथ मिलकर काम करते हैं. ये साझेदारियां हमें युवाओं की जरूरतों को बेहतर समझने, उभरते जोखिमों की पहचान करने, अपने सुरक्षा उपायों की प्रभावशीलता का मूल्यांकन करने और यह सुनिश्चित करने में मदद करती हैं कि हमारी नीतियां स्वतंत्र विशेषज्ञता से सूचित हों.

यह काम सीखने और युवाओं की भलाई, दोनों के प्रति हमारे दृष्टिकोण में फैला है. हम शिक्षकों, जिनमें अमेरिकन फेडरेशन ऑफ टीचर्स⁠ शामिल है, छात्रों और शिक्षण संगठनों के साथ सहयोग करते हैं, ताकि बेहतर समझ सकें कि सक्रिय भागीदारी और आलोचनात्मक सोच को मजबूत करते हुए एआई शिक्षण और सीखने को कैसे समर्थन दे सकती है. हम मानसिक स्वास्थ्य, बाल विकास और युवा सुरक्षा समुदायों के विशेषज्ञों के साथ भी निकटता से काम करते हैं, जिनमें अमेरिकन साइकोलॉजिकल एसोसिएशन⁠(एक नई विंडो में खुलेगा), हमारा ग्लोबल फिज़िशियंस नेटवर्क⁠, और हमारी वेल-बीइंग और एआई पर विशेषज्ञ परिषद⁠ शामिल हैं.

एक स्वस्थ डिजिटल इकोसिस्टम बनाने का हमारा काम हमारे अपने उत्पादों से आगे तक जाता है. हमने एक समर्पित एआई सेफ्टी इंस्टीट्यूट के जरिए युवा एआई सुरक्षा के लिए वैश्विक मानक⁠ विकसित करने, ऐसी ओपन-सोर्स नीतियां और टूल⁠ उपलब्ध कराने जिनका डेवलपर अपने एआई सिस्टम में उपयोग कर सकें, और सीख व सर्वोत्तम प्रथाएं साझा करने के लिए Common Sense Media⁠(एक नई विंडो में खुलेगा) और everyone.ai⁠(एक नई विंडो में खुलेगा) जैसे संगठनों के साथ काम करने का आह्वान किया है.

इस वर्ष, हम फैमिली ऑनलाइन सेफ्टी इंस्टीट्यूट⁠(एक नई विंडो में खुलेगा) (FOSI) से भी जुड़े, जो परिवारों और युवाओं के लिए सुरक्षित ऑनलाइन अनुभवों का लंबे समय से समर्थक रहा है. हम साथ मिलकर काम करेंगे ताकि सशक्त अभिभावकों और जिम्मेदार उद्योग व्यवहार को केंद्र में रखते हुए युवा एआई से लाभ उठा सकें. हमें उम्मीद है कि यह साझेदारी कारगर तरीकों की साझा समझ को आगे बढ़ाने, उम्र के अनुरूप सुरक्षा और अभिभावकीय टूल को मजबूत करने, और पूरे उद्योग के उन प्रयासों को समर्थन देने में मदद करेगी जो युवाओं को सुरक्षित और जिम्मेदारी से एआई का लाभ उठाने में सक्षम बनाते हैं.

युवाओं को ऑनलाइन सुरक्षित रखने के लिए लगातार प्रगति जरूरी है. आने वाले महीनों में, हम उम्र के अनुरूप सुरक्षा को मजबूत करना, अभिभावकों को अधिक टूल और नियंत्रण देना, गंभीर नुकसान के खिलाफ सुरक्षा उपायों में सुधार करना, स्वस्थ एआई उपयोग पर शोध को आगे बढ़ाना, और ऐसे अधिक अनुभव बनाना जारी रखेंगे जो किशोरों को सक्रिय रूप से सीखने और आत्मविश्वास के साथ एआई का उपयोग करने में मदद करें.

हम जानते हैं कि अभी और काम करना बाकी है, और हम दुनिया भर के किशोरों, अभिभावकों, शिक्षकों, विशेषज्ञों और समुदायों के साथ मिलकर अपना काम जारी रखने के लिए प्रतिबद्ध हैं, ताकि किशोरों को सुरक्षित व्यापक पहुंच मिल सके.