वैश्विक नेतृत्व के जरिए युवा सुरक्षा और अवसर को आगे बढ़ाना

AI युवाओं के लिए एक शक्तिशाली साधन हो सकता है. यह छात्रों को किसी कठिन अवधारणा को समझने, नई भाषा का अभ्यास करने, नौकरी के इंटरव्यू की तैयारी करने, रचनात्मक विचारों को तलाशने या कोई नया कौशल सीखने में मदद कर सकता है. जिस तरह 20वीं सदी के मध्य में दुनिया भर में फैले साक्षरता आंदोलन के लिए मुद्रित पाठ का व्यापक वितरण और प्रशिक्षित शिक्षकों तक पहुंच आवश्यक थी, उसी तरह आज सुरक्षित AI तक पहुंच देना वैयक्तिकृत सीखने के नए अवसर खोलेगा, वंचितों के लिए बाधाएं कम करने में मदद करेगा और कार्यबल की तैयारी बढ़ाएगा.

क्योंकि संभावित लाभ इतने महत्वपूर्ण हैं, इसलिए यह आवश्यक है कि युवा AI तक ऐसे तरीकों से पहुंच सकें जो सुरक्षित, उम्र के अनुरूप और स्वस्थ विकास में सहायक हों. यह जिम्मेदारी मुख्य रूप से माता-पिता या स्वयं युवाओं पर नहीं डाली जानी चाहिए. OpenAI सहित कंपनियों की जिम्मेदारी है कि वे डिफॉल्ट रूप से उचित सुरक्षा उपायों वाले उत्पाद बनाएं, साथ ही परिवारों को ऐसे साधन और जानकारी दें जिनसे वे मार्गदर्शन कर सकें कि AI का उपयोग कैसे किया जाए.

इस महीने के अंत में जब राष्ट्राध्यक्ष फ्रांस के एवियां में G7 नेताओं के शिखर सम्मेलन में जुटेंगे, तो युवा AI सुरक्षा का विषय एक प्रमुख केंद्र बिंदु होगा. OpenAI युवा सुरक्षा पर अधिक सहयोग, उद्योग मानकों को ऊंचा उठाने के लिए मिलकर काम करने के तरीकों, और एक अंतरराष्ट्रीय युवा सुरक्षा संस्थान स्थापित करने के OpenAI के नए आह्वान पर चर्चा करने के लिए शामिल होगा.

G7 नेताओं का शिखर सम्मेलन युवा सुरक्षा पर वैश्विक समन्वय का एक दुर्लभ अवसर प्रस्तुत करता है. लेकिन एक समर्पित संस्थान एक ही शिखर सम्मेलन से आगे आवश्यक निरंतरता और अनुवर्ती कार्रवाई उपलब्ध कराएगा, जिससे सरकारों, शोधकर्ताओं, नागरिक समाज और उद्योग को साक्ष्य साझा करने, मार्गदर्शन विकसित करने और समय के साथ मानक बढ़ाने के लिए साथ काम करते रहने में मदद मिलेगी.

यह करने के कई विश्वसनीय तरीके हैं: किसी नए अंतरराष्ट्रीय संस्थान के माध्यम से, या किसी मौजूदा या नए स्थापित राष्ट्रीय AI संस्थान को दुनिया भर के साझेदारों के साथ शोध, साक्ष्य और मार्गदर्शन साझा करने का वैश्विक जनादेश देकर. सबसे अधिक मायने यह रखता है कि वह कौन-सा कार्य करता है. युवा AI सुरक्षा के लिए निरंतर ध्यान, भरोसेमंद साक्ष्य और ऐसा व्यावहारिक मार्गदर्शन चाहिए जो तकनीक की गति के साथ चल सके.

ऐसा संस्थान Common Sense Media के युवा AI सुरक्षा संस्थान जैसी उभरती पहलों पर आधारित हो सकता है, जिसे OpenAI Foundation का समर्थन प्राप्त है, साथ ही शिक्षकों के साथ व्यावहारिक सहयोगों पर भी, जिनमें American Federation of Teachers के साथ OpenAI का काम⁠ शामिल है. इसे वास्तविक दुनिया में किए गए कार्यान्वयनों से भी सीखना चाहिए, जैसे स्कूलों में एस्टोनिया का राष्ट्रीय ChatGPT रोलआउट, जहां OpenAI प्रभाव का अध्ययन करने और सीखने में अधिक सुरक्षित, अधिक प्रभावी उपयोग की जानकारी देने के लिए Stanford और एस्टोनियाई शोधकर्ताओं के साथ काम कर रहा है.

OpenAI इस महत्वपूर्ण कार्य पर फ्रांसीसी सरकार, अन्य G7 सरकारों और नागरिक समाज, अकादमिक जगत और उद्योग के साझेदारों के साथ काम करने तथा युवा सुरक्षा पर वैश्विक मानक बढ़ाने के अवसर का स्वागत करता है.

हमारा मानना है कि मजबूत AI युवा सुरक्षा ढांचों, जिनमें G7 बैठकों में होने वाला कोई भी संभावित समझौता शामिल है, का नेतृत्व उन सिद्धांतों से होना चाहिए जिन्हें हम यहां प्रस्तुत कर रहे हैं.

1. कंपनियों को पता होना चाहिए कि उपयोगकर्ता कब नाबालिग है और उम्र के अनुरूप सुरक्षा लागू करनी चाहिए. इसका मतलब है कि प्रदाताओं से प्रभावी, गोपनीयता-संरक्षित उम्र अनुमान जैसे उपायों का उपयोग करने की अपेक्षा की जाए ताकि नाबालिगों और वयस्कों में अंतर किया जा सके, और जब किसी उपयोगकर्ता की उम्र निर्धारित न हो सके तो सुरक्षात्मक उपाय डिफॉल्ट रूप से लागू हों. इस आधार के बिना, युवाओं की सुरक्षा के सबसे सद्भावनापूर्ण उपाय भी उन युवाओं तक पहुंचने में विफल हो सकते हैं जिनकी रक्षा के लिए वे बनाए गए हैं.
2. कंपनियों को युवाओं के लिए जोखिमों और लाभों दोनों का नियमित आकलन करना चाहिए और उन्हें संबोधित करने के कदम उठाने चाहिए—नुकसान होने से पहले. इसका मतलब है कि प्रदाताओं से वार्षिक युवा सुरक्षा जोखिम आकलन पूरा करने और पहचाने गए जोखिमों के आधार पर अनुपातिक सुरक्षा उपाय लागू करने की अपेक्षा की जाए. ऐसे आकलनों में युवाओं के विकास चरण, वास्तविक उपयोग से मिले अनुभवजन्य साक्ष्य, और संबंधित शोध या नियामकीय मार्गदर्शन के आधार पर जोखिमों पर विचार होना चाहिए. आकलनों में केवल संभावित नुकसान ही नहीं, बल्कि यह भी देखा जाना चाहिए कि क्या AI सीखने, रचनात्मकता, कौशल विकास और अवसर तक पहुंच जैसे सकारात्मक परिणामों का समर्थन कर रहा है.
3. माता-पिता और अभिभावकों के पास सुलभ, उपयोग में आसान कंट्रोल होने चाहिए, ताकि वे उम्र के अनुरूप स्वतंत्रता का समर्थन करते हुए अपने बच्चों के अनुभवों का मार्गदर्शन कर सकें. इनमें मेमोरी, डेटा उपयोग और समय सीमा जैसी प्रमुख सेटिंग्स प्रबंधित करने के साधन शामिल होने चाहिए. पेरेंटल टूल्स को सक्रिय रूप से बढ़ावा दिया जाना चाहिए ताकि माता-पिता जानें कि वे मौजूद हैं और समझें कि उनका उपयोग कैसे करना है.
4. परिवारों को इस बारे में स्पष्ट, समझने योग्य जानकारी मिलनी चाहिए कि कंपनियां युवा उपयोगकर्ताओं की सुरक्षा कैसे कर रही हैं, और युवाओं द्वारा AI उपयोग के लाभों और जोखिमों, दोनों के बारे में सार्थक जानकारी दी जानी चाहिए. कंपनियों को सुरक्षा नीतियां प्रकाशित करनी चाहिए जो बताएं कि युवाओं की रक्षा के लिए कौन से सुरक्षा उपाय मौजूद हैं, कौन से पेरेंटल टूल उपलब्ध हैं, और जोखिमों के बदलने पर सुरक्षा को कैसे अपडेट किया जाता है. यह पारदर्शिता भरोसा बनाती है और माता-पिता को सूचित निर्णय लेने में मदद करती है.
5. कंपनियों के पास गंभीर सुरक्षा स्थितियों से निपटने के लिए स्पष्ट प्रोटोकॉल होने चाहिए, जिनमें आत्म-हानि, शोषण, ग्रूमिंग, यौन शोषणकारी सामग्री और अन्य उच्च-जोखिम वाली इंटरैक्शन शामिल हैं. इनमें सेवा के भीतर सहायता, उपयुक्त संसाधनों के लिए रेफरल और उचित होने पर समय पर माता-पिता को सूचनाएं शामिल होनी चाहिए. कंपनियों को अपने सिस्टम इस तरह भी डिजाइन करने चाहिए कि वे ऐसी सामग्री न बनाएं जो बच्चों के लिए असुरक्षित या विकासात्मक रूप से अनुपयुक्त हो, जिसमें स्पष्ट यौन या हिंसक सामग्री शामिल है.  
6. युवाओं द्वारा उपयोग किए जाने वाले AI सिस्टम सीखने, विकास और वास्तविक दुनिया के रिश्तों का समर्थन करने के लिए डिजाइन किए जाने चाहिए, उन्हें बदलने के लिए नहीं. AI को ऐसे साधन के रूप में काम करना चाहिए जो युवाओं को सीखने, रचना करने, कौशल विकसित करने और भविष्य के लिए तैयारी करने में मदद करे. साथ ही, कंपनियों को उन क्षेत्रों में स्पष्ट सीमाएं स्थापित करनी चाहिए जहां स्वस्थ विकास मानव निर्णय, वास्तविक दुनिया के रिश्तों और पेशेवर सहायता पर निर्भर करता है.
7. नाबालिगों की व्यक्तिगत जानकारी सुरक्षित रखी जानी चाहिए. इसका मतलब है युवाओं को लक्षित करने वाले गोपनीयता-हस्तक्षेपकारी विज्ञापनों पर रोक लगाना और कंपनियों को व्यक्तिगत जानकारी बेचने से रोकना.
8. युवा सुरक्षा ढांचों को अवसर, साक्षरता और संरक्षण को बढ़ावा देना चाहिए. युवाओं को ऐसे AI साधनों तक पहुंच मिलनी चाहिए जो सीखने, रचनात्मकता, कौशल विकास और भविष्य के अवसर का समर्थन करते हों, साथ ही उन्हें AI का सुरक्षित और जिम्मेदारी से उपयोग करने के लिए आवश्यक ज्ञान और आलोचनात्मक सोच कौशल से लैस किया जाना चाहिए. इसमें AI साक्षरता को बढ़ावा देना और युवाओं को AI सिस्टम के अवसरों और सीमाओं को समझने में मदद करना शामिल है, ताकि वे डिजिटल स्थानों में आत्मविश्वास और जिम्मेदारी से भाग ले सकें.
9. स्वतंत्र ऑडिट सहित मजबूत जवाबदेही तंत्र यह सुनिश्चित करने के लिए आवश्यक हैं कि ये सुरक्षा उपाय व्यवहार में सार्थक हों. ऑडिट साझा मानकों के एक समूह पर आधारित होने चाहिए, जो अलग-अलग अधिकार क्षेत्रों में परस्पर-संगत ऑडिट की अनुमति दें. विधायी ढांचों में निगरानी और प्रवर्तन उपाय शामिल होने चाहिए, जिनसे सरकारें यह आकलन कर सकें कि क्या कंपनियां युवा सुरक्षा उपायों को प्रभावी ढंग से लागू कर रही हैं, पहचाने गए जोखिमों को कम कर रही हैं और युवा सुरक्षा तथा गोपनीयता संबंधी दायित्वों का पालन कर रही हैं.

ये सिद्धांत इस बात में दिखाई देते हैं कि हम ChatGPT को कैसे बनाते और संचालित करते हैं, मॉडल के व्यवहार और उत्पाद डिजाइन से लेकर विशेषज्ञ इनपुट और वास्तविक दुनिया की सहायता तक. हमने 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए सुरक्षा उपाय मजबूत किए हैं, सक्रिय सूचनाओं के साथ पेरेंटल कंट्रोल⁠ लॉन्च किए हैं, और उन्नत उम्र-पूर्वानुमान सिस्टम⁠ बनाए हैं ताकि जब कोई व्यक्ति 18 वर्ष से कम उम्र का हो सकता है, तो ChatGPT अधिक मजबूत सुरक्षा लागू कर सके. हमारा मॉडल स्पेक, जो बताता है कि हमारे मॉडल कैसे व्यवहार करें, उसमें 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए समर्पित सिद्धांत⁠(एक नई विंडो में खुलेगा) भी शामिल हैं, जो किशोर सुरक्षा, उम्र के अनुरूप अनुभवों, वास्तविक दुनिया की सहायता और स्पष्ट अपेक्षाओं को प्राथमिकता देते हैं. व्यवहार में, इसका मतलब है आत्म-हानि, खतरनाक गतिविधियों, स्पष्ट सामग्री, शरीर की छवि और गोपनीयता के आसपास अधिक मजबूत गार्डरेल, साथ ही जरूरत पड़ने पर भरोसेमंद ऑफलाइन सहायता या संकट संसाधन तलाशने के लिए प्रोत्साहन. जब उम्र अनिश्चित होती है, तो हम डिफॉल्ट रूप से अधिक मजबूत सुरक्षा उपाय लागू करते हैं.

मजबूत सुरक्षा उपायों के साथ डिजाइन किया गया और स्पष्ट मार्गदर्शन, तथा परिवारों और शिक्षकों के समर्थन के साथ उपलब्ध कराया गया AI, युवाओं को ऐसे साधनों से सुरक्षित रूप से लाभ उठाने में मदद कर सकता है जो सीखने, रचनात्मकता और अवसर का विस्तार करते हैं. AI छात्रों को कठिन अवधारणाएं समझने, भाषाओं का अभ्यास करने, अपना लेखन सुधारने, कोड करना सीखने, शोध व्यवस्थित करने, रचनात्मक विचारों को तलाशने और उन नौकरियों की तैयारी करने में मदद कर सकता है जो पहले से बदल रही हैं. देशों के लिए शिक्षा⁠ के माध्यम से, OpenAI शोध-आधारित कार्यान्वयनों, स्थानीयकृत सीखने के साधनों और शिक्षक प्रशिक्षण पर सरकारों और शिक्षकों के साथ काम कर रहा है ताकि AI अपनाना साक्ष्य और वास्तविक कक्षा की जरूरतों पर आधारित हो. यह काम हमारे साझेदार देशों, जिनमें एस्टोनिया⁠, ग्रीस⁠ और सिंगापुर⁠ शामिल हैं, के साथ राष्ट्रीय शिक्षा प्रयासों को पहले से समर्थन दे रहा है.

नेताओं के शिखर सम्मेलन में भागीदारी के अलावा, हम OpenAI Forum⁠(एक नई विंडो में खुलेगा) को पेरिस लाएंगे ताकि इस पर व्यावहारिक बातचीत आयोजित की जा सके कि सरकारें, शोधकर्ता, नागरिक समाज, शिक्षक और उद्योग साझा युवा सुरक्षा लक्ष्यों को ठोस सुरक्षा उपायों, मानकों और कार्यान्वयन प्रथाओं में कैसे बदल सकते हैं. AI और डिजिटल मामलों के लिए फ्रांस की राजदूत क्लारा शापाज़, OpenAI के चीफ ग्लोबल अफेयर्स ऑफिसर क्रिस लेहाने, iRaise/Everyone.AI के युवा सुरक्षा नेता और अन्य विशेषज्ञों के साथ इस चर्चा में शामिल होंगी कि जोखिमों को कम करते हुए युवा AI से कैसे लाभ उठा सकते हैं.