OpenAI युवाओं की AI सुरक्षा को बेहतर बनाने वाले कैलिफ़ोर्निया के बिल का समर्थन करता है

एन ओ'लेरी, VP, Global Policy, द्वारा

OpenAI कैलिफ़ोर्निया सीनेट बिल 1119 का समर्थन करता है, यह कानून युवा लोगों के AI इस्तेमाल करने के तरीके के लिए सही सुरक्षा उपाय तय करता है, साथ ही ऐसे टूल्स तक उनके एक्सेस को बनाए रखता है जो उन्हें सीखने, बनाने और भविष्य के लिए तैयार होने में मदद कर सकते हैं. यह समर्थन OpenAI के को-फ़ाउंडर और CEO सैम ऑल्टमैन के उस कमिटमेंट पर आधारित है जो उन्होंने पिछले साल टीनएजर के लिए कंपनी के सिद्धांतों को बताते हुए किया था.

अगर फ़ेडरल स्तर पर कोई कार्रवाई नहीं होती है, तो कैलिफ़ोर्निया के पास युवाओं की AI सुरक्षा के लिए एक मज़बूत स्टैंडर्ड तय करने का मौका होता है.

हमने गवर्नर न्यूज़ॉम को लिखे अपने पत्र⁠(एक नई विंडो में खुलेगा) में इस अहम मुद्दे पर उनकी लीडरशिप के लिए उनकी, साथ ही सीनेटर स्टीव पैडिला, असेंबली के सदस्यों बफ़ी विक्स और रेबेका बाउर-काहन, और कैलिफ़ोर्निया लेजिस्लेचर की तारीफ़ की है. SB 1119 उन युवा सुरक्षा उपायों को आगे बढ़ाता है जिनका OpenAI ने अपने प्रोडक्ट्स, ग्लोबल पॉलिसी के सिद्धांतों, कैलिफ़ोर्निया में एडवोकेसी और 'पेरेंट्स एंड किड्स सेफ़ AI एक्ट' पर काम के ज़रिए समर्थन किया है. हम गवर्नर न्यूज़ॉम से इस बिल पर साइन करके इसे कानून बनाने का आग्रह करते हैं.

टीनएजर AI के साथ बड़े होने वाली पहली पीढ़ी हैं. ChatGPT इस्तेमाल करने वाले लगभग 90% टीनएजर किसी हफ़्ते में सीखने, जानकारी पाने, स्किल बढ़ाने या प्रोडक्टिविटी के लिए इसका इस्तेमाल करते हैं. इस मौके के साथ एक स्पष्ट ज़िम्मेदारी भी आती है: टीनएजर को ऐसे अनुभव मिलने चाहिए जो उनकी ख़ास विकास संबंधी ज़रूरतों के हिसाब से बने हों, जिनमें मज़बूत डिफ़ॉल्ट सुरक्षा हो और सीखने, बनाने और जानने के सही मौके हों.

हमारा नया लॉन्च किया गया ChatGPT for Teens इसी सोच को दिखाता है. इसे 18 साल से कम उम्र के यूज़र को सीखने, सोच-समझकर फ़ैसले लेने और नई चीज़ें बनाने में मदद करने के लिए बनाया गया है. साथ ही, यह इसके सही इस्तेमाल को बढ़ावा देता है, इसमें पहले से ही सुरक्षा के उपाय मौजूद हैं और माता-पिता को अतिरिक्त कंट्रोल भी मिलते हैं. अगर हमारा सिस्टम यह पता लगाता है कि कोई व्यक्ति 18 साल से कम उम्र का है या वे बताते हैं कि उनकी उम्र 13 से 17 साल के बीच है, तो उन्हें अपने-आप 'ChatGPT for Teens' में डाल दिया जाता है. ये सुरक्षा उपाय बुनियादी अनुभव का हिस्सा हैं, न कि ऐसी वैकल्पिक सेटिंग्स जिन्हें यूज़र बंद कर सकें.

व्यापक तौर पर, हमारा मानना है कि टीनएजर सुरक्षा से समझौता किए बिना AI का फ़ायदा उठा सकते हैं; और यही SB 1119 का मुख्य लक्ष्य है.

SB 1119 में मज़बूत सुरक्षा उपायों के साथ-साथ उपयोगी AI टूल के लगातार एक्सेस की व्यवस्था भी की गई है. हम इन मुख्य ज़रूरतों का दृढ़ता से समर्थन करते हैं:

• यूज़र की उम्र निर्धारित करना;
• युवाओं के लिए कोई प्रोडक्ट उपलब्ध कराने से पहले सुरक्षा से जुड़े रिस्क की पहचान करना और उन्हें हल करना;
• व्यक्तिगत ऑडिट कराना;
• युवाओं को नुकसानदेह कंटेंट से बचाना, जिसमें ख़ुद को नुकसान पहुँचाने, यौन शोषण वाले कंटेंट और अन्य ज़्यादा रिस्क वाले इंटरैक्शन शामिल हैं;
• माता-पिता को ऐसे साधन उपलब्ध कराना जिनसे वे अपने बच्चों के इस्तेमाल को निर्देशित और सीमित कर सकें;
• जब गंभीर सुरक्षा रिस्क उत्पन्न हों, तो युवाओं को संकट-सहायता संसाधनों से जोड़ना; और
• टारगेटेड एडवरटाइज़िंग को सीमित करना और युवाओं की निजी जानकारी की सुरक्षा करना.

13 से 17 साल की उम्र वाले यूज़र के लिए ये सुरक्षा उपाय अपने-आप लागू होने चाहिए. यह कानून जवाबदेही और सुरक्षा उपायों को एक साथ लाएगा, जिससे युवाओं को AI का इस्तेमाल करते समय सुरक्षित रहने में मदद मिलेगी.

SB 1119 में यह बात भी सही ढंग से मानी गई है कि AI सोशल मीडिया नहीं है. यह बिल ऐसे सुरक्षा उपाय बनाता है जो युवाओं को सीखने, कुछ नया बनाने और नई चीज़ें जानने के लिए AI का इस्तेमाल करने में मदद करते हैं. इस फ़्रेमवर्क को बनाते समय, नीति-निर्माताओं ने शिक्षा और सुरक्षा के लिए ज़रूरी फ़ीचर तक एक्सेस बनाए रखने की कोशिश की, जिसमें ChatGPT के मेमोरी फ़ीचर का ज़िम्मेदारी से इस्तेमाल शामिल है, साथ ही टीनएजर के लिए सुरक्षित और उनकी उम्र के हिसाब से सही अनुभव को बढ़ावा दिया.

ChatGPT for Teens में ख़ास तौर पर टीनएजर की सीखने में मदद करने वाले कई फ़ीचर शामिल हैं, जैसे क्विज़, लर्निंग विजुअलाइज़ेशन और स्टडी मोड. इन्हें शिक्षकों और लर्निंग एक्सपर्ट्स के साथ मिलकर बनाया गया है ताकि छात्रों को समस्याओं को हल करने में स्टेप-दर-स्टेप गाइड किया जा सके. इन टूल्स का मकसद समझ को गहरा करना और सीखने की बेहतर आदतें बनाना है. पिछली बातचीत के संदर्भ का इस्तेमाल करने वाले फ़ीचर, जिनमें मेमोरी भी शामिल है, सुरक्षा के उपायों को लगातार लागू करने, चिंताजनक पैटर्न को पहचानने और समय के साथ ज़्यादा उपयोगी लर्निंग सपोर्ट देने में मदद करते हैं.

संदर्भ इन सुरक्षा और सीखने वाले टूल्स को समय के साथ लगातार बेहतर ढंग से काम करने में भी मदद करता है. मेमोरी जैसे फ़ीचर की मदद से, ChatGPT पिछली बातचीत से ज़रूरी जानकारी और पसंद को याद रख सकता है. इससे टीनएजर को लंबे समय तक चलने वाले लर्निंग प्रोजेक्ट को बिना शुरूआत से शुरू किए आगे बढ़ाने में मदद मिलती है. यह निरंतरता हानिकारक पैटर्न को दोहराने से बचने और ज़्यादा असरदार जवाब देने में भी मदद कर सकती है, ख़ासकर तब जब किसी युवा को अतिरिक्त मदद या रिसोर्स की ज़रूरत हो.

सुरक्षा और सीखने के बीच संतुलन बनाना हमारे लिए कोई नई बात नहीं है. पिछले साल हमने पेरेंटल कंट्रोल, उम्र का अनुमान लगाने की सुविधा, अपना टीन सेफ्टी ब्लूप्रिंट और हमारे मॉडल स्पेक के 18 साल से कम उम्र के लोगों के लिए सिद्धांतजोड़े हैं—वे नियम जो बताते हैं कि हमारे मॉडल कैसे काम करेंगे—ताकि यह तय किया जा सके कि वे युवाओं के साथ कैसे इंटरैक्ट करें. ये नियम रोमांटिक बातचीत, भावनात्मक निर्भरता को बढ़ावा देने और ऐसे दावों पर रोक लगाते हैं कि ChatGPT इंसान है या उसमें इंसानों जैसी समझ है. हम पेरेंटल कंट्रोल की सुविधा भी देते हैं, जिससे परिवार अपने टीनएजर बच्चों के लिए ज़रूरी सेटिंग्स मैनेज कर सकते हैं और ज़्यादा रिस्क वाली स्थितियों में नोटिफ़िकेशन पा सकते हैं.

SB 1119 कैलिफ़ोर्निया में युवाओं की AI सुरक्षा के लिए एक मज़बूत फ़्रेमवर्क तैयार करता है. इसे लागू करने के दौरान लगातार अध्ययन और सहयोग से मुख्य प्रावधानों को बेहतर बनाने और तकनीक के विकास के साथ-साथ इस फ़्रेमवर्क को असरदार बनाए रखने में मदद मिल सकती है. OpenAI इस काम में सहयोग करने और ऐसे AI अनुभव बनाना जारी रखने के लिए उत्सुक है जो मज़बूत, ऑटोमैटिक सुरक्षा और सीखने व आगे बढ़ने के सार्थक मौकों के साथ टीनएजर को उनके हिसाब का ही सम्मान दे.