हमारे कुछ सिद्धांत एक-दूसरे के विपरीत हैं, और हम 13 से 19 साल की उम्र वाले बच्चों की सुरक्षा, आज़ादी और प्राइवेसी के बीच तनाव के मामले में लिए गए फ़ैसलों के बारे में बताना चाहेंगे.
ये हमारे लिए और समाज के लिए बेहद ज़रूरी है कि AI के इस्तेमाल में प्राइवेसी के अधिकार की रक्षा की जाए. लोग AI से पर्सनल चीज़ों के बारे में बात करते हैं; ये टेक्नोलॉजी के पिछले जनरेशन्स से अलग है, और हमारा मानना है कि ये आपके लिए अब तक की सबसे ज़्यादा पर्सनल तौर पर सेंसिटिव बातों में से एक हो सकती है. अगर आप किसी डॉक्टर से अपनी मेडिकल हिस्टरी के बारे में या किसी वकील से किसी कानूनी स्थिति के बारे में बात करते हैं, तो हमने फ़ैसला लिया है कि ये समाज के सबसे अच्छे हित में है कि उस जानकारी को ख़ास अधिकार दिया जाए और उसे और ज़्यादा ऊंचे लेवल की सुरक्षा दी जाए. हमारा मानना है कि AI के साथ बातचीत में भी उसी लेवल की सुरक्षा लागू होनी चाहिए, जिसका इस्तेमाल लोग सेंसिटिव सवालों और प्राइवेट चिंताओं के लिए तेज़ी से कर रहे हैं. हम पॉलिसी बनाने वालों के सामने इस विषय पर वकालत कर रहे हैं.
हम एडवांस्ड सिक्यूरिटी फ़ीचर्स डेवलप कर रहे हैं ताकि ये पक्का किया जा सके कि आपका डेटा प्राइवेट रहे, यहां तक कि OpenAI के कर्मचारियों से भी. दूसरी कैटेगरियों में ख़ास अधिकार की तरह, इसमें भी कुछ एक्सेप्शन होंगे: जैसे कि, ऑटोमेटेड सिस्टम्स मुमकिन गंभीर तरीके से गलत इस्तेमाल को मॉनिटर करेंगी, और सबसे क्रिटिकल रिस्क—किसी की ज़िंदगी के लिए खतरा, दूसरों को नुकसान पहुंचाने के प्लैन्स, या एक बहुत बड़ी मुमकिन साइबर सिक्यूरिटी घटना जैसे सोसाइटी के लेवल पर नुकसान—को ह्यूमन रिव्यु के लिए आगे बढ़ाया जा सकता है.
दूसरा सिद्धांत आज़ादी के बारे में है. हम चाहते हैं कि यूज़र्स हमारे टूल्स का इस्तेमाल अपनी इच्छा के अनुसार, सुरक्षा की बढ़ी हुई सीमाओं के अंदर कर सकें. हम समय के साथ-साथ यूज़र्स की आज़ादी बढ़ाने के लिए काम कर रहे हैं, क्योंकि हमारे मॉडल्स और ज़्यादा इस्तेमाल करने लायक बनते जा रहे हैं. जैसे कि, हमारे मॉडल का डिफ़ॉल्ट बेहवियर बहुत ज़्यादा छेड़खानी वाली बातचीत नहीं करेगा, लेकिन अगर कोई एडल्ट यूज़र ऐसा करना चाहेगा, तो उन्हें ये मिल जाना चाहिए. एक और ज़्यादा मुश्किल उदाहरण के तौर पर, मॉडल को डिफ़ॉल्ट तरीके से आत्महत्या करने के बारे में निर्देश नहीं देना चाहिए, लेकिन अगर कोई एडल्ट यूज़र आत्महत्या को दर्शाने वाली काल्पनिक कहानी लिखने में मदद मांग रहा हो, तो मॉडल को ऐसी रिक्वेस्ट में मदद करनी चाहिए. हम इंटर्नल तौर पर इस बारे में ये बात करते हैं कि "हमारे एडल्ट यूज़र्स के साथ बड़ों जैसा बर्ताव करें", और किसी को नुकसान पहुंचाए बिना या किसी की आज़ादी को कम किए बिना जहां तक मुमकिन हो आज़ादी बढ़ाते हैं.
तीसरा सिद्धांत 13 से 19 साल की उम्र वाले बच्चों की सुरक्षा से जुड़ा है. हम 13 से 19 साल की उम्र वाले बच्चों की प्राइवेसी और आज़ादी से पहले उनकी सुरक्षा को एहमियत देते हैं; ये एक नई और पॉवरफ़ुल टेक्नोलॉजी है, और हमारा मानना है कि नाबालिगों को बहुत ज़्यादा सुरक्षा की ज़रुरत है.
सबसे पहले, हमें 18 साल से कम उम्र वाले यूज़र्स को उनसे अलग करना होगा जो 18 तक के नहीं हैं (ChatGPT 13 साल और उससे ज़्यादा उम्र के लोगों के लिए है). हम एक उम्र का पहले से अंदाज़ा लगाने वाला सिस्टम बना रहे हैं जो लोगों द्वारा ChatGPT के इस्तेमाल के आधार पर उम्र का अंदाज़ा लगाएगा. अगर कोई शंका हो, तो हम सुरक्षित तरीके से काम करेंगे और 18 साल से कम उम्र के अनुभव को ही चुनेंगे. कुछ मामलों या देशों में हम IDर भी मांग सकते हैं; हम जानते हैं कि ये बड़ों की प्राइवेसी से समझौता है, लेकिन हमारा मानना है कि ये एक सही समझौता है.
हम अपनी सेवाओं का इस्तेमाल करने वाले 13 से 19 साल की उम्र वाले बच्चों पर अलग नियम लागू करेंगे. जैसे कि, ChatGPT को ट्रेन किया जाएगा कि अगर उनसे कहा जाए तो वे ऊपर बताई गई छेड़खानी वाली बातें न करें, या क्रिएटिव राइटिंग सेटिंग में भी आत्महत्या या खुद को नुकसान पहुंचाने के बारे में चर्चा में शामिल न हों. और, अगर 18 साल से कम उम्र वाले किसी यूज़र के मन में आत्महत्या के विचार आ रहे हों, तो हम यूज़र के माता-पिता से संपर्क करने की कोशिश करेंगे और अगर ऐसा मुमकिन न हो, तो नहीं टाले जा सकने वाले ख़तरों की स्थिति में अधिकारियों से संपर्क करेंगे. हमने आज इस बारे में और ज़्यादा जानकारी शेयर की कि हम ये सब काम करने के लिए उम्र का पहले से अंदाज़ा लगाने वाले सिस्टम और नए पैरेंटल कंट्रोल्स कैसे बना रहे हैं.
हम समझते हैं कि इन सिद्धांतों में टकराव है और हम जिस तरह से इस टकराव को सुलझा रहे हैं, उससे सभी लोग सहमत नहीं होंगे. ये बहुत मुश्किल फ़ैसले हैं, लेकिन एक्सपर्ट्स से बात करने के बाद, हमें लगता है कि यही सबसे अच्छा है और हम अपने इरादों में पारदर्शी होना चाहते हैं.
