पेश है ChatGPT में Trusted Contact

लोग ChatGPT का उपयोग सीखने, विचारों को परखने, समस्याओं को सुलझाने और निजी सवालों पर सोचने के लिए करते हैं. कभी-कभी इन बातचीतों में ऐसे पल भी आ सकते हैं जब कोई व्यक्ति जूझ रहा हो या सहारे की तलाश में हो. हमारा लक्ष्य ऐसे सिस्टम डिज़ाइन करना है जो संवेदनशील बातचीतों पर सोच-समझकर प्रतिक्रिया दें और ज़रूरत पड़ने पर लोगों को वास्तविक दुनिया की मदद से जुड़ने के लिए प्रोत्साहित करें.

आज हम Trusted Contact को रोल आउट करना शुरू कर रहे हैं, जो ChatGPT में एक वैकल्पिक सुरक्षा फ़ीचर है. यह वयस्कों को किसी भरोसेमंद व्यक्ति, जैसे दोस्त, परिवार के सदस्य या देखभाल करने वाले, को नामित करने की सुविधा देता है, जिन्हें तब सूचित किया जा सकता है जब हमारे स्वचालित सिस्टम और प्रशिक्षित समीक्षक यह पहचानें कि नामांकित व्यक्ति ने संभवतः खुद को नुकसान पहुंचाने के बारे में ऐसे तरीके से बात की है जो गंभीर सुरक्षा चिंता दर्शाता है. Trusted Contact को ChatGPT में पहले से उपलब्ध स्थानीयकृत हेल्पलाइनों⁠ के साथ एक अतिरिक्त सहारा देने के लिए डिज़ाइन किया गया है, ताकि संकट के समय उपयोगकर्ता अपने भरोसेमंद व्यक्ति से जुड़ सकें.

Trusted Contact, पेरेंटल कंट्रोल सुरक्षा सूचनाओं⁠(एक नई विंडो में खुलेगा) पर आधारित है, जो लिंक किए गए किशोर खाते में तीव्र संकट के संकेत मिलने पर माता-पिता या अभिभावकों को अलर्ट प्राप्त करने की सुविधा देती हैं. अब हम अपने सुरक्षा अलर्ट विकल्पों का विस्तार कर रहे हैं ताकि 18 वर्ष से अधिक आयु का कोई भी व्यक्ति अपने Trusted Contact के रूप में किसी भरोसेमंद व्यक्ति को जोड़ सके.

विशेषज्ञ मार्गदर्शन⁠(एक नई विंडो में खुलेगा) सामाजिक जुड़ाव को आत्महत्या के जोखिम को कम करने वाले सबसे महत्वपूर्ण सुरक्षा कारकों में से एक बताता है. Trusted Contact⁠(एक नई विंडो में खुलेगा) को ऐसे व्यक्ति से जुड़ाव बढ़ाने के लिए बनाया गया है जिस पर उपयोगकर्ता पहले से भरोसा करता है. यह पेशेवर देखभाल या संकट सेवाओं का विकल्प नहीं है, बल्कि संकट में लोगों की मदद के लिए कई सुरक्षा परतों में से एक है. उचित होने पर ChatGPT अब भी उपयोगकर्ताओं को संकट हेल्पलाइन या आपातकालीन सेवाओं से संपर्क करने के लिए प्रोत्साहित करेगा.

• उपयोगकर्ता अपनी ChatGPT सेटिंग्स से एक वयस्क को (वैश्विक स्तर पर 18+ या दक्षिण कोरिया में 19+) अपने Trusted Contact के रूप में जोड़ सकते हैं.
• Trusted Contact को उनकी भूमिका समझाने वाला एक निमंत्रण मिलेगा और फ़ीचर सक्रिय होने के लिए उन्हें एक सप्ताह के भीतर इसे स्वीकार करना होगा. यदि Trusted Contact मना करता है, तो उपयोगकर्ता किसी दूसरे वयस्क को जोड़ सकते हैं.
• यदि हमारे स्वचालित मॉनिटरिंग सिस्टम यह पहचानते हैं कि उपयोगकर्ता संभवतः खुद को नुकसान पहुंचाने के बारे में ऐसे तरीके से बात कर रहा है जो गंभीर सुरक्षा चिंता दिखाता है, तो ChatGPT उपयोगकर्ता को बताता है कि हम उनके Trusted Contact को सूचित कर सकते हैं, और सुझाए गए बातचीत शुरू करने वाले वाक्यों के साथ उपयोगकर्ता को अपने Trusted Contact से संपर्क करने के लिए प्रोत्साहित करता है.
• इसके बाद, विशेष रूप से प्रशिक्षित लोगों की एक छोटी टीम स्थिति की समीक्षा करती है. यदि ये समीक्षक तय करते हैं कि बातचीत गंभीर सुरक्षा चिंता दिखा सकती है, तो ChatGPT Trusted Contact को ईमेल, टेक्स्ट संदेश, या यदि उनका ChatGPT खाता है तो इन-ऐप सूचना के ज़रिए एक संक्षिप्त सूचना भेजेगा
• यह सूचना जानबूझकर सीमित रखी जाती है. इसमें सामान्य कारण साझा किया जाता है कि खुद को नुकसान पहुंचाने की बात संभावित रूप से चिंताजनक तरीके से सामने आई, और Trusted Contact को हालचाल लेने के लिए प्रोत्साहित किया जाता है. उपयोगकर्ता की गोपनीयता की रक्षा के लिए इसमें चैट विवरण या ट्रांसक्रिप्ट शामिल नहीं होते. इस सूचना में संवेदनशील बातचीतों को संभालने के लिए विशेषज्ञ मार्गदर्शन⁠(एक नई विंडो में खुलेगा) का लिंक भी शामिल होता है.
• उपयोगकर्ता सेटिंग्स में कभी भी अपने Trusted Contact को हटा या संपादित कर सकते हैं और Trusted Contact भी हमारे हेल्प सेंटर.⁠(एक नई विंडो में खुलेगा)से कभी भी खुद को हटा सकता है.

हालाँकि ये गंभीर सुरक्षा स्थितियाँ दुर्लभ हैं, लेकिन जब वे सामने आती हैं, तो हमारे सिस्टम समय पर समीक्षा और प्रतिक्रिया के लिए डिज़ाइन किए गए हैं. कोई भी सिस्टम पूर्ण नहीं होता, और Trusted Contact को भेजी गई सूचना हमेशा किसी व्यक्ति के अनुभव को पूरी तरह सटीक रूप से नहीं दर्शा सकती, फिर भी हर सूचना भेजे जाने से पहले प्रशिक्षित मानव समीक्षा से गुजरती है, और हम इन सुरक्षा सूचनाओं की समीक्षा एक घंटे से कम समय में करने का प्रयास करते हैं.

हमने Trusted Contact को क्लिनिशियन, शोधकर्ताओं और मानसिक स्वास्थ्य तथा आत्महत्या रोकथाम में विशेषज्ञता रखने वाले संगठनों के मार्गदर्शन के साथ विकसित किया है. यह काम हमारे Global Physicians Network⁠, से प्रेरित है, जो 60 देशों में 260 से अधिक लाइसेंस प्राप्त चिकित्सकों का नेटवर्क है, और हमारे Well-Being and AI पर Expert Council⁠ से भी. हमने American Psychological Association.⁠(एक नई विंडो में खुलेगा)समेत बाहरी संगठनों के साथ भी क़रीबी सहयोग किया.

Trusted Contact के अलावा, ChatGPT में ऐसे सुरक्षा उपाय हैं जो हर चरण में संवेदनशील बातचीतों को दिशा देने में मदद करते हैं. हमने बातचीत में व्यक्त विभिन्न जोखिम स्तरों पर सिस्टम की प्रतिक्रिया को बेहतर बनाना जारी रखा है:

• वास्तविक दुनिया की मदद का समर्थन: संवेदनशील पलों में, ChatGPT लोगों को आपातकालीन सेवाओं, संकट हेल्पलाइनों, मानसिक स्वास्थ्य पेशेवरों या अपने जीवन के भरोसेमंद लोगों से संपर्क करने के लिए प्रोत्साहित कर सकता है.
• सावधानी से प्रतिक्रिया देना: हमने 170+ मानसिक स्वास्थ्य विशेषज्ञों⁠ के साथ काम किया है ताकि ChatGPT की संभावित संकट के संकेत पहचानने, प्रतिक्रिया देने, बातचीत को शांत करने और उचित होने पर लोगों को वास्तविक दुनिया के सहारे की ओर मार्गदर्शित करने की क्षमता बेहतर हो सके.
• लोगों को अपने समय पर नियंत्रण बनाए रखने में मदद करना: कुछ स्थितियों में, ChatGPT स्वस्थ तकनीकी आदतों को बढ़ावा देने के लिए लंबे समय तक उपयोग के बाद ब्रेक लेने या थोड़ी देर दूर रहने का सुझाव दे सकता है.
• हानिकारक अनुरोधों को अस्वीकार करना: ChatGPT को आत्महत्या या खुद को नुकसान पहुंचाने के निर्देश देने से मना करने के लिए प्रशिक्षित किया गया है. जब उपयोगकर्ता इस तरह की जानकारी मांगते हैं, तो सिस्टम को अनुरोध अस्वीकार करने, सुरक्षित प्रतिक्रियाओं की ओर मोड़ने और स्थानीयकृत संकट संसाधन दिखाने के लिए प्रशिक्षित किया गया है.

Trusted Contact, OpenAI के उस व्यापक प्रयास का हिस्सा है जिसके तहत ऐसे AI सिस्टम बनाए जा रहे हैं जो कठिन पलों में लोगों की मदद करें.⁠ हम क्लिनिशियन, शोधकर्ताओं और नीति-निर्माताओं के साथ काम करना जारी रखेंगे ताकि जब लोग संकट का अनुभव कर रहे हों, तब AI सिस्टम की प्रतिक्रिया को और बेहतर बनाया जा सके. हमारा लक्ष्य यह सुनिश्चित करना है कि AI सिस्टम अलग-थलग न हों. इसके बजाय, उन्हें लोगों को उस वास्तविक दुनिया की देखभाल, रिश्तों और संसाधनों से जोड़ने में मदद करनी चाहिए जो सबसे ज़्यादा मायने रखते हैं.