يستخدم الأشخاص ChatGPT للتعلّم، واستكشاف الأفكار، وحل المشكلات، والتأمل في الأسئلة الشخصية. وأحيانًا قد تتضمن هذه المحادثات لحظات يمرّ فيها شخص بصعوبة أو يبحث فيها عن دعم. وهدفنا هو تصميم أنظمة تستجيب بعناية للمحادثات الحساسة وتشجّع الناس على التواصل مع مصادر مساعدة في العالم الحقيقي عند الحاجة.
نبدأ اليوم طرح جهة الاتصال الموثوقة، وهي ميزة أمان اختيارية في ChatGPT تتيح للبالغين ترشيح شخص يثقون به، مثل صديق أو فرد من العائلة أو مقدم رعاية، قد يتم إخطاره إذا رصدت أنظمتنا الآلية والمراجعون المدرَّبون أن الشخص المسجَّل ربما تحدث عن إيذاء نفسه بطريقة تشير إلى وجود مصدر قلق خطير يتعلق بالسلامة. وصُممت جهة الاتصال الموثوقة لتوفير طبقة دعم إضافية إلى جانب خطوط المساعدة المحلية المتاحة بالفعل في ChatGPT، من خلال مساعدة المستخدمين على التواصل مع شخص يثقون به عندما يكونون في أزمة.
تستند جهة الاتصال الموثوقة إلى إشعارات أمان الرقابة الأبوية(يفتح في نافذة جديدة)، التي تتيح للوالدين أو الأوصياء تلقي تنبيهات عند ظهور مؤشرات على ضيق حاد في حساب مراهق مرتبط. والآن نوسّع خيارات تنبيهات السلامة لدينا بحيث يمكن لأي شخص فوق 18 عامًا اختيار إضافة شخص يثق به كجهة اتصال موثوقة.
تحدّد إرشادات الخبراء(يفتح في نافذة جديدة) التواصل الاجتماعي باعتباره أحد أهم العوامل الوقائية للحد من خطر الانتحار. وقد صُممت جهة الاتصال الموثوقة(يفتح في نافذة جديدة) لتشجيع التواصل مع شخص يثق به المستخدم بالفعل. وهي لا تحل محل الرعاية المهنية أو خدمات الأزمات، بل تمثل إحدى طبقات الحماية المتعددة لدعم الأشخاص الذين يمرون بضيق. وسيواصل ChatGPT تشجيع المستخدمين على التواصل مع خطوط الأزمات الساخنة أو خدمات الطوارئ عند الاقتضاء.
«تُظهر العلوم النفسية باستمرار أن التواصل الاجتماعي عامل وقائي قوي، خاصة خلال فترات الضيق العاطفي. ومساعدة الأشخاص على تحديد شخص موثوق مسبقًا، مع الحفاظ على حرية اختيارهم واستقلاليتهم، يمكن أن تجعل طلب الدعم الواقعي أسهل عندما تشتد الحاجة إليه.»
- يمكن للمستخدمين إضافة شخص بالغ واحد (18+ عالميًا أو 19+ في كوريا الجنوبية) كجهة اتصال موثوقة لهم من إعدادات ChatGPT.
- ستتلقى جهة الاتصال الموثوقة دعوة تشرح دورها، ويجب عليها قبول الدعوة خلال أسبوع واحد حتى تصبح الميزة نشطة. وإذا رفضت جهة الاتصال الموثوقة الدعوة، يمكن للمستخدم اختيار إضافة شخص بالغ مختلف.
- إذا رصدت أنظمة المراقبة الآلية لدينا أن المستخدم قد يتحدث عن إيذاء النفس بطريقة تشير إلى وجود مصدر قلق خطير يتعلق بالسلامة، فسيُبلغ ChatGPT المستخدم بأنه قد نقوم بإخطار جهة الاتصال الموثوقة الخاصة به، ويشجعه على التواصل معها من خلال اقتراح بدايات للمحادثة.
- بعد ذلك، يراجع فريق صغير من الأشخاص المدرَّبين تدريبًا خاصًا الحالة. وإذا قرر هؤلاء المراجعون أن المحادثة قد تشير إلى مصدر قلق خطير يتعلق بالسلامة، فسيرسل ChatGPT إلى جهة الاتصال الموثوقة إشعارًا موجزًا عبر البريد الإلكتروني أو الرسائل النصية أو إشعارًا داخل التطبيق إذا كان لديها حساب ChatGPT
- الإشعار محدود عن قصد. فهو يشارك السبب العام لظهور موضوع إيذاء النفس بطريقة قد تكون مثيرة للقلق، ويشجّع جهة الاتصال الموثوقة على الاطمئنان. ولا يتضمن تفاصيل الدردشة أو النصوص المفرغة لحماية خصوصية المستخدم. كما يتضمن الإشعار رابطًا إلى إرشادات(يفتح في نافذة جديدة) خبراء للتعامل مع المحادثات الحساسة.
- يمكن للمستخدمين دائمًا إزالة جهة الاتصال الموثوقة الخاصة بهم أو تعديلها في الإعدادات، كما يمكن لجهة الاتصال الموثوقة إزالة نفسها في أي وقت من مركز المساعدة.(يفتح في نافذة جديدة)
ورغم أن حالات السلامة الخطيرة هذه نادرة، فإن أنظمتنا مصممة، عند حدوثها، لدعم المراجعة والاستجابة في الوقت المناسب. ومع أنه لا يوجد نظام مثالي، وقد لا يعكس الإخطار المرسل إلى جهة اتصال موثوقة دائمًا بدقة ما يمر به الشخص، فإن كل إخطار يخضع لمراجعة بشرية مدرَّبة قبل إرساله، ونسعى إلى مراجعة إشعارات السلامة هذه خلال أقل من ساعة.
طوّرنا جهة الاتصال الموثوقة بتوجيه من أطباء وباحثين ومنظمات متخصصة في الصحة النفسية والوقاية من الانتحار. ويسترشد هذا العمل بـ شبكة الأطباء العالمية لدينا، وهي شبكة تضم أكثر من 260 طبيبًا مرخصًا في 60 دولة، وكذلك مجلس الخبراء للرفاه والذكاء الاصطناعي. كما عملنا عن كثب مع منظمات خارجية، بما في ذلك الجمعية الأمريكية لعلم النفس.(يفتح في نافذة جديدة)
«من أكبر وعود الذكاء الاصطناعي قدرته على تعزيز التواصل الإنساني الحقيقي بين البشر وتعزيز الأمان النفسي. ويشجعني إطلاق ميزة جهة الاتصال الموثوقة في ChatGPT، إذ تمثل خطوة إلى الأمام نحو تمكين الإنسان، خاصة في لحظات الهشاشة.»
بالإضافة إلى جهة الاتصال الموثوقة، يتضمن ChatGPT وسائل حماية للمساعدة في توجيه المحادثات الحساسة في كل مرحلة. وقد واصلنا تحسين طريقة استجابة النظام لمستويات المخاطر المختلفة التي قد يتم التعبير عنها في المحادثة:
- دعم المساعدة في العالم الحقيقي: في اللحظات الحساسة، قد يشجع ChatGPT الأشخاص على التواصل مع خدمات الطوارئ أو خطوط الأزمات أو متخصصي الصحة النفسية أو الأشخاص الموثوقين في حياتهم.
- الاستجابة بعناية: لقد عملنا مع أكثر من 170 خبيرًا في الصحة النفسية لتحسين قدرة ChatGPT على اكتشاف مؤشرات الضيق المحتمل والاستجابة لها، وتهدئة تصعيد المحادثات، وتوجيه الأشخاص إلى الدعم الواقعي عند الاقتضاء.
- مساعدة الأشخاص على البقاء مسيطرين على وقتهم: في بعض الحالات، قد يقترح ChatGPT أخذ استراحة أو الابتعاد بعد استخدام ممتد لتعزيز العادات الصحية في استخدام التكنولوجيا.
- رفض الطلبات الضارة: تم تدريب ChatGPT على رفض تقديم تعليمات للانتحار أو إيذاء النفس. وعندما يطلب المستخدمون هذا النوع من المعلومات، يُدرَّب النظام على رفض الطلب وتوجيههم بدلًا من ذلك إلى استجابات أكثر أمانًا، كما سيعرض موارد أزمات محلية.
تُعد جهة الاتصال الموثوقة جزءًا من الجهد الأوسع الذي تبذله OpenAI لبناء أنظمة ذكاء اصطناعي تساعد الأشخاص خلال اللحظات الصعبة. وسنواصل العمل مع الأطباء والباحثين وواضعي السياسات لتحسين كيفية استجابة أنظمة الذكاء الاصطناعي عندما قد يمر الأشخاص بحالة من الضيق. وهدفنا هو ضمان ألا توجد أنظمة الذكاء الاصطناعي بمعزل عن غيرها، بل أن تساعد في ربط الناس بالرعاية الواقعية والعلاقات والموارد التي تهمهم أكثر من غيرها.
