معرفی Trusted Contact در ChatGPT
برقراری ارتباط میان شما و کسی که به او اعتماد دارید، درست زمانی که بیشترین اهمیت را دارد.
مردم از ChatGPT برای یادگیری، بررسی ایدهها، حل مسئله و تأمل درباره پرسشهای شخصی استفاده میکنند. گاهی این گفتگوها میتوانند شامل لحظاتی باشند که کسی در حال تقلاست یا به دنبال حمایت میگردد. هدف ما طراحی سیستمهایی است که به گفتگوهای حساس با دقت پاسخ دهند و افراد را در صورت نیاز به برقراری ارتباط با کمک در دنیای واقعی تشویق کنند.
امروز در حال آغاز عرضه تدریجی Trusted Contact، یک ویژگی ایمنی اختیاری در ChatGPT هستیم که به بزرگسالان اجازه میدهد فردی را که به او اعتماد دارند، مانند دوست، عضو خانواده، یا مراقب، معرفی کنند؛ فردی که ممکن است در صورتی مطلع شود که سیستمهای خودکار و بازبینان آموزشدیده ما تشخیص دهند فرد ثبتنامشده ممکن است درباره آسیب رساندن به خود بهگونهای صحبت کرده باشد که نشاندهنده نگرانی جدی ایمنی است. Trusted Contact طراحی شده است تا در کنار خطوط کمک بومیشده که از قبل در ChatGPT در دسترس هستند، لایه دیگری از پشتیبانی در زمان بحرانی را از طریق کمک به کاربران برای برقراری ارتباط با فردی که به او اعتماد دارند، ارائه دهد
Trusted Contact بر اعلانهای ایمنی کنترلهای والدین(در یک پنجره جدید باز میشود) تکیه دارد، که به والدین یا سرپرستان اجازه میدهند وقتی نشانههایی از پریشانی حاد برای حساب نوجوان لینکشده وجود دارد، هشدار دریافت کنند. اکنون، گزینههای هشدار ایمنی خود را گسترش میدهیم تا هر فرد بالای ۱۸ سال بتواند فردی را که به او اعتماد دارد بهعنوان Trusted Contact خود اضافه کند.
راهنمایی متخصصان(در یک پنجره جدید باز میشود) ارتباط اجتماعی را یکی از مهمترین عوامل محافظتی برای کاهش خطر خودکشی میداند. Trusted Contact(در یک پنجره جدید باز میشود) برای تشویق به ارتباط با کسی طراحی شده است که کاربر از پیش به او اعتماد دارد. این قابلیت جایگزین مراقبت حرفهای یا خدمات بحران نیست و یکی از چندین لایه حفاظتی برای حمایت از افراد در وضعیت آشفتگی است. ChatGPT همچنان در مواقع مناسب کاربران را به تماس با خطوط بحران یا خدمات اضطراری تشویق خواهد کرد.
«علم روانشناسی بهطور پیوسته نشان میدهد که ارتباط اجتماعی یک عامل محافظتی قدرتمند است، بهویژه در دورههای پریشانی عاطفی. کمک به افراد برای شناسایی یک فرد مورداعتماد از پیش، در عین حفظ انتخاب و استقلال آنها، میتواند تماس گرفتن با پشتیبانی در دنیای واقعی را در زمانی که بیشترین اهمیت را دارد آسانتر کند.»
- کاربران میتوانند از تنظیمات ChatGPT خود، یک بزرگسال (۱۸+ در سراسر جهان یا ۱۹+ در کره جنوبی) را بهعنوان Trusted Contact خود اضافه کنند.
- Trusted Contact دعوتنامهای دریافت میکند که نقش او را توضیح میدهد و باید ظرف یک هفته آن را بپذیرد تا این قابلیت فعال شود. اگر Trusted Contact نپذیرد، کاربر میتواند بزرگسال دیگری را انتخاب کند.
- اگر سیستمهای پایش خودکار ما تشخیص دهند که کاربر ممکن است درباره خودآسیبی به شکلی صحبت کند که نشاندهنده یک نگرانی جدی ایمنی است، ChatGPT به کاربر اطلاع میدهد که ممکن است Trusted Contact او را مطلع کنیم و او را تشویق میکند با پیشنهادهایی برای شروع گفتگو، با Trusted Contact ارتباط بگیرد.
- پس از آن، تیم کوچکی از افراد دارای آموزش ویژه وضعیت را بررسی میکنند. اگر این بازبینها تشخیص دهند که گفتگو ممکن است نشاندهنده یک نگرانی جدی ایمنی باشد، ChatGPT اعلان کوتاهی از طریق ایمیل، پیامک یا اعلان درونبرنامهای برای Trusted Contact ارسال میکند، اگر او حساب ChatGPT داشته باشد
- اعلان عمداً محدود است. این اعلان دلیل کلی را به اشتراک میگذارد مبنی بر اینکه خودآزاری به شکلی بالقوه نگرانکننده مطرح شده است، و Trusted Contact را تشویق میکند که پیگیری کند. برای محافظت از حریم خصوصی کاربر، جزئیات چت یا رونوشتها را شامل نمیشود. این اعلان همچنین شامل لینکی به راهنمایی(در یک پنجره جدید باز میشود) تخصصی برای مدیریت مکالمات حساس است.
- کاربران همیشه میتوانند در تنظیمات، Trusted Contact خود را حذف یا ویرایش کنند و Trusted Contact نیز میتواند هر زمان از طریق مرکز راهنمای ما خود را حذف کند.(در یک پنجره جدید باز میشود)
اگرچه این موقعیتهای جدی ایمنی نادر هستند، اما وقتی رخ میدهند، سیستمهای ما برای پشتیبانی از بررسی و پاسخ بهموقع طراحی شدهاند. با اینکه هیچ سیستمی کامل نیست و اعلان به Trusted Contact ممکن است همیشه دقیقاً بازتابدهنده آنچه فرد تجربه میکند نباشد، هر اعلان پیش از ارسال تحت بررسی فردی آموزشدیده قرار میگیرد و ما تلاش میکنیم این اعلانهای ایمنی را در کمتر از یک ساعت بررسی کنیم.
ما Trusted Contact را با راهنمایی پزشکان، پژوهشگران و سازمانهایی توسعه دادیم که در سلامت روان و پیشگیری از خودکشی تخصص دارند. این کار با الهام از شبکه جهانی پزشکان ما، شبکهای متشکل از بیش از ۲۶۰ پزشک دارای مجوز در ۶۰ کشور، و شورای تخصصی رفاه و AI ما شکل گرفته است. همچنین با سازمانهای بیرونی از جمله انجمن روانشناسی آمریکا از نزدیک همکاری کردیم.(در یک پنجره جدید باز میشود)
«یکی از بزرگترین وعدههای AI این است که چگونه میتواند ارتباط اصیل انسانبهانسان و امنیت روانی را تقویت کند. ویژگی Trusted Contact در ChatGPT که گامی رو به جلو برای توانمندسازی انسان ارائه میدهد، بهویژه در لحظات آسیبپذیری، برای من دلگرمکننده است.»
علاوه بر Trusted Contact، ChatGPT در هر مرحله سازوکارهای حفاظتی دارد تا به هدایت گفتگوهای حساس کمک کند. ما همچنان در حال بهبود شیوه پاسخگویی سیستم به سطوح مختلف خطرِ بیانشده در یک گفتگو بودهایم:
- حمایت از کمک در دنیای واقعی: در لحظات حساس، ChatGPT ممکن است افراد را به تماس با خدمات اضطراری، خطوط بحران، متخصصان سلامت روان یا افراد مورد اعتماد در زندگیشان تشویق کند.
- پاسخگویی با دقت و ملاحظه: ما با بیش از ۱۷۰ متخصص سلامت روان همکاری کردهایم تا توانایی ChatGPT برای تشخیص و پاسخ به نشانههای احتمالی آشفتگی، کاهش تنش در گفتگوها و هدایت افراد به حمایت در دنیای واقعی در مواقع مناسب را بهبود دهیم.
- کمک به افراد برای حفظ کنترل بر زمان خود: در برخی موقعیتها، ChatGPT ممکن است پس از استفاده طولانیمدت، برای ترویج عادتهای سالم در استفاده از فناوری، پیشنهاد دهد که کاربر استراحت کند یا مدتی فاصله بگیرد.
- رد درخواستهای زیانبار: ChatGPT آموزش دیده است که از ارائه دستورالعمل برای خودکشی یا خودآسیبی خودداری کند. وقتی کاربران چنین اطلاعاتی را درخواست میکنند، سیستم آموزش دیده است که درخواست را رد کند و در عوض به پاسخهای ایمنتر هدایت کند و منابع محلیِ بحران را نمایش دهد.
Trusted Contact بخشی از تلاش گستردهتر OpenAI برای ساخت سیستمهای AI است که در لحظات دشوار به افراد کمک میکنند. ما به همکاری با متخصصان بالینی، پژوهشگران، و سیاستگذاران ادامه خواهیم داد تا نحوه پاسخدهی سیستمهای AI را هنگامی که افراد ممکن است دچار پریشانی باشند بهبود دهیم. هدف ما این است که اطمینان حاصل کنیم سیستمهای AI در انزوا وجود ندارند. در عوض، باید به برقراری ارتباط افراد با مراقبت، روابط، و منابع دنیای واقعی که بیشترین اهمیت را دارند کمک کنند.
