Memperkenalkan Trusted Contact di ChatGPT
Menghubungkan Anda dengan seseorang yang Anda percaya saat itu paling dibutuhkan.
Orang menggunakan ChatGPT untuk belajar, mengeksplorasi ide, memecahkan masalah, dan merenungkan pertanyaan pribadi. Terkadang percakapan tersebut dapat melibatkan momen ketika seseorang mungkin sedang kesulitan atau mencari dukungan. Tujuan kami adalah merancang sistem yang merespons percakapan sensitif secara bijaksana dan mendorong orang untuk terhubung dengan bantuan di dunia nyata saat diperlukan.
Hari ini kami mulai meluncurkan Trusted Contact, fitur keselamatan opsional di ChatGPT yang memungkinkan orang dewasa menunjuk seseorang yang mereka percaya, seperti teman, anggota keluarga, atau pengasuh, yang dapat diberi tahu jika sistem otomatis dan peninjau terlatih kami mendeteksi bahwa orang yang terdaftar mungkin telah membicarakan tindakan menyakiti diri sendiri dengan cara yang menunjukkan kekhawatiran keselamatan yang serius. Trusted Contact dirancang untuk menawarkan lapisan dukungan tambahan bersama saluran bantuan lokal yang sudah tersedia di ChatGPT, dengan membantu pengguna terhubung kepada orang yang mereka percaya saat mereka berada dalam krisis.
Trusted Contact dibangun di atas notifikasi keselamatan pengawasan orang tua(terbuka di jendela baru), yang memungkinkan orang tua atau wali menerima peringatan ketika ada tanda-tanda tekanan berat pada akun remaja yang terhubung. Kini, kami memperluas opsi peringatan keselamatan kami sehingga siapa pun yang berusia di atas 18 tahun dapat memilih untuk menambahkan seseorang yang mereka percaya sebagai Trusted Contact mereka.
Panduan ahli(terbuka di jendela baru) mengidentifikasi koneksi sosial sebagai salah satu faktor pelindung terpenting untuk mengurangi risiko bunuh diri. Trusted Contact(terbuka di jendela baru) dirancang untuk mendorong hubungan dengan seseorang yang sudah dipercaya pengguna. Fitur ini tidak menggantikan perawatan profesional atau layanan krisis, dan merupakan salah satu dari beberapa lapisan perlindungan untuk mendukung orang yang mengalami tekanan. ChatGPT tetap akan mendorong pengguna untuk menghubungi hotline krisis atau layanan darurat bila sesuai.
“Ilmu psikologi secara konsisten menunjukkan bahwa koneksi sosial adalah faktor pelindung yang sangat kuat, terutama pada masa tekanan emosional. Membantu orang mengidentifikasi seseorang yang tepercaya sejak awal, sambil menjaga pilihan dan otonomi mereka, dapat memudahkan mereka menjangkau dukungan di dunia nyata saat itu paling dibutuhkan.”
- Pengguna dapat menambahkan satu orang dewasa (18+ secara global atau 19+ di Korea Selatan) sebagai Trusted Contact mereka dari pengaturan ChatGPT.
- Trusted Contact akan menerima undangan yang menjelaskan perannya dan harus menerima undangan tersebut dalam waktu satu minggu agar fitur ini menjadi aktif. Jika Trusted Contact menolak, pengguna dapat memilih untuk menambahkan orang dewasa lain.
- Jika sistem pemantauan otomatis kami mendeteksi bahwa pengguna mungkin sedang membicarakan tindakan menyakiti diri sendiri dengan cara yang menunjukkan kekhawatiran keselamatan yang serius, ChatGPT memberi tahu pengguna bahwa kami mungkin akan memberi tahu Trusted Contact mereka, dan mendorong pengguna untuk menghubungi Trusted Contact mereka dengan saran pembuka percakapan.
- Dari situ, tim kecil yang terdiri dari orang-orang dengan pelatihan khusus akan meninjau situasinya. Jika para peninjau ini menentukan bahwa percakapan tersebut mungkin menunjukkan kekhawatiran keselamatan yang serius, ChatGPT akan mengirim Trusted Contact notifikasi singkat melalui email, pesan teks, atau notifikasi dalam aplikasi jika mereka memiliki akun ChatGPT
- Notifikasi ini sengaja dibatasi. Notifikasi ini membagikan alasan umum bahwa tindakan menyakiti diri sendiri muncul dengan cara yang berpotensi mengkhawatirkan, dan mendorong Trusted Contact untuk mengecek keadaan pengguna. Notifikasi ini tidak menyertakan detail chat atau transkrip demi melindungi privasi pengguna. Notifikasi ini juga menyertakan tautan ke panduan(terbuka di jendela baru) ahli untuk menavigasi percakapan sensitif.
- Pengguna selalu dapat menghapus atau mengedit Trusted Contact mereka di pengaturan dan Trusted Contact dapat menghapus diri mereka sendiri kapan saja dari pusat bantuan kami.(terbuka di jendela baru)
Meskipun situasi keselamatan serius seperti ini jarang terjadi, ketika memang muncul, sistem kami dirancang untuk mendukung peninjauan dan respons yang tepat waktu. Meski tidak ada sistem yang sempurna, dan notifikasi kepada Trusted Contact mungkin tidak selalu sepenuhnya mencerminkan apa yang dialami seseorang, setiap notifikasi menjalani peninjauan manusia terlatih sebelum dikirim, dan kami berupaya meninjau notifikasi keselamatan ini dalam waktu kurang dari satu jam.
Kami mengembangkan Trusted Contact dengan panduan dari klinisi, peneliti, dan organisasi yang mengkhususkan diri pada kesehatan mental dan pencegahan bunuh diri. Pekerjaan ini diinformasikan oleh Global Physicians Network kami, jaringan yang terdiri dari lebih dari 260 dokter berlisensi di 60 negara, serta Expert Council on Well-Being and AI kami. Kami juga bekerja erat dengan organisasi eksternal termasuk American Psychological Association.(terbuka di jendela baru)
“Salah satu janji terbesar AI adalah kemampuannya membangun hubungan antarmanusia yang autentik dan rasa aman secara psikologis. Saya terdorong oleh fitur Trusted Contact ChatGPT, yang menjadi langkah maju bagi pemberdayaan manusia, terutama pada saat-saat rentan.”
Selain Trusted Contact, ChatGPT memiliki perlindungan untuk membantu memandu percakapan sensitif di setiap tahap. Kami terus meningkatkan cara sistem merespons berbagai tingkat risiko yang diungkapkan dalam percakapan:
- Mendukung bantuan di dunia nyata: Pada momen sensitif, ChatGPT dapat mendorong orang untuk menghubungi layanan darurat, saluran bantuan krisis, profesional kesehatan mental, atau orang tepercaya dalam hidup mereka.
- Merespons dengan penuh kepedulian: Kami telah bekerja dengan 170+ pakar kesehatan mental untuk meningkatkan kemampuan ChatGPT dalam mendeteksi dan merespons tanda-tanda potensi tekanan, meredakan percakapan, dan mengarahkan orang ke dukungan di dunia nyata bila sesuai.
- Membantu orang tetap mengendalikan waktu mereka: Dalam beberapa situasi, ChatGPT dapat menyarankan untuk beristirahat atau menjauh sejenak setelah penggunaan berkepanjangan guna mendorong kebiasaan teknologi yang sehat.
- Menolak permintaan berbahaya: ChatGPT dilatih untuk menolak memberikan instruksi untuk bunuh diri atau menyakiti diri sendiri. Ketika pengguna meminta jenis informasi ini, sistem dilatih untuk menolak permintaan tersebut dan sebagai gantinya mengarahkan ke respons yang lebih aman serta menampilkan sumber daya krisis lokal.
Trusted Contact adalah bagian dari upaya OpenAI yang lebih luas untuk membangun sistem AI yang membantu orang di saat-saat sulit. Kami akan terus bekerja dengan klinisi, peneliti, dan pembuat kebijakan untuk meningkatkan cara sistem AI merespons ketika orang mungkin sedang mengalami tekanan. Tujuan kami adalah memastikan bahwa sistem AI tidak hadir secara terpisah. Sebaliknya, sistem ini harus membantu menghubungkan orang dengan perawatan, hubungan, dan sumber daya di dunia nyata yang paling berarti.
