Mbantu wong nalika dheweke paling butuh

Nalika panggunaan ChatGPT saya mundhak ing saindenging donya, kita weruh wong nggunakké ora mung kanggo panelusuran, coding, lan nulis—nanging uga kanggo keputusan pribadi banget sing kalebu pitutur urip⁠(mbukak ing jendhela anyar), pelatihan⁠(mbukak ing jendhela anyar), lan dhukungan⁠(mbukak ing jendhela anyar).

Ing skala iki, kadhang kala kita nemoni wong sing lagi ngalami tekanan mental lan emosional sing serius. Kita wis nulis babagan iki sawetara minggu kepungkur lan sejatine ngrancang nuduhake luwih akeh sawisé pembaruan gedhe sabanjuré. Nanging, kasus-kasus anyar sing nglarani ati babagan wong sing nggunakké ChatGPT nalika lagi ing tengah krisis akut banget ngendheg ing pikiran kita, lan kita yakin penting kanggo nuduhake luwih akeh saiki.

Tujuan kita yaiku supaya piranti kita bisa mbiyantu wong sabisa-bisané—lan minangka bagéan saka iki, kita terus ningkataké cara model-model kita ngenali lan nanggapi tandha tekanan mental lan emosional lan nyambungaké wong karo perawatan, kanthi pandhuan saka masukan para ahli.

Nalika donya nyelarasaké diri karo teknologi anyar iki, kita ngrasa nduwèni tanggung jawab gedhe kanggo mbantu wong sing paling butuh. Kita pengin nerangaké apa sing dirancang kanggo ditindakake ChatGPT, ing endi sistem kita isih bisa ditingkataké, lan karya mbésuk sing lagi kita rencanakaké.

Tujuan kita dudu kanggo nahan perhatian wong. Tinimbang ngukur kasil saka suwéné wektu utawa klik, kita luwih nggatekaké supaya pancèn migunani. Nalika sawijining pacelathon nuduhaké ana wong sing rentan lan bisa uga ana ing risiko, kita wis mbangun lapisan pengaman bertingkat ing ChatGPT.

Ngenali lan nanggapi kanthi empati.

Wiwit awal 2023, model-model kita wis dilatih supaya ora menehi instruksi nyakiti dhiri lan ngalih menyang basa sing ndhukung lan empatik. Contoné, yen ana wong nulis manawa dheweke pengin nyakiti awake dhewe, ChatGPT dilatih supaya ora nuruti lan malah ngakoni perasaane lan ngarahaké dheweke menyang pitulungan.

Kajaba kuwi, selaras karo pendekatan defense in depth kita, tanggapan sing nentang latihan keamanan model kita—kaya sing diidentifikasi dening classifier kita—bakal diblokir kanthi otomatis, kanthi perlindungan sing luwih kuwat kanggo bocah ing ngisor umur lan panggunaan tanpa mlebu akun. Output gambar sing ana unsur nyakiti dhiri uga diblokir kanggo kabeh wong, kanthi perlindungan luwih kuwat kanggo bocah ing ngisor umur.

Sajeroning sesi sing dawa banget, ChatGPT ngélingaké wong supaya ngaso sedhela.

Ngarahaké wong menyang sumber daya ing donya nyata.

Yen ana wong nuduhaké niyat bunuh diri, ChatGPT dilatih kanggo ngarahaké wong supaya njaluk pitulungan profesional. Ing AS, ChatGPT ngarahaké wong menyang 988 (hotline bunuh diri lan krisis), ing UK menyang Samaritans, lan ing panggon liya menyang findahelpline.com⁠(mbukak ing jendhela anyar). Logika iki dibangun ing prilaku model.

Kita kerja cedhak karo luwih saka 90 dokter ing luwih saka 30 negara—psikiater, dokter anak, lan dokter umum—lan kita lagi nglumpukaké klompok penasihat ahli ing kesehatan mental, pangembangan remaja, lan interaksi manungsa-komputer kanggo mesthekaké pendekatan kita nggambaraké riset paling anyar lan praktik paling apik.

Ningkataké risiko cilaka fisik marang wong liya kanggo tinjauan manungsa.

Nalika kita ndeteksi pangguna sing ngrancang nyilakani wong liya, kita ngarahaké pacelathoné menyang alur khusus supaya ditinjau tim cilik sing dilatih babagan kabijakan panggunaan kita lan diwènèhi wewenang kanggo njupuk tindakan, kalebu mblokir akun. Yen peninjau manungsa netepaké manawa kasus iku nyakup ancaman cilaka fisik serius sing cedhak marang wong liya, kita bisa neruskaké menyang aparat penegak hukum. Saiki kita durung neruskaké kasus nyakiti dhiri menyang aparat penegak hukum kanggo ngajèni privasi wong amarga interaksi ChatGPT nduwèni sipat pribadi banget.

Kita terus ningkataké cara model-model kita nanggapi interaksi sing sensitif, lan saiki lagi nggarap peningkatan keamanan sing ditargetaké ing sawetara area, kalebu ketergantungan emosional, darurat kesehatan mental, lan sikofansi.

Ing Agustus, kita ngluncuraké GPT‑5 minangka model default sing nggerakké ChatGPT. Sakabèhé, GPT‑5 nuduhaké peningkatan sing migunani ing area kaya nyegah tingkat ketergantungan emosional sing ora sehat, nyuda sikofansi, lan nyuda prevalensi tanggapan model sing kurang becik ing darurat kesehatan mental luwih saka 25% dibandhingaké 4o. GPT‑5 uga ngembangaké metode latihan keamanan anyar sing disebut safe completions, sing mulang model supaya sabisa-bisa migunani nalika tetep ana ing wates keamanan. Iki bisa waé tegesé menehi jawaban sebagean utawa tingkat dhuwur tinimbang rincian sing bisa mbebayani.

Sanajan ana pengaman iki, ana wektu nalika sistem kita ora tumindak kaya sing dikarepaké ing kahanan sensitif. Iki sawetara perkara sing lagi kita upayakaké supaya luwih apik.

Nguatké pengaman ing pacelathon dawa.

Pengaman kita luwih bisa dipercaya ing ijolan sing umum lan cekak. Saka wektu ke wektu, kita sinau manawa pengaman iki kadang kurang bisa dipercaya ing interaksi dawa: nalika bolak-balik pacelathon saya dawa, sawetara bagéan saka latihan keamanan model bisa mudhun. Contoné, ChatGPT bisa kanthi bener nuduhaké hotline bunuh diri nalika ana wong pisanan nyebut niyat, nanging sawisé akèh pesen sajrone wektu sing dawa, pungkasane bisa menehi jawaban sing nentang pengaman kita. Iki persis jinis kegagalan sing lagi kita cegah. Kita nguwataké mitigasi iki supaya tetep bisa dipercaya ing pacelathon dawa, lan kita uga nliti cara kanggo njamin prilaku sing kuwat ing pirang-pirang pacelathon. Kanthi mangkono, yen ana wong ngandharaké niyat bunuh diri ing siji chat lan mengko miwiti liyane, model isih bisa nanggapi kanthi trep.

Nyampurnakaké cara kita mblokir konten.

Kita wis weruh sawetara kasus nalika konten sing kuduné diblokir malah ora kablokir. Kekosongan iki biasané kedadéan amarga classifier ngremehaké tingkat seriusé apa sing didelok. Kita lagi nyetel ambang kasebut supaya perlindungan aktif nalika pancèn kuduné aktif.

Prioritas utama kita yaiku mesthekaké ChatGPT ora nggawe momen sing angel dadi luwih elek.

Karya iki ora mandheg mung kanthi ndandani perkara ing ndhuwur. Kita uga ngrancang kanggo: 

Ngluasaké intervensi kanggo luwih akèh wong ing krisis.

Nalika mitigasi awal kita ngutamakaké nyakiti dhiri akut, sawetara wong ngalami bentuk tekanan mental liyane. Contoné, ana wong bisa kanthi semangat kandha marang model yèn dheweke percaya bisa nyopir 24/7 amarga rumangsa ora bisa cilaka sawisé ora turu rong bengi. Dina iki, ChatGPT bisa uga ora ngenali iki minangka bab mbebayani utawa narik kesimpulan sing trep lan—liwat eksplorasi kanthi penasaran—bisa kanthi alus nguwataké.

Kita lagi nggarap pembaruan kanggo GPT‑5 sing bakal nggawe ChatGPT ngendhogaké kahanan kanthi pendasaran wong kasebut ing kasunyatan. Ing conto iki, ChatGPT bakal nerangaké manawa kurang turu iku mbebayani lan nyaranaké istirahat sadurungé tumindak apa waé.

Nggawe luwih gampang manèh kanggo ngubungi layanan darurat lan njaluk pitulungan saka ahli.

Dina iki, nalika wong nuduhaké niyat nyakiti awake dhewe, kita nyengkuyung supaya njaluk pitulungan lan ngarahaké menyang sumber daya ing donya nyata. Kita wis miwiti nglokalisasi sumber daya ing AS lan Eropa, lan kita ngrancang ngembangaké menyang pasar global liyané. Kita uga bakal nambah aksesibilitas kanthi akses siji-klik menyang layanan darurat.

Kita lagi njajaki cara kanggo campur tangan luwih awal lan nyambungaké wong karo terapis bersertifikat sadurungé mlebu krisis akut. Iki tegesé ngluwihi hotline krisis lan nimbang cara kita bisa mbangun jaringan profesional berlisensi sing bisa dihubungi wong langsung liwat ChatGPT. Iki bakal mbutuhaké wektu lan karya sing tliti supaya bener.

Ngaktifaké sambungan menyang kontak sing dipercaya.

Saliyane layanan darurat, kita lagi njajaki cara supaya wong luwih gampang ngubungi wong sing paling cedhak karo dheweke. Iki bisa kalebu pesen utawa telpon siji-klik menyang kontak darurat sing wis disimpen, kanca, utawa anggota kulawarga kanthi usulan basa supaya miwiti pacelathon ora krasa banget nguwatiraké.

Kita uga lagi nimbang fitur sing bakal ngidini wong milih supaya ChatGPT ngubungi kontak sing ditunjuk atas jenengé ing kasus sing abot.

Nguatké perlindungan kanggo remaja.

Sajarahé, kita nemtokaké siji prilaku model ideal kanggo kabeh pangguna; nalika ChatGPT saya gedhé, kita wiwit nambah perlindungan tambahan nalika kita ngerti pangguna umuré durung 18 taun. Kita terus ngembangaké lan ngluncuraké pengaman sing ngenali kabutuhan perkembangan unik para remaja, kanthi pager pengaman sing luwih kuwat ing sekitar konten sensitif lan prilaku beboyo.

Kita uga bakal enggal ngenalaké kontrol wong tuwa sing maringi pilihan marang wong tuwa kanggo entuk wawasan luwih akèh babagan, lan mbentuk, cara para remajané nggunakké ChatGPT. Kita uga lagi njajaki supaya para remaja (kanthi pengawasan wong tuwa) bisa nunjuk kontak darurat sing dipercaya. Kanthi mangkono, ing wektu tekanan akut, ChatGPT bisa nindakake luwih saka mung nuduhaké sumber daya: ChatGPT bisa mbantu nyambungaké para remaja langsung marang wong sing bisa melu nulungi.

Kita ngerti tenan yèn pengaman paling kuwat nalika saben unsur bisa mlaku kaya sing dikarepaké. Kita bakal terus nambah apiké, kanthi pandhuan para ahli lan adhedhasar tanggung jawab marang wong sing nggunakké piranti kita—lan kita ngarep-arep pihak liya uga bakal melu mbantu mesthekaké teknologi iki nglindhungi wong nalika dheweke paling rentan.