İnsanlar ChatGPT’yi öğrenmek, fikirleri keşfetmek, sorunları çözmek ve kişisel sorular üzerine düşünmek için kullanıyor. Bazen bu konuşmalar, birinin zorlandığı ya da destek aradığı anları da içerebilir. Amacımız, hassas konuşmalara düşünceli şekilde yanıt veren ve gerektiğinde insanları gerçek dünyadaki yardımla bağlantı kurmaya teşvik eden sistemler tasarlamaktır.
Bugün, ChatGPT’deki isteğe bağlı bir güvenlik özelliği olan Trusted Contact’ı kullanıma sunmaya başlıyoruz. Bu özellik, yetişkinlerin güvendikleri birini—örneğin bir arkadaş, aile üyesi veya bakım veren kişiyi—belirlemesine olanak tanır. Otomatik sistemlerimiz ve eğitimli inceleme ekiplerimiz, kaydı yapılan kişinin kendine zarar verme hakkında ciddi bir güvenlik endişesine işaret edecek şekilde konuşmuş olabileceğini tespit ederse bu kişiye bildirim gönderilebilir. Trusted Contact, kriz anlarında kullanıcıların güvendikleri bir kişiyle bağlantı kurmasına yardımcı olarak, ChatGPT’de zaten sunulan yerelleştirilmiş yardım hatlarına ek bir destek katmanı sunmak üzere tasarlanmıştır.
Trusted Contact, bağlı bir genç hesabında akut sıkıntı belirtileri olduğunda ebeveynlerin veya vasilerin uyarı almasına olanak tanıyan ebeveyn kontrolleri güvenlik bildirimlerinin(yeni bir pencerede açılır) üzerine kuruludur. Artık güvenlik uyarısı seçeneklerimizi genişleterek 18 yaş üzerindeki herkesin Trusted Contact olarak güvendiği birini ekleyebilmesini sağlıyoruz.
Uzman rehberliği(yeni bir pencerede açılır), sosyal bağın intihar riskini azaltmada en önemli koruyucu etkenlerden biri olduğunu belirtiyor. Trusted Contact(yeni bir pencerede açılır), kullanıcının zaten güvendiği biriyle bağlantı kurmayı teşvik etmek üzere tasarlanmıştır. Profesyonel bakımın veya kriz hizmetlerinin yerine geçmez ve sıkıntı yaşayan insanları desteklemeye yönelik birden çok koruma katmanından biridir. ChatGPT, uygun olduğunda kullanıcıları yine kriz yardım hatlarıyla veya acil servislerle iletişime geçmeye teşvik edecektir.
“Psikoloji bilimi, sosyal bağın özellikle duygusal sıkıntı dönemlerinde güçlü bir koruyucu etken olduğunu tutarlı biçimde gösteriyor. İnsanların seçme hakkını ve özerkliğini koruyarak önceden güvendikleri bir kişiyi belirlemelerine yardımcı olmak, en önemli anlarda gerçek dünyadaki desteğe ulaşmayı kolaylaştırabilir.”
- Kullanıcılar, ChatGPT ayarlarından bir yetişkini (dünya genelinde 18+, Güney Kore’de 19+) Trusted Contact olarak ekleyebilir.
- Trusted Contact, rolünü açıklayan bir davet alır ve özelliğin etkinleşmesi için bu daveti bir hafta içinde kabul etmelidir. Trusted Contact daveti reddederse kullanıcı farklı bir yetişkin eklemeyi seçebilir.
- Otomatik izleme sistemlerimiz, kullanıcının ciddi bir güvenlik endişesine işaret edecek şekilde kendine zarar vermekten söz ediyor olabileceğini tespit ederse ChatGPT kullanıcıya Trusted Contact’ına bildirim gönderebileceğimizi bildirir ve önerilen konuşma başlatıcılarıyla kullanıcının Trusted Contact’ına ulaşmasını teşvik eder.
- Bunun ardından, özel olarak eğitilmiş küçük bir ekip durumu inceler. Bu incelemeciler konuşmanın ciddi bir güvenlik endişesine işaret edebileceğine karar verirse ChatGPT, Trusted Contact’a e-posta, kısa mesaj veya bir ChatGPT hesabı varsa uygulama içi bildirim yoluyla kısa bir uyarı gönderir
- Bildirim bilerek sınırlı tutulur. Kendine zarar verme konusunun potansiyel olarak endişe verici bir şekilde gündeme geldiğinin genel nedenini paylaşır ve Trusted Contact’ı iletişim kurmaya teşvik eder. Kullanıcı gizliliğini korumak için sohbet ayrıntılarını veya dökümlerini içermez. Bildirim ayrıca hassas konuşmaları yönetmeye yönelik uzman rehberliğine(yeni bir pencerede açılır) bağlantı da içerir.
- Kullanıcılar ayarlardan Trusted Contact’larını her zaman kaldırabilir veya düzenleyebilir; Trusted Contact da yardım merkezimiz(yeni bir pencerede açılır) üzerinden istediği zaman kendisini kaldırabilir.
Bu tür ciddi güvenlik durumları nadir olsa da ortaya çıktıklarında sistemlerimiz zamanında inceleme ve yanıtı destekleyecek şekilde tasarlanmıştır. Hiçbir sistem kusursuz değildir ve Trusted Contact’a gönderilen bir bildirim her zaman birinin tam olarak ne yaşadığını eksiksiz yansıtmayabilir; ancak her bildirim gönderilmeden önce eğitimli insanlar tarafından incelenir ve bu güvenlik bildirimlerini bir saatin altında incelemeye çalışırız.
Trusted Contact’ı, ruh sağlığı ve intiharı önleme alanında uzmanlaşmış klinisyenler, araştırmacılar ve kuruluşların rehberliğinde geliştirdik. Bu çalışma, 60 ülkede 260’tan fazla lisanslı hekimden oluşan Global Physicians Network ağımız ve Well-Being and AI Uzman Konseyi tarafından şekillendirilmiştir. Ayrıca Amerikan Psikoloji Derneği(yeni bir pencerede açılır) dahil dış kuruluşlarla da yakın çalıştık.
“Yapay zekânın en büyük vaatlerinden biri, insanlar arasında gerçek bağ ve psikolojik güvenlik kurmayı destekleyebilmesidir. ChatGPT’nin Trusted Contact özelliği, özellikle kırılgan anlarda insanları güçlendirme yönünde atılmış cesaret verici bir adımdır.”
Trusted Contact’a ek olarak ChatGPT, hassas konuşmaları her aşamada yönlendirmeye yardımcı olan korumalara sahiptir. Sistemin konuşmada ifade edilen farklı risk düzeylerine nasıl yanıt verdiğini geliştirmeyi sürdürdük:
- Gerçek dünyadaki yardımı desteklemek: Hassas anlarda ChatGPT insanları acil servislerle, kriz yardım hatlarıyla, ruh sağlığı uzmanlarıyla veya hayatlarındaki güvendikleri kişilerle iletişime geçmeye teşvik edebilir.
- Özenle yanıt vermek: ChatGPT’nin olası sıkıntı belirtilerini tespit etme ve bunlara yanıt verme, konuşmaları yatıştırma ve uygun olduğunda insanları gerçek dünyadaki desteğe yönlendirme becerisini geliştirmek için 170’ten fazla ruh sağlığı uzmanıyla çalıştık.
- İnsanların zamanlarını kontrol etmelerine yardımcı olmak: Bazı durumlarda ChatGPT, sağlıklı teknoloji alışkanlıklarını teşvik etmek için uzun süreli kullanımdan sonra ara vermeyi veya bir süre uzaklaşmayı önerebilir.
- Zararlı talepleri reddetmek: ChatGPT, intihar veya kendine zarar verme konusunda talimat vermeyi reddedecek şekilde eğitilmiştir. Kullanıcılar bu tür bilgiler istediğinde sistem, isteği reddedecek ve bunun yerine daha güvenli yanıtlara yönlendirecek şekilde eğitilmiştir; ayrıca yerelleştirilmiş kriz kaynaklarını da gösterir.
Trusted Contact, OpenAI’ın zor anlarda insanlara yardımcı olan yapay zekâ sistemleri kurmaya yönelik daha geniş çabasının bir parçasıdır. İnsanlar sıkıntı yaşıyor olabileceğinde yapay zekâ sistemlerinin nasıl yanıt verdiğini geliştirmek için klinisyenler, araştırmacılar ve politika yapıcılarla çalışmayı sürdüreceğiz. Amacımız, yapay zekâ sistemlerinin yalıtılmış biçimde var olmamasını sağlamaktır. Bunun yerine, insanları en önemli gerçek dünya bakımı, ilişkiler ve kaynaklarla bağlantı kurmaya yardımcı olmaları gerekir.
