Giới thiệu Liên hệ đáng tin cậy trong ChatGPT
Kết nối bạn với người bạn tin cậy trong lúc quan trọng nhất.
Mọi người sử dụng ChatGPT để học hỏi, khám phá ý tưởng, giải quyết vấn đề và suy ngẫm về những câu hỏi cá nhân. Đôi khi, những cuộc trò chuyện đó có thể bao gồm những thời điểm ai đó đang gặp khó khăn hoặc tìm kiếm sự hỗ trợ. Mục tiêu của chúng tôi là thiết kế các hệ thống phản hồi một cách thấu đáo trước các cuộc trò chuyện nhạy cảm và khuyến khích mọi người kết nối với sự trợ giúp ngoài đời thực khi cần.
Hôm nay, chúng tôi bắt đầu triển khai Liên hệ đáng tin cậy, một tính năng an toàn không bắt buộc trong ChatGPT cho phép người trưởng thành chỉ định một người họ tin cậy, chẳng hạn như bạn bè, thành viên gia đình hoặc người chăm sóc, người này có thể được thông báo nếu các hệ thống tự động và đội ngũ đánh giá được đào tạo của chúng tôi phát hiện rằng người đã đăng ký có thể đã thảo luận về việc tự làm hại bản thân, cho thấy một mối lo ngại nghiêm trọng về an toàn. Trusted Contact được thiết kế để mang lại thêm một biện pháp hỗ trợ bên cạnh các đường dây trợ giúp theo địa phương đã có trong ChatGPT, bằng cách giúp người dùng kết nối với một người họ tin cậy khi họ đang khủng hoảng.
Liên hệ đáng tin cậy được phát triển dựa trên các thông báo an toàn của chế độ kiểm soát của cha mẹ(mở trong cửa sổ mới), cho phép cha mẹ hoặc người giám hộ nhận cảnh báo khi có dấu hiệu đau khổ cấp tính đối với một tài khoản thanh thiếu niên được liên kết. Giờ đây, chúng tôi đang mở rộng các tùy chọn cảnh báo an toàn để bất kỳ ai trên 18 tuổi đều có thể chọn thêm một người họ tin cậy làm Liên hệ đáng tin cậy của mình.
Hướng dẫn của chuyên gia(mở trong cửa sổ mới) xác định kết nối xã hội là một trong những yếu tố bảo vệ quan trọng nhất để giảm nguy cơ tự tử. Liên hệ đáng tin cậy(mở trong cửa sổ mới) được thiết kế để khuyến khích kết nối với một người mà người dùng vốn đã tin cậy. Tính năng này không thay thế chăm sóc chuyên môn hoặc các dịch vụ khủng hoảng, và là một trong nhiều biện pháp bảo vệ nhằm hỗ trợ những người đang đau khổ. ChatGPT vẫn sẽ khuyến khích người dùng liên hệ với các đường dây nóng khủng hoảng hoặc dịch vụ khẩn cấp khi phù hợp.
“Khoa học tâm lý đã liên tục cho thấy rằng kết nối xã hội là một yếu tố bảo vệ mạnh mẽ, đặc biệt trong những giai đoạn đau khổ về cảm xúc. Việc giúp mọi người xác định trước một người đáng tin cậy, đồng thời vẫn bảo toàn lựa chọn và quyền tự chủ của họ, có thể giúp họ dễ tìm đến sự hỗ trợ ngoài đời thực hơn vào lúc cần thiết nhất.”
- Người dùng có thể thêm một người lớn (18+ trên toàn cầu hoặc 19+ tại Hàn Quốc) làm Liên hệ đáng tin cậy từ phần cài đặt ChatGPT.
- Liên hệ đáng tin cậy sẽ nhận được một lời mời giải thích vai trò của họ và phải chấp nhận lời mời trong vòng một tuần để tính năng có hiệu lực. Nếu Liên hệ đáng tin cậy từ chối, người dùng có thể chọn một người lớn khác để thêm vào liên hệ.
- Nếu các hệ thống giám sát tự động của chúng tôi phát hiện người dùng có thể đang nói về việc tự làm hại bản thân mà cho thấy một mối lo ngại nghiêm trọng về an toàn, ChatGPT sẽ cho người dùng biết rằng chúng tôi có thể thông báo cho Liên hệ đáng tin cậy của họ, đồng thời khuyến khích người dùng liên hệ với Liên hệ đáng tin cậy bằng các gợi ý mở đầu cuộc trò chuyện.
- Từ đó, một nhóm nhỏ gồm những người được đào tạo chuyên biệt sẽ xem xét tình huống. Nếu những người đánh giá này xác định rằng cuộc trò chuyện có thể cho thấy một mối lo ngại nghiêm trọng về an toàn, ChatGPT sẽ gửi cho Liên hệ đáng tin cậy một thông báo ngắn qua email, tin nhắn văn bản hoặc thông báo trong ứng dụng nếu họ có tài khoản ChatGPT
- Thông báo này được giới hạn một cách có chủ ý. Thông báo chia sẻ lý do chung rằng bạn nhắc đến việc tự làm hại bản thân đáng lo ngại, đồng thời khuyến khích Liên hệ đáng tin cậy kiểm tra tình hình. Thông báo không bao gồm chi tiết hoặc bản ghi cuộc trò chuyện để bảo vệ quyền riêng tư của người dùng. Thông báo cũng bao gồm liên kết đến hướng dẫn(mở trong cửa sổ mới) của chuyên gia để xử lý các cuộc trò chuyện nhạy cảm.
- Người dùng luôn có thể xóa hoặc chỉnh sửa Liên hệ đáng tin cậy trong phần cài đặt và Liên hệ đáng tin cậy có thể tự xóa mình bất cứ lúc nào từ trung tâm hỗ trợ(mở trong cửa sổ mới)
Mặc dù những tình huống an toàn nghiêm trọng này hiếm gặp, nhưng khi chúng phát sinh, các hệ thống của chúng tôi được thiết kế để hỗ trợ việc xem xét và phản hồi kịp thời. Dù không có hệ thống nào hoàn hảo, và thông báo gửi tới Liên hệ đáng tin cậy có thể không phải lúc nào cũng phản ánh chính xác những gì ai đó đang trải qua, mọi thông báo đều được con người đã qua đào tạo xem xét trước khi được gửi, và chúng tôi nỗ lực xem xét các thông báo an toàn này trong vòng dưới một giờ.
Chúng tôi đã phát triển Liên hệ đáng tin cậy với sự hướng dẫn từ các bác sĩ lâm sàng, nhà nghiên cứu và tổ chức chuyên về sức khỏe tâm thần và phòng ngừa tự tử. Công việc này được định hình bởi Mạng lưới Bác sĩ Toàn cầu của chúng tôi, một mạng lưới gồm hơn 260 bác sĩ được cấp phép tại 60 quốc gia, cùng Hội đồng Chuyên gia về Hạnh phúc và AI. Chúng tôi cũng đã hợp tác chặt chẽ với các tổ chức bên ngoài, bao gồm Hiệp hội Tâm lý học Hoa Kỳ.(mở trong cửa sổ mới)
“Một trong những hứa hẹn lớn nhất của AI là cách nó có thể thúc đẩy sự kết nối chân thực giữa con người với con người và sự an toàn về mặt tâm lý. Tôi thấy được khích lệ bởi tính năng Liên hệ đáng tin cậy của ChatGPT, vốn mang đến một bước tiến hướng tới việc trao quyền cho con người, đặc biệt trong những lúc dễ bị tổn thương.”
Ngoài Liên hệ đáng tin cậy, ChatGPT có các biện pháp bảo vệ giúp định hướng những cuộc trò chuyện nhạy cảm ở mọi giai đoạn. Chúng tôi đã tiếp tục cải thiện cách hệ thống phản hồi với các mức độ rủi ro khác nhau được thể hiện trong một cuộc trò chuyện:
- Hỗ trợ nguồn lực trợ giúp ngoài đời thực: Trong những thời điểm nhạy cảm, ChatGPT có thể khuyến khích mọi người liên hệ với dịch vụ khẩn cấp, đường dây trợ giúp khủng hoảng, chuyên gia sức khỏe tâm thần hoặc những người đáng tin cậy trong cuộc sống của họ.
- Phản hồi một cách cẩn trọng: Chúng tôi đã làm việc với hơn 170 chuyên gia sức khỏe tâm thần để cải thiện khả năng của ChatGPT trong việc phát hiện và phản hồi các dấu hiệu của sự đau khổ tiềm ẩn, hạ nhiệt các cuộc trò chuyện và hướng dẫn mọi người đến với sự hỗ trợ ngoài đời thực khi phù hợp.
- Giúp mọi người kiểm soát thời gian của mình: Trong một số tình huống, ChatGPT có thể gợi ý nghỉ ngơi hoặc rời khỏi màn hình sau khi sử dụng trong thời gian dài để thúc đẩy thói quen sử dụng công nghệ lành mạnh.
- Từ chối các yêu cầu có hại: ChatGPT được huấn luyện để từ chối đưa ra hướng dẫn về tự tử hoặc tự làm hại bản thân. Khi người dùng yêu cầu loại thông tin này, hệ thống được huấn luyện để từ chối yêu cầu và thay vào đó chuyển hướng sang các phản hồi an toàn hơn, đồng thời hiển thị các nguồn hỗ trợ khủng hoảng theo địa phương.
Liên hệ đáng tin cậy là một phần trong nỗ lực ti lớn hơn của OpenAI nhằm xây dựng các hệ thống AI giúp đỡ mọi người trong những thời điểm khó khăn. Chúng tôi sẽ tiếp tục làm việc với các bác sĩ lâm sàng, nhà nghiên cứu và nhà hoạch định chính sách để cải thiện cách các hệ thống AI phản hồi khi mọi người có thể đang trải qua đau khổ. Mục tiêu của chúng tôi là bảo đảm các hệ thống AI không tồn tại một cách tách biệt. Thay vào đó, chúng nên giúp kết nối mọi người với sự chăm sóc, các mối quan hệ và nguồn lực ngoài đời thực quan trọng nhất.
