人們使用 ChatGPT 來學習、探索想法、解決問題，以及思考個人問題。有時，這些對話可能涉及某人正在掙扎或尋求支援的時刻。我們的目標是設計能夠審慎回應敏感對話的系統，並在有需要時鼓勵人們尋求現實世界的協助。
今天，我們開始推出 Trusted Contact，這是 ChatGPT 內一項可選用的安全功能，讓成年人可提名一位自己信任的人，例如朋友、家人或照顧者。若我們的自動化系統及受過培訓的審查人員偵測到已啟用此功能的人可能曾討論自殘，且方式顯示出嚴重安全疑慮，該名人士便可能收到通知。Trusted Contact 的設計，是在 ChatGPT 已提供的本地化求助熱線之外，再提供多一層支援，協助用戶在危機時刻聯繫自己信任的人。
Trusted Contact 建基於家長控制安全通知（在新視窗中開啟），讓家長或監護人在已連結的青少年帳戶出現急性困擾跡象時接收提示。現在，我們正擴展安全提示選項，讓所有年滿 18 歲人士都可選擇加入自己信任的人作為 Trusted Contact。
專家指引（在新視窗中開啟）指出，社會連結是降低自殺風險最重要的保護因素之一。Trusted Contact（在新視窗中開啟） 的設計，旨在鼓勵用戶與自己原本已信任的人建立聯繫。Trusted Contact 不能取代專業照護或危機服務，而是支援身處困境人士的多重保障措施之一。ChatGPT 仍會在適當情況下鼓勵用戶聯絡危機熱線或緊急服務。
「心理學研究一再顯示，社會連結是強而有力的保護因素，尤其在情緒困擾期間更是如此。在保留個人選擇與自主權的同時，協助人們預先識別一位可信任的人，能讓他們在最需要的時候，更容易尋求現實世界的支援。」
- 用戶可在 ChatGPT 設定中加入一位成年人士（全球大部分地區為 18 歲或以上，南韓則為 19 歲或以上）作為其 Trusted Contact。
- 被邀請成為 Trusted Contact 的人士會收到一項邀請，說明其角色，並必須在一星期內接受邀請，功能才會啟用。若 Trusted Contact 拒絕，用戶可選擇加入另一位成年人士。
- 如果我們的自動監察系統偵測到用戶可能正以顯示嚴重安全疑慮的方式談及自殘，ChatGPT 會告知用戶我們可能通知其 Trusted Contact，並鼓勵用戶透過建議的對話開場白聯絡其 Trusted Contact。
- 之後，一小隊受過專門訓練的人員會審視情況。若這些審查人員判定有關對話可能顯示出嚴重安全疑慮，ChatGPT 會透過電郵、短訊，或在 Trusted Contact 擁有 ChatGPT 帳戶時，透過應用程式內通知，向其發送簡短通知
- 該通知會刻意保持有限內容。它會分享提出自殘議題時可能令人擔憂的一般原因，並鼓勵 Trusted Contact 主動關心。為保障用戶私隱，通知不會包含聊天細節或對話記錄。通知亦會附上專家指引（在新視窗中開啟）連結，協助應對敏感對話。
- 用戶可隨時在設定中移除或編輯其 Trusted Contact，而 Trusted Contact 亦可隨時透過我們的說明中心（在新視窗中開啟）將自己移除。
雖然這類嚴重安全情況並不常見，但一旦出現，我們的系統便會支援及時審查和回應。雖然沒有任何系統是完美的，而且向 Trusted Contact 發出的通知未必總能完全反映當事人正在經歷的情況，但每則通知在發送前都會經過受過培訓的人員審查，而我們力求將這些安全通知的審查時間控制在一小時內。
我們在臨床醫生、研究人員及專門研究精神健康和自殺預防的機構指導下開發 Trusted Contact。這項工作參考了我們的 Global Physicians Network（由 60 個國家超過 260 名持牌醫生組成的網絡）以及我們的福祉與 AI 專家委員會。我們亦與外部機構緊密合作，包括美國心理學會。（在新視窗中開啟）
「AI 最大的潛力之一，是促進真誠的人與人連結，以及建立心理安全感。ChatGPT 的『Trusted Contact』功能令我備受鼓舞。這項功能在人們最脆弱的時刻賦予了人類力量，是向前邁進的一大步。」
除了 Trusted Contact 之外，ChatGPT 亦設有多重保障措施，在每個階段協助引導敏感對話。我們持續改進系統對對話中表達的不同風險程度的回應方式：
- 支援現實世界的協助：在敏感時刻，ChatGPT 可能會鼓勵人們聯絡緊急服務、危機熱線、精神健康專業人士，或生活中值得信任的人。
- 審慎回應：我們已與 170 多位精神健康專家合作，提升 ChatGPT 偵測和回應潛在困擾跡象、緩和對話，以及在適當情況下引導人們尋求現實世界支援的能力。
- 協助人們掌控使用時間：在某些情況下，ChatGPT 可能會建議稍作休息或在長時間使用後暫時離開，以培養更健康的科技使用習慣。
- 拒絕有害請求：ChatGPT 已受訓拒絕提供自殺或自殘的指示。當用戶要求這類資訊時，系統會拒絕該要求，轉而提供較安全的回應，並顯示本地化危機支援資源。
Trusted Contact 是 OpenAI 更廣泛工作的一部分，旨在建立能夠在人們艱難時刻提供幫助的 AI 系統。我們將繼續與臨床醫生、研究人員及政策制定者合作，改善 AI 系統在人們可能經歷困擾時的回應方式。我們的目標是確保 AI 系統並非孤立存在，而是能協助人們連結現實世界中真正重要的照護、關係與支援資源。
