人々はChatGPTを使って、学び、アイデアを探り、問題を解決し、個人的な問いについて考えています。そうした会話の中には、誰かがつらさを抱えていたり、支えを求めていたりする場面が含まれることもあります。私たちの目標は、慎重な対応が必要な会話にも配慮して応答し、必要なときに実際の支援につながるよう促すシステムを設計することです。
本日より、「信頼できる連絡先」の提供を順次開始します。これはChatGPTの任意の安全機能で、成人ユーザーが、友人、家族、介護者など信頼できる相手を1人指名できるものです。登録したユーザーが、深刻な安全上の懸念につながる形で自傷について話している可能性を、当社の自動システムと訓練を受けたレビュアーが検知した場合、指定された相手に通知が送られることがあります。「信頼できる連絡先」は、ChatGPTですでに提供している各地域の相談窓口と並行して、危機的な状況にあるユーザーが信頼できる人とつながれるよう支援する、もう一つのサポート層として設計されています。
「信頼できる連絡先」機能は、保護者と連携された10代アカウントに深刻な苦痛の兆候が見られる場合に通知を受け取れる、ペアレンタルコントロールの安全通知（新しいウィンドウで開く）を基盤としています。今回、安全通知の選択肢を拡張し、18歳以上の方であれば誰でも、信頼する相手を「信頼できる連絡先」として追加できるようにします。
専門家のガイダンス（新しいウィンドウで開く）では、自殺リスクを減らすうえで、社会とのつながりが最も重要な保護要因の一つとされています。「信頼できる連絡先」（新しいウィンドウで開く）は、ユーザーがすでに信頼している相手とのつながりを促すよう設計されています。専門的なケアや危機対応サービスに代わるものではなく、苦痛を抱える人々を支えるための複数の安全策の一つです。適切な場合には、ChatGPTは引き続き、危機ホットラインや緊急サービスへの連絡をユーザーに勧めます。
「心理学の研究は一貫して、社会とのつながりが、特に精神的な苦痛を抱えているときに強力な保護要因となることを示しています。本人の選択と自律性を守りながら、あらかじめ信頼できる相手を特定できるようにすることで、最も重要なときに現実世界の支援へ手を伸ばしやすくなります。」
- ユーザーはChatGPTの設定から、成人1人（世界では18歳以上、韓国では19歳以上）を信頼できる連絡先として追加できます。
- 信頼できる連絡先には、その役割を説明する招待が送られ、機能を有効にするには1週間以内に招待を承諾する必要があります。信頼できる連絡先が辞退した場合、ユーザーは別の成人を追加できます。
- 当社の自動モニタリングシステムが、ユーザーが、深刻な安全上の懸念につながる形で自傷について話している可能性を検知した場合、ChatGPTは信頼できる連絡先に通知する可能性があることをユーザーに知らせ、会話のきっかけの例を提示しながら、その信頼できる連絡先に連絡するよう促します。
- その後、特別な訓練を受けた少人数のチームが状況を確認します。これらのレビュアーが、その会話が深刻な安全上の懸念を示している可能性があると判断した場合、信頼できる連絡先がChatGPTアカウントを持っていれば、ChatGPTはメール、テキストメッセージ、またはアプリ内通知で簡潔な通知を送信します
- 通知の内容は意図的に限定されています。自傷について懸念される状況が見られたことを伝え、信頼できる連絡先に様子を確認するよう促します。ユーザーのプライバシーを守るため、チャットの詳細や記録は含まれません。通知には、デリケートな会話への対応に関する専門家によるガイダンス（新しいウィンドウで開く）へのリンクも含まれます。
- ユーザーは設定からいつでも信頼できる連絡先を削除または編集でき、信頼できる連絡先に指定された人も、当社ヘルプセンター（新しいウィンドウで開く）からいつでも登録解除できます。
こうした深刻な安全上の状況はまれですが、発生した場合に備え、私たちのシステムは迅速な確認と対応を支えられるよう設計されています。どのシステムも完全ではなく、信頼できる連絡先への通知が、本人の状況を常に正確に反映するとは限りませんが、すべての通知は、送信前に訓練を受けた担当者が確認しています。また、こうした安全通知には1時間以内に対応できるよう努めています。
「信頼できる連絡先」は、メンタルヘルスと自殺予防を専門とする臨床医、研究者、組織の助言を受けて開発しました。この取り組みは、60か国にわたる260人超の有資格医師によるネットワークであるGlobal Physicians Networkと、Expert Council on Well-Being and AIの知見を踏まえています。また、米国心理学会（新しいウィンドウで開く）を含む外部組織とも緊密に連携しました。
「AIの最も大きな可能性の一つは、人と人との本物のつながりと心理的安全性を育めることです。ChatGPTの『信頼できる連絡先』機能は、特に困難な状況にあるときに、人が支援へつながりやすくする前向きな一歩だと感じています。」
「信頼できる連絡先」に加え、ChatGPTには、デリケートな内容の会話に対して、あらゆる段階で適切に対応するための安全策があります。私たちは、会話内で示されるリスクの度合いに応じてシステムがどう応答するかを継続的に改善してきました。
- 現実世界の支援につなぐ: 深刻な悩みや苦痛がうかがわれる場面では、ChatGPTは救急サービス、危機対応ホットライン、メンタルヘルスの専門家、または本人が信頼する人々に連絡するよう勧めることがあります。
- 配慮ある応答: 私たちは170人超のメンタルヘルス専門家と協力し、ChatGPTが潜在的な苦痛の兆候を検知して応答し、会話を落ち着かせ、適切な場合に現実世界の支援へ導く力を向上させてきました。
- 時間を自分でコントロールできるよう支援: 状況によっては、健全なテクノロジー利用習慣を促すために、長時間の利用後に休憩を取ったり、いったん離れたりすることをChatGPTが提案する場合があります。
- 有害な依頼を拒否: ChatGPTは、自殺や自傷の方法を教える依頼を拒否するよう訓練されています。ユーザーがこの種の情報を求めた場合、システムはその依頼を拒否し、より安全な応答へと導くとともに、各地域の危機対応リソースを表示します。
「信頼できる連絡先」は、OpenAIが困難な瞬間に人々を支えるAIシステムを構築するための、より広い取り組みの一部です。今後も臨床医、研究者、政策立案者と協力し、人々が苦痛を抱えている可能性があるときにAIシステムがどう応答すべきかを改善し続けます。私たちの目標は、AIシステムが孤立して存在するのではなく、最も重要な現実世界のケア、人間関係、リソースへ人々をつなぐ助けとなることです。
