OpenAIは、ChatGPTを可能な限り役立つ存在にするために、絶えず進化を続けています。私たちは、人々が困難な瞬間にChatGPTに助けを求める姿を目にしてきました。だからこそ、ChatGPTモデルがメンタル面や感情的な危機の兆候をより正確に認識し、適切に反応できるよう、専門家の助言を取り入れながら改善を続けています。
この取り組みはすでに進行中ですが、今後120日間の計画を先取りしてお知らせしたいと考えています。これにより、リリースを待たずにOpenAIの今後の方向性を確認していただけます。取り組みはこれ以降も継続していきますが、今年中にできる限りの改善を集中的に進める予定です。
先週、最も必要とされる時に人々を支援するための4つの重点分野を発表しました。
- 危機的状況にあるより多くの人々への介入の拡大
- 緊急サービスや専門家へのアクセスをより簡単にする取り組み
- 信頼できる連絡先とのつながりを可能にする仕組み作り
- ティーンのユーザーを守るための体制の強化
この取り組みの一部は迅速に進む一方で、より時間を要するものもあります。
ここでは、専門家と連携して進めている取り組みや、センシティブな場面で推論モデルを活用する方法、そして重点分野の1つに関する詳細をご紹介します。ティーンのユーザーを守るための体制の強化
AIは新しく進化を続けている分野であり、私たちはその進展をウェルビーイングやメンタルヘルスに関する深い知識に基づいて進めていきたいと考えています。共に、ウェルビーイングとAIに関する専門家評議会とグローバル医師ネットワークは、深い専門的な医療知識と、私たちのアプローチに必要な多角的な視点をもたらしています。この取り組みについては、今後120日間のイニシアチブの中でさらに詳しくお伝えします。
ウェルビーイングとAIに関する専門家評議会
今年初め、OpenAIは若者の発達、メンタルヘルス、そして人間とコンピュータの相互作用の分野における専門家を集めた評議会を結成しました。この評議会は、AIがどのように人々のウェルビーイングをサポートし、人々がより豊かに生活できるよう支援するかについて、明確で証拠に基づいたビジョンを形成する役割を担います。
この評議会からの知見は、ウェルビーイングの定義と測定、優先事項の設定、最新の研究を反映させた今後の安全対策（ペアレンタルコントロールの今後のバージョンなど）の設計に活かされます。同評議会はOpenAIの製品、研究、施策の決定に対して助言を行いますが、最終的な判断の責任はOpenAIが負います。
グローバル医師ネットワーク
同評議会は、グローバル医師ネットワークと連携して活動します。このネットワークは、60か国以上で医療に従事してきた250人以上の医師から成り、私たちは過去1年間にわたって、健康分野におけるAIシステムの能力を適切に測定するための健康ベンチ評価などの取り組みを共同で進めてきました。
このうち30か国以上の90人以上の医師（精神科医、小児科医、一般開業医などを含む）は、メンタルヘルスの文脈においてChatGPTモデルがどのように応答すべきかという研究にすでに寄与しています。こうした医師からの知見は、安全性の研究、モデルのトレーニング、その他の介入策に直接反映されており、必要に応じて適切な専門家と迅速に連携する手助けとなります。
さらに、摂食障害、薬物使用、青少年の健康といった分野で深い専門知識を有する臨床医や研究者を、同ネットワークに加えていく予定です。
GPT‑5‑thinkingやo3といったOpenAIの推論モデルは、応答する前により多くの時間をかけて思考し、文脈を踏まえて推論するように設計されています。Deliberative Alignment（熟慮的アラインメント）と呼ばれる手法によってトレーニングされた推論モデルは、安全性に関するガイドラインを{より一貫して遵守し、悪意のあるプロンプトに対しても高い耐性を示すことが、当社のテスト（新しいウィンドウで開く）で確認されています。
OpenAIは最近、リアルタイムルーターを導入しました。このルーターは、会話の文脈に応じて、効率的なチャットモデルと推論モデルを適切に選択できるようになっています。システムが深刻な苦痛の兆候を検知したセンシティブな会話については、ユーザーが最初に選択したモデルにかかわらず、GPT‑5‑thinkingなどの推論モデルに自動的にルーティングされ、より有益で適切な応答を提供できるようになります。このアプローチは慎重に検討を重ねながら進めていきます。
若者の多くがすでにAIを活用しています。現代の若者たちは、インターネットやスマートフォンを使いこなした先代と同じように、「AIネイティブ」の先駆けとして、日常生活の一部としてこうしたツールを使いこなしています。これにより、サポート、学び、クリエイティビティの機会が広がる一方で、家族やティーンがその発達段階に応じた健全なガイドラインを設けるための支援が求められることも意味します。
ペアレンタルコントロール
今年初め、家族が一緒にChatGPTを使い、家庭での最適な使い方を決められるような仕組み作りを始めました。今後1か月以内に、保護者の皆様は以下の機能を利用できるようになります。
- 親のアカウントと、ティーン（13歳以上）のアカウントを、簡単なメール招待を通じて連携する。
- ティーンに対するChatGPTの応答を、年齢に適したモデルの動作ルールでコントロールする（デフォルトで有効）。
- メモリやチャット記録など、無効にする機能を管理する。
- システムがティーンの深刻な苦痛の瞬間を検知した場合に通知を受け取る。親子間の信頼を損なわないよう、専門家の知見を基にこの機能の設計に取り組んでいきます。
こうしたコントロール機能は、長時間のセッション中に休憩を促すアプリ内のリマインダーなど、全ユーザー向けに導入された既存の機能に加えて提供されます。
これらの取り組みは始まりに過ぎません。私たちは、ChatGPTをできる限り役立つものにすることを目指し、専門家の指導のもとで学びを続けながら、アプローチの強化に引き続き取り組んでいきます。今後120日間での進捗をお届けできることを楽しみにしています。
著者
さらに読む
