当社は、特に困難な状況や重要な場面で AI モデルがどのように振る舞うべきかを導くためのルール、価値観、期待される行動を記載したモデル仕様を更新しました。新たに18歳未満（U18）原則（新しいウィンドウで開く）を追加しています。モデルの行動は人々が AI と関わる上で極めて重要であり、青少年は成人とは異なる発達上のニーズを有しています。
U18原則は、13歳から17歳の青少年に対して、ChatGPT が安全で年齢に応じた体験を提供するための指針です。このアプローチは発達科学に基づいており、予防、透明性、早期介入を重視しています。これらの原則を策定するにあたり、当社はアプローチの強化に向けた継続的な取り組みの一環として、アメリカ心理学会を含む外部専門家に対し本原則を事前に公開し、意見を求めました。
モデル仕様の原則は成人ユーザーと10代のユーザーの両方に引き続き適用されますが、今回の更新では、特に未成年者に対する安全上の配慮がより重要となる10代の若者の状況において、これらの原則がどのように適用されるかを明確化しています。
U18原則は、次の4つの基本方針に基づいています。
- 他の目標と矛盾する場合でも、 10代の安全を最優先に考える
- オフラインでの関係構築と信頼できるリソースを奨励することにより、現実世界での支援を促進する
- 10代の人たちを10代の若者として扱い、彼らを見下したり、大人として扱ったりしない
- 明確な期待を設定することで透明性を維持する
当社のティーンの安全性ブループリントに沿い、これらの原則はこれまでティーンの安全対策の指針となってきました。これには、登録時に18歳未満と申告したユーザーへのコンテンツの制限や、ペアレンタルコントロールを通じた対策も含まれます。このような状況において、私たちは、自傷行為や自殺、恋愛や性的なロールプレイ、露骨な内容や過激な内容、危険な活動や危険な物質、身体イメージや摂食障害、危険な行動に関する秘密保持の要請など、リスクの高い分野について議論する際にモデルが特別な注意を払うように導く安全策を実装しました。
アメリカ心理学会は、U18モデル仕様の初期草案をレビューし、長期的な視点から重要な洞察を提供しました。同学会は、10代の若者を保護することの重要性について明確な姿勢を示しています。
「APA は、AI 開発者に対し、自社製品を利用する若年ユーザーに対して発達段階に応じた予防措置を講じ、若年ユーザーに対してより保護的なアプローチを取ることを推奨しています。科学的に社会的、心理的、行動的、さらには生物学的な発達に重要であることが示されている人間同士の交流とバランスが取れていれば、子供や青少年は AI ツールから恩恵を受けることができるかもしれません。若者の AI 体験は、信頼できる大人によって徹底的に監督され、話し合われることで、AI ボットが提供するものに対する批判的な検討を促し、若者の独立した思考とスキルの発達を促す必要があります。」
今回の更新では、10代の安全上の懸念が生じた場合の対応方針も明確化されました。これにより、会話がより危険な領域に及んだ場合、10代にはより強力な安全対策、より安全な代替案、そして信頼できるオフラインの支援を求めるよう促す仕組みが提供されます。差し迫った危険がある場合には、10代の若者は緊急サービスや危機対応リソースに連絡するよう強く推奨されます。
モデル仕様の他の部分と同様に、U18原則は私たちが意図するモデル行動を反映しています。新たな研究、専門家の意見、実世界の使用例を取り入れながら、これらを継続的に改良していきます。
モデル仕様の更新に加え、ChatGPT 全体で10代の若者の安全性を強化するために、製品の安全対策、家族のサポート、専門家の指導を網羅した多層的なアプローチを採用しました。
ペアレンタル コントロール（新しいウィンドウで開く）を導入して以来、グループチャット、ChatGPT Atlas ブラウザー、Sora アプリを含む新しい製品全体に保護を拡大してきました。これらの更新により、保護者は新しい製品や機能の導入に伴い、10代の子供の ChatGPT 体験を調整できるようになります。
専門家の指導に基づき、私たちは、家族内での健全で責任ある AI の利用について、保護者と10代の子供の間で継続的な会話を持つことを奨励しています。これらの会話をサポートするために、保護者向けリソースハブ（新しいウィンドウで開く）に新たに専門家が審査したリソースを追加しました。これには、10代の若者が AI を責任を持って利用するためのファミリーガイド（新しいウィンドウで開く）や、AI について子供と話す際の保護者向けのヒント（新しいウィンドウで開く）が含まれており、ConnectSafely と当社のウェルビーイングと AI に関する専門家評議会のメンバーがレビューしています。今後も引き続きリソースを追加していきます。また、製品内でも健全な利用をサポートし、長時間のセッション中には組み込みの休憩を促すリマインダーが作動し、ChatGPT の利用時間を意図的かつバランスよく保つお手伝いをします。
青少年の安全に関する当社の取り組みは、さまざまな分野や専門領域の専門家との緊密な連携によって進められています。10月に、あらゆる世代にとっての AI との健全な関わり方を定義し、助言を行うために、ウェルビーイングと AI に関する専門家評議会を設立しました。この取り組みは、ペアレンタルコントロールと保護者への通知に関するガイダンスの基礎となりました。私たちはまた、Global Physician Networkを通じて臨床の専門知識を取り入れ、安全性の研究に反映させるとともに、モデルの挙動を評価しています。これには、ChatGPT が苦痛を認識し、適切な場合に専門家によるケアへ導く方法を改善することも含まれます。これらの基盤の上に GPT‑5.2 を構築し、ThroughLine（新しいウィンドウで開く） とのパートナーシップを通じて、ChatGPT と Sora に地域別のヘルプラインを表示することで、現実世界のサポートへのアクセスも拡大しました。
私たちは ChatGPT の消費者向けプランにおいて、年齢予測モデル（新しいウィンドウで開く）を展開する初期段階にあります。これにより、アカウントが未成年者のものであると判断した場合、自動的に未成年者向けの保護策を適用できるようになります。ユーザーの年齢が不明確な場合や情報が不十分な場合、デフォルトで18歳未満向けの体験を提供し、成人には年齢確認の方法を提供します。
10代の若者の安全強化は継続的な取り組みであり、今後もペアレンタルコントロールとモデル機能の改善、保護者向けリソースの拡充、ウェルビーイング評議会やグローバル医師ネットワークを含む組織・研究者・専門家パートナーとの連携を推進してまいります。
私たちは、10代の若者の保護を強化し、それを継続的改善することで、10代の若者とその家族をより良くサポートすることに努めてまいります。
