OpenAI、若者の AI 安全性を推進するカリフォルニア州法案を支持
グローバルポリシー担当バイスプレジデント、アン・オリアリー執筆
OpenAI は、若者が学び、創作し、未来に備えるためのツールを利用できる環境を維持しながら、若者による AI 利用に有意義な安全対策を設けるカリフォルニア州上院法案第 1119 号を支持します。今回の支持は、OpenAI の共同創業者兼 CEO であるサム・アルトマンが昨年、青少年に関する当社の原則を示した際に表明した方針をさらに推し進めるものです。
連邦政府による対応が進まない中、カリフォルニア州には、若者の AI 安全性について確かな基準を打ち立てる機会があります。
OpenAI はニューサム州知事への書簡（新しいウィンドウで開く）で、この重要な課題における同知事、スティーブ・パディラ州上院議員、バフィー・ウィックス州下院議員、レベッカ・バウアー＝カハン州下院議員、ならびにカリフォルニア州議会のリーダーシップを高く評価しています。SB 1119 は、OpenAI が製品、グローバルな政策原則、カリフォルニア州での政策提言、「親子のための安全な AI 法」への取り組みを通じて支持してきた若者向け安全対策をさらに前進させるものです。ニューサム州知事に対し、この法案に署名して成立させるよう要請します。
青少年は、AI とともに育つ最初の世代です。ChatGPT を利用する青少年の約 9 割が、毎週、学習や情報収集、スキル習得、生産性向上のために活用しています。この機会には明確な責任が伴います。青少年には、その発達段階特有のニーズに合わせた体験を提供し、初期設定で強力な保護を適用するとともに、学び、創作し、探究する適切な機会を確保すべきです。
新たに提供を開始した ChatGPT for Teens は、この考え方を反映しています。健全な利用を促し、安全対策を標準で組み込み、保護者が利用できる管理機能を拡充しながら、18 歳未満のユーザーによる学習、批判的思考、創作を支援するよう設計されています。システムがユーザーを 18 歳未満と推定した場合、またはユーザーが年齢を 13～17 歳と申告した場合は、自動的に青少年向け ChatGPT が適用されます。こうした保護は基本体験の一部であり、ユーザーが無効にできる任意設定ではありません。
より広い観点では、安全性を損なうことなく青少年が AI の恩恵を受けられると考えています。これは、SB 1119 の中核を成す目標です。
SB 1119 は、強力な保護と有用な AI ツールへの継続的なアクセスを両立させます。OpenAI は、以下の主要要件を強く支持します。
- ユーザーの年齢確認
- 若者への製品提供前における安全上のリスクの特定と対処
- 独立監査の実施
- 自傷行為、性的搾取を伴うコンテンツ、その他の高リスクなやり取りなど、有害なコンテンツからの若者の保護
- 子どもの利用を保護者が指導・制限するためのツールの提供
- 重大な安全上のリスクが生じた場合に、若者を危機支援窓口へ案内
- ターゲティング広告の制限と若者の個人情報の保護
13～17 歳と特定されたユーザーには、こうした保護を自動的に適用すべきです。この法案は、実効性のある説明責任と、AI を利用する若者を守るための安全対策を組み合わせるものです。
SB 1119 はまた、AI がソーシャルメディアとは異なることを適切に認識しています。この法案は、若者が AI を使って学び、創作し、探究できるよう、目的に即した保護を設けています。この枠組みの策定にあたり、政策立案者は、青少年にとってより安全で年齢に適した体験を促進しながら、ChatGPT のメモリ機能の責任ある利用を含め、教育や安全確保に不可欠な機能へのアクセスを維持することを目指しました。
ChatGPT for Teens には、クイズ、学習内容の視覚化、学習モードなど、青少年の学びに特化した一連の機能があります。教育者や学習分野の専門家と共同で開発し、生徒が問題を一つずつ解き進められるよう支援します。これらのツールは、理解を深め、より良い学習習慣を身につけることを目的としています。メモリをはじめ、過去の会話の文脈を活用する機能は、安全対策の一貫した適用、懸念されるパターンの把握、長期的により有用な学習支援の提供に役立ちます。
文脈を活用することで、こうした安全機能や学習ツールも長期にわたり一貫して機能します。ChatGPT はメモリなどの機能を通じて、過去の会話に含まれる関連情報や好みを引き継げるため、青少年は最初からやり直すことなく、長期的な学習プロジェクトを継続できます。この継続性は、有害なパターンを助長することの回避にも役立ち、若者が追加の支援や情報を必要としている可能性がある場合に、より効果的な対応を可能にします。
安全性と学習の両立は、OpenAI にとって新しい取り組みではありません。この 1 年間で、ペアレンタルコントロール、年齢予測、青少年の安全に関するブループリント、そしてModel Spec の 18 歳未満向け原則を導入しました。Model Spec は、OpenAI のモデルがどのように振る舞うべきかを定める規則です。これらの取り組みにより、若者とのやり取りに関する新たな基準を設けました。この原則は、恋愛的な関わり、感情的な依存の助長、ChatGPT が人間または意識を持つ存在であるという主張を禁止しています。さらに、家族が青少年向けの主要設定を管理し、高リスクの状況で通知を受け取れるペアレンタルコントロールも提供しています。
SB 1119 は、カリフォルニア州における若者の AI 安全性のための強固な枠組みを確立します。施行にあたって継続的な検討と連携を進めることで、主要規定を改善し、技術の進化に合わせて枠組みの実効性を維持できます。OpenAI は、こうした取り組みを支援するとともに、青少年をその年齢にふさわしく扱い、より強力な保護を自動的に適用しながら、有意義な学びと成長の機会を提供する AI 体験を今後も構築していきます。
