AI は、若者にとって強力なツールになり得ます。学生が難しい概念を理解したり、新しい言語を練習したり、就職面接に備えたり、創造的なアイデアを探求したり、新しいスキルを学んだりする助けになります。20 世紀半ばに世界中へ広がった識字運動が、印刷されたテキストの大量配布と訓練を受けた教師へのアクセスを必要としたのと同じように、今日、安全な AI へのアクセスを提供することは、個別最適化された学習の新たな機会を開き、十分な支援を受けられていない人々の障壁を減らし、労働力としての準備を高めることにつながります。
その潜在的な利点は非常に大きいため、若者が安全で、年齢に応じた、健全な発達を支える形で AI を利用できることが不可欠です。その責任は、主に保護者や若者自身に委ねられるべきではありません。OpenAI を含む企業には、適切な保護措置を初期設定で備えた製品を構築すると同時に、AI の使い方を導くためのツールと情報を家庭に提供する責任があります。
今月後半、フランスのエビアンで各国首脳が G7 首脳サミットに集まる際、若者の AI 安全性が重要な焦点となります。OpenAI も参加し、若者の安全に関する協力の強化、業界標準を高めるための連携、そして国際的な若者安全研究所の設立を求める OpenAI の新たな呼びかけについて議論します。
G7 首脳サミットは、若者の安全について世界的に協調するための貴重な機会です。しかし、専門の研究所があれば、単一のサミットを超えて必要な継続性とフォローアップを提供し、政府、研究者、市民社会、産業界が連携し続け、知見を共有し、指針を策定し、時間をかけて標準を高めることを支えられます。
これを実現する信頼性の高い方法はいくつかあります。新たな国際研究所を設立する方法、または既存もしくは新設の国立 AI 研究所に、世界中のパートナーと研究成果や知見、指針を共有するグローバルな権限を与える方法です。最も重要なのは、それが果たす機能です。若者の AI 安全性には、継続的な取り組み、信頼できる知見、そして技術の進歩に対応できる実践的な指針が必要です。
こうした研究所は、OpenAI Foundation が支援する Common Sense Media の Youth AI Safety Institute のような新たな取り組みに加え、OpenAI と米国教員連盟の取り組みを含む教育者との実践的な協力を土台にできます。また、エストニアで全国的に学校へ ChatGPT を導入する取り組みのような実社会での展開からも学ぶべきです。そこでは OpenAI がスタンフォード大学およびエストニアの研究者と協力し、影響を調査して、学習におけるより安全で効果的な利用に役立てています。
OpenAI は、フランス政府、他の G7 各国政府、そして市民社会、学界、産業界のパートナーと、この重要な取り組みに協力し、若者の安全に関する世界標準を高める機会を歓迎します。
G7 の会合で合意に至る可能性のある内容を含め、若者の AI 安全性に関する強固なフレームワークは、ここで示す原則に基づいて進められるべきだと考えています。
- 企業は、ユーザーが未成年者である場合を把握し、年齢に応じた保護を適用すべきです。これは、提供者に対し、効果的でプライバシーを保護する年齢推定などの手段を用いて未成年者と成人を区別すること、そしてユーザーの年齢を判断できない場合にはより強い安全措置を初期設定とすることを求めるものです。この基盤がなければ、どれほど善意に基づく若者保護策であっても、保護の対象である若者に届かない可能性があります。
- 企業は、若者にとってのリスクと利点の両方を定期的に評価し、被害が生じる前に必要な対策を講じるべきです。これは、提供者に対し、若者の安全に関するリスク評価を毎年実施し、特定したリスクに応じて相応の安全措置を実装することを求めるものです。こうした評価では、発達段階、実際の利用から得られる経験的証拠、関連する研究や規制上の指針に基づき、若者へのリスクを考慮すべきです。評価では、潜在的な害だけでなく、AI が学習、創造性、スキル開発、機会へのアクセスといった前向きな成果を支えているかどうかも考慮すべきです。
- 保護者は、子どもの体験を導きながら、年齢に応じた自立を支えられる、利用しやすい管理機能を利用できるべきです。これには、メモリ、データ利用、時間制限などの主要な設定を管理するツールが含まれるべきです。保護者向けツールは積極的に周知し、保護者がその存在を知り、使い方を理解できるようにすべきです。
- 家庭には、企業が若いユーザーをどのように保護しているかについて明確で理解しやすい情報と、若者による AI 利用の利点とリスクの両方に関する有意義な情報が提供されるべきです。企業は、若者を保護するためにどのような安全措置が講じられているか、利用可能な保護者向けツール、そしてリスクの変化に応じて保護がどのように更新されるかを説明する安全ポリシーを公表すべきです。この透明性は信頼を築き、保護者が十分な情報に基づいて選択する助けになります。
- 企業は、自傷、搾取、グルーミング、性的搾取コンテンツ、その他の高リスクなやり取りを含む重大な安全状況に対処するための明確なプロトコルを整備すべきです。これには、サービス内での支援、適切な相談先や支援窓口への案内、適切な場合の保護者への迅速な通知が含まれるべきです。企業はまた、露骨な性的または暴力的な素材を含め、子どもにとって安全でない、または発達段階に適さないコンテンツを生成しないようシステムを設計すべきです。
- 若者が利用する AI システムは、学習、発達、実世界の人間関係を置き換えるのではなく、それらを支えるように設計されるべきです。AI は、若者が学び、創造し、スキルを身につけ、将来に備えることを助けるツールとして機能すべきです。一方で、健全な発達に人間の判断や実社会での人間関係、専門的な支援が欠かせない領域では、企業は明確な境界を設けるべきです。
- 未成年者の個人情報は保護されるべきです。これは、プライバシーを侵害する若者向けのターゲティング広告を禁止し、企業による個人情報の販売を禁じることを意味します。
- 若者の安全フレームワークは、機会、リテラシー、保護を促進すべきです。若者は、学習、創造性、スキル開発、将来の機会を支える AI ツールにアクセスできるべきであり、同時に AI を安全かつ責任を持って利用するために必要な知識と批判的思考力も身につけるべきです。これには、AI リテラシーを促進し、若者が AI システムの機会と限界を理解できるよう支援することが含まれます。それにより、デジタル空間で自信を持って責任ある形で関わることができます。
- 独立監査を含む強固な説明責任メカニズムは、これらの保護策が実効性を持つようにするために不可欠です。監査は、法域をまたいだ相互運用可能な監査を可能にする共通基準に支えられるべきです。立法上のフレームワークには、企業が若者の安全のための保護措置を効果的に実装し、特定されたリスクを軽減し、若者の安全とプライバシーに関する義務を遵守しているかを政府が評価できる監督・執行措置を含めるべきです。
これらの原則は、モデルの挙動や製品設計から専門家の意見、実社会での支援に至るまで、ChatGPT の構築と運用の方法に反映されています。当社は、18 歳未満のユーザー向けの安全措置を強化し、積極的な通知を備えたペアレンタルコントロールと、利用者が 18 歳未満である可能性がある場合に、ChatGPT がより強い保護を適用できるようにする高度な年齢予測システムを導入しました。当社のモデルがどのように振る舞うべきかを示す Model Spec にも、18 歳未満のユーザー向けの専用原則（新しいウィンドウで開く）が含まれており、10 代の安全、年齢に応じた体験、実世界での支援、明確な期待事項を優先しています。実際には、これは自傷、危険な活動、露骨なコンテンツ、ボディイメージに関する問題、秘密を抱え込むよう促すやり取りに対する、より強力な安全対策に加え、必要に応じて信頼できるオフラインの支援や危機対応リソースを求めるよう促すことを意味します。年齢を確認できない場合は、より強力な安全対策をデフォルトで適用します。
強力な安全措置を備えて設計され、明確な指針と家族・教育者からの支援とともに提供される AI は、若者が学習や創造の機会を広げるツールの恩恵を安全に受けられるよう支援できます。AI は、学生が難しい概念を理解し、言語を練習し、文章力を高め、コードを学び、研究を整理し、創造的なアイデアを探求し、すでに変化しつつある仕事に備えることを助けられます。Education for Countries を通じて、OpenAI は政府や教育者と協力し、研究に基づく導入、地域に合わせた学習ツール、教師研修を進めることで、AI の導入が、実証的な知見と実際の教室のニーズに基づいたものとなるよう取り組んでいます。この取り組みはすでに、エストニア、ギリシャ、シンガポールを含むパートナー国で、各国の教育への取り組みを支えています。
首脳サミットへの参加に加え、当社はOpenAI Forum（新しいウィンドウで開く） をパリで開催し、政府、研究者、市民社会、教育者、産業界が、若者の安全という共有目標を具体的な安全措置、標準、実践方法へと転換する方法について実践的な対話を行います。フランスの AI・デジタル担当大使である Clara Chappaz 氏は、OpenAI の Chief Global Affairs Officer である Chris Lehane、iRaise/Everyone.AI の若者安全リーダー、その他の専門家とともに、リスクを減らしながら若者が AI の恩恵を受ける方法について議論します。
