私たちが掲げる原則の中には、相対するものがあります。未成年の安全性、自由、プライバシーの間で対立が生じた場合についての決定に関して説明したいと思います。
AI の利用におけるプライバシー権の保護は、私たちにとっても社会にとっても極めて重要です。ユーザーは AI に、ますます個人的なことを話すようになっています。これまでの世代のテクノロジーとは異なり、AI は、かつてないほど機微な個人情報を扱うアカウントになる可能性があると私たちは考えています。病歴について医師に相談したり、法的状況について弁護士に相談したりする際、その情報は秘匿対象として、高いレベルの保護が提供されることが、社会の利益のために最優先されると判断してきました。デリケートな質問や個人的な心配事について AI に頼る機会が増えているため、AI との会話にも同じレベルの保護を適用する必要があると私たちは考え、このことを政策立案者に対して提唱しています。
私たちは、お客様のデータのプライバシーを OpenAI の従業員からさえも守る高度なセキュリティ機能を開発しています。他のカテゴリーの特権と同様に、一部の例外はあります。たとえば、深刻な乱用がないかを自動化されたシステムで監視しています。最も重大なリスク（人の生命を脅かすもの、他の人を害する計画、大規模なサイバーセキュリティ インシデントのような社会規模の危害）については、人間によるレビューへとエスカレーションされる可能性があります。
2つめの原則は自由に関するものです。当社は、非常に広い安全性の範囲内で、ユーザーが望む方法で当社のツールを利用できるようにしたいと考えています。モデルの操作性を向上させながら、ユーザーの自由度を高める取り組みを続けてきました。たとえば、当社モデルのデフォルトの動作では、軽薄な会話につながりませんが、成人ユーザーが求めた場合は、それに応じるはずです。もっと難しい例を挙げると、デフォルトではモデルは自殺方法の指示を与えませんが、自殺を描写する架空の物語を執筆する手伝いを成人ユーザーが求めた場合、モデルはその要求に応えるはずです。「成人ユーザーを大人として扱う」というのが社内で話し合ったやり方であり、誰かに危害を加えたり、誰かの自由を損なったりすることがない限り、自由を拡大しています。
3つめの原則は未成年の保護に関するものです。私たちは、未成年のプライバシーと自由よりも安全性を優先します。これは新しい強力なテクノロジーであるため、未成年ユーザーにはかなりの保護が必要だと考えています。
まず、ユーザーが18歳未満かどうかで区別する必要があります（ChatGPT は13歳以上を対象としています）。ChatGPT の利用状況に基づいて年齢を予測する年齢予測システムを構築しています。疑いがある場合は、安全のためにデフォルトで18歳未満向けに設定します。場合によっては、あるいは国によっては、身分証明書の提示をお願いすることもあります。成人のプライバシーを損なうことになりますが、これは価値のある妥協点だと考えています。
当社のサービスを利用する未成年ユーザーには、異なるルールを適用します。たとえば、ChatGPT は、前述のような軽薄な会話を求められても行わないよう、また、創造的な文章作成の場であっても自殺や自傷行為に関する議論に関わらないよう学習します。また、18歳未満のユーザーが自殺願望を抱いている場合は、ユーザーの保護者に連絡を試み、連絡が取れない場合は、差し迫った危害が及ぶ可能性があると判断し、当局に連絡します。本日、これらを実現するための年齢予測システムと新しいペアレンタル コントロールの取り組みについて、詳細をお伝えしました。
これらの原則の間には対立するものがあり、その解決方法に誰もが同意するわけではないことを認識しています。難しい決断ではありますが、専門家と協議した結果、これが最善と判断したのであり、私たちの意図を明確にしたいと考えています。
