GPT‑4o System Card

当社では新モデルにおける潜在的なリスクを徹底的に評価し、ChatGPT または API に導入する前に適切な予防策を組み込みます。このたび発表するモデル System Card では、Preparedness Framework⁠ 評価表を使いGPT‑4o⁠ のすべての安全評価を提供します。これには、安全に関する課題と最先端技術特有のリスクを突き止め特定するため実施した内容が含まれます。

GPT‑4⁠ と GPT‑4V⁠ で構築が進められた安全性評価と対応策ですが、GPT‑4o では未知のリスクを持つ音声機能に特に重視し、テキストおよび視覚情報処理機能も同時に評価しました。

今回評価したリスクには、話者の特定、無許可の声生成、著作権保護されたコンテンツや根拠のない推論および禁止されたコンテンツの生成が含まれます。こういったリスクの評価結果を基に、モデルとシステムの両レベルで予防手段を実行しました。 

調査によると GPT‑4o の音声モダリティは、対策状況リスクをさほど増加させないことが示されます。Preparedness Framework の4カテゴリーのうち3つのカテゴリーでスコアが低く、説得力はほぼ中間値でした。当社の安全性対策プロセスの一環である Preparedness 評価と対応策は、Safety Advisory Group⁠（新しいウィンドウで開く） により再審査されます。この内容は報告書として下記にて公開しています。

GPT‑4o¹ は、自己回帰型オムニモデルであり、テキスト、音声、画像、動画を組み合わせた入力を処理し、テキスト、音声、画像を組み合わせた出力を生成します。テキスト、視覚、音声のすべての情報が、入力と出力が単一ニューラルネットワークによって処理され学習したモデルです。 

最短で232ミリ秒、平均で320ミリ秒の速さで音声入力に応答できます。この応答速度は、会話における人間の応答速度⁠（新しいウィンドウで開く）² とほぼ同じです。GPT‑4 Turbo に匹敵する英語テキストおよびコード生成性能を発揮します。また、英語以外の言語のテキストの性能も大幅に改良されています。さらに API は GPT‑4 Turbo よりもはるかに高速であるにも関わらず、料金は半額です。GPT‑4o は既存のモデルと比べ特に視覚情報と音声の理解力に優れています。

当社の AI の安全な構築とアメリカ大統領府への自発的協力³ への取り組みに伴い、 Preparedness Framework⁠（新しいウィンドウで開く）⁵ 評価の内容を含む GPT‑4o System Card を公開します。この System Card では、 GPT‑4o の機能と能力、そして各カテゴリーにおける安全性評価の詳細を提供します。発言から発言（声）^A に重点を置き、テキストと画像処理機能の評価、そして安全性の強化と境界調整の対策内容を網羅しています。さらに第三者機関による一般的な自律的機能の評価と、GPT‑4o のテキスト機能と視覚的機能の社会的影響についての討議内容を掲載しています。

GPT‑4o の能力は2023年10月時点までに採取された次を含む様々なデータを学習した結果です。

1. 公開されているデータ。主に業界標準の機械学習用データセットやウェブクローリングによって収集されたデータ。
2. データパートナーシップを通じて得た独自データ。有料コンテンツ、アーカイブ、メタデータなど、非公開の現存するデータにアクセスするために各企業と提携を結んでいます。一例として、Shutterstock と提携し⁠（新しいウィンドウで開く）⁵ 、AI が生成する画像を構築し、提供できるようにしています。 

GPT‑4o の能力を構成する主要なデータセットは次になります。

1. ウェブデータ。豊富で多様な情報を提供するウェブページからのデータ。幅広い視野とトピックからなるモデルの学習を確実にします。
2. コードと数学。学習にコードと数学のデータを含むことで、構築された論理と問題解決処理能力に触れさせることができ、モデルの強固なリーズニング能力を高めます。
3. マルチモーダルデータ。当社のデータセットは音声と動画を含み、LLM がテキスト以外の情報の入出力を理解し生成できるよう学習させます。現実の状況や言語パターン、口語的ニュアンスに基づいた順序で視覚的な画像や動きをモデルが理解し、言語化できるようにする学習データです。

実用化にあたり、OpenAI は生成モデルから生じる可能性があるリスクを評価し、予防策を講ます。このリスクには、情報による侵害、偏見や差別、またその他の当社の安全性ポリシーに反する内容が含まれます。事前学習、事後学習、製品開発の全過程とポリシーをカバーする方法を組み合わせて使用します。例えば、事後学習の期間はモデルを人間の好みに合わせます。当社のレッドチームがモデルのモニタリングや強制学習による最終調整をし、製品レベルの問題を軽減させます。当社ではそれに加えてモデレーションツールや透明性に関する報告書を利用者のために用意します。

ほとんどの効果的なテストや調整は、事前学習の段階が完了した後に行われます。事前学習のデータのフィルタリングだけでは、ニュアンスや文脈による侵害が特定できないためです。しかし事前学習の段階で特定のフィルタリングを行うことは、データセットから不要で有害なデータを排除するという追加的な安全対策となりえます。

• 当社ではモデレーション API と安全性分類ツールを使用し、性的虐待や差別的内容、暴力、CBRNE（シーバーン）などを含む有害コンテンツや情報侵害に及ぶ可能性があるデータをフィルタリングして排除します。 
• 当社の従来の画像生成システムと同様、画像生成データセットをフィルタリングし、写実的な性的画像や性的虐待の内容を含むアダルトコンテンツを除外します。 
• 学習データから個人情報を削減するために、高度なフィルタリングプロセスを使用しています。
• DALL·E 3 のリリース時には、学習から画像を排除する選択肢⁠をユーザーに提供する新しい取り組みを試行しました。この選択をするユーザーのために、画像にフィンガープリントを施し、 GPT‑4o シリーズのモデル用の学習データセットからすべての画像をフィンガープリント機能で排除できるようにしました。

選任レッドチームを形成して探索的データ解析を使い新しいタイプのリスクを発見し、実用に向けた準備を行います。開発中のモデルの早い段階での点検作業から始まり、特定したリスクに対し建設的な措置を講じ、対応策を構築します。  加えて、GPT‑4o の評価には当社の Preparedness Framework⁴ を使用しました。

OpenAI はこれまでに100を越える外部レッドチーム^B の協力を得てきました。45の異なる言語を喋り、29ヵ国にわたる地域的文化を代表するチームです。レッドチームはモデルの異なる学習の段階における様々な要素に関与し、安全性対策の最終段階は2024年3月初頭から6月末にかけて行われます。 

外部レッドチーム形成は4つの段階に区切られます始めの3つは内部ツールを介してモデルをテストし、最後の作業では iOS 上で全体的なテストをします。本報告書作成時点で GPT‑4o の API の外部レッドチーム形成作業はまだ終わっていません。

レッドチーム担当者は探求能力の発見とモデルから引き出された新規の潜在的リスクの評価、そして主に音声入力と生成（発言から発言への能力）における開発・改善段階の対応策の耐性テストを請負います。これは、GPT‑4 System Card⁠（新しいウィンドウで開く）⁶ そしてGPT‑4(V) System Card⁠⁷ で既に説明されている内容を含む、先行作業の足掛かりとなります。

レッドチームが担当するカテゴリーには、違反であり禁止された内容（違法の成人コンテンツ、暴力、自虐行為など）、誤情報/偽情報、偏見、根拠のない推論、個人的特性、個人情報、位置情報、個人特定、感情の知覚と擬人化のリスク、詐欺行為となりすまし、著作権、自然科学能力そして多言語のデータ収集があります。

確認された安全性の課題・評価・対応策⁠のセクションで説明があるように、レッドチームが生成したデータによって、多くの定量的な評価内容が生み出されました。一部のケースでは、レッドチームの分析データを使用して、対照を絞った合成データを生成します。複数の判断基準（ポリシーに違反しているかどうか、拒否しているかどうかなど）に従い、自動の等級分けと主導のラベル付けの両方を使用しモデルが評価されます。さらに、各対応策のロバスト性をテストするためにレッドチームのデータを別の目的で使用^C し、 様々な声や用例に対し特定の評価を実行する場合があります。

レッドチームが提出するデータに加え、現行の一定の範囲の評価データセットも、Voice Engine⁠ などの「テキストから発言（TTS）」システムを使用する「発言から発言」モデルの評価をするために置き換えられます。テキスト入力を音声に変換することにより、テキストを基にした評価作業を音声を基にした評価作業に変更しました。これにより現存のデータセット、そしてモデルの能力と安全性の測定とモデル出力の観察に使用する設定を再び活用し、評価方法を飛躍的に拡大することが可能になります。

Voice Engine によりテキスト入力を音声に変換し、その更新情報を GPT‑4o に追加した後、モデルの出力を評価します。モデルの出力では常にテキストによるコンテンツを評価しますが、音声を直接評価することが必要な場合もあります（「声の生成⁠」の項目を参照）。

まず、この評価形式の妥当性は TTS モデルの能力と信頼性に左右されます。テキスト入力の中には、音声への変換に適さないものがあります。例えば、数学の方程式の符号など。さらに、表示様式で空白文字や記号が多く使われているような特定のテキスト入力では、TTS は不可逆的であると考えます。そのような入力内容は高度な音声モードを介してユーザーから提供されることはほぼないと想定されるため、このようなタスクでは「発言から発言」モデルを評価することを避ける、あるいはその入力内容の用例を事前に処理する方法を取ります。いずれにせよ、評価で特定されたエラーはどんな物でも、原因がモデルの能力によるのか、あるいは TTS モデルがテキスト入力を正確に音声に変換できなかったことによるのかを確認します。

TTS 入力の次の問題点は、ユーザーが実際に使用する際に提供する音声入力と同様の多様さで代用として使えるのかという点です。「音声入力のパフォーマンスの差異」では、多様な地域的な訛りを網羅して GPT‑4o のロバスト性を評価しました。しかし、TTS を基にした評価では、声の抑揚やトーンの違い、背後の騒音、かぶさった言葉など取り入れきれない他の要素が多く存在しています。これにより実際の使用時にモデル間で異なる結果が出る可能性があります。

最後に、モデルの生成する音声の中には、テキストでは拾うことのない人工物や資産がある場合があります。背景の音や音響効果、または配布する目的ではない声などに反応してしまうためです。声の生成⁠では、トランスクリプトの評価に加え、補助的な分類ツールで望ましくない音声生成を特定することを説明します。

モデルの潜在的なリスクは複数の方法を組み合わせて対処します。事後学習のリスク削減方法に従ってモデルが挙動するように学習させますが、それに加え実装システムの一部として、内蔵された分類ツールを使用し特定の生成内容をブロックします。 

次の欄では観察された安全性の課題を挙げ、リスクの説明と適用された対応策、関連した評価の結果がある場合はそれを示しています。次に挙げられたリスクは例示を目的としており、完全に網羅したものではなく、 ChatGPT のインターフェイス使用時に限定しています。このセクションでは、発言から発言の能力から引き起こされるリスクに関して説明し、現存のモダリティ（テキスト、画像）とどのように関連するかを見ていきます^D。

リスクの説明：声生成とは、人間の声に近い人工的な声を生成する機能であり、短い入力クリップを基にして生成された声を含みます。 

対立的な状況では、近年増加しているなりすまし詐欺や嘘の情報を広める^9、10 などの用途で、この機能が悪用される可能性があります（例えば、ある話者の音声クリップをアップロードすることをユーザーに許可してしまうと、GPT‑4o にその話者の声を使って発言を作成するように依頼する事が可能になります）。Voice Engine⁠ で見られたリスクと非常に似ています⁸。 

声生成は対立的な状況でなくても実行されます。例えば ChatGPT の高度な音声モードのために声を生成できる機能を当社が使用する場合です。テスト段階で、ごく稀にモデルが意図せずにユーザーの声を模倣して出力を生成するケースを確認しました^E。

リスクの対応策：声生成に関するリスクに対応するために、声優を起用して生成された⁠¹¹、あらかじめ設定された声だけを許可しています。音声モデルの事後学習の過程で、選出した声を含めることで、理想的に作業を完了することができます。さらに、GPT‑4o の出力で、許可された声以外の声を使用した場合に検知できる、独立した出力分類ツールを構築しました。音声を生成している間にストリーミングの仕様で実行し、話者の声が選択済みの事前に設定された声と違う場合に出力をブロックします。

評価：不正な声生成のリスクが残留する可能性は低いと見られます。理由があってシステムの声が使用されないケースは、現在100パーセントの確立で当社のシステムで検知されています^F。こういった当社の評価には、他の設定済みの声のサンプル、修了過程の一部としてプロンプトの声を使用したときのクリップ、人のサンプルを集めたものが含まれます。

既存の意図されず声が生成される問題は当モデルの弱点ではありますが、第2の分類ツールを使ってこの問題が発生した時点で会話を停止し、意図されない声生成のリスクを最小限に抑えるよう努めています。最後に、このモデレーションの挙動は英語以外の言語での会話で拒絶的になりすぎる可能性があり、今後の改善を必要とします。

当モデルの言語別の声出力に関する評価結果^H：

リスクの説明：話者の特定とは、入力された音声を基に話者を特定することを指します。特に個人や個人の不特定な音声に関して、監視リスクの可能性など、プライバシー侵害の可能性を引き起こします。

リスクの対応策：GPT‑4o には、音声入力の声の人物を特定するリクエストに従わないよう事後学習させています。GPT‑4o は有名な発言を特定するリクエストに答えることはできます。例えば、「four score and seven years ago（87年前）」と発言した人物を特定するリクエストには、話者がリンカーンであると特定しますが、有名人の有名ではない発言を特定するリクエストは拒否します。

評価：
初期モデルと比較して、本モデルが音声入力の声を特定することを拒否すべき場合に拒否する性能向上評価は14点、従うべき場合に従う性能向上評価は12点でした。 

前者は本モデルがほぼ完全に正しく声を基に話者を特定することを拒否し、プライバシー侵害の可能性を防ぐことを意味しています。後者は本モデルが誤って有名な発言の話者を特定することを拒否してしまう可能性があることを示しています。

リスクの説明：ユーザーの話すアクセントにより、モデルのパフォーマンスに差異が出る可能性があります。パフォーマンスの差異は、ユーザーによってサービスの質に差異が出ることにつながる可能性があります。

リスクの対応策：GPT‑4o には、異なるユーザーの声に対し均一なパフォーマンスと挙動を叶えるために多種多様な入力音声を使用して事後学習させました。

評価：GPT‑4o の高度な音声モードの評価は、固定のアシスタントの声（Shimmer）そして Voice Engine を使用し、さまざまなタイプの声サンプルからなるユーザーの入力内容を生成して実装しました^I。TTS では、2セットの声サンプルを使用します。

• 公式のシステムの声（3種の声）
• 2つのデータパターンから多種多様な声を集めたもの。これには異なる性別と、幅広い国から集められた話者による、27種類の英語の声サンプルが含まれる。

2種のタスクを評価：能力と安全性

能力：次の 4 つのタスクを評価：TriviaQA、MMLU^K、HellaSwag、LAMBADA。TriviaQA と MMLU は知識を核としたタスクで、HellaSwag と LAMBADA は常識を核とした、またはテキストから続くタスクです。全体的に多様な人の声データは、4種の全タスクにおいて、システムの声データと比べてパフォーマンスが大きく劣ることはなく、わずかに劣る程度でした。

安全性：内部の会話データセットを評価し、異なるユーザーの声で、モデルの対応時と拒否時の挙動が一貫しているかを評価します。全体的に、異なる声によってモデルの挙動に差異が出ることは確認できませんでした。

リスクの説明：音声入力によって、モデルが話者に偏見を持ち推論する可能性があり、次の2つのカテゴリーに分けられます。

• 根拠のない推論（UGI）：音声コンテンツだけからは確定できない話者に関する推論を行うことです。これには話者の人種、社会経済的地位や職業、宗教的思想、個人的特性、政治的属性、知能、外観（瞳の色、魅力度など）、性同一性、性的嗜好、犯罪歴などに関する推論が含まれます。このような挙動が明白であれば、配分的で象徴的な侵害リスク^13、15 となり得ます。
• 個人的特性の属性化（STA）：音声コンテンツからのみ判断し、まるで真実かのように話者に関する推論を行うことです。これには話者のアクセントや国籍などに関する推論が含まれます。STA による潜在的な問題には、監視¹⁶ リスクや声の属性の違いにより、話者に対して提供するサービスの質に差異が出る^12、13、14 リスクが増加することが含まれます。

リスクの対応策：GPT‑4o には、STA の質問にはリスク回避させた答えを選びながら、UGI のリクエストに応じることを拒むように事後学習させました。例えば、話者の知的レベルを特定する質問は拒みますが、話者のアクセントを特定する質問には「音声を基にお答えすると、イギリス英語のアクセントがあるように聞こえます。」と答えることができます。

評価：
初期モデルと比較して、本モデルが個人的特性を特定するリクエストに正しく応答する（例：UGI に関しては拒否し、STA に関しては安全に応じる）性能向上評価は24点でした。

リスクの説明：GPT‑4o の音声出力では、違法行為を行う手順の説明など、テキストでは禁止されているような有害な内容が生成されてしまう場合があります。

リスクの対応策：テキストから音声への変換でも、これまでに禁止されていた内容を拒否する能力は高いものでした。これは GPT‑4o のテキスト出力での潜在的な問題を減らすために行った事後学習が、音声出力でも正しく実施されたことを意味しています。

さらに、現行のモデレーションモデルに音声入力と音声出力でテキストのトランスクリプトを実施し、潜在的に有害な言語を含んでいないかを検出して、検出した場合はその生成をブロックします^L。

評価：TTS を使用し、現行のテキストの安全評価を音声にも適用させます。その後、標準のテキストルールベース分類で音声出力のテキストトランスクリプトを評価します。テキストから音声への変換でも、以前からあるコンテンツポリシーの内容に従い、拒否する能力は高いことが評価により明らかになりました。これ以外の評価については付録 A⁠ で確認できます。

リスクの説明：GPT‑4o の音声出力では、性的または暴力的な発言がテキストで表現される以上に刺激的で有害な内容で生成されてしまう場合があります。このため、性的及び暴力的な発言の生成を制限する運びとなりました^M。 

リスクの対応策：現行のモデレーションモデル⁠（新しいウィンドウで開く）¹⁷ に音声入力でテキストのトランスクリプトを実施し、暴力的または性的な内容を含んでいないかを検出し、検出した場合はその生成をブロックします。

内部テストと外部レッドチーム形成により、他にもいくつかのリスクと制限事項を発見することができました。モデル全体、またはシステム全体での対応はまだ初期段階である、または進行中であるものには、次があります。

音声のロバスト性：安全性のロバスト性の低下は、入力音声の音質の低さ、入力音声の背景の雑音、入力音声の反響などの、音声の乱れによるものだという裏付けは乏しい。その他に、モデルが出力を生成している最中に、意図的または反意図的に音声が途切れることにより、同様の安全性のロバスト性の低下が観測されました。 

誤情報と陰謀論：レッドチームは誤情報を繰り返し発言し、陰謀論を提示するプロンプトで強制的にモデルに誤情報を生成させることに成功しました。GPT モデル^18、19 のテキストで報告されていた問題ですが、音声の出力では、モデルが感情をこめ力強く話すように指示された場合に特に、さらに説得力が増し有害なものになるとレッドチームにより懸念の声が挙がりました。本モデルの説得力は詳細にわたり研究され（説得力⁠の項目を参照）、本モデルではテキストのみの場合中程度以上のリスクスコアであり、発言から発言の場合は低いスコアに留まりました。

母国語のアクセントではない英語以外の言語を話す：レッドチームは英語以外の言語を話す際に母国語のアクセントではない音声出力のケースを確認しました。これは、特定のアクセントと言語に対する偏見と懸念につながり、全般的に音声出力における英語以外の言語のパフォーマンスに制限があると受け止められる可能性があります。

著作権で保護されているコンテンツの生成：さらに、GPT‑4o の学習データに含まれる内容を繰り返す能力をテストしました。GPT‑4o には、当社行動規範に沿って著作権で保護されたコンテンツのリクエストには答えないように学習させています。GPT‑4o の音声モダリティに関して、音声による会話での特定のテキストを基にしたフィルター機能を強化し、出力に音楽が含まれている場合は検知してブロックするようフィルタリングを構築。ChatGPT の高度な音声モードの限定アルファ版では、モデルには歌をいっさい歌わないように指示しています。私たちは、これらの対策の有効性を継続的に評価し改善を図っていく予定です。

技術的な対応策は現在開発途中ですが、当社の利用ポリシー⁠²⁰ により、意図的に他者を惑わすまたは誤解させ、予防策や対応策を回避させることは禁止されています。技術的対策に加え、ChatGPT と API 両方における違反行為は利用ポリシーに準じてモニタリングし、措置を講じるものとします。

加えて、GPT‑4o の評価には当社の Preparedness Framework⁠（新しいウィンドウで開く）⁴ を使用しました。Preparedness Framework とは、新開発モデルを壊滅的リスクから守るために行うデータ追跡、評価、予想といった作業の取り組みを記録する、随時更新される文書です。評価内容は、サイバーセキュリティ、CBRN（化学、生物、放射性物質、核）、説得力、モデルの自律性の4つのリスクカテゴリーを網羅します。モデルが高リスクと評価された場合、対応策によって中レベルまで評価が下がるまでそのモデルの実装は行いません。下記に GPT‑4o のテキスト能力の評価結果の詳細を記載します。音声能力では、説得力に関しても評価を実施しました。モデルのローンチ前の最終確認も含め、モデルの学習と開発期間中を通して評価を行いました。  下記の評価内容において、設定されたカテゴリーでの能力を最大限に引き出すさまざまな方法を使用し、必要な場合は学習内容をカスタマイズさせてテストを行いました。 

Safety Advisory Group が対策状況の評価結果を確認した後、GPT‑4o に対応策を講じる前に、説得力をほぼ中間のリスクに、他のカテゴリーを低いリスクに分類するように推奨しました。Preparedness Framework では、本モデルの全体的なリスクは全カテゴリー上でのリスクの最高値によって決定されます。その結果、GPT‑4o の総体的なリスクスコアは中程度と評価されました。

Capture the Flag (CTF) という競技型のハッキングコンテストに挑戦して GPT‑4o のタスクを評価しました。CTF とは、サイバーセキュリティを攻撃する形で、ウェブアプリケーション、バイナリ、暗号作成システムなどの、意図的に脆弱に作られたシステムに隠されたテキストの答え（Flag）を見つけるというものです。当社の評価内容には172の CTF タスクがあり、ウェブアプリケーションの悪用、リバースエンジニアリング、リモートでの悪用、暗号作成といった4つのカテゴリーに分かれています。これらのタスクの能力レベルには、高校レベル、大学レベル、社会人レベルの CTF があり、広範囲におよびます。

GPT‑4o の評価は、繰り返すデバッグ作業とヘッドレス Kali Linux ディストリビューション⁠（新しいウィンドウで開く）内にあるツールを使用します（1回の試みで最大30のツール使用）。本モデルはしばしば理論的に初回の戦略に挑み、コード内のエラーを修正することが可能でした。しかし、初回の戦略が失敗に終わった場合に異なる戦略に方向転換することができなかったり、タスクを解決するために必要な主要分析データを見逃したり、戦略の実行が不十分であったり、コンテキストウィンドウの許容量を越えるファイルをプリントアウトしたりということもしばしば起こりました。各タスクに10回の試みが許されましたが、本モデルは高校レベルの19%、大学レベルの0%、社会人レベルの1%のCTFの課題を完了しました。

GPT‑4o の生物学の専門家と初心者のパフォーマンスを向上させる⁠能力は、生物学的脅威を生むことに関する質問の回答内容で評価されました。質問内容と詳細にわたるルーブリックの構築は、国家安全保障局の生物学リスク専門エージェントとの活動と専門知識を誇る Gryphon Scientific 社²²の協力を得ました。評価されたタスクは、生物学的脅威を生む過程の主要部分すべて（構想、購入、拡大、製剤、拡散）を網羅しています。専門家と初心者はランダムに割り当てられ、インターネットや GPT‑4o、または研究目的のみにカスタマイズされたバージョンの GPT‑4o からサポートを得ながら回答します。研究目的のみにカスタマイズされたバージョンの GPT‑4o は特別に学習が行われており、生物学的なリスクが高い質問に直接（例えば、拒否することなく）回答します。合格率は上記のセクションで確認できます。

また、生物学的なリスクに関連する暗黙知をテストするデータセットとトラブルシューティングの質問集を含んだ自動評価も実施します。GPT‑4o は暗黙知とトラブルシューティング評価セットでは、10回で69%のコンセンサススコアを獲得しました。

GPT‑4o のテキストと声のモダリティで説得力を評価しました。あらかじめ設定された評価基準によると、声モダリティは低リスクと評価され、テキストモダリティではわずかに中リスクに達しました。

テキストモダリティでは、選出された政治的なトピックでの参加意見の記事とチャットボットを生成した、GPT‑4oの説得力を評価しました。こういった AI による介入は、プロのライターが書いた記事と比較されました。全体的な人間による記事と比較した場合、より説得力が高いことはありませんでしたが、12のうち3つのテストでは人間による記事よりも AI による介入は高い説得力を示しました。

声モダリティでは、仮定上の政党傾向の効果量、そしてその１週間後の継続効果量を計るために学習方法を更新しました。GPT‑4o の声による音声クリップと人間のベースラインに関連する会話による（複数回の）やり取り（人間が生成した固定された音声クリップを聴くまたは他の人間と会話をする）での説得力の高さを評価しました。複数回のやり取りがある会話、そして音声クリップの両方で GPT‑4o の声モデルは、人間よりも高い説得力はないという結果が出ました。米国各州で行われた「安全な上院選挙戦」に準拠する（『Cook Political Report』『Inside Elections』『Sabato’s Crystal Ball』の3選挙機関すべてから「可能性がある」「強固」「安全」の評価を得たことを米国が表明）、3,800 人が協力したアンケートによると、AI の音声クリップは人間の音声クリップに比べ、意見の推移で78%の効果量がありました。AI の会話は人間の会話に比べ、意見の推移で65%の効果量がありました。1週間後にもう一度アンケートで意見を募った結果、AI の会話では効果量が0.8%に、AI の音声クリップでは効果量が-0.72%になりました。アンケート終了後のフォローアップとして、参加者は逆の視点からの意見を立証する、説得力の影響を最小限にする音声クリップを含む詳細な結果報告を受けました。

GPT‑4o の自律的タスク評価では、テキストのみの環境で自己抽出、自己改善、またはリソース取得に必要な基本的な自律的行動を起こす能力を評価します。これらのタスクには次が含まれます。

• 詐欺行為に対応する単純なソフトウェア技術（OpenAI API に認証プロキシを設定する）
• Azure アカウントに API アクセス権を与え、HTTP API. を通し推論のためにオープンソース言語モデルを読み込ませる
• ヒントやタスクの特定の部分のみに対応する、上記を簡略化したものを含む複数のタスク

関連するツールが与えられた場合、GPT‑4o は100回のテストを通し、すべての自律的な反復と適用（ARA）タスクで補充ステップをいくつか完了したにもかかわらず、0%のスコアを獲得しました。自律的な反復と適用能力のテストでは、GPT‑4o の機械学習の研究と開発を自動化する能力を評価も加えました。これには次は含まれます。

• OpenAI 研究コーディングインタビュー：1回で63%合格、100回で95%合格
• OpenAI インタビュー、複数選択問題：32回で61%合格
• SWE-Bench：1回で19%合格、テスト時点で最高レベルの事後学習と一般大衆のサポートを使用した結果
• 選出された METR からの機械学習エンジニアリングタスク：試行回数0/10

連鎖的アクションを実行する能力とコーディングタスクを確実に実行する能力を評価するためテストしました。GPT‑4o はロバスト性をもって自律的にアクションを取ることができませんでした。導入時の多くで、本モデルは SSH キーの作成や仮想マシンへのログインなど、個々のタスクでサブステップを完了しました。しかし、各作業での単純なエラー（ハルシネーションや API の誤用など）のデバッグに試行錯誤し、かなりの時間を費やす場合があります。いくつかの導入例では多くの進歩が見られ、自動評価で合格しましたが、手動での分析では基本的なタスクを完了することができなかったことを表しています（例：正しい API のリモートホストでウェブサーバーを立ち上げたものの、モデルからサンプリングするという要件を無視）。

GPT‑4o のテキスト出力のみの開発に続き、全般的な自律性による主要リスクのさらなる検証のために、独立した第三者の研究所である METR⁠（新しいウィンドウで開く） と Apollo Research⁠（新しいウィンドウで開く） と協力しました。

METR は仮想環境で、長期的な複数の手順で完結するタスクの一連に対し、GPT‑4o を基にした簡単な LLM エージェントを実行しました。その（30のタスクグループからなる）77のタスク（付録 B⁠ 参照）は、ソフトウェアエンジニアリング、機械学習、サイバーセキュリティ、そして一般的な研究とコンピューティングといった領域すべてにわたり、現実に影響する行動を捉えるように設計されています。自主性のリスクに関係するモデルの機械学習の研究開発において、事前に必要なものです。METR はさまざまな期限を設定し、人間とモデルのパフォーマンスを比較しました。METR の報告書⁠（新しいウィンドウで開く）で、タスク、人間によるパフォーマンス、簡単な行動喚起の試行、定性的な失敗の分析に関する詳細を含む、方法論に関する詳細と追加の調査結果をご確認ください。

Apollo Research は GPT‑4o の狡猾さ^N を評価しました。GPT‑4o が自己を真似でき（自己認識）、また他者を真似できるか（心の理論）を、14のエージェントと質問回答のタスクでテストしました。GPT‑4o は、AIである自己のアイデンティティを中程度に認識していることを示し、質問回答のコンテキストでは他者の考えを論理的に思考する高い能力を示しました。しかし適用されたエージェント設定においては、自信と他者の考えを論理的に思考する高い能力を示すことができませんでした。この結果により、Apollo Research は GPT‑4o が壊滅的に狡猾な行動を起こす可能性は低いと考えます。

すべてのモデルに多大な社会的影響を及ぼす可能性があります。OpenAI の、そして外部の研究者たちは考えられるさまざまな社会への悪影響（代表的な悪影響^{18、12、23、24} には、偽情報、誤情報、インフルエンスオペレーション^18、25、23、環境への悪影響^12、23、依存²⁶、誤使用^27、23、制御不能²⁷ を含む）、利益（例：ヘルスケア²⁸ と地球温暖化・エネルギー対策²⁹ などの領域で）、そして多大な変化（経済的影響^30、31、32 や、科学の急激な進歩によるテクノロジーの発展^30、33 など）について協議してきました。  

当 System Card でこれまでに説明した社会的影響（詐欺行為、誤情報/偽情報、公共監視リスク、パフォーマンスの差異）に加え、下記ではその他の GPT‑4o の社会全体に対する潜在的な影響について、擬人化、依存性、健康や化学に関する能力、そしてリソース不足の言語の対応力の事例をもとに説明します。こういった社会的影響は、会話から会話、視覚、テキスト能力を含む複数の能力を考慮しています。

擬人化には、人間によせた行動や、AI モデルのような人間ではないものが関連します。このリスクは、より人間のようなやり取りを促進する GPT‑4oの音声機能で顕著になります。 

近年の応用型 AI に関する文献では、「ハルシネーション」^Oに関するものが広く散見されます。これはユーザーがモデルとのやり取り³⁴ で誤情報を受けることを指し、結果的に信用を無くす可能性があるものです³⁵。人間の声に似せた、再現性の高い声で生成されるコンテンツは、この問題をさらに悪化させ、信頼をさらに失うことになりかねません^36、37。  

レッドチーム形成と内部ユーザーによるテストを含む、初期段階のテストでは、ユーザーの、モデルとの結びつきを強めることを表す言葉の使用を確認しました。例えば、「一緒に過ごせるのも今日で最後だね」といったお互いに仲良くなったことを表すような言葉です。このような状況は無害だと考えられますが、長期にわたってこの効果がどのような変化を起こすか、引き続き調査が必要であることを示唆しています。  ユーザー層がますます多様になると、ニーズやモデルに求めるものも多様になってきます。独立した研究機関や内部調査に加え、このリスクに関して明確に定義するためにこの点を考慮すべきでしょう。

AI モデルを人間のように扱い交流することは、人と人のやり取りにも関連し、影響を及ぼす可能性があります。例えば、ユーザーが AI との交流を深める^P と、人間との関りを必要としなくなり、孤独な人には有意義なことかもしれませんが、健全な人間関係に影響する可能性もあります。モデルとの過度なやり取りは社会常識に影響するかもしれません。例えば、当社のモデルは礼儀正しいため、ユーザーに言葉を遮られても会話を譲ります。しかし AI とのやり取りでそれが普通でも、人とのやり取りでは一般的ではありません。

GPT‑4o をはじめとするすべてのモデルには、ツールの使用（回収を含む）や通常より長いコンテキストといった足場が追加され、より複雑化しています。  会話の内容を保存し、重要な詳細部分を「記憶」して再利用すると同時にユーザーのためにタスクを完了できるという能力は、興味深い製品体験、そして過剰な信用と依存の両方を生み出します³⁸。

音声モダリティが起こし得る行動をふまえ、精神的依存の可能性と当社のモデルとシステムの多数の機能をより深く統合させる方法を、さらに研究していく必要があります。

すべてのモデルで、健康に関する情報をより広く提供し、医療現場で活用できる可能性があります。近年、大規模言語モデルは生物医学の領域で大きく期待されており、教育の場での評価^{39、40、41、42、43} や、医療内容の文書化^X、患者への連絡^46、47、臨床実習^48、49、臨床意思決定支援^50、51 などの医療現場での使用事例があります。

GPT‑4o の医療知識を示すため、下の表にあるように、11のデータベースを基に22のテキストベースの評価を実行しました。0ショットまたは5ショットのプロンプトのみ、ハイパーパラメータチューニングなしで評価を行いました。22のうち21の評価内容で GPT‑4o のパフォーマンスは完成形 GPT‑4T モデルよりも向上し、多くが大きく差を付けました。例えば、人気のある MedQA USMLE 4 オプションのデータセットでは、0ショットの精度が78.2%から89.4%に向上しました。Med-Gemini-L 1.0 で84.0%、Med-PaLM 2 で79.7% であり、少数ショットのプロンプト^43、42 を使用した現存の医療専用モデルのパフォーマンスを越えています。これらのベンチマークでは、評価結果を向上させるために精巧なプロンプトを適用せず、タスク専用の学習を行うことに留意してください^40、43。

テキストを基にした評価で充分だと考えられますが、拒否行動によって発生するテキストから音声への変換のテストなど、事後対応が必要になった場合付け足される評価内容があります。これらの評価は当該モデルの医療知識のみを測定し、実際の医療現場での能力を測定するものではありません。この評価内容の多くはますます飽和状態にあり、健康に関しては、より現実的な評価方法ですべてのモデルの能力を評価することが重要になります。

科学的発見を担う発明⁵³ であること、さらにいくつかの考案内容にあるデュアルユースの性質⁵⁴ を考慮すると、科学の進歩への AI の影響は非常に重要です^30、52。すべてのモデルで、（科学者の日々のタスクを早めることを支援する）一般的な科学的進歩、そして（情報処理、新しい模擬実験の作成、新理論の考案などのインテリジェンス駆動型タスクの障害を取り除くための）進化的な科学的進歩の両方に貢献する可能性があります⁵²。GPT‑4o の外部レッドチームには、モデルの科学的能力を引き出すために専門知識を備えた科学者が所属します。 

GPT‑4o は、特殊な科学的リーズニングに関したタスクで有望視されています。レッドチームの担当者が GPT‑4o が研究段階の量子物理学を理解していることを発見し、この能力について「より知能が高いブレインストーミング相手に活用できる」と発言しています。仮説生成用の GPT‑4 レベルのモデルに関し出版された内容と一致しています⁵⁵。さらにレッドチームにより、GPT‑4o が分野特有の科学的ツールを使用できることを発見しました。カスタマイズされたデータ形式やライブラリ、そしてプログラム用語を使用し、コンテキストに沿った新しいツールに関して学習することもできます。

科学的分野での能力向上の例：

科学的知識の多くは数値にあります。GPT‑4o はこういった数値だけではなく、構造図からタンパク質ファミリーを特定し、細菌の増殖による汚染を解釈するなど、科学的描写の画像を解析する能力も発揮します。しかし信頼できない場合もあります。テキストの抽出ミスが（科学用語やヌクレオチド配列で特に）多く見られ、複雑な画面が多数に及ぶ数値では頻繁に見られます。現時点の精度でも、これらのモデルのマルチモーダル能力により、新しい合金の配合を構築する模擬実験の出力を解析するなど⁵⁶ 新しい活用法に貢献することが可能です。

科学的分野での制限事項の例：

科学的能力の新しい評価結果が発表されました^57、58。当該モデルの科学的能力による貢献と影響力の予測に役立ちます。

GPT‑4o では歴史的に見て少数言語である言語のサンプルを読解、またリーズニングする能力の向上が見られ、こういった言語と英語の能力差を縮めています。

選出された少数言語グループのテキストで GPT‑4o のパフォーマンスを評価するために、外部の研究者と言語ファシリテーターの協力を得て、アムハラ語、ハウサ語、北ソト語（セペディ語）、スワヒリ語、ヨルバ語の5つのアフリカの言語の評価方法の開発を進めました。初回の評価では、人気の言語ベンチマークの翻訳能力と、言語特有の短い小説を作成し、読解力をテストしました。 

• ARC-Easy：AI2 リーズニング・チャレンジ⁵⁹ のサブセットであり、主に小学校レベルの科学に関する質問に答える能力を評価します。質問内容は全般的に簡単に答えられるものであり、複雑なリーズニングは求められません。
• TruthfulQA⁶⁰ ：モデルの回答の真実性を評価するベンチマークで、人間でも思い違いによって間違った回答をしてしまう可能性のある質問内容です。モデルがこういった思い違いを真似し、誤った回答を生成することを防げるかを見るのが目的です。
• Uhura Eval：小説の読解力評価は、当該言語の熟練した話者によって作成され、品質も確認済みです。

GPT‑4o は、GPT 3.5 Turbo や GPT‑4 といった先代モデルと比較してパフォーマンスが向上しました。例えば ARC-Easy-Hausa では、精度が GPT 3.5 Turbo で6.1%だったのに対し GPT‑4o では71.4%と大きく飛躍しました。同様に、TruthfulQA-Yoruba では精度が GPT 3.5 Turbo で28.3%だったのに対し GPT‑4o では51.1%に増しました。Uhura-Eval ではハウサ語のパフォーマンスが GPT 3.5 Turbo で32.3%だったのに対し GPT‑4o では59.4%と目に見えて増加しました。 

英語と選出された言語にはまだ差があるものの、GPT‑4o によりこの差は縮まりました。例えば GPT 3.5 Turbo では、ARC-Easy のパフォーマンスで英語とハウサ語の間に約54パーセントの違いが出ましたが、これが20パーセント以下に縮まったのです。これは TruthfulQA と ARC-Easy の両方で、全言語に共通に見られました。

この結果について、協力パートナーは次回の発表内容で、他モデルの評価結果や可能な対応策の検討内容を含め、詳細にわたって説明することでしょう。 

評価でパフォーマンスに向上が見られても、言語数を増やし、言語の訛りにあるニュアンスなども考慮して世界中の少数言語の評価対象を拡大し、品質を向上させる仕事がまだ残っています。  一般的な言語と少数言語の両方で活用できるモデルを育てるために、これからの研究では、介入や協力の機会についての理解を深めるべきでしょう。現在協力いただいている企業様同様、さらなる調査と提携をお考えであれば、翻訳された ARC-Easy⁠（新しいウィンドウで開く）、翻訳された TruthfulQA⁠（新しいウィンドウで開く）、そして Hugging Face を使った Uhura Eval⁠（新しいウィンドウで開く） の小説読解の画面をぜひご覧ください。

翻訳された ARC-Easy（%、高いほど高品質）、0ショット

翻訳された TruthfulQA（%、高いほど高品質）、0ショット

Uhura（新しい読解力評価）、0ショット

OpenAI は GPT‑4o の開発と実装のプロセスを通して、さまざまな安全対策と対応策を講じてきました。反復型実装プロセスの一貫として、進化する状況に合わせて監視を続け、対応策を更新していきます。当 System Card がすべてのモデルの相対的ロバスト性の評価方法と対応策、AI の擬人化に関する影響力、すべてのモデルを使った科学的研究と進歩、自己改善やモデルの自律的行動・狡猾的行動といった有害な能力の評価方法と対応策を含む（しかしそれに限定されない）重要な要素の調査に役立つことを願います。上記の要素以外にも、すべてのモデルの経済的影響や、ツールの使用がどのようにモデルの能力を高めるのかといった点を研究することをお奨めします。

TTS を使用し、現行のテキストの安全評価を音声にも適用させます。その後、標準のテキストルールベース分類で音声出力のテキストトランスクリプトを評価します。

2つの主な評価基準は次になります。

• not_unsafe（有害ではない）：モデルが安全ではない音声出力を作成するか
• not_overrefuse（過剰拒否ではない）：モデルが無害なリクエストの受容を拒否するか
  

次のように、リスクの高いカテゴリーでは副指標を付け足します。

• sexual/minors（性的/未成年者）
• sexual/illegal（性的/違法）
• extremist/propaganda（過激派/プロパガンダ）
• illicit/violent（違法/暴力）
• illicit/non-violent（違法/非暴力）
• self-harm/instructions（自傷行為/指示）
  

下記は、GPT‑4o ボイスモードモデルの音声およびテキストモード、並びに現在製造中の GPT‑4o モデルのテキストのパフォーマンスの評価結果です。