メインコンテンツにスキップ
OpenAI

高度な AI の共通標準づくりを支援

読み込んでいます...

能力が高まり続けるモデルは、サイバー防御を強化し、科学的発見を加速し、専門知へのアクセスを広げることができます。一方で、その能力が誤解されたり、セーフガードが不十分だったり、政府が対応に必要な情報を得られなかったりすれば、安全性とセキュリティのリスクを生む可能性もあります。社会がその便益を安全かつ確信を持って実現するには、能力が高まり続けるシステムを評価し、保護し、ガバナンスするための技術面・統治面の能力を備えた機関が必要になります。

OpenAI が、Linux Foundation がホストする Appia Foundation(新しいウィンドウで開く) の設立を支援した理由の一つはそこにあります。Appia は、国際標準や確立されたフレームワークを、AI バリューチェーン全体で実用的な評価基準へと落とし込むための、オープンでモジュール化された仕様を策定します。その取り組みは、モデル、インフラ、アプリケーションが別々の組織によって開発される場合に、第三者が標準への適合性を確認し、より明確で再利用しやすいエビデンスを生み出すための、欠けていた重要な信頼レイヤーの構築に役立ちます。この取り組みを通じて Appia は、国内外の機関が互いの成果を信頼できるようにする共通の技術言語づくりを支援します。

私たちはこの取り組みを、高度な AI システムに必要な機関、標準、評価実践を強化するためのより広範な作業における重要な次の一歩と位置づけています。

当社が最近公開した フロンティア AI の民主的ガバナンスに向けた設計図 は、その取り組みのロードマップを示しています。そこでは、耐久性のある米国の枠組み、強化された AI 標準・イノベーションセンター(CAISI)、政府全体にわたるより広範なレジリエンス戦略を求めています。また、フロンティアリスクは国境を越えて影響を及ぼすことも認識しています。各国は、互換性のある安全性フレームワーク、リスクに関する知見を共有するための信頼できるチャネル、インシデントへの協調的な対応を整備するために協力すべきです。

国内の能力と国際協力は、相互に補強し合うべきです。CAISI のような強力な機関は、技術的専門性を高め、フロンティアシステムを評価し、独立した評価エコシステムを支援できます。そのうえで、能力ある各国機関のネットワークは、共通の方法を確立し、信頼できるエビデンスを認定し、政府が協調して行動するために必要な共通の技術的理解を提供できます。

標準はこの取り組みの中心であり、信頼できる評価実践と技術的厳密性に根ざしていなければなりません。当社の 信頼できる第三者評価のための共通プレイブック では、フロンティア評価において今後ますます開示が求められる事項を示しています。すなわち、テスト対象のシステム、そのツールアクセスと評価ハーネス、能力を引き出すために用いた手法、利用可能なリソース、結果の妥当性を確認するために実施した検証です。また、米国 CAISI および英国 AISI とのテスト提携 を通じて、これらの原則を実践にも移しています。フロンティア能力評価と生物学的悪用に対するセーフガードに関する両機関の取り組みは、当社システムの具体的な改善につながりました。この取り組みは、性能を比較可能な形で確認するために標準化できる実践の基盤を築くという、重要な役割を果たします。

これらの取り組みは、OpenAI のより広範な安全性基盤を補完するものです。当社の Preparedness Framework は、高度な AI システムがもたらす最も深刻なリスクを管理するためのアプローチを、社内での実践も含めて定義し運用に落とし込むうえでの基盤です。当社の フロンティアガバナンスフレームワーク は、このアプローチの関連部分を、リスク評価、モデル報告、セキュリティ管理、インシデント対応、外部専門家の意見の取り込みなど、具体的な規制上の義務に焦点を当てた公開ガバナンス文書に適用したものです。これらの文書は、幅広いコミットメントを、検証と改善が可能な運用上の実践へと具体化する助けになります。

Appia の取り組みは、次の課題、すなわち組織、法域、サプライチェーンをまたいでこれらの実践を相互運用可能にすることを目指しています。

これらのフォーラム全体で、現在は Appia を通じた取り組みも含め、私たちの目標は、フロンティア開発から得た教訓を、各国政府、企業、独立評価機関が法域を越えて利用できる、オープンで技術的根拠に基づく実践へと転換することです。

著者

OpenAI