OpenAI とロスアラモス国立研究所がバイオサイエンス研究パートナーシップを発表

OpenAI とアメリカ合衆国のトップクラスの国立研究所であるロスアラモス国立研究所（Los Alamos National Laboratory：LANL）は、バイオサイエンス研究の進歩のために実験室環境において科学者が安全に人工知能を使用する方法の研究に協働で取り組みます。このパートナーシップは、イノベーションの進歩がヘルスケアやバイオサイエンスなどの極めて重要な分野の進歩に確実につながるようにするため、米国の公共部門（特に国立研究所）が、米国の民間部門と協働するという長い伝統に連なるものです。 

先ごろホワイトハウスから発令された「Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence（人工知能の安全・安心・信頼できる開発と利用に関する大統領令）」⁠（新しいウィンドウで開く）では、米国エネルギー省の国立研究所にフロンティア AI モデルの能力（生物学的能力を含む）を評価するためのサポートが求められています。OpenAI は、AI には科学のスピードと良い影響を倍増させる可能性があると信じているため、この協力要請は重要なことです。すでに、Moderna 社は臨床試験開発を強化するために OpenAI の技術を活用⁠して、大規模データセットの分析支援用に設計されたデータ分析アシスタントが構築されました。Color Health⁠ 社は、がんの検診と治療に関してエビデンスに基づいた判断を下せるように医療従事者を支援するため、GPT‑4o を使った新しい Copilot アプリケーションを構築しました。 

OpenAI の最高技術責任者 Mira Murati は次のように言います。「公共の利益への貢献に専心する民間企業として、バイオサイエンスの能力研究のためという、この種のものとしては初のロスアラモス国立研究所とのパートナーシップを発表できることを非常にうれしく思います。このパートナーシップは、科学的研究を推進するという当社の使命を自然に進展させる一方で、リスクを把握し、軽減させることも意味します」

情報システム・モデリング副グループリーダーの Nick Generous 氏は次のように述べています。「AI は科学の分野で大きな利益をもたらす可能性を持つ強力なツールですが、他の新しいテクノロジーと同様にリスクも伴います。  ロスアラモス研究所では、この事業は新しい AI リスク技術評価グループが担当し、そのようなリスクの評価と深い理解に貢献します」

OpenAI とロスアラモス国立研究所のバイオサイエンス部門は、GPT‑4o⁠ のようなフロンティアモデルが視覚や音声などのマルチモーダル機能を介して、物理的な実験室環境においてタスクを実行することで人間を支援する方法を査定するための評価研究に取り組んでいます。この研究には、GPT‑4o および同モデルの現在未リリースのリアルタイム音声システムに関して、生物科学の研究の支援における使用法を把握するための生物学的安全性評価が含まれます。当社は、今後作成される評価法が、この種のものとして初の AI バイオセキュリティ評価法となり、最先端の研究に貢献することを信じています。この評価法は、生物学的脅威のリスクにおける当社の既存の研究⁠に基づいて構築され、モデルのリスクを追跡、評価、予測し、それに対する保護を行うための当社のアプローチの概要を示す「Preparedness Framework⁠」に従い、2024年の AI ソウルサミットで合意されたフロンティア AI の安全性に対する当社のコミットメントに一致するものです。 

当社がロスアラモス研究所と共に今後作成する評価法は、実験室環境でマルチモーダル フロンティアモデルをテストする最初の実験となります。これは、標準的実験室の実験タスクからなる安全プロトコルの実行、問題解決における専門家および初心者の能力を評価するものです。この実験タスクは、デュアルユースの懸念を引き起こすより複雑なタスクの代わりとなることが意図されています。タスクには、形質転換（宿主生物への外来遺伝物質の導入など）、細胞培養（インビトロでの細胞の維持および増殖など）、細胞分離（遠心分離によるものなど）が含まれます。GPT‑4o が可能にするタスクの完成度と正確性の向上を調べることで、フロンティアモデルが現実世界の生物学的タスクにおいて専門家（博士号取得者）および初心者のスキルをどのように向上させるかを定量化して、評価することを目的としています。 

新しい評価法は、以下のような新しい次元において当社の以前の研究を拡張させます。 

1. ウェットラボ技術の組み込み：化合物の合成と普及に関する文面によるタスクと回答は示唆的でしたが、実際の生物学的ベンチワーク実施に必要なスキルが完全に把握されているわけではありませんでした。例えば、質量分析の実施に必須のこと、またはその詳細な手順さえも文面で簡単に知ることができるかもしれませんが、実際にサンプルを使用して正しく実行するのは遥かに困難なことです。
2. 複数のモダリティの組み込み：GPT‑4 に焦点をおいた当社の以前の研究は、文面による出力が関わるものでした。GPT‑4o のモダリティ全体における論理的思考の能力および音声と視覚からの入力を受け付ける能力により、学習が促進される可能性があります。例えば、ウェットラボ設定の構成要素のすべてに詳しいわけではないユーザーは、文面の質問で状況を伝える必要なしに、単に GPT‑4o に設定を見せて質問のプロンプトを行い、カメラを介して視覚的に状況の問題解決を行うことができます。

ロスアラモス国立研究所は安全性研究のパイオニアであり、能力の急速な向上が続くフロンティア AI モデルのための新規でロバストな安全性評価において協働できることを楽しみにしています。この協力的取り組みは、科学的研究をサポートするために GPT‑4o のようなマルチモーダル AI モデルの可能性を明確に示すだけではなく、イノベーションの活用と安全性の確保の両方における官民の協力の重大性も強く示すものです。この評価の結果を楽しみに待つと共に、このパートナーシップが科学における AI の安全性と有効性の新しい基準の設定に役立ち、人類に利益をもたらす将来のイノベーションへの道を切り開くことを願っています。