重大なサイバー能力の次なるフロンティアへの対応

モデルの能力向上によってサイバー防御を強化できる一方、かつてない速度と規模の攻撃も可能になるなか、サイバーセキュリティは急速に変化しています。

ここ数日、近日公開予定のモデルの一つである Astra を社内で評価した結果、エージェント型コーディングとサイバーセキュリティの能力が大幅に進歩していることが示されました。これらの結果と専門家の評価を踏まえ、当社は昨夜、当社の Preparedness Framework⁠（新しいウィンドウで開く） における重大なサイバー能力に達している可能性を排除できないと判断しました。

能力がこのように変化する可能性について、一般の方々や安全・セキュリティ分野のコミュニティに透明性をもって伝えることが重要だと考え、今回公表しました。

当社が Preparedness Framework を初めて公開したのは 2023 年 12 月で、モデルが生物・化学・サイバーセキュリティ・AI の自己改善においてこの水準の能力に近づくよりも、はるかに前のことでした。これは、能力の進歩を把握し、その能力が現れた際に当社が取るべき対応を計画するための指針として策定しました。GPT‑5.6‑Sol を含む従来のモデルは、フロンティア水準のサイバー能力について評価され、「重大」ではなく「高」のしきい値に達していると判定されていました。

当社の Preparedness Framework では、人間の介入なしに、堅牢化された多数の実世界の重要システムを対象として、あらゆる重大度の実用的なゼロデイ攻撃手法を特定・開発できる場合、または大まかな目標だけを与えられ、堅牢化された標的へのサイバー攻撃について新たな戦略を考案し、最初から最後まで実行できる場合、そのモデルはサイバーセキュリティ能力の「重大」のしきい値に達したとみなされます。 

このモデルのベンチマークと評価は継続中ですが、暫定評価では、現時点で「重大」の能力レベルに達している可能性を排除できないほど高い性能が示されています。Astra は近日公開予定のモデルであり、Hugging Face への侵害には関与していません。 

これを受け、こうした能力の導入に見合うものとなるよう、安全対策とセキュリティ管理策の堅牢性テストを拡大しました。また、このモデルを今後も安全かつ確実に開発するため、社内で以下の対策を講じています。 

• 能力の高いモデルとそれに関連する活動に対し、分離されたテスト環境、ネットワークやツールへのアクセス制限、モデルの重みに対する保護と暗号化の強化、監視・検知能力の追加、サンドボックス環境での実行など、より厳格なセキュリティ管理策を導入しています。
• 強化したセキュリティ管理要件をまだ満たしていない Astra 関連の社内活動を一時停止しています。
• トレーニングや評価を含め、Astra をエージェントとして利用するすべての用途で、危険な行動や不整合を包括的に監視する仕組みを導入しました。監視システムはモデルの思考過程を評価し、リスクの高い活動を確認・中断するためのセキュリティ対応を開始します。
• このモデルの能力をテストするため、関係政府機関や一部の AI 安全性団体と連携します。
• リスクの高い評価やワークロードを安全に実行できるよう、第三者のテストパートナーに推奨セキュリティ管理策を提供します。 

このフレームワークは、これまでにも能力の転換期における当社の対応を導いてきました。2025 年 6 月、当社のモデルが Preparedness Framework における生物分野の「高」のしきい値に近づいた際には、安全対策の強化、テストの拡大、外部専門家との連携、追加のセキュリティ管理策の導入に向けて講じていた対策を公表しました。今回も同じ原則を適用しています。

高度なサイバー能力を持つモデルは、攻撃者に先んじて脆弱性を特定し、対処できるよう防御側を支援すべきだと考えています。Astra のようなモデルやその後継モデルが持つフロンティア能力を、全人類の利益のために責任をもって幅広く導入できるよう、政府、安全性研究機関、市民社会と連携して取り組んでいきます。