OpenAI と Hugging Face のインシデント（新しいウィンドウで開く）は、一般的な脅威アクターの能力が今後数か月でどのように進化するかを示す出来事であり、サイバーセキュリティの転換点となりました。この数週間で多くの組織と話すなかで、一つの共通認識が明確になりました。各組織は、かつてない速さでサイバーセキュリティの実践を根本から高度化する必要性を認識しています。本稿では、OpenAI を守るために私たちが行っていること、他の組織が今日から実行できる具体策、そして今こそ行動すべき理由を紹介します。
世界各地で開発された AI モデルは、現実のサイバー攻撃の一部を自動化できるようになりつつあります。人が書いたソフトウェアの奥深くに潜むバグから忘れられた権限まで、長年存在してきたセキュリティ上の欠陥を発見し、悪用することが容易になっています。同じ AI 能力は、防御側にも弱点を発見して修正する新たな手段をもたらします。ただし、今すぐ動かなければなりません。企業が基本対策を改善し、AI でチームの能力を飛躍的に高めるなど、断固として行動すれば、インターネットをかつてないほど安全にできます。
OpenAI と Hugging Face のインシデントでは、複数の AI エージェントからなる集団が、OpenAI の研究インフラだけでなく、別企業の本番インフラにも自律的に侵入しました。未知のセキュリティ上の欠陥から、インターネット上に流出したユーザーアカウントの認証情報の悪用まで、複数の手法を組み合わせた攻撃でした。あらゆる企業の技術的負債（新しいウィンドウで開く）に重大な欠陥が隠れていることは、ますます明白です。防御側は攻撃者より先にそれらを見つけ、修正する必要があります。
攻撃者より防御側を優位にするため、今年初めからサイバー能力を信頼できる防御担当者に限定して提供し始めました。その後、複数の企業が、フロンティアからわずか数か月遅れのサイバー能力を備えたオープンウェイトモデルを公開しています。このうち最新のモデルは8月末に公開される予定（新しいウィンドウで開く）で、脅威環境を急速に変化させる可能性が高いとみられます。
AI を使う攻撃者は、既存の多くのシステムに長年潜んできた欠陥を間もなく発見できるようになります。一方、AI によって防御側も同じ欠陥をはるかに容易に発見し、優先順位を付け、修正できるようになります。セキュリティは依然としていたちごっこですが、AI は攻防の力学を変え（新しいウィンドウで開く）、防御側を根本的に有利にする可能性があります。たとえば私たちは、人間の手によるものを上回る安全性を備えたコードを書くことに特化して、モデルのトレーニングを始めています。私たちのモデルは数学的証明にも卓越しています。これを応用すれば、人の手では極めて困難だったソフトウェアの安全性の形式検証が可能になります。
OpenAI と Hugging Face のインシデント後、ChatGPT Work（一般公開されている GPT‑5.6 Sol を使用）に、gregbrockman.com（新しいウィンドウで開く） のセキュリティ評価を依頼しました。AWS でホストし、Cloudflare をフロントエンドに配置した単純な静的サイトなので、攻撃対象領域はそれほど広くないだろうと考えていました。
ところが約15分で13件の問題を発見しました。その多くは単独では悪用できないと思われますが、ほかの脆弱性と連鎖すれば大きな影響を及ぼし得ます。攻撃者が私になりすましたメールを送れないようにする DNS レコードを設定しておらず、サイトでは安全でないバージョンの jQuery を使用し、Cloudflare から AWS へのリクエストは暗号化されていない HTTP で転送されていました。
そこで ChatGPT Work に修正を依頼すると、1時間ほどですべて対応しました。ブラウザーで Cloudflare のコントロールパネルを開き、多数のボタンを操作して DNS、TLS、高度なセキュリティ設定を正しく構成しました。サイトから jQuery を完全に削除し、AWS から Cloudflare Pages へ移行し、DMARC（新しいウィンドウで開く） の段階的な導入も開始しました。
しかも、これは私個人のウェブサイトにすぎません。これは、既存のモデルがサイバー防御の担い手として機能する一例です。人では時間や専門知識が足りず手を付けられない細かな問題まで見つけ、状況に合わせた展開計画に沿って修正できます。実際、修正された設定の多くは私も漠然とは知っていましたが、正しい設定方法を即答できるものではありませんでした。
Hugging Face のインシデントにより、AI モデルが実際のサイバー攻撃で発揮し得る能力を私たちが過小評価していたことが明らかになりました。これを受けて安全要件を強化しており、現在進めている安全性研究と社内セキュリティ業務の緊急性も一段と高まっています。
ほかの組織にも役立つことを願い、この状況下で OpenAI を守るために取っているアプローチの一端を紹介します。OpenAI を守るため、基本を正しく実践する基盤的な統制と、フロンティア AI による防御力の強化の両方に多額の投資を行っています。この戦略には4つの主要な柱があります。
第一に、モデルを活用してコードの安全性を高めています。セキュリティプラグインを含む Codex は、コード変更を検証して脆弱性を特定し、デプロイ前に開発者が問題を修正できるよう支援します。人による検証が必要なセキュリティ上の指摘をただ増やすことは、目指すところではありません。真の脆弱性をリリース前に発見し、問題の特定から修正の安全なデプロイまでの時間を短縮することが目的です。より安全なコードを生成できるようモデルのトレーニングを続け、新たに作成されるコードでは、一部の種類のソフトウェア脆弱性をなくすことを目指しています。
第二に、モデルを活用してインフラを継続的に防御しています。現在、ほぼすべてのセキュリティアラートは、まず AI がトリアージし、その後に人が対応に加わります。これにより、防御担当者の単純作業を減らし、対応時間を短縮するとともに、状況の見極めや判断、専門知識の応用など、人の能力が最も生きる業務に時間を充てられます。影響が最も大きい意思決定は引き続き人が担いつつ、こうした検知を対象範囲を限定した自動対応につなげる取り組みも進めています。セキュリティ上の問題を機械の速度で検知し、対応できるようにすることが目標です。
第三に、フロンティア AI を活用し、潜在的な攻撃経路を継続的に洗い出し、検証・特定しています。脆弱性や設定ミス、過剰な権限を持つ ID、意図せず生じた信頼境界を特定することで、攻撃者に悪用される前にこうした問題をすばやく見つけて解消できます。これにより、製品、インフラ、システム全体で、正しいと考えるセキュリティ特性、すなわちセキュリティ不変条件を継続的に評価、監視、検証できます。
最後に、基本対策を大規模に徹底するため、多額の投資を行っています。安全なアーキテクチャと統制への投資を続け、多層防御や最小権限といった戦略を採用するとともに、複数の独立した統制が同時に機能しなくならない限り、壊滅的な事態が起きないようシステムを設計しています。ネットワーク分離、ワークロードの強化、監視、安全なパッチ適用とデプロイといった従来型のセキュリティ統制は、AI 時代にこれまで以上に重要になります。
一刻を争う状況であり、防御側は以下の対策をかつてない速さで進める必要があります。以下では OpenAI のテクノロジーに触れますが、エコシステムには検討すべき競合製品も数多くあります。重要なのは特定のツールを選ぶこと以上に、高性能な AI を今すぐ防御担当者が使えるようにすることです。
- 組織として取り組む意思と合意を得る。セキュリティリスクは急速に変化しています。セキュリティ部門とエンジニアリング部門がこうしたリスクに迅速に対処できるよう、支援、連携、リソースを確保してください。チームで机上演習を行い、こうした攻撃が自組織でどのように顕在化し、どう対応するかをシミュレーションしてください。
- セキュリティチームにエージェントを導入する。Codex、Codex セキュリティプラグイン（新しいウィンドウで開く）、または高性能なエージェント型のコーディング・セキュリティツールの利用を始めてください。セキュリティチームが評価する必要のあるコードベース、インフラ構成、技術文書にエージェントがアクセスできるよう、必要な承認を行ってください。全社展開を待たず、最優先のシステムから始めてください。
- エージェントにセキュリティの専門知識を与える。まず、コミュニティによって提供・サポートされているスキル（新しいウィンドウで開く）を活用してください。静的解析、セキュリティ重視のコードレビュー、脆弱性の亜種分析、ソフトウェアサプライチェーンリスクなど、各種セキュリティワークフローが含まれています。次に、自組織のアーキテクチャ、セキュリティ基準、脅威モデル、プレイブックに合わせた独自のスキルを構築してください。
- 自社システムのセキュリティ評価を直ちに実施する。まず、インターネットに公開されたサービス、認証フロー、Infrastructure as Code、デプロイパイプライン、機密情報を扱うシステムの評価を優先してください。チームが経験を積み、スキャン結果への信頼が高まるにつれて、対象範囲を拡大してください。
- 未対応の脆弱性を解消する。コードスキャナーの検出結果、依存関係のアラート、セキュリティチケット、バグ報奨金プログラムの報告、過去の評価結果をエージェントに提供してください。検出結果のトリアージ、悪用可能な問題とノイズの切り分け、コードベース内のほかの箇所にある関連脆弱性の特定、修正の優先順位付けを依頼してください。
- 開発プロセスにセキュリティレビューを直接組み込む。マージ前のコード変更をエージェントにレビューさせ、CI でセキュリティチェックを実行してください。認証の誤り、アクセス制御の迂回、外部に露出した認証情報、安全でない依存関係、安全性に欠けるデフォルト設定、本番システムへのアクセスを拡大する変更などの脆弱性を探してください。
- 発見した問題の修正もエージェントに支援させる。確認済みの問題については、対象を絞ったパッチの生成と検証、回帰テストの作成、脆弱性が再現しなくなったことの確認を依頼してください。重大な変更については人によるレビューを維持しつつ、実際の問題を特定してから、安全な修正案をエンジニアに提示するまでの不要な遅れをなくしてください。
- 検知結果のトリアージを段階的に自動化する。最初から自律型のセキュリティオペレーションセンターを構築しようとしてはいけません。まず、1つのリポジトリに対して読み取り専用のセキュリティスキャンを実行するか、既存ログへの読み取り専用アクセスを使って、解決済みのアラートをエージェントにレビューさせてください。エージェントには証拠の要約と対応方針の提案を任せ、意思決定はすべて人が行います。結果の信頼性を確認できるようになったら、提案のみを行うプルリクエストスキャン、実運用のアラートトリアージ、対象を厳密に限定した誤検知の自動クローズへと段階的に進めてください。
- 必要になる前に AI 支援型のフォレンジック調査能力を整える。Trusted Access for Cyber（新しいウィンドウで開く） に申請し、インシデント対応、検知エンジニアリング、マルウェア分析などの承認された防御業務で GPT‑Daybreak‑Blue を利用できるよう、チームの利用承認を取得してください。この機能を用いてログ、テレメトリ、セキュリティアラートを分析する練習を事前に行ってください。
- 実験とハックウィークを実施し、すばやく改善を重ねる。これから迎える世界に備え、さまざまな新しいツールを構築し、働き方を変え、全員の能力を高める必要があります。従業員に実験を促し、新たな機能を構築するためのハックウィークを設け、問題の一部を自動化する小さなサイクルをすばやく回し、改善することに注力してください。小さくても迅速な改善を積み重ねることで、防御効果は加速度的に高まります。チームが経験を積み、自動化への信頼が高まるにつれて、自律性も段階的に拡大できます。
これを単独で成し遂げられる企業はありません。AI 研究機関、セキュリティベンダー、企業、メンテナーには、検証済みの知見、修正策、実践的なプレイブックを共有してほしいと考えています。ある組織が得た知見を、エコシステム全体の強化につなげるためです。
防御側に開かれた好機は、今まさに訪れています。今後数か月で、あらゆる組織が安全性を維持するため、セキュリティプログラムの大幅な自動化に着手する必要があります。またセキュリティコミュニティは、進歩を続ける AI による攻撃力の高まりを上回る速さで防御力を強化できるよう、ツール、実践手法、プレイブックを早急に確立しなければなりません。これには前例のない大規模な取り組みが必要です。しかし、力を合わせれば、これまで想像もできなかったほど安全な世界を実現できます。
