OpenAI の技術で AI を活用したセキュリティを構築する Block の取り組み

Square、Cash App、Afterpay を展開する Block のセキュリティチームは、OpenAI Defense Factory を活用しています。AI が脆弱性の発見、検知、対応を担い、人間のチームだけでは対応しきれない規模で処理を進めています。OpenAI Daybreak をはじめとする AI システムにより、Block は従来数週間かかっていた作業をわずか数時間で完了しています。

Block のセキュリティチームは、コード生成からセキュリティ運用まで、さまざまなワークフローに責任ある形で AI を導入することに注力してきました。最高情報セキュリティ責任者の James Nettesheim 氏は、「その中心にあるのは、対応規模を共に拡大できる新たなチームメイトを迎えるという考え方です」と語ります。「一つひとつ手順を指定する必要があった従来の自動化とは異なります。個別性が高く曖昧な問題でも、プロンプトで伝えれば、一緒に解決に取り組めます」

ソフトウェアのバグの検証やログの解析といった作業には、以前は数日から数週間かかっていました。今では、すべての結果を引き続き人間が検証しながらも、作業を大幅に短い時間で完了できています。

たとえば検知のチューニングでは、各調査で証拠となるクエリの生データを保存しています。そのため、検知ルールの変更案を本番環境の 7 か月分のテレメトリに適用し、再検証する作業が 1 時間未満でできるようになりました。以前は、過去の数百件ものケースに対して手作業でクエリを再実行する必要がありました。時間がかかりすぎるため、実際にはほとんど行われていませんでした。

また、どの作業にどのモデルを使うかも、より慎重に選ぶようになっています。「以前は最新のモデルを使っていましたが、今は必ずしもそうする必要はありません」と同氏は語ります。「タスクに応じてモデルを使い分ける中で、多くのことを学んできました」。Block のセキュリティハーネスは Daybreak を基盤に構築され、タスクを適切なモデルに振り分けます。また、人間がタスクを引き継いだり、エージェント同士で作業を検証したりするためのフックも備えています。チームは社内ベンチマークと実運用での性能に基づいて、これらのシステムを継続的に評価し、必要に応じて手法を調整しています。人間による確認が責任ある対応だと判断される場合は、作業を人間のレビューに回します。

トリアージの自動化システムにより、作業が速くなっただけでなく、処理できる量も増えました。Block のセキュリティチームでは、トリアージのスループットが 50% 向上し、情報収集と調査の件数も 50% 増加しました。さらに、これまでなかった自律的な脅威ハンティングも可能になりました。Nettesheim 氏は次のように語ります。「このシステムは、四半期ごとにアナリストの作業時間で約 1,100 時間に相当する調査を実施しています。今ではすべてのアラートについて、関連するあらゆる要素を網羅した詳細な調査を行っているからです。どのアラートも、その日届いた唯一のアラートであるかのように徹底して調査します」

従来のスキャンツールは個々の脆弱性を単独で検出しますが、Block のセキュリティチームは Daybreak によって、そこからさらに踏み込んだ分析を行えます。モデルは、攻撃パターンの仮説を立て、一連の攻撃をつないで侵害に至る経路全体を明らかにする作業を支援します。これにより、何年も潜んでいた可能性のある脆弱性が浮かび上がります。

ある事例では、1 台のノート PC で発生したアラートは、それだけを見ると軽微なポリシー違反に見えました。しかし、相互レビューの過程で、モデルは証拠に付随的に現れていた兆候を追跡し、Block の ID 関連ログと照合することで、はるかに広範な問題を明らかにしました。「エンドポイントのありふれたアラートが、攻撃キャンペーン全体の阻止につながりました。単一のツールでは、その関連性は見つけられません。2 つの製品のログを横断して初めて、その兆候が見えてくるのです」と James 氏は語ります。

最近行われたレッドチーム演習でも、Daybreak が役立ちました。社内システムに関するいくつかのヒントを与えると、モデルは約 2 時間で、SQL インジェクション、権限昇格、足場の確保、認証情報の列挙、そして他のシステムへの横展開までをつなぎ、攻撃経路全体を組み立てました。人間のレッドチーミング担当者であれば、通常は数日かかる作業です。最近のレッドチーム演習では、脆弱性の概要を提出してからパッチが自動提案されるまでの時間は 18 分でした。

脆弱性を見つけても、修正できなければ意味がありません。Nettesheim 氏は、発見した問題すべてに対してチームが用いるプロセスを説明します。まず、コード内の問題箇所とその担当者を特定し、それから修正に進みます。「パッチを提案し、悪用可能性を確認してから、修正できたことを検証します。その過程には人間が関わり、方向づけを行い、コードの変更をデプロイします」

エージェントには技術的な能力がありますが、組織固有の事情や、過去の意思決定の背景までは把握していません。そうした背景情報と戦略を提供するのが人間であり、同氏のチームが人間によるレビューを担うのは、まさにそのためです。Nettesheim 氏は、AI の判断力が実運用で実証されるにつれて、「許容するリスク水準を少しずつ引き上げ、より機密性の高いシステムにも活用していきます」と語ります。

• 検知ルールの変更案を 7 か月分のテレメトリで再検証する所要時間は 1 時間未満

• 最近のレッドチーム演習で、脆弱性の概要の提出からパッチの自動提案まで 18 分

• 誤検知のトリアージに費やすアナリストの作業時間を四半期あたり約 600 時間削減

• アナリストの作業時間で約 1,100 時間に相当する調査を四半期ごとに完了

• トリアージのスループットが 50% 向上

• 情報収集と調査の件数が 50% 増加

検知と対応の業務だけでも、誤検知のトリアージに費やしていたアナリストの作業時間を四半期あたり約 600 時間削減できました。生まれた余裕を活かし、チームはより深い調査や、責任ある形での自動化の拡充に、より多くの時間を充てています。

攻撃のペースが速まり、AI モデルが進歩し続ける中で、Nettesheim 氏は、そもそも脆弱性が作り込まれること自体を減らせる可能性を見いだしています。それが実現すれば、セキュリティチームはパッチ適用に費やす時間を減らし、予防的かつ戦略的な業務により多くの時間を充てられます。

「OpenAI は、こうした高度な機能を誰もが利用できるようにすることで、防御側に優位性をもたらしています」と同氏は語ります。「従来、これらを利用できたのは、主にごく一部の著名なテクノロジー企業や政府機関だけでした。しかし今では、重要インフラを担う組織、学校、中小企業など、誰もがこの技術を活用して、自らのネットワークを守れるようになっています」