サイバー作戦：フィッシングおよびスクリプト作成支援

本ケーススタディは、OpenAI の 2025 年 10 月⁠（新しいウィンドウで開く）のレポートで初公開されました。

当社は、業界で UNK_DROPPITCH（Proofpoint）および UTA0388（Volexity）として追跡されている脅威グループに関する公開情報と重複する活動に関与した、一連の ChatGPT アカウントを特定し、停止しました。少なくとも 1 件では、ChatGPT アカウントの登録に使われたメールアドレスが、フィッシングメッセージの送信にも使われたと報告されています。

これらのアカウントを運用していた脅威主体には、中華人民共和国の情報活動要件に応えるために実施されたサイバー作戦と一致する特徴が見られました。具体的には、中国語を使用し、台湾の半導体業界、米国の学術界やシンクタンク、さらに「五毒」と呼ばれることもある、中国共産党に批判的な民族・政治団体に関係する組織を標的としていました。

当社のモデルが新たな攻撃能力をもたらしたわけではありません。運用者は主に、既存のワークフローを少しずつ効率化するために当社のモデルを使用していたと見られます。特に、フィッシング用コンテンツの作成や、ツールのデバッグと修正に利用していました。

攻撃主体は、主に 2 つの目的で ChatGPT を使用していました。簡体字・繁体字の中国語、英語、日本語など、複数言語によるフィッシングキャンペーン用コンテンツの生成と、ツールやマルウェアの開発支援です。その開発作業からは、一定の技術力はあるものの、高度ではない攻撃主体であることがうかがえました。例えば、C2 通信を保護するための AES の利用について複数の側面や細かな論点を検討していた一方で、単純な固定鍵を使用していました。

攻撃主体がフィッシング用コンテンツを作成する手順は詳細かつ定型的で、対象層が明確に絞り込まれていたことと整合します。通常は、学術関係者、業界関係者、または会議関係者を装い、簡潔で格式ある丁寧なメールを生成していました。脅威主体は頻繁に、文調の調整、地域の用法に合わせた語句の置き換え、特定機関への言及の追加を求めていました。こうした細かな修正からは、当初のコンテンツの品質を組織的に高めようとする姿勢がうかがえます。しかし脅威主体は、署名欄に含まれる不自然な連絡先の例など、偽物だと見抜かれる一部の細部を修正できていませんでした。

また、定型作業を迅速化するコードスニペットやチェックリストを求めていました。具体的には、単純なビーコン型ポーリング向けの暗号化通信（HTTPS、TLS）をテストするコードを要求し、プロセスの列挙、実行ファイル名による終了、環境情報の収集を行う Go と PowerShell のスニペットを作成していました。また、一般的なスキャナーを bash / PowerShell のラッパーに組み込んでいました。

さらに、関数名の変更、ヘッダーの調整、文字列の隠蔽など、単純な難読化や運用上のセキュリティ（OPSEC）を改善する方法もモデルに求めていました。複数のセッションを通じて、キープアライブのループ、HTTP(S) 経由の最小限のタスク指示、JSON ベースのタスク／結果エンベロープなど、成熟度が低～中程度のマルウェアに相当する基本的なコマンド＆コントロールの試作を進めていました。

攻撃主体による Go ベースの開発活動の一部には、GOVERSHELL（Volexity）または HealthKick（Proofpoint）として追跡されているマルウェアに関する業界の報告と重なる実装上の特徴がありました。これは、主要なマルウェア開発を支援するためにモデルを利用しようとしていた可能性を示しています。

運用者は、こうしたペルソナ作成やツール開発と並行して、DeepSeek で実現できる追加の自動化についても調査していました。この活動は、大規模なフィッシングの自動化に向けた探索的な取り組みに似ていました。例えば、ウェブコンテンツを分析し、メールの標的リストと、特定した各標的候補が関心を持ちそうなコンテンツを自動生成するというものです。攻撃主体が実際にこのような自動化を進めたかどうか、また進めていた場合に最終的にどのモデルを使用したかについて、当社は独自に確認できていません。

攻撃主体は当社のモデルを使用して、暗号化された C2 コンポーネント、リモートコマンド実行のワークフロー、文化に合わせた接触方法を計画し、反復的に改善しようとしていました。新たな攻撃能力よりも、速度とローカライズを重視していました。攻撃主体は、複数の活動領域で当社のプラットフォーム外の活動を支援する意図があったと見られるモデル出力を生成しました。

• 暗号化 C2 とリモート実行：AES-GCM などによるメッセージ暗号化、セッション鍵の更新、システム情報ビーコン、標準ウェブプロトコルまたは WebSocket ベースのチャネルを介して PowerShell コマンドを発行するサーバーコンソールを備えた、Go のクライアント／サーバーコードの作成・修正依頼

• 通信保護と OPSEC の調整：平文の WebSocket からセキュア WebSocket（wss://）へ、HTTP から HTTPS へ移行するためのコード、一部のテストで証明書チェックを無効にする方法、CDN / TLS フロントエンドを介して通信を一般トラフィックに紛れ込ませる方法、クライアントをクラッシュさせずに大容量メッセージを処理する方法などの依頼

• 偵察とプロセス制御：PowerShell を使ったウイルス対策ソフトの検出、プロセスの列挙、特定の Edge / WebView2 プロセスの終了に関する情報の依頼

• 一般的なスキャン環境の構築：商用 Linux インフラに nuclei や fscan などのオープンソースツールをインストールして使用し、後で確認できるよう結果を保存するための手順支援

• フィッシングおよび接触用コンテンツ：地域の慣習に合わせた件名や文体を含め、学術・業界関係者に送る説得力のあるメールを複数言語で作成

これらの活動は、LLM 最適化ペイロード作成、LLM 強化型異常検知回避、LLM 支援型侵害後活動、LLM 支援型偵察・探索、LLM 支援型ソーシャルエンジニアリングなどの LLM ATT&CK カテゴリーに該当します。

当社は、この活動に関連するすべてのアカウントを停止し、関連する指標を業界パートナーと共有しました。攻撃主体が主に求めていたのは、既存のワークフローを少しずつ効率化することでした。これには、そのまま送信できるフィッシングメールの作成や、定型的なコーディングと自動化における反復サイクルの短縮が含まれます。モデルの出力によって、広く公開されている手法を超える能力が実現したことを示す証拠は確認されませんでした。当社のモデルが新たな攻撃能力をもたらしたわけではありません。攻撃主体がモデルの支援によって得ようとしていた手法上の優位性は、言語の流暢さ、ローカライズ、粘り強い反復にありました。具体的には、言語上の誤りの削減、グルーコードの迅速な作成、問題発生時の素早い修正などです。