サイバー脅威アクター：AI 支援による侵入調査

このケーススタディは、OpenAI の 2025 年 2 月⁠（新しいウィンドウで開く）版レポートに掲載されたものです。

公開情報で報告されている朝鮮民主主義人民共和国（DPRK）系脅威アクターに関連する可能性のある活動が確認されたアカウントを停止しました。一部のアカウントは、VELVET CHOLLIMA（別名 Kimsuky、Emerald Sleet）⁠（新しいウィンドウで開く）として知られる脅威グループと一致する TTP を用いた活動に関与していました。また、別のアカウントは、信頼できる情報源によって STARDUST CHOLLIMA（別名 APT38、Sapphire Sleet）⁠（新しいウィンドウで開く）との関連が指摘されている脅威アクターに関係していた可能性があります。信頼できる業界パートナーからの情報提供を受け、これらのアカウントを検知しました。

停止したアカウントは主に、サイバー侵入用ツールや作戦に関連するとみられる情報の収集に当社のツールを使用していました。また、金銭目的の活動との関連が疑われる、暗号資産関連のトピックへの関心も示していました。金銭目的の活動とサイバー活動の組み合わせは、DPRK 系脅威グループに典型的な特徴です。

脅威アクターは当社のモデルを、コーディング支援やデバッグのほか、セキュリティ関連のオープンソースコードの調査に使用していました。これには、リモートデスクトッププロトコル（RDP）へのブルートフォース攻撃に利用できる公開ツールやコードのデバッグおよび開発支援のほか、オープンソースのリモート管理ツール（RAT）の使用に関する支援が含まれていました。

脅威アクターは、macOS の自動起動拡張ポイント（ASEP）の場所と手法をデバッグする過程で、当時セキュリティベンダーに把握されていなかったとみられるバイナリ（コンパイル済み実行ファイル）のステージング URL を明らかにしました。セキュリティコミュニティとの共有を促進するため、ステージング URL をオンラインスキャンサービスに提出しました。現在では複数のベンダーがこれらのバイナリを確実に検知できるようになり、潜在的な被害者の保護につながっています。

以前提案された MITRE ATT&CK^® Framework⁠（新しいウィンドウで開く） の LLM 関連拡張に活動を対応付けた例を以下に示します。

• 各種アプリケーションの脆弱性に関する質問：LLM 活用型偵察

• ブルートフォース攻撃を可能にする C# ベースの RDP クライアントの開発とトラブルシューティング：LLM 支援型開発

• 不正な RDP アクセス時のセキュリティ警告を回避するコードの要求：LLM 支援型開発

• RDP 接続、ファイルのアップロードとダウンロード、メモリ上でのコード実行、HTML コンテンツの難読化に用いる多数の PowerShell スクリプトの要求：LLM 強化型スクリプト技法、LLM 強化型異常検知回避

• 難読化した実行用ペイロードの作成と展開に関するやり取り：LLM 最適化型ペイロード作成

• 暗号資産の投資家やトレーダーを狙ったフィッシングとソーシャルエンジニアリング、およびより一般的なフィッシングコンテンツの手法の探索：LLM 支援型ソーシャルエンジニアリング

• 機密情報を開示するよう利用者を誘導するフィッシングメールや通知の作成：LLM 支援型ソーシャルエンジニアリング

• オープンソースのリモート管理ツール（RAT）の調査：LLM 支援型侵害後活動

脅威アクターからのプロンプトやクエリは主に既存のオープンソース情報に基づいており、モデルの生成結果は新たな能力を提供するものではないか、回答を拒否するものでした。脅威アクターに関連するアカウントを停止し、その活動をさらに妨害するため、ペイロードをセキュリティコミュニティと共有しました。