本案例研究最初刊載於 OpenAI 的 2025 年 6 月(在新視窗中開啟)報告。
行為者
我們發現並封鎖了一批 ChatGPT 帳號，這些帳號似乎與多起疑似欺詐性就業活動有關。這些威脅行為者利用 OpenAI 的模型製作材料，協助他們在全球申請 IT、軟體工程及其他遠端職缺，而這些求職行為可能涉及詐騙。
儘管我們無法確定這些威脅行為者的所在地或國籍，但其行為與公開歸因於北韓（DPRK）相關 IT 人員計畫(在新視窗中開啟)的活動一致。與近期活動有關的部分行為者可能受僱擔任承包人員，替可能與 DPRK 有關的核心威脅行為者執行求職任務及操作硬體，其中也包括在美國境內進行的活動。
行為
與我們在2 月(在新視窗中開啟)揭露並阻止的威脅行為者類似，近期活動試圖在就業流程的每個環節使用 AI。先前，我們觀察到這些行為者利用 AI 手動建立看似可信的人物身分，通常假冒居住在美國，並捏造曾任職於知名企業的經歷。這次，他們試圖以一定程度的自動化方式產生履歷；部分跡象也顯示，非洲的操作代理假扮求職者，並招募北美人士代為操作筆記型電腦。
我們偵測到兩類明顯不同的活動，可能代表兩種操作代理：核心操作代理與承包操作代理。
核心操作代理試圖依據特定職缺說明、技能範本和人物身分資料，自動建立履歷，並尋求有關建置工具的資訊，以管理及追蹤求職申請。他們也利用我們的模型產生類似徵才廣告的內容，藉此招募世界各地的承包人員。
核心操作代理將 ChatGPT 用作研究工具，協助規劃遠端工作環境。他們也使用我們的模型產生文字內容，以招募美國境內的真人代收公司筆記型電腦，再由核心威脅行為者或其承包人員遠端存取這些裝置。
威脅行為者研究如何在行動中使用 Tailscale 點對點 VPN、OBS Studio、vdo.ninja 即時影像注入及 HDMI 擷取迴路等工具。這些工具可能被用來規避企業安全措施；一旦成功，便可讓使用者持續、隱密地從遠端存取系統，並嘗試繞過部分仰賴即時視訊會議的身分驗證流程。
另一方面，可能擔任承包人員的操作代理使用 ChatGPT 協助完成求職申請任務。他們也利用 ChatGPT 產生類似傳給核心操作代理的訊息，詢問報酬以及用來申請遠端職缺的人物身分資料。
生成內容
我們判定，這些威脅行為者曾試圖利用我們的模型進行欺詐行動。具體而言，他們使用詳細的提示、指示及自動化迴圈，大規模產生量身打造且看似可信的履歷。
依據不同科技職缺說明、人物身分及業界慣例，自動製作詳細履歷：LLM 支援的社交工程。
根據上傳的履歷回答求職申請問題、程式設計作業及即時面試問題：LLM 支援的社交工程。
尋求指引，以遠端設定公司配發的筆記型電腦，使其看似位於境內，包括遮蔽地理位置及規避端點安全防護的方法：LLM 強化的異常偵測規避。
協助編寫工具，讓滑鼠自動移動或從遠端讓電腦保持喚醒狀態，可能用於建置遠端工作基礎設施：LLM 輔助開發。
影響
我們無法獨立評估這些行動是否成功，因為評估其影響需要多方利害關係人提供資訊。
這些威脅行為者很可能將 AI 納入流程的每個環節以提高效率，但也因此增加了自身曝光的風險。他們的操作讓我們得以掌握整體工作流程，進而針對活動的各個階段，與相關產業同業及主管機關分享這些活動的情報；這不僅提升了我們共同偵測、防範及因應此類威脅的能力，也增進了整體安全。