本案例研究原載於 OpenAI 2026 年 2 月(在新視窗中開啟)發布的打擊惡意使用人工智能報告。
行動者
我們封禁了一小批可能源自中國的 ChatGPT 帳戶。這些帳戶使用我們的模型索取有關美國人士、網上論壇及聯邦政府大樓位置的資料,尋求使用換臉軟件的指引,並生成類似社交工程企圖的英文電郵。他們以中文向我們的模型輸入提示,大多在中國內地的辦公時間活動,並透過 VPN 存取我們的平台。
這些帳戶生成的電郵草稿聲稱由一間名為「Nimbus Hub Consulting」的香港公司員工發送。然而,他們向我們的模型輸入提示時使用簡體中文字(通常在中國內地使用),而非繁體中文字(通常在香港使用),顯示實際操作者身處中國內地。此外,其中一個帳戶生成了一封電郵,假稱寄件人是一個推動美國與上海經濟及文化交流的上海公共關係組織代表。該公司名稱中的「Nimbus」意指雨雲或光環,因此我們將這項行動命名為「一線曙光行動手冊」。

與 Nimbus Hub Consulting 有關聯的 LinkedIn 個人檔案螢幕截圖。部分 LinkedIn 個人檔案與 Nimbus Hub Consulting「我們的團隊」頁面所列的人士吻合。
行為
這些帳戶生成了多封英文電郵草稿,收件人是美國州級官員,或從事商業及金融工作的政策分析師。他們似乎邀請這些收件人參與有償諮詢,並稱工作內容是為其客戶解讀政策及提供策略建議。他們要求電郵草稿簡潔、清晰而專業,主旨須營造迫切感,並運用含蓄的心理暗示。
此外,這些 ChatGPT 帳戶亦使用我們的模型檢索一般資料,而模型則根據公開來源作答。查詢涵蓋以下主題:
美國聯邦政府辦公室的位置,包括主要辦公地點,以及聯邦機構與官員高度集中的州份排名。
美國聯邦政府人員在各州的分布。
美國人士,例如美國之音節目主持人,包括他們過往的訪問及感興趣的議題。
美國經濟及金融業專業人士與求職者常用的網上論壇和網站。
值得注意的是,其中一個帳戶要求取得指引,以在電腦上下載及安裝名為 FaceFusion 的臉部處理平台,用於換臉及其他媒體強化功能。根據其 ChatGPT 活動,他們表示有意專門使用該平台的即時換臉功能。他們要求提供不涉及技術細節的逐步安裝指引,並聲稱自己是程式編寫新手,因此說明必須簡單易明。他們上載了電腦硬件規格的螢幕截圖,以協助安裝。模型以 FaceFusion 公開網站及文件中的資料作答。
生成內容
他們指示我們的模型生成電郵草稿,而這些草稿重現了外國情報機關接觸目標時所用的社交工程行動手法(在新視窗中開啟),並非一般招聘訊息。他們要求每封電郵草稿包含以下部分:
建立可信度:他們將「Nimbus Hub」描述為專業的策略顧問公司,在地緣政治及跨國政策方面具備權威專業知識。他們附上了 Nimbus Hub 網站的連結(見下方螢幕截圖)。
針對目標度身訂造內容並加以奉承:他們要求模型明確援引收件人的公共部門背景,證明對方正是該職位的最佳人選。其中一宗個案中,該帳戶上載了一名身處上海的美國人士之 LinkedIn 個人檔案螢幕截圖,並指示模型根據截圖中有關該人士個人經歷及背景的文字,度身編寫電郵草稿。
疊加誘因:他們通常將顧問工作包裝成報酬優厚的網上機會,提供績效獎金及推薦獎勵,卻對實際工作內容含糊其辭。
以安撫性措辭降低感知風險:他們經常聲稱工作輕鬆、付款準時,而且內容保密。
迅速將通訊轉移至平台以外:他們總是企圖引導收件人離開電郵,改為透過 WhatsApp、Zoom 或 Teams 進行首次網上視像會議。

Nimbus Hub Consulting 網站首頁的螢幕截圖;該網站現已下線,但已有存檔。
影響
在本案例中,這些網絡與模型的互動在技術上並不複雜,其要求有時看似是在草擬合理的招聘邀請或安裝正當軟件。然而,這些用戶以虛假企業身份掩飾身分,並對地緣政治議題感興趣,顯示他們可能意圖進行敵對招攬。
根據這些帳戶使用 ChatGPT 的情況,沒有證據顯示他們成功誘使目標回覆邀請。我們無法獨立確定這些電郵邀請是否確實已發送,亦無法確定任何目標收件人是否曾回覆。
多個民主國家的政府(例如美國(在新視窗中開啟)、英國(在新視窗中開啟)及澳洲(在新視窗中開啟))均曾警告,外國情報機關正冒充顧問公司及其他機構,在社交及專業人脈平台上物色現任和前任政府僱員,以招攬他們。一般招聘訊息與這類針對性社交工程接觸手法具有若干相似特徵,因此可能令人難以分辨。然而,正當的招聘接觸通常配合較為緩慢的甄選流程,並提供可核實的職位名稱、可信的僱主資料、合理的市場薪酬範圍,以及真實招聘廣告的連結。簡而言之,如果好得令人難以置信,大概就不是真的。