本案例研究最初刊載於 OpenAI 的《2025 年 10 月》（在新視窗中開啟）報告。
疑似源自柬埔寨、緬甸及尼日利亞的網絡濫用 ChatGPT，企圖在網上詐騙他人。
我們致力識別、防止及遏止企圖濫用我們的模型作有害用途的行為。這些濫用行為包括詐騙；我們會偵測並封禁企圖濫用我們的模型欺騙及詐騙他人的惡意行為者。過去三個月，我們瓦解了疑似源自柬埔寨、緬甸及尼日利亞的詐騙網絡。在調查這些濫用模式期間，我們亦發現許多人使用我們的模型協助識別騙局，反映 AI 能夠在打擊詐騙方面發揮作用。本報告探討上述兩種用途。
濫用我們的模型協助詐騙的情況，涵蓋個人企圖行騙，以至疑似與有組織犯罪集團相關的大規模持續運作。不論來源及具體手法，我們瓦解的詐騙活動通常遵循同一模式，我們稱之為「接觸」（主動向陌生人招攬）、「煽動」（試圖激起興奮或恐慌）及「下手」（套取金錢或寶貴資料）。
這些騙徒首先在通訊服務及互聯網上廣泛散播內容，包括刊登社交媒體廣告；有關內容可能由 AI 生成，也可能並非如此。他們繼而試圖令任何回覆者對高回報機會感到興奮，或因即將蒙受金錢損失而恐慌，再利用這些情緒說服目標交出金錢或敏感資料。
我們亦觀察到許多案例，顯示我們的模型很可能協助人們免受詐騙傷害。我們發現，人們每月數百萬次使用 ChatGPT 協助識別及避開網上騙局；在本報告涉及的每宗詐騙行動中，我們都看到模型協助人們正確識別騙局，並建議適當的安全措施。我們目前估計，使用 ChatGPT 識別騙局的次數，最高可達使用它行騙的三倍。
一名 OpenAI 調查員把自己收到的詐騙短訊截圖貼到 ChatGPT，並成功利用模型辨識這是騙局。該次事件中，威脅行為者企圖冒充 TikTok 招聘人員。
自上一份報告發表以來，我們已加強偵測及瓦解騙局的能力。我們進一步瓦解了疑似源自柬埔寨、緬甸及尼日利亞的詐騙網絡。結合較早前的瓦解行動，這些取締工作讓我們得以識別來自不同國家的多宗詐騙行動所呈現的一些新趨勢。
舊騙術，AI 新工具
我們瓦解的大部分詐騙活動，都是把 AI 融入現有詐騙套路，而非以 AI 為核心設計全新套路。我們今年識別並封禁的所有詐騙行動，主要都把 AI 用作擴大規模及提升效率的工具。常見用途包括使用我們的模型翻譯、撰寫訊息，以及製作社交媒體內容。
例如，我們最近封禁了疑似源自柬埔寨及尼日利亞的詐騙行動。這些行動冒充「投資公司」，企圖詐騙多個國家的受害者。騙徒建立網站及網上廣告宣傳虛假公司，並利用疑似偽造的社交媒體帳戶冒充交易專家，邀請人們加入私人通訊群組。威脅行為者聲稱有高回報、零風險的賺錢機會，企圖誘使潛在受害者向虛構交易平台付款。在所有騙局中，騙徒主要使用我們的模型生成及翻譯通訊內容、製作網站及社交媒體帳戶的內容，以及進行基本資料搜集。
另一宗個案中，我們封禁了一個極可能位於緬甸的詐騙中心。該中心使用我們的模型生成詐騙計劃所需內容，並處理日常業務工作。這些工作包括編排時間表、草擬內部通告、分配辦公桌及宿舍，以及管理財務帳目。部分營運者查問從事網上詐騙而被捕者會面對甚麼刑罰。
騙徒一律平等，但有些更懂 AI
我們瓦解的騙徒並非全都以相同方式或同等複雜程度使用我們的模型。騙徒與 ChatGPT 的互動大多涉及翻譯等較簡單的工作，但部分詐騙行動更具野心，手法亦更精密。
例如，我們瓦解的一宗疑似源自柬埔寨的詐騙行動，利用我們的模型為虛假投資專家及虛構交易公司的虛構僱員生成詳盡履歷。騙徒其後要求 ChatGPT 以這些角色的口吻撰寫社交媒體訊息。威脅行為者經常把看來由目標傳來的訊息輸入我們的模型，並要求模型以虛假身分繼續對話。
我們瓦解的另一宗同樣疑似源自柬埔寨的詐騙行動，最初使用我們的模型生成陌生推銷短訊，再大量發送至美國電話號碼。其中一則短訊發給了一名 OpenAI 調查員，情況與我們在六月報告的個案相似。這些短訊邀請收件人加入名稱仿似某家合法投資公司的 WhatsApp 群組，而這些群組其後已被封禁。
根據傳給該 OpenAI 調查員的一系列 WhatsApp 訊息，潛在目標加入其中一個群組後，很快便會看到約六個不同帳戶進行一場全都圍繞投資的「對話」。其中一個帳戶冒充「投資專家」，其餘則冒充信心及經驗各異的投資者。整場對話均由騙徒生成，再把完整內容一次過從中文翻譯成其他語言，很可能是為了營造群內雲集積極而成功的交易者、氣氛活躍的假象。最後，「投資專家」會建議目標也嘗試投資。
另一宗極可能源自尼日利亞的投資詐騙行動，要求模型逐步講解如何利用社交媒體廣告接觸拉丁美洲的富裕人士、隱藏所在位置，以及避開社交媒體平台的限制。為此，他們把模型導向某平台公開的服務條款，並要求模型審核擬議廣告內容是否符合規定。
掩飾與藉口
騙徒尤其是大型詐騙中心，往往鍥而不捨。他們的活動受阻後，往往會嘗試重啟違規行為，同時改變部分行事方式，很可能是為了逃避進一步偵測。因此，業界分享對其不斷演變活動的見解非常重要。例如 OpenAI 與 Meta 曾分別分享威脅行為者的資料，推動進一步調查及執法。
騙徒或許是為了應對取締行動，或回應網上廣泛討論哪些跡象會暴露 AI 的使用，而試圖在網上內容及與目標的通訊中掩飾自己使用 AI。例如，疑似源自柬埔寨的詐騙行動曾指示模型從輸出中移除破折號。
其中一宗個案中，騙徒虛構被封禁的理由，企圖解釋其大量社交媒體資產為何遭到取締。這涉及上述疑似源自柬埔寨、透過短訊及 WhatsApp 運作的詐騙中心。WhatsApp 封禁與該行動相關的「投資群組」後，營運者開始生成訊息，聲稱這些群組遭競爭對手惡意舉報，很可能是為了替封禁一事開脫。
WhatsApp 取締相關帳戶後，與柬埔寨有關的詐騙行動傳給一名 OpenAI 調查員的 WhatsApp 訊息截圖。