本案例研究最初刊載於 OpenAI 2026 年 2 月(在新視窗中開啟)發布的打擊 AI 惡意用途報告。
行為者
我們封鎖了一批 ChatGPT 帳號及一名 API 客戶；他們利用我們的模型進行半自動化的愛情與任務詐騙，每月可能有數百名受害者受騙。這些活動極可能源自柬埔寨，且與近期關於當地由中國人主導之犯罪詐騙活動的公開報導(在新視窗中開啟)相符。在少數個案中，個別使用者自稱是在柬埔寨工作的詐騙人員，例如向模型詢問稅務建議時，將自己的職業寫成「詐騙者」。
行為
此網路使用 ChatGPT 及 API 存取我們的模型，大規模進行半自動化的愛情任務詐騙，採用結構化的工作流程與運作模式，類似陌生開發銷售計畫。
1. 接觸：在漏斗頂端，此行動使用其 ChatGPT 帳號，為名為「Klub Romantis」的高級交友及伴遊服務製作宣傳文案。這些文案隨後以付費廣告形式發布於社群媒體。詐騙者鎖定對奢華生活內容感興趣的印尼男性，使用的廣告關鍵字包括「高爾夫球」、「遊艇」及「高級餐飲」。廣告附有 AI 聊天機器人的連結，並指示它冒充言語挑逗的接待員。這名假接待員先請目標從選單中選擇女性及關係類型，再透過追蹤網址及優惠碼將他們引導至 Telegram。
此網路中的詐騙者使用 ChatGPT 製作的「Klub Romantis」標誌。
2. 升溫：進入 Telegram 後，此行動結合了使用 ChatGPT 的真人操作員與 API 驅動的自動化機制。接待員角色繼續以越來越浪漫且露骨的色情言語交談，接著邀請目標加入名為「LoveCode」和「SexAction」的線上交友平台。平台會顯示號稱「可交往女孩」的個人檔案，以及由 AI 產生的動態公告，恭喜虛構客戶完成「任務」、解鎖獎金並贏得獎品。
詐騙者使用 ChatGPT 為「LoveCode」交友平台製作的假接待員圖片。
建立信任後，接待員角色會將對話轉交給一名「導師」，由其使用 ChatGPT 產生及翻譯操弄情緒的訊息，迫使目標完成一連串「工作」或「任務」。每項後續任務都要求透過銀行轉帳或數位支付錢包支付越來越高的金額，例如購買「VIP 卡」、在競賽中支持一名「獲選女孩」，或支付飯店押金。此處另有一張詐騙者使用 ChatGPT 為「LoveCode」交友平台製作的假接待員圖片。
詐騙者與 ChatGPT 分享的一封信函副本，信中告知受害者必須支付 Rp 20,500,000（$12,000），以修正 Love Code 系統中虛構的資料處理錯誤，但將可獲得 Rp 39,860,000、相當於 35% 的「獎金」。內容經 OpenAI 調查人員遮蔽。
3. 收網：在最後階段，詐騙者虛構「賠償和解金」或「驗證押金」等額外費用，企圖收取一筆更大的款項，並稱之為「收割」。從詐騙者貼入 ChatGPT 的訊息判斷，受害者匯出所能支付的最高金額後，詐騙者便會在 Telegram 封鎖對方，並將案件標記為結案。另有一封詐騙者與 ChatGPT 分享的信函副本，告知受害者必須支付 Rp 20,500,000（$12,000），以修正 Love Code 系統中虛構的資料處理錯誤，但將可獲得 Rp 39,860,000、相當於 35% 的「獎金」。內容經 OpenAI 調查人員遮蔽。
後勤支援
除了愛情詐騙活動外，此行動也使用我們的模型協助處理日常營運。這包括向 ChatGPT 詢問如何完成技術工作，例如整合 OpenAI API 或更新虛假交友服務網站；分析財務帳戶；以及產生每日報告，按照詐騙者估算的最終榨取目標金額，為每名目標指派一個「收割」金額。
在其他案例中，詐騙者要求 ChatGPT 翻譯中文主管與印尼語詐騙中心員工之間的訊息，並追蹤「潛在客戶開發」、「接待團隊」及「主管團隊」等部門的績效。
由 ChatGPT 產生的詐騙者狀態報告翻譯節錄，顯示每名受害者的身分與狀態、獲指派的人員，以及以印尼盾估算的「收割」金額。內容經 OpenAI 調查人員遮蔽。
影響
評估此網路的影響時必須審慎。我們的主要證據來源是詐騙者自己輸入的內容。這些輸入內容顯示，詐騙者可能同時與數百名目標互動，每天獲取數千美元。然而，我們無法獨立查證這些說法是否屬實。
OpenAI 的政策嚴禁將我們工具的輸出用於欺詐或詐騙。我們致力於與業界同業及主管機關合作，瞭解 AI 如何影響惡意行為，並積極阻止濫用我們服務的詐騙活動。