本案例研究原載於 OpenAI 的《2026 年 2 月》（在新視窗中開啟）打擊惡意使用 AI 報告。
行為者
我們封禁了一批 ChatGPT 帳戶及一名 API 客戶。這些帳戶和客戶使用我們的模型經營半自動化的愛情及任務騙案，很可能每月令數百名受害者蒙受損失。這些活動很可能源自柬埔寨，並與近期有關當地由中國人主導之犯罪詐騙行動的公開報道（在新視窗中開啟）吻合。在個別案例中，有用戶自行表明是柬埔寨的詐騙從業員，例如向模型徵詢稅務意見時，聲稱自己的職業是「騙徒」。
行為
該網絡使用 ChatGPT 及透過 API 存取我們的模型，大規模經營半自動化的愛情任務騙案，其結構化工作流程和營運模式與陌生推銷計劃相似。
1. Ping（陌生接觸）：在漏斗頂端，該行動使用 ChatGPT 帳戶，為名為「Klub Romantis」的高級交友及伴遊服務生成宣傳文字。這些文字其後以付費廣告形式發佈於社交媒體。騙徒利用「高爾夫球」、「遊艇」和「高級餐飲」等廣告關鍵字，鎖定對奢華生活內容感興趣的印尼男性。廣告附有 AI 聊天機械人的連結，而該機械人被指示假扮成態度挑逗的接待員。這名所謂的接待員要求目標從選單中選擇女性和關係類型，然後透過追蹤網址及優惠碼將他們引導至 Telegram。
「Klub Romantis」標誌，由該網絡的一名騙徒使用 ChatGPT 製作。
2. Zing（激發情緒）：目標轉到 Telegram 後，該行動會混合運用使用 ChatGPT 的真人操作員，以及由 API 驅動的自動化功能。接待員角色以愈來愈浪漫和露骨的性暗示語言繼續對話，然後邀請目標加入名為「LoveCode」和「SexAction」的網上交友平台。平台展示聲稱「可以約會的女孩」之個人檔案，以及由 AI 生成的公告動態，祝賀虛構客戶完成「任務」、解鎖獎金和贏得獎品。
一名騙徒使用 ChatGPT 製作的「LoveCode」交友平台虛假接待員圖片。
取得信任後，接待員角色會把對話交給一名「導師」，由對方使用 ChatGPT 生成和翻譯操控情緒的訊息，迫使目標完成一連串「工作」或「任務」。每項後續任務均要求目標透過銀行轉帳或電子支付錢包支付愈來愈高的款項，例如購買「VIP 一名騙徒使用 ChatGPT 製作的虛假接待員圖片卡」、在比賽中支持一名「獲選女孩」，或支付「LoveCode」交友平台的酒店按金。
一名騙徒與 ChatGPT 分享的信件副本，信中聲稱受害者必須支付 Rp 20,500,000（$12,000），以修正 Love Code 系統中虛構的數據處理錯誤，但之後可獲得 Rp 39,860,000、相當於 35% 的「獎金」。內容由 OpenAI 調查人員遮蓋。
3. Sting（騙取金錢）：在最後階段，騙徒會捏造「賠償結算」或「驗證按金」等額外費用，試圖收取一筆稱為「收割」的較大款項。從騙徒貼到 ChatGPT 的訊息判斷，受害者一旦匯出所能支付的最高金額，騙徒便會在 Telegram 封鎖對方，並把個案標記為已結案。一名騙徒與 ChatGPT 分享的信件副本告知受害者，他們必須支付 Rp 20,500,000（$12,000），以修正 Love Code 系統中虛構的數據處理錯誤，但之後可獲得 Rp 39,860,000、相當於 35% 的「獎金」。內容由 OpenAI 調查人員遮蓋。
輔助營運
除了愛情騙案活動外，該行動亦使用我們的模型協助處理日常業務。這包括要求 ChatGPT 指導如何完成技術工作，例如整合 OpenAI API 或更新虛假交友服務網站、分析財務帳目，以及生成每日報告。報告會為每名目標分配一個由騙徒計算的「收割」價值，即最後一次榨取款項時預計索取的金額。
在其他案例中，騙徒要求 ChatGPT 翻譯中文主管與操印尼語的詐騙中心人員之間的訊息，並追蹤名為「開發潛在客戶」、「接待團隊」和「主管團隊」等部門的表現。
由 ChatGPT 生成的騙徒狀況報告翻譯節錄，當中列出每名受害者的身分和狀況、獲分派的人手，以及以印尼盾計算的估計「收割」價值。內容由 OpenAI 調查人員遮蓋。
影響
評估這個網絡的影響時必須審慎。我們的主要證據來源是騙徒本身的輸入內容。這些輸入內容顯示，騙徒可能同時與數百名目標互動，每日獲取數千美元。不過，我們無法獨立核實這些說法是否準確。
OpenAI 的政策嚴禁將我們工具的輸出用於欺詐或詐騙。我們致力與業界同業及主管機關合作，了解 AI 如何影響敵對行為，並積極瓦解濫用我們服務的詐騙活動。