本案例研究最初发表于 OpenAI 关于打击 AI 恶意用途的2026年2月（在新窗口中打开）报告。
行为者
我们封禁了一批 ChatGPT 账号和一名 API 客户。这些账号利用我们的模型实施半自动化的情感诈骗和任务诈骗，每月可能骗取数百名受害者的钱财。这些活动很可能源自柬埔寨，并与近期有关该国由中国人主导的犯罪诈骗活动的公开报告（在新窗口中打开）相吻合。个别用户曾自称是在柬埔寨工作的诈骗人员，例如在向模型咨询税务问题时将自己的职业写为“诈骗者”。
行为
该网络通过 ChatGPT 和 API 访问我们的模型，以结构化流程和运营模式大规模实施半自动化的情感任务诈骗，其运作方式与陌生客户拓展销售项目相似。
1. 触达：在漏斗顶端，该团伙使用其 ChatGPT 账号为一家名为“Klub Romantis”的高端交友及陪伴服务生成宣传文案。这些文案随后以付费广告的形式发布到社交媒体上。诈骗者将对奢华生活方式内容感兴趣的印度尼西亚男性作为目标，使用的广告关键词包括“高尔夫”“游艇”和“精致餐饮”。广告中包含指向 AI 聊天机器人的链接，该机器人被指示冒充言语挑逗的接待员。所谓的接待员要求目标从菜单中选择喜欢的女性和关系类型，随后通过带有追踪参数的网址和推广码将其引导至 Telegram。
“Klub Romantis”标志，由该网络中的一名诈骗者使用 ChatGPT 创建。
2. 煽情：目标进入 Telegram 后，该团伙将使用 ChatGPT 的人工操作与 API 驱动的自动化结合起来。接待员角色继续交谈，言辞逐渐变得浪漫且露骨，随后邀请目标加入名为“LoveCode”和“SexAction”的在线交友平台。平台展示所谓“可约女孩”的个人资料，以及由 AI 生成的动态，祝贺虚构客户完成“任务”、解锁奖金和赢得奖品。
诈骗者使用 ChatGPT 为“LoveCode”交友平台创建的虚假接待员图片。
取得信任后，接待员角色会将对话转交给一名“导师”。此人使用 ChatGPT 生成并翻译操纵情绪的消息，施压目标完成一系列“任务”或“使命”。每项后续任务都要求通过银行转账或数字支付钱包支付越来越高的金额，例如购买“VIP 卡”、支持一名“心仪女孩”参加比赛，或支付酒店押金。原文还夹入了说明文字：诈骗者使用 ChatGPT 为“LoveCode”交友平台创建的虚假接待员图片。
诈骗者与 ChatGPT 分享的一封信件副本。信中告知受害者，必须支付20,500,000印度尼西亚盾（12,000美元），才能纠正 Love Code 系统中一项虚构的数据处理错误，但之后将获得39,860,000印度尼西亚盾、即35%的“奖金”。内容由 OpenAI 调查人员隐去。
3. 收割：在最后阶段，诈骗者会虚构“赔偿结算费”或“验证押金”等额外费用，试图收取一笔被其称为“收割”的更大金额。从诈骗者粘贴到 ChatGPT 的消息判断，一旦受害者汇出所能支付的最高金额，他们就会在 Telegram 上拉黑受害者，并将案件标记为已结案。原文还夹入了一封信件的说明：诈骗者与 ChatGPT 分享该信，告知受害者必须支付20,500,000印度尼西亚盾（12,000美元），以纠正 Love Code 系统中虚构的数据处理错误，但之后将获得39,860,000印度尼西亚盾、即35%的“奖金”。内容由 OpenAI 调查人员隐去。
后续工作
除情感诈骗活动外，该团伙还使用我们的模型协助处理日常业务运营。这包括向 ChatGPT 咨询如何完成技术任务，例如集成 OpenAI API 或更新虚假交友服务网站；分析财务账户；以及生成日报。日报会为每名目标分配一个由诈骗者计算的“收割”金额，即最后榨取阶段的预估目标金额。
在其他情况下，诈骗者要求 ChatGPT 翻译中文主管与说印度尼西亚语的诈骗中心员工之间的消息，并追踪“潜在客户开发组”“接待组”和“主管组”等部门的绩效。
由 ChatGPT 生成的诈骗人员情况报告的翻译节选，其中列出每名受害者的身份和状态、分配的工作人员，以及以印度尼西亚盾计价的预估“收割”金额。内容由 OpenAI 调查人员隐去。
影响
评估该网络的影响需要谨慎。我们的主要证据来源是诈骗者自己输入的内容。这些输入表明，诈骗者可能同时与数百名目标互动，每天骗取数千美元。不过，我们无法独立核实这些说法是否准确。
OpenAI 的政策严格禁止将我们工具的输出用于欺诈或诈骗。我们致力于与业界同行及有关部门合作，了解 AI 如何影响对抗性行为，并积极打击滥用我们服务的诈骗活动。