引言
今年早些时候，我们打击了一个以柬埔寨为据点、利用 ChatGPT 支持投资、恋爱、赌博和冒充执法人员等骗局的诈骗团伙。在 WhatsApp 的同行向我们提供线索后，我们开始调查这一活动，此后又与行业合作伙伴和相关主管部门共享了更多威胁信号。
该团伙揭示了现代诈骗网络的一个重要现实：有组织犯罪集团很少只从事单一类型的诈骗。相反，他们会伺机采用任何自认为最能有效欺骗受害者的话术、身份和手段。在调查中，我们经常发现相关人员在不同类型的诈骗之间转换，或在一次行动中结合多种诈骗手法。
该网络中的一些用户还生成了暗示其与人口贩运和强迫犯罪存在关联的内容。这些观察结果与大量公开报道（在新窗口中打开）所描述（在新窗口中打开）的情况一致：东南亚的有组织犯罪集团以合法就业为诱饵招募人员，随后通过债务束缚和胁迫将他们困住。虽然我们无法独立确定每一名涉事人员的具体处境，但这些活动提醒我们：实施诈骗的人本身也可能是受剥削的受害者。
行为方
我们封禁了一个协同运作的 ChatGPT 账号网络。该网络极有可能源自柬埔寨，并可能在班迭棉吉省波贝市或其周边活动；公开报道（在新窗口中打开）已多次（在新窗口中打开）将该市与网络诈骗园区及人口贩运活动联系起来（在新窗口中打开）。
该网络使用我们的模型创建和运营虚假网络身份、生成并翻译发送给诈骗目标的消息、制作诈骗项目的宣传内容，以及协助处理日常事务。
与我们过去（在新窗口中打开）打击的诈骗网络一样，部分用户还使用 ChatGPT 处理行政工作，包括起草内部通知、翻译员工之间的消息，以及记录似乎与招聘、移民身份、工作条件和员工纪律有关的事项。
行为
该网络同时实施多种诈骗，并经常混合不同骗局的元素。例如，运营者先利用交友身份建立信任，然后再推介涉及加密货币和现货黄金交易的虚假投资机会。其他用户则使用虚构身份与目标展开长时间的恋爱交谈；冒充网络赌博平台代表，以虚假的奖金和彩金为诱饵；或冒充执法机构，谎称目标因犯下严重罪行而必须缴纳罚款。
尽管所用话术各不相同，但该网络中的用户始终表现出相同的底层欺骗模式。例如，他们创建并运营虚假交友资料，冒充投资专家和执法人员。他们还生成伪造文件的图片，包括护照、法律通知、股票购买确认单和赌博平台界面。
正如我们在（在新窗口中打开）此前（在新窗口中打开）报告中（在新窗口中打开）所指出的，诈骗者与目标互动时遵循一种常见模式，我们将其概括为试探（主动接触）、煽动（激发情绪）和收割（榨取钱财）。
试探 (ping)：该网络使用 ChatGPT 翻译和生成与目标在 WhatsApp、Telegram 等消息平台上的对话。诈骗者还制作社交媒体内容，并搜集交友资料素材，以包装虚假身份。
煽动 (zing)：诈骗消息经常利用情感施压和建立信任的技巧。例如，承诺保证回报和“零风险”投资；使用恋爱话术；要求对话保密；以所谓奖金即将到期为由，催促目标立即行动。
收割 (sting)：诈骗者指示受害者充值以解锁所谓奖励、支付激活费或缴纳虚构罚款，随后要求提供转账截图或账户信息作为付款证明。
该网络中的一名诈骗者使用 ChatGPT 制作的虚假加密货币交易界面。
该网络中的一名诈骗者为推广虚假投资骗局而制作的 AI 生成图片。
人口贩运迹象
除诈骗外，一些用户生成的内容还暗示其参与了我们会检测并打击的其他违规活动，例如人口贩运或强迫劳动。其中包括制作社交媒体广告，在波贝 (Poipet) 招聘“聊天员”，并承诺提供机票、住宿、餐食、签证和工作许可证。
其他活动似乎与该团伙内部的人员管理有关。用户记录员工债务、工资扣款、纪律罚款和贷款偿还情况，并翻译有关移民身份、工作许可证、签证逾期和招聘奖励的讨论。
一些对话还提及疑似拘禁、逃跑企图，以及遭贩运并被迫参与诈骗的人员可能承担的刑事责任。虽然这些对话不足以让我们判断任何特定个人的处境，但其内容与大量公开报道（在新窗口中打开）所描述（在新窗口中打开）的东南亚有组织犯罪集团活动一致。
该网络中的诈骗者为在社交媒体上宣传柬埔寨职位而制作的 AI 生成图片。图片经 OpenAI 遮盖处理。
影响
我们封禁了与该团伙相关的 ChatGPT 账号，与行业合作伙伴和相关主管部门共享了相关识别线索，并采取措施增加这些行为方重新访问我们产品和服务的难度。
该网络造成的经济损失总额尚不明确，但根据诈骗者自己的通信记录，该团伙可能通过多种骗局接触了数百名目标。用户对话提到个别受害者损失了数千美元，但我们无法独立核实这些说法。
从更广泛的角度看，此案进一步印证了两种趋势。第一，有组织诈骗网络可能高度多元化，同时实施多种诈骗，而非局限于单一类型。第二，网络欺诈、有组织犯罪与人口贩运之间的界限往往十分模糊。因此，要有效实施打击，不仅要针对直接面向受害者的诈骗活动，还必须打击策划这些活动并从中牟利的犯罪组织。