本案例研究最初发表于 OpenAI 关于打击恶意使用 AI 的 2026 年 2 月报告（在新窗口中打开）。
行为主体
我们封禁了一批利用我们的模型实施追损骗局的 ChatGPT 账号。这些账号冒充虚构律师事务所、真实律师和美国执法机构，以诈骗受害者为目标。这些活动极有可能源自柬埔寨，与近期有关该国由中国人主导的犯罪诈骗活动的公开报道相符。
行为
这些账号利用 ChatGPT 为诈骗损失追偿活动提供支持，其手段包括设立虚假律师事务所，以及冒充真实律师和美国联邦调查局互联网犯罪投诉中心（IC3）等受信任的机构。
1. 试探：诈骗者利用 ChatGPT 创建据称来自至少六家虚假律师事务所的内容。其中一些内容随后由社交媒体账号和网络广告发布，用于推广虚构的诈骗追损服务。多项开源信息表明这些律所是虚假的，例如没有取得州律师执业许可的证据、使用与其身份不符的网络域名、将联系地址设在似乎并不存在的街道地址，以及要求人们通过即时通讯应用联系律师。
诈骗者利用我们的模型生成社交媒体内容，推广虚假的诈骗追损服务。
2. 取信：诈骗者生成评论，试图模仿专门帮助诈骗受害者追回经济损失的律师所使用的语气和专业表达，以此获取目标的信任。他们生成了据称出自虚构律师身份的内容。我们在多个网站上发现了其中一些虚构身份，其头像显然盗自社交媒体或由 AI 生成。在某些情况下，诈骗者在多家所谓的律师事务所中重复使用同一个“律师”身份。我们发现，其中一个网站冒充 IC3。
这些诈骗网站发布的联系方式会将访客引导至 Telegram 等私人即时通讯应用。在利用 ChatGPT 起草的目标联络消息中，诈骗者谎称其活动受国际刑事法院监督，并声称在成功追回受害者的全部资金前不会收取任何费用。
3. 收网：诈骗者要求目标在任何“追损”开始前预付费用和保证金，试图借此骗取钱财。具体手段包括要求目标先支付 15% 的“服务费”，才能收到据称已追回的资金；要求缴纳保证金以激活账户；以及收取“咨询费”。诈骗者利用 ChatGPT 起草的目标联络消息还包括要求对方使用加密货币付款，并提供交易确认截图作为付款凭证。
一个冒充美国联邦调查局 IC3 部门并与这起骗局有关的网站。点击“提交投诉”后，访客会被引导至一个冒充官方的 Telegram 账号。
执行情况
该团伙利用我们的模型支持其工作流程中的多个环节，例如生成社交媒体推广内容，以及向目标发送陌生开发消息。不过，诈骗者最常用 ChatGPT 翻译他们与目标在私人即时通讯应用上往来的消息，包括要求以“美式英语”或律师的口吻撰写回复。
部分诈骗账号还利用我们的模型制作欺骗性材料，以增强可信度。这些材料包括虚假的律师注册记录和律师协会会员卡，以及用于阻止受害者向外界求助的虚假保密协议。
一张利用我们的模型生成的虚假纽约州律师协会会员卡。由 OpenAI 调查人员隐去部分信息。
影响
评估其影响时需要谨慎，因为主要证据来源之一是诈骗者自己的输入内容。这些输入表明，诈骗者可能从个别受害者处骗取了数千美元，但我们无法独立核实这些说法。美国联邦调查局和至少一家遭冒充的律师事务所已就这起骗局发布公开警报。美国联邦调查局官员警告称，该团伙以弱势群体为目标，尤其是老年人，并利用诈骗受害者的情绪状态和急于追回损失资金的心理。
OpenAI 的政策严格禁止将我们工具的输出用于欺诈或诈骗。我们致力于与业界同行和有关部门合作，了解 AI 如何影响对抗性行为，并积极打击滥用我们服务实施的诈骗活动。