本案例研究最初发布于 OpenAI 的 2025 年 2 月（在新窗口中打开）报告中。
行为主体
我们封禁了一批 ChatGPT 账号。这些账号在乌尔都语和英语之间翻译简短评论，其行为符合一种“任务（在新窗口中打开）”诈骗的特征：骗子先向受害者提供高薪工作，随后要求他们先向系统支付自己的钱，才能提取所谓的“收益”。这些活动似乎源自柬埔寨。在这类诈骗中，受害者通常既拿不到“收益”，也会损失自己的钱。收到 Meta 提供的线索后，我们开始调查这些活动。
行为
该网络主要使用我们的模型在乌尔都语和英语之间翻译简短评论，内容符合骗子与受害者聊天的特征。我们发现相关内容提及通过 Telegram（显然是其主要平台）、WhatsApp、短信，以及各种可发布招聘信息的就业论坛和群组进行联络。
这些骗子似乎主要冒充两类身份。一类是“招聘人员”：他们通过陌生推广的方式发布高薪远程工作广告。另一类是活动量更高的“导师”。他们会跟进“招聘人员”的推广，教目标对象如何完成工作。“导师”经常提到在 Telegram 上开展的培训。
骗子偶尔也会使用我们的模型校对网站文案。这些网站似乎冒用了奢侈品设计、时尚和旅游品牌的名称与外观。冒充“导师”的人会声称自己代表这些品牌招聘，这表明相关网站很可能被用来增强骗局的可信度。
操作流程
根据我们掌握的有限信息，骗子似乎遵循一种常见流程，逐步将目标对象从接触引向骗局：
发布招聘信息：根据其提示词和生成内容，骗子似乎会先在各种网络论坛上发布招聘信息。这些招聘信息通常会提及远程工作，并以工作量少、薪资相对较高为诱饵，例如每天只工作几小时即可获得 300 美元外加奖金。这些信息通常由冒充“招聘人员”的账号发布。
招募：随后，骗子会让“导师”生成评论，通过其所称的多种通信应用联系潜在求职者，并表示自己与“招聘人员”合作。“导师”会声称自己供职于某个奢侈品牌，而该诈骗团伙已为这个品牌搭建了冒牌网站。他们会将任务描述为在这些奢侈品牌的网站上提交五星好评，表面上是为了提高品牌的顾客评分。
打消疑虑：在生成内容中，骗子常以工作是为一家历史悠久的公司开展为由，向目标对象保证这份工作合法可信。如果目标对象表现出不安，骗子会声称自己以前也被骗过，但这次机会是安全的。
培训：如果目标对象仍有兴趣，生成内容表明，“导师”会提出为其提供培训，通常通过 Telegram 进行。目标对象最初会获得一个“培训账号”，并被要求每天提交 25 至 35 个评论任务。“培训账号”会显示目标对象的“收益”迅速增加。
激发兴趣：如果目标对象继续培训，生成内容显示，他们通常会获得一个“特殊”或“终极”评论任务，并可得到更高奖金。“导师”会强调这种任务非常难得，并称目标对象十分幸运。
“激活费”：当目标对象的“收益”达到一定金额后，生成内容中的“导师”会告诉他们，必须支付“激活费”才能提取“收益”。必要时，骗子还会敦促他们向亲友借钱。
施压：生成内容显示，如果目标对象不愿付款，骗子会变得越来越咄咄逼人。他们会拿目标对象与其他效率更高的员工比较，并声称如果不付款，对方就会失去收益，以此施压。
编造借口：如果生成内容表明目标对象已经付款，骗子就会接连编造各种无法提取收益的理由，通常还会要求对方继续付款。
影响
部分对话显示，目标对象对此高度怀疑；骗子生成的一些评论则以“导师”的口吻追问目标对象为何停止回复。这表明该骗局的总体得手率可能较低。然而，部分对话和网络报告表明，至少有一些受害者确实向这些骗局投入了资金。对于在我们工具之外发生的活动，我们无法进行独立核实。
OpenAI 的政策严格禁止将我们工具的输出用于欺诈或诈骗。我们致力于与业界同行和有关部门合作，了解 AI 如何影响对抗性行为，并主动打击滥用我们服务的诈骗活动。为践行这一承诺，我们已与业界同行和有关部门分享被我们阻断的诈骗网络信息，以共同提升安全水平。