本案例研究最初发表于 OpenAI 关于打击 AI 恶意用途的2026年2月（在新窗口中打开）报告。
自我们一年前（在新窗口中打开）开始报告针对企图滥用我们模型的诈骗网络所采取的打击行动以来，我们已取缔来自世界各地的众多诈骗活动。其中包括“任务”诈骗，即诱骗受害者先付款，声称这样才能领取完成简单任务所得的虚假收益；也包括投资诈骗，即诱骗受害者将钱投入并不存在的投资公司。
早在 AI 出现之前，情感诈骗就已是一种常见骗局。诈骗者冒充潜在伴侣，设法让目标相信自己遇到了真爱，随后不断索要更多钱财。我们首次公布的诈骗打击行动涉及一个刚在柬埔寨成立的犯罪团伙。该团伙曾使用 ChatGPT 生成情感诈骗消息，其中一些消息还在社交媒体上传播。此后，我们又打击了多起情感诈骗企图。正如我们在6月（在新窗口中打开）所述，此类诈骗及其他骗局在使用 AI 时往往遵循一种共同模式，我们将其概括为触达（陌生接触）、煽情（激发情绪）和收割（榨取钱财）。
触达（陌生接触）：诈骗者生成迎合潜在目标兴趣的内容，以吸引其注意。例如，我们去年报告的“杀猪盘”经常通过回复有关高尔夫的社交媒体帖子，将目标锁定为四十多岁、从事医疗行业的美国男性。其他团伙则使用陌生推销短信、虚假招聘消息，或像我们最近发现的情感诈骗案例（见下文）那样使用社交媒体广告。在每起案例中，威胁行为者都使用 ChatGPT 生成可能更具吸引力、且不像传统诈骗话术那样明显带有非母语痕迹的消息。
我们在2025年报告的“杀猪盘”网络以高尔夫为话题发送的触达消息，回复了一名与该行动无关的用户所发的 Facebook 帖子。
煽情（激发情绪）：诈骗者生成旨在激起目标强烈情绪的内容，使其更容易受到操纵。情感诈骗试图让目标对诈骗者产生爱慕之情。其他骗局可能试图让目标因潜在的高额回报而兴奋，担心错失机会，或因所谓的法律风险或未付账单而恐慌。有时，煽情和触达会出现在同一条消息中。
我们于2025年6月揭露的“打错号码”诈骗行动发送的陌生推销短信，其中宣称只需少量工作即可获得高得离谱的回报，很可能旨在营造“煽情”效果。
收割（榨取钱财）：诈骗者生成旨在说服目标交出钱财的内容。他们给出的理由可能五花八门。例如，情感诈骗可能要求目标投资心上人的生意，或出钱帮助对方渡过财务危机。“任务”诈骗会要求目标先付款，才能领取他们以为自己赚到的（虚假）收益。投资诈骗会诱骗目标将钱投入并不存在的投资项目。
我们于2025年6月揭露的“打错号码”诈骗行动发送的陌生推销短信，其中宣称只需少量工作即可获得高得离谱的回报，很可能旨在营造“煽情”效果。
从这一流程可以看出，分发网络是诈骗活动的关键组成部分。我们揭露的不同诈骗团伙通过短信、加密通信应用、社交媒体帖子、网络广告或多种渠道组合发送触达消息；AI 出现前的骗局则以使用电子邮件（在新窗口中打开）、电话（在新窗口中打开）而臭名昭著，甚至早在十九世纪就已使用信件（在新窗口中打开）和电报（在新窗口中打开）。许多骗局采用广撒网的分发方式，但有些似乎试图进行精准定向。例如，我们在2025年2月报告的（在新窗口中打开）“杀猪盘”重点利用高尔夫等话题；另一起情感诈骗通过社交媒体广告锁定印度尼西亚年轻男性；而名人诈骗（在新窗口中打开）通常冒充名人，并将其粉丝群体作为目标。由于证据零散，我们难以可靠比较所打击的不同骗局。不过，我们评估认为，无论诈骗活动在不同环节使用 AI 的程度如何，其选用的分发方式（例如广撒网或精准定向）都会显著影响其成功接触并利用目标的能力。
