本案例研究最初刊載於 OpenAI 的2025 年 2 月（在新視窗中開啟）報告。
行為者
我們封禁了一批 ChatGPT 帳戶。這些帳戶在烏爾都語與英語之間翻譯簡短留言，內容與「任務（在新視窗中開啟）」騙局相符：騙徒向受害者提供高薪工作，卻要求他們先自掏腰包向系統付款，才能提取所謂的「收入」。這些活動似乎源自柬埔寨。在這類騙局中，受害者通常既會失去「收入」，也會損失自己的金錢。我們收到 Meta 的線報後，開始調查這些活動。
行為
這個網絡主要利用我們的模型，在烏爾都語與英語之間翻譯簡短留言，內容與騙徒和受害者之間的對話相符。我們發現內容提及透過 Telegram（顯然是他們的主要平台）、WhatsApp、短訊，以及各類可刊登招聘廣告的求職論壇和群組傳訊。
騙徒似乎主要假扮成兩類角色。其中一類是「招聘人員」：他們會主動接觸陌生人，刊登高薪遙距工作的廣告。另一類是活動量較大的「導師」。他們會跟進「招聘人員」接觸的對象，教導目標如何工作。這些導師經常提及在 Telegram 上進行培訓。
騙徒偶爾也會利用我們的模型校對網站文字。這些網站似乎冒用了高級設計、時裝及旅遊品牌的名稱和外觀。扮演「導師」的人會聲稱代表這些品牌招聘，顯示這些網站可能用於提高騙局的可信度。
生成內容
根據我們所能掌握的有限資訊，騙徒似乎採用了一套常見流程，逐步把目標從接觸對象變成受騙者：
刊登招聘廣告：根據其提示和生成內容，騙徒似乎首先在不同網上論壇刊登招聘廣告。招聘內容通常提及遙距工作，並以少量工作換取相對高薪，例如每天只工作數小時，便可獲 300 美元日薪另加獎金。這些廣告通常由「招聘人員」角色刊登。
招募：騙徒其後會以「導師」角色生成留言，透過他們所指的多種通訊應用程式聯絡潛在員工，並聲稱自己與「招聘人員」合作。「導師」會聲稱受僱於其中一個高級品牌，而該犯罪團伙已為相關品牌架設網站。他們會把任務描述為在這些高級品牌的網站提交五星評論，聲稱目的是提高其顧客評分。
消除疑慮：騙徒生成的內容往往會向目標保證，由於工作是代表歷史悠久的公司進行，因此屬於合法工作。如果目標表現不安，騙徒便會聲稱自己也曾受騙，但這次機會是安全的。
培訓：如果目標繼續表示有興趣，生成內容顯示「導師」會提供培訓，通常在 Telegram 上進行。目標起初會獲准使用一個「培訓帳戶」，並須每天提交 25 至 35 項評論任務。「培訓帳戶」會顯示目標的「收入」迅速增加。
引發興奮：如果目標繼續接受培訓，生成內容顯示他們往往會獲派一項獎金較高的「特別」或「終極」評論任務。「導師」會強調這類任務極為罕見，並稱目標十分幸運。
「啟用費」：當目標的「收入」達到某個水平後，生成內容便會由「導師」告知他們必須繳付「啟用費」，才能提取「收入」。騙徒更會在有需要時催促他們向親友借錢。
施壓：生成內容顯示，如果目標不願付款，騙徒的態度便會越來越強硬。他們會把目標與其他效率更高的工作人員比較，並聲稱若不付款，目標便會失去收入，藉此施壓。
諸多藉口：生成內容顯示，如果有跡象表明目標已付款，騙徒便會接連編造藉口，解釋為何目標無法提取收入，並經常聲稱對方需要再付款。
影響
部分對話顯示，目標抱有高度懷疑；騙徒生成的部分留言則以導師口吻，追問目標為何不再回覆。這顯示該騙局的整體得手率可能偏低。然而，部分對話和網上報告顯示，至少有一些受害者確實曾向這些騙局付款。我們無法獨立核實在我們工具以外發生的活動。
OpenAI 的政策嚴禁利用我們工具的輸出內容進行欺詐或詐騙。我們致力與業界同儕及有關當局合作，了解 AI 如何影響惡意行為，並積極打擊濫用我們服務的詐騙活動。為履行這項承諾，我們已與業界同儕及有關當局分享遭我們瓦解的詐騙網絡資料，以提升共同安全。