本案例研究最初刊載於 OpenAI 的2025 年 2 月(在新視窗中開啟)報告。
行為者
我們封鎖了一批 ChatGPT 帳號。這些帳號在烏爾都語與英語之間翻譯簡短留言，其模式與「任務(在新視窗中開啟)」詐騙相符：受害者會先獲得高薪工作機會，之後卻被要求先自掏腰包匯款至系統，才能提領所謂的「收入」。這類活動似乎源自柬埔寨。在這類詐騙中，受害者通常不僅拿不到「收入」，還會損失自己的錢。我們收到 Meta 提供的線索後，開始調查這類活動。
行為模式
這個網路主要使用我們的模型，在烏爾都語與英語之間翻譯簡短留言，內容與詐騙者和受害者之間的對話相符。我們發現內容提及透過 Telegram（顯然是他們的主要平台）、WhatsApp、簡訊，以及各種可刊登職缺的求職論壇和群組傳訊。
詐騙者似乎主要冒充兩類角色。其中一類是「招募人員」：他們會主動聯繫陌生人，刊登高薪遠距工作的廣告。另一類產生的活動量較高，是「導師」；他們會接續「招募人員」的接洽，教導目標對象如何工作。這些導師經常提到在 Telegram 上進行培訓。
詐騙者偶爾也會使用我們的模型校對網站文字。這些網站似乎仿冒了精品設計、時尚及旅遊品牌的名稱與外觀。「導師」會聲稱代表這些品牌招募人員，顯示這些網站很可能是用來增加詐騙的可信度。
模型產生內容
根據我們有限的可見資訊，詐騙者似乎會依循常見流程，逐步將目標對象從初次接觸引入騙局：
刊登職缺：根據他們的提示和模型產生內容，詐騙者似乎會先在各種網路論壇刊登職缺。招募內容通常會提到遠距工作，並以工作量少、薪資卻相對優渥為誘因，例如每天工作幾小時即可獲得 $300，另有獎金。這些職缺通常由「招募人員」角色刊登。
招募：接著，詐騙者會以「導師」角色產生留言，透過其所稱的各種通訊應用程式聯絡潛在求職者，並表示自己與「招募人員」共事。「導師」會聲稱受僱於某個精品品牌，而該詐騙集團已為這個品牌架設網站。他們會將工作描述為在這些精品品牌的網站提交五星評論，表面目的是提高顧客評分。
安撫疑慮：詐騙者經常在模型產生內容中向目標對象保證，這份工作是替歷史悠久的公司執行，因此合法可信。如果目標對象感到不安，詐騙者就會聲稱自己以前也曾受騙，但這次的機會很安全。
培訓：如果目標對象仍有興趣，模型產生內容顯示，「導師」會提供培訓，通常透過 Telegram 進行。目標對象起初會取得一個「培訓帳號」，並被要求每天提交 25 至 35 項評論任務。「培訓帳號」會顯示目標對象的「收入」迅速增加。
引發期待：如果目標對象繼續接受培訓，模型產生內容通常顯示，他們會獲得獎金更高的「特殊」或「終極」評論任務。「導師」會強調這種任務極為罕見，並稱目標對象非常幸運。
「啟用費」：當目標對象的「收入」達到一定金額後，模型產生內容顯示，「導師」會告訴對方，必須支付「啟用費」才能提領「收入」。必要時，詐騙者還會慫恿他們向親友借錢。
施壓：模型產生內容顯示，如果目標對象不願付款，詐騙者的態度會愈發強硬，拿他們與其他效率更高的工作者比較，並聲稱若不匯款，就會失去收入，以此迫使他們付款。
編造藉口：在模型產生內容中，如果有跡象顯示目標對象已經付款，詐騙者就會接連編造各種無法提領收入的理由，並經常聲稱還需要再匯更多錢。
影響
部分對話顯示，目標對象抱持高度懷疑；詐騙者產生的部分留言則以導師口吻詢問對方為何停止傳訊。這表示此類詐騙的整體得手率可能偏低。然而，部分對話和網路報告顯示，至少有一些受害者確實將錢投入這類騙局。我們無法獨立驗證發生在我們工具之外的活動。
OpenAI 的政策嚴禁將我們工具的輸出用於欺詐或詐騙。我們致力於與業界同業及主管機關合作，瞭解 AI 如何影響對抗性行為，並積極阻止濫用我們服務的詐騙活動。為履行這項承諾，我們已與業界同業及相關主管機關分享遭我們阻斷的詐騙網路資訊，以共同提升安全性。