本案例研究最初刊載於 OpenAI 2026 年 2 月(在新視窗中開啟)發布的打擊惡意使用 AI 行為報告。
行動者
我們封禁了一批 ChatGPT 帳號。這些帳號使用我們的模型冒充虛構律師事務所、真實律師及美國執法機關，對詐騙受害者施行資金追回詐騙。這類活動極可能源自柬埔寨，且與近期公開報導所述、由中國人主導並在當地運作的犯罪詐騙活動相符。
行為
這些帳號使用 ChatGPT 協助進行詐騙損失追回騙局，手法包括設立虛假律師事務所，以及冒充真實律師和美國聯邦調查局網路犯罪投訴中心（IC3）等可信機構。
1. 接觸：詐騙者使用 ChatGPT 製作內容，佯稱來自至少六家虛假律師事務所。其中部分內容隨後由社群媒體帳號及網路廣告發布，用以宣傳虛構的詐騙損失追回服務。多項公開來源跡象顯示這些事務所實屬虛假，包括查無州律師執業資格、使用與業務不相符的網域、聯絡地址所列街道位置似乎並不存在，以及要求透過即時通訊應用程式聯絡律師。
詐騙者使用我們的模型生成社群媒體內容，宣傳虛假的詐騙損失追回服務。
2. 取信：詐騙者生成留言，試圖模仿專門協助詐騙受害者追回經濟損失之律師的語氣和專業形象，以取得目標對象的信任。他們生成內容，佯稱出自虛構的律師身分。我們在多個網站上發現其中部分虛構身分；其個人資料照片顯然是從社群媒體盜取，或以 AI 生成。在某些案例中，詐騙者會在多家所謂的律師事務所重複使用相同的「律師」身分。我們發現的其中一個網站冒充 IC3。
這些詐騙網站公布的聯絡方式，會將訪客引導至 Telegram 等私人即時通訊應用程式。在使用 ChatGPT 草擬給目標對象的訊息中，詐騙者謊稱其行動受國際刑事法院監督，並聲稱在成功追回受害者全部款項前不會收取任何費用。
3. 收網：詐騙者試圖在進行任何「追回」作業前，要求目標對象預付費用和押金，藉此騙取金錢。相關手法包括要求目標對象先支付 15% 的「服務費」，才能收到據稱已追回的款項；要求繳納押金以啟用帳戶；以及收取「諮詢費」。詐騙者使用 ChatGPT 草擬給目標對象的訊息，其中包括要求以加密貨幣付款，並提供交易確認畫面截圖作為付款證明。
一個冒充美國聯邦調查局 IC3 部門且與這項騙局相關的網站。點擊「提出投訴」後，訪客會被引導至冒充該機構的 Telegram 帳號。
執行情況
這項行動使用我們的模型支援多個工作環節，例如生成社群媒體宣傳內容，以及向目標對象發送的陌生開發訊息。然而，詐騙者最常使用 ChatGPT 翻譯他們與目標對象在私人即時通訊應用程式上的往來訊息，包括要求以「美式英語」或律師的口吻撰寫回覆。
部分詐騙帳號也使用我們的模型製作欺騙性材料，以提高可信度。這些材料包括虛假的律師註冊紀錄、虛假的律師協會會員證，以及用來阻止受害者向外界求助的偽造保密協議。
使用我們的模型生成的虛假紐約州律師協會會員證。由 OpenAI 調查人員遮蔽敏感資訊。
影響
評估影響時必須審慎，因為主要證據來源之一是詐騙者自己的輸入內容。這些輸入內容顯示，詐騙者可能已從個別受害者手中騙取數千美元，但我們無法獨立核實這些說法。美國聯邦調查局及至少一家遭冒充的律師事務所，均已針對這項騙局發布公開警示。美國聯邦調查局官員警告，這項行動鎖定弱勢族群，尤其是年長者，利用詐騙受害者的情緒狀態，以及希望迅速追回損失款項的心理。
OpenAI 的政策嚴禁利用我們工具的輸出內容進行詐欺或詐騙。我們致力與同業及主管機關合作，瞭解 AI 如何影響對抗性行為，並積極打擊濫用我們服務的詐騙活動。