本個案研究原載於 OpenAI 的 2026 年 2 月（在新視窗中開啟）打擊惡意使用 AI 報告。
行為者
我們封禁了一批 ChatGPT 帳戶。這些帳戶使用我們的模型冒充虛構律師事務所、真實律師及美國執法機關，向詐騙受害者訛稱可協助追回損失。這些活動極可能源自柬埔寨，並與近期關於當地由中國人主導的犯罪詐騙活動之公開報道相符。
行為
這些帳戶使用 ChatGPT 支援一項欺詐性騙款追討行動，當中利用虛假律師事務所，並冒充真實律師及美國聯邦調查局的互聯網犯罪投訴中心（IC3）等可信機構。
1. 接觸：騙徒使用 ChatGPT 製作內容，訛稱來自至少六間虛假律師事務所。部分內容其後由社交媒體帳戶及網上廣告發布，用以宣傳虛構的騙款追討服務。多項公開來源跡象顯示這些律師事務所並不真實，包括沒有證據證明它們持有州律師執業資格、使用與身分不符的網域、列出的街道地址似乎並不存在，以及指示訪客透過即時通訊應用程式聯絡律師。
騙徒使用我們的模型生成社交媒體內容，宣傳虛假的騙款追討服務。
2. 取信：騙徒生成留言，嘗試模仿專門協助詐騙受害者追回金錢損失之律師的語氣及專業形象，以博取目標信任。他們製作訛稱來自不同虛構律師身分的內容。我們在多個網站發現其中一些虛構身分；其個人頭像顯然取自社交媒體，或由 AI 生成。在部分個案中，騙徒以同一個「律師」身分代表多間所謂的律師事務所。我們發現的其中一個網站冒充 IC3。
這些詐騙網站刊載的聯絡資料，會把訪客引導至 Telegram 等私人即時通訊應用程式。騙徒使用 ChatGPT 草擬給目標的訊息，訛稱其行動受國際刑事法院監督，並表示在成功追回受害者全部款項前不會收取任何費用。
3. 下手：騙徒要求目標在任何「款項追討」前預付費用及按金，企圖騙取金錢。騙徒會指示目標先支付 15%「服務費」，才可收取據稱已追回的款項；亦會要求支付按金以啟用帳戶，以及收取「諮詢費」。騙徒使用 ChatGPT 草擬給目標的訊息，當中包括指示對方以加密貨幣付款，並提供交易確認截圖作為付款證明。
一個冒充美國聯邦調查局 IC3 部門並與這宗詐騙有關的網站。點擊「提出投訴」後，訪客會被引導至一個冒充官方的 Telegram 帳戶。
執行
這項行動使用我們的模型支援多個工作環節，例如製作社交媒體宣傳內容，以及向目標發送陌生開發訊息。不過，騙徒最常使用 ChatGPT 翻譯與目標在私人即時通訊應用程式互傳的訊息，包括要求以「美式英語」或律師口吻撰寫回覆。
部分詐騙帳戶亦使用我們的模型製作欺詐材料，企圖加強可信度。這些材料包括虛假律師註冊紀錄、虛假律師協會會員證，以及用以阻止受害者向外求助的偽造保密協議。
一張使用我們的模型生成的虛假紐約州律師協會會員證。由 OpenAI 調查人員遮蓋資料。
影響
評估影響時必須審慎，因為主要證據來源之一是騙徒本身輸入的內容。這些輸入內容顯示，騙徒可能從個別受害者騙取了數千美元，但我們無法獨立核實這些說法。美國聯邦調查局及至少一間被冒充的律師事務所，已就這宗詐騙公開發出警示。美國聯邦調查局官員警告，這項行動以弱勢群體為目標，尤其是長者，並利用詐騙受害者的情緒及急於追回損失的心態。
OpenAI 的政策嚴禁使用我們工具的輸出內容進行欺詐或詐騙。我們致力與業界同儕及執法機關合作，了解 AI 如何影響敵對行為，並積極打擊濫用我們服務的詐騙活動。