前言
今年稍早，我們瓦解了一個以柬埔寨為據點的詐騙行動，該行動利用 ChatGPT 協助進行投資、戀愛、賭博和冒充執法機關等騙局。我們在收到 WhatsApp 同業提供的線索後，開始調查這項活動，此後也與業界合作夥伴及相關主管機關分享了更多威脅指標。
這起行動揭示了現代詐騙網路的一項重要事實：有組織犯罪集團很少只從事單一類型的詐騙。相反地，他們會伺機採用自認最能有效欺騙受害者的說詞、身分設定和手法。在調查中，我們經常觀察到行動者轉換詐騙類型，或在單一行動中結合多種詐騙手法。
該網路中的部分使用者還生成了暗示與人口販運和強迫犯罪有關的內容。這些觀察結果與大量公開報導(在新視窗中開啟)所描述(在新視窗中開啟)的情況一致：東南亞的有組織犯罪集團以合法工作的承諾招募勞工，再利用債務束縛和脅迫制度將他們困住。雖然我們無法獨立判定每一名涉事者的處境，但這項活動提醒我們，從事詐騙的人本身也可能是遭剝削的受害者。
行動者
我們封禁了一個協同行動的 ChatGPT 帳號網路。該網路極可能源自柬埔寨，且可能在班迭棉吉省的波貝市或其周邊運作；公開報導(在新視窗中開啟)已多次(在新視窗中開啟)將該市與網路詐騙園區及人口販運行動聯繫(在新視窗中開啟)起來。
該網路利用我們的模型建立虛假網路身分並協助其運作、生成和翻譯傳送給詐騙目標的訊息、製作詐騙方案的宣傳內容，以及協助處理日常營運。
與我們過去(在新視窗中開啟)瓦解的詐騙網路一樣，部分使用者也利用 ChatGPT 處理行政工作，包括草擬內部公告、翻譯員工之間的訊息，以及記錄看似與招募、移民身分、工作條件和員工紀律處分相關的事項。
行為
該網路同時進行多種類型的詐騙，並經常混用不同騙局的元素。例如，行動者先利用交友身分建立信任，再引介涉及加密貨幣和現貨黃金交易的虛假投資機會。其他使用者則以虛構身分與目標展開長時間的戀愛對話；冒充線上賭博平台代表，聲稱提供虛假紅利和獎金；或假冒執法機關，告訴目標他們因犯下重大刑事罪行而必須繳交罰款。
儘管說詞各異，整個網路的使用者始終呈現相同的基本欺騙行為模式。例如，他們建立並經營虛假交友檔案，冒充投資專家和執法人員。他們還生成偽造文件的圖片，包括護照、法律通知、股票購買確認單和賭博平台介面。
正如我們在(在新視窗中開啟)先前(在新視窗中開啟)報告(在新視窗中開啟)中所強調，詐騙者與目標互動時遵循一套常見模式，我們將其稱為接觸（主動搭話）、煽情（激發情緒）和榨取（騙取金錢）。
接觸：該網路利用 ChatGPT，在 WhatsApp 和 Telegram 等通訊平台上翻譯及生成與目標的對話。詐騙者還會製作社群媒體內容，並研究交友檔案素材，以支撐其虛假身分。
煽情：詐騙訊息經常運用情緒壓力和建立信任的技巧。常見手法包括承諾保證獲利和「零風險」投資、使用浪漫話語、要求對話保密，以及聲稱虛構紅利即將到期，催促目標立即採取行動。
榨取：詐騙者指示受害者存入款項以解鎖所謂的獎勵、支付啟用費、繳清虛構罰款，然後提供轉帳截圖或帳戶資訊作為付款證明。
該網路中的一名詐騙者使用 ChatGPT 建立的虛假加密貨幣交易介面。
該網路中的一名詐騙者利用 AI 生成圖片，宣傳虛假投資騙局。
人口販運跡象
除了詐騙，部分使用者生成的內容也顯示，他們可能涉及人口販運或強迫勞動等其他違反政策、且會被我們偵測並阻止的活動。其中包括在社群媒體刊登波貝「聊天員」職缺廣告，承諾提供機票、住宿、餐食、簽證和工作許可。
其他活動似乎與該行動內部的勞工管理有關。使用者保存員工債務、薪資扣款、紀律罰款和貸款償還紀錄，並翻譯有關移民身分、工作許可、簽證逾期和招募獎勵的討論。
部分對話還提到疑似拘禁、逃跑未遂，以及人口販運受害者遭強迫參與詐騙行動後可能承擔的刑事責任。雖然這些對話不足以讓我們判定任何特定個人的處境，但其內容與大量公開報導(在新視窗中開啟)所描述(在新視窗中開啟)的東南亞有組織犯罪集團活動一致。
該網路中的詐騙者利用 AI 生成圖片，在社群媒體上宣傳柬埔寨的工作機會。圖片經 OpenAI 遮蔽處理。
影響
我們封禁了與這起行動相關的 ChatGPT 帳號，與業界合作夥伴及相關主管機關分享了相關指標，並採取措施，提高這些行動者重新存取我們產品和服務的難度。
該網路造成的財務損失總額仍不清楚，但根據詐騙者自己的通訊內容，這起行動可能曾透過多種詐騙手法接觸數百名目標。使用者對話提到個別受害者損失數千美元，但我們無法獨立核實這些說法。
更廣泛而言，此案再次印證了兩項趨勢。第一，有組織的詐騙網路可能高度多元化，不會侷限於單一詐騙類型，而是同時進行多種詐騙。第二，網路詐騙、有組織犯罪和人口販運之間的界線往往模糊不清。因此，要有效瓦解這類活動，不僅必須針對直接面向受害者的詐騙行為，也要打擊策劃這些活動並從中牟利的犯罪組織。