簡介
今年較早前，我們瓦解了一個以柬埔寨為基地、利用 ChatGPT 支援投資、愛情、賭博及冒充執法機關詐騙的犯罪網絡。我們在收到 WhatsApp 同業提供的線索後開始調查這些活動，其後亦與業界合作夥伴及相關部門分享了更多威脅訊號。
這次行動揭示了現代詐騙網絡的一項重要現實：有組織犯罪集團很少只從事單一類型的詐騙。相反，他們會伺機採用自認為最能有效欺騙受害者的說辭、身分和手法。在調查中，我們經常發現行為者轉換詐騙類型，或在同一活動中結合多種詐騙手法。
網絡內部分用戶亦生成了一些內容，顯示可能涉及人口販運及強迫他人從事犯罪活動。這些觀察結果與大量公開報道（在新視窗中開啟）所描述（在新視窗中開啟）的情況一致：東南亞的有組織犯罪集團以合法工作為餌招募人員，然後將他們困在債務奴役和脅迫制度之中。儘管我們無法獨立判斷每名涉事者的處境，但這些活動提醒我們，從事詐騙的人本身也可能是受剝削的受害者。
行為者
我們封禁了一個協同行動的 ChatGPT 帳戶網絡。該網絡極可能源自柬埔寨，並可能在班迭棉吉省波貝市或其周邊地區運作；公開報道（在新視窗中開啟）曾多次（在新視窗中開啟）將該市與網上詐騙園區及人口販運活動聯繫起來（在新視窗中開啟）。
該網絡利用我們的模型建立和經營虛假網上身分、生成及翻譯發給詐騙目標的訊息、為欺詐計劃製作宣傳內容，以及協助處理日常營運。
與我們過往（在新視窗中開啟）瓦解的詐騙網絡一樣，部分用戶亦使用 ChatGPT 處理行政工作，包括草擬內部通告、翻譯員工之間的訊息，以及記錄看似與招聘、入境身分、工作環境和員工紀律有關的事宜。
行為
該網絡同時進行多種類型的詐騙，並經常混合不同騙局的元素。例如，操作者利用交友身分建立信任，然後推介涉及加密貨幣和現貨黃金交易的虛假投資機會。其他用戶則利用虛構身分與目標展開長時間的戀愛對話；冒充網上賭博平台的代表，提供虛假獎賞和彩金；或冒充執法機關，聲稱目標因干犯嚴重刑事罪行而須繳交罰款。
儘管所用說辭各異，網絡內的用戶始終呈現相同的根本欺騙模式。例如，他們建立並經營虛假交友檔案、虛構投資專家身分，以及冒充執法機關的人物身分。他們亦生成偽造文件的圖片，包括護照、法律通知、股票購買確認書和賭博平台介面。
正如我們在（在新視窗中開啟）以往（在新視窗中開啟）報告（在新視窗中開啟）所述，詐騙者與目標互動時遵循一種常見模式，我們稱之為 the ping（接觸）、the zing（煽動情緒）和 the sting（騙取金錢）。
接觸：該網絡利用 ChatGPT 翻譯及生成在 WhatsApp 和 Telegram 等通訊平台上與目標進行的對話。詐騙者亦製作社交媒體內容，並搜集交友檔案素材，以配合其虛假身分。
煽動情緒：詐騙訊息經常利用情緒壓力和建立信任的手法。例子包括承諾保證回報和「零風險」投資、使用浪漫言辭、要求對話保密，以及在虛構獎賞到期前催促目標立即行動。
騙取金錢：詐騙者指示受害者存款以解鎖所謂獎賞、繳付啟用費、支付虛構罰款，然後提供轉帳截圖或帳戶資料作為付款證明。
詐騙網絡成員使用 ChatGPT 製作的虛假加密貨幣交易介面。
詐騙網絡成員為宣傳虛假投資計劃而製作的 AI 生成圖片。
人口販運跡象
除了詐騙外，部分用戶生成的內容顯示，他們可能參與了我們會偵測並遏止的其他違規活動，例如人口販運或強迫勞動。這包括為波貝的「聊天員」職位製作社交媒體廣告，聲稱會提供機票、住宿、膳食、簽證和工作許可證。
其他活動看來與該犯罪網絡內部的人員管理有關。用戶保存員工債務、薪金扣減、紀律罰款和貸款還款紀錄，並翻譯有關入境身分、工作許可證、逾期居留及招聘獎勵的討論。
部分對話亦提及疑似拘禁、逃走嘗試，以及被販運並遭強迫參與詐騙活動的人可能面對的刑事責任。儘管這些對話不足以讓我們判斷任何特定人士的處境，但當中情況與大量公開報道（在新視窗中開啟）所描述（在新視窗中開啟）的東南亞有組織犯罪集團活動一致。
詐騙網絡成員製作的 AI 生成圖片，用於在社交媒體宣傳柬埔寨的職位。OpenAI 已加入遮蓋處理。
影響
我們封禁了與這次活動相關的 ChatGPT 帳戶，與業界合作夥伴及相關部門分享了相關指標，並採取措施，增加這些行為者重新使用我們產品和服務的難度。
這個網絡造成的整體財務損失仍然不明，但根據詐騙者之間的通訊，該犯罪網絡可能曾透過多種詐騙接觸數百名目標。用戶對話提到個別受害者損失數千美元，但我們無法獨立核實這些說法。
從更廣泛的角度來看，這宗個案進一步印證了兩個趨勢。第一，有組織詐騙網絡可以非常多元化，同時經營多種欺詐計劃，而非只局限於單一詐騙類型。第二，網上欺詐、有組織犯罪和人口販運之間的界線往往模糊不清。因此，要有效遏止這類活動，不僅要針對面向受害者的詐騙行為，亦須打擊策劃活動並從中獲利的犯罪組織。