跳到主要內容
OpenAI

2025年6月1日

安全機制

「打錯號碼」行動:AI 輔助任務騙局

OpenAI 封禁了可能源自柬埔寨、利用 AI 支援針對英國民眾之詐騙流程的帳戶。

正在載入...

本案例研究最初刊載於 OpenAI 的 2025 年 6 月⁠(在新視窗中開啟)報告。

行動者

我們封禁了一批 ChatGPT 帳戶,這些帳戶以英語、西班牙語、斯瓦希里語、盧旺達語、德語和海地克里奧爾語生成簡短的招聘式訊息。這些訊息聲稱只需執行簡單任務(例如為社交媒體帖文讚好)即可獲得高薪,並鼓勵收件人招募其他人。這項行動似乎高度集中運作,而且很可能源自柬埔寨。

藉助 AI 翻譯工具,我們得以迅速調查並阻截這項活動使用 OpenAI 服務。

行為

這個網絡的大部分對話內容都涉及翻譯任務。他們使用 ChatGPT 在中文與其他多種語言之間翻譯日常對話,當中以英語、西班牙語、盧旺達語、斯瓦希里語、德語和海地克里奧爾語最為常見。這些任務通常交替進行:先把收到的訊息翻譯成中文,再把中文回覆翻譯回原來的語言。

其中部分訊息類似陌生招聘廣告,聲稱只需極少工作便可獲得高額時薪。其中一則訊息經短訊發送至一批看似隨機選出的英國流動電話號碼,其中一個屬於 OpenAI 調查人員。為呼應最初收到的短訊,我們把這項行動稱為「打錯號碼」。

發送給 OpenAI 調查人員的短訊。

使用 ChatGPT 生成並隨機發送給 OpenAI 調查人員的短訊。

這些威脅行動者似乎依賴多個通訊平台。最初的短訊指示收件人透過 WhatsApp 聯絡,其後再把回覆者轉介給 Telegram 上的一名「導師」。部分活動亦提及 BonChat 通訊應用程式。透過這些渠道發出的早期介紹訊息,看來並非使用我們的模型生成。這些都是可能適用於任何對話的例行訊息。

「打錯號碼」行動發出的 WhatsApp 跟進訊息。

在短訊後發出的 WhatsApp 跟進訊息。這則訊息看來並非由我們的模型生成。

許多翻譯任務涉及據稱來自所謂「僱主」公司代表的通訊。在本次調查涵蓋的多段 ChatGPT 對話中,一再出現相同的公司名稱。這些公司包括 Hyesung Advertising⁠(在新視窗中開啟) 和 Lightning Shared Scooter Co (LSSC)⁠(在新視窗中開啟)。公開報道指 Hyesung 和 LSSC 涉嫌經營任務騙局。雖然我們沒有獨立核實這些實體的性質,但調查發現,據稱由它們發出的訊息,是由可能在柬埔寨活動的中文 ChatGPT 使用者生成。

生成內容

這個網絡聲稱代表的公司橫跨多個行業,包括股票買賣、滑板車租賃,以至售賣社交媒體讚好。其中一個明顯警號,是聲稱只需為一段 TikTok 內容讚好一次便可獲得超過 5 美元;相比之下,我們人手審查網上市集後發現,部分社交媒體讚好賣家對 1,000 個讚好的收費不足 10 美元。

我們結合平台外的指標與內部觀察,識別出一種反覆出現的運作流程。為加深各界對這種手法的了解並簡化分類,我們把這套模式概括為:接觸(陌生聯絡)、鼓動(激發熱情)和下手(套取金錢):

  1. 接觸(陌生聯絡):該網絡生成用於接觸陌生人的內容,通常聲稱只需極少工作便可獲得異常高薪,或承諾股票市場投資可帶來高回報。這些招攬包括以高薪酬吸引人執行簡單任務,例如為社交媒體帖文讚好,或推介回報豐厚的投資機會。

  2. 鼓動(激發熱情):該網絡翻譯可能是操作代理與其「僱員」之間的對話。這些交流包含任務的安排細節,但往往穿插鼓吹收入和潛在獎金的激勵訊息。

  3. 下手(套取金錢):該網絡生成及/或發送內容,向「僱員」或「投資者」施壓,要求他們付款以解鎖更高回報。手法包括要求繳付首筆「按金」、購買加密貨幣,以及支付「手續費」。

「打錯號碼」行動使用 ChatGPT 生成並發送的陌生招攬訊息。

此網絡使用 ChatGPT 生成並發送的陌生招攬訊息範例。訊息同時發送至八個電話號碼,而這些號碼均不在收件人的聯絡人名單中。其中一名收件人立即退出群組。

指示潛在受害者購買加密貨幣的 Telegram 訊息。

該網絡向潛在受害者發出的 Telegram 訊息,指示對方購買價值 20 英鎊的加密貨幣,並轉帳給一名未具名商戶。

公開報道⁠(在新視窗中開啟)顯示,部分公司會向新加入者收取高額入會費,再把部分款項支付給現有「僱員」,金額僅足以令他們繼續參與。這種結構正是任務騙局⁠(在新視窗中開啟)的典型特徵。

影響

由於我們掌握的資訊有限,難以量化這個網絡的實際覆蓋範圍。然而,平台外的報告⁠(在新視窗中開啟),以及「僱員」要求退款的對話均顯示,至少有部分人士曾向這些所謂僱主付款。我們亦觀察到真實使用者在社交媒體上為這些公司辯護,反映現實世界中確實存在一定程度的參與。