本案例研究原刊載於 OpenAI 的 2026 年 2 月(在新視窗中開啟)打擊 AI 惡意用途報告。
自從我們於一年前(在新視窗中開啟)開始報告針對企圖濫用我們模型之詐騙網路所採取的阻斷行動以來，已取締許多來自世界各地的詐騙行動。其中包括「任務」詐騙：詐騙者讓受害者相信，只要先付錢，就能取得完成簡單任務所賺取、實際上並不存在的報酬；另外也有投資詐騙，誘使受害者把錢投入虛構的投資公司。
早在 AI 出現之前，愛情詐騙就已是常見手法。詐騙者會假扮成可能發展戀情的對象，設法讓目標相信自己遇到了真愛，之後再索取越來越多金錢。我們首度公開的詐騙阻斷案例，涉及一個剛在柬埔寨成立的犯罪組織。該組織使用 ChatGPT 產生愛情詐騙訊息，其中一些訊息散布於社群媒體。此後，我們又阻斷了多起愛情詐騙企圖。正如我們在6 月(在新視窗中開啟)所述，這類及其他詐騙使用 AI 時往往遵循一套共同模式，我們將其分為接觸（陌生接觸）、煽情（激發情緒）及收割（騙取金錢）。
接觸（陌生接觸）：詐騙者產生迎合潛在目標興趣的內容，以吸引對方注意。例如，我們去年報導的「殺豬盤」詐騙經常把目標鎖定為 40 多歲、從事醫療工作的美國男性，並回覆他們發布的高爾夫球相關社群媒體貼文。其他行動則使用陌生推銷簡訊、虛假招募訊息，或像我們最近的愛情詐騙案例（見下文）一樣使用社群媒體廣告。在每個案例中，威脅行為者都使用 ChatGPT 產生可能更吸引人、也較不易被察覺並非母語者所寫的訊息。
我們於 2025 年報導的「殺豬盤」網路以高爾夫球為主題發出接觸訊息，回覆一名與該行動無關的使用者所發表的 Facebook 貼文。
煽情（激發情緒）：詐騙者產生能在目標心中引發強烈情緒的內容，使對方更容易受到操控。愛情詐騙會設法讓目標對詐騙者產生好感。其他詐騙手法可能試圖讓目標因潛在的高報酬交易而興奮、害怕錯失機會，或因所謂的法律風險或未繳帳單而驚慌。有時，煽情和接觸會出現在同一則訊息中。
我們於 2025 年 6 月揭露的「打錯號碼」詐騙行動所發送的陌生推銷簡訊，內容聲稱只需少量工作即可獲得高得令人難以置信的報酬，很可能旨在產生「煽情」效果。
收割（騙取金錢）：詐騙者產生意在說服目標交出金錢的內容。詐騙者提出的理由千變萬化。例如，愛情詐騙可能要求目標投資心上人的事業，或拿錢協助對方度過財務危機。「任務」詐騙會要求目標先付錢，才能取得他們以為自己已賺到、實際上並不存在的款項。投資詐騙會誘使目標把錢投入根本不存在的投資項目。
我們於 2025 年 6 月揭露的「打錯號碼」詐騙行動所發送的陌生推銷簡訊，內容聲稱只需少量工作即可獲得高得令人難以置信的報酬，很可能旨在產生「煽情」效果。
從這套流程可見，傳播網路是詐騙不可或缺的一環。我們揭露的不同詐騙行動，會透過簡訊、加密通訊應用程式、社群媒體貼文、網路廣告或上述管道的組合發出接觸訊息；AI 出現前的詐騙則以使用電子郵件(在新視窗中開啟)、電話(在新視窗中開啟)聞名，甚至早在 19 世紀就使用信件(在新視窗中開啟)和電報(在新視窗中開啟)。許多詐騙採取廣撒網的傳播方式，但有些似乎會嘗試精準鎖定目標。例如，我們於 2025 年 2 月報導(在新視窗中開啟)的「殺豬盤」詐騙聚焦於高爾夫球等主題；另一起愛情詐騙透過社群媒體廣告鎖定印尼年輕男性；而名人詐騙(在新視窗中開啟)通常會冒充名人，再把該名人的粉絲群體列為目標。由於證據零碎，很難可靠地比較我們阻斷的不同詐騙，但我們評估認為，無論行動將 AI 用於不同功能的程度如何，詐騙所選擇的傳播方式（例如廣撒網或精準鎖定）都會顯著影響其接觸並成功剝削目標的能力。
