Hoạt động lừa đảo: Các mạng lưới gian lận trực tuyến

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 10 năm 2025⁠(mở trong cửa sổ mới) của OpenAI.

Các mạng lưới có thể xuất phát từ Campuchia, Myanmar và Nigeria đã lạm dụng ChatGPT trong những hoạt động có dấu hiệu nhằm lừa đảo người dùng trên mạng.

Chúng tôi cam kết phát hiện, ngăn chặn và triệt phá các hành vi lạm dụng mô hình của mình vào mục đích gây hại. Một trong những hình thức lạm dụng đó là lừa đảo. Chúng tôi phát hiện và cấm những đối tượng xấu tìm cách lợi dụng mô hình của mình để đánh lừa và chiếm đoạt tài sản của người khác. Trong ba tháng qua, chúng tôi đã triệt phá các mạng lưới lừa đảo có thể xuất phát từ Campuchia, Myanmar và Nigeria. Cho thấy vai trò của AI trong cuộc chiến chống gian lận, khi điều tra các hình thức lạm dụng này, chúng tôi cũng nhận thấy nhiều người đang dùng mô hình của mình để giúp nhận diện hành vi lừa đảo. Báo cáo này trình bày cả hai trường hợp sử dụng trên.

Hành vi lạm dụng mô hình của chúng tôi để hỗ trợ lừa đảo rất đa dạng, từ những cá nhân đơn lẻ tìm cách gian lận cho đến các chiến dịch quy mô lớn, dai dẳng và có thể liên quan đến những tổ chức tội phạm. Bất kể nguồn gốc và thủ đoạn cụ thể, các hoạt động lừa đảo mà chúng tôi triệt phá thường đi theo một mô-típ chung gồm ba bước: thăm dò (chủ động liên hệ người lạ), kích động (tạo sự hào hứng hoặc hoảng sợ) và ra đòn (chiếm đoạt tiền hoặc thông tin có giá trị).

Ban đầu, những kẻ lừa đảo phát tán nội dung — có thể do AI tạo ra hoặc không — trên các dịch vụ nhắn tin và khắp Internet, kể cả bằng cách chạy quảng cáo trên mạng xã hội. Sau đó, chúng tìm cách khiến bất kỳ ai phản hồi cảm thấy hào hứng trước một cơ hội sinh lời hấp dẫn hoặc lo sợ về nguy cơ mất tiền cận kề, rồi lợi dụng cảm xúc đó để thuyết phục mục tiêu giao tiền hoặc cung cấp thông tin nhạy cảm.

Chúng tôi cũng ghi nhận nhiều trường hợp mà các mô hình của mình có thể đã giúp bảo vệ người dùng khỏi hành vi gian lận. Chúng tôi nhận thấy mỗi tháng có hàng triệu lượt người dùng ChatGPT để giúp nhận diện và tránh các vụ lừa đảo trực tuyến. Trong mọi chiến dịch lừa đảo được đề cập ở báo cáo này, chúng tôi đều thấy mô hình giúp mọi người xác định đúng hành vi lừa đảo và tư vấn các biện pháp an toàn phù hợp. Theo ước tính hiện tại của chúng tôi, ChatGPT được dùng để nhận diện hành vi lừa đảo nhiều gấp ba lần so với việc bị dùng để thực hiện hành vi đó.

Ví dụ về một điều tra viên của OpenAI dán ảnh chụp màn hình tin nhắn SMS lừa đảo mà họ nhận được vào ChatGPT và dùng mô hình để xác định thành công đó là một vụ lừa đảo. Trong trường hợp này, các đối tượng đe dọa đã giả danh nhà tuyển dụng của TikTok.

Kể từ báo cáo gần nhất, chúng tôi đã tăng cường năng lực phát hiện và triệt phá các hoạt động lừa đảo. Chúng tôi đã triệt phá thêm các mạng lưới lừa đảo có dấu hiệu xuất phát từ Campuchia, Myanmar và Nigeria. Cùng với những lần triệt phá trước đây, các đợt xử lý này giúp chúng tôi nhận diện một số xu hướng mới nổi trong nhiều chiến dịch lừa đảo đến từ các quốc gia khác nhau.

Phần lớn hoạt động lừa đảo mà chúng tôi triệt phá đều tập trung vào việc đưa AI vào những kịch bản lừa đảo sẵn có, thay vì tạo ra kịch bản mới xoay quanh AI. Tất cả các chiến dịch lừa đảo mà chúng tôi phát hiện và cấm trong năm nay chủ yếu dùng AI làm công cụ để mở rộng quy mô và nâng cao hiệu suất. Thông thường, chúng dùng mô hình của chúng tôi để dịch, soạn tin nhắn và tạo nội dung cho mạng xã hội.

Chẳng hạn, gần đây chúng tôi đã cấm các chiến dịch lừa đảo có thể xuất phát từ Campuchia và Nigeria. Những đối tượng này giả danh “công ty đầu tư” nhằm lừa đảo nạn nhân ở nhiều quốc gia. Những kẻ lừa đảo tạo trang web và quảng cáo trực tuyến để quảng bá các công ty giả, đồng thời dùng những tài khoản mạng xã hội có thể không xác thực, giả danh chuyên gia giao dịch để mời mọi người tham gia các nhóm nhắn tin riêng tư. Bằng lời hứa về cơ hội kiếm lời hấp dẫn mà không có rủi ro, các đối tượng đe dọa tìm cách dụ nạn nhân tiềm năng nộp tiền vào những nền tảng giao dịch không có thật. Trong tất cả các vụ lừa đảo, chúng chủ yếu dùng mô hình của chúng tôi để soạn và dịch thư từ, tạo nội dung cho trang web và tài khoản mạng xã hội, cũng như tiến hành nghiên cứu cơ bản.

Trong một trường hợp khác, chúng tôi đã cấm một trung tâm lừa đảo nhiều khả năng đặt tại Myanmar. Trung tâm này dùng mô hình của chúng tôi để vừa tạo nội dung cho các mánh khóe gian lận, vừa xử lý công việc kinh doanh hằng ngày. Các công việc này gồm sắp xếp lịch trình, soạn thông báo nội bộ, phân chỗ ngồi làm việc và chỗ ở trong ký túc xá, cũng như quản lý tài khoản tài chính. Một số đối tượng vận hành đã hỏi về hình phạt hình sự dành cho người bị bắt quả tang thực hiện hành vi lừa đảo trực tuyến.

Không phải mọi kẻ lừa đảo mà chúng tôi triệt phá đều dùng mô hình của chúng tôi theo cùng một cách hoặc với mức độ phức tạp như nhau. Phần lớn lượt tương tác của những kẻ lừa đảo với ChatGPT chỉ liên quan đến các tác vụ tương đối đơn giản như dịch thuật, nhưng một số chiến dịch lại có tham vọng lớn và được xây dựng công phu hơn.

Chẳng hạn, một chiến dịch lừa đảo mà chúng tôi triệt phá, có thể xuất phát từ Campuchia, đã dùng mô hình của chúng tôi để tạo tiểu sử chi tiết cho các chuyên gia đầu tư giả và nhân viên hư cấu của những công ty giao dịch giả mạo. Sau đó, những kẻ lừa đảo yêu cầu ChatGPT viết bài đăng mạng xã hội theo giọng điệu của các nhân vật đó. Các đối tượng đe dọa thường nhập vào mô hình của chúng tôi những tin nhắn có vẻ do mục tiêu gửi, rồi yêu cầu mô hình tiếp tục cuộc trò chuyện dưới danh nghĩa nhân vật giả mạo.

Một chiến dịch lừa đảo thứ hai, cũng có thể xuất phát từ Campuchia, ban đầu dùng mô hình của chúng tôi để tạo các tin nhắn SMS tiếp thị lạnh rồi gửi hàng loạt đến những số điện thoại tại Hoa Kỳ. Một trong những tin nhắn này được gửi tới điều tra viên của OpenAI, tương tự trường hợp mà chúng tôi đã báo cáo vào tháng 6. Các tin nhắn SMS này có lời mời tham gia những nhóm WhatsApp mang tên tương tự một công ty đầu tư hợp pháp; sau đó, các nhóm này đã bị cấm.

Dựa trên một loạt tin nhắn WhatsApp gửi đến điều tra viên của OpenAI, nếu mục tiêu tiềm năng tham gia một trong các nhóm này, họ sẽ nhanh chóng chứng kiến một “cuộc trò chuyện” giữa khoảng sáu tài khoản khác nhau, tất cả đều bàn về đầu tư. Một tài khoản giả làm “chuyên gia đầu tư”, còn những tài khoản khác giả làm nhà đầu tư với mức độ tự tin và kinh nghiệm khác nhau. Toàn bộ cuộc trò chuyện này đều do những kẻ lừa đảo tạo ra rồi dịch nguyên khối từ tiếng Trung, có thể nhằm tạo cảm giác về một nhóm sôi nổi gồm những nhà giao dịch nhiệt tình và thành công. Cuối cùng, “chuyên gia đầu tư” sẽ gợi ý mục tiêu cũng thử đầu tư.

Trong một vụ việc riêng biệt, một chiến dịch lừa đảo đầu tư gần như chắc chắn xuất phát từ Nigeria đã yêu cầu mô hình hướng dẫn từng bước về cách dùng quảng cáo trên mạng xã hội để tiếp cận người giàu tại Mỹ Latinh, che giấu vị trí và né tránh các hạn chế của nền tảng mạng xã hội. Để làm vậy, chúng dẫn mô hình tới điều khoản dịch vụ công khai của một nền tảng rồi yêu cầu mô hình kiểm tra xem nội dung quảng cáo đề xuất có tuân thủ hay không.

Những kẻ lừa đảo, đặc biệt là các trung tâm lừa đảo quy mô lớn, rất dai dẳng. Khi bị triệt phá, chúng thường tìm cách khởi động lại hoạt động vi phạm, đồng thời thay đổi một số hành vi, có thể nhằm tránh bị phát hiện thêm lần nữa. Đây là một lý do khiến việc chia sẻ thông tin chuyên sâu trong ngành về hoạt động không ngừng biến đổi của chúng trở nên quan trọng. Chẳng hạn, OpenAI và Meta đã chia sẻ thông tin về các đối tượng đe dọa, góp phần hỗ trợ việc điều tra và thực thi thêm các biện pháp xử lý.

Có thể để đối phó với các đợt triệt phá hoặc những cuộc thảo luận rộng rãi trên mạng về các dấu hiệu làm lộ việc dùng AI, chúng tôi đã thấy những kẻ lừa đảo tìm cách che giấu việc sử dụng AI trong nội dung trực tuyến và khi liên lạc với mục tiêu. Trong đó có các chiến dịch lừa đảo có thể xuất phát từ Campuchia đã yêu cầu mô hình loại bỏ dấu gạch ngang dài khỏi nội dung đầu ra.

Trong một trường hợp, những kẻ lừa đảo đã tìm cách giải thích cho việc hàng loạt tài khoản mạng xã hội của chúng bị triệt phá bằng cách bịa ra lý do khiến chúng bị cấm. Trường hợp này liên quan đến trung tâm lừa đảo có thể xuất phát từ Campuchia, hoạt động qua SMS và WhatsApp như mô tả ở trên. Sau khi WhatsApp cấm các “nhóm đầu tư” có liên quan đến chiến dịch này, những kẻ vận hành bắt đầu tạo tin nhắn tuyên bố rằng đối thủ cạnh tranh đã báo cáo sai sự thật về các nhóm đó, có thể nhằm biện minh cho việc chúng bị cấm.

Ảnh chụp màn hình tin nhắn WhatsApp mà chiến dịch lừa đảo có liên hệ với Campuchia gửi cho một điều tra viên của OpenAI sau khi bị WhatsApp triệt phá.