Lừa đảo nhử tình: quy trình “mổ lợn” có AI hỗ trợ

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 2 năm 2025⁠(mở trong cửa sổ mới) của OpenAI.

Chúng tôi đã cấm một nhóm tài khoản ChatGPT dùng để dịch và tạo các bình luận ngắn bằng tiếng Nhật, tiếng Trung và tiếng Anh. Hoạt động này dường như bắt nguồn từ Campuchia và có đặc điểm của một vụ lừa đảo tình cảm và đầu tư (còn gọi là “mổ lợn”). Gần đây, Meta đã xác định được hoạt động liên quan⁠(mở trong cửa sổ mới) trên nền tảng của họ, dường như bắt nguồn từ một khu lừa đảo mới thành lập tại Campuchia.

Mạng lưới này đã dùng các mô hình của chúng tôi để dịch và tạo các bình luận ngắn. Ngôn ngữ chính của các đối tượng dường như là tiếng Trung. Nội dung đầu ra sử dụng nhiều ngôn ngữ, nổi bật là tiếng Nhật và tiếng Trung, ngoài ra còn có tiếng Anh.

Các đối tượng dùng mô hình của chúng tôi cho hai hoạt động chính. Thứ nhất, họ tạo các bình luận để đăng công khai trên những nền tảng mạng xã hội như Facebook, X và Instagram. Mỗi tài khoản mạng xã hội thường có một hoặc nhiều ảnh đại diện của phụ nữ trẻ. Chúng tôi đánh giá rằng ít nhất một số ảnh trong đó được sao chép từ người mẫu hoặc người có ảnh hưởng ngoài đời thực, thay vì do AI tạo ra.

Phần lớn bình luận được tạo ra nhằm trả lời các bài đăng mạng xã hội của người dùng thật. Một số bài đăng mà các đối tượng trả lời đã có từ nhiều tháng hoặc nhiều năm trước. Chiến dịch này thường nhắm đến những nam giới có hồ sơ công khai cho thấy họ trên 40 tuổi, trong đó nhiều người làm trong ngành y. Chiến dịch thường xuyên trả lời các bài đăng về golf, cho thấy đây là một chiến lược nhắm mục tiêu có chủ đích. Đôi khi, những kẻ lừa đảo đăng bài về các vấn đề chính trị hoặc sự kiện thời sự.

Thứ hai, và thường xuyên hơn, các đối tượng tạo những bình luận ngắn giống như các đoạn trong một cuộc trò chuyện trực tuyến. Hoạt động này thường là dịch bình luận từ tiếng Trung sang ngôn ngữ đích (tiếng Nhật hoặc tiếng Anh), hoặc từ ngôn ngữ đích trở lại tiếng Trung. Điều này phù hợp với việc những kẻ lừa đảo chủ yếu dùng mô hình để dịch các cuộc trò chuyện đang diễn ra.

Đôi khi, các tài khoản yêu cầu mô hình tạo câu trả lời với một giọng điệu nhất định, chẳng hạn như một phụ nữ trẻ thích tán tỉnh. Đôi khi, họ cung cấp thông tin tiểu sử rất chi tiết để định hướng câu trả lời của mô hình, gồm tên, trình độ học vấn, công việc, nơi ở và sở thích của nhân vật giả. Những tiểu sử này thường đề cập rằng nhân vật giả có tham gia đầu tư trực tuyến.

Những kẻ lừa đảo dường như đã dùng nhiều công cụ và nền tảng khác nhau để tiếp cận mục tiêu. Cuộc điều tra của chúng tôi phát hiện bằng chứng cho thấy họ sử dụng các công cụ như LINE, WhatsApp, X, Facebook, Instagram, nhiều dịch vụ nhắn tin khác, tính năng “Ẩn địa chỉ email” của Apple⁠(mở trong cửa sổ mới), cùng các nền tảng tiền mã hóa và ngoại hối.

Dựa trên phạm vi quan sát cụ thể của chúng tôi về hoạt động này, những kẻ lừa đảo dường như tuân theo một quy trình phổ biến để dẫn dắt mục tiêu từ bước tương tác đến đầu tư gian lận:

1. Tương tác công khai: Những kẻ lừa đảo bình luận trên các bài đăng mạng xã hội của mục tiêu. Các bình luận này thường kết thúc bằng một câu hỏi như: “Bạn nghĩ gì về [chủ đề]?””, có lẽ nhằm tăng khả năng nhận được phản hồi. Trong một số ít trường hợp, họ bình luận về chính trị, nhưng thường xuyên hơn là nói về golf.

2. Có khả năng chuyển sang nhắn tin riêng: Sau đó, những kẻ lừa đảo tạo các bình luận ngắn mang tính trò chuyện. Dù không thể quan sát đầy đủ cách thức và nơi các bình luận này được sử dụng, nội dung của chúng phù hợp với tình huống kẻ lừa đảo và mục tiêu bắt đầu trao đổi tin nhắn riêng.

3. Nhắn tin bảo mật: Rất nhanh sau đó, thường chỉ trong vài ngày, những kẻ lừa đảo tạo các tin nhắn đề nghị chuyển sang một ứng dụng nhắn tin bảo mật hơn. Đôi khi, họ giải thích rằng mình không tin tưởng mạng xã hội; lúc khác, họ viện lý do về hoàn cảnh, chẳng hạn sắp đến một nơi không thể truy cập mạng xã hội.

4. Xây dựng quan hệ tình cảm: Những kẻ lừa đảo viết và dịch các tin nhắn ngày càng trìu mến và thân mật. Nếu mục tiêu yêu cầu ảnh của “người phụ nữ” đang trò chuyện với mình, những kẻ lừa đảo sẽ viện cớ.

5. Dẫn dắt về tài chính: Những kẻ lừa đảo viết và dịch các tin nhắn khoe rằng mình kiếm được khoản tiền lớn nhờ đầu tư trực tuyến vào ngoại hối, tiền mã hóa hoặc vàng. Điều này thường được trình bày như kết quả của việc làm theo lời khuyên từ một người họ hàng làm trong lĩnh vực tài chính. Kẻ lừa đảo thúc giục mục tiêu bắt đầu đầu tư theo cách tương tự và đề nghị hướng dẫn họ trong suốt quá trình.

6. Gian lận: Những kẻ lừa đảo viết và dịch các tin nhắn nhằm thuyết phục nạn nhân chuyển tiền vào một ứng dụng giao dịch, đồng thời khuyến khích họ bằng cách phóng đại số lợi nhuận đang kiếm được. Mỗi khi nạn nhân tìm cách rút “lợi nhuận”, kẻ lừa đảo lại viện cớ, chẳng hạn như yêu cầu phải trả một khoản phí.

Mô hình hoạt động này phù hợp với các báo cáo công khai⁠(mở trong cửa sổ mới) về cách những vụ lừa đảo như vậy thường diễn ra.

Hoạt động này dường như có nhiều lần khởi đầu bất thành và thất bại. Một số cuộc trò chuyện mà những kẻ lừa đảo xử lý qua các mô hình của chúng tôi kết thúc khi mục tiêu vạch trần đó là hành vi lừa đảo hoặc yêu cầu họ để mình yên. Chúng tôi cũng phát hiện các bài đăng của những kẻ lừa đảo trên mạng xã hội hoàn toàn không nhận được tương tác nào.

Tuy nhiên, một số cuộc trò chuyện đề cập đến các khoản tiền lên tới hàng nghìn đô la Mỹ hoặc giá trị tương đương bằng loại tiền tệ khác cho từng giao dịch. Do cách các đối tượng này sử dụng mô hình của chúng tôi, chúng tôi không thể biết liệu những giao dịch tài chính đó có thực sự diễn ra hay không. Tuy vậy, các nội dung được nhắc đến trong cuộc trò chuyện cho thấy ít nhất trong một số trường hợp, những kẻ lừa đảo đã chiếm đoạt được tiền của mục tiêu.

Các chính sách của OpenAI nghiêm cấm việc sử dụng nội dung đầu ra từ công cụ của chúng tôi cho hành vi gian lận hoặc lừa đảo. Chúng tôi cam kết hợp tác với các đơn vị cùng ngành và cơ quan chức năng để tìm hiểu cách AI được sử dụng trong các hành vi đối kháng, đồng thời chủ động ngăn chặn những hoạt động lừa đảo lợi dụng dịch vụ của chúng tôi. Theo cam kết này, chúng tôi đã chia sẻ thông tin về các mạng lưới lừa đảo bị ngăn chặn với các đơn vị cùng ngành và cơ quan chức năng có liên quan.