Chiến dịch “Uncle Spam”: hoạt động gây ảnh hưởng nhằm phân cực nước Mỹ

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 6 năm 2025⁠(mở trong cửa sổ mới) của OpenAI.

Theo đầu mối từ các đối tác tại Meta, chúng tôi đã cấm một số tài khoản ChatGPT có liên quan đến một hoạt động gây ảnh hưởng có nguồn gốc từ Trung Quốc⁠(mở trong cửa sổ mới). Chiến dịch này tạo ra nội dung phân cực trên mạng xã hội, ủng hộ cả hai phía trong những chủ đề gây chia rẽ thuộc diễn ngôn chính trị Mỹ, bao gồm văn bản và ảnh hồ sơ do AI tạo trên các nền tảng như X và Bluesky.

Mạng lưới này sử dụng các mô hình của chúng tôi cho nhiều nhiệm vụ, chủ yếu là tạo bình luận trên mạng xã hội nhằm ủng hộ hoặc chỉ trích thuế quan. Các tài khoản đã hỏi mô hình của chúng tôi về thời điểm đăng bài tối ưu để tăng tối đa mức độ tương tác của khán giả, cho thấy họ sử dụng chiến thuật khuếch đại có tính toán.

Thứ hai, các tài khoản sử dụng khả năng tạo hình ảnh của chúng tôi để tạo các logo cách điệu, rồi dùng chúng làm ảnh hồ sơ cho những nhân vật hư cấu trên nhiều nền tảng xã hội. Cụ thể, các tài khoản tập trung xây dựng hình tượng cựu chiến binh Mỹ chỉ trích chính quyền Mỹ đương nhiệm.

Cuối cùng, các tài khoản liên tục yêu cầu mã và phương pháp trích xuất dữ liệu cá nhân—như hồ sơ người dùng, danh sách người theo dõi và các thông tin khác—từ những nền tảng xã hội như X và Bluesky bằng các công cụ như Tweepy, Nitter và API công khai của Bluesky. Ngoài ra, các tài khoản còn dùng mô hình của chúng tôi để được hướng dẫn phân tích dữ liệu hồ sơ nhằm xác định đặc điểm cá nhân và mối liên hệ với tổ chức, có thể để phân loại từng người hoặc suy luận các mối quan hệ và thuộc tính của họ.

Các tài khoản đã tạo nội dung gây phân cực trên nhiều chủ đề chính trị của Mỹ, thường ngay trong cùng một phiên hoạt động. Phù hợp với các phương thức thường thấy ở những chiến dịch gây ảnh hưởng, hoạt động này dường như được thiết kế để khai thác những chia rẽ chính trị sẵn có, thay vì cổ súy một lập trường tư tưởng cụ thể. Khối lượng nội dung lớn cùng việc tập trung vào thông điệp nhắm đến người Mỹ khiến chúng tôi đặt tên cho chiến dịch này là “Uncle Spam”.

Theo Thang đo Breakout⁠(mở trong cửa sổ mới) về tác động của hoạt động gây ảnh hưởng, chúng tôi đánh giá đây là Cấp độ 2: hoạt động trên nhiều nền tảng, không tạo được đột phá hoặc chỉ thu hút mức tương tác tối thiểu. Các tài khoản mạng xã hội đăng nội dung do mô hình của chúng tôi tạo ra nhận được rất ít tương tác thực. Phần lớn bài đăng trên X của mạng lưới này nhận được rất ít hoặc không có lượt thích hay đăng lại; chỉ một vài bài có tương tác. Một số tài khoản mạng xã hội có hàng nghìn người theo dõi, nhưng chúng tôi không thể đánh giá tính xác thực của họ, và số người theo dõi dường như không mang lại tương tác cho các bài đăng.