Bỏ qua nội dung chính
OpenAI

1 tháng 5, 2024

An toàn

IUVM: Mạng lưới nội dung gây ảnh hưởng có liên hệ với Iran

OpenAI đã cấm các tài khoản liên quan đến chiến dịch “IUVM” có nguồn gốc từ Iran, vốn dùng AI để tạo và dịch nội dung ủng hộ Iran, chống Israel và chống Mỹ cho các trang web.

Đang tải…

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 5 năm 2024⁠(mở trong cửa sổ mới) của OpenAI.

Chủ thể

Chúng tôi đã cấm một số ít tài khoản có liên hệ với những người gắn với Liên minh Truyền thông Ảo Quốc tế (IUVM)⁠(mở trong cửa sổ mới), một tổ chức của Iran đã được cộng đồng tình báo nguồn mở nghiên cứu từ năm 2018.

Hành vi

Chiến dịch này nhắm đến đối tượng trên toàn cầu và tập trung tạo nội dung bằng tiếng Anh và tiếng Pháp. Chiến dịch đã dùng các mô hình của chúng tôi để tạo và hiệu đính bài viết⁠(mở trong cửa sổ mới), tiêu đề và thẻ trang web. Nội dung này sau đó được đăng trên trang web hiện tại của IUVM là iuvmpress.co (các tên miền trước đây của IUVM đã bị FBI thu giữ vào năm 2020⁠(mở trong cửa sổ mới)).

Các bài viết thường được tạo một ngày trước khi đăng; các thẻ trang web được tạo ngay trước thời điểm đăng và có khả năng là sản phẩm của quy trình tự động. Trong một trường hợp, chúng tôi phát hiện một nhóm thẻ trang web có chứa thông báo phản hồi của mô hình chúng tôi, cho thấy quy trình có thể đã được tự động hóa (hoặc khâu hiệu đính kém).

Các thẻ trên một bài viết do iuvmpress.co đăng tải. Lưu ý hai thẻ đầu tiên có chứa phản hồi của mô hình chúng tôi.

Các thẻ trên một bài viết do iuvmpress.co đăng tải. Lưu ý hai thẻ đầu tiên có chứa phản hồi của mô hình chúng tôi.

Nội dung

Nội dung do mạng lưới này tạo ra gồm các bài viết dài, tiêu đề và thẻ trang web. Nội dung này thường mang quan điểm chống Mỹ và chống Israel, đồng thời ca ngợi người Palestine, Iran và “Trục Kháng chiến”.

Đánh giá tác động

Sự hiện diện trực tuyến của IUVM đã suy giảm do nhiều lần bị gỡ khỏi mạng xã hội⁠(mở trong cửa sổ mới) và do FBI thu giữ các tên miền của tổ chức này⁠(mở trong cửa sổ mới). Ngoài trang web, tính đến ngày 23 tháng 5 năm 2024, chúng tôi đã xác định được các tài khoản mang thương hiệu IUVM trên TikTok, VKontakte và Odnoklassniki. Các tài khoản mạng xã hội này lần lượt có 10, 76 và 274 người theo dõi hoặc đăng ký.

Dùng Thang đo Đột phá⁠(mở trong cửa sổ mới) để đánh giá tác động của các chiến dịch gây ảnh hưởng (IO), theo thang từ 1 (thấp nhất) đến 6 (cao nhất), chúng tôi xếp đây là chiến dịch Cấp 2: có hoạt động đăng bài trên nhiều nền tảng nhưng không tạo được đột phá hay thu hút đáng kể người dùng trên bất kỳ nền tảng nào.

Dấu hiệu nhận biết

Chúng tôi xác định các tên miền sau có liên quan đến chiến dịch này.

  • iuvmpress.co

  • iuvmarchive.org