Chiến dịch “A2Z”: Hoạt động gây ảnh hưởng đa ngôn ngữ

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 10 năm 2024⁠(mở trong cửa sổ mới) của OpenAI.

Chúng tôi đã cấm một cụm tài khoản chưa từng được báo cáo trước đây vì sử dụng API của chúng tôi để tạo bình luận rồi đăng lên X và Facebook. Nhiều bình luận ca ngợi Azerbaijan hoặc bênh vực thành tích nhân quyền của nước này, nhưng chiến dịch cũng đề cập đến nhiều chủ đề khác, cho thấy đây có thể là một hoạt động thương mại. Do mạng lưới này thường xuyên ca ngợi Azerbaijan và tìm cách sử dụng AI trong nhiều giai đoạn của chiến dịch, chúng tôi đặt tên cho mạng lưới là “A2Z”.

Tương tự chiến dịch Telegram tiếng Nga mà chúng tôi phanh phui vào tháng 5 và đặt tên là “Bad Grammar”, chiến dịch này sử dụng các mô hình của chúng tôi để hỗ trợ việc bình luận trên mạng xã hội. Chiến dịch tận dụng AI để quản lý các danh tính giả trên mạng xã hội, tạo tiểu sử, phân tích bài đăng và bình luận, soạn phản hồi bằng nhiều ngôn ngữ và hiệu đính chúng. Sau đó, các phản hồi được đăng lên X hoặc Facebook. Phần lớn nội dung là các bình luận ngắn, nhưng cũng có cả hình ảnh được thiết kế theo phong cách riêng. Những hình ảnh này thường mang phong cách áp phích thập niên 1930; vì vậy, có vẻ chúng được thiết kế để thu hút sự chú ý và tương tác chứ không nhằm đánh lừa. Tuy nhiên, mỗi bài đăng điển hình có những hình ảnh cách điệu này chỉ nhận được 0–5 lượt tương tác.

Việc sử dụng AI giúp chiến dịch quản lý đồng thời nhiều tài khoản mạng xã hội: chúng tôi xác định khoảng 150 tài khoản trên X và Facebook có hoạt động tương ứng, cùng nhiều tài khoản khác bị nghi ngờ. AI cũng giúp chiến dịch đôi khi tham gia các chuỗi bình luận với người thật trên internet. Đôi khi, chúng tôi quan sát thấy những cuộc trò chuyện ngắn giữa người thật và các tài khoản giả, trong đó phản hồi của tài khoản giả được tạo bằng các mô hình của chúng tôi.

Trước thời AI, một chiến dịch có quy mô như vậy hẳn cần một đội ngũ dư luận viên đông đảo, kéo theo mọi chi phí và rủi ro rò rỉ liên quan. Tuy nhiên, việc phụ thuộc vào AI cũng khiến chiến dịch này đặc biệt dễ bị chúng tôi phá vỡ. Do tận dụng AI tại rất nhiều mắt xích trong chuỗi tấn công, biện pháp triệt hạ của chúng tôi đã đồng thời phá vỡ nhiều mắt xích. Sau khi chúng tôi phá vỡ hoạt động này vào đầu tháng 6, các tài khoản mạng xã hội được xác định là thuộc chiến dịch đã ngừng đăng bài trong suốt thời gian diễn ra bầu cử tại EU, Anh và Pháp. Một số tài khoản đăng bài trở lại vào cuối tháng 8. Một số ít bài đăng của họ có dấu hiệu cho thấy nhiều khả năng được tạo bằng AI. Nội dung có những dấu hiệu này không bắt nguồn từ các mô hình của chúng tôi.

Chiến dịch này tạo ra các bình luận ngắn xoay quanh nhiều chủ đề chính trị. Nổi bật nhất là nội dung ca ngợi chính phủ Azerbaijan và vai trò của nước này trong chính trị nội bộ, khu vực và quốc tế—chẳng hạn như thúc đẩy đoàn kết giữa các quốc gia Trung Á hoặc đăng cai Hội nghị Liên Hợp Quốc về Biến đổi Khí hậu. Các tài khoản tiếng Anh và tiếng Ý ca ngợi vai trò của Azerbaijan với tư cách nhà cung cấp năng lượng cho châu Âu—đôi khi nhằm đáp lại những lời chỉ trích về thành tích nhân quyền của chính phủ Azerbaijan.

Các mảng hoạt động khác tập trung vào lợi ích và sự phát triển của AI, thị trường tài chính, vấn đề sinh thái, tiền mã hóa và công nghệ nói chung. Một cụm tài khoản tập trung vào Các Tiểu vương quốc Ả Rập Thống nhất, mô tả đây là điểm đến đầu tư ổn định và thường đối lập điều này với những tuyên bố về bất ổn chính trị tại Hoa Kỳ.

Một số danh tính giả tập trung vào chính trị châu Âu hoặc Hoa Kỳ. Khuynh hướng tư tưởng của hoạt động này khác nhau tùy theo từng khu vực. Ví dụ, một tài khoản X tập trung vào Hoa Kỳ giả làm người theo chủ nghĩa tự do và chỉ trích cựu Tổng thống Mỹ Trump, trong khi một số tài khoản Facebook đăng bằng tiếng Pháp chỉ trích Tổng thống Macron và ủng hộ đảng Tập hợp Quốc gia (RN). Đôi khi, những lời chỉ trích này tập trung vào vấn đề trong nước để lập luận rằng quốc gia liên quan không nên can thiệp vào các vấn đề quốc tế, bao gồm cuộc xâm lược Ukraine của Nga.

Chiến dịch này hoạt động rất tích cực trên Facebook và X, có thể với hàng trăm tài khoản. Trên X, một số tài khoản có dấu tích xanh nhờ trả phí xác minh. Trong khoảng 150 tài khoản mà chúng tôi lấy mẫu trên cả hai nền tảng, không tài khoản nào có lượng người theo dõi đáng kể: tài khoản X có nhiều người theo dõi nhất mà chúng tôi xác định trong quá trình điều tra là 222; con số phổ biến hơn nằm trong khoảng 15–24 và các bài đăng điển hình trên X chỉ nhận được số lượt tương tác một chữ số. Tương tự, bài đăng Facebook có nhiều lượt bày tỏ cảm xúc nhất mà chúng tôi quan sát được trong quá trình điều tra là 36, còn con số phổ biến hơn nằm trong khoảng 0–5. Tuy nhiên, chúng tôi đã xác định một số trường hợp bài đăng của chiến dịch thu hút phản hồi từ người thật. Các phản hồi này không phải lúc nào cũng tích cực và đôi khi người thật bác bỏ tài khoản giả, nhưng chúng cho thấy chiến dịch ít nhất có khả năng thu hút khán giả trên nhiều nền tảng, bằng nhiều ngôn ngữ và với nhiều chủ đề.

Theo Thang đo Đột phá dùng để đánh giá tác động của các hoạt động gây ảnh hưởng, với mức từ 1 (thấp nhất) đến 6 (cao nhất), chúng tôi xếp chiến dịch này ở ngưỡng cao nhất của Cấp độ Hai và có nguy cơ vươn sang Cấp độ Ba: chiến dịch đăng bài trên nhiều nền tảng và có một số bằng chứng cho thấy người thật đã tương tác với nội dung. Tuy nhiên, sau khi chúng tôi cấm chiến dịch này sử dụng các mô hình của mình và chia sẻ thông tin với các đối tác trong ngành, những tài khoản mạng xã hội mà chúng tôi xác định đã im tiếng trong nhiều tuần. Do đó, chiến dịch này cho thấy việc sử dụng AI có thể tăng cường năng lực cho các bên vận hành, nhưng việc phụ thuộc vào mô hình AI cũng khiến họ dễ bị phá vỡ hơn.