“Ngữ pháp tệ”: Hoạt động bình luận trên Telegram có liên hệ với Nga

Nghiên cứu tình huống này ban đầu được công bố trong báo cáo tháng 5 năm 2024⁠(mở trong cửa sổ mới) của OpenAI.

Chúng tôi đã cấm một mạng lưới tài khoản chưa từng được báo cáo trước đây vì sử dụng các mô hình của chúng tôi để tạo bình luận rồi đăng lên Telegram. Chúng tôi xác định hoạt động này có liên quan đến các cá nhân ở Nga. Do mạng lưới này tập trung vào Telegram, liên tục đăng nội dung tiếng Anh sai ngữ pháp và gặp khó khăn trong việc thu hút người xem, chúng tôi đặt tên cho mạng lưới này là “Ngữ pháp tệ”.

Mạng lưới này nhắm đến người dùng tại Nga, Ukraine, Hoa Kỳ, Moldova và các nước Baltic bằng nội dung tiếng Nga và tiếng Anh.

Mạng lưới này đã dùng các mô hình của chúng tôi cùng nhiều tài khoản Telegram để thiết lập một quy trình phát tán bình luận rác. Trước tiên, những người vận hành dùng các mô hình của chúng tôi để gỡ lỗi mã nguồn dường như được thiết kế nhằm tự động hóa việc đăng bài trên Telegram. Sau đó, họ tạo các bình luận bằng tiếng Nga và tiếng Anh để phản hồi những bài đăng cụ thể trên Telegram. Cuối cùng, có vẻ họ đã dùng ít nhất một chục tài khoản Telegram để đăng những bình luận đó.

Với tiếng Anh, những người vận hành dùng các mô hình của chúng tôi để tạo bình luận theo giọng điệu của nhiều nhân vật giả, đại diện cho các nhóm nhân khẩu học khác nhau ở cả hai phía của phổ chính trị Hoa Kỳ. Với tiếng Nga, họ ưu tiên các chỉ dẫn thiên về chủ đề hơn là xây dựng nhân vật.

Mạng lưới này chủ yếu bình luận dưới bài đăng của một số ít kênh Telegram. Kênh được nhắc đến nhiều nhất là @Slavyangrad, một kênh ủng hộ Nga, tiếp theo là hai kênh tiếng Anh @police_frequency và @SGTNewsNetwork. (Kênh thứ hai tự nhận là một cựu binh Mỹ bảo thủ, nhưng vào tháng 11, Meta báo cáo⁠(mở trong cửa sổ mới) rằng kênh này thực ra bắt nguồn từ Iran.) Trong một mẫu hoạt động vào tháng 2, mạng lưới đã cố tạo phản hồi cho ba kênh này với tần suất cao gấp đôi tổng tần suất dành cho 10 kênh được nhắc đến nhiều tiếp theo.

Chiến dịch này tạo ra các bình luận ngắn, tập trung vào một số chủ đề chính trị. Ở cả tiếng Anh và tiếng Nga, các chủ đề chính mà chiến dịch đăng trên Telegram là cuộc chiến ở Ukraine, tình hình chính trị tại Moldova và các nước Baltic, cùng chính trị Hoa Kỳ.

Các bình luận tiếng Nga điển hình trên Telegram cáo buộc tổng thống Ukraine và Moldova tham nhũng, không được người dân ủng hộ và phản bội chính người dân của mình trước sự “can thiệp” của phương Tây. Các bình luận tiếng Anh trên Telegram tập trung vào những chủ đề như nhập cư, khó khăn kinh tế và tin nóng trong ngày. Những bình luận này thường dựa vào bối cảnh thời sự để lập luận rằng Hoa Kỳ không nên hỗ trợ Ukraine.

Đôi khi, nhiều nhân vật cùng bình luận về một bài đăng và đưa ra những quan điểm trái ngược nhau. Cách tiếp cận “hai mặt”, giả làm tiếng nói của cả hai phía, từng xuất hiện trong các chiến dịch của Nga và có thể cho thấy ý định thu hút những nhóm đối tượng cụ thể hoặc kích động chia rẽ.

Sau vụ tấn công khủng bố tại Moskva ngày 22 tháng 3 và việc bắt giữ bốn công dân Tajikistan, chiến dịch bắt đầu sử dụng một cụm tài khoản Telegram mới tập trung vào Tajikistan. Các bình luận do chiến dịch đăng tải kêu gọi sự đoàn kết giữa người Tajik và người Nga, cũng như tôn trọng luật pháp Nga.

Phát tán bình luận rác vốn đã là một kỹ thuật phổ biến trong các hoạt động gây ảnh hưởng (IO) từ trước khi AI tạo sinh xuất hiện. Dù “Ngữ pháp tệ” sử dụng một kỹ thuật mới để tạo bình luận, hệ thống phân phối của chiến dịch vẫn gặp khó khăn trong việc thu hút tương tác.

Rất ít bình luận của mạng lưới nhận được lượt thích hoặc phản hồi. Bình luận của mạng lưới thường chỉ chiếm thiểu số trong số các phản hồi dưới mỗi bài đăng, nghĩa là chúng không lấn át những quan điểm khác, nếu đó là mục tiêu.

Đôi khi, mạng lưới dùng các mô hình của chúng tôi để tạo ra nội dung có vẻ là tin nhắn riêng tư, có thể trao đổi với một người dùng Telegram khác. Tuy nhiên, các văn bản được tạo cho thấy mạng lưới đang trò chuyện với một kẻ lừa đảo tiền mã hóa.

Khi dùng Thang đo mức độ lan tỏa⁠(mở trong cửa sổ mới) để đánh giá tác động của các hoạt động gây ảnh hưởng (IO), theo thang từ 1 (thấp nhất) đến 6 (cao nhất), chúng tôi xếp trường hợp này vào Cấp độ 1: chỉ có hoạt động đăng tải trên một nền tảng và không có bằng chứng cho thấy nội dung được những người ngoài mạng lưới khuếch đại đáng kể.