„ცუდი გრამატიკა“: რუსეთთან დაკავშირებული აქტივობა Telegram-ის კომენტარებში

ეს შემთხვევის კვლევა თავდაპირველად OpenAI-ის 2024 წლის მაისის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში გამოქვეყნდა.

ჩვენ დავბლოკეთ ანგარიშების მანამდე უცნობი ქსელი, რომელიც ჩვენი მოდელებით ქმნიდა კომენტარებს, შემდეგ კი მათ Telegram-ზე აქვეყნებდა. ეს აქტივობა რუსეთიდან მოქმედ პირებს დავუკავშირეთ. Telegram-ზე ორიენტაციის, არაგრამატიკული ინგლისურით კომენტარების განმეორებით გამოქვეყნებისა და აუდიტორიის მოზიდვის სირთულის გამო, ამ ქსელს „ცუდი გრამატიკა“ ვუწოდეთ.

ეს ქსელი რუსულ და ინგლისურ შიგთავსს რუსეთის, უკრაინის, შეერთებული შტატების, მოლდოვისა და ბალტიის ქვეყნების აუდიტორიაზე ავრცელებდა.

კომენტარებით სპამის გასავრცელებელი პროცესის შესაქმნელად ქსელი ჩვენს მოდელებსა და Telegram-ის ანგარიშებს იყენებდა. თავდაპირველად ოპერატორები ჩვენს მოდელებს იყენებდნენ იმ კოდის გასამართად, რომელიც, როგორც ჩანს, Telegram-ზე პოსტების გამოქვეყნების ავტომატიზაციისთვის იყო შექმნილი. შემდეგ ისინი Telegram-ის კონკრეტული პოსტების პასუხად რუსულ და ინგლისურ კომენტარებს აგენერირებდნენ. ბოლოს კი, როგორც ჩანს, ამ კომენტარების გამოსაქვეყნებლად Telegram-ის სულ მცირე ათეულ ანგარიშს იყენებდნენ.

ინგლისურენოვანი კომენტარებისთვის ოპერატორები ჩვენს მოდელებს იყენებდნენ სხვადასხვა დემოგრაფიული ჯგუფის წარმომადგენელი რამდენიმე გამოგონილი პერსონის ხმით ტექსტების შესაქმნელად. ეს პერსონები აშშ-ის პოლიტიკური სპექტრის ორივე მხარეს წარმოადგენდნენ. რუსულენოვანი კომენტარებისთვის ისინი უპირატესობას უფრო თემატურ და პერსონებზე ნაკლებად დაფუძნებულ მითითებებს ანიჭებდნენ.

ქსელი ძირითადად Telegram-ის რამდენიმე არხის პოსტებზე ტოვებდა კომენტარებს. ყველაზე ხშირად იხსენიებოდა პრორუსული არხი @Slavyangrad, შემდეგ კი ინგლისურენოვანი @police_frequency და @SGTNewsNetwork. (ეს უკანასკნელი თავს კონსერვატორ ამერიკელ ვეტერანად ასაღებს, თუმცა ნოემბერში Meta-მ გაავრცელა ინფორმაცია⁠(იხსნება ახალ ფანჯარაში), რომ სინამდვილეში ის ირანიდან იმართებოდა.) თებერვლის აქტივობის ნიმუშში ქსელი ამ სამი არხის პოსტებზე პასუხების გენერირებას ორჯერ უფრო ხშირად ცდილობდა, ვიდრე მომდევნო 10 ყველაზე ხშირად ნახსენებ არხზე ერთად.

ეს კამპანია რამდენიმე პოლიტიკურ თემაზე ორიენტირებულ მოკლე კომენტარებს ქმნიდა. როგორც ინგლისურ, ისე რუსულ პოსტებში მისი მთავარი თემები იყო ომი უკრაინაში, პოლიტიკური ვითარება მოლდოვასა და ბალტიის ქვეყნებში და შეერთებული შტატების პოლიტიკა.

Telegram-ზე გამოქვეყნებულ ტიპურ რუსულენოვან კომენტარებში უკრაინისა და მოლდოვის პრეზიდენტებს კორუფციაში, ხალხის მხარდაჭერის არქონასა და დასავლური „ჩარევის“ სასარგებლოდ საკუთარი ხალხის ღალატში ადანაშაულებდნენ. Telegram-ზე ინგლისურენოვანი კომენტარები ეხებოდა ისეთ თემებს, როგორებიცაა იმიგრაცია, ეკონომიკური სირთულეები და დღის აქტუალური ამბები. ამ კომენტარებში მიმდინარე მოვლენების კონტექსტს ხშირად იყენებდნენ იმის დასამტკიცებლად, რომ შეერთებულმა შტატებმა უკრაინას მხარი არ უნდა დაუჭიროს.

ზოგჯერ ერთსა და იმავე პოსტზე ერთზე მეტი პერსონა ურთიერთსაწინააღმდეგო მოსაზრებებს გამოთქვამდა. ორივე მხარის ხმად თავის წარმოჩენის ეს „ორსახოვანი“ მიდგომა რუსულ ოპერაციებში ადრეც შეუნიშნავთ და შესაძლოა კონკრეტული აუდიტორიის მოზიდვის ან განხეთქილების გაღვივების სურვილზე მიუთითებდეს.

22 მარტს მოსკოვში მომხდარი ტერაქტისა და ტაჯიკეთის ოთხი მოქალაქის დაკავების შემდეგ კამპანიამ ტაჯიკეთზე ორიენტირებული Telegram-ანგარიშების ახალი ჯგუფის გამოყენება დაიწყო. მის მიერ გამოქვეყნებული კომენტარები ტაჯიკებსა და რუსებს ერთიანობისა და რუსეთის კანონების პატივისცემისკენ მოუწოდებდა.

კომენტარებით სპამის გავრცელება გავლენის ოპერაციებში გენერაციული AI-ის გამოჩენამდეც გავრცელებული მეთოდი იყო. მართალია, „ცუდი გრამატიკა“ კომენტარების შესაქმნელად ახალ მეთოდს იყენებდა, მაგრამ მის გავრცელების სისტემას ჩართულობის მოზიდვა უჭირდა.

მის კომენტართაგან ძალიან ცოტას მოჰყვა მოწონება ან პასუხი. ქსელის კომენტარები, როგორც წესი, რომელიმე პოსტზე პასუხების უმცირესობას შეადგენდა — ანუ სხვა მოსაზრებებს ვერ ფარავდა, თუკი მიზანი სწორედ ეს იყო.

ზოგჯერ ქსელი ჩვენს მოდელებს, როგორც ჩანს, პირადი შეტყობინებების შესაქმნელად იყენებდა, შესაძლოა Telegram-ის სხვა მომხმარებელთან სასაუბროდ, თუმცა გენერირებული ტექსტები მიანიშნებს, რომ ქსელი კრიპტოვალუტის თაღლითს ესაუბრებოდა.

გავლენის ოპერაციების ზემოქმედების შესაფასებელი გავრცელების მასშტაბის შკალის⁠(იხსნება ახალ ფანჯარაში) მიხედვით, რომელიც მათ 1-დან (ყველაზე დაბალი) 6-მდე (ყველაზე მაღალი) აფასებს, ამას 1-ელ კატეგორიას მივაკუთვნებდით: აქტივობა მხოლოდ ერთ პლატფორმაზე და ქსელის მიღმა მყოფი ადამიანების მიერ მნიშვნელოვანი გავრცელების არანაირი მტკიცებულება.