ოპერაცია „დამცინავი მიმოხილვა“: ჩინეთიდან მომდინარე გავლენის აქტივობა
OpenAI-მ დაბლოკა ანგარიშები, რომლებიც AI-ს იყენებდნენ ტაივანელი სოციალური მედიის ინფლუენსერისა და აშშ-სთან დაკავშირებული თემების გამაკრიტიკებელი პოსტების შესაქმნელად.
ეს შემთხვევის ანალიზი თავდაპირველად გამოქვეყნდა OpenAI-ის 2025 წლის ივნისის(იხსნება ახალ ფანჯარაში) ანგარიშში.
აქტორი
ჩვენ დავბლოკეთ ChatGPT‑ის ანგარიშები, რომლებიც, როგორც აღმოვაჩინეთ, ჩვენს მოდელებს ფარული გავლენის ოპერაციის საქმიანობის შესაბამისი სოციალური მედიის პოსტების მასობრივად შესაქმნელად იყენებდნენ. გამოძიების განმავლობაში ასევე შევნიშნეთ, რომ ამ ანგარიშებით შიდა საქმიანობის შეფასებებს ადგენდნენ.
ამ ანგარიშებიდან მოთხოვნები ძირითადად ჩინურ ენაზე იგზავნებოდა და ჩინეთისთვის აქტუალურ პოლიტიკურ და გეოპოლიტიკურ საკითხებს ეხებოდა. ერთ-ერთმა მომხმარებელმა მოთხოვნაში განაცხადა, რომ ჩინეთის პროპაგანდის დეპარტამენტში მუშაობდა, თუმცა ამ განცხადების დასადასტურებელი დამოუკიდებელი მტკიცებულება არ გვაქვს.
ქცევა
ჩვენ მიერ დაბლოკილი ანგარიშები საქმიანობის ორ ძირითად მიმართულებაში მონაწილეობდნენ. ყველაზე აქტიური მიმართულება იყო სოციალური მედიის მოკლე კომენტარების შექმნა ინგლისურ და ჩინურ ენებზე, მცირე ნაწილისა კი — ურდუზე. აღმოვაჩინეთ, რომ ამ კომენტარებიდან ბევრი TikTok-სა და X-ზე ქვეყნდებოდა, დამატებითი შიგთავსი კი Reddit-ზე, Facebook-სა და სხვადასხვა ვებსაიტზე ჩნდებოდა.
ჩვეულებრივ, ჯერ საწყისი კომენტარი ქვეყნდებოდა „მთავარი“ ანგარიშიდან, რომელიც ხშირად მხოლოდ ამ პოსტისთვის იყო შექმნილი, შემდეგ კი სხვა ანგარიშებიდან პასუხების სერია იწერებოდა. როგორც ჩანს, ამ ქცევის მიზანი ორგანული ჩართულობის მცდარი შთაბეჭდილების შექმნა იყო.

ამ აქტივობასთან დაკავშირებული TikTok-ის პოსტი სათაურით „#USAID-ის დახურვა მხოლოდ #დასაწყისია!“. არხის სახელი, ვიდეოს სუბტიტრების ტექსტი და ამ ეკრანის ანაბეჭდზე ხილული ყველა კომენტარი ამ ქსელმა ChatGPT‑ის გამოყენებით შექმნა.
TikTok-ზე კომენტარების დამწერი ანგარიშები სხვადასხვა ენისა და ანბანის მომხმარებლის სახელებს იყენებდნენ, რომლებიც ხშირად მათ მიერ გამოქვეყნებული შიგთავსის ენასთან კავშირში არ იყო. მაგალითად, კორეული სახელის მქონე ანგარიშმა კომენტარი ურდუზე გამოაქვეყნა, ხოლო ტაილანდური და ებრაული სახელების მქონე ანგარიშებმა — ამ ქსელის მიერ შექმნილი ინგლისური კომენტარები. X-ზე კომენტარების დამწერი ანგარიშები, ჩვეულებრივ, პროფილის სურათებად მულტფილმის პერსონაჟებს იყენებდნენ, ზოგ შემთხვევაში კი კრიპტოვალუტასთან დაკავშირებული სახელები ჰქონდათ.

ტვიტი და მასზე პასუხად დაწერილი კომენტარები — ყველა მათგანი ამ ქსელმა ChatGPT‑ის გამოყენებით შექმნა.
Facebook-ზე ქსელი ნაკლებად აქტიური იყო. მისი საქმიანობა ძირითადად მოიცავდა სახელებისა და პროფილის სურათების შექმნას ორი გვერდისთვის, რომლებიც თავს საინფორმაციო მედიასაშუალებებად წარმოაჩენდნენ. არცერთ გვერდს არ ჰყავდა გამომწერი და არ ჰქონდა მოწონებები; თითოეულზე მხოლოდ რამდენიმე პოსტი იყო გამოქვეყნებული.

Facebook-ის პოსტი, რომელშიც გაზიარებულია ვიდეო, რომელიც, ჩვენი შეფასებით, სავარაუდოდ ამ ოპერაციას უკავშირდება.
ქსელი დროდადრო ჩინურ ან ინგლისურ ენაზე შედარებით ვრცელ პოსტებსაც ქმნიდა. ერთი ასეთი პოსტი Reddit-ზე აღმოვაჩინეთ, კიდევ ორი კი — სხვადასხვა ვებფორუმზე. საქმიანობის მეორე მიმართულება ChatGPT‑ის გამოყენებით ისეთი დოკუმენტების შექმნას მოიცავდა, რომლებიც, სავარაუდოდ, შიდა პოლიტიკის ან საქმიანობის შეფასების დოკუმენტები იყო.
გენერირებული შედეგები
ამ საფრთხის აქტორის მიერ შექმნილი სოციალური მედიის შიგთავსი სხვადასხვა თემას მოიცავდა და ყველა მათგანი მჭიდროდ შეესაბამებოდა ჩინეთის გეოსტრატეგიულ ინტერესებს.
შიგთავსის ნაწილი ტაივანს ეხებოდა და კონკრეტულად მიმართული იყო „შებრუნებული ფრონტის“(იხსნება ახალ ფანჯარაში) („逆統戰“) წინააღმდეგ — ესაა ტაივანზე ორიენტირებული ვიდეო და სამაგიდო თამაში, რომელიც ჩინეთის კომუნისტური პარტიის წინააღმდეგ წინააღმდეგობას წარმოაჩენს. ქსელმა თამაშის შესახებ ჩინურ ენაზე ათობით კრიტიკული კომენტარი შექმნა, შემდეგ კი ვრცელი სტატია, რომელშიც ამტკიცებდა, რომ თამაშმა ფართო უარყოფითი გამოხმაურება გამოიწვია. ეს ოპერაციის ყველაზე გამორჩეული საქმიანობა იყო, რის გამოც მას „დამცინავი მიმოხილვა“ ვუწოდეთ.
სხვა, ინგლისურ და ურდუენოვან შიგთავსში სამიზნე იყო პაკისტანელი აქტივისტი მაჰრანგ ბალოჩი, რომელსაც საჯაროდ გაუკრიტიკებია ჩინეთის ინვესტიციები ბელუჯისტანში(იხსნება ახალ ფანჯარაში). ქსელთან დაკავშირებულმა TikTok-ანგარიშმა და Facebook-ის გვერდმა გამოაქვეყნეს ვიდეო, რომელშიც ბალოჩს ცრუ ბრალდებით პორნოგრაფიულ ფილმში მონაწილეობას მიაწერდნენ. შემდეგ ოპერაციამ ორივე ენაზე ასობით მოკლე კომენტარი შექმნა ფართო ჩართულობის ილუზიის შესაქმნელად.

შოკის გამომხატველი კომენტარები მაჰრანგ ბალოჩის TikTok-ის ვიდეოზე.
შიგთავსის ბოლო ჯგუფი ეხებოდა აშშ-ის საერთაშორისო განვითარების სააგენტოს (USAID) დახურვას და მოიცავდა მოკლე კომენტარებს, რომლებიც ამ გადაწყვეტილებას აქებდა ან აკრიტიკებდა. ეს კომენტარები TikTok-სა და X-ზე გამოქვეყნდა.

დახმარებისა და ტარიფების საკითხების დამაკავშირებელი ტვიტები, რომლებიც ამ ქსელმა ChatGPT‑ის გამოყენებით შექმნა.
ბოლოს, საფრთხის აქტორებმა ჩვენი მოდელები გამოიყენეს, სავარაუდოდ, შიდა დოკუმენტების შესაქმნელად. მათ შორის იყო ოფიციალური საზოგადოებრივი უსაფრთხოების დოკუმენტის სტილში დაწერილი დეტალური ესე და საქმიანობის შეფასება, რომელიც ოპერაციის შექმნისა და მართვისთვის გადადგმულ ნაბიჯებს აღწერდა.
გავლენა
როგორც ჩანს, ოპერაცია ჯერ საწყის ეტაპზე იყო, როცა მას ჩვენი მოდელების გამოყენების შესაძლებლობა შევუზღუდეთ. Facebook-ის არცერთ გვერდს არ ჰყავდა გამომწერი. Reddit-ზე ერთმა პოსტმა 44 დადებითი ხმა მიიღო, ორი სხვა კი შესაბამის ქვერედიტებში დაბლოკეს ან წაშალეს.

იმ Reddit-ანგარიშის პოსტის ეკრანის ანაბეჭდი, რომელიც ამ ქსელის ნაწილად მივიჩნიეთ. ანაბეჭდზე ჩანს, რომ პოსტი პლატფორმის ფილტრებმა წაშალა.
X-სა და TikTok-ზე ჩართულობის მაჩვენებლები უფრო განსხვავებული იყო: TikTok-ის ორ ვიდეოს ჯამში 25 000 მოწონება ჰქონდა, ხოლო ამ ოპერაციის მთავარი ანგარიშის თითოეულ ტვიტს, ჩვეულებრივ, დაახლოებით 10 000 ნახვა ჰქონდა. თუმცა ამ პოსტებზე კომენტარების დიდი ნაწილი ქსელმა ChatGPT‑ის გამოყენებით შექმნა, რაც მიუთითებს, რომ ჩართულობის გარკვეული ნაწილი მაინც არაავთენტური იყო. ამიტომ ჩართულობის ყველა მაჩვენებელი სიფრთხილით უნდა შეფასდეს.
გავლენის ოპერაციების ზემოქმედების „გარღვევის სკალის“(იხსნება ახალ ფანჯარაში) მიხედვით, თუ X-სა და TikTok-ზე ჩართულობის მაჩვენებლები ავთენტური იყო, ამას მე-3 კატეგორიის ქვედა ზღვარზე შევაფასებდით. ამ შეფასებას შევამცირებდით, თუ გამოჩნდებოდა მეტი მტკიცებულება იმ ჰიპოთეზის სასარგებლოდ, რომ მოწონებებისა და ნახვების უმეტესობაც, კომენტარების უმეტესობის მსგავსად, არაავთენტური იყო.