ოპერაცია „ბუნდოვანი ფოკუსი“: სოციალური ინჟინერია და გავლენის აქტივობები
OpenAI-მ დაბლოკა ანგარიშები, რომლებიც ხელოვნურ ინტელექტს სოციალური ინჟინერიისთვის, თვალთვალთან დაკავშირებული კვლევისა და კრიტიკოსებზე გავლენის მოსახდენად იყენებდნენ.
ამ შემთხვევის კვლევა თავდაპირველად გამოქვეყნდა OpenAI-ის 2025 წლის ივნისის(იხსნება ახალ ფანჯარაში) ანგარიშში.
აქტორი
დავბლოკეთ ChatGPT‑ის ანგარიშების მცირე ქსელი, რომელიც ჩვენს მოდელებს იყენებდა სოციალური მედიის პოსტების შესაქმნელად, მონაცემთა ნაკრებების გასაანალიზებლად და ჩინურიდან ინგლისურად წერილებისა და შეტყობინებების სათარგმნელად, რომლებიც სოციალური ინჟინერიის მცდელობებს ჰგავდა. ამ ანგარიშებიდან ჩვენს მოდელებს მითითებებს ჩინურ ენაზე აძლევდნენ და ძირითადად კონტინენტური ჩინეთის სამუშაო საათებში აქტიურობდნენ.
ისინი ქმნიდნენ შეტყობინებებს, თითქოს გეოპოლიტიკაზე ორიენტირებული სამი ორგანიზაციის თანამშრომლებისგან იგზავნებოდა: „ფოკუს ლენს ნიუსი“, „ბრაიტვეივ მედია ევროპა“ და „ვიჟენერი ედვაიზორი გრუპი“ (VAG). გარდა ამისა, ChatGPT‑ის ეს ანგარიშები ქმნიდა ტექსტებს, რომლებიც ამ სამ ორგანიზაციასთან დაკავშირებული X-ის ანგარიშების პოსტებსა და ბიოგრაფიულ აღწერებს ემთხვეოდა. მავნე აქტორები ცალკე აღნიშნავდნენ, რომ ეს ორგანიზაციები სადაზვერვო ინფორმაციის შეგროვებისა და ანალიზის შესანიღბად გამოიყენებოდა. ამ სახელებზე დაყრდნობით ოპერაციას „ბუნდოვანი ფოკუსი“ ვუწოდეთ.
ქცევა
ოპერაციის ფარგლებში ChatGPT‑ს მუშაობის ოთხი ძირითადი მიმართულებით იყენებდნენ. პირველ რიგში, ეს ანგარიშები ჩვენს მოდელებს ძირითადად სოციალური მედიის პოსტებისა და ბიოგრაფიების შესაქმნელად იყენებდა ონლაინპერსონებისთვის, რომლებიც, როგორც ჩანს, გავლენის ფარული ოპერაციის ნაწილი იყო. პოსტებს ავრცელებდნენ X-ის ანგარიშები, რომელთა მფლობელებიც თავს ჟურნალისტებად და გეოპოლიტიკის ანალიტიკოსებად ასაღებდნენ.
ტვიტი, რომელიც ამ მავნე აქტორმა ChatGPT‑ის დახმარებით შექმნა და X-ის იმ ანგარიშიდან გამოაქვეყნა, რომელიც რეგულარულად ავრცელებდა მის შიგთავსს.
მეორე მიმართულება იყო აშშ-ის სენატორისთვის განკუთვნილი კორესპონდენციის დახვეწა და თარგმნა, რომელიც ადმინისტრაციის თანამდებობის პირის კანდიდატურის წარდგენას ეხებოდა. დამოუკიდებლად ვერ ვადასტურებთ, გაიგზავნა თუ არა რომელიმე წერილი.
მესამე მიმართულებით, ამ ანგარიშებიდან სვამდნენ მარტივ კითხვებს კომპიუტერულ ქსელებზე თავდასხმისა და მათი მოწყვლადობების გამოყენების ინსტრუმენტებზე. პასუხად ჩვენი მოდელები მხოლოდ ზოგად განმარტებებს აწვდიდა ამ ინსტრუმენტების გამოყენებისა და შესაძლებლობების შესახებ. ეს კითხვები ვერ აღწევდა იმ კიბერაქტორების კითხვების სირთულეს, რომლებსაც ანგარიშში მოგვიანებით აღვწერთ, და ცოდნის დაბალ დონეზე მიანიშნებდა.
დაბოლოს, მომხმარებლები რეგულარულად ითხოვდნენ ჩინურიდან ინგლისურად იმ შეტყობინებების თარგმნას, რომლებიც, სავარაუდოდ, უცნობ თანამოსაუბრეებთან კონტაქტის დამყარებასა და საბოლოოდ მათგან ინფორმაციის მოპოვებას ემსახურებოდა. ამ შეტყობინებების ნაწილი სოციალურ მედიაში ჟურნალისტებისა და მკვლევრების პოსტების პასუხებად ქვეყნდებოდა. სხვები პირად შეტყობინებებს ჰგავდა და ინტერნეტში ძიებისას არ იძებნებოდა.
ამ ოპერაციასთან დაკავშირებული X-ის ანგარიშიდან მკვლევართან კონტაქტის დამყარების მცდელობა წინასწარი ნაცნობობის გარეშე, X-ზე საჯარო შეტყობინების გაგზავნით.
გენერირებული პასუხები
ამ ქსელის მთავარი მიზანი, როგორც ჩანს, სადაზვერვო ინფორმაციის შეგროვება იყო — მისი მონაწილეები თავს ევროპაში ან თურქეთში მომუშავე პროფესიონალებად ასაღებდნენ. ოპერატორები მათ მიერ შექმნილ და ინტერნეტში გამოქვეყნებულ შიგთავსში „ფოკუს ლენს ნიუსს“ აღწერდნენ, როგორც ევროპაში დაფუძნებულ დამოუკიდებელ ორგანიზაციას, რომელიც ანალიზსა და ახალი ამბების გაშუქებაზე სპეციალიზდებოდა. თუმცა ოპერატორები ასევე აცხადებდნენ, რომ ეს ბრენდი სინამდვილეში სადაზვერვო ინფორმაციის შეგროვების, ანალიზისა და გავრცელების შესანიღბად გამოიყენებოდა.
სოციალური მედიის პროფილების აღწერებში მითითებული ვებსაიტის თანახმად, „ვიჟენერი ედვაიზორი გრუპი“ თურქეთში მდებარეობს და გეოპოლიტიკის სფეროში პროფესიულ საკონსულტაციო მომსახურებას ეწევა. ოპერატორები ჩვენს მოდელებს იყენებდნენ ჩინურიდან ინგლისურად ინსტრუქციების სათარგმნელად, რომელთა თანახმადაც VAG ჯგუფი აშშ-ის ეკონომიკური და ფინანსური პოლიტიკის შესახებ ინფორმაციას ეძებდა და მზად იყო ინტერვიუსთვის საათში 2 000 აშშ დოლარი გადაეხადა. ისინი ასევე თარგმნიდნენ საიდუმლო დოკუმენტების სანაცვლოდ ანაზღაურების შეთავაზებებს.
VAG ჯგუფის ვებსაიტს თურქული და ინგლისური ვერსიები აქვს. ინგლისური ვერსიის გვერდზე „დაგვიკავშირდით“, მენიუში ჩანს ჩინური იეროგლიფები (聯絡), მნიშვნელობით „დაგვიკავშირდით“. ეს მთელ დომენზე ერთადერთი ჩინური ტექსტი იყო.
VAG ჯგუფის გვერდის „დაგვიკავშირდით“ ეკრანის ანაბეჭდი, რომლის ჩამოსაშლელ მენიუშიც ჩანს ჩინური იეროგლიფები (聯絡), მნიშვნელობით „დაგვიკავშირდით“.
ამ ქსელის შიგთავსის ნაწილი გავლენის უფრო ფართომასშტაბიანი ოპერაციების სარეკლამო მასალებს ჰგავდა. გავრცელებული მტკიცებების თანახმად, რომელთა დამოუკიდებლად გადამოწმებაც არ შეგვიძლია, ოპერაციის ფარგლებში იყენებდნენ მანქანურ სწავლებას, ბუნებრივი ენის დამუშავებასა და მონაცემების ავტომატურ ამოღებას, რათა სოციალურ მედიაში გავლენიანი პირები და თემები გამოევლინათ.
ზეგავლენა
ამ საქმიანობასთან დაკავშირებულმა სოციალური მედიის ანგარიშებმა ინტერნეტში რეალური მომხმარებლების მნიშვნელოვანი ჩართულობა ვერ მოიპოვა. მხოლოდ „ფოკუს ლენს ნიუსის“ X-ის ანგარიშს ჰყავდა მიმდევრების მნიშვნელოვანი რაოდენობა — 17 000. თუმცა ეს ანგარიში 2014 წლის ნოემბერში სხვა სახელით შეიქმნა, ტვიტებს სამი დღის განმავლობაში აქვეყნებდა, შემდეგ კი 2024 წლის შუა პერიოდამდე აღარ აქტიურობდა. ეს დამახასიათებელია ანგარიშებისთვის, რომლებიც გატეხეს და სხვა მიზნისთვის გამოიყენეს, ამიტომ მისი მიმდევრების რაოდენობა სიფრთხილით უნდა შეფასდეს.
გავლენის ოპერაციების ზეგავლენის გავრცელების მასშტაბის სკალით(იხსნება ახალ ფანჯარაში), ამ ოპერაციის საჯარო ნაწილს მე-2 კატეგორიის ქვედა დონეს მივაკუთვნებდით: აქტივობა რამდენიმე პლატფორმაზე შეინიშნებოდა, თუმცა მწირია იმის მტკიცებულება, რომ რეალური ადამიანები მათ შიგთავსს გამოეხმაურნენ ან ფართოდ აზიარებდნენ. ხელმისაწვდომი მტკიცებულებები არასაკმარისია ოპერაციის ფარგლებში სოციალური ინჟინერიისა და სხვა ფარული საქმიანობის ზეგავლენის შესაფასებლად.