გადადით მთავარ შინაარსზე
OpenAI

1 მაისი, 2024

უსაფრთხოება

ოპერაცია „Doppelganger“: უკრაინის წინააღმდეგ მიმართული რუსეთის გავლენის აქტივობა

OpenAI-მ დაბლოკა რუსეთიდან მართული ოპერაცია „Doppelganger“-ის ანგარიშები, რომლებიც ხელოვნური ინტელექტით რამდენიმე ენაზე ქმნიდნენ უკრაინის საწინააღმდეგო კომენტარებს, თარგმანებსა და ვებსაიტების ტექსტებს.

იტვირთება…

ეს შემთხვევის ანალიზი თავდაპირველად გამოქვეყნდა OpenAI-ის 2024 წლის მაისის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში.

აქტორი

ჩვენ დავბლოკეთ ანგარიშების ოთხი კლასტერი, რომლებიც ჩვენს მოდელებს იყენებდნენ და დაკავშირებული იყვნენ რუსეთის გავლენის ოპერაცია „Doppelganger“-ის⁠(იხსნება ახალ ფანჯარაში) სახელით მოქმედ პირებთან. თითოეული კლასტერი განსხვავებულ ტაქტიკას, ტექნიკასა და პროცედურებს (TTPs) იყენებდა, რაც შეესაბამება სხვადასხვა ფუნქციური გუნდისგან შემდგარ ოპერაციას.

ქცევა

ეს აქტივობა ევროპისა და ჩრდილოეთ ამერიკის აუდიტორიაზე იყო მიმართული და ვებსაიტებისა და სოციალური მედიისთვის შიგთავსის გენერირებაზე იყო ორიენტირებული.

ანგარიშების პირველი კლასტერი მოკლე ტექსტურ კომენტარებს ინგლისურ, ფრანგულ, გერმანულ, იტალიურ და პოლონურ ენებზე ქმნიდა. ისინი 9GAG-სა და X-ზე ქვეყნდებოდა მემებთან, ვიდეოებსა და ბმულებთან ერთად, რომლებიც, როგორც ჩანს, ჩვენი მოდელებით არ იყო გენერირებული. ზოგიერთი მემი ინტერნეტის სხვადასხვა წყაროდან იყო კოპირებული და, როგორც ჩანს, რამდენიმე წლის წინანდელი იყო.

9GAG-ზე ანგარიშებს, რომლებიც ამ კამპანიის შიგთავსს აქვეყნებდნენ, პროფილის სურათად, როგორც წესი, ცნობილი ადამიანების ან კატების ფოტოები ჰქონდათ. ისინი თავიანთ მემებსა და ვიდეოებს მრავალ სხვადასხვა არხზე აქვეყნებდნენ, მათ შორის „Random“ არხზე და შინაური ცხოველების, სპორტის, იუმორის, ურთიერთობებისა და გაცნობისადმი მიძღვნილ არხებზეც კი.

კომენტარი უკრაინაზე და ვიდეო ღაზაზე, რომლებიც 9GAG-ის „Motor Vehicles“ არხზე გამოაქვეყნა ანგარიშმა, რომელიც ამ კამპანიის მიერ გენერირებულ შიგთავსს არაერთხელ აქვეყნებდა. უკრაინისა და აშშ-ის საზღვრის შესახებ მითითება ჩვენი მოდელებით იყო გენერირებული. ვიდეო ახალი ამბების კადრების კოლაჟი იყო. პოსტმა 11 დადებითი და 93 უარყოფითი შეფასება მიიღო.

კომენტარი უკრაინაზე და ვიდეო ღაზაზე, რომლებიც 9GAG-ის „Motor Vehicles“ არხზე გამოაქვეყნა ანგარიშმა, რომელიც ამ კამპანიის მიერ გენერირებულ შიგთავსს არაერთხელ აქვეყნებდა. უკრაინისა და აშშ-ის საზღვრის შესახებ მითითება ჩვენი მოდელებით იყო გენერირებული. ვიდეო ახალი ამბების კადრების კოლაჟი იყო. პოსტმა 11 დადებითი და 93 უარყოფითი შეფასება მიიღო.

ყოველ ჯერზე, როცა კამპანია 9GAG-ზე მემს ან ვიდეოს აქვეყნებდა, მას სამიდან ხუთამდე ანგარიში პასუხობდა, ჩვეულებრივ, მარტივი შეტყობინებებით, როგორიცაა „ჰაჰაჰა“ ან „ლოლ“. თითოეული ეს ანგარიში მხოლოდ ამ კამპანიის შიგთავსთან ურთიერთქმედებდა; მათი უმეტესობა ერთსა და იმავე დღეს შეიქმნა. ასეთი ქცევა ხშირად იწვევდა სხვა მომხმარებლების კრიტიკულ კომენტარებს; ბევრი მათგანი ამ ანგარიშებს „ბოტებად“ მოიხსენიებდა.

ზემოთ ნაჩვენებ ვიდეოზე გაკეთებული კომენტარები. ქვედა სამი ანგარიში (ყველაზე ადრეული კომენტარების ავტორები) 2024 წლის აპრილის ბოლოს შეიქმნა და არაერთხელ აქვეყნებდა, დადებითად აფასებდა ან კომენტარს უკეთებდა მხოლოდ ამ კამპანიის პოსტებს. ზედა სამი ანგარიში, რომლებმაც ყალბი ანგარიშები ამხილეს, ერთიდან ათ წლამდე ხნის წინ შეიქმნა და მრავალფეროვანი აქტივობით გამოირჩეოდა.

ზემოთ ნაჩვენებ ვიდეოზე გაკეთებული კომენტარები. ქვედა სამი ანგარიში (ყველაზე ადრეული კომენტარების ავტორები) 2024 წლის აპრილის ბოლოს შეიქმნა და არაერთხელ აქვეყნებდა, დადებითად აფასებდა ან კომენტარს უკეთებდა მხოლოდ ამ კამპანიის პოსტებს. ზედა სამი ანგარიში, რომლებმაც ყალბი ანგარიშები ამხილეს, ერთიდან ათ წლამდე ხნის წინ შეიქმნა და მრავალფეროვანი აქტივობით გამოირჩეოდა.

X-ზე კამპანიის კომენტარებს აქვეყნებდნენ ანგარიშები, რომლებიდანაც, როგორც წესი, მხოლოდ ერთი ან ორი პოსტი იყო გამოქვეყნებული. კომენტარებს ჩვეულებრივ თან ახლდა ერთი შეხედვით შემთხვევითი ბმული, მაგალითად, „solarpanelfor.sale“. ეს ბმულები მომხმარებლებს იმ ვებსაიტებზე გადაჰყავდა, რომლებიც არაერთხელ დაუკავშირეს Doppelganger-ს. ვებსაიტებზე გეოგრაფიული შეზღუდვა მოქმედებდა, ამიტომ მათი ნახვა მხოლოდ სამიზნე ქვეყნის IP მისამართის მქონე პირებს შეეძლოთ. თუმცა, როგორც ჩანს, ოპერატორებს შეცდომა მოუვიდათ, რის გამოც ზოგიერთი ინგლისური, გერმანული და პოლონური სტატიის ნახვა მხოლოდ ფრანგული IP-დან იყო შესაძლებელი.

პოსტი X-ზე, რომელიც ჩვენი მოდელებით გენერირებულ კომენტარს შეიცავს. კომენტარის თარგმანია: „შემაძრწუნებელი საქციელია! პოლიტიკა არასდროს უნდა უკავშირდებოდეს ძალადობას. ჩვენ გვჭირდება დიალოგი და არა ძალადობა“. თანდართული ბმული გადადის Doppelganger-ის ბრენდირებული ვებსაიტის, rrn.media-ს, გერმანულენოვან ვერსიაზე. თუმცა 20 მაისის მდგომარეობით, მისი ნახვა მხოლოდ ფრანგული IP-დან იყო შესაძლებელი.

პოსტი X-ზე, რომელიც ჩვენი მოდელებით გენერირებულ კომენტარს შეიცავს. კომენტარის თარგმანია: „შემაძრწუნებელი საქციელია! პოლიტიკა არასდროს უნდა უკავშირდებოდეს ძალადობას. ჩვენ გვჭირდება დიალოგი და არა ძალადობა“. თანდართული ბმული გადადის Doppelganger-ის ბრენდირებული ვებსაიტის, rrn.media-ს, გერმანულენოვან ვერსიაზე. თუმცა 20 მაისის მდგომარეობით, მისი ნახვა მხოლოდ ფრანგული IP-დან იყო შესაძლებელი.

სავარაუდოდ, აღმოჩენის თავიდან ასაცილებლად ეს კლასტერი ჩვენს მოდელებზე წვდომისთვის იყენებდა სერვისს, რომელიც რუსეთსა და ჩეხეთის რესპუბლიკაში მოქმედ კომპანიებთან იყო დაკავშირებული. ეს სერვისი რუსეთში მცხოვრებ ადამიანებს საშუალებას აძლევდა, გვერდი აევლოთ ჩვენი მხარდაჭერილი ქვეყნებიდან წვდომის პოლიტიკისთვის⁠(იხსნება ახალ ფანჯარაში). ჩვენ ამ სერვისს API-ზე წვდომა გავუთიშეთ.

მეორე კლასტერი სტატიებს რუსულიდან ინგლისურ და ფრანგულ ენებზე თარგმნიდა; როგორც ჩანს, რუსული ტექსტები ორიგინალური ნამუშევრები იყო. ამ სტატიებიდან ბევრი მოგვიანებით გამოქვეყნდა ვებსაიტზე, რომელიც არაერთხელ დაუკავშირეს Doppelganger-ს: rrn.media. იმავე კლასტერმა თავის სტატიებზე მოკლე კომენტარები შექმნა, რომლებიც მოგვიანებით სოციალურ მედიაში გამოჩნდა.

ჩვენი მოდელებით გენერირებული პოსტი X-ზე, rrn.media-ზე გამოქვეყნებული სტატიის ბმულთან ერთად.

ჩვენი მოდელებით გენერირებული პოსტი X-ზე, rrn.media-ზე გამოქვეყნებული სტატიის ბმულთან ერთად.

მესამე კლასტერი ფრანგულენოვანი სტატიების გენერირებისთვის, კორექტურისა და შესწორებისთვის გამოიყენებოდა. შემდეგ სტატიები გამოქვეყნდა ვებსაიტზე franceeteu.today, რომელიც ასევე დაუკავშირეს Doppelganger-ს.

ბოლო კლასტერი გერმანულ ენაზე მოქმედებდა. ის Doppelganger-ის ვებსაიტიდან, grenzezank.com-იდან, იღებდა შიგთავსს და მას ვებსაიტის სახელობის Facebook ჯგუფისა და გვერდისთვის მოკლე პოსტების შესაქმნელად იყენებდა.

შიგთავსი

შიგთავსის უმეტესობა, რომელსაც ეს კამპანია ინტერნეტში აქვეყნებდა, უკრაინის ომს ეხებოდა. კამპანია უკრაინას, აშშ-ს, NATO-სა და EU-ს უარყოფითად წარმოაჩენდა, ხოლო რუსეთს — დადებითად. ტიპურ კომენტარებში ამტკიცებდნენ, რომ რუსეთი ევროპის ქვეყნებისთვის მნიშვნელოვანი ეკონომიკური პარტნიორია; დასავლელი ლიდერები, რომლებიც რუსეთს აკრიტიკებენ, საკუთარ ამომრჩევლებს მოწყვეტილი არიან; ხოლო უკრაინა სუსტი, კორუმპირებული და დამარცხების ზღვარზეა.

ზოგ შემთხვევაში Doppelganger-ის აქტორები ცდილობდნენ, ჩვენი მოდელებისთვის ცნობილი ევროპელი პოლიტიკოსებისა და რუსეთის კრიტიკოსების კარიკატურები შეექმნევინებინათ. ჩვენმა მოდელებმა ამ მოთხოვნების შესრულებაზე უარი თქვეს.

გავლენის შეფასება

ჩვენ მიერ გამოვლენილ Doppelganger-ის არცერთ კამპანიას, როგორც ჩანს, რეალური აუდიტორიისგან მნიშვნელოვანი დადებითი გამოხმაურება არ მიუღია.

9GAG-ზე ტიპური პოსტები 5–10 დადებით შეფასებას იღებდა — ძირითადად იმ ანგარიშებისგან, რომლებიც ამ კამპანიის შიგთავსსაც აქვეყნებდნენ — და 15-იდან 200-მდე უარყოფით შეფასებას. X-ზე ტიპურ პოსტებს დაახლოებით 1 000 გაზიარება, არცერთი პასუხი და არცერთი მოწონება ჰქონდა. ეს სხვაობა იმდენად დიდია, რომ არაავთენტურ გაძლიერებაზე მიუთითებს. ერთ პოსტს სამი პასუხი ჰქონდა და სამივე მას ყალბად მოიხსენიებდა.

პასუხი X-ზე Doppelganger-ის პოსტზე.

პასუხი X-ზე Doppelganger-ის პოსტზე.

IO-ს გავლენის შესაფასებლად Breakout Scale-ის⁠(იხსნება ახალ ფანჯარაში) გამოყენებით, რომელიც ოპერაციებს 1-დან (ყველაზე დაბალი) 6-მდე (ყველაზე მაღალი) სკალაზე აფასებს, ჩვენს მოდელებთან დაკავშირებულ აქტივობას მე-2 კატეგორიას მივაკუთვნებდით: აქტივობა რამდენიმე პლატფორმაზე მიმდინარეობდა, თუმცა არცერთ მათგანზე ფართო გავრცელება ან აუდიტორიის მნიშვნელოვანი ჩართულობა არ დაფიქსირებულა.