ოპერაცია „ბიძია სპამი“: აშშ-ის პოლარიზაციაზე გავლენის მოხდენის აქტივობა
OpenAI-მ აკრძალა ჩინეთიდან მომდინარე ანგარიშები, რომლებიც AI-ს აშშ-ის პოლიტიკური შიგთავსის შესაქმნელად და ადამიანების, მოძრაობებისა და ონლაინსაზოგადოებების შესასწავლად იყენებდნენ.
ეს შემთხვევის ანალიზი თავდაპირველად გამოქვეყნდა OpenAI-ის 2025 წლის ივნისის(იხსნება ახალ ფანჯარაში) ანგარიშში.
მოქმედი სუბიექტი
Meta-ს კოლეგებისგან მიღებული ინფორმაციის საფუძველზე, ჩვენ ავკრძალეთ ChatGPT‑ის რამდენიმე ანგარიში, რომლებიც ჩინეთიდან მომდინარე გავლენის ოპერაციას(იხსნება ახალ ფანჯარაში) უკავშირდებოდა. ოპერაცია ქმნიდა პოლარიზაციის გამომწვევ სოციალურ მედიაშიგთავსს, რომელიც აშშ-ის პოლიტიკურ დისკურსში განხეთქილების გამომწვევ საკითხებზე ორივე მხარეს უჭერდა მხარს. მასში შედიოდა ტექსტები და AI-ით გენერირებული პროფილის სურათები ისეთ პლატფორმებზე, როგორიცაა X და Bluesky.
ქცევა
ქსელი ჩვენს მოდელებს რამდენიმე ამოცანისთვის იყენებდა, ძირითადად კი ტარიფების მხარდამჭერი ან კრიტიკული კომენტარების შესაქმნელად სოციალურ მედიაში. აუდიტორიის ჩართულობის მაქსიმალურად გასაზრდელად, ანგარიშები ჩვენს მოდელებს გამოქვეყნების ოპტიმალურ დროს ეკითხებოდნენ, რაც მიზანმიმართულად დაგეგმილ გაძლიერების ტაქტიკაზე მიუთითებს.
ორი ტვიტი, რომელთა ტექსტებიც ამ საფრთხის სუბიექტმა ჩვენი მოდელების გამოყენებით შექმნა და რომლებიც ტარიფების შესახებ დებატების სხვადასხვა მხარეს უჭერს მხარს.
მეორე მხრივ, ანგარიშები სურათის გენერირების ჩვენს შესაძლებლობებს სტილიზებული ლოგოების შესაქმნელად იყენებდნენ. შემდეგ ეს ლოგოები სოციალურ პლატფორმებზე გამოგონილი პერსონების პროფილის სურათებად გამოიყენებოდა. კერძოდ, ანგარიშები ქმნიდნენ აშშ-ის ვეტერანების პერსონებს, რომლებიც აშშ-ის ამჟამინდელ ადმინისტრაციას აკრიტიკებდნენ.
Bluesky-ს ანგარიში, რომელიც ამ ქსელის მიერ შექმნილ შიგთავსს აქვეყნებდა. ლოგო „ვეტერანები სამართლიანობისთვის“ ჩვენი მოდელების გამოყენებით შეიქმნა.
დაბოლოს, ანგარიშები მუდმივად ითხოვდნენ კოდსა და მეთოდებს X-ისა და Bluesky-ს მსგავსი სოციალური პლატფორმებიდან პერსონალური მონაცემების — მაგალითად, მომხმარებელთა პროფილების, გამომწერთა სიებისა და სხვა დეტალების — მოსაპოვებლად, რისთვისაც Tweepy-ს, Nitter-სა და Bluesky-ს საჯარო API-ს მსგავს ხელსაწყოებს იყენებდნენ. გარდა ამისა, ანგარიშები ჩვენს მოდელებს სთხოვდნენ მითითებებს, რომლებიც პროფილის მონაცემების პიროვნული მახასიათებლებისა და ორგანიზაციული კავშირების მიხედვით გაანალიზებაში დაეხმარებოდათ, სავარაუდოდ, ადამიანების დასაჯგუფებლად ან მათი კავშირებისა და თვისებების დასადგენად.
მიღებული შედეგები
ანგარიშები აშშ-ის პოლიტიკური დისკურსის სხვადასხვა საკითხზე პოლარიზაციის გამომწვევ შიგთავსს ქმნიდნენ, ხშირად ერთი და იმავე ოპერაციული სესიების ფარგლებში. გავლენის ოპერაციებისთვის დამახასიათებელი ცნობილი მეთოდების შესაბამისად, როგორც ჩანს, ეს კონკრეტული იდეოლოგიური პოზიციის მხარდაჭერის ნაცვლად არსებული პოლიტიკური განხეთქილების გამოყენებას ისახავდა მიზნად. შიგთავსის მოცულობისა და ამერიკულ გზავნილებზე აქცენტის გამო, ამ ოპერაციას „ბიძია სპამი“ ვუწოდეთ.
გამოგონილი პერსონების მიერ გამოქვეყნებული ტვიტები, რომელთა ტექსტებიც ჩვენი მოდელებითაა გენერირებული.
გავლენა
გავლენის ოპერაციის შედეგების შესაფასებელი გარღვევის შკალის(იხსნება ახალ ფანჯარაში) მიხედვით, ამას მე-2 კატეგორიად შევაფასებდით: აქტივობა რამდენიმე პლატფორმაზე, ფართო გავრცელების გარეშე ან მინიმალური ჩართულობით. სოციალური მედიის ანგარიშებს, რომლებიც ჩვენი მოდელებით გენერირებულ შიგთავსს აქვეყნებდნენ, რეალური მომხმარებლებისგან მცირე ჩართულობა ჰქონდათ. ამ ქსელის მიერ X-ზე გამოქვეყნებული პოსტების უმეტესობას მოწონებები ან გაზიარებები თითქმის ან საერთოდ არ მიუღია; გარკვეული ჩართულობა მხოლოდ რამდენიმე პოსტს ჰქონდა. სოციალური მედიის ზოგიერთ ანგარიშს ათასობით გამომწერი ჰყავდა, თუმცა მათი ავთენტიკურობა ვერ შევაფასეთ, ხოლო გამომწერთა რაოდენობა პოსტების ჩართულობაზე, როგორც ჩანს, არ აისახებოდა.