ოპერაცია „A2Z“: მრავალენოვანი გავლენის აქტივობა

ეს შემთხვევის ანალიზი თავდაპირველად OpenAI-ის 2024 წლის ოქტომბრის⁠(იხსნება ახალ ფანჯარაში) ანგარიშში გამოქვეყნდა.

ჩვენ დავბლოკეთ მანამდე უცნობი ანგარიშების ჯგუფი, რომელიც ჩვენს API-ს კომენტარების შესაქმნელად იყენებდა, შემდეგ კი მათ X-სა და Facebook-ზე აქვეყნებდა. ამ კომენტარებიდან ბევრი აზერბაიჯანს აქებდა ან ადამიანის უფლებების კუთხით მის საქმიანობას იცავდა, თუმცა ოპერაცია მრავალ სხვა თემასაც ეხებოდა, რაც შესაძლოა მის კომერციულ ხასიათზე მიუთითებდეს. იმის გამო, რომ ეს ქსელი ხშირად აქებდა აზერბაიჯანს და ოპერაციის რამდენიმე ეტაპზე AI-ს გამოყენებას ცდილობდა, მას „A2Z“ ვუწოდეთ.

ისევე, როგორც მაისში ჩვენ მიერ გამოვლენილი რუსულენოვანი Telegram-ოპერაცია, რომელსაც „Bad Grammar“ ვუწოდეთ, ეს ოპერაციაც ჩვენს მოდელებს სოციალურ მედიაში კომენტარების გამოსაქვეყნებლად იყენებდა. ოპერაცია AI-ს იყენებდა სოციალურ მედიაში ყალბი პერსონების სამართავად, ბიოგრაფიების შესაქმნელად, პოსტებისა და კომენტარების გასაანალიზებლად, მრავალ ენაზე პასუხების მოსამზადებლად და მათ კორექტირებისთვის. შემდეგ პასუხები X-ზე ან Facebook-ზე ქვეყნდებოდა. შიგთავსის უმეტესობა მოკლე კომენტარებისგან შედგებოდა, თუმცა მასში სტილიზებული გამოსახულებებიც შედიოდა. ისინი ხშირად 1930-იანი წლების პლაკატების სტილს იყენებდნენ და, შესაბამისად, როგორც ჩანს, მოტყუების ნაცვლად ყურადღებისა და ჩართულობის მოზიდვას ისახავდნენ მიზნად. თუმცა ასეთი სტილიზებული გამოსახულებების მქონე ტიპური პოსტები მხოლოდ 0–5 ჩართულობას იღებდა.

AI-ის გამოყენება ოპერაციას ერთდროულად მრავალი სოციალური მედიის ანგარიშის მართვის საშუალებას აძლევდა: X-სა და Facebook-ზე ამ აქტივობასთან დაკავშირებული დაახლოებით 150 ანგარიში გამოვავლინეთ, თუმცა საეჭვო ანგარიშების რაოდენობა უფრო მეტია. ეს ოპერაციას ზოგჯერ ინტერნეტში რეალურ ადამიანებთან კომენტარების მიმოწერაში ჩართვის საშუალებასაც აძლევდა. ზოგჯერ ვხედავდით მოკლე საუბრებს რეალურ ადამიანებსა და ყალბ ანგარიშებს შორის, სადაც ყალბი ანგარიშების პასუხები ჩვენი მოდელების გამოყენებით იყო შექმნილი.

AI-მდელ ეპოქაში ასეთი მასშტაბის ოპერაციას, სავარაუდოდ, ტროლების დიდი გუნდი დასჭირდებოდა, რასაც შესაბამისი ხარჯები და ინფორმაციის გაჟონვის რისკები მოჰყვებოდა. თუმცა AI-ზე დამოკიდებულებამ ეს ოპერაცია ჩვენი ჩარევის მიმართ უჩვეულოდ მოწყვლადიც გახადა. ვინაიდან ოპერაცია შეტევის ჯაჭვის მრავალ რგოლში იყენებდა AI-ს, ჩვენმა ზომებმა ამ ჯაჭვის ბევრი რგოლი ერთდროულად გაწყვიტა. მას შემდეგ, რაც ივნისის დასაწყისში ეს აქტივობა შევაფერხეთ, ჩვენ მიერ ამ ოპერაციის ნაწილად იდენტიფიცირებულმა სოციალური მედიის ანგარიშებმა ევროკავშირში, გაერთიანებულ სამეფოსა და საფრანგეთში საარჩევნო პერიოდების განმავლობაში პოსტების გამოქვეყნება შეწყვიტეს. ზოგიერთმა მათგანმა აგვისტოს ბოლოს პოსტების გამოქვეყნება განაახლა. მათი პოსტების მცირე ნაწილს ეტყობოდა, რომ სავარაუდოდ AI-ის მიერ იყო შექმნილი. ასეთი ნიშნების მქონე შიგთავსი ჩვენი მოდელებით არ შექმნილა.

ეს კამპანია ქმნიდა მოკლე კომენტარებს, რომლებიც მრავალ პოლიტიკურ თემას ეხებოდა. ყველაზე თვალსაჩინო თემა იყო აზერბაიჯანის მთავრობისა და საშინაო, რეგიონულ თუ საერთაშორისო პოლიტიკაში მისი როლის ქება — მაგალითად, ცენტრალური აზიის ქვეყნებს შორის ერთიანობის ხელშეწყობა ან გაეროს კლიმატის ცვლილების კონფერენციის მასპინძლობა. ინგლისურენოვანი და იტალიურენოვანი ანგარიშები აქებდნენ აზერბაიჯანის, როგორც ევროპის ენერგომომმარაგებლის, როლს — ზოგჯერ აზერბაიჯანის მთავრობის ადამიანის უფლებების სფეროში საქმიანობის კრიტიკის პასუხად.

აქტივობის სხვა მიმართულებები ეხებოდა AI-ის სარგებელსა და განვითარებას, ფინანსურ ბაზრებს, ეკოლოგიურ საკითხებს, კრიპტოვალუტებსა და ზოგადად ტექნოლოგიებს. ერთი ჯგუფი ყურადღებას არაბთა გაერთიანებულ საამიროებზე ამახვილებდა, მას სტაბილურ საინვესტიციო მიმართულებად წარმოაჩენდა და ხშირად უპირისპირებდა შეერთებულ შტატებში პოლიტიკური არასტაბილურობის შესახებ მტკიცებებს.

ზოგი ყალბი პერსონა ევროპისა თუ შეერთებული შტატების პოლიტიკაზე იყო ორიენტირებული. ამ აქტივობის იდეოლოგია რეგიონების მიხედვით განსხვავდებოდა. მაგალითად, შეერთებულ შტატებზე ორიენტირებული ერთი X-ანგარიში თავს ლიბერალად წარმოაჩენდა და აშშ-ის ყოფილ პრეზიდენტ ტრამპს აკრიტიკებდა, ხოლო ზოგი ფრანგულენოვანი Facebook-ანგარიში პრეზიდენტ მაკრონს აკრიტიკებდა და პარტია „ეროვნულ გაერთიანებას“ (RN) უჭერდა მხარს. ზოგჯერ ეს კრიტიკა საშინაო საკითხებზე იყო მიმართული, რათა დაესაბუთებინათ, რომ შესაბამისი ქვეყანა არ უნდა ჩარეულიყო საერთაშორისო საკითხებში, მათ შორის რუსეთის მიერ უკრაინაში შეჭრაში.

ეს ოპერაცია Facebook-სა და X-ზე ძალიან აქტიური იყო და, სავარაუდოდ, ასობით ანგარიშს მოიცავდა. X-ზე მის ზოგიერთ ანგარიშს ფასიანი ვერიფიკაციის ლურჯი ნიშანი ჰქონდა. ორივე პლატფორმაზე ჩვენ მიერ შერჩეული დაახლოებით 150 ანგარიშიდან მნიშვნელოვანი რაოდენობის გამომწერი არცერთს არ ჰყოლია: გამოძიებისას X-ზე გამოვლენილ ანგარიშებს შორის ყველაზე მეტი — 222 — გამომწერი იყო, უფრო ტიპური მაჩვენებელი კი დაახლოებით 15-დან 20-მდე მერყეობდა; X-ზე ტიპური პოსტები ერთნიშნა რაოდენობის ჩართულობას იღებდა. ანალოგიურად, გამოძიებისას Facebook-ის პოსტზე ჩვენ მიერ დაფიქსირებული რეაქციების მაქსიმალური რაოდენობა 36 იყო, ხოლო უფრო ტიპური მაჩვენებელი 0–5-ის ფარგლებში მერყეობდა. თუმცა გამოვავლინეთ რამდენიმე შემთხვევა, როდესაც ოპერაციის პოსტებს რეალური ადამიანები პასუხობდნენ. ეს პასუხები ყოველთვის დადებითი არ ყოფილა და ზოგჯერ რეალური ადამიანები ყალბ ანგარიშებს ეწინააღმდეგებოდნენ, თუმცა ისინი მაინც აჩვენებს მრავალ პლატფორმაზე, მრავალ ენაზე და მრავალ თემაზე აუდიტორიის ჩართვის გარკვეულ უნარს.

საინფორმაციო ოპერაციების გავლენის შესაფასებლად Breakout Scale-ის გამოყენებით, რომელიც მათ 1-დან (ყველაზე დაბალი) 6-მდე (ყველაზე მაღალი) აფასებს, ამ ოპერაციას მეორე კატეგორიის ზედა ზღვარზე მივაკუთვნებდით, მესამე კატეგორიაში გადასვლის რისკით: ოპერაცია მრავალ პლატფორმაზე აქვეყნებდა პოსტებს და არსებობდა გარკვეული მტკიცებულება, რომ რეალური ადამიანები მის შიგთავსთან ურთიერთობდნენ. თუმცა მას შემდეგ, რაც ამ ოპერაციას ჩვენი მოდელების გამოყენება ავუკრძალეთ და ინფორმაცია დარგის სხვა წარმომადგენლებს გავუზიარეთ, ჩვენ მიერ გამოვლენილი სოციალური მედიის ანგარიშები მრავალი კვირის განმავლობაში გაჩუმდნენ. ამრიგად, ეს ოპერაცია აჩვენებს როგორც AI-ის გამოყენებით ოპერატორების შესაძლებლობების ზრდას, ისე მათი AI მოდელზე დამოკიდებულებით გამოწვეულ ჩარევისადმი გაზრდილ მოწყვლადობას.