Operācija “A2Z”: daudzvalodu ietekmēšanas darbība

Šis gadījuma apraksts sākotnēji tika publicēts OpenAI 2024. gada oktobra⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām iepriekš neaprakstītu kontu kopu, kas izmantoja mūsu API, lai veidotu komentārus, kurus pēc tam publicēja platformās X un Facebook. Daudzos komentāros tika slavēta Azerbaidžāna vai aizstāvēta tās reputācija cilvēktiesību jomā, taču operācija pievērsās arī daudziem citiem tematiem, kas varētu liecināt par komerciāli vadītu operāciju. Tā kā šis tīkls bieži slavēja Azerbaidžānu un vairākos operācijas posmos mēģināja izmantot MI, mēs to nodēvējām par “A2Z”.

Līdzīgi krievu valodas Telegram operācijai, kuru atklājām maijā un nodēvējām par “Slikto gramatiku”, arī šī operācija izmantoja mūsu modeļus, lai publicētu komentārus sociālajos tīklos. Tā izmantoja MI, lai pārvaldītu viltotas sociālo tīklu personas, veidotu biogrāfijas, analizētu ziņas un komentārus, sagatavotu atbildes daudzās valodās un tās koriģētu. Pēc tam atbildes tika publicētas platformā X vai Facebook. Lielākā daļa satura bija īsi komentāri, taču tajā bija arī stilizēti attēli. Tajos bieži tika izmantots 20. gadsimta 30. gadu plakātu stils, tāpēc šķiet, ka tie bija paredzēti uzmanības un iesaistes piesaistīšanai, nevis maldināšanai. Tomēr parastas ziņas ar šiem stilizētajiem attēliem katra saņēma tikai 0–5 iesaistes.

MI izmantošana ļāva operācijai vienlaikus pārvaldīt daudzus sociālo tīklu kontus: platformās X un Facebook identificējām aptuveni 150 kontu, kas atbilda šai darbībai, un mums ir aizdomas par vēl citiem kontiem. Tas arī ļāva operācijai dažkārt iesaistīties komentāru pavedienos ar īstiem cilvēkiem internetā. Dažkārt novērojām īsas sarunas starp īstiem cilvēkiem un viltotajiem kontiem, kuru atbildes tika ģenerētas, izmantojot mūsu modeļus.

Pirms MI šāda mēroga operācijai, visticamāk, būtu bijusi vajadzīga liela troļļu komanda ar visām šādam pasākumam raksturīgajām izmaksām un informācijas noplūdes riskiem. Tomēr operācijas paļaušanās uz MI to padarīja arī neparasti neaizsargātu pret mūsu veiktajiem traucējumiem. Tā kā MI tika izmantots tik daudzos uzbrukuma ķēdes posmos, mūsu veiktā slēgšana vienlaikus pārtrauca daudzus šīs ķēdes posmus. Pēc tam, kad jūnija sākumā apturējām šo darbību, sociālo tīklu konti, kurus bijām identificējuši kā operācijas daļu, pārtrauca publicēt saturu visā ES, Apvienotās Karalistes un Francijas vēlēšanu periodā. Daži atsāka publicēt saturu augusta beigās. Nelielam skaitam to ziņu bija pazīmes, ka tās, visticamāk, ģenerējis MI. Saturs ar šādām pazīmēm nebija radīts ar mūsu modeļiem.

Šajā kampaņā tika veidoti īsi komentāri par visdažādākajiem politiskajiem tematiem. Visvairāk tika slavēta Azerbaidžānas valdība un tās loma iekšpolitikā, reģionālajā un starptautiskajā politikā, piemēram, Centrālāzijas valstu vienotības veicināšanā vai ANO Klimata pārmaiņu konferences rīkošanā. Konti angļu un itāļu valodā slavēja Azerbaidžānas kā Eiropas energoresursu piegādātājas lomu, dažkārt atbildot uz Azerbaidžānas valdības reputācijas kritiku cilvēktiesību jomā.

Citi darbības virzieni pievērsās MI priekšrocībām un attīstībai, finanšu tirgiem, ekoloģijas jautājumiem, kriptovalūtām un tehnoloģijām kopumā. Viena kontu kopa pievērsās Apvienotajiem Arābu Emirātiem, attēlojot tos kā stabilu ieguldījumu galamērķi un bieži pretstatot to apgalvojumiem par politisko nestabilitāti Amerikas Savienotajās Valstīs.

Dažas viltotās personas pievērsās politikai Eiropā vai Amerikas Savienotajās Valstīs. Šīs darbības ideoloģija dažādos reģionos atšķīrās. Piemēram, viens uz Amerikas Savienotajām Valstīm orientēts X konts uzdevās par liberāli un kritizēja bijušo ASV prezidentu Trampu, savukārt daži Facebook konti, kas publicēja saturu franču valodā, kritizēja prezidentu Makronu un atbalstīja partiju “Nacionālā apvienība” (RN). Dažkārt šī kritika pievērsās iekšpolitikas jautājumiem, lai pamatotu, ka attiecīgajai valstij nevajadzētu iejaukties starptautiskos jautājumos, tostarp saistībā ar Krievijas iebrukumu Ukrainā.

Šī operācija bija ļoti aktīva platformās Facebook un X, un tajā, visticamāk, bija simtiem kontu. Dažiem tās kontiem platformā X bija maksas verifikācijas zilā atzīme. No aptuveni 150 kontiem, kuru paraugus pētījām abās platformās, nevienam nekonstatējām ievērojamu sekotāju skaitu: lielākais mūsu izmeklēšanā konstatētais sekotāju skaits platformā X bija 222, parasti tas bija no aptuveni 15 līdz nedaudz vairāk par 20, un parastas ziņas platformā X saņēma mazāk nekā desmit iesaistes. Līdzīgi lielākais mūsu izmeklēšanā novērotais reakciju skaits uz Facebook ziņu bija 36, bet parasti tas bija 0–5. Tomēr konstatējām dažus gadījumus, kad operācijas ziņas saņēma atbildes no īstiem cilvēkiem. Tās ne vienmēr bija pozitīvas, un reizēm īsti cilvēki iebilda viltotajiem kontiem, tomēr tās liecina vismaz par zināmu spēju iesaistīt auditoriju vairākās platformās, daudzās valodās un par dažādiem tematiem.

Izmantojot izplatības skalu, kurā informācijas operāciju ietekme tiek vērtēta no 1 (zemākā) līdz 6 (augstākā), mēs šo operāciju novērtētu otrās kategorijas augšējā robežā ar risku pāriet trešajā kategorijā: tai bija raksturīga satura publicēšana vairākās platformās, un bija daži pierādījumi, ka ar šo saturu mijiedarbojās īsti cilvēki. Tomēr pēc tam, kad aizliedzām šai operācijai izmantot mūsu modeļus un dalījāmies informācijā ar nozares partneriem, mūsu identificētie sociālo tīklu konti uz daudzām nedēļām apklusa. Tādējādi šī operācija parāda gan to, kā MI izmantošana var paplašināt operatoru spējas, gan to, kā paļaušanās uz MI modeli palielina operācijas ievainojamību pret traucējumiem.