Operacija „A2Z“: įtakos veikla įvairiomis kalbomis

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2024 m. spalio⁠(atsidaro naujame lange) ataskaitoje.

Užblokavome anksčiau neviešintą paskyrų grupę, kuri naudodama mūsų API kūrė komentarus, vėliau skelbtus platformose X ir Facebook. Daugelyje šių komentarų buvo giriamas Azerbaidžanas arba ginama jo reputacija žmogaus teisių srityje, tačiau juose aptarta ir daugybė kitų temų, tad tai galėjo būti komerciniais pagrindais vykdoma operacija. Kadangi šiame tinkle dažnai girtas Azerbaidžanas ir DI mėginta pasitelkti įvairiuose operacijos etapuose, pavadinome jį „A2Z“.

Kaip ir gegužę mūsų atskleista rusakalbė Telegram operacija, kurią pavadinome „Bad Grammar“, ši operacija naudojo mūsų modelius komentarams socialiniuose tinkluose kurti. DI buvo pasitelkiamas netikroms socialinių tinklų tapatybėms valdyti, biografijoms kurti, įrašams ir komentarams analizuoti, atsakymams įvairiomis kalbomis rengti ir jų kalbai tikrinti. Tada atsakymai buvo skelbiami platformose X arba Facebook. Didžiąją turinio dalį sudarė trumpi komentarai, tačiau buvo skelbiama ir stilizuotų vaizdų. Juose dažnai atkartotas XX a. ketvirtojo dešimtmečio plakatų stilius, todėl, regis, jais siekta patraukti dėmesį ir paskatinti sąveiką, o ne apgauti. Vis dėlto įprasti įrašai su šiais stilizuotais vaizdais sulaukdavo vos 0–5 sąveikų.

Naudodami DI operacijos vykdytojai galėjo vienu metu valdyti daug socialinių tinklų paskyrų: platformose X ir Facebook nustatėme apie 150 su šia veikla susijusių paskyrų, o dar daugiau jų sukėlė įtarimų. DI taip pat leido operacijos vykdytojams kartais įsitraukti į komentarų gijas su tikrais interneto naudotojais. Kartais stebėjome trumpus tikrų žmonių ir netikrų paskyrų pokalbius, kuriuose netikrų paskyrų atsakymai buvo sugeneruoti naudojant mūsų modelius.

Iki DI tokio masto operacijai tikriausiai būtų reikėję didelės trolių komandos, taip pat būtų tekę patirti visas su tokia veikla susijusias išlaidas ir informacijos nutekėjimo riziką. Tačiau dėl priklausomybės nuo DI šią operaciją taip pat buvo neįprastai lengva sutrikdyti. Kadangi DI buvo pasitelkiamas daugelyje atakos grandinės etapų, nutraukę prieigą vienu metu suardėme daugelį jos grandžių. Birželio pradžioje sutrikdžius šią veiklą, mūsų nustatytos operacijai priklausiusios socialinių tinklų paskyros nustojo skelbti turinį per rinkimų laikotarpius ES, Jungtinėje Karalystėje ir Prancūzijoje. Kai kurios paskyros rugpjūčio pabaigoje vėl pradėjo skelbti turinį. Nedidelėje jų įrašų dalyje buvo požymių, kad turinys tikriausiai sugeneruotas DI. Šių požymių turintis turinys buvo sugeneruotas ne mūsų modeliais.

Per šią kampaniją kurti trumpi komentarai įvairiomis politinėmis temomis. Ryškiausia tema buvo Azerbaidžano vyriausybės ir jos vaidmens šalies, regiono bei tarptautinėje politikoje liaupsinimas, pavyzdžiui, giriant pastangas vienyti Vidurinės Azijos šalis ar surengti JT klimato kaitos konferenciją. Paskyrose anglų ir italų kalbomis girtas Azerbaidžano, kaip energijos tiekėjo Europai, vaidmuo, kartais atsakant į kritiką dėl Azerbaidžano vyriausybės veiklos žmogaus teisių srityje.

Kitos veiklos kryptys buvo susijusios su DI nauda ir raida, finansų rinkomis, ekologijos klausimais, kriptovaliutomis ir technologijomis apskritai. Viena paskyrų grupė daugiausia dėmesio skyrė Jungtiniams Arabų Emyratams, vaizduodama juos kaip stabilią vietą investuoti ir dažnai priešpriešindama teiginiams apie politinį nestabilumą Jungtinėse Valstijose.

Kai kurios netikros tapatybės daugiausia dėmesio skyrė Europos arba Jungtinių Valstijų politikai. Šios veiklos ideologija skirtinguose regionuose skyrėsi. Pavyzdžiui, viena į Jungtines Valstijas orientuota X paskyra apsimetė liberalia ir kritikavo buvusį JAV prezidentą Trumpą, o kai kurios prancūziškai skelbusios Facebook paskyros kritikavo prezidentą Macroną ir palaikė partiją „Nacionalinis sambūris“ (RN). Kartais kritikuojant daugiausia dėmesio skirta vidaus problemoms, siekiant įrodyti, kad atitinkama šalis neturėtų kištis į tarptautinius klausimus, įskaitant Rusijos invaziją į Ukrainą.

Ši operacija buvo itin aktyvi platformose Facebook ir X ir tikriausiai turėjo šimtus paskyrų. Kai kurios jos paskyros platformoje X turėjo mėlyną mokamo patvirtinimo ženklelį. Iš maždaug 150 abiejose platformose atrinktų paskyrų nė viena neturėjo daug sekėjų: didžiausia per tyrimą nustatyta auditorija platformoje X buvo 222 sekėjai, dažniausiai jų būdavo nuo keliolikos iki kiek daugiau nei dvidešimties, o įprasti X įrašai sulaukdavo mažiau nei dešimties sąveikų. Panašiai, didžiausias per tyrimą užfiksuotas reakcijų į Facebook įrašą skaičius buvo 36, o dažniausiai jų būdavo 0–5. Tačiau nustatėme keletą atvejų, kai operacijos įrašai sulaukė tikrų žmonių atsakymų. Atsakymai ne visada buvo teigiami, o kartais tikri žmonės prieštaravo netikroms paskyroms, tačiau tai rodo bent šiokį tokį gebėjimą įtraukti auditoriją keliose platformose, įvairiomis kalbomis ir įvairiomis temomis.

Vertindami įtakos operacijų poveikį pagal „Breakout Scale“, kurioje jos vertinamos nuo 1 (mažiausias poveikis) iki 6 (didžiausias), šią operaciją priskirtume aukščiausiai antros kategorijos daliai, su rizika pereiti į trečią kategoriją: turinys skelbtas keliose platformose ir buvo požymių, kad tikri žmonės sąveikavo su juo. Tačiau uždraudus šiai operacijai naudoti mūsų modelius ir pasidalijus informacija su kitomis sektoriaus bendrovėmis, mūsų nustatytos socialinių tinklų paskyros daugeliui savaičių nutilo. Taigi ši operacija parodo, kad DI gali suteikti vykdytojams daugiau galimybių, tačiau priklausomybė nuo DI modelio taip pat didina jų pažeidžiamumą veiklos trikdymui.