Pereiti prie pagrindinio turinio
OpenAI

2024 m. gegužės 1 d.

Sauga

Operacija „Zero Zeno“: su Izraeliu siejama įtakos veikla

OpenAI užblokavo paskyras, susijusias su anksčiau neviešinta Izraelio kilmės operacija, kurią pavadinome „Zero Zeno“. Pasitelkus DI buvo kuriamas prieš „Hamas“, Katarą ir BJP nukreiptas bei Izraelį ir „Histadrut“ palaikantis turinys.

Įkeliama...

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2024 m. gegužės mėn.⁠(atsidaro naujame lange) ataskaitoje.

Veikėjas

Užblokavome grupę iš Izraelio valdomų paskyrų, kurios buvo naudojamos turiniui kurti ir redaguoti vykdant įtakos operaciją tinkle X, „Facebook“, „Instagram“, svetainėse ir „YouTube“. Tinklą valdė Izraelio politinių kampanijų valdymo įmonė STOIC. Pagerbdami stoicizmo filosofinės mokyklos įkūrėją ir norėdami atspindėti menką šio tinklo sulauktą auditorijos įsitraukimą, pavadinome jį „Zero Zeno“.

Veikla

Šios operacijos turinys anglų ir hebrajų kalbomis buvo skirtas Kanados, Jungtinių Valstijų ir Izraelio auditorijoms. Gegužės pradžioje pradėta skelbti ir Indijos auditorijai skirto turinio anglų kalba. Be to, panašu, kad buvo ruošiamasi vykdyti į Ganos auditoriją orientuotą informacinę operaciją.

Pasitelkus mūsų modelius buvo kuriami interneto straipsniai ir socialinių tinklų komentarai, vėliau skelbti įvairiose platformose, ypač „Instagram“, „Facebook“ ir X.

Šio tinklo sugeneruoti ir „Instagram“ paskelbti komentarai anglų kalba. Šios kampanijos metu buvo sugeneruotas ir pradinis įrašas, ir atsakymai.

Šio tinklo sugeneruoti ir „Instagram“ paskelbti komentarai anglų kalba. Šios kampanijos metu buvo sugeneruotas ir pradinis įrašas, ir atsakymai.

Mūsų modeliai taip pat buvo naudojami išgalvotoms socialinių tinklų asmenybėms ir jų biografijoms kurti pagal tokius kintamuosius kaip amžius, lytis ir vietovė, taip pat informacijai apie Izraelio gyventojus, viešai komentavusius Izraelio profesinių sąjungų organizaciją „Histadrut“, rinkti. Gavę šias užklausas, mūsų modeliai atsisakė pateikti asmeninę informaciją.

Šio tinklo sugeneruotas turinys buvo skelbiamas įvairiose socialinių tinklų platformose. Atlanto tarybos Skaitmeninių kriminalistinių tyrimų laboratorijos⁠(atsidaro naujame lange) atvirųjų šaltinių tyrėjai aptiko dalį šio turinio „Facebook“, „Instagram“ ir X; šias paskyras išjungus, operacijos vykdytojai įsigijo naujų. Kitas turinys buvo skelbiamas keturiose svetainėse, apsimetusiose aktyvistų grupėmis, kurios daugiausia dėmesio skyrė Gazos konfliktui ir platesniems žydų bei musulmonų tarpusavio santykių klausimams: uc4canada.com, the-good-samaritan.com, ufnews.io ir nonagenda.com.

Kai kuriais atvejais aptikome netikrų šios operacijos paskyrų, komentavusių pačių operacijos vykdytojų socialinių tinklų įrašus – greičiausiai siekiant sudaryti auditorijos įsitraukimo įspūdį.

DFRLab pirmą kartą aptiktą veiklą vykdžiusios paskyros įrašas tinkle X ir atsakymai į jį. Visus šiame vaizde matomus atsakymus sugeneravo ši kampanija.

DFRLab pirmą kartą aptiktą veiklą vykdžiusios paskyros įrašas tinkle X ir atsakymai į jį. Visus šiame vaizde matomus atsakymus sugeneravo ši kampanija.

Daugelyje šio tinklo turinį skelbusių socialinių tinklų paskyrų buvo naudojamos profilio nuotraukos, kurios, regis, sukurtos pasitelkus ankstesnio tipo dirbtinį intelektą – generatyvinius besivaržančius tinklus (GAN). Tokių vaizdų galima lengvai atsisiųsti iš interneto. Nors tokius vaizdus sukurti lengva, aptikome kelias šio tinklo socialinių tinklų paskyras, naudojusias tą pačią nuotrauką. Kartais dvi ar daugiau paskyrų su ta pačia profilio nuotrauka atsakydavo į tą patį socialinio tinklo įrašą.

X paskyrų, skelbusių šio tinklo sugeneruotus komentarus, profilio nuotraukos. Nuotraukoje matyti požymių, būdingų GAN sugeneruotam vaizdui.

X paskyrų, skelbusių šio tinklo sugeneruotus komentarus, profilio nuotraukos. Nuotraukoje matyti požymių, būdingų GAN sugeneruotam vaizdui.

Turinys

Šią operaciją sudarė kelios teminės kampanijos, kurių dauguma buvo daugiau ar mažiau susijusios su Gazos konfliktu ir platesniu žydų bei musulmonų tarpusavio santykių klausimu. Gegužę sustabdėme dalį į Indijos rinkimus orientuotos veiklos nepraėjus nė 24 valandoms nuo jos pradžios.

Vasarį paskelbtame atvirųjų šaltinių tyrime⁠(atsidaro naujame lange) aprašyta, kaip šis tinklas kritikavo JT pagalbos Palestinos pabėgėliams agentūrą UNRWA. Kovo mėn. DFRLab ataskaitoje⁠(atsidaro naujame lange) išskirtas į Kanadą orientuotas turinys, kuriame kritikuoti kampanijos įrašuose „radikaliais islamistais“ vadinti asmenys. Kita grupė daugiausia dėmesio skyrė Jungtinių Valstijų universitetams ir kaltino Palestiną palaikančius protestuotojus antisemitizmo bei terorizmo propagavimu. Ketvirtoji grupė daugiausia dėmesio skyrė Katarui ir vaizdavo jo investicijas JAV kaip grėsmę amerikietiškam gyvenimo būdui. Penktoji grupė kūrė socialinių tinklų įrašus hebrajų kalba. Juose paprastai buvo giriama profesinių sąjungų organizacija „Histadrut“ ir jos vadovybė. Galiausiai gegužę tinklas pradėjo generuoti į Indiją orientuotus komentarus, kuriuose kritikavo valdančiąją BJP partiją ir gyrė opozicinę Kongreso partiją.

Kartais tinklas, regis, pakeisdavo savo paskyrų tematiką, pavyzdžiui, anksčiau apie Kanadą skelbusios paskyros imdavo rašyti apie JAV, Indiją, „Histadrut“ ar kelias iš šių temų.

Trys komentarai, kuriuos 2024 m. gegužės 1–4 d. tinkle X paskelbė paskyra, ne kartą skelbusi šios kampanijos sugeneruotą turinį. Ankstyviausias įrašas (apačioje), regis, buvo bandymas sukurti tariamą asmenybę. Antrasis įrašas skirtas Kanadai; jame įterptas pagrindinės šio tinklo paskyros, orientuotos į Kanadą, įrašas. Trečiasis įrašas skirtas Indijai.

Trys komentarai, kuriuos 2024 m. gegužės 1–4 d. tinkle X paskelbė paskyra, ne kartą skelbusi šios kampanijos sugeneruotą turinį. Ankstyviausias įrašas (apačioje), regis, buvo bandymas sukurti tariamą asmenybę. Antrasis įrašas skirtas Kanadai; jame įterptas pagrindinės šio tinklo paskyros, orientuotos į Kanadą, įrašas. Trečiasis įrašas skirtas Indijai.

Dalis šio tinklo sukurto turinio socialiniuose tinkluose buvo skelbiama kaip atsakymai žinomiems abiejų politinio spektro pusių Vakarų veikėjams. Šie atsakymai paprastai visiškai nebuvo susiję su pradiniu įrašu. Pavyzdžiui, komentaras apie tai, kad Kataras „supirkinėja“ Ameriką, buvo paskelbtas kaip atsakymas į įrašą apie buvusio prezidento Trumpo muzikinius pomėgius.

Viršuje – Lauros Ingraham įrašas apie prezidento Trumpo muzikinius pomėgius. Apačioje – įrašas su šio tinklo sugeneruotu komentaru. Atkreipkite dėmesį į pradinio įrašo ir atsakymo auditorijos įsitraukimo rodiklių skirtumą.

Viršuje – Lauros Ingraham įrašas apie prezidento Trumpo muzikinius pomėgius. Apačioje – įrašas su šio tinklo sugeneruotu komentaru. Atkreipkite dėmesį į pradinio įrašo ir atsakymo auditorijos įsitraukimo rodiklių skirtumą.

Poveikio vertinimas

Panašu, kad „Zero Zeno“ veikla nesulaukė beveik jokio įsitraukimo, išskyrus paties tinklo netikras paskyras. (Daugelį paskyrų „Meta“ ir X jau išjungė, todėl dabartiniai įsitraukimo rodikliai gali neatspindėti viso vaizdo.)

Informacinės operacijos poveikį vertinant pagal „Breakout Scale“ skalę⁠(atsidaro naujame lange), kurioje operacijos vertinamos nuo 1 (žemiausias įvertinimas) iki 6 (aukščiausias), šią operaciją priskirtume 2 kategorijai: turinys skelbtas keliose platformose ir svetainėse, tačiau nėra įrodymų, kad jį būtų reikšmingai platinę tinklui nepriklausantys žmonės.

Su šios operacijos į Kanadą orientuota kampanija susijęs „YouTube“ kanalas. 2024 m. balandžio 25 d. jame buvo paskelbtas vienas vaizdo įrašas, nesulaukęs nė vienos peržiūros.

Su šios operacijos į Kanadą orientuota kampanija susijęs „YouTube“ kanalas. 2024 m. balandžio 25 d. jame buvo paskelbtas vienas vaizdo įrašas, nesulaukęs nė vienos peržiūros.

Požymiai

Nustatėme, kad toliau nurodyti domenai yra susiję su „Zero Zeno“ kampanijomis.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io