Operācija „Zero Zeno”: ar Izraēlu saistīta ietekmes darbība

Šis gadījuma apraksts sākotnēji tika publicēts OpenAI 2024. gada maija⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām no Izraēlas pārvaldītu kontu kopu, ko izmantoja satura ģenerēšanai un rediģēšanai ietekmes operācijai platformās X, Facebook, Instagram un YouTube, kā arī tīmekļa vietnēs. Tīklu pārvaldīja Izraēlas politisko kampaņu vadības uzņēmums STOIC. Godinot stoicisma filozofijas skolas dibinātāju un atspoguļojot tīkla piesaistīto zemo iesaistes līmeni, mēs to iesaucām par „Zero Zeno”.

Šī operācija ar saturu angļu valodā un ivritā vērsās pie auditorijām Kanādā, Amerikas Savienotajās Valstīs un Izraēlā. Maija sākumā tā sāka ar saturu angļu valodā uzrunāt auditoriju Indijā. Šķiet, tā gatavojās īstenot arī uz auditoriju Ganā vērstu ietekmes operācijas kampaņu.

Operācija izmantoja mūsu modeļus, lai ģenerētu tīmekļa rakstus un sociālo tīklu komentārus, kurus pēc tam publicēja vairākās platformās, jo īpaši Instagram, Facebook un X.

Operācija izmantoja mūsu modeļus arī, lai pēc tādiem mainīgajiem kā vecums, dzimums un atrašanās vieta veidotu izdomātus sociālo tīklu personāžus un biogrāfijas, kā arī vāktu informāciju par cilvēkiem Izraēlā, kuri publiski komentēja Izraēlas arodbiedrību organizāciju Histadrut. Atbildot uz šiem vaicājumiem, mūsu modeļi atteicās sniegt personas informāciju.

Šī tīkla ģenerētais saturs tika publicēts vairākās sociālo tīklu platformās. Atlantic Council Digitālās kriminālistikas pētniecības laboratorijas⁠(atveras jaunā logā) veiktais atklāto avotu pētījums daļu šī satura identificēja platformās Facebook, Instagram un X; kad attiecīgie konti tika bloķēti, operācijas īstenotāji ieguva jaunus. Cits saturs parādījās četrās tīmekļa vietnēs, kas uzdevās par aktīvistu grupām, kuras pievēršas Gazas konfliktam un plašākiem ebreju un musulmaņu savstarpējo attiecību jautājumiem: uc4canada.com, the-good-samaritan.com, ufnews.io un nonagenda.com.

Dažos gadījumos identificējām šīs operācijas viltus kontus, kuri komentēja pašas operācijas publicētos sociālo tīklu ierakstus, visticamāk, cenšoties radīt auditorijas iesaistes iespaidu.

Daudzi sociālo tīklu konti, kas publicēja šī tīkla saturu, izmantoja profila attēlus, kuri, šķiet, bija izveidoti ar agrāku mākslīgā intelekta veidu — ģeneratīvajiem pretinieku tīkliem (GAN). Šādus attēlus var viegli lejupielādēt internetā. Lai gan šādus attēlus var viegli izveidot, mēs identificējām vairākus šī tīkla sociālo tīklu kontus, kuri izmantoja vienu un to pašu attēlu. Dažkārt uz vienu un to pašu sociālā tīkla ierakstu atbildēja divi vai vairāki konti ar vienādu profila attēlu.

Šī operācija bija sadalīta vairākās tematiskās kampaņās, no kurām vairums bija visai brīvi saistītas ar Gazas konfliktu un plašāko jautājumu par ebreju un musulmaņu savstarpējām attiecībām. Maijā mēs pārtraucām daļu uz Indijas vēlēšanām vērsto darbību nepilnas 24 stundas pēc tās sākuma.

Februārī veikts atklāto avotu pētījums⁠(atveras jaunā logā) aprakstīja, kā šis tīkls kritizēja ANO Palestīnas bēgļu palīdzības aģentūru UNRWA. DFRLab marta ziņojumā⁠(atveras jaunā logā) tika izcelts saturs, kas bija vērsts uz Kanādu un kritizēja cilvēkus, kurus kampaņas ierakstos dēvēja par tur esošajiem „radikālajiem islāmistiem”. Vēl viena kopa pievērsās Amerikas Savienoto Valstu universitātēm un apsūdzēja palestīniešus atbalstošos protestētājus antisemītisma un terorisma veicināšanā. Ceturtā kopa pievērsās Katarai, attēlojot tās ieguldījumus ASV kā draudus amerikāņu dzīvesveidam. Piektā kopa ģenerēja sociālo tīklu ierakstus ivritā. Tajos parasti slavēja arodbiedrību organizāciju Histadrut un tās vadību. Visbeidzot, maijā tīkls sāka ģenerēt komentārus, kas pievērsās Indijai, kritizēja valdošo BJP partiju un slavēja opozīcijā esošo Kongresa partiju.

Dažkārt tīkls, šķiet, mainīja savu kontu tematiku, piemēram, konti, kas iepriekš publicēja saturu par Kanādu, pievērsās ASV, Indijai, Histadrut vai vairākām no šīm tēmām.

Daļa šī tīkla radītā satura tika publicēta sociālajos tīklos, atbildot ievērojamām Rietumu personām no abām politiskā spektra pusēm. Šīs atbildes parasti nekādi nebija saistītas ar sākotnējo ierakstu. Piemēram, komentārs par to, ka Katara „uzpērk” Ameriku, tika publicēts kā atbilde uz ierakstu par bijušā prezidenta Trampa muzikālo gaumi.

Šķiet, „Zero Zeno” darbība gandrīz nemaz nepiesaistīja iesaisti, izņemot paša tīkla neautentiskos kontus. (Meta un X jau ir bloķējuši daudzus kontus, tāpēc pašreizējie iesaistes rādītāji var neatspoguļot pilnīgu ainu.)

Vērtējot ietekmes operācijas ietekmi ar Breakout Scale⁠(atveras jaunā logā), kur tās tiek vērtētas skalā no 1 (zemākais vērtējums) līdz 6 (augstākais vērtējums), mēs šo operāciju vērtētu kā 2. kategorijas operāciju: saturs tika publicēts vairākās platformās un tīmekļa vietnēs, taču nav pierādījumu, ka cilvēki ārpus tīkla būtu to būtiski pastiprinājuši.

Mēs identificējām tālāk norādītos ar „Zero Zeno” kampaņām saistītos domēnus.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io