Operació "Zero Zeno": activitat d'influència vinculada a Israel

Aquest estudi de cas es va publicar originalment a l'informe de maig de 2024⁠(s'obre en una finestra nova) d'OpenAI.

Vam bloquejar un grup de comptes operats des d'Israel que s'utilitzaven per generar i editar contingut per a una operació d'influència que abastava X, Facebook, Instagram, llocs web i YouTube. La xarxa estava gestionada per STOIC, una empresa israeliana de gestió de campanyes polítiques. En honor del fundador de l'escola filosòfica estoica, i per reflectir els baixos nivells d'interacció que va atreure la xarxa, l'hem anomenada "Zero Zeno".

Aquesta operació es dirigia a públics del Canadà, els Estats Units i Israel amb contingut en anglès i hebreu. A principis de maig, va començar a dirigir-se al públic de l'Índia amb contingut en anglès. També sembla que es preparava per llançar una campanya d'operacions d'influència dirigida al públic de Ghana.

L'operació va utilitzar els nostres models per generar articles web i comentaris per a xarxes socials que després es publicaven en diverses plataformes, sobretot Instagram, Facebook i X.

L'operació també va utilitzar els nostres models per crear personatges i biografies ficticis per a xarxes socials a partir de variables com l'edat, el gènere i la ubicació, i per investigar persones d'Israel que havien comentat públicament sobre el sindicat israelià Histadrut. Els nostres models es van negar a proporcionar informació personal en resposta a aquestes instruccions.

El contingut generat per aquesta xarxa es va publicar en diverses plataformes de xarxes socials. Una investigació de fonts obertes del Laboratori de Recerca Forense Digital de l'Atlantic Council⁠(s'obre en una finestra nova) va identificar part del seu contingut a Facebook, Instagram i X; quan es van desactivar aquells comptes, l'operació en va adquirir de nous. Altres continguts van aparèixer en quatre llocs web que es feien passar per grups activistes centrats en el conflicte de Gaza i en qüestions més àmplies sobre les relacions entre persones de fe jueva i musulmana: uc4canada.com, the-good-samaritan.com, ufnews.io i nonagenda.com.

En alguns casos, vam detectar comptes falsos d'aquesta operació que comentaven publicacions a les xarxes socials fetes per la mateixa operació, probablement per intentar donar la impressió que el públic hi interactuava.

Molts dels comptes de xarxes socials que publicaven contingut d'aquesta xarxa utilitzaven imatges de perfil que semblen haver estat creades amb un tipus anterior d'intel·ligència artificial: les xarxes generatives antagòniques (GAN). Aquestes imatges es poden descarregar fàcilment d'Internet. Tot i la facilitat amb què es poden crear aquestes imatges, vam identificar diversos comptes de xarxes socials d'aquesta xarxa que utilitzaven la mateixa fotografia. De vegades, dos o més comptes amb la mateixa imatge de perfil responien a la mateixa publicació a les xarxes socials.

Aquesta operació es dividia en diverses campanyes temàtiques, la majoria relacionades vagament amb el conflicte de Gaza i amb la qüestió més àmplia de les relacions entre persones de fe jueva i musulmana. Al maig, vam interrompre una activitat centrada en les eleccions de l'Índia menys de 24 hores després que comencés.

Una investigació de fonts obertes publicada al febrer⁠(s'obre en una finestra nova) descrivia com aquesta xarxa criticava l'agència de l'ONU per als refugiats de Palestina, l'UNRWA. L'informe del DFRLab publicat al març⁠(s'obre en una finestra nova) destacava contingut centrat en el Canadà que criticava les persones que les publicacions de la campanya qualificaven d'"islamistes radicals". Un altre grup se centrava en universitats dels Estats Units i acusava els manifestants propalestins de promoure l'antisemitisme i el terrorisme. Un quart grup se centrava en Qatar i presentava les seves inversions als Estats Units com una amenaça per a l'estil de vida nord-americà. Un cinquè grup generava publicacions en hebreu per a xarxes socials. Normalment, aquestes publicacions elogiaven l'organització sindical Histadrut i els seus dirigents. Finalment, al maig, la xarxa va començar a generar comentaris centrats en l'Índia que criticaven el BJP, el partit governant, i elogiaven el partit opositor Congrés.

De vegades, sembla que la xarxa canviava els seus comptes d'un tema a un altre; per exemple, comptes que abans havien publicat sobre el Canadà passaven a centrar-se en els Estats Units, l'Índia o la Histadrut, o en més d'un d'aquests temes.

Part del contingut creat per aquesta xarxa es va publicar a les xarxes socials en resposta a figures occidentals destacades de tots dos costats de l'espectre polític. En general, aquestes respostes no tenien cap relació amb la publicació original. Per exemple, es va publicar un comentari sobre com Qatar estava "comprant" els Estats Units en resposta a una publicació sobre les preferències musicals de l'expresident Trump.

Sembla que l'activitat de Zero Zeno va generar poca o cap interacció, tret de la dels seus propis comptes falsos. (Meta i X ja han desactivat molts comptes, de manera que les xifres actuals d'interacció potser no ofereixen una visió completa.)

Si fem servir la Breakout Scale⁠(s'obre en una finestra nova) per avaluar l'impacte de les operacions d'influència, que les puntua en una escala de l'1 (més baix) al 6 (més alt), consideraríem que aquesta és una operació de categoria 2, caracteritzada per l'activitat de publicació en diverses plataformes i llocs web, però sense proves que persones alienes a la xarxa n'hagin amplificat significativament el contingut.

Vam identificar els dominis següents com a associats a les campanyes de Zero Zeno.

• nonagenda.com

• the-good-samaritan.com

• uc4canada.com

• ufnews.io