Operació "Spamouflage": activitat d’influència vinculada a la Xina

Aquest estudi de cas es va publicar originalment a l’informe de maig de 2024⁠(s'obre en una finestra nova) d’OpenAI.

Vam bloquejar un petit nombre de comptes associats amb l’operació d’origen xinès coneguda com a "Spamouflage"⁠(s'obre en una finestra nova). Meta⁠(s'obre en una finestra nova) ha atribuït aquesta operació a "persones vinculades a les forces de seguretat xineses". L’FBI⁠(s'obre en una finestra nova) va atribuir part de l’activitat d’aquesta operació a les xarxes socials a una unitat del Ministeri de Seguretat Pública de la Xina.

Aquesta xarxa s’adreçava a públics d’arreu del món, especialment a membres de la diàspora xinesa i crítics amb el govern xinès. Generava contingut principalment en xinès i, en menor mesura, en anglès, japonès i coreà.

La xarxa va utilitzar els nostres models per depurar codi, demanar assessorament sobre l’anàlisi de xarxes socials, investigar notícies i temes d’actualitat i generar contingut que després publicava en fòrums de blogs i xarxes socials.

Per exemple, el 2023 la xarxa va utilitzar els nostres models per depurar el codi que configurava el tema de WordPress d’un lloc web, revealscum.com. Aquest lloc web publicava en xinès crítiques i informació personal sobre membres de la diàspora xinesa que criticaven el govern xinès. Qualificava aquests crítics de "traïdors". El contingut en si no es va generar amb els nostres models.

Aquesta campanya també va utilitzar els nostres models per crear contingut que després es publicava en plataformes de xarxes socials i fòrums. Per exemple, a finals de 2023 l’operació va generar articles que acusaven el Japó de perjudicar el medi marí abocant aigües residuals de la central elèctrica de Fukushima. Vam identificar els articles en plataformes com Medium, Blogspot i ameblo.jp.

L’abril de 2024, la campanya va publicar una sèrie de comentaris en anglès que criticaven la dissident xinesa Cai Xia. Vam identificar un compte d’X que va publicar el comentari inicial i un grup d’altres comptes que van publicar la resta com a respostes. No vam observar que cap compte real els respongués.

La campanya també va utilitzar els nostres models per fer recerca amb fonts obertes, per exemple, sobre com sol·licitar comptes de desenvolupador a les xarxes socials o per demanar resums de publicacions de crítics amb el govern xinès.

L’ús de la intel·ligència artificial sembla haver representat només una petita part de la producció total de la xarxa. Per exemple, molts dels comptes d’X i Medium que vam identificar perquè publicaven contingut generat pels nostres models publicaven un volum superior de contingut que semblava creat manualment en anglès i xinès (com mostrava, per exemple, un ús poc idiomàtic de l’anglès). Van publicar aquest contingut tant abans com després dels comentaris generats per IA.

Gran part del contingut generat per aquesta campanya era en xinès. Els temes anaven des de l’elogi de la cooperació internacional del govern xinès en matèria policial fins a la crítica dels abusos contra els pobles indígenes dels Estats Units. Part del contingut criticava el govern dels EUA i Microsoft per haver exposat l’activitat del grup de pirates informàtics xinès conegut com a "Volt Typhoon".

Altres continguts eren en anglès. Normalment criticaven figures destacades contràries al govern xinès, com l’actor i activista pel Tibet Richard Gere i la dissident Cai Xia. Uns quants articles generats a finals de 2023 en anglès, japonès, xinès, coreà i rus acusaven el Japó de contaminar les aigües del Pacífic amb els abocaments de la central nuclear de Fukushima⁠(s'obre en una finestra nova), un tema recurrent de les operacions d’influència xineses.

Un petit grup d’activitat es va centrar a generar comentaris positius en xinès sobre una visita del ministre de Seguretat Pública de la Xina a l’Uzbekistan. No es té constància que Spamouflage hagués tractat abans aquest tema; resulta rellevant tenint en compte que l’FBI va atribuir⁠(s'obre en una finestra nova) part de l’activitat anterior d’aquesta operació a les xarxes socials al Ministeri de Seguretat Pública de la Xina.

Part de l’activitat de la xarxa sembla haver reflectit els interessos personals dels operadors. Per exemple, un operador va utilitzar els nostres models per investigar objectius fotogràfics. Un altre va utilitzar els nostres models per completar el que sembla que era un exercici d’avaluació per a membres del Partit Comunista Xinès.

Spamouflage ha estat una de les operacions d’influència més estudiades del món des que es va descriure públicament per primera vegada el 2019⁠(s'obre en una finestra nova). Gairebé mai s’ha informat que la seva activitat arribés a públics autèntics.

L’ús de contingut generat per IA no sembla haver canviat aquesta dinàmica. Entre els blogs, articles i comptes de xarxes socials que vam identificar durant la investigació, cap va obtenir un nombre elevat d’interaccions o seguidors reals. En alguns casos, els indicadors disponibles mostren que les úniques visualitzacions de les publicacions provenien del nostre equip d’investigació.

Si apliquem l’escala Breakout⁠(s'obre en una finestra nova) per avaluar l’impacte de les operacions d’influència, que les puntua de l’1 (mínim) al 6 (màxim), consideraríem que aquesta és una operació de categoria 2, caracteritzada per l’activitat de publicació en moltes plataformes, però sense proves d’una amplificació significativa per part de persones alienes a la xarxa.

Vam identificar el domini següent com a associat amb aquesta campanya.

• revealscum.com