Operațiunea „Spamouflage”: activitate de influență asociată Chinei

Acest studiu de caz a fost publicat inițial în raportul OpenAI din mai 2024⁠(se deschide într-o fereastră nouă).

Am blocat un număr mic de conturi asociate operațiunii originare din China cunoscute sub numele de „Spamouflage”⁠(se deschide într-o fereastră nouă). Meta⁠(se deschide într-o fereastră nouă) a atribuit această operațiune unor „persoane asociate autorităților chineze de aplicare a legii”. FBI⁠(se deschide într-o fereastră nouă) a atribuit o parte din activitatea acestei operațiuni pe rețelele sociale unei unități din cadrul Ministerului Securității Publice din China.

Această rețea a vizat publicul global, în special membrii diasporei chineze și criticii guvernului chinez. A generat conținut în principal în chineză și, într-o măsură mai mică, în engleză, japoneză și coreeană.

Rețeaua a folosit modelele noastre pentru a depana cod, a solicita recomandări privind analiza rețelelor sociale, a cerceta știri și evenimente curente și a genera conținut publicat ulterior pe forumuri, bloguri și rețele sociale.

De exemplu, în 2023, rețeaua a folosit modelele noastre pentru a depana codul care configura tema WordPress a unui site, revealscum.com. Acest site publica în limba chineză critici și informații personale despre membrii diasporei chineze care criticau guvernul chinez. Site-ul îi numea pe acești critici „trădători”. Conținutul propriu-zis nu a fost generat folosind modelele noastre.

Campania a folosit modelele noastre și pentru a crea conținut publicat ulterior pe platforme de socializare și forumuri. De exemplu, la sfârșitul anului 2023, operațiunea a generat articole care acuzau Japonia că afectează mediul marin prin deversarea apelor uzate de la centrala Fukushima. Am identificat articolele pe platforme precum Medium, Blogspot și ameblo.jp.

În aprilie 2024, campania a publicat o serie de comentarii în engleză care o criticau pe disidenta chineză Cai Xia. Am identificat un cont X care a publicat comentariul inițial și un grup de alte conturi care au publicat restul comentariilor ca răspunsuri. Nu am observat niciun cont autentic care să le răspundă.

Campania a folosit modelele noastre și pentru cercetări din surse deschise, solicitând, de exemplu, informații despre obținerea conturilor de dezvoltator pe rețelele sociale sau rezumate ale postărilor publicate de criticii guvernului chinez.

Se pare că utilizarea inteligenței artificiale a reprezentat doar o mică parte din activitatea totală a rețelei. De exemplu, multe dintre conturile X și Medium pe care le-am identificat ca publicând conținut generat de modelele noastre au publicat un volum mai mare de conținut care părea creat manual în engleză și chineză, după cum indica, între altele, folosirea nefirească a limbii engleze. Aceste conturi au publicat conținutul atât înainte, cât și după comentariile generate de IA.

O mare parte din conținutul generat de această campanie era în limba chineză. Subiectele variau de la elogierea cooperării internaționale a guvernului chinez în aplicarea legii până la criticarea abuzurilor împotriva populațiilor indigene din Statele Unite. O parte din conținut critica guvernul SUA și Microsoft pentru dezvăluirea activității grupului chinez de hackeri cunoscut drept „Volt Typhoon”.

Alte materiale erau în limba engleză. Acestea îi criticau de obicei pe adversarii proeminenți ai guvernului chinez, precum actorul și activistul pentru Tibet Richard Gere și disidenta Cai Xia. Câteva articole generate la sfârșitul anului 2023 în engleză, japoneză, chineză, coreeană și rusă acuzau Japonia că poluează apele Pacificului prin deversările de la centrala nucleară Fukushima⁠(se deschide într-o fereastră nouă) — o temă recurentă a operațiunilor de influență chineze.

Un mic grup de activități s-a axat pe generarea unor comentarii pozitive în chineză despre vizita ministrului chinez al Securității Publice în Uzbekistan. Nu se știe ca Spamouflage să fi abordat anterior această temă; ea este relevantă în contextul atribuirii de către FBI⁠(se deschide într-o fereastră nouă) a unor activități anterioare ale operațiunii pe rețelele sociale Ministerului Securității Publice din China.

O parte din activitatea rețelei pare să fi reflectat interesele personale ale operatorilor. De exemplu, un operator a folosit modelele noastre pentru a căuta informații despre obiective foto. Un altul a folosit modelele noastre pentru a rezolva ceea ce pare să fi fost o temă de evaluare destinată membrilor Partidului Comunist Chinez.

Spamouflage este una dintre cele mai intens cercetate operațiuni de influență din lume de când a fost descrisă public pentru prima dată în 2019⁠(se deschide într-o fereastră nouă). Foarte puține dintre activitățile sale au ajuns vreodată, conform informațiilor disponibile, la un public autentic.

Utilizarea conținutului generat de IA nu pare să fi schimbat această dinamică. Dintre blogurile, articolele și conturile de pe rețelele sociale pe care le-am identificat în cadrul investigației, niciunul nu a obținut un număr mare de interacțiuni sau urmăritori reali. În unele cazuri, indicatorii disponibili arată că singurele vizualizări ale postărilor au provenit de la echipa noastră de investigație.

Folosind scara Breakout⁠(se deschide într-o fereastră nouă) pentru a evalua impactul operațiunilor de influență, pe o scară de la 1 (cel mai redus) la 6 (cel mai ridicat), am clasifica această operațiune în categoria 2: activitate de publicare pe numeroase platforme, dar fără dovezi că ar fi fost amplificată semnificativ de persoane din afara rețelei.

Am identificat următorul domeniu ca fiind asociat acestei campanii.

• revealscum.com