Operasyong “Mapanuyang Pagsusuri”: Impluwensiyang nagmula sa China

Unang inilathala ang case study na ito sa ulat ng OpenAI noong Hunyo 2025⁠(magbubukas sa bagong window).

Nag-ban kami ng mga ChatGPT account na natukoy naming gumagamit sa aming mga modelo para gumawa nang maramihan ng mga post sa social media na tumutugma sa aktibidad ng isang palihim na operasyong pang-impluwensiya. Sa aming imbestigasyon, nakita rin naming gumagawa ang mga account na ito ng mga panloob na pagsusuri sa pagganap.

Pangunahing nagbibigay ang mga account na ito ng mga prompt sa Chinese at nakatuon sa mga paksang pampolitika at heopolitikal na mahalaga sa China. Sinabi ng isang user sa isang prompt na nagtatrabaho siya para sa Chinese Propaganda Department; gayunman, wala kaming hiwalay na ebidensiyang magpapatunay sa pahayag na ito.

Dalawang pangunahing uri ng gawain ang isinagawa ng mga account na na-ban namin. Ang pinakamarami ay ang paggawa ng maiikling komento sa social media sa English at Chinese, at iilan sa Urdu. Natukoy naming marami sa mga komentong ito ang nai-post sa TikTok at X, at may ilan pang content na lumabas sa Reddit, Facebook, at iba’t ibang website.

Karaniwang nagsisimula ang ganitong padron sa isang komentong ipinopost ng “pangunahing” account, na kadalasa’y tila ginawa para lamang sa post na iyon, at sinusundan ng sunod-sunod na tugon mula sa ibang mga account. Tila nilayon ng gawaing ito na magmukhang likas at totoong pakikipag-ugnayan ang aktibidad.

Sa TikTok, gumamit ang mga account na nagkokomento ng mga screen name sa iba’t ibang wika at alpabeto, na kadalasa’y walang kaugnayan sa wika ng content na ipinost nila. Halimbawa, nag-post sa Urdu ang isang account na may pangalang Korean, habang nag-post sa English ang mga account na may pangalang Thai at Hebrew ng mga komentong ginawa ng network na ito. Sa X, karaniwang gumamit ang mga account na nagkokomento ng mga cartoon na profile image at, sa ilang kaso, ng mga pangalang nauugnay sa cryptocurrency.

Hindi gaanong aktibo ang network sa Facebook. Pangunahing nakatuon ang aktibidad nito sa paggawa ng mga pangalan at profile picture para sa dalawang Page na nagpanggap na mga organisasyon ng balita. Walang follower o like ang alinmang Page, at iilan lamang ang mga post ng bawat isa.

Paminsan-minsan, gumawa ang network ng mas mahahabang post sa Chinese o English. Natukoy namin ang isang ganitong post sa Reddit at dalawa pa sa iba’t ibang web forum. Ang ikalawang uri ng gawain ay ang paggamit ng ChatGPT para gumawa ng mga dokumentong tila panloob na patakaran o pagsusuri sa pagganap.

Iba’t ibang paksa ang tinalakay ng content sa social media na ginawa ng bantang aktor na ito, at lahat ay malapit na nakaayon sa mga heostratehikong interes ng China.

Nakatuon sa Taiwan ang ilang content, partikular na pinuntirya ang “Baligtad na Prente”⁠(magbubukas sa bagong window) (“逆統戰”), isang video game at board game na nakasentro sa Taiwan at naglalarawan ng paglaban sa Chinese Communist Party. Gumawa ang network ng dose-dosenang mapanuring komento sa Chinese tungkol sa laro, na sinundan ng mahabang artikulong nagsasabing umani ito ng malawakang pagtutol. Ito ang pinakanatatanging aktibidad ng operasyon: dahil dito, tinawag namin itong Operasyong “Mapanuyang Pagsusuri.”

Pinuntirya naman ng iba pang content sa English at Urdu ang aktibistang Pakistani na si Mahrang Baloch, na hayagang bumatikos sa mga pamumuhunan ng China sa Balochistan⁠(magbubukas sa bagong window). Nag-post ang isang TikTok account at Facebook Page na nauugnay sa network ng videong maling nag-akusa kay Baloch na lumabas sa isang pornograpikong pelikula. Pagkatapos, gumawa ang operasyon ng daan-daang maiikling komento sa dalawang wika upang magmukhang malawak ang pakikipag-ugnayan.

Nakatuon ang huling pangkat ng content sa pagpapasara sa U.S. Agency for International Development (USAID), at gumawa ito ng maiikling komentong pumupuri o bumabatikos sa hakbang. Ipinost ang mga komentong ito sa TikTok at X.

Panghuli, ginamit ng mga bantang aktor ang aming mga modelo upang gumawa ng mga dokumentong tila panloob, kabilang ang isang detalyadong sanaysay na isinulat sa estilo ng isang opisyal na dokumento sa pampublikong seguridad at isang pagsusuri sa pagganap na naglalarawan sa mga hakbang na ginawa upang itatag at patakbuhin ang operasyon.

Tila nagsisimula pa lamang ang operasyong ito nang pigilan namin ang paggamit nito sa aming mga modelo. Walang follower ang alinmang Facebook Page. Sa Reddit, nakakuha ng 44 na upvote ang isang post, habang hinarang o inalis ang dalawa pa sa mga subreddit kung saan ipinost ang mga iyon.

Mas iba-iba ang pakikipag-ugnayan sa X at TikTok; nakakuha ang dalawang TikTok video ng pinagsamang 25,000 like, habang karaniwang nakakuha ng humigit-kumulang 10,000 view ang bawat tweet ng pangunahing account ng operasyon. Gayunman, marami sa mga komento sa mga post na ito ang ginawa ng network gamit ang ChatGPT, na nagpapahiwatig na hindi tunay ang kahit bahagi ng pakikipag-ugnayan. Samakatuwid, dapat suriin nang may pag-iingat ang lahat ng bilang ng pakikipag-ugnayan.

Gamit ang Breakout Scale⁠(magbubukas sa bagong window) para sa epekto ng IO, tatayahin namin itong nasa mababang bahagi ng Kategorya 3 kung tunay ang mga bilang ng pakikipag-ugnayan sa X at TikTok. Ibababa namin ang pagtatayang ito kung may lumabas pang ebidensiyang sumusuporta sa palagay na hindi tunay ang karamihan sa mga like at view, gaya ng karamihan sa mga komento.