Operácia „Posmešná recenzia“: vplyvová aktivita z Číny
OpenAI zablokovala účty, ktoré pomocou AI vytvárali príspevky kritizujúce taiwanskú osobnosť sociálnych médií a súvisiace témy z USA.
Táto prípadová štúdia bola pôvodne zverejnená v správe OpenAI z júna 2025(otvorí sa v novom okne).
Aktér
Zablokovali sme účty ChatGPT, pri ktorých sme zistili, že pomocou našich modelov hromadne vytvárali príspevky na sociálne médiá zodpovedajúce činnosti skrytej vplyvovej operácie. Počas vyšetrovania sme si tiež všimli, že tieto účty pripravovali interné hodnotenia výkonnosti.
Tieto účty zadávali príkazy najmä v čínštine a zameriavali sa na politické a geopolitické témy týkajúce sa Číny. Jeden používateľ v príkaze uviedol, že pracuje pre čínske oddelenie propagandy. Nemáme však nezávislé dôkazy, ktorými by sme mohli toto tvrdenie overiť.
Správanie
Účty, ktoré sme zablokovali, vykonávali dva hlavné druhy činnosti. Rozšírenejším z nich bolo vytváranie krátkych komentárov na sociálne médiá v angličtine a čínštine, pričom niekoľko bolo aj v urdčine. Mnohé z týchto komentárov sme našli na TikToku a X; ďalší obsah sa objavil na Reddite, Facebooku a rôznych webových stránkach.
Typický postup spočíval v uverejnení úvodného komentára z „hlavného“ účtu, ktorý bol často zjavne vytvorený len na tento účel, a následnej série odpovedí z iných účtov. Cieľom tohto správania bolo zrejme vytvoriť falošný dojem prirodzenej interakcie.
Príspevok na TikToku s názvom „Zrušenie #USAID je len #ZAČIATOK!“, ktorý súvisel s touto aktivitou. Názov kanála, text titulkov vo videu aj všetky komentáre viditeľné na tejto snímke obrazovky vytvorila táto sieť pomocou ChatGPT.
Účty komentujúce na TikToku používali prezývky v rôznych jazykoch a písmach, ktoré často nesúviseli s jazykom uverejneného obsahu. Účet s kórejským menom napríklad uverejnil komentár v urdčine, zatiaľ čo účty s thajskými a hebrejskými menami uverejňovali anglické komentáre vytvorené touto sieťou. Účty komentujúce na X zvyčajne používali kreslené profilové obrázky a v niektorých prípadoch mali názvy súvisiace s kryptomenami.
Príspevok na X a odpovede naň, ktoré táto sieť vytvorila pomocou ChatGPT.
Na Facebooku bola sieť menej aktívna. Jej činnosť spočívala najmä vo vytváraní názvov a profilových obrázkov pre dve stránky, ktoré sa vydávali za spravodajské médiá. Ani jedna stránka nemala sledovateľov ani označenia Páči sa mi to a každá obsahovala len niekoľko príspevkov.
Príspevok na Facebooku zdieľajúci video, ktoré podľa našich zistení pravdepodobne súviselo s touto operáciou.
Sieť príležitostne vytvárala aj dlhšie príspevky v čínštine alebo angličtine. Jeden takýto príspevok sme našli na Reddite a ďalšie dva na rôznych internetových fórach. Druhý druh činnosti spočíval v používaní ChatGPT na vytváranie dokumentov, ktoré zrejme slúžili na interné hodnotenie zásad alebo výkonnosti.
Výstupy
Obsah, ktorý tento aktér hrozby vytváral pre sociálne médiá, sa venoval rôznym témam úzko súvisiacim s geostrategickými záujmami Číny.
Časť obsahu sa zameriavala na Taiwan, konkrétne na „Obrátený front“(otvorí sa v novom okne) („逆統戰“), videohru a stolovú hru zameranú na Taiwan, ktorá zobrazuje odpor proti Komunistickej strane Číny. Sieť vytvorila desiatky kritických komentárov o hre v čínštine a následne aj rozsiahly článok, podľa ktorého hra vyvolala všeobecné pobúrenie. Išlo o najcharakteristickejšiu činnosť operácie, preto sme ju nazvali „Posmešná recenzia“.
Ďalší obsah v angličtine a urdčine bol namierený proti pakistanskej aktivistke Mahrang Balochovej, ktorá verejne kritizovala čínske investície v Balúčistane(otvorí sa v novom okne). Účet na TikToku a stránka na Facebooku prepojené s touto sieťou uverejnili video, ktoré Balochovú nepravdivo obviňovalo z účinkovania v pornografickom filme. Operácia potom v oboch jazykoch vytvorila stovky krátkych komentárov, aby predstierala rozsiahlu interakciu.
Pobúrené komentáre pod videom Mahrang Balochovej na TikToku.
Posledná skupina obsahu sa zameriavala na zrušenie americkej Agentúry pre medzinárodný rozvoj (USAID) a zahŕňala krátke komentáre, ktoré tento krok chválili alebo kritizovali. Tieto komentáre boli uverejnené na TikToku a X.
Príspevky na X, ktoré spájali otázku pomoci s otázkou ciel a ktoré táto sieť vytvorila pomocou ChatGPT.
Aktéri hrozby napokon pomocou našich modelov vytvorili zrejme interné dokumenty vrátane podrobnej eseje napísanej v štýle oficiálneho dokumentu verejnej bezpečnosti a hodnotenia výkonnosti opisujúceho kroky podniknuté na vytvorenie a riadenie operácie.
Vplyv
Keď sme tejto operácii znemožnili používať naše modely, bola zrejme ešte len v začiatkoch. Ani jedna zo stránok na Facebooku nemala sledovateľov. Jeden príspevok na Reddite získal 44 kladných hlasov, zatiaľ čo ďalšie dva príslušné subreddity zablokovali alebo odstránili.
Snímka príspevku z účtu na Reddite, ktorý sme označili za súčasť tejto siete. Vidno na nej, že príspevok odstránili filtre platformy.
Miera interakcie na X a TikToku bola rôznorodejšia: dve videá na TikToku získali spolu 25 000 označení Páči sa mi to, zatiaľ čo príspevky hlavného účtu tejto operácie na X mali zvyčajne približne 10 000 zobrazení. Mnohé komentáre pod týmito príspevkami však vytvorila táto sieť pomocou ChatGPT, čo poukazuje aspoň na určitú mieru neautentickej interakcie. Všetky údaje o interakcii preto treba posudzovať obozretne.
Ak by údaje o interakcii na X a TikToku boli autentické, podľa stupnice vplyvu vplyvových operácií Breakout Scale(otvorí sa v novom okne) by sme túto operáciu zaradili na spodnú hranicu kategórie 3. Toto hodnotenie by sme znížili, ak by sa objavili ďalšie dôkazy podporujúce hypotézu, že väčšina označení Páči sa mi to a zobrazení bola rovnako ako väčšina komentárov neautentická.