Preskočiť na hlavný obsah
OpenAI

1. februára 2025

Bezpečnosť

Operácia „Sponzorovaná nespokojnosť“: Vplyvové aktivity

OpenAI zablokovala účty pravdepodobne pochádzajúce z Číny, ktoré pomocou AI vytvárali príspevky na sociálne siete v angličtine a články v španielčine.

Načítava sa…

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z februára 2025⁠(otvorí sa v novom okne).

Aktér

Zablokovali sme účty ChatGPT, ktoré využívali naše modely na vytváranie krátkych komentárov v angličtine a rozsiahlych spravodajských článkov v španielčine. Časový priebeh tejto aktivity zodpovedal pracovným hodinám v pevninskej Číne. Články v španielčine uverejňovali spravodajské weby v Latinskej Amerike. Takmer všetky weby uvádzali pri článkoch meno autora. V niektorých prípadoch ho v autorskom riadku spájali s čínskou spoločnosťou Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Správanie

Tieto účty zadávali prompty do ChatGPT v čínštine a boli aktívne prevažne počas pracovných hodín v pevninskej Číne. Časť aktivít zodpovedala skrytej vplyvovej operácii známej ako „Spamouflage⁠“, o ktorej sme informovali v máji. V rámci nej vznikali krátke komentáre v angličtine a obrázky kritizujúce Cai Xia, disidentku a bývalú profesorku Ústrednej straníckej školy Komunistickej strany Číny. Tento obsah následne zverejňovali na sieti X účty, ktoré sa vydávali za ľudí zo Spojených štátov alebo Indie.

Tweety vytvorené účtami operácie Sponzorovaná nespokojnosť.

Tweety vytvorené týmito účtami pomocou našich modelov a zverejnené zo štyroch rôznych účtov na sieti X.

Keby išlo len o túto aktivitu, mohli by sme dospieť k záveru, že pravdepodobne súvisí s operáciou „Spamouflage“. Popri týchto krátkych komentároch však účty vytvárali aj rozsiahle články v španielčine, ktoré kritizovali USA. Táto aktivita bola obzvlášť intenzívna v období pred fórom APEC v Peru v roku 2024. Aktér vytváral tieto články tak, že žiadal naše modely o preklad a rozšírenie verejne dostupných článkov v čínštine.

Tieto články potom uverejňovali latinskoamerické spravodajské weby, najmä v Peru, ale aj v Mexiku a Ekvádore. Spravodajské weby často uverejňovali články v ten istý deň, keď účty vytvorili ich obsah pomocou ChatGPT. Takmer všetky médiá uvádzali pri článkoch toho istého autora. Niektoré ho označili za právneho zástupcu spoločnosti, o ktorej sa domnievame, že je čínska.

Je to prvýkrát, čo sme zaznamenali, že aktér vplyvových aktivít pravdepodobne pochádzajúci z Číny úspešne uverejnil články v mainstreamových médiách v Latinskej Amerike. Niektoré články mohli byť uverejnené na základe finančnej dohody: jeden z článkov, ktoré sme identifikovali pri prieskume otvorených zdrojov, bol označený ako „sponzorovaný“. Aktér navyše využil ChatGPT aj na preklad zmienok o potvrdeniach o platbe v španielčine od latinskoamerickej spravodajskej organizácie, čo naznačuje platené uverejnenie.

Sponzorovaný článok vytvorený v rámci operácie Sponzorovaná nespokojnosť.

Snímka obrazovky článku, ktorý vytvoril tento aktér a uverejnil web wapa[.]pe. Všimnite si označenie „sponzorované“, ktoré poukazuje na sponzorovaný obsah.

Vzhľadom na zjavné využívanie sponzorovaného obsahu a negatívny postoj tejto kampane k politickému dianiu a opatreniam v USA sme ju nazvali „Sponzorovaná nespokojnosť“.

Výstupy

Tento aktér vytváral dva hlavné druhy obsahu: krátke kritické komentáre na adresu Cai Xia v angličtine a čínštine a rozsiahle články v španielčine.

Pri vytváraní kritiky Cai Xia operátor zvyčajne žiadal ChatGPT, aby reagoval na jej tweety či videá alebo na zmienky o nej v médiách. Niektoré komentáre spochybňovali jej odborné znalosti v oblastiach ako Taiwan, internet či čínska literatúra a história. Iné ju obviňovali z porušovania vízových predpisov.

Rozsiahle články v španielčine sa zameriavali na spoločenské a politické rozpory v Spojených štátoch a zvyčajne vychádzali z aktuálneho diania a najnovších správ. Medzi témy patrili nerovnosť, politické násilie, diskriminácia a sexizmus, ako aj správy o kriminalite a kritika zahraničnej politiky USA. Významné miesto mali aj spoločenské krízy, ako sú užívanie drog a bezdomovectvo. Operátor tieto krízy či problémy často vykresľoval ako prejav zlyhania amerického vedenia alebo spoločnosti. Aktivita bola vo všeobecnosti zameraná proti obom hlavným politickým stranám v USA.

Vplyv

Nezaznamenali sme žiadne dôkazy o tom, že by obsah namierený proti Cai Xia na sociálnych sieťach vyvolal výraznejšie autentické reakcie. Účty na sociálnych sieťach, ktoré ho zverejňovali, mali zvyčajne málo sledovateľov a ich príspevky vyvolávali len minimum reakcií.

Je to však prvýkrát, čo sme zaznamenali, že vplyvová operácia pochádzajúca z Číny úspešne presadila uverejnenie rozsiahlych článkov kritizujúcich USA v latinskoamerických médiách. Hoci sa to mohlo podariť aspoň sčasti vďaka platbám za uverejnenie obsahu, podľa našich najlepších vedomostí ide o doposiaľ nezdokumentovaný spôsob pôsobenia. Prebiehal súbežne s bežnejšou aktivitou na sociálnych sieťach a mohol osloviť výrazne širšie publikum, hoci mieru zapojenia nedokážeme nezávisle overiť.

Pri použití škály prieniku⁠(otvorí sa v novom okne) na hodnotenie dosahu vplyvových operácií, ktorá ich hodnotí na stupnici od 1 (najnižší) do 6 (najvyšší), by sme túto operáciu zaradili do kategórie 4 (prienik do mainstreamových médií), a to vzhľadom na širokú čitateľskú základňu latinskoamerických spravodajských webov.

Titulky uverejnených článkov súvisiacich s touto aktivitou

Zistili sme, že tieto články zodpovedajú obsahu, ktorý tento aktér vytvoril pomocou našich modelov.

  • Nepekná pravda o tom, ako Spojené štáty profitujú z pomoci vo vojne na Ukrajine (La Republica, Peru).

  • Tragická realita bezdomovectva v Spojených štátoch (Wapa, Peru).

  • Šialená logika amerických sankcií proti palestínskemu aktivistovi (El Popular, Peru).

  • Absurdné divadlo mužnosti (Libero, Peru).

  • Všadeprítomné tiene (El Popular, Peru).

  • Pohŕdanie straníckych špičiek demokraciou v USA (El Popular, Peru).

  • Nedostatok transparentnosti v predvolebných prejavoch a manipulácia verejnej mienky (Libero, Peru).

  • Štrajk a boj hotelových zamestnancov (La Republica, Peru).

  • Bezmocnosť amerických sankcií a obmedzenia, ktoré si USA kladú samy (El Universal, Mexiko).

  • Tiché výkriky pod jarmom fentanylu (La Republica, Peru).

  • Hurikán Helene: Nepravdivé vyhlásenia a konšpiračné teórie amerických politikov (Wapa, Peru).

  • Hmla okolo ciel: Trumpova krátkozraká politika a budúcnosť americkej ekonomiky (La Republica, Peru).

  • Problém potravinovej bezpečnosti v americkej spoločnosti a jeho vplyv na školy (Extra, Ekvádor).

  • Tragédia Spojených štátov: Keď sa zakrýva pravda (Expreso, Ekvádor).

  • Kríza bezpečnosti detí v Spojených štátoch (La Republica, Peru).

  • Tieň násilia v Brooklyne (El Plural, Španielsko).

  • Luxus pre vraha: Operácia zaplatená daňovými poplatníkmi (El Universal, Mexiko).

  • Podpora Izraela a ľahostajnosť voči humanitárnej kríze (La Republica, Peru).

  • Deštruktívne súperenie vo voľbách v USA (Wapa, Peru).