Operacija »Črta z devetimi dolgimi pomišljaji«: dejavnost regionalnega vplivanja

Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz oktobra 2025⁠(odpre se v novem oknu).

Blokirali smo majhno omrežje računov ChatGPT, ki je bilo morda povezano s prikrito operacijo vplivanja iz Kitajske in je naše modele uporabljalo za ustvarjanje vsebin za prikrito vplivanje na več platformah. Računi so večinoma ustvarjali objave v angleščini o domnevnem vplivu Vietnama na okolje v Južnokitajskem morju, objave v angleščini, ki so kritizirale filipinskega predsednika Ferdinanda Marcosa, ter objave v kantonščini o političnih osebnostih in aktivistih hongkonškega prodemokratičnega gibanja. V manjšem obsegu je operacija ustvarjala tudi vsebine v angleščini o političnih vprašanjih v ZDA.

Računi družbenih omrežij, ki so širili te vsebine, so bili nekoliko podobni dolgotrajni operaciji iz Kitajske, znani kot »Spamouflage«, o uporabi ChatGPT v njej pa smo pisali maja 2024. Kljub temu med operacijama nismo odkrili tehničnih povezav. Nekatere videoposnetke, objavljene v najnovejših objavah, je Avstralski inštitut za strateško politiko že prej povezal z operacijo, ki je bila prav tako podobna prejšnjim dejavnostim Spamouflage.

Zdi se, da se je omrežje osredotočalo na množično ustvarjanje objav na družbenih omrežjih o državah, ki imajo s Kitajsko ozemeljske spore v Južnokitajskem oziroma Zahodnofilipinskem morju. Kitajska zahteva suverenost nad večino tega območja na podlagi obsežne razmejitve, znane kot »črta devetih črtic«. Njena veljavnost je bila izpodbijana po mednarodnem pravu, Vietnam, Filipini in druge države pa jo zavračajo. Zaradi tega konteksta in uporabe besedil, ustvarjenih z umetno inteligenco, ki so v objavah vsebovala dolge pomišljaje, smo operacijo poimenovali »Črta z devetimi dolgimi pomišljaji«. Te objave so se večinoma širile na omrežju X.

Tvit z vsebino – in dolgim pomišljajem –, ki jo je ta operacija ustvarila z našimi modeli.

Akterji naših modelov niso uporabljali le za ustvarjanje komentarjev na družbenih omrežjih, temveč tudi za nekatere raziskovalne in izvidniške naloge. Med drugim so iskali nišne bloge in forume ter manj regulirane spletne forume in družbena omrežja v Evropi, Ameriki ali jugovzhodni Aziji. Poleg tega so zahtevali sezname pogostih tibetanskih imen. Takšno vedenje smo opazili tudi v drugih primerih, ko so ustvarjali imena za nepristne račune Operatorjev na družbenih omrežjih. Ta dejavnost je bila podobna uporabi običajnih iskalnikov in je prinesla podobne rezultate. To kaže, da je uporaba umetne inteligence za raziskovanje in ustvarjanje vsebin akterjem grožnje omogočila predvsem več udobja, ne pa nujno tudi večjih zmogljivosti.

Novost pri tem omrežju so bile prošnje za nasvete o strategijah rasti na družbenih omrežjih, med drugim o tem, kako začeti izziv na TikToku in druge spodbuditi k objavljanju vsebin s ključnikom #MyImmigrantStory. Gre za že dolgo razširjen ključnik, katerega priljubljenost je operacija verjetno želela izkoristiti. Naš model so prosili, naj najprej predlaga zamisli in nato pripravi prepis za objavo na TikToku ter priporoči spremljevalno glasbo in slike. S tehnikami preiskovanja odprtih virov smo prepoznali vsebino, objavljeno na TikToku.

Objava na TikToku z besedilom, ki ga je ta operacija ustvarila z našimi modeli.

Teme angleških objav na družbenih omrežjih, ki jih je ustvarjalo omrežje, so segale od domnevnega vpliva Vietnama na okolje v Južnokitajskem morju do krize s fentanilom v ZDA. Številne objave so trdile, da so filipinskega predsednika Marcosa zalotili pri uživanju drog in da naj bi uporabljal taktike prirejanja volitev. Videoposnetka, objavljenega ob trditvah o Marcosovi uporabi drog, niso ustvarili naši modeli. Filipinska vlada ga je že prej označila za globoki ponaredek oziroma digitalno spremenjen posnetek. Številni računi na omrežju X, ki so objavljali vsebine, ustvarjene z našimi modeli, so že onemogočeni.

Besedilo tvita, ki ga je ustvarila ta operacija in trdi, da so filipinskega predsednika Marcosa zalotili v »mamilarskem škandalu«.

Besedilo tvita, ki ga je ustvarila ta operacija in trdi, da je predsednik Marcos uporabljal taktike prirejanja volitev.

Računi so zahtevali tudi obsežne sklope komentarjev v kantonščini, ki so bili objavljeni na omrežjih X in Instagram ter so kritizirali ali žalili politične osebnosti in aktiviste hongkonškega prodemokratičnega gibanja, kot so Jimmy Lai, Nathan Law in Agnes Chow. Zdi se, da so objave skušale te posameznike diskreditirati tako, da so jih prikazovale kot zločince ali izdajalce. Druge objave so podpirale hongkonške zakone o nacionalni varnosti.

V enem nenavadnem primeru je Operator na omrežju X objavil kritične komentarje o hongkonških prodemokratičnih političnih osebnostih, nato pa ustvaril odgovor na lastne komentarje, v katerem jih je pohvalil. Kritiko in odgovor sta na omrežju X objavila dva različna računa.

Podporni odgovor, ki ga je ustvarila ta operacija, na kritični tvit drugega računa v operaciji. Izvirni tvit se glasi: »Ali lahko Jimmy Lai in Jeffrey Ngo zgolj s pridobitvijo tako imenovanega ‚azila‘ v tujini opereta svoje ime? 🤔 Zločinci, odgovorni za kaos v Hongkongu, niso junaki, temveč svojo identiteto ‚ubežnikov‘ le zavijajo v izraz ‚politični begunci‘! Vse se vrača, vse se plača – prej ali slej boste morali poravnati račune; ‚karta za brezplačen izhod iz zapora‘ preprosto ne obstaja.« Odgovor se glasi: »Ta človeka imata pogum, da stopita naprej in povesta resnico, kar je vsaj veliko svetlejše od sedanjega okolja v Hongkongu, kjer vsi molčijo.« Vse odzive na izvirne tvite so prispevali računi, ki jih je upravljalo to omrežje.

Kljub številnim komentarjem na družbenih omrežjih, ustvarjenim na več platformah, to operacijo po lestvici Breakout Scale za ocenjevanje vpliva informacijskih operacij uvrščamo v 2. kategorijo: dejavnost na več platformah brez širšega prodora ali z minimalnim odzivom. Večina objav in računov na družbenih omrežjih je prejela zelo malo odzivov ali pa sploh nobenega. Na objave tega omrežja na platformah X in Instagram so pogosto odgovarjali ali jih delili le drugi računi družbenih omrežij, ki so jih nadzorovali Operatorji istega omrežja.

Osebnosti, ki so jih uporabljali računi na družbenih omrežjih, so bile očitno usklajene in neprepričljive. Kazale so vedenjske značilnosti, podobne drugim prikritim operacijam vplivanja iz Kitajske: objavljale so ključnike, slike ali videoposnetke iz preteklih operacij ter za profilne fotografije uporabljale arhivske slike oziroma privzeta uporabniška imena, zato jih je bilo mogoče zlahka prepoznati. Njihovo vztrajnost in obseg delovanja na različnih platformah je prepoznal Philstar.com, ki je neodvisno odkril del omrežja na platformi X in o njem poročal. Ta del omrežja je deloval še naprej, tudi ko smo blokirali njegove račune ChatGPT.