Aðgerðin „Níu–langstrika línan“: Svæðisbundin áhrifastarfsemi

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá október 2025⁠(opnast í nýjum glugga).

Við lokuðum litlu neti ChatGPT‑reikninga sem mögulega tengdust leynilegri áhrifaaðgerð frá Kína og notuðu líkön okkar til að búa til efni fyrir leynilega áhrifaaðgerð á mörgum miðlum. Reikningarnir bjuggu aðallega til samfélagsmiðlafærslur á ensku um meint umhverfisáhrif Víetnams í Suður-Kínahafi, færslur á ensku sem gagnrýndu Ferdinand Marcos, forseta Filippseyja, og færslur á kantónsku um stjórnmálamenn og aðgerðasinna sem tengjast lýðræðishreyfingunni í Hong Kong. Í minna mæli bjó aðgerðin einnig til efni á ensku um bandarísk stjórnmál.

Samfélagsmiðlareikningarnir sem dreifðu efninu líktust að nokkru leyti langvarandi aðgerð frá Kína sem nefnist „Spamouflage“ og við fjölluðum um notkun hennar á ChatGPT í maí 2024. Við fundum þó engin tæknileg tengsl milli aðgerðanna. Ástralska stofnunin Australian Strategic Policy Institute hafði áður tengt sum myndskeiðanna í nýjustu færslunum við aðgerð sem einnig líktist fyrri starfsemi Spamouflage.

Netið virtist einkum einbeita sér að fjöldaframleiðslu samfélagsmiðlafærslna um ríki sem eiga í landhelgisdeilum við Kína í Suður-Kínahafi/Vestur-Filippseyjahafi. Kína gerir tilkall til fullveldis yfir stærstum hluta svæðisins með víðtækri markalínu sem nefnist „níu strika línan“. Tilkallinu hefur verið mótmælt á grundvelli alþjóðalaga og því hafnað af Víetnam, Filippseyjum og fleiri ríkjum. Í ljósi þessa samhengis og þess að gervigreindartexti aðgerðarinnar innihélt langstrik höfum við nefnt hana „Níu—langstrika línuna“. Færslunum var aðallega dreift á X.

Tíst með efni – og langstriki – sem aðgerðin bjó til með líkönum okkar.

Auk þess að búa til athugasemdir á samfélagsmiðlum notuðu gerendurnir líkön okkar við rannsóknir og könnun. Þar á meðal var leitað að sérhæfðum bloggum og umræðusvæðum, sem og umræðusvæðum og samfélagsmiðlum í Evrópu, Ameríku eða Suðaustur-Asíu þar sem eftirlit er minna. Þau báðu einnig um lista yfir algeng tíbetsk nöfn. Við höfum séð slíka hegðun í öðrum tilvikum þar sem nöfn voru búin til fyrir óekta samfélagsmiðlareikninga stjórnenda. Þessi starfsemi líktist notkun hefðbundinna leitarvéla og skilaði áþekkum niðurstöðum. Það bendir til þess að notkun ógnargerendanna á gervigreind við rannsóknir og efnisgerð hafi aukið þægindi en ekki endilega getu þeirra.

Nýstárleg notkun netsins fólst í að óska eftir ráðleggingum um leiðir til að stækka á samfélagsmiðlum, meðal annars hvernig mætti setja af stað TikTok-áskorun og fá aðra til að birta efni með myllumerkinu #MyImmigrantStory. Merkið hefur lengi verið útbreitt og aðgerðin reyndi líklega að nýta vinsældir þess. Þau báðu líkan okkar fyrst um hugmyndir og síðan um að semja handrit að TikTok-færslu, auk tillagna að bakgrunnstónlist og myndum með færslunni. Með aðferðum sem byggja á opnum heimildum fundum við efnið sem birt var á TikTok.

TikTok-færsla með texta sem aðgerðin bjó til með líkönum okkar.

Umfjöllunarefni ensku samfélagsmiðlafærslna netsins voru allt frá meintum umhverfisáhrifum Víetnams í Suður-Kínahafi til fentanýlkrísunnar í Bandaríkjunum. Í mörgum færslum var því haldið fram að Marcos, forseti Filippseyja, hefði verið staðinn að fíkniefnaneyslu og beitt aðferðum til að hagræða kosningum. Myndskeiðið sem fylgdi færslum um meinta fíkniefnaneyslu Marcosar var ekki búið til með líkönum okkar. Stjórnvöld á Filippseyjum höfðu áður fordæmt það sem djúpfölsun eða stafræna fölsun. Mörgum X-reikninganna sem birtu efni frá líkönum okkar hefur þegar verið lokað.

Tíst sem aðgerðin bjó til og hélt því fram að Marcos, forseti Filippseyja, hefði verið staðinn að „fíkniefnahneyksli“.

Tíst sem aðgerðin bjó til og hélt því fram að Marcos forseti hefði beitt aðferðum til að hagræða kosningum.

Reikningarnir óskuðu einnig eftir stórum söfnum athugasemda á kantónsku sem voru birtar á X og Instagram. Þar voru stjórnmálamenn og aðgerðasinnar tengdir lýðræðishreyfingunni í Hong Kong gagnrýndir eða niðurlægðir, svo sem Jimmy Lai, Nathan Law og Agnes Chow. Færslurnar virðast hafa átt að grafa undan trúverðugleika þeirra með því að lýsa þeim sem glæpamönnum eða svikurum. Aðrar færslur studdu þjóðaröryggislög Hong Kong.

Í einu óvenjulegu tilviki birti stjórnandi gagnrýnar athugasemdir um stjórnmálamenn úr lýðræðishreyfingunni í Hong Kong á X og bjó síðan til svar við eigin athugasemdum þar sem sömu einstaklingum var hrósað. Gagnrýnin og svarið voru birt af tveimur ólíkum reikningum á X.

Jákvætt svar sem aðgerðin bjó til við gagnrýnu tísti frá öðrum reikningi hennar. Upprunalega tístið hljóðar svo: „Geta Jimmy Lai og Jeffrey Ngo bara hvítþvegið sig með því að fá svokallað ‚hæli‘ erlendis? 🤔 Glæpamennirnir sem ollu óreiðunni í Hong Kong eru engar hetjur; þeir nota bara ‚pólitískur flóttamaður‘ til að dulbúa stöðu sína sem ‚flóttamenn undan réttvísinni‘! Allt kemur í bakið á manni og fyrr eða síðar þarf að gjalda; það er einfaldlega ekkert til sem heitir ‚frítt úr fangelsi‘.“ Svarið hljóðar svo: „Þessir tveir hafa hugrekki til að stíga fram og segja sannleikann, sem er að minnsta kosti mun bjartara en núverandi ástand í Hong Kong, þar sem allt er þaggað niður.“ Athugið að öll viðbrögð við upprunalegu tístunum komu frá reikningum sem þetta net starfrækti.

Þrátt fyrir fjölda athugasemda sem voru búnar til á mörgum samfélagsmiðlum metum við aðgerðina í 2. flokki á Breakout-áhrifakvarðanum fyrir áhrifaaðgerðir: starfsemi á mörgum miðlum, en engin útbreiðsla eða mjög lítil viðbrögð. Flestar færslurnar og samfélagsmiðlareikningarnir fengu lítil sem engin viðbrögð. Oft komu einu svörin við færslum netsins á X og Instagram, eða endurbirtingar þeirra, frá öðrum samfélagsmiðlareikningum sem stjórnendur netsins réðu yfir.

Persónurnar sem samfélagsmiðlareikningarnir notuðu voru augljóslega samræmdar og óvandaðar. Hegðun þeirra líktist öðrum leynilegum áhrifaaðgerðum frá Kína. Þau birtu meðal annars myllumerki, myndir eða myndskeið sem fyrri aðgerðir höfðu dreift og notuðu myndabankamyndir sem prófílmyndir eða sjálfgefin notendanöfn samfélagsmiðla, sem gerði auðvelt að bera kennsl á þau. Philstar.com bar kennsl á þrálæti þeirra og umfang á mörgum miðlum og uppgötvaði sjálfstætt hluta netsins á X og fjallaði um hann. Sá hluti hafði haldið starfseminni áfram eftir að við lokuðum ChatGPT‑reikningum hans.