Operaatio ”Yhdeksän ajatusviivan linja”: alueellinen vaikuttaminen

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n lokakuun 2025⁠(avautuu uudessa ikkunassa) raportissa.

Estimme pienen joukon ChatGPT‑tilejä, jotka saattoivat liittyä Kiinasta lähtöisin olevaan peiteltyyn vaikuttamisoperaatioon. Operaatiossa malleillamme tuotettiin sisältöä useilla alustoilla toteutettuun peiteltyyn vaikuttamiseen. Tilit tuottivat pääasiassa englanninkielisiä somejulkaisuja Vietnamin väitetystä ympäristövaikutuksesta Etelä-Kiinan merellä, Filippiinien presidentti Ferdinand Marcosia arvostelevia englanninkielisiä julkaisuja sekä kantoninkielisiä somejulkaisuja Hongkongin demokratialiikkeeseen osallistuneista poliitikoista ja aktivisteista. Operaatiossa tuotettiin vähemmässä määrin myös englanninkielistä sisältöä Yhdysvaltain poliittisista kysymyksistä.

Sisältöä levittäneissä sometileissä oli joitakin yhtäläisyyksiä pitkään toimineeseen, Kiinasta lähtöisin olevaan ”Spamouflage”-operaatioon. Kirjoitimme sen ChatGPT:n käytöstä toukokuussa 2024, mutta emme havainneet operaatioiden välillä teknisiä yhteyksiä. Australian Strategic Policy Institute oli tunnistanut joitakin uusimmissa julkaisuissa jaettuja videoita aiemmin osana operaatiota, jossa oli myös yhtäläisyyksiä Spamouflagen aiempaan toimintaan.

Verkosto vaikutti keskittyvän tuottamaan suuria määriä somejulkaisuja maista, joilla on aluekiistoja Kiinan kanssa Etelä-Kiinan merellä eli Länsi-Filippiinien merellä. Kiina vaatii itselleen suvereniteettia suurimpaan osaan alueesta laajalla ”yhdeksän katkoviivan linjana” tunnetulla rajauksella. Rajaus on kiistetty kansainvälisen oikeuden nojalla, ja muun muassa Vietnam ja Filippiinit ovat torjuneet sen. Tämän taustan ja operaation julkaisuissa esiintyneiden tekoälyn tuottamien ajatusviivojen vuoksi nimesimme operaation ”Yhdeksän ajatusviivan linjaksi”. Julkaisuja levitettiin pääasiassa X:ssä.

Twiitti, jonka sisällön – ja ajatusviivan – operaatio tuotti malleillamme.

Somekommenttien tuottamisen lisäksi toimijat käyttivät mallejamme joihinkin tutkimus- ja tiedustelutehtäviin. Tehtäviin kuului erikoistuneiden blogien ja keskustelupalstojen sekä löyhemmin valvottujen verkkofoorumien ja sosiaalisen median kanavien etsiminen Euroopasta, Amerikasta ja Kaakkois-Aasiasta. Lisäksi he pyysivät luetteloita yleisistä tiibetiläisistä nimistä. Olemme havainneet tällaista toimintaa muissakin tapauksissa, joissa on luotu nimiä operaattorien epäaidoille sometileille. Toiminta muistutti perinteisten hakukoneiden käyttöä ja tuotti samankaltaisia tuloksia. Tämä viittaa siihen, että tekoälyn käyttö tutkimukseen ja sisällöntuotantoon helpotti uhkatoimijoiden työtä mutta ei välttämättä parantanut heidän toimintakykyään.

Uutta oli se, että verkosto pyysi neuvoja sosiaalisen median kasvustrategioihin, kuten TikTok-haasteen käynnistämiseen ja muiden kannustamiseen julkaisemaan sisältöä tunnisteella #MyImmigrantStory. Kyseessä on pitkään laajasti käytetty tunniste, jonka suosiota operaatio todennäköisesti pyrki hyödyntämään. He pyysivät malliamme ideoimaan TikTok-julkaisun, laatimaan sille käsikirjoituksen sekä suosittelemaan julkaisuun sopivaa taustamusiikkia ja kuvia. Tunnistimme avoimiin lähteisiin perustuvilla menetelmillä TikTokissa julkaistun sisällön.

TikTok-julkaisu, jonka tekstin operaatio tuotti malleillamme.

Verkoston tuottamien englanninkielisten somejulkaisujen aiheet vaihtelivat Vietnamin väitetystä ympäristövaikutuksesta Etelä-Kiinan merellä Yhdysvaltain fentanyylikriisiin. Monissa julkaisuissa väitettiin, että Filippiinien presidentti Marcos oli jäänyt kiinni huumeiden käytöstä ja käyttänyt vaalimanipulaation keinoja. Marcosin väitettyä huumeiden käyttöä käsittelevien julkaisujen yhteydessä jaettua videota ei tuotettu malleillamme. Filippiinien hallitus on aiemmin tuominnut sen syväväärennökseksi tai digitaalisesti muokatuksi. Monet malleillamme tuotettua sisältöä julkaisseet X-tilit on jo jäädytetty.

Operaation tuottama twiittiteksti, jossa väitetään Filippiinien presidentti Marcosin jääneen kiinni ”huumeskandaalista”.

Operaation tuottama twiittiteksti, jossa väitetään presidentti Marcosin käyttäneen vaalimanipulaation keinoja.

Tilit pyysivät myös suuria määriä kantoninkielisiä kommentteja, joita julkaistiin X:ssä ja Instagramissa. Kommentit arvostelivat tai halvensivat Hongkongin demokratialiikkeeseen osallistuneita poliitikkoja ja aktivisteja, kuten Jimmy Laita, Nathan Law’ta ja Agnes Chow’ta. Julkaisuilla vaikutettiin pyrkivän heikentämään näiden henkilöiden uskottavuutta esittämällä heidät rikollisina tai maanpettureina. Muissa julkaisuissa tuettiin Hongkongin kansallista turvallisuutta koskevia lakeja.

Eräässä poikkeuksellisessa tapauksessa yksi operaattori julkaisi X:ssä Hongkongin demokratialiikkeen poliitikkoja arvostelevia kommentteja ja tuotti sitten omiin kommentteihinsa vastauksen, jossa näitä henkilöitä ylistettiin. Arvostelu ja vastaus julkaistiin kahdelta eri X-tililtä.

Operaation tuottama myönteinen vastaus toisen operaatioon kuuluvan tilin arvostelevaan twiittiin. Alkuperäinen twiitti kuuluu: ”Voivatko Jimmy Lai ja Jeffrey Ngo vain puhdistaa maineensa hankkimalla ulkomailta niin kutsutun ’turvapaikan’? 🤔 Hongkongin kaaoksesta vastuussa olevat rikolliset eivät ole sankareita, vaan he vain peittävät ’karkurin’ henkilöllisyytensä ’poliittisen pakolaisen’ leimalla! Minkä taakseen jättää, sen edestään löytää. Ennemmin tai myöhemmin joutuu maksamaan, eikä mitään ’vapaudu vankilasta’ -korttia yksinkertaisesti ole.” Vastauksessa lukee: ”Näillä kahdella on rohkeutta astua esiin ja puhua totta, mikä on sentään paljon valoisampaa kuin Hongkongin nykyinen ilmapiiri, jossa kaikki vaikenevat.” Huomaa, että kaikki alkuperäisten twiittien reaktiot olivat tämän verkoston hallinnoimilta tileiltä.

Vaikka somekommentteja tuotettiin paljon useille alustoille, arvioimme operaation IO-vaikutuksen Breakout Scale -asteikolla luokkaan 2: toimintaa useilla alustoilla, mutta ei läpimurtoa ja vain vähän tai ei lainkaan vuorovaikutusta. Useimmat julkaisut ja sometilit saivat vain vähän tai eivät lainkaan reaktioita. Usein tämän verkoston X:ssä ja Instagramissa julkaisemiin kirjoituksiin vastasivat tai niitä jakoivat uudelleen ainoastaan verkoston operaattorien hallitsemat muut sometilit.

Sometilien käyttämät valehenkilöllisyydet olivat selvästi koordinoituja eivätkä kovin uskottavia. Niiden toiminnassa oli samoja piirteitä kuin muissa Kiinasta lähtöisin olevissa peitellyissä vaikuttamisoperaatioissa. Tilit esimerkiksi julkaisivat aiempien operaatioiden levittämiä tunnisteita, kuvia tai videoita sekä käyttivät profiilikuvina kuvapankkikuvia ja oletusarvoisia käyttäjätunnuksia, minkä vuoksi ne oli helppo tunnistaa. Philstar.com havaitsi niiden sitkeän ja runsaan toiminnan eri alustoilla. Sivusto löysi itsenäisesti osan X-verkostosta ja raportoi siitä. Verkosto oli jatkanut toimintaansa senkin jälkeen, kun olimme estäneet sen ChatGPT‑tilit.