Operatsioon „Üheksa–mõttekriipsu joon“: piirkondlik mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2025. aasta oktoobri⁠(avaneb uues aknas) aruandes.

Blokeerisime väikese ChatGPT kontode võrgustiku, mis võis olla seotud Hiinast lähtunud varjatud mõjutusoperatsiooniga ja kasutas meie mudeleid mitmel platvormil levitatava varjatud mõjutussisu loomiseks. Kontod lõid peamiselt ingliskeelseid sotsiaalmeediapostitusi Vietnami väidetava keskkonnamõju kohta Lõuna-Hiina merel, Filipiinide presidenti Ferdinand Marcost kritiseerivaid ingliskeelseid postitusi ning kantonikeelseid postitusi Hongkongi demokraatiameelse liikumise poliitikute ja aktivistide kohta. Vähemal määral loodi selle operatsiooni käigus ka ingliskeelset sisu USA poliitiliste küsimuste kohta.

Sisu levitanud sotsiaalmeediakontod sarnanesid mõneti pikaajalise Hiinast lähtunud operatsiooniga „Spamouflage“, mille ChatGPT kasutamisest kirjutasime 2024. aasta mais, kuid me ei tuvastanud nende operatsioonide vahel tehnilisi seoseid. Mõne viimastes postitustes jagatud video oli Austraalia Strateegilise Poliitika Instituut varem tuvastanud operatsioonis, mis sarnanes samuti Spamouflage’i varasema tegevusega.

Näib, et võrgustik keskendus sotsiaalmeediapostituste massilisele loomisele riikide kohta, millel on Hiinaga territoriaalvaidlused Lõuna-Hiina merel ehk Lääne-Filipiini merel. Hiina nõuab suurema osa sellest piirkonnast endale, tuginedes ulatuslikule piirile, mida nimetatakse „üheksa kriipsu jooneks“. Selle õiguspärasus on rahvusvahelise õiguse alusel vaidlustatud ning Vietnam, Filipiinid ja teised riigid on selle tagasi lükanud. Seda tausta ning operatsiooni postitustes kasutatud tehisintellekti loodud teksti mõttekriipse arvestades nimetasime operatsiooni „Üheksa—mõttekriipsu jooneks“. Neid postitusi levitati peamiselt X-is.

Säuts operatsiooni poolt meie mudelite abil loodud sisu ja mõttekriipsuga.

Lisaks sotsiaalmeediakommentaaride loomisele kasutasid osalejad meie mudeleid mõneks uurimis- ja luureülesandeks. Muu hulgas otsisid nad nišiblogisid ja -foorumeid ning vähem reguleeritud veebifoorumeid ja sotsiaalmeediakanaleid Euroopas, Ameerikas või Kagu-Aasias. Lisaks küsisid nad levinud tiibeti nimede loendeid. Oleme sellist käitumist täheldanud ka teistel juhtudel, kui loodi nimesid Operatorite võltsitud sotsiaalmeediakontodele. See tegevus sarnanes tavapäraste otsingumootorite kasutamisega ja andis võrreldavaid tulemusi. See viitab, et tehisintellekti kasutamine nii uurimiseks kui ka sisu loomiseks muutis ohustajate töö mugavamaks, kuid ei pruukinud suurendada nende võimekust.

Võrgustik kasutas uudse võttena sotsiaalmeedia kasvu strateegiate kohta nõu küsimist, sealhulgas seda, kuidas käivitada TikToki väljakutse ja panna teisi avaldama sisu teemaviitega #MyImmigrantStory. See on ammu laialt kasutatud teemaviide, mille populaarsust püüdis operatsioon tõenäoliselt ära kasutada. Nad palusid meie mudelil esmalt ideid pakkuda ja seejärel koostada TikToki postituse teksti ning soovitada postituse juurde taustamuusikat ja pilte. Avalikel allikatel põhinevate meetoditega tuvastasime TikTokis avaldatud sisu.

TikToki postitus operatsiooni poolt meie mudelite abil loodud tekstiga.

Võrgustiku loodud ingliskeelsete sotsiaalmeediapostituste teemad ulatusid Vietnami väidetavast keskkonnamõjust Lõuna-Hiina merel kuni USA fentanüülikriisini. Paljudes postitustes väideti, et Filipiinide president Marcos tabati uimastite tarvitamiselt ja kasutas väidetavalt valimistega manipuleerimise võtteid. Marcose väidetavat uimastitarvitamist käsitlevate postitustega jagatud videot ei loonud meie mudelid. Filipiinide valitsus on varem nimetanud seda süvavõltsinguks või digitaalselt muudetud videoks. Paljud meie mudelite loodud sisu avaldanud X-i kontod on juba peatatud.

Operatsiooni loodud säuts, milles väideti, et Filipiinide president Marcos tabati „uimastiskandaalilt“.

Operatsiooni loodud säuts, milles väideti, et president Marcos kasutas valimistega manipuleerimise võtteid.

Kontod küsisid ka suuri koguseid kantonikeelseid kommentaare, mis avaldati X-is ja Instagramis ning milles kritiseeriti või halvustati Hongkongi demokraatiameelse liikumise poliitikuid ja aktiviste, nagu Jimmy Lai, Nathan Law ja Agnes Chow. Näib, et postitustega püüti nende inimeste mainet kahjustada, kujutades neid kurjategijate või reeturitena. Teistes postitustes toetati Hongkongi riikliku julgeoleku seadusi.

Ühel ebatavalisel juhul avaldas üks Operator X-is Hongkongi demokraatiameelseid poliitikuid kritiseerivaid kommentaare ja lõi seejärel omaenda kommentaaridele neid poliitikuid kiitva vastuse. Kriitika ja vastus avaldati kahe erineva X-i konto kaudu.

Operatsiooni loodud toetav vastus sama operatsiooni teise konto kriitilisele säutsule. Algne säuts kõlab: „Kas Jimmy Lai ja Jeffrey Ngo saavad välismaal niinimetatud „varjupaiga“ hankimisega end lihtsalt puhtaks pesta? 🤔 Hongkongi rahutuste korraldajad pole kangelased, vaid kasutavad „poliitilise pagulase“ silti oma „põgeniku“ identiteedi varjamiseks! Iga tegu jõuab ringiga tagasi – varem või hiljem tuleb maksta ning „vanglast tasuta pääsemise kaarti“ lihtsalt pole olemas.“ Vastus kõlab: „Neil kahel inimesel on julgust astuda ette ja rääkida tõtt, mis on vähemalt palju helgem kui Hongkongi praegune keskkond, kus kõik vaikivad.“ Kõik algsete säutsude kaasamised pärinesid selle võrgustiku hallatud kontodelt.

Vaatamata mitmel platvormil loodud sotsiaalmeediakommentaaride arvukusele hindame seda operatsiooni mõjutusoperatsioonide mõju läbimurdeskaalal 2. kategooriasse: tegevus mitmel platvormil, läbimurret ei toimunud ning kaasatus puudus või oli minimaalne. Enamik postitusi ja sotsiaalmeediakontosid ei saanud üldse või said väga vähe kaasamist. Sageli pärinesid selle võrgustiku X-is ja Instagramis loodud postituste ainsad vastused või edasijagamised teistelt sama võrgustiku Operatorite hallatud sotsiaalmeediakontodelt.

Sotsiaalmeediakontode kasutatud persoonad olid ilmselgelt koordineeritud ega olnud kuigi viimistletud. Neil oli teiste Hiinast lähtunud varjatud mõjutusoperatsioonidega sarnaseid käitumisjooni: nad postitasid varasemate operatsioonide levitatud teemaviiteid, pilte või videoid ning kasutasid profiilipiltidena fotopanga pilte või sotsiaalmeedia vaikimisi kasutajanimesid, mistõttu oli neid lihtne tuvastada. Nende järjepidevat ja ulatuslikku platvormideülest tegevust märkas Philstar.com, mis avastas sõltumatult ühe osa X-i võrgustikust ja kajastas seda. Võrgustik jätkas tegevust ka pärast seda, kui olime selle ChatGPT kontod blokeerinud.