„Kilenc—gondolatjeles vonal” művelet: regionális befolyásolási tevékenység

Ez az esettanulmány eredetileg az OpenAI 2025. októberi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk egy kisebb ChatGPT‑fiókhálózatot, amely feltehetően egy Kínából kiinduló titkos befolyásolási művelethez kapcsolódott, és modelljeinkkel készített tartalmakat egy több platformra kiterjedő titkos befolyásolási művelethez. A fiókok főként angol nyelvű közösségimédia-bejegyzéseket készítettek Vietnam állítólagos környezeti hatásáról a Dél-kínai-tengeren, Ferdinand Marcos Fülöp-szigeteki elnököt bíráló angol nyelvű bejegyzéseket, valamint kantoni nyelvű közösségimédia-bejegyzéseket a hongkongi demokráciapárti mozgalomban részt vevő politikai szereplőkről és aktivistákról. A művelet kisebb mértékben az Egyesült Államok politikai kérdéseiről is készített angol nyelvű tartalmakat.

A tartalmakat terjesztő közösségimédia-fiókok némileg hasonlítottak a régóta működő, kínai eredetű, „Spamouflage” néven ismert művelet fiókjaira. Ennek ChatGPT‑használatáról 2024 májusában írtunk, de a két művelet között nem találtunk technikai kapcsolatot. A legutóbbi bejegyzésekben megosztott videók némelyikét az Australian Strategic Policy Institute korábban már egy olyan művelethez kötötte, amely szintén hasonlóságot mutatott a Spamouflage korábbi tevékenységével.

Úgy tűnt, hogy a hálózat egyik fő célja nagy mennyiségű közösségimédia-bejegyzés készítése volt a Dél-kínai-tengeren, illetve a Nyugat-Fülöp-szigeteki-tengeren Kínával területi vitában álló országokról. Kína az úgynevezett „kilenc szaggatott vonallal” kijelölt, kiterjedt határvonal alapján a térség nagy részére szuverenitási igényt tart fenn. Ezt az igényt nemzetközi jogi alapon vitatják, Vietnam, a Fülöp-szigetek és más országok pedig elutasították. E körülményekre, valamint arra tekintettel, hogy a művelet bejegyzéseiben az MI által generált szövegek gondolatjeleket tartalmaztak, a műveletet „Kilenc—gondolatjeles vonalnak” neveztük el. Ezeket a bejegyzéseket főként az X-en terjesztették.

A művelet által, modelljeink segítségével generált tartalomból – és gondolatjelből – álló bejegyzés az X-en.

A közösségimédia-hozzászólások készítése mellett a szereplők bizonyos kutatási és felderítési feladatokra is használták modelljeinket. Ezek közé tartozott a szűk témájú blogok és fórumok, valamint a kevésbé szabályozott európai, amerikai és délkelet-ázsiai online fórumok és közösségi platformok felkutatása. Emellett gyakori tibeti neveket tartalmazó listákat is kértek. Ilyen viselkedést más esetekben is megfigyeltünk, amikor az operátorok megtévesztő közösségimédia-fiókjaihoz generáltak neveket. Ez a tevékenység a hagyományos keresőmotorok használatához hasonlított, és hasonló eredményeket is adott. Mindez arra utal, hogy az MI kutatási és tartalomkészítési célú használata kényelmesebbé tette a fenyegetési szereplők munkáját, de nem feltétlenül növelte a képességeiket.

A hálózat újszerű módon közösségimédia-növekedési stratégiákról is tanácsot kért, többek között arról, hogyan indíthat TikTok-kihívást, és miként vehet rá másokat, hogy a #MyImmigrantStory hashtaggel tegyenek közzé tartalmakat. Ez egy régóta széles körben használt hashtag, amelynek népszerűségét a művelet valószínűleg ki akarta használni. Megkérték modellünket, hogy dolgozzon ki ötleteket, majd készítsen átiratot egy TikTok-bejegyzéshez, továbbá ajánljon hozzá háttérzenét és képeket. Nyílt forrású módszerekkel azonosítottuk a TikTokon közzétett tartalmat.

A művelet által, modelljeink segítségével generált szöveget tartalmazó TikTok-bejegyzés.

A hálózat által generált angol nyelvű közösségimédia-bejegyzések témái Vietnam Dél-kínai-tengerre gyakorolt állítólagos környezeti hatásától az amerikai fentanilválságig terjedtek. Számos bejegyzés azt állította, hogy Marcos Fülöp-szigeteki elnököt drogfogyasztáson kapták, és hogy állítólag választási manipulációs módszereket alkalmazott. A Marcos állítólagos drogfogyasztásáról szóló bejegyzésekhez mellékelt videót nem modelljeink generálták; a Fülöp-szigeteki kormány korábban deepfake-nek, illetve digitálisan módosított felvételnek minősítette. A modelljeink által generált tartalmakat közzétevő X-fiókok közül sokat már felfüggesztettek.

A művelet által generált bejegyzésszöveg, amely szerint Marcos Fülöp-szigeteki elnököt „drogbotrányba” keveredve kapták rajta.

A művelet által generált bejegyzésszöveg, amely szerint Marcos elnök választási manipulációs módszereket alkalmazott.

A fiókok nagy mennyiségű kantoni nyelvű hozzászólást is kértek. Ezeket az X-en és az Instagramon tették közzé, és bírálták vagy becsmérelték a hongkongi demokráciapárti mozgalomban részt vevő politikai szereplőket és aktivistákat, köztük Jimmy Lait, Nathan Law-t és Agnes Chow-t. Úgy tűnik, ezekkel a bejegyzésekkel bűnözőként vagy árulóként ábrázolva próbálták hitelteleníteni az érintetteket. Más bejegyzések a hongkongi nemzetbiztonsági törvényeket támogatták.

Egy szokatlan esetben az egyik operátor a hongkongi demokráciapárti politikai szereplőket bíráló hozzászólásokat tett közzé az X-en, majd saját hozzászólásaira olyan választ generált, amely dicsérte ugyanezeket a személyeket. A bírálatot és a választ két különböző X-fiók tette közzé.

A művelet által generált támogató válasz a művelet egy másik fiókjának bíráló bejegyzésére. Az eredeti bejegyzés szövege: „Jimmy Lai és Jeffrey Ngo pusztán azzal tisztára moshatja magát, hogy külföldön úgynevezett »menedékjogot« kap? 🤔 A hongkongi zavargások bűnözői nem hősök, csak a »politikai menekült« címkével próbálják elfedni »szökevény« mivoltukat! Aki másnak vermet ás, maga esik bele: előbb-utóbb meg kell fizetni, »ingyenes szabadulókártya« egyszerűen nem létezik.” A válasz szövege: „Ennek a két embernek volt bátorsága kiállni és kimondani az igazságot, ami legalább sokkal biztatóbb, mint a jelenlegi hongkongi közeg, ahol mindenki hallgat.” Az eredeti bejegyzésekre adott valamennyi reakció a hálózat által működtetett fiókoktól származott.

A több platformon generált közösségimédia-hozzászólások nagy száma ellenére a műveletet az információs műveletek hatását mérő Breakout Scale 2. kategóriájába soroljuk: több platformon folytatott tevékenység, áttörés nélkül vagy minimális aktivitással. A bejegyzések és közösségimédia-fiókok többsége alig vagy egyáltalán nem váltott ki reakciót. A hálózat által az X-en és az Instagramon közzétett bejegyzésekre gyakran kizárólag a hálózat operátorai által irányított más közösségimédia-fiókok válaszoltak, illetve csak ezek osztották tovább őket.

A közösségimédia-fiókok által megjelenített személyiségek egyértelműen összehangoltak és kevéssé kifinomultak voltak. Viselkedésük más, kínai eredetű titkos befolyásolási műveletekéhez hasonlított: korábbi műveletek által terjesztett hashtageket, képeket vagy videókat tettek közzé, profilképként pedig stockfotókat használtak, illetve megtartották a közösségi platformok alapértelmezett felhasználóneveit. Emiatt könnyű volt azonosítani őket. A több platformon tapasztalható kitartó és nagy volumenű tevékenységükre a Philstar.com is felfigyelt: a portál egymástól függetlenül feltárta a hálózat X-en működő részét, és beszámolt róla. Ez a hálózatrész ChatGPT‑fiókjainak letiltása után is folytatta működését.