Operacija „Linija devet—dugih crta“: aktivnosti regionalnog utjecaja

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI za oktobar 2025.⁠(otvara se u novom prozoru)

Blokirali smo malu mrežu ChatGPT računa potencijalno povezanih s prikrivenom operacijom utjecaja porijeklom iz Kine, koja je naše modele koristila za izradu sadržaja za prikrivenu operaciju utjecaja na više platformi. Računi su uglavnom generirali objave na društvenim mrežama na engleskom jeziku o navodnom utjecaju Vijetnama na okoliš u Južnom kineskom moru, objave na engleskom koje su kritizirale filipinskog predsjednika Ferdinanda Marcosa te objave na kantonskom o političarima i aktivistima uključenim u hongkonški prodemokratski pokret. U manjoj mjeri, ova operacija generirala je i sadržaj na engleskom jeziku o političkim pitanjima u SAD-u.

Računi na društvenim mrežama koji su širili sadržaj donekle su podsjećali na dugogodišnju operaciju porijeklom iz Kine poznatu kao „Spamouflage“, o čijem smo korištenju ChatGPT‑a pisali u maju 2024, ali nismo utvrdili tehničke veze između tih operacija. Australijski institut za stratešku politiku ranije je utvrdio da su neki od videozapisa podijeljenih u najnovijim objavama potekli iz operacije koja je također bila slična ranijim aktivnostima Spamouflagea.

Čini se da je jedan od glavnih ciljeva ove mreže bio masovno generiranje objava na društvenim mrežama o zemljama koje s Kinom imaju teritorijalne sporove u Južnom kineskom moru, odnosno Zapadnom filipinskom moru. Kina polaže pravo na suverenitet nad većim dijelom ove regije na osnovu široko povučene granice poznate kao „linija devet crtica“, koja je osporena prema međunarodnom pravu, a odbacuju je Vijetnam, Filipini i druge zemlje. S obzirom na taj kontekst i činjenicu da je operacija u objavama koristila tekst generiran umjetnom inteligencijom koji je sadržavao duge crte, nazvali smo je „Linija devet—dugih crta“. Ove objave uglavnom su širene na platformi X.

Objava na platformi X sa sadržajem — i dugom crtom — koji je ova operacija generirala pomoću naših modela.

Osim generiranja komentara na društvenim mrežama, akteri su naše modele koristili za određene zadatke istraživanja i izviđanja. To je obuhvatalo pronalaženje specijaliziranih blogova i foruma, kao i slabije reguliranih internetskih foruma i društvenih mreža u Evropi, Americi ili jugoistočnoj Aziji. Uz to, tražili su spiskove uobičajenih tibetanskih imena, što smo primijetili i u drugim slučajevima u kojima su imena generirana za lažne račune operatora na društvenim mrežama. Ova aktivnost nalikovala je korištenju tradicionalnih pretraživača i davala je slične rezultate, što ukazuje na to da je akterima prijetnje korištenje umjetne inteligencije za istraživanje i generiranje sadržaja pružalo veću praktičnost, ali ne nužno i veće mogućnosti.

Nov način korištenja ove mreže bili su zahtjevi za savjete o strategijama povećanja dosega na društvenim mrežama, uključujući pokretanje TikTok izazova i poticanje drugih da objavljuju sadržaj uz oznaku #MyImmigrantStory, odavno široko korištenu oznaku čiju je popularnost operacija vjerovatno nastojala iskoristiti. Od našeg modela tražili su da osmisli ideje, a zatim izradi transkript za objavu na TikToku, kao i preporuke za pozadinsku muziku i slike koje bi pratile objavu. Primjenom tehnika iz otvorenih izvora pronašli smo sadržaj objavljen na TikToku.

Objava na TikToku s tekstom koji je ova operacija generirala pomoću naših modela.

Teme objava na društvenim mrežama na engleskom jeziku koje je ova mreža generirala kretale su se od navodnog utjecaja Vijetnama na okoliš u Južnom kineskom moru do krize s fentanilom u SAD-u. U mnogim se objavama tvrdilo da je filipinski predsjednik Marcos uhvaćen kako koristi drogu te da je navodno primjenjivao taktike izborne manipulacije. Videozapis dijeljen uz objave o navodnoj Marcosovoj upotrebi droge nisu generirali naši modeli, a filipinska vlada ranije ga je osudila kao deepfake ili digitalno izmijenjen sadržaj. Mnogi računi na platformi X koji su objavljivali sadržaj generiran našim modelima već su suspendirani.

Tekst objave na platformi X koji je generirala ova operacija, uz tvrdnju da je filipinski predsjednik Marcos uhvaćen u „narkoskandalu“.

Tekst objave na platformi X koji je generirala ova operacija, uz tvrdnju da je predsjednik Marcos koristio taktike izborne manipulacije.

Računi su također tražili velike skupove komentara na kantonskom jeziku koji su objavljeni na platformama X i Instagram, a u kojima su kritizirani ili omalovažavani političari i aktivisti uključeni u hongkonški prodemokratski pokret, poput Jimmyja Laija, Nathana Lawa i Agnes Chow. Čini se da je cilj ovih objava bio diskreditirati te osobe prikazujući ih kao kriminalce ili izdajnike. Druge objave podržavale su hongkonške zakone o nacionalnoj sigurnosti.

U jednom neobičnom slučaju, operator je na platformi X objavio kritičke komentare o hongkonškim prodemokratskim političarima, a zatim generirao odgovor na vlastite komentare u kojem je pohvalio te političare. Kritika i odgovor objavljeni su s dva različita računa na platformi X.

Odgovor podrške koji je generirala ova operacija na kritičku objavu drugog računa iz iste operacije. U izvornoj objavi piše: „Mogu li Jimmy Lai i Jeffrey Ngo jednostavno oprati svoju prošlost time što su u inostranstvu dobili takozvani ‘azil’? 🤔 Kriminalci odgovorni za haos u Hong Kongu nisu heroji, već samo koriste etiketu ‘političkog izbjeglice’ da prikriju svoj identitet ‘bjegunaca’! Sve se vraća, sve se plaća; prije ili kasnije morat ćete platiti, a ‘karta za besplatan izlazak iz zatvora’ jednostavno ne postoji.“ U odgovoru piše: „Ova dvojica imaju hrabrosti istupiti i reći istinu, što je barem mnogo svjetlije od sadašnjeg okruženja u Hong Kongu, gdje svi šute.“ Napominjemo da su sve reakcije na izvorne objave došle s računa kojima je upravljala ova mreža.

Uprkos količini komentara generiranih na više društvenih platformi, prema skali proboja za procjenu utjecaja operacija utjecaja ovu operaciju svrstavamo u kategoriju 2: aktivnost na više platformi, bez proboja ili uz minimalan angažman. Većina objava i računa na društvenim mrežama ostvarila je minimalan ili nikakav angažman. Jedini odgovori ili dijeljenja objava koje je ova mreža generirala na platformama X i Instagram često su dolazili s drugih računa na društvenim mrežama kojima su upravljali operatori ove mreže.

Likovi koje su koristili računi na društvenim mrežama bili su očigledno koordinirani i neuvjerljivi. Imali su obrasce ponašanja slične drugim prikrivenim operacijama utjecaja porijeklom iz Kine, poput objavljivanja oznaka, slika ili videozapisa koje su širile ranije operacije. Također su koristili generičke fotografije kao profilne slike ili zadana korisnička imena na društvenim mrežama, zbog čega ih je bilo lako prepoznati. Njihovu upornost i obim aktivnosti na različitim platformama uočio je Philstar.com, koji je nezavisno otkrio i izvijestio o dijelu mreže na platformi X koji je nastavio djelovati nakon što smo blokirali njihove ChatGPT račune.