Operacija „VAGue Focus”: socijalni inženjering i aktivnosti utjecaja

Ova studija slučaja izvorno je objavljena u izvješću tvrtke OpenAI iz lipnja 2025.⁠(otvara se u novom prozoru) godine.

Blokirali smo malu mrežu računa na ChatGPT‑u koji su upotrebljavali naše modele za generiranje objava na društvenim mrežama, analizu skupova podataka te prevođenje e-poruka i poruka s kineskog na engleski koje su nalikovale pokušajima socijalnog inženjeringa. S tih su računa našim modelima slani upiti na kineskom, a aktivnost se uglavnom odvijala tijekom radnog vremena u kontinentalnoj Kini.

Generirali su poruke koje su navodno slali zaposlenici triju organizacija usmjerenih na geopolitiku: „Focus Lens News”, „BrightWave Media Europe” i „Visionary Advisory Group” (VAG). Osim toga, s tih su računa na ChatGPT‑u generirani tekstovi koji su se podudarali s objavama i opisima profila na X-u povezanih s tim trima organizacijama. Zlonamjerni akteri zasebno su opisivali te organizacije kao paravane za prikupljanje i analizu obavještajnih podataka. Na temelju tih naziva ovu smo operaciju nazvali „VAGue Focus”.

U sklopu operacije ChatGPT se upotrebljavao kao podrška četirima glavnim vrstama aktivnosti. Prvo, računi su uglavnom upotrebljavali naše modele za generiranje objava na društvenim mrežama i biografija za internetske identitete koji su naizgled bili dio prikrivene operacije utjecaja. Objave su širili računi na X-u koji su se predstavljali kao novinari i geopolitički analitičari.

Drugo, računi su jezično dotjerivali i prevodili prepisku upućenu američkom senatoru u vezi s nominacijom dužnosnika administracije. Ne možemo neovisno potvrditi je li išta od te prepiske poslano.

Treće, računi su postavljali niz osnovnih pitanja o alatima za napade na računalne mreže i iskorištavanje njihovih ranjivosti, na koja su naši modeli odgovarali samo općim objašnjenjima njihove upotrebe i mogućnosti. Ta pitanja nisu pokazivala razinu sofisticiranosti kibernetičkih aktera koje opisujemo kasnije u ovom izvješću te upućuju na nisku razinu stručnosti.

Naposljetku, korisnici su redovito tražili prijevode s kineskog na engleski poruka koje su očito bile osmišljene za uspostavljanje kontakta s nepoznatim sugovornicima, a u konačnici i za izvlačenje informacija od njih. Neke od tih poruka objavljene su na društvenim mrežama kao odgovori novinarima i istraživačima. Druge su nalikovale privatnim porukama i nisu se pojavljivale u rezultatima internetskih pretraga.

Čini se da je glavni cilj ove mreže bio prikupljati obavještajne podatke lažno se predstavljajući kao stručnjaci sa sjedištem u Europi ili Turskoj. U sadržaju koji su generirali i objavljivali na internetu, operativci su „Focus Lens News” opisivali kao neovisnu organizaciju sa sjedištem u Europi, specijaliziranu za analizu i izvještavanje. Međutim, operativci su također tvrdili da taj javni identitet zapravo služi kao paravan za lakše prikupljanje, analizu i širenje obavještajnih podataka.

Prema mrežnom mjestu na koje su upućivale poveznice u opisima profila na društvenim mrežama, Visionary Advisory Group ima sjedište u Turskoj i specijaliziran je za profesionalne usluge geopolitičkog savjetovanja. Operativci su upotrebljavali naše modele za prevođenje uputa s kineskog na engleski u kojima se tvrdilo da VAG Group traži informacije o američkoj gospodarskoj i financijskoj politici te da je spreman platiti 2000 američkih dolara po satu intervjua. Prevodili su i ponude za plaćanje povjerljivih dokumenata.

Mrežno mjesto organizacije VAG Group ima tursku i englesku verziju, a na stranici Kontaktirajte nas u engleskoj verziji u izborniku su vidljivi kineski znakovi za „kontaktirajte nas” (聯絡). To je bio jedini tekst na kineskom na cijeloj domeni.

Dio sadržaja ove mreže nalikovao je marketinškim materijalima za šire operacije utjecaja. Prema tvrdnjama koje ne možemo neovisno provjeriti, u operaciji su se upotrebljavali strojno učenje, obrada prirodnog jezika i automatizirano izvlačenje podataka radi prepoznavanja utjecajnih osoba i tema na društvenim mrežama.

Računi na društvenim mrežama povezani s ovom aktivnošću nisu ostvarili značajan autentičan odaziv na internetu. Samo je račun Focus Lens News na X-u imao znatan broj pratitelja, njih 17.000. Međutim, račun je otvoren u studenome 2014. pod drugim imenom, objavljivao je tri dana, a zatim je utihnuo sve do sredine 2024. To je tipično za račune koji su neovlašteno preuzeti i prenamijenjeni, pa broj njegovih pratitelja treba uzeti s oprezom.

Prema ljestvici prodora⁠(otvara se u novom prozoru) za mjerenje učinka operacija utjecaja, javno vidljiv dio ove operacije svrstali bismo na donji kraj 2. kategorije: aktivnost na više platformi, ali malo dokaza da su stvarni korisnici preuzimali ili masovno dijelili njihov sadržaj. Nema dovoljno dostupnih dokaza za procjenu učinka socijalnog inženjeringa i drugih prikrivenih aktivnosti u sklopu operacije.