Operacija „Nejasan fokus“: Socijalni inženjering i aktivnosti utjecaja

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz juna 2025.⁠(otvara se u novom prozoru) godine.

Blokirali smo malu mrežu računa na ChatGPT‑u koji su koristili naše modele za generisanje objava na društvenim mrežama, analizu skupova podataka te prevođenje e-poruka i poruka s kineskog na engleski koje su ličile na pokušaje socijalnog inženjeringa. S tih računa slani su upiti našim modelima na kineskom jeziku, a aktivnost se uglavnom odvijala tokom radnog vremena u kontinentalnoj Kini.

Generisali su poruke navodno poslane od zaposlenika triju organizacija usmjerenih na geopolitiku: „Vijesti u fokusu“, „Mediji Svijetli val Evropa“ i „Vizionarska savjetodavna grupa“ (VAG). Osim toga, s tih računa na ChatGPT‑u generisan je tekst koji se podudarao s objavama i biografijama na računima na X-u povezanim s ove tri organizacije. Zlonamjerni akteri su u zasebnim opisima ove organizacije označili kao paravane za prikupljanje i analizu obavještajnih podataka. Na osnovu tih naziva, ovu operaciju smo nazvali „Nejasan fokus“.

U okviru operacije ChatGPT je korišten kao podrška u četiri glavna područja rada. Prvo, s tih računa naši modeli su uglavnom korišteni za generisanje objava na društvenim mrežama i biografija za izmišljene online identitete koji su, po svemu sudeći, bili dio prikrivene operacije utjecaja. Objave su širili računi na X-u čiji su se korisnici predstavljali kao novinari i geopolitički analitičari.

Drugo, s tih računa uređivana je i prevođena prepiska upućena američkom senatoru u vezi s nominacijom jednog zvaničnika administracije. Ne možemo nezavisno potvrditi je li išta od te prepiske poslano.

Treće, s tih računa postavljen je niz osnovnih pitanja o alatima za napad na računarske mreže i iskorištavanje njihovih ranjivosti. Naši modeli dali su samo opća objašnjenja o upotrebi i mogućnostima tih alata. Ova pitanja nisu pokazivala nivo tehničke upućenosti kibernetičkih aktera koje opisujemo kasnije u ovom izvještaju i ukazuju na nizak nivo stručnosti.

Na kraju, korisnici su redovno tražili prijevode s kineskog na engleski poruka koje su, po svemu sudeći, bile osmišljene za uspostavljanje kontakta s nepoznatim sagovornicima i, u konačnici, izvlačenje informacija od njih. Neke od tih poruka objavljene su na društvenim mrežama kao odgovori novinarima i istraživačima. Druge su ličile na direktne poruke koje nisu pronađene pretragom interneta.

Čini se da je glavni cilj ove mreže bio prikupljanje obavještajnih podataka predstavljanjem njenih članova kao stručnjaka iz Evrope ili Turske. U sadržaju koji su generisali i objavljivali na internetu, operateri su „Vijesti u fokusu“ opisivali kao nezavisnu organizaciju sa sjedištem u Evropi, specijaliziranu za analizu i izvještavanje. Međutim, operateri su također tvrdili da je takvo predstavljanje zapravo služilo kao paravan za lakše prikupljanje, analizu i distribuciju obavještajnih podataka.

Prema web-stranici navedenoj u biografijama na društvenim mrežama, Vizionarska savjetodavna grupa nalazi se u Turskoj i specijalizirana je za profesionalne usluge geopolitičkog savjetovanja. Operateri su koristili naše modele za prevođenje uputa s kineskog na engleski u kojima se tvrdilo da grupa VAG traži informacije o ekonomskim i finansijskim politikama SAD-a i da je spremna platiti 2.000 američkih dolara po satu intervjua. Prevodili su i ponude za plaćanje dokumenata označenih kao tajni.

Web-stranica grupe VAG ima tursku i englesku verziju, a na stranici „Kontaktirajte nas“ u engleskoj verziji u meniju su vidljivi kineski znakovi za „kontaktirajte nas“ (聯絡). To je bio jedini tekst na kineskom na cijeloj domeni.

Dio sadržaja ove mreže ličio je na marketinške materijale za šire operacije utjecaja. Prema tvrdnjama koje ne možemo nezavisno provjeriti, u operaciji su korišteni mašinsko učenje, obrada prirodnog jezika i automatizirano prikupljanje podataka s weba kako bi se prepoznali utjecajni pojedinci i teme na društvenim mrežama.

Računi na društvenim mrežama povezani s ovom aktivnošću nisu ostvarili značajnije autentične interakcije na internetu. Samo je račun „Vijesti u fokusu“ na X-u imao znatan broj pratilaca, njih 17.000. Međutim, taj račun je otvoren u novembru 2014. pod drugim nazivom, objavljivao je tvitove tri dana, a zatim je bio neaktivan do sredine 2024. To je tipično za račune koji su kompromitirani i prenamijenjeni, pa njegov broj pratilaca treba tumačiti s oprezom.

Prema skali prodora⁠(otvara se u novom prozoru) za procjenu učinka operacija utjecaja, javno vidljivi dio ove operacije svrstali bismo u donji raspon kategorije 2: aktivnost na više platformi, ali malo dokaza da su stvarni korisnici preuzimali ili naširoko dijelili njen sadržaj. Nema dovoljno dostupnih dokaza za procjenu učinka socijalnog inženjeringa i drugih prikrivenih aktivnosti u okviru ove operacije.