Operacija »Nejasen fokus«: socialni inženiring in dejavnosti vplivanja

Ta študija primera je bila prvotno objavljena v poročilu družbe OpenAI iz junija 2025⁠(odpre se v novem oknu).

Blokirali smo manjšo mrežo računov ChatGPT, ki so naše modele uporabljali za ustvarjanje objav na družbenih omrežjih, analiziranje podatkovnih zbirk ter prevajanje e-pošte in sporočil iz kitajščine v angleščino, ki so spominjala na poskuse socialnega inženiringa. Uporabniki teh računov so našim modelom dajali navodila v kitajščini in bili večinoma dejavni med delovnim časom na celinski Kitajski.

Ustvarjali so sporočila, ki naj bi jih pošiljali zaposleni treh organizacij, usmerjenih v geopolitiko: »Novice skozi objektiv«, »Mediji Svetli val Evropa« in »Vizionarska svetovalna skupina« (VAG). Poleg tega so z računi ChatGPT ustvarjali besedila, ki so se ujemala z objavami in opisi profilov računov na omrežju X, povezanih s temi tremi organizacijami. Zlonamerni akterji so te organizacije v ločenih pogovorih opisali kot krinko za zbiranje in analizo obveščevalnih podatkov. Na podlagi teh imen smo operacijo poimenovali »Nejasen fokus«.

V okviru operacije so ChatGPT uporabljali za podporo štirim glavnim sklopom dejavnosti. Prvič, račune so večinoma uporabljali za ustvarjanje objav na družbenih omrežjih in biografij spletnih identitet, ki so bile očitno del prikrite operacije vplivanja. Objave so širili računi na omrežju X, ki so se predstavljali kot novinarji in geopolitični analitiki.

Drugič, prek računov so jezikovno urejali in prevajali korespondenco, naslovljeno na ameriškega senatorja, o nominaciji uradnika ameriške administracije. Ne moremo neodvisno potrditi, ali je bila katera od teh pisnih sporočil tudi poslana.

Tretjič, prek računov so zastavili vrsto osnovnih vprašanj o orodjih za napade na računalniška omrežja in izkoriščanje njihovih ranljivosti. Naši modeli so nanje podali le splošne razlage o uporabi in zmogljivostih teh orodij. Ta vprašanja niso izkazovala tehnične podkovanosti kibernetskih akterjev, ki jih opisujemo v nadaljevanju poročila, in kažejo na nizko raven strokovnega znanja.

Nazadnje so uporabniki redno zahtevali prevode sporočil iz kitajščine v angleščino, katerih namen je bil očitno navezati stik z neznanimi sogovorniki in od njih sčasoma pridobiti informacije. Nekatera od teh sporočil so bila na družbenih omrežjih objavljena kot odgovori novinarjem in raziskovalcem. Druga so spominjala na zasebna sporočila, ki jih s spletnim iskanjem nismo našli.

Glavni cilj te mreže je bil očitno zbiranje obveščevalnih podatkov z izdajanjem za strokovnjake s sedežem v Evropi ali Turčiji. V vsebinah, ki so jih ustvarili in objavili na spletu, so izvajalci operacije opisovali »Novice skozi objektiv« kot neodvisno organizacijo s sedežem v Evropi, specializirano za analize in poročanje. Vendar so izvajalci tudi trdili, da je ta blagovna znamka dejansko služila kot krinka za lažje zbiranje, analiziranje in razširjanje obveščevalnih podatkov.

Glede na spletno mesto, povezano v opisih profilov na družbenih omrežjih, ima Vizionarska svetovalna skupina sedež v Turčiji in je specializirana za strokovno geopolitično svetovanje. Izvajalci so z našimi modeli iz kitajščine v angleščino prevajali navodila, v katerih so trdili, da skupina VAG išče informacije o ameriški gospodarski in finančni politiki ter da je za intervju pripravljena plačati 2.000 ameriških dolarjev na uro. Prevajali so tudi ponudbe za plačilo za tajne dokumente.

Spletno mesto skupine VAG ima turško in angleško različico. Na strani »Stik z nami« v angleški različici so v meniju vidne kitajske pismenke za »stik z nami« (聯絡). To je bilo edino kitajsko besedilo na celotni domeni.

Nekatere vsebine te mreže so spominjale na trženjsko gradivo za širše operacije vplivanja. Po navedbah, ki jih ne moremo neodvisno preveriti, so v operaciji uporabljali strojno učenje, obdelavo naravnega jezika in samodejno zajemanje podatkov, da bi na družbenih omrežjih prepoznali vplivne posameznike in teme.

Računi na družbenih omrežjih, povezani s to dejavnostjo, na spletu niso pritegnili večjega pristnega odziva. Le račun Novic skozi objektiv na omrežju X je imel precejšnje število sledilcev, in sicer 17.000. Vendar je bil ustvarjen novembra 2014 pod drugim imenom, tri dni je objavljal tvite, nato pa je do sredine leta 2024 obmolknil. To je značilno za račune, ki so bili prevzeti in uporabljeni za drug namen, zato je treba njegovo število sledilcev obravnavati previdno.

Po lestvici preboja⁠(odpre se v novem oknu) za merjenje učinkov operacij vplivanja bi javni del te operacije uvrstili na spodnji rob 2. kategorije: dejavnost na več platformah, vendar malo dokazov, da so resnični ljudje njene vsebine prevzeli ali jih množično delili. Za oceno učinkov socialnega inženiringa in drugih prikritih dejavnosti te operacije ni na voljo dovolj dokazov.