Operácia „Nejasné zameranie“: Sociálne inžinierstvo a vplyvové aktivity

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z júna 2025⁠(otvorí sa v novom okne).

Zablokovali sme malú sieť účtov ChatGPT, ktoré používali naše modely na generovanie príspevkov na sociálne siete, analýzu súborov údajov a preklad e-mailov a správ z čínštiny do angličtiny, ktoré pripomínali pokusy o sociálne inžinierstvo. Tieto účty zadávali našim modelom prompty v čínštine a boli aktívne prevažne počas pracovného času v pevninskej Číne.

Generovali správy, ktoré sa vydávali za komunikáciu zamestnancov troch geopoliticky zameraných subjektov: „Správy pod lupou“ (Focus Lens News), „Médiá Jasná vlna Európa“ (BrightWave Media Europe) a „Vizionárska poradenská skupina“ (Visionary Advisory Group, VAG). Tieto účty ChatGPT navyše generovali text, ktorý sa zhodoval s príspevkami a profilovými popismi účtov na X spojených s týmito tromi subjektmi. Samotní aktéri hrozby v iných zadaniach opisovali tieto subjekty ako krycie organizácie na zber a analýzu spravodajských informácií. Na základe týchto názvov sme túto operáciu nazvali „Nejasné zameranie“ (VAGue Focus).

Operácia využívala ChatGPT na podporu štyroch hlavných oblastí činnosti. Po prvé, účty používali naše modely najmä na generovanie príspevkov na sociálne siete a profilových popisov online identít, ktoré sa javili ako súčasť skrytej vplyvovej operácie. Príspevky šírili účty na X, ktoré sa vydávali za novinárov a geopolitických analytikov.

Po druhé, účty upravovali a prekladali korešpondenciu adresovanú americkému senátorovi týkajúcu sa nominácie predstaviteľa americkej administratívy. Nedokážeme nezávisle potvrdiť, či bola niektorá z týchto správ odoslaná.

Po tretie, účty kládli sériu základných otázok o nástrojoch na útoky na počítačové siete a zneužívanie ich zraniteľností. Naše modely na ne poskytli iba všeobecné vysvetlenia ich použitia a možností. Tieto otázky nedosahovali úroveň technickej vyspelosti kybernetických aktérov, ktorých opisujeme ďalej v tejto správe, a naznačujú nízku úroveň odborných znalostí.

Napokon používatelia pravidelne žiadali o preklad správ z čínštiny do angličtiny, ktorých zdanlivým cieľom bolo nadviazať kontakt s neznámymi osobami a napokon od nich získať informácie. Niektoré z týchto správ boli zverejnené na sociálnych sieťach ako odpovede novinárom a výskumníkom. Iné pripomínali súkromné správy, ktoré sa pri vyhľadávaní na internete nenašli.

Hlavným cieľom tejto siete bol zrejme zber spravodajských informácií pod zámienkou pôsobenia odborníkov v Európe alebo Turecku. V obsahu, ktorý tvorili a zverejňovali na internete, prevádzkovatelia opisovali „Správy pod lupou“ ako nezávislý subjekt so sídlom v Európe, ktorý sa špecializuje na analýzy a spravodajstvo. Prevádzkovatelia však zároveň tvrdili, že táto značka v skutočnosti slúžila ako krytie na uľahčenie zberu, analýzy a šírenia spravodajských informácií.

Podľa webovej stránky, na ktorú odkazovali profilové popisy na sociálnych sieťach, sídli Vizionárska poradenská skupina v Turecku a špecializuje sa na profesionálne geopolitické poradenstvo. Prevádzkovatelia používali naše modely na preklad pokynov z čínštiny do angličtiny, v ktorých sa uvádzalo, že skupina VAG hľadá informácie o hospodárskej a finančnej politike USA a je ochotná zaplatiť za rozhovor 2 000 dolárov na hodinu. Prekladali aj ponuky platby za utajované dokumenty.

Webová stránka skupiny VAG má tureckú a anglickú verziu. Na stránke Kontaktujte nás v anglickej verzii sú v ponuke viditeľné čínske znaky pre „kontaktujte nás“ (聯絡). Bol to jediný čínsky text na celej doméne.

Časť obsahu tejto siete pripomínala marketingové materiály propagujúce rozsiahlejšie vplyvové operácie. Podľa tvrdení, ktoré nedokážeme nezávisle overiť, operácia využívala strojové učenie, spracovanie prirodzeného jazyka a automatizovaný zber údajov z webu na identifikáciu vplyvných osobností a tém na sociálnych sieťach.

Účty na sociálnych sieťach spojené s touto činnosťou nezískali na internete výraznú odozvu od skutočných používateľov. Výraznejší počet sledovateľov mal iba účet Správy pod lupou na X, a to 17 000. Účet však vznikol v novembri 2014 pod iným názvom, tri dni uverejňoval tweety a potom sa až do polovice roka 2024 odmlčal. Takéto správanie je typické pre účty, ktoré boli napadnuté a použité na iný účel, preto treba k počtu jeho sledovateľov pristupovať opatrne.

Podľa škály prieniku⁠(otvorí sa v novom okne) na hodnotenie dosahu vplyvových operácií by sme verejne viditeľnú časť tejto operácie zaradili na spodnú hranicu kategórie 2: činnosť na viacerých platformách, no málo dôkazov, že si jej obsah všimli skutoční ľudia alebo ho vo väčšej miere zdieľali. Na posúdenie vplyvu sociálneho inžinierstva a ďalších skrytých aktivít tejto operácie nemáme dostatok dôkazov.