Operácia „Stop News“: Opakovaná vplyvová činnosť

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z októbra 2025⁠(otvorí sa v novom okne).

Zablokovali sme skupinu účtov, ktoré sa pokúšali používať naše modely na vytváranie obsahu pre skrytú vplyvovú operáciu, o ktorej sme v októbri 2024 písali pod názvom „Stop News“. Táto činnosť pochádzala z Ruska a javila sa ako operácia riadená marketingovou spoločnosťou. Naše vyšetrovanie odhalilo snahy tohto aktéra používať nástroje umelej inteligencie od iných spoločností na vytváranie videí, ktoré potom zverejňoval na YouTube a TikToku. Nedokážeme nezávisle potvrdiť, ktoré modely napokon použili.

Podobne ako pri činnosti, ktorú sme prerušili v októbri 2024, aj táto operácia používala naše modely najmä na vytváranie obsahu, ktorý následne zverejňovala na sociálnych sieťach a na skupine webových stránok vydávajúcich sa za rovnaké spravodajské médiá v Afrike a Spojenom kráľovstve, o ktorých sme písali minulý rok.

Hoci sa táto činnosť javila ako pokus pokračovať v predchádzajúcej operácii po zásahoch z našej strany a zo strany ďalších spoločností v odvetví, zaznamenali sme niekoľko významných rozdielov. Po prvé, podiel generovania obrázkov bol výrazne nižší. Kým pôvodná činnosť Stop News bola, ako sme vtedy uviedli, nezvyčajne intenzívna v používaní obrazového materiálu, najnovšia činnosť sa viac sústredila na tvorbu textu a generovanie obrázkov bolo pomerne zriedkavé. To je v súlade s hodnotením francúzskej digitálnej agentúry VIGINUM, podľa ktorej „od zverejnenia správ spoločností Meta a OpenAI používanie obrázkov vytvorených umelou inteligenciou prudko kleslo“.

Po druhé, operácia používala ChatGPT aj na vytváranie scenárov a opisov krátkych videí v spravodajskom štýle. Prevádzkovatelia zvyčajne zadali dlhý text v ruštine a požiadali o vytvorenie videoscenára na jeho základe. Potom požiadali model, aby text preložil do francúzštiny. Po tretie, žiadali model, aby vytvoril opis optimalizovaný pre vyhľadávače a hashtagy.

Niektoré z týchto scenárov sa objavili vo videách na kanáli YouTube prepojenom s webovou stránkou operácie Stop News zameranou na Afriku, newstop[.]africa. Iné sa objavili na kanáloch YouTube a TikTok, ktoré nepoužívali značku „Stop News“. Na týchto kanáloch čítala správy osoba vytvorená umelou inteligenciou. Vo väčšine prípadov sa krátke zábery spravodajkyne striedali s videozáznamami udalostí v Afrike alebo udalostí súvisiacich s Afrikou. Nezdá sa, že by zábery spravodajkyne boli vytvorené pomocou našich modelov. Nedokážeme nezávisle potvrdiť, ktorá služba bola použitá. Vzhľad spravodajkyne sa počas roka 2025 menil, ako ukazujú snímky obrazovky z videí na TikToku uvedené nižšie.

V najprepracovanejších prípadoch prevádzkovatelia používali naše modely na vytváranie príkazov na vytvorenie videí, ktoré boli zjavne určené pre iné modely umelej inteligencie. V takom prípade najprv vytvorili videoscenár v ruštine, potom ho rozdelili na úseky po dvoch vetách a požiadali ChatGPT, aby pre každý úsek vytvoril príkaz na vytvorenie videa. Po vytvorení príkazov na vytvorenie videí prevádzkovatelia požiadali model, aby celý scenár preložil do francúzštiny.

Činnosť tejto operácie patrila do troch hlavných kategórií. Po prvé, vytvárala obsah vo francúzštine, ktorý kritizoval úlohu Francúzska a Spojených štátov v Afrike a vyzdvihoval tamojšiu úlohu Ruska. Po druhé, vytvárala obsah v angličtine, ktorý kritizoval Ukrajinu a jej medzinárodných podporovateľov. Prevádzkovatelia niekedy vytvárali aj obrázky dopĺňajúce ich textový obsah. V ojedinelých prípadoch požiadali ChatGPT, aby pre ich hlavnú spravodajskú značku „Newstop Africa“ vytvoril propagačné články a texty reklám Google. Niektoré z týchto propagačných článkov sa nezameriavali len na Newstop Africa, ale uvádzali značku Newstop spolu s legitímnymi spravodajskými médiami, pravdepodobne s cieľom pôsobiť vďaka tomuto spojeniu dôveryhodnejšie.

Tretiu skupinu činností tvorilo vytváranie propagačných materiálov pre viaceré zdanlivo komerčné spoločnosti v Rusku. Patrilo sem aj vytváranie reklám na online hazardné hry bez licencie. Takáto kombinácia rôznych druhov tvorby obsahu zodpovedá činnosti komerčnej spoločnosti, ktorá popri tradičnej reklame prevádzkuje skryté vplyvové operácie na objednávku, a zhoduje sa s činnosťou, o ktorej sme informovali minulý rok.

Napriek väčšiemu zameraniu tejto operácie na krátke videá a zložitejšiemu využívaniu viacerých nástrojov umelej inteligencie zrejme jej zverejnený obsah získal len obmedzený počet zhliadnutí a oslovil malé publikum. Hlavný účet „Newstop Africa“ na platforme X mal v auguste 2025 len 172 sledovateľov a podľa funkcie „Najlepšie príspevky“ platformy X bol najvyšší počet opätovných zdieľaní ktoréhokoľvek jeho príspevku štyri.

Kanály na YouTube a TikToku so spravodajkyňou vytvorenou umelou inteligenciou mali každý približne 1 900 sledovateľov. Kanál na TikToku zaznamenal 5 855 označení Páči sa mi to, teda v priemere 105 na každé z 56 zverejnených videí. Najsledovanejšie video zaznamenalo 63 300 zhliadnutí, kým najmenej sledované len 87. Kanál na YouTube uvádzal približne 255 000 zhliadnutí pri 50 videách, teda priemerne 5 100 zhliadnutí na video. Nevidíme však žiadne dôkazy, že by tieto videá boli ďalej zdieľané, citované v médiách alebo inak získali širší ohlas.

V našom pôvodnom hodnotení tejto operácie v správe z októbra 2024 sme ju zaradili do kategórie 3 na škále Breakout Scale, a to najmä na základe niekoľkých údajných „informačných partnerstiev“, ktoré zdanlivo vznikli s webovými stránkami zo Spojeného kráľovstva. Neskorší výskum agentúry VIGINUM a výskumníkov pracujúcich s otvorenými zdrojmi však ukázal, že tieto „partnerstvá“ boli pravdepodobne vymyslené a „zneužívali technické nedostatky týchto externých stránok“ na pridávanie obsahu bez vedomia ich správcov. Na tomto základe by sme dnes činnosť tejto operácie primeranejšie zaradili do kategórie 2: činnosť na viacerých internetových platformách, ale bez výrazného prieniku do autentických komunít.