Operace „Stop News“: opakovaná vlivová činnost

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z října 2025⁠(otevře se v novém okně).

Zablokovali jsme skupinu účtů, které se pokoušely používat naše modely k vytváření obsahu pro skrytou vlivovou operaci, o níž jsme v říjnu 2024 psali pod názvem „Stop News“. Tato činnost pocházela z Ruska a odpovídala operaci řízené marketingovou společností. Naše vyšetřování odhalilo, že se tento aktér pokoušel používat nástroje AI jiných společností k vytváření videí, která následně zveřejňoval na YouTube a TikToku. Nedokážeme nezávisle ověřit, které modely nakonec použil.

Podobně jako u činnosti, kterou jsme narušili v říjnu 2024, využívala tato operace naše modely především k vytváření obsahu. Ten následně zveřejňovala na sociálních sítích a na skupině webů, které se vydávaly za tatáž zpravodajská média v Africe a Spojeném království, o nichž jsme psali loni.

Ačkoli tato činnost zřejmě představovala pokus pokračovat v dřívější operaci poté, co jsme ji spolu s dalšími společnostmi v oboru narušili, zjistili jsme několik významných rozdílů. Zaprvé byl podíl generování obrázků výrazně nižší. Zatímco původní činnost Stop News byla, jak jsme tehdy uvedli, v používání obrazového materiálu neobvykle rozsáhlá, nejnovější činnost se více zaměřovala na generování textu a generování obrázků bylo poměrně vzácné. To odpovídá hodnocení francouzské digitální agentury VIGINUM, podle níž „od zveřejnění zpráv společností Meta a OpenAI používání obrázků generovaných umělou inteligencí dramaticky pokleslo“.

Zadruhé operace využívala ChatGPT také k vytváření scénářů a popisů pro krátká videa ve zpravodajském stylu. Provozovatelé obvykle zadali dlouhý text v ruštině a požádali o vytvoření video scénáře na jeho základě. Poté požádali model, aby text přeložil do francouzštiny. Zatřetí žádali model, aby vytvořil popis optimalizovaný pro SEO a hashtagy.

Některé z těchto scénářů se objevily ve videích na kanálu YouTube propojeném s webem newstop[.]africa, který se zaměřoval na Afriku a patřil k operaci Stop News. Jiné se objevily na kanálech YouTube a TikTok, které značku „Stop News“ nepoužívaly. Na těchto kanálech četla zprávy postava vygenerovaná umělou inteligencí. Krátké záběry moderátorky byly ve většině případů prokládány videozáznamy událostí v Africe nebo událostí, které s ní souvisely. Nezdá se, že by záběry moderátorky byly vygenerovány pomocí našich modelů; nedokážeme nezávisle ověřit, která služba byla použita. Vzhled moderátorky se v průběhu roku 2025 měnil, jak ukazují níže uvedené snímky z videí na TikToku.

V nejpropracovanějších případech provozovatelé pomocí našich modelů vytvářeli video prompty, zřejmě určené pro jiné modely AI. V tomto případě nejprve vygenerovali video scénář v ruštině, poté jej rozdělili na úryvky po dvou větách a požádali ChatGPT, aby pro každý úryvek vytvořil video prompt. Po vytvoření video promptů provozovatelé požádali model, aby celý scénář přeložil do francouzštiny.

Činnost této operace spadala do tří hlavních kategorií. Zaprvé vytvářela francouzský obsah, který kritizoval roli Francie a Spojených států v Africe a vyzdvihoval tamní roli Ruska. Zadruhé vytvářela anglický obsah, který kritizoval Ukrajinu a její mezinárodní podporovatele. Provozovatelé někdy také generovali obrázky, které doprovázely jejich textový obsah. Ve vzácných případech žádali ChatGPT, aby pro jejich hlavní zpravodajskou značku „Newstop Africa“ vytvořil propagační články a texty reklam Google. Některé z těchto propagačních článků se nezaměřovaly pouze na Newstop Africa, ale uváděly značku Newstop společně s legitimními zpravodajskými médii, pravděpodobně aby díky tomuto spojení působila důvěryhodněji.

Třetí oblast činnosti spočívala ve vytváření propagačních materiálů pro firmy, které působily jako různé komerční společnosti v Rusku. Patřilo sem i vytváření reklam na nelicencovaný online hazard. Taková kombinace různých druhů vytvářeného obsahu odpovídá komerční společnosti, která vedle tradičnější reklamy provozuje na zakázku také skryté vlivové operace, a je v souladu s činností, o níž jsme informovali loni.

Navzdory většímu zaměření této operace na krátká videa a složitějšímu využívání více nástrojů AI se zdá, že její zveřejněný obsah získal jen omezený počet zhlédnutí a oslovil malé publikum. Hlavní účet „Newstop Africa“ na síti X měl v srpnu 2025 pouhých 172 sledujících a podle funkce „Nejlepší příspěvky“ na síti X nezískal žádný jeho příspěvek více než čtyři reposty.

Kanály na YouTube a TikToku s moderátorkou vytvořenou pomocí AI měly každý přibližně 1 900 sledujících. Kanál na TikToku zaznamenal 5 855 lajků, tedy průměrně 105 lajků u každého z 56 zveřejněných videí. Nejsledovanější video zaznamenalo 63 300 zhlédnutí, zatímco nejméně sledované jen 87. Kanál na YouTube vykazoval u 50 videí celkem přibližně 255 000 zhlédnutí, tedy v průměru 5 100 na jedno video. Nezjistili jsme však žádné důkazy, že by tato videa byla dále sdílena, citována v médiích nebo jinak získala širší ohlas.

V původním hodnocení této operace v naší zprávě z října 2024 jsme ji zařadili do 3. kategorie na škále Breakout Scale, a to především na základě několika údajných „informačních partnerství“, která byla zřejmě navázána s weby ve Spojeném království. Následný výzkum agentury VIGINUM a výzkumníků pracujících s otevřenými zdroji však ukázal, že tato „partnerství“ byla pravděpodobně smyšlená a že operace „využívala technických nedostatků těchto externích webů“ k přidávání obsahu bez vědomí jejich správců. Na tomto základě bychom nyní činnost této operace zařadili spíše do 2. kategorie: aktivita na více internetových platformách, avšak bez výraznějšího proniknutí do autentických komunit.