Operacija »Stop News«: ponavljajoča se dejavnost vplivanja

Ta študija primera je bila prvotno objavljena v poročilu OpenAI iz oktobra 2025⁠(odpre se v novem oknu).

Onemogočili smo več računov, ki so poskušali naše modele uporabiti za ustvarjanje vsebin za prikrito operacijo vplivanja, o kateri smo oktobra 2024 pisali pod imenom »Stop News«. Ta dejavnost je izvirala iz Rusije in je kazala značilnosti operacije, ki jo vodi marketinško podjetje. V preiskavi smo ugotovili, da je ta akter poskušal z orodji UI drugih podjetij ustvarjati videoposnetke, ki jih je nato objavil na YouTubu in TikToku. Neodvisno ne moremo potrditi, katere modele so nazadnje uporabili.

Podobno kot pri dejavnosti, ki smo jo prekinili oktobra 2024, je ta operacija naše modele uporabljala predvsem za ustvarjanje vsebin, ki jih je nato objavljala na družbenih omrežjih in več spletnih mestih. Ta so se izdajala za iste medijske hiše v Afriki in Združenem kraljestvu, o katerih smo pisali lani.

Čeprav je bilo videti, da s to dejavnostjo po ukrepih nas in drugih podjetij v panogi poskušajo nadaljevati prejšnjo operacijo, smo ugotovili nekaj pomembnih razlik. Prvič, delež generiranja slik je bil bistveno manjši. Prvotna dejavnost operacije Stop News je bila, kot smo ugotovili že takrat, pri uporabi slik nenavadno obsežna, najnovejša dejavnost pa se je bolj osredotočala na ustvarjanje besedila, medtem ko je bilo generiranje slik razmeroma redko. To se ujema z oceno francoske agencije za digitalno varnost VIGINUM, da se je »po objavi poročil družb Meta in OpenAI uporaba slik, ustvarjenih z UI, drastično zmanjšala«.

Drugič, operacija je ChatGPT uporabljala tudi za ustvarjanje scenarijev in opisov kratkih videoposnetkov v slogu novic. Izvajalci so običajno vnesli daljše besedilo v ruščini in zahtevali, naj se iz njega ustvari scenarij za videoposnetek. Nato so model prosili, naj besedilo prevede v francoščino. Tretjič, model so prosili, naj ustvari opis, optimiziran za SEO, in ključnike.

Nekateri od teh scenarijev so bili uporabljeni v videoposnetkih na YouTubovem kanalu, povezanem s spletnim mestom operacije Stop News za afriško občinstvo, newstop[.]africa. Drugi so bili uporabljeni na kanalih v YouTubu in TikToku, ki nista bila označena z blagovno znamko »Stop News«. Na teh kanalih je z UI ustvarjena oseba brala novice. Kratki posnetki voditelja poročil so bili večinoma prepleteni z videoposnetki dogodkov v Afriki ali dogodkov, povezanih z njo. Videti je, da posnetki voditelja poročil niso bili ustvarjeni z našimi modeli; neodvisno ne moremo potrditi, katera storitev je bila uporabljena. Videz voditelja poročil se je skozi leto 2025 spreminjal, kot ponazarjajo spodnji posnetki zaslona videoposnetkov na TikToku.

V najbolj dodelanih primerih so izvajalci operacije z našimi modeli ustvarjali video pozive, ki so bili očitno namenjeni uporabi z drugimi modeli UI. V takem primeru so najprej ustvarili scenarij za videoposnetek v ruščini, ga nato razdelili na odlomke po dva stavka in ChatGPT prosili, naj za vsak odlomek ustvari video poziv. Ko so bili video pozivi pripravljeni, so izvajalci model prosili, naj celoten scenarij prevede v francoščino.

Dejavnosti te operacije so spadale v tri glavne kategorije. Prvič, ustvarjala je vsebine v francoščini, ki so kritizirale vlogo Francije in Združenih držav Amerike v Afriki ter hvalile tamkajšnjo vlogo Rusije. Drugič, ustvarjala je vsebine v angleščini, ki so kritizirale Ukrajino in njene mednarodne podpornike. Izvajalci so občasno ustvarili tudi slike, ki so spremljale njihove besedilne vsebine. V redkih primerih so ChatGPT prosili, naj za njihovo glavno novičarsko znamko »Newstop Africa« ustvari promocijske članke in besedila za Googlove oglase. Nekateri od teh promocijskih člankov se niso osredotočali le na Newstop Africa, temveč so znamko Newstop postavljali ob bok verodostojnim medijem, verjetno zato, da bi zaradi te povezave delovala bolj verodostojno.

Tretja skupina dejavnosti je obsegala ustvarjanje promocijskega gradiva za več domnevno komercialnih podjetij v Rusiji. To je vključevalo ustvarjanje oglasov za nelicencirane spletne igre na srečo. Takšna kombinacija različnih vrst ustvarjanja vsebin ustreza dejavnosti komercialnega podjetja, ki poleg običajnega oglaševanja po naročilu izvaja prikrite operacije vplivanja, in se ujema z dejavnostjo, o kateri smo poročali lani.

Kljub večjemu poudarku te operacije na kratkih videovsebinah in bolj zapleteni uporabi več orodij UI so njene objavljene vsebine očitno dosegle le omejeno število ogledov oziroma majhno občinstvo. Osrednji račun »Newstop Africa« na omrežju X je imel avgusta 2025 le 172 sledilcev, po podatkih funkcije »Najboljše objave« na omrežju X pa je največje število ponovnih objav katere koli njegove objave znašalo štiri.

Kanala na YouTubu in TikToku, na katerih je nastopal voditelj poročil, ustvarjen z UI, sta imela vsak približno 1.900 sledilcev; kanal na TikToku je zabeležil 5.855 všečkov oziroma povprečno 105 všečkov za vsakega od 56 objavljenih videoposnetkov. Najbolj gledani videoposnetek je zabeležil 63.300 ogledov, najmanj gledani pa le 87. YouTubov kanal je pri 50 videoposnetkih navajal približno 255.000 ogledov oziroma povprečno 5.100 ogledov na videoposnetek, vendar nismo našli dokazov, da bi bili ti videoposnetki deljeni naprej, omenjeni v medijih ali kako drugače dosegli širši odmev.

V prvotni oceni te operacije v našem poročilu iz oktobra 2024 smo jo uvrstili v 3. kategorijo lestvice Breakout Scale, predvsem zaradi več domnevnih »informacijskih partnerstev«, ki naj bi bila vzpostavljena s spletnimi mesti v Združenem kraljestvu. Vendar so poznejše raziskave agencije VIGINUM in raziskovalcev odprtih virov pokazale, da so bila ta »partnerstva« verjetno izmišljena in da so »izkoriščala tehnične pomanjkljivosti teh zunanjih spletnih mest« za dodajanje vsebin brez vednosti skrbnikov. Na tej podlagi bi dejavnost te operacije zdaj ustrezneje uvrstili v 2. kategorijo: dejavnost na več spletnih platformah, vendar brez pomembnega prodora v pristne skupnosti.