Operasjon «Stop News»: Gjentakende påvirkningsaktivitet

Denne kasusstudien ble opprinnelig publisert i OpenAIs rapport fra oktober 2025⁠(åpnes i et nytt vindu).

Vi utestengte en gruppe kontoer som forsøkte å bruke modellene våre til å generere innhold for den skjulte påvirkningsoperasjonen vi omtalte som «Stop News» i oktober 2024. Aktiviteten hadde sitt utspring i Russland og så ut til å samsvare med en operasjon drevet av et markedsføringsselskap. Undersøkelsen vår avdekket at aktøren forsøkte å bruke KI-verktøy fra andre selskaper til å generere videoer som deretter ble publisert på YouTube og TikTok. Vi kan ikke uavhengig bekrefte hvilke modeller de til slutt brukte.

I likhet med aktiviteten vi stanset i oktober 2024, brukte denne operasjonen hovedsakelig modellene våre til å generere innhold som deretter ble publisert i sosiale medier og på en gruppe nettsteder. Disse utga seg for å være de samme nyhetsmediene i Afrika og Storbritannia som vi omtalte i fjor.

Selv om aktiviteten så ut til å være et forsøk på å videreføre den tidligere operasjonen etter tiltakene fra oss og andre i bransjen, avdekket vi enkelte tydelige forskjeller. For det første var andelen bildegenerering betydelig lavere. Mens den opprinnelige Stop News-aktiviteten, som vi bemerket den gangen, brukte uvanlig mye bildemateriale, var den nyeste aktiviteten mer rettet mot tekstgenerering, og bildegenerering forekom relativt sjelden. Dette samsvarer med vurderingen fra det franske digitalbyrået VIGINUM om at «bruken av KI-genererte bilder har falt drastisk siden rapportene fra Meta og OpenAI ble publisert».

For det andre brukte operasjonen også ChatGPT til å generere manus og beskrivelser for korte videoer i nyhetsstil. Operatørene la vanligvis inn en lang russiskspråklig tekst og ba om å få generert et videomanus basert på den. Deretter ba de modellen om å oversette teksten til fransk. For det tredje ba de modellen om å generere en SEO-optimalisert beskrivelse og emneknagger.

Noen av disse manusene ble brukt i videoer på en YouTube-kanal knyttet til Stop News-operasjonens Afrika-rettede nettsted, newstop[.]africa. Andre ble brukt på en YouTube-kanal og en TikTok-kanal som ikke bar merkevaren «Stop News». Disse kanalene viste en KI-generert person som leste nyhetene. I de fleste tilfellene ble korte klipp av nyhetsoppleseren blandet med videoopptak av hendelser i eller knyttet til Afrika. Klippene av nyhetsoppleseren ser ikke ut til å ha blitt generert med modellene våre. Vi kan ikke uavhengig bekrefte hvilken tjeneste som ble brukt. Nyhetsoppleserens utseende utviklet seg gjennom 2025, slik skjermbildene fra TikTok-videoene nedenfor viser.

I de mest avanserte tilfellene brukte operatørene modellene våre til å generere videoprompter som tilsynelatende skulle brukes med andre KI-modeller. I dette scenarioet genererte de først et russiskspråklig videomanus, delte det deretter opp i utdrag på to setninger og ba ChatGPT om å generere en videoprompt for hvert utdrag. Da videopromptene var opprettet, ba operatørene modellen om å oversette hele manuset til fransk.

Aktiviteten til denne operasjonen falt i tre hovedkategorier. For det første genererte den franskspråklig innhold som kritiserte Frankrikes og USAs rolle i Afrika og roste Russlands rolle der. For det andre genererte den engelskspråklig innhold som kritiserte Ukraina og landets internasjonale støttespillere. Ved enkelte anledninger genererte operatørene også bilder til tekstinnholdet sitt. Enkelte sjeldne ganger ba de ChatGPT om å generere reklameartikler og Google-annonsetekster for sitt viktigste nyhetsmerke, «Newstop Africa». I stedet for bare å rette søkelyset mot Newstop Africa omtalte enkelte av disse reklameartiklene Newstop sammen med legitime nyhetsmedier, trolig for å få merkevaren til å virke mer troverdig gjennom denne koblingen.

Den tredje typen aktivitet besto i å generere reklamemateriell for det som så ut til å være en rekke kommersielle selskaper i Russland. Dette omfattet generering av annonser for ulisensiert pengespill på nett. En slik kombinasjon av ulike typer innholdsproduksjon samsvarer med et kommersielt selskap som utfører skjulte påvirkningsoperasjoner på oppdrag parallelt med mer tradisjonell annonsering. Det samsvarer også med aktiviteten vi rapporterte om i fjor.

Til tross for operasjonens økte vekt på korte videoer og mer komplekse bruk av flere KI-verktøy ser innholdet den publiserte, bare ut til å ha fått begrenset med visninger og nådd et begrenset publikum. Den sentrale X-kontoen «Newstop Africa» hadde bare 172 følgere per august 2025, og ifølge X-funksjonen «Mest populære innlegg» var det høyeste antallet republiseringer av et innlegg fire.

YouTube- og TikTok-kanalene med en KI-generert nyhetsoppleser hadde omtrent 1900 følgere hver. TikTok-kanalen hadde fått 5855 likerklikk, tilsvarende et gjennomsnitt på 105 likerklikk for hver av de 56 videoene den publiserte. Den mest sette videoen fikk 63 300 visninger, mens den minst sette bare fikk 87. YouTube-kanalen oppga rundt 255 000 visninger fordelt på 50 videoer, eller i gjennomsnitt 5100 visninger per video. Vi ser imidlertid ingen tegn til at videoene er blitt delt videre, omtalt i mediene eller på annen måte har fått større gjennomslag.

Vår opprinnelige vurdering av denne operasjonen i rapporten fra oktober 2024 var at den nådde kategori 3 på Breakout-skalaen. Dette var i stor grad basert på flere tilsynelatende «informasjonspartnerskap» som så ut til å være inngått med britiske nettsteder. Senere undersøkelser fra VIGINUM og åpne kilder viste imidlertid at disse «partnerskapene» trolig var oppdiktede, og at de «utnyttet tekniske svakheter på disse eksterne nettstedene» til å legge til innhold uten administratorenes kjennskap. På dette grunnlaget vurderer vi nå at operasjonens aktivitet passer bedre i kategori 2: aktivitet på flere internettplattformer, men uten betydelig gjennomslag i autentiske miljøer.