Operation ”Stop News”: Återkommande påverkansaktivitet

Den här fallstudien publicerades ursprungligen i OpenAI:s rapport från oktober 2025⁠(öppnas i ett nytt fönster).

Vi stängde av ett antal konton som försökte använda våra modeller för att generera innehåll åt den hemliga påverkansoperation som vi skrev om i oktober 2024 under namnet ”Stop News”. Aktiviteten hade sitt ursprung i Ryssland och tycktes stämma överens med en operation som drevs av ett marknadsföringsföretag. Vår utredning visade att aktören försökte använda andra företags AI-verktyg för att generera videor som sedan publicerades på YouTube och TikTok. Vi kan inte oberoende bekräfta vilka modeller de slutligen använde.

I likhet med den aktivitet som vi stoppade i oktober 2024 använde operationen främst våra modeller för att generera innehåll som sedan publicerades på sociala medier och på ett antal webbplatser. Dessa utgav sig för att vara samma nyhetsmedier i Afrika och Storbritannien som vi skrev om förra året.

Även om aktiviteten tycktes vara ett försök att fortsätta den tidigare operationen efter våra och branschkollegors ingripanden, identifierade vi några tydliga skillnader. För det första var andelen Bildgenerering betydligt lägre. Den ursprungliga Stop News-aktiviteten använde, som vi noterade då, ovanligt mycket bildmaterial. Den senaste aktiviteten fokuserade mer på textgenerering, medan Bildgenerering var relativt sällsynt. Detta stämmer överens med den franska digitalmyndigheten VIGINUM:s bedömning att ”användningen av AI-genererade bilder har minskat drastiskt sedan Meta och OpenAI publicerade sina rapporter”.

För det andra använde operationen även ChatGPT för att generera manus och beskrivningar till korta videor i nyhetsstil. Aktörerna brukade mata in en lång rysk text och be om ett videomanus baserat på den. Därefter bad de modellen att översätta texten till franska. För det tredje bad de modellen att generera en SEO-optimerad beskrivning och hashtaggar.

Några av dessa manus användes i videor på en YouTube-kanal kopplad till Stop News-operationens Afrikainriktade webbplats, newstop[.]africa. Andra användes på en YouTube-kanal och en TikTok-kanal som inte bar varumärket ”Stop News”. På dessa kanaler läste en AI-genererad person upp nyheterna. I de flesta fall varvades korta klipp med nyhetsuppläsaren med videomaterial från händelser i eller med anknytning till Afrika. Klippen med nyhetsuppläsaren verkar inte ha genererats med våra modeller. Vi kan inte oberoende bekräfta vilken tjänst som användes. Nyhetsuppläsarens utseende förändrades under 2025, vilket skärmbilderna från TikTok-videorna nedan visar.

I de mest avancerade fallen använde aktörerna våra modeller för att generera videoprompter, uppenbarligen avsedda för andra AI-modeller. I dessa fall genererade de först ett ryskt videomanus, delade sedan upp det i avsnitt om två meningar och bad ChatGPT att generera en videoprompt för varje avsnitt. När videoprompterna hade skapats bad aktörerna modellen att översätta hela manuset till franska.

Operationens aktivitet kunde delas in i tre huvudkategorier. För det första genererade den franskspråkigt innehåll som kritiserade Frankrikes och USA:s roll i Afrika och hyllade Rysslands roll där. För det andra genererade den engelskspråkigt innehåll som kritiserade Ukraina och landets internationella stödjare. I vissa fall genererade aktörerna även bilder till sitt textinnehåll. Vid enstaka tillfällen bad de ChatGPT att generera reklamartiklar och Google-annonstexter för sitt huvudsakliga nyhetsvarumärke, ”Newstop Africa”. I stället för att enbart fokusera på Newstop Africa placerade vissa av reklamartiklarna varumärket Newstop tillsammans med legitima nyhetsmedier, sannolikt för att få det att framstå som mer trovärdigt genom associationen.

Den tredje kategorin bestod av material som marknadsförde vad som verkade vara flera olika kommersiella företag i Ryssland. Det omfattade bland annat annonser för olicensierat onlinespel. En sådan kombination av olika typer av innehållsgenerering är förenlig med ett kommersiellt företag som bedriver hemliga påverkansoperationer på uppdrag parallellt med mer traditionell reklam. Den stämmer också överens med den aktivitet som vi rapporterade om förra året.

Trots operationens ökade fokus på korta videor och mer komplexa användning av flera AI-verktyg verkar det publicerade innehållet endast ha fått ett begränsat antal visningar och nått en begränsad publik. Det centrala X-kontot ”Newstop Africa” hade bara 172 följare i augusti 2025. Enligt X-funktionen ”Populäraste inlägg” var det högsta antalet återpubliceringar för något av kontots inlägg fyra.

YouTube- och TikTok-kanalerna med en AI-nyhetsuppläsare hade omkring 1 900 följare vardera. TikTok-kanalen hade fått 5 855 gilla-markeringar, vilket motsvarar i genomsnitt 105 per publicerad video för kanalens 56 videor. Den mest sedda videon hade 63 300 visningar och den minst sedda bara 87. YouTube-kanalen redovisade omkring 255 000 visningar för 50 videor, i genomsnitt 5 100 visningar per video. Vi ser dock inga tecken på att videorna har delats vidare, citerats i medier eller på annat sätt fått större genomslag.

Vår ursprungliga bedömning av operationen i rapporten från oktober 2024 var att den nådde kategori 3 på Breakout-skalan. Bedömningen grundade sig främst på ett antal påstådda ”informationspartnerskap” som tycktes ha upprättats med brittiska webbplatser. Senare forskning från VIGINUM och öppna källor visade dock att dessa ”partnerskap” sannolikt var påhittade och ”utnyttjade tekniska brister på dessa externa webbplatser” för att lägga till innehåll utan administratörernas vetskap. Utifrån detta bedömer vi nu att operationens aktivitet snarare hör hemma i kategori 2: aktivitet på flera internetplattformar, men utan betydande spridning till autentiska grupper.