Operation »Stop News«: Tilbagevendende påvirkningsaktivitet

Denne casestudie blev oprindeligt offentliggjort i OpenAI's rapport fra oktober 2025⁠(åbner i et nyt vindue).

Vi udelukkede en række konti, som forsøgte at bruge vores modeller til at generere indhold til den skjulte påvirkningsoperation, vi i oktober 2024 omtalte som »Stop News«. Aktiviteten havde oprindelse i Rusland og så ud til at stemme overens med en operation drevet af et marketingfirma. Vores undersøgelse identificerede denne aktørs forsøg på at bruge andre virksomheders AI-værktøjer til at generere videoer, som derefter blev slået op på YouTube og TikTok. Vi kan ikke uafhængigt bekræfte, hvilke modeller de i sidste ende brugte.

Ligesom den aktivitet, vi standsede i oktober 2024, brugte denne operation hovedsageligt vores modeller til at generere indhold, som derefter blev slået op på sociale medier og en række websites, der udgav sig for at være de samme nyhedsmedier i Afrika og Storbritannien, som vi skrev om sidste år.

Selvom aktiviteten så ud til at være et forsøg på at fortsætte den tidligere operation efter vores og andre brancheaktørers indgreb, identificerede vi nogle væsentlige forskelle. For det første var andelen af billedgenerering markant lavere. Som vi bemærkede dengang, var den oprindelige Stop News-aktivitet usædvanligt produktiv i sin brug af billeder, mens den seneste aktivitet fokuserede mere på tekstgenerering, og billedgenerering forekom relativt sjældent. Dette stemmer overens med den franske digitale myndighed VIGINUMs vurdering af, at »brugen af AI-genererede billeder er faldet drastisk siden offentliggørelsen af rapporterne fra Meta og OpenAI«.

For det andet brugte operationen også ChatGPT til at generere manuskripter og beskrivelser til korte videoer i nyhedsstil. Operatørerne indtastede typisk en længere russisksproget tekst og bad om at få genereret et videomanuskript ud fra den. Derefter bad de modellen om at oversætte teksten til fransk. For det tredje bad de modellen om at generere en SEO-optimeret beskrivelse og hashtags.

Nogle af disse manuskripter blev brugt i videoer på en YouTube-kanal, der var knyttet til Stop News-operationens Afrika-fokuserede website, newstop[.]africa. Andre blev brugt på en YouTube-kanal og en TikTok-kanal, som ikke bar navnet »Stop News«. Disse kanaler viste en AI-genereret person, der læste nyheder op. I de fleste tilfælde blev korte klip med nyhedsoplæseren blandet med videooptagelser af begivenheder i eller med relation til Afrika. Klippene med nyhedsoplæseren ser ikke ud til at være genereret med vores modeller. Vi kan ikke uafhængigt bekræfte, hvilken tjeneste der blev brugt. Nyhedsoplæserens udseende udviklede sig gennem 2025, som skærmbillederne fra TikTok-videoerne nedenfor viser.

I de mest avancerede tilfælde brugte operatørerne vores modeller til at generere videoprompter, tilsyneladende til brug med andre AI-modeller. I dette scenarie genererede de først et russisksproget videomanuskript, opdelte det derefter i uddrag på to sætninger og bad ChatGPT om at generere en videoprompt til hvert uddrag. Da videoprompterne var oprettet, bad operatørerne modellen om at oversætte hele manuskriptet til fransk.

Denne operations aktivitet faldt i tre hovedkategorier. For det første genererede den fransksproget indhold, som kritiserede Frankrigs og USA's rolle i Afrika og roste Ruslands rolle på kontinentet. For det andet genererede den engelsksproget indhold, som kritiserede Ukraine og landets internationale støtter. Ved nogle lejligheder genererede operatørerne også billeder som supplement til deres tekstindhold. I sjældne tilfælde bad de ChatGPT om at generere reklameartikler og Google-annoncetekster for deres primære nyhedsbrand, »Newstop Africa«. I stedet for kun at fokusere på Newstop Africa placerede nogle af reklameartiklerne Newstop-brandet sammen med legitime nyhedsmedier, sandsynligvis for at få det til at fremstå mere troværdigt gennem denne tilknytning.

Den tredje type aktivitet bestod i at generere reklamemateriale for, hvad der lignede en række kommercielle virksomheder i Rusland. Det omfattede generering af annoncer for onlinespil uden licens. En sådan kombination af forskellige typer indholdsgenerering stemmer overens med, at en kommerciel virksomhed udfører skjulte påvirkningsoperationer på bestilling sideløbende med mere traditionel annoncering, og med den aktivitet, vi rapporterede om sidste år.

Trods operationens øgede fokus på korte videoer og dens mere komplekse brug af flere AI-værktøjer ser det ud til, at det offentliggjorte indhold kun opnåede et begrænset antal visninger og nåede et begrænset publikum. Den centrale X-konto for »Newstop Africa« havde kun 172 følgere i august 2025, og ifølge X's funktion »Topopslag« var det højeste antal genopslag for et af kontoens opslag fire.

YouTube- og TikTok-kanalerne med en AI-nyhedsoplæser havde hver omkring 1.900 følgere. TikTok-kanalen havde registreret 5.855 likes, svarende til gennemsnitligt 105 likes på hver af de 56 videoer, den havde slået op. Den mest sete video havde 63.300 visninger, mens den mindst sete kun havde 87. YouTube-kanalen angav omkring 255.000 visninger fordelt på 50 videoer, svarende til gennemsnitligt 5.100 visninger pr. video, men vi ser ingen tegn på, at videoerne er blevet delt videre, omtalt i medierne eller på anden måde har opnået større gennemslagskraft.

Vores oprindelige vurdering af operationen i rapporten fra oktober 2024 var, at den nåede kategori 3 på Breakout-skalaen, primært på baggrund af en række tilsyneladende »informationspartnerskaber«, der så ud til at være etableret med britiske websites. Senere undersøgelser fra VIGINUM og open source-forskere viste imidlertid, at disse »partnerskaber« sandsynligvis var opdigtede, og at de »udnyttede tekniske fejl på disse eksterne websites« til at tilføje indhold uden administratorernes viden. På den baggrund vurderer vi nu, at operationens aktivitet mere passende hører til i kategori 2: aktivitet på flere internetplatforme, men uden væsentligt gennembrud til autentiske fællesskaber.