Operatie "Stop News": terugkerende beïnvloedingsactiviteiten
OpenAI heeft accounts geblokkeerd die verband hielden met een uit Rusland afkomstige operatie die we "Stop News" noemden en die AI gebruikte om opnieuw beïnvloedingscontent te genereren, gericht op Afrika en het VK.
Deze casestudy werd oorspronkelijk gepubliceerd in het rapport oktober 2025(opent in een nieuw venster) van OpenAI.
Actor
We hebben een reeks accounts geblokkeerd die onze modellen probeerden te gebruiken om content te genereren voor de heimelijke beïnvloedingsoperatie waarover we in oktober 2024 schreven onder de naam "Stop News". Deze activiteit was afkomstig uit Rusland en leek te passen bij een operatie van een marketingbedrijf. Uit ons onderzoek bleek dat deze actor AI-tools van andere bedrijven probeerde te gebruiken om video's te genereren die vervolgens op YouTube en TikTok werden geplaatst. We kunnen niet onafhankelijk bevestigen welke modellen uiteindelijk zijn gebruikt.
Gedrag
Net als bij de activiteit die we in oktober 2024 verstoorden, gebruikte deze operatie onze modellen voornamelijk om content te genereren die vervolgens werd geplaatst op sociale media en op een reeks websites die zich voordeden als dezelfde nieuwsmedia in Afrika en het VK waarover we vorig jaar schreven.
Hoewel deze activiteit een poging leek om de eerdere operatie voort te zetten nadat wij en andere partijen in de sector die hadden verstoord, stelden we enkele opvallende verschillen vast. Ten eerste lag het aandeel beeldgeneratie aanzienlijk lager. Zoals we destijds opmerkten, maakte de oorspronkelijke Stop News-activiteit ongewoon veel gebruik van beeldmateriaal. De recentste activiteit was meer gericht op tekstgeneratie en beeldgeneratie kwam relatief weinig voor. Dit sluit aan bij de beoordeling van de Franse digitale overheidsdienst VIGINUM dat "het gebruik van door AI gegenereerde afbeeldingen sinds de publicatie van de rapporten van Meta en OpenAI drastisch is afgenomen".
Ten tweede gebruikte de operatie ChatGPT ook om scripts en beschrijvingen te genereren voor korte video's in nieuwsstijl. De uitvoerders voerden doorgaans een lange Russische tekst in en vroegen om daaruit een videoscript te genereren. Vervolgens vroegen ze het model om de tekst in het Frans te vertalen. Ten derde vroegen ze het model om een voor SEO geoptimaliseerde beschrijving en hashtags te genereren.
Sommige van deze scripts werden gebruikt in video's op een YouTube-kanaal dat was gekoppeld aan de op Afrika gerichte website van de Stop News-operatie, newstop[.]africa. Andere werden gebruikt op een YouTube- en TikTok-kanaal waarop het merk "Stop News" niet zichtbaar was. Op deze kanalen las een door AI gegenereerde persoon het nieuws voor. In de meeste gevallen werden korte fragmenten van de nieuwslezer afgewisseld met videobeelden van gebeurtenissen in of rond Afrika. De fragmenten van de nieuwslezer lijken niet met onze modellen te zijn gegenereerd; we kunnen niet onafhankelijk bevestigen welke dienst is gebruikt. Het uiterlijk van de nieuwslezer veranderde in de loop van 2025, zoals de onderstaande screenshots van TikTok-video's laten zien.
Van links naar rechts: de door AI gegenereerde nieuwslezer die Rusland prijst in januari 2025, begin juni 2025 en eind juni 2025, afkomstig van het TikTok-account van de operatie.
In de meest geavanceerde gevallen gebruikten de uitvoerders onze modellen om videoprompts te genereren die kennelijk bedoeld waren voor andere AI-modellen. In dit scenario genereerden ze eerst een Russisch videoscript, splitsten dat vervolgens op in fragmenten van twee zinnen en vroegen ChatGPT om voor elk fragment een videoprompt te genereren. Nadat de videoprompts waren gemaakt, vroegen de uitvoerders het model om het volledige script in het Frans te vertalen.
Van links naar rechts: drie screenshots uit een TikTok-video die het Russische "Afrikakorps" prijst. De uitvoerders gebruikten ChatGPT om het Russische audioscript te genereren, splitsten het op in fragmenten van twee zinnen en genereerden vervolgens voor elk fragment een videoprompt voor een ander model. De bovenstaande afbeeldingen komen overeen met de videoprompts. We kunnen niet onafhankelijk bevestigen welke dienst is gebruikt om de video's te maken. Opvallend is dat het bijschrift in de rechterafbeelding een grammaticale fout bevat ("ces" in plaats van "ses") die niet voorkwam in de door ChatGPT geleverde Franse vertaling. Dit wijst erop dat het bijschrift uit audio is getranscribeerd en niet is nagelezen door iemand die het Frans beheerst.
Resultaten
De activiteiten van deze operatie vielen uiteen in drie hoofdcategorieën. Ten eerste genereerde de operatie Franstalige content waarin kritiek werd geuit op de rol van Frankrijk en de Verenigde Staten in Afrika en de rol van Rusland daar werd geprezen. Ten tweede genereerde de operatie Engelstalige content waarin Oekraïne en zijn internationale bondgenoten werden bekritiseerd. Soms genereerden de uitvoerders ook afbeeldingen bij hun tekstuele content. Een enkele keer vroegen ze ChatGPT om promotieartikelen en Google-advertentieteksten te genereren voor hun belangrijkste nieuwsmerk, "Newstop Africa". Sommige van deze promotieartikelen richtten zich niet alleen op Newstop Africa, maar plaatsten het merk Newstop naast legitieme nieuwsmedia, waarschijnlijk om het door die associatie geloofwaardiger te laten lijken.
Tweet van het belangrijkste op Afrika gerichte X-account van de operatie. De afbeelding is gegenereerd met ons model.
De derde categorie activiteiten bestond uit het genereren van promotiemateriaal voor wat een reeks commerciële bedrijven in Rusland leek te zijn. Daaronder viel ook het genereren van advertenties voor online gokken zonder vergunning. Een dergelijke combinatie van verschillende soorten contentgeneratie past bij een commercieel bedrijf dat naast traditionelere reclame ook heimelijke beïnvloedingsoperaties in opdracht uitvoert. Dit sluit aan bij de activiteit waarover we vorig jaar rapporteerden.
Impact
Ondanks de sterkere nadruk op korte video's en het complexere gebruik van meerdere AI-tools lijkt de geplaatste content slechts een beperkt aantal kijkers of doelgroepen te hebben bereikt. Het belangrijkste X-account van "Newstop Africa" had in augustus 2025 slechts 172 volgers. Volgens de functie "Topposts" van X was vier het hoogste aantal reposts voor een bericht van het account.
De YouTube- en TikTok-kanalen met een AI-nieuwslezer hadden elk ongeveer 1.900 volgers. Het TikTok-kanaal registreerde 5.855 likes, gemiddeld 105 voor elk van de 56 geplaatste video's. De meest bekeken video werd 63.300 keer bekeken en de minst bekeken video slechts 87 keer. Het YouTube-kanaal telde ongeveer 255.000 weergaven voor 50 video's, gemiddeld 5.100 per video. We zien echter geen bewijs dat deze video's opnieuw zijn gedeeld, in de media zijn aangehaald of anderszins een breder publiek hebben bereikt.
Onze oorspronkelijke beoordeling van deze operatie in ons rapport van oktober 2024 was dat deze categorie 3 op de Breakout Scale bereikte. Dit was grotendeels gebaseerd op een aantal vermeende "informatiepartnerschappen" die met websites in het VK leken te zijn opgezet. Later onderzoek door VIGINUM en opensourceonderzoekers toonde echter aan dat deze "partnerschappen" waarschijnlijk fictief waren en "technische kwetsbaarheden op deze externe sites misbruikten" om zonder medeweten van de beheerders content toe te voegen. Op basis hiervan beoordelen we de activiteit van deze operatie momenteel als categorie 2: activiteit op meerdere internetplatforms, maar zonder significante doorbraak naar authentieke gemeenschappen.