Operació "Stop News": activitat d'influència reincident
OpenAI va bloquejar comptes vinculats a una operació originada a Rússia que vam anomenar "Stop News" i que utilitzava IA per generar contingut d'influència reincident dirigit a l'Àfrica i el Regne Unit.
Aquest estudi de cas es va publicar originalment a l'informe d'OpenAI de l'octubre de 2025(s'obre en una finestra nova).
Actor
Vam bloquejar un conjunt de comptes que intentaven utilitzar els nostres models per generar contingut per a l'operació d'influència encoberta que vam descriure l'octubre de 2024 amb el nom de "Stop News". Aquesta activitat es va originar a Rússia i semblava correspondre a una operació dirigida per una empresa de màrqueting. La nostra investigació va detectar intents d'aquest actor d'utilitzar eines d'IA d'altres empreses per generar vídeos que després es publicaven a YouTube i TikTok. No podem confirmar de manera independent quins models van acabar utilitzant.
Comportament
De manera similar a l'activitat que vam interrompre l'octubre de 2024, aquesta operació utilitzava principalment els nostres models per generar contingut que després es publicava a les xarxes socials i en un conjunt de llocs web que es feien passar pels mateixos mitjans de comunicació de l'Àfrica i el Regne Unit que vam descriure l'any passat.
Tot i que aquesta activitat semblava un intent de continuar l'operació anterior després de les mesures que hi vam aplicar nosaltres i altres empreses del sector, vam detectar algunes diferències destacables. En primer lloc, la proporció de generació d'imatges era significativament inferior. Mentre que l'activitat original de Stop News, com vam assenyalar aleshores, feia un ús inusualment prolífic de les imatges, l'activitat més recent es va centrar més en la generació de text i va recórrer relativament poc a la generació d'imatges. Això concorda amb l'avaluació de l'agència digital francesa VIGINUM segons la qual "des de la publicació dels informes de Meta i OpenAI, l'ús d'imatges generades amb IA ha disminuït dràsticament".
En segon lloc, l'operació també utilitzava ChatGPT per generar guions i descripcions per a vídeos curts d'estil informatiu. Normalment, els operadors introduïen un text llarg en rus i demanaven que se'n generés un guió de vídeo. Després demanaven al model que traduís el text al francès. En tercer lloc, demanaven al model que generés una descripció optimitzada per a SEO i etiquetes.
Alguns d'aquests guions van aparèixer en vídeos d'un canal de YouTube vinculat al lloc web centrat en l'Àfrica de l'operació Stop News, newstop[.]africa. D'altres van aparèixer en un canal de YouTube i un canal de TikTok que no mostraven la marca "Stop News". Aquests canals mostraven una persona generada amb IA que llegia les notícies. En la majoria dels casos, s'intercalaven clips breus de la presentadora amb imatges de vídeo d'esdeveniments ocorreguts a l'Àfrica o relacionats amb el continent. No sembla que els clips de la presentadora s'hagin generat amb els nostres models; no podem confirmar de manera independent quin servei es va utilitzar. L'aparença de la presentadora va evolucionar durant el 2025, com il·lustren les captures de pantalla següents de vídeos de TikTok.
D'esquerra a dreta, la presentadora de notícies generada amb IA elogiant Rússia el gener de 2025, a principis de juny de 2025 i a finals de juny de 2025, al compte de TikTok de l'operació.
En els casos més elaborats, els operadors utilitzaven els nostres models per generar indicacions de vídeo que, aparentment, s'havien d'emprar amb altres models d'IA. En aquest cas, primer generaven un guió de vídeo en rus, després el dividien en fragments de dues frases i demanaven a ChatGPT que generés una indicació de vídeo per a cada fragment. Un cop creades les indicacions de vídeo, els operadors demanaven al model que traduís tot el guió al francès.
D'esquerra a dreta: tres captures de pantalla d'un vídeo de TikTok que elogia el "Cos Africà" de Rússia. Els operadors van utilitzar ChatGPT per generar el guió d'àudio en rus, el van dividir en fragments de dues frases i van generar una indicació de vídeo per a un altre model per cada fragment. Les imatges anteriors corresponen a les indicacions de vídeo. No podem confirmar de manera independent quin servei es va utilitzar per crear els vídeos. Cal destacar que el subtítol de la imatge de la dreta conté un error gramatical ("ces" en lloc de "ses") que no apareixia a la traducció al francès proporcionada per ChatGPT. Això suggereix que el subtítol es va transcriure a partir de l'àudio i que cap persona amb coneixements de francès no el va revisar.
Resultats
L'activitat d'aquesta operació es dividia en tres categories principals. En primer lloc, generava contingut en francès que criticava el paper de França i dels Estats Units a l'Àfrica i elogiava el de Rússia. En segon lloc, generava contingut en anglès que criticava Ucraïna i els seus aliats internacionals. En algunes ocasions, els operadors també generaven imatges per acompanyar el contingut textual. En comptades ocasions, demanaven a ChatGPT que generés articles promocionals i textos per a anuncis de Google per a la seva principal marca informativa, "Newstop Africa". En lloc de centrar-se només en Newstop Africa, alguns d'aquests articles promocionals situaven la marca Newstop al costat de mitjans de comunicació legítims, probablement per fer-la semblar més creïble per associació.
Publicació del principal compte d'X de l'operació centrat en l'Àfrica. La imatge es va generar amb el nostre model.
El tercer conjunt d'activitats consistia a generar materials promocionals per al que semblava ser un grup d'empreses comercials de Rússia. Això incloïa la generació d'anuncis de jocs d'atzar en línia sense llicència. Aquesta combinació de diferents tipus de generació de contingut és coherent amb una empresa comercial que ofereix operacions d'influència encoberta per encàrrec alhora que publicitat més tradicional, i concorda amb l'activitat que vam descriure l'any passat.
Impacte
Tot i que aquesta operació es va centrar més en els vídeos curts i va fer un ús més complex de diverses eines d'IA, sembla que el contingut que va publicar només va obtenir un nombre limitat de visualitzacions i va arribar a un públic reduït. El compte principal de "Newstop Africa" a X només tenia 172 seguidors l'agost de 2025 i, segons la funció "Publicacions principals" d'X, el màxim nombre de republicacions que va obtenir una publicació va ser quatre.
Els canals de YouTube i TikTok que mostraven una presentadora de notícies generada amb IA tenien aproximadament 1.900 seguidors cadascun; el canal de TikTok va registrar 5.855 "M'agrada", amb una mitjana de 105 per cadascun dels 56 vídeos que va publicar. El vídeo més vist va registrar 63.300 visualitzacions i el menys vist, només 87. El canal de YouTube acumulava unes 255.000 visualitzacions en 50 vídeos, amb una mitjana de 5.100 per vídeo, però no hem trobat proves que aquests vídeos es republicasssin, se citessin als mitjans o aconseguissin una repercussió més àmplia d'alguna altra manera.
A l'informe de l'octubre de 2024, la nostra avaluació original d'aquesta operació va ser que havia assolit la categoria 3 de l'escala de repercussió, principalment per diverses aparents "col·laboracions informatives" que semblaven haver-se establert amb llocs web del Regne Unit. Tanmateix, investigacions posteriors de VIGINUM i d'investigadors de fonts obertes van demostrar que aquestes "col·laboracions" probablement eren fictícies i que "aprofitaven vulnerabilitats tècniques d'aquests llocs externs" per afegir-hi contingut sense que els administradors ho sabessin. Sobre aquesta base, actualment consideraríem més adequat classificar l'activitat d'aquesta operació en la categoria 2: activitat en diverses plataformes d'Internet, però sense una penetració significativa en comunitats autèntiques.