Aðgerðin „Stop News“: Ítrekuð áhrifastarfsemi

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá október 2025⁠(opnast í nýjum glugga).

Við bönnuðum nokkra reikninga sem reyndu að nota líkönin okkar til að framleiða efni fyrir leynilegu áhrifaaðgerðina sem við fjölluðum um í október 2024 undir heitinu „Stop News“. Starfsemin átti rætur í Rússlandi og virtist samræmast aðgerð á vegum markaðsfyrirtækis. Rannsókn okkar leiddi í ljós tilraunir þessa aðila til að nota gervigreindarverkfæri annarra fyrirtækja til að búa til myndskeið sem síðan voru birt á YouTube og TikTok. Við getum ekki staðfest með óháðum hætti hvaða líkön voru að lokum notuð.

Líkt og í starfseminni sem við stöðvuðum í október 2024 notaði þessi aðgerð líkönin okkar aðallega til að framleiða efni sem síðan var birt á samfélagsmiðlum og vefsvæðum sem líktu eftir sömu fréttamiðlum í Afríku og Bretlandi og við fjölluðum um í fyrra.

Þótt starfsemin virtist vera tilraun til að halda fyrri aðgerð áfram eftir inngrip okkar og annarra aðila í greininni komu nokkur athyglisverð frávik í ljós. Í fyrsta lagi var hlutfall myndunar mynda mun lægra. Upprunalega starfsemi Stop News var, eins og við bentum á á sínum tíma, óvenju umfangsmikil í notkun myndefnis. Nýjasta starfsemin beindist hins vegar meira að textagerð og myndun mynda var tiltölulega sjaldgæf. Þetta samræmist mati frönsku stafrænu stofnunarinnar VIGINUM að „frá birtingu skýrslna Meta og OpenAI hafi notkun mynda sem gervigreind býr til dregist verulega saman“.

Í öðru lagi notaði aðgerðin einnig ChatGPT til að semja handrit og lýsingar fyrir stutt myndskeið í fréttastíl. Yfirleitt settu stjórnendurnir inn langan texta á rússnesku og báðu um að myndskeiðshandrit yrði samið upp úr honum. Síðan báðu þeir líkanið um að þýða textann á frönsku. Í þriðja lagi báðu þeir líkanið um að semja SEO-besta lýsingu og myllumerki.

Sum þessara handrita birtust í myndskeiðum á YouTube-rás sem tengdist Afríkumiðuðu vefsvæði Stop News-aðgerðarinnar, newstop[.]africa. Önnur birtust á YouTube- og TikTok-rásum sem báru ekki vörumerkið „Stop News“. Á þessum rásum birtist gervigreindarpersóna sem las fréttir. Í flestum tilvikum var stuttum brotum með fréttalesaranum skotið inn á milli myndskeiða af atburðum í Afríku eða tengdum álfunni. Brotin með fréttalesaranum virðast ekki hafa verið búin til með líkönunum okkar. Við getum ekki staðfest með óháðum hætti hvaða þjónusta var notuð. Útlit fréttalesarans þróaðist á árinu 2025, eins og skjámyndirnar hér að neðan úr TikTok-myndskeiðum sýna.

Í flóknustu tilvikunum notuðu stjórnendurnir líkönin okkar til að búa til myndskeiðskvaðningar, að því er virðist til notkunar með öðrum gervigreindarlíkönum. Þá útbjuggu þeir fyrst myndskeiðshandrit á rússnesku, skiptu því síðan í tveggja setninga búta og báðu ChatGPT að búa til myndskeiðskvaðningu fyrir hvern bút. Þegar myndskeiðskvaðningarnar voru tilbúnar báðu stjórnendurnir líkanið um að þýða allt handritið á frönsku.

Starfsemi aðgerðarinnar skiptist í þrjá meginflokka. Í fyrsta lagi framleiddi hún efni á frönsku sem gagnrýndi hlutverk Frakklands og Bandaríkjanna í Afríku en lofaði hlutverk Rússlands þar. Í öðru lagi framleiddi hún efni á ensku sem gagnrýndi Úkraínu og alþjóðlega stuðningsaðila landsins. Stundum bjuggu stjórnendurnir einnig til myndir til að fylgja textaefninu. Í einstaka tilvikum báðu þeir ChatGPT um að semja kynningargreinar og texta fyrir Google-auglýsingar fyrir helsta fréttavörumerki sitt, „Newstop Africa“. Í stað þess að fjalla eingöngu um Newstop Africa stilltu sumar kynningargreinarnar Newstop-vörumerkinu upp við hlið lögmætra fréttamiðla, líklega til að auka trúverðugleika þess með tengingunni.

Þriðji flokkur starfseminnar fólst í að útbúa kynningarefni fyrir ýmis fyrirtæki í Rússlandi. Þar á meðal voru auglýsingar fyrir leyfislaus fjárhættuspil á netinu. Slík blanda ólíkra tegunda efnisgerðar samræmist því að einkafyrirtæki reki leynilegar áhrifaaðgerðir gegn greiðslu samhliða hefðbundnari auglýsingastarfsemi og er í samræmi við starfsemina sem við greindum frá í fyrra.

Þrátt fyrir aukna áherslu aðgerðarinnar á stutt myndskeið og flóknari notkun margra gervigreindarverkfæra virðist efnið sem hún birti aðeins hafa fengið takmarkað áhorf og náð til lítils hóps. Aðalreikningur „Newstop Africa“ á X var aðeins með 172 fylgjendur í ágúst 2025 og samkvæmt eiginleikanum „Vinsælustu færslur“ á X var engri færslu hans endurbirt oftar en fjórum sinnum.

YouTube- og TikTok-rásirnar með gervigreindarfréttalesaranum voru hvor um sig með um 1.900 fylgjendur. TikTok-rásin fékk 5.855 læk, eða að meðaltali 105 læk á hvert þeirra 56 myndskeiða sem hún birti. Mest áhorfða myndskeiðið fékk 63.300 áhorf en það sem minnst var horft á aðeins 87. Á YouTube-rásinni voru skráð um 255.000 áhorf á 50 myndskeið, eða að meðaltali 5.100 áhorf á hvert þeirra, en við sjáum engin merki um að myndskeiðunum hafi verið deilt áfram, vitnað í þau í fjölmiðlum eða þau á annan hátt vakið víðtækari athygli.

Upphaflegt mat okkar á aðgerðinni í skýrslunni frá október 2024 var að hún hefði náð 3. flokki á Breakout-kvarðanum. Matið byggðist að mestu á nokkrum meintum „upplýsingasamstarfsverkefnum“ sem virtust hafa verið stofnuð með vefsvæðum í Bretlandi. Síðari rannsóknir VIGINUM og rannsakenda opinna heimilda sýndu hins vegar að þessi „samstarfsverkefni“ voru líklega uppspuni og að „tæknilegir veikleikar á þessum ytri vefsvæðum voru nýttir“ til að bæta inn efni án vitundar stjórnenda þeirra. Á þeim grunni teljum við nú réttara að flokka starfsemi aðgerðarinnar í 2. flokk: starfsemi á mörgum netkerfum, en án verulegrar útbreiðslu til raunverulegra samfélaga.