„Stop News” művelet: visszatérő befolyásolási tevékenység
Az OpenAI letiltotta egy általunk „Stop Newsnak” nevezett, orosz eredetű művelethez kapcsolódó fiókokat, amelyek MI-vel készítettek visszatérő, Afrikát és az Egyesült Királyságot célzó befolyásoló tartalmakat.
Ez az esettanulmány eredetileg az OpenAI 2025. októberi(új ablakban nyílik meg) jelentésében jelent meg.
Elkövető
Letiltottunk több fiókot, amelyek modelljeinkkel próbáltak tartalmat készíteni ahhoz a rejtett befolyásolási művelethez, amelyről 2024 októberében „Stop News” néven írtunk. A tevékenység Oroszországból indult, és egy marketingcég által működtetett művelet jegyeit mutatta. Vizsgálatunk feltárta, hogy az elkövető más vállalatok MI-eszközeivel is próbált videókat generálni, amelyeket aztán a YouTube-on és a TikTokon tettek közzé. Nem tudjuk független forrásból megerősíteni, végül mely modelleket használták.
Módszerek
A 2024 októberében megszakított tevékenységhez hasonlóan ez a művelet is főként olyan tartalmak generálására használta modelljeinket, amelyeket később a közösségi médiában, valamint az általunk tavaly már bemutatott afrikai és egyesült királyságbeli híroldalaknak álcázott webhelyeken tettek közzé.
Bár a tevékenység látszólag a korábbi művelet folytatására tett kísérlet volt, miután mi és más iparági szereplők felléptünk ellene, néhány jelentős eltérést is azonosítottunk. Először is, a képgenerálás aránya jelentősen csökkent. Míg az eredeti Stop News-tevékenység – ahogy akkoriban megjegyeztük – szokatlanul sok képet használt, a legújabb tevékenység inkább a szöveggenerálásra összpontosított, és csak viszonylag ritkán alkalmazott képgenerálást. Ez összhangban áll a francia digitális ügynökség, a VIGINUM megállapításával, miszerint „a Meta és az OpenAI jelentéseinek közzététele óta drasztikusan visszaesett az MI-vel generált képek használata”.
Másodszor, a művelet a ChatGPT segítségével hírműsor jellegű rövid videók forgatókönyveit és leírásait is elkészítette. Az üzemeltetők jellemzően egy hosszú orosz nyelvű szöveget adtak meg, és azt kérték, hogy készüljön belőle videó-forgatókönyv. Ezután megkérték a modellt, hogy fordítsa franciára a szöveget. Harmadszor, SEO-ra optimalizált leírást és hashtageket generáltattak a modellel.
E forgatókönyvek némelyike a Stop News művelet Afrikára összpontosító webhelyéhez, a newstop[.]africa oldalhoz kapcsolódó YouTube-csatorna videóiban jelent meg. Más forgatókönyvek olyan YouTube- és TikTok-csatornákon jelentek meg, amelyek nem viselték a „Stop News” márkanevet. Ezeken a csatornákon egy MI-vel generált személy olvasta fel a híreket. A hírolvasóról készült rövid klipeket többnyire afrikai vagy Afrikához kapcsolódó események videófelvételeivel váltogatták. Úgy tűnik, a hírolvasóról készült klipeket nem a mi modelljeinkkel generálták; nem tudjuk független forrásból megerősíteni, melyik szolgáltatást használták. A hírolvasó megjelenése 2025 folyamán változott, ahogy azt az alábbi, TikTok-videókból származó képernyőképek mutatják.
Balról jobbra: az Oroszországot méltató, mesterséges intelligenciával generált hírolvasó 2025 januárjában, június elején és június végén, a művelet TikTok-fiókjából.
A legösszetettebb esetekben az üzemeltetők modelljeinkkel generáltak videóutasításokat, amelyeket láthatóan más MI-modellekkel kívántak használni. Ilyenkor először orosz nyelvű videó-forgatókönyvet generáltak, majd kétmondatos részletekre bontották, és a ChatGPT segítségével minden részlethez videóutasítást készítettek. A videóutasítások elkészülte után az üzemeltetők megkérték a modellt, hogy fordítsa le franciára a teljes forgatókönyvet.
Balról jobbra: három képernyőkép egy TikTok-videóból, amely Oroszország „Afrika Hadtestét” méltatja. Az üzemeltetők a ChatGPT segítségével készítették el az orosz nyelvű narráció szövegét, ezt kétmondatos részletekre bontották, majd minden részlethez videóutasítást generáltattak egy másik modell számára. A fenti képek ezeknek a videóutasításoknak felelnek meg. Nem tudjuk független forrásból megerősíteni, melyik szolgáltatással készítették a videókat. Figyelemre méltó, hogy a jobb oldali képen látható felirat nyelvtani hibát tartalmaz („ses” helyett „ces”), amely nem szerepelt a ChatGPT által készített francia fordításban. Ez arra utal, hogy a feliratot hanganyag alapján jegyezték le, és nem ellenőrizte franciául tudó személy.
Generált tartalmak
A művelet tevékenysége három fő kategóriába sorolható. Először is, francia nyelvű tartalmakat generált, amelyek bírálták Franciaország és az Egyesült Államok afrikai szerepvállalását, Oroszországét pedig méltatták. Másodszor, angol nyelvű tartalmakat generált, amelyek Ukrajnát és nemzetközi támogatóit bírálták. Az üzemeltetők esetenként képeket is generáltak szöveges tartalmaik illusztrálására. Ritka esetekben arra kérték a ChatGPT‑t, hogy készítsen promóciós cikkeket és Google-hirdetésszövegeket fő hírmárkájuk, a „Newstop Africa” számára. E promóciós cikkek némelyike nem kizárólag a Newstop Africára összpontosított, hanem hiteles híroldalakkal együtt említette a Newstop márkát, feltehetően azért, hogy a társítás révén megbízhatóbbnak tűnjön.
A művelet fő, Afrikára összpontosító X-fiókjának bejegyzése. A képet a modellünkkel generálták.
A tevékenységek harmadik csoportját olyan promóciós anyagok generálása alkotta, amelyek látszólag különböző oroszországi kereskedelmi vállalatok számára készültek. Ebbe engedély nélküli online szerencsejátékot népszerűsítő hirdetések generálása is beletartozott. A különféle tartalomgenerálási módok ilyen kombinációja arra utal, hogy egy kereskedelmi vállalat megbízásra végzett rejtett befolyásolási műveleteket a hagyományosabb hirdetési tevékenysége mellett; ez összhangban áll a tavaly ismertetett tevékenységgel.
Hatás
Bár a művelet egyre inkább a rövid videós tartalmakra összpontosított, és több MI-eszközt is összetettebb módon használt, közzétett tartalmai látszólag csak kevés megtekintést értek el, és korlátozott közönséget szólítottak meg. A „Newstop Africa” központi X-fiókjának 2025 augusztusában mindössze 172 követője volt, és az X „Népszerű bejegyzések” funkciója szerint egyik bejegyzését sem osztották meg négynél többször.
Az MI-hírolvasót szerepeltető YouTube- és TikTok-csatornának egyaránt mintegy 1900 követője volt; a TikTok-csatorna 5855 kedvelést gyűjtött, vagyis az 56 közzétett videó mindegyike átlagosan 105 kedvelést kapott. A legnézettebb videót 63 300-szor, a legkevésbé nézettet mindössze 87-szer tekintették meg. A YouTube-csatorna 50 videója összesen mintegy 255 000 megtekintést ért el, vagyis videónként átlagosan 5100-at, de nem találtunk arra utaló jelet, hogy ezeket a videókat továbbosztották volna, a média hivatkozott volna rájuk, vagy más módon szélesebb körű visszhangot váltottak volna ki.
A műveletről szóló, 2024. októberi jelentésünkben szereplő eredeti értékelésünk szerint a tevékenység a Breakout Scale 3. kategóriájába jutott, nagyrészt az egyesült királyságbeli webhelyekkel látszólag létrehozott „információs partnerségek” alapján. A VIGINUM és nyílt forrásokkal dolgozó kutatók későbbi vizsgálatai azonban kimutatták, hogy ezek a „partnerségek” valószínűleg kitaláltak voltak, és a művelet „e külső webhelyek technikai hibáit kihasználva” adott hozzá tartalmakat az üzemeltetők tudta nélkül. Ennek alapján jelenleg inkább a 2. kategóriába sorolnánk a művelet tevékenységét: több internetes platformon is jelen volt, de nem jutott el számottevő mértékben valódi közösségekhez.