Operatsioon „Stop News“: korduv mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2025. aasta oktoobri⁠(avaneb uues aknas) aruandes.

Blokeerisime kontod, millega püüti kasutada meie mudeleid sisu loomiseks varjatud mõjutusoperatsioonile, millest kirjutasime 2024. aasta oktoobris nime all „Stop News“. Tegevus lähtus Venemaalt ja näis vastavat turundusettevõtte juhitud operatsioonile. Meie uurimine tuvastas, et see tegutseja püüdis kasutada teiste ettevõtete tehisintellektitööriistu videote loomiseks, mis postitati seejärel YouTube’i ja TikToki. Me ei saa sõltumatult kinnitada, milliseid mudeleid nad lõpuks kasutasid.

Nagu 2024. aasta oktoobris tõkestatud tegevuse puhul, kasutas operatsioon meie mudeleid peamiselt sellise sisu loomiseks, mis postitati seejärel sotsiaalmeediasse ning veebisaitidele, mis esinesid samade Aafrika ja Ühendkuningriigi uudistekanalitena, millest kirjutasime eelmisel aastal.

Kuigi see tegevus näis olevat katse jätkata varasemat operatsiooni pärast meie ja teiste valdkonna ettevõtete sekkumist, tuvastasime mõned märkimisväärsed erinevused. Esiteks oli pildi genereerimise osakaal märkimisväärselt väiksem. Kui algne Stop Newsi tegevus kasutas, nagu toona märkisime, ebatavaliselt palju pildimaterjali, siis uusim tegevus keskendus rohkem teksti genereerimisele ja pildi genereerimine oli suhteliselt harv. See on kooskõlas Prantsusmaa digiameti VIGINUM hinnanguga, et „pärast Meta ja OpenAI aruannete avaldamist on tehisintellektiga loodud piltide kasutamine järsult vähenenud“.

Teiseks kasutati operatsioonis ChatGPT‑d ka uudisstiilis lühivideote käsikirjade ja kirjelduste koostamiseks. Tavaliselt sisestasid operaatorid pika venekeelse teksti ja palusid selle põhjal koostada videokäsikirja. Seejärel palusid nad mudelil tõlkida teksti prantsuse keelde. Kolmandaks palusid nad mudelil luua SEO jaoks optimeeritud kirjelduse ja teemaviited.

Mõnda neist käsikirjadest kasutati Stop Newsi operatsiooni Aafrikale keskenduva veebisaidiga newstop[.]africa seotud YouTube’i kanali videotes. Teisi kasutati YouTube’i ja TikToki kanalites, mis ei kandnud „Stop Newsi“ kaubamärki. Nendes kanalites luges uudiseid tehisintellektiga loodud inimene. Enamasti vaheldusid uudistelugeja lühiklipid videokaadritega Aafrikas toimunud või Aafrikaga seotud sündmustest. Uudistelugeja klipid ei paista olevat loodud meie mudelite abil; me ei saa sõltumatult kinnitada, millist teenust kasutati. Uudistelugeja välimus muutus 2025. aasta jooksul, nagu näitavad allolevad TikToki videote kuvatõmmised.

Kõige keerukamatel juhtudel kasutasid operaatorid meie mudeleid videoviipade genereerimiseks, ilmselt selleks, et kasutada neid teiste tehisintellektimudelitega. Selleks koostasid nad esmalt venekeelse videokäsikirja, jagasid selle kahest lausest koosnevateks lõikudeks ja palusid ChatGPT‑l genereerida iga lõigu jaoks videoviiba. Pärast videoviipade loomist palusid operaatorid mudelil tõlkida kogu käsikirja prantsuse keelde.

Selle operatsiooni tegevus jagunes kolme põhikategooriasse. Esiteks loodi prantsuskeelset sisu, milles kritiseeriti Prantsusmaa ja Ameerika Ühendriikide rolli Aafrikas ning ülistati Venemaa rolli. Teiseks loodi ingliskeelset sisu, milles kritiseeriti Ukrainat ja selle rahvusvahelisi toetajaid. Mõnikord genereerisid operaatorid tekstisisu juurde ka pilte. Harvadel juhtudel palusid nad ChatGPT‑l koostada oma peamise uudistekaubamärgi „Newstop Africa“ jaoks reklaamartikleid ja Google’i reklaamtekste. Selle asemel et keskenduda üksnes Newstop Africale, mainiti mõnes reklaamartiklis Newstopi kaubamärki koos usaldusväärsete uudistekanalitega, tõenäoliselt selleks, et seose kaudu usaldusväärsem paista.

Kolmas tegevusvaldkond oli reklaammaterjalide loomine mitmesugustele Venemaa äriettevõtetele. Muu hulgas loodi reklaame litsentsimata interneti-hasartmängudele. Selline eri liiki sisu genereerimise kombinatsioon on omane äriettevõttele, mis korraldab tavapärase reklaamitegevuse kõrval tellimustööna varjatud mõjutusoperatsioone, ning vastab tegevusele, millest teatasime eelmisel aastal.

Kuigi operatsioon keskendus senisest enam lühivideotele ja kasutas mitut tehisintellektitööriista keerukamal viisil, näib postitatud sisu olevat kogunud vähe vaatamisi ja jõudnud piiratud vaatajaskonnani. 2025. aasta augusti seisuga oli peamisel „Newstop Africa“ X-i kontol vaid 172 jälgijat ning X-i funktsiooni „Populaarseimad säutsud“ järgi oli ühe postituse suurim edasijagamiste arv neli.

Tehisintellektist uudistelugejaga YouTube’i ja TikToki kanalil oli kummalgi ligikaudu 1900 jälgijat. TikToki kanal kogus 5855 meeldimist ehk iga 56 postitatud video kohta keskmiselt 105 meeldimist. Vaadatuim video kogus 63 300 vaatamist ja vähim vaadatud video vaid 87. YouTube’i kanalil oli 50 video peale kokku umbes 255 000 vaatamist ehk keskmiselt 5100 vaatamist video kohta, kuid me ei leidnud tõendeid, et neid videoid oleks edasi jagatud, meedias tsiteeritud või et need oleksid muul moel laiemat vastukaja saavutanud.

2024. aasta oktoobri aruandes hindasime algselt, et operatsioon jõudis Breakout Scale’i 3. kategooriasse. Hinnang põhines suuresti mitmel näilisel „infopartnerlusel“, mis paistis olevat loodud Ühendkuningriigis asuvate veebisaitidega. VIGINUM-i ja avalike allikate uurijate hilisemad uuringud näitasid aga, et need „partnerlused“ olid tõenäoliselt väljamõeldud ning sisu lisamiseks administraatorite teadmata „kasutati ära nende väliste saitide tehnilisi puudusi“. Seetõttu hindaksime operatsiooni tegevuse praegu pigem 2. kategooriasse: tegevus mitmel internetiplatvormil, kuid ilma märkimisväärse levikuta päriskogukondadesse.