Operacija „Stop News“: pasikartojanti įtakos veikla
OpenAI užblokavo su Rusijoje pradėta operacija, kurią pavadinome „Stop News“, susijusias paskyras. Pasitelkus DI buvo pakartotinai kuriamas į Afriką ir JK nukreiptas įtakos turinys.
Ši atvejo analizė pirmą kartą paskelbta OpenAI 2025 m. spalio(atsidaro naujame lange) ataskaitoje.
Vykdytojas
Užblokavome grupę paskyrų, kuriomis mūsų modelius mėginta naudoti kuriant turinį slaptai įtakos operacijai, kurią 2024 m. spalį aprašėme kaip „Stop News“. Ši veikla kilo Rusijoje ir, regis, atitiko rinkodaros bendrovės vykdomą operaciją. Atlikdami tyrimą nustatėme, kad šis vykdytojas mėgino kitų bendrovių DI įrankiais generuoti vaizdo įrašus, kurie vėliau buvo skelbiami „YouTube“ ir „TikTok“. Negalime nepriklausomai patvirtinti, kuriuos modelius jie galiausiai naudojo.
Elgsena
Kaip ir 2024 m. spalį sustabdytos veiklos atveju, šios operacijos vykdytojai mūsų modelius daugiausia naudojo turiniui, kuris vėliau buvo skelbiamas socialiniuose tinkluose ir svetainėse, apsimetusiose tais pačiais Afrikos ir JK naujienų kanalais, apie kuriuos rašėme pernai.
Nors ši veikla atrodė kaip mėginimas tęsti ankstesnę operaciją po mūsų ir kitų sektoriaus dalyvių veiksmų, nustatėme keletą reikšmingų skirtumų. Pirma, vaizdų generavimo dalis buvo gerokai mažesnė. Kaip tuo metu pažymėjome, pirminė „Stop News“ veikla išsiskyrė neįprastai gausiu vaizdų naudojimu, o naujausia veikla buvo labiau orientuota į teksto generavimą ir vaizdų generavimas pasitaikė palyginti retai. Tai atitinka Prancūzijos skaitmeninės agentūros VIGINUM vertinimą, kad „paskelbus Meta ir OpenAI ataskaitas, DI sugeneruotų vaizdų naudojimas smarkiai sumažėjo“.
Antra, operacijos vykdytojai taip pat naudojo ChatGPT naujienų stiliaus trumpų vaizdo įrašų scenarijams ir aprašams generuoti. Paprastai vykdytojai įvesdavo ilgą tekstą rusų kalba ir prašydavo pagal jį sugeneruoti vaizdo įrašo scenarijų. Tada jie prašydavo modelio išversti tekstą į prancūzų kalbą. Trečia, jie prašydavo modelio sugeneruoti SEO pritaikytą aprašą ir saitažodžius.
Kai kurie iš šių scenarijų panaudoti „YouTube“ kanalo, susieto su operacijos „Stop News“ Afrikai skirta svetaine newstop[.]africa, vaizdo įrašuose. Kiti panaudoti „YouTube“ ir „TikTok“ kanaluose, kuriuose nebuvo naudojamas „Stop News“ prekės ženklas. Šiuose kanaluose žinias skaitė DI sugeneruotas asmuo. Dažniausiai trumpi žinių vedėjos fragmentai buvo kaitaliojami su Afrikoje vykusių ar su ja susijusių įvykių vaizdo medžiaga. Atrodo, kad žinių vedėjos fragmentai nebuvo sugeneruoti naudojant mūsų modelius; negalime nepriklausomai patvirtinti, kokia paslauga naudota. 2025 m. žinių vedėjos išvaizda keitėsi, kaip matyti toliau pateiktose „TikTok“ vaizdo įrašų ekrano kopijose.
Iš kairės į dešinę – dirbtinio intelekto sugeneruota žinių vedėja, girianti Rusiją 2025 m. sausį, birželio pradžioje ir birželio pabaigoje, operacijos „TikTok“ paskyroje.
Sudėtingiausiais atvejais vykdytojai mūsų modeliais generavo vaizdo įrašų užklausas, kurios, regis, buvo skirtos kitiems DI modeliams. Tokiu atveju jie pirmiausia sugeneruodavo vaizdo įrašo scenarijų rusų kalba, tada suskaidydavo jį į ištraukas po du sakinius ir prašydavo ChatGPT sugeneruoti kiekvienos ištraukos vaizdo įrašo užklausą. Sukūrę vaizdo įrašų užklausas, vykdytojai prašydavo modelio išversti visą scenarijų į prancūzų kalbą.
Iš kairės į dešinę – trys „TikTok“ vaizdo įrašo, giriančio Rusijos „Afrikos korpusą“, ekrano kopijos. Vykdytojai pasitelkė ChatGPT, kad sugeneruotų garsinio teksto scenarijų rusų kalba, suskaidė jį į ištraukas po du sakinius ir kiekvienai ištraukai sugeneravo vaizdo įrašo užklausą kitam modeliui. Pateikti vaizdai atitinka vaizdo įrašų užklausas. Negalime nepriklausomai patvirtinti, kokia paslauga buvo naudojama vaizdo įrašams kurti. Pažymėtina, kad dešiniajame vaizde esančiame užraše yra gramatinė klaida („ces“ vietoj „ses“), kurios nebuvo ChatGPT pateiktame vertime į prancūzų kalbą. Tai leidžia manyti, kad užrašas buvo perrašytas iš garso įrašo ir jo nekoregavo prancūzų kalbą mokantis asmuo.
Sugeneruotas turinys
Šios operacijos veikla skirstoma į tris pagrindines kategorijas. Pirma, buvo generuojamas turinys prancūzų kalba, kuriame kritikuotas Prancūzijos ir Jungtinių Valstijų vaidmuo Afrikoje ir girtas Rusijos vaidmuo šiame žemyne. Antra, buvo generuojamas turinys anglų kalba, kuriame kritikuota Ukraina ir jos tarptautiniai rėmėjai. Kartais vykdytojai taip pat generavo vaizdus savo tekstiniam turiniui iliustruoti. Retais atvejais jie prašė ChatGPT sugeneruoti reklaminių straipsnių ir „Google“ reklamų tekstų pagrindiniam savo naujienų prekės ženklui „Newstop Africa“. Kai kuriuose reklaminiuose straipsniuose dėmesys nebuvo sutelktas vien į „Newstop Africa“ – „Newstop“ prekės ženklas juose minėtas greta teisėtų naujienų kanalų, tikriausiai siekiant, kad dėl šios sąsajos jis atrodytų patikimesnis.
Įrašas pagrindinėje operacijos „X“ paskyroje, skirtoje Afrikai. Vaizdas sugeneruotas naudojant mūsų modelį.
Trečiąją veiklos grupę sudarė reklaminės medžiagos generavimas įvairioms, kaip atrodė, Rusijos komercinėms bendrovėms. Be kita ko, buvo generuojamos nelicencijuotų internetinių azartinių lošimų reklamos. Toks skirtingų turinio generavimo rūšių derinys būdingas komercinei bendrovei, kuri greta įprastesnės reklamos vykdo užsakomas slaptas įtakos operacijas, ir atitinka veiklą, apie kurią pranešėme pernai.
Poveikis
Nors operacijos vykdytojai daugiau dėmesio skyrė trumpiems vaizdo įrašams ir sudėtingiau naudojo kelis DI įrankius, jų paskelbtas turinys, regis, sulaukė tik nedaug peržiūrų ir ribotos auditorijos. 2025 m. rugpjūtį pagrindinė „Newstop Africa“ paskyra platformoje „X“ turėjo tik 172 sekėjus, o „X“ funkcijos „Populiariausi įrašai“ duomenimis, nė vienas jos įrašas nebuvo perskelbtas daugiau nei keturis kartus.
DI žinių vedėją rodę „YouTube“ ir „TikTok“ kanalai turėjo maždaug po 1 900 sekėjų; „TikTok“ kanalas surinko 5 855 patiktukus – vidutiniškai po 105 kiekvienam iš 56 paskelbtų vaizdo įrašų. Žiūrimiausias vaizdo įrašas peržiūrėtas 63 300 kartų, o mažiausiai žiūrėtas – vos 87 kartus. Nurodyta, kad 50 „YouTube“ kanalo vaizdo įrašų iš viso peržiūrėti apie 255 000 kartų, vidutiniškai po 5 100 kartų kiekvienas, tačiau nematome įrodymų, kad šiais vaizdo įrašais būtų dalytasi toliau, jie būtų cituoti žiniasklaidoje ar kitaip sulaukę platesnio atgarsio.
Pirminiame šios operacijos vertinime, pateiktame mūsų 2024 m. spalio ataskaitoje, nurodėme, kad pagal „Breakout Scale“ ji pasiekė 3 kategoriją. Šis vertinimas daugiausia rėmėsi keliais tariamais „informaciniais bendradarbiavimais“ su JK įsikūrusiomis svetainėmis. Tačiau vėlesni VIGINUM ir atvirųjų šaltinių tyrėjų tyrimai parodė, kad šios „partnerystės“ tikriausiai buvo išgalvotos, o norint pridėti turinio be administratorių žinios buvo „išnaudojami šių išorinių svetainių techniniai trūkumai“. Todėl šiuo metu šią operacijos veiklą tiksliau priskirtume 2 kategorijai: veiklai keliose interneto platformose, kuri reikšmingai neišplito autentiškose bendruomenėse.