Operazzjoni “Stop News”: Attività rikorrenti ta’ influwenza
OpenAI pprojbiet kontijiet marbuta ma’ operazzjoni li oriġinat mir-Russja u li sejjaħnielha “Stop News”, li kienet tuża l-IA biex tiġġenera kontenut għal attività rikorrenti ta’ influwenza mmirata lejn l-Afrika u r-Renju Unit.
Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ottubru 2025(jinfetaħ f’tieqa ġdida).
Attur
Ipprojbixxejna grupp ta’ kontijiet li kienu qed jippruvaw jużaw il-mudelli tagħna biex jiġġeneraw kontenut għall-operazzjoni moħbija ta’ influwenza li ktibna dwarha f’Ottubru 2024 bl-isem “Stop News”. Din l-attività oriġinat mir-Russja u dehret konsistenti ma’ operazzjoni mmexxija minn kumpanija tal-kummerċjalizzazzjoni. L-investigazzjoni tagħna identifikat tentattivi minn dan l-attur biex juża għodod tal-IA ta’ kumpaniji oħrajn ħalli jiġġenera filmati li mbagħad ittellgħu fuq YouTube u TikTok. Ma nistgħux nikkonfermaw b’mod indipendenti liema mudelli użaw eventwalment.
Imġiba
B’mod simili għall-attività li waqqafna f’Ottubru 2024, din l-operazzjoni użat prinċipalment il-mudelli tagħna biex tiġġenera kontenut li mbagħad ġie ppubblikat fuq il-midja soċjali u fuq grupp ta’ siti web li kienu jippreżentaw ruħhom bħala l-istess mezzi tal-aħbarijiet fl-Afrika u fir-Renju Unit li ktibna dwarhom is-sena l-oħra.
Għalkemm din l-attività dehret bħala tentattiv biex titkompla l-operazzjoni preċedenti wara l-interventi tagħna u ta’ organizzazzjonijiet oħrajn fl-industrija, identifikajna xi differenzi notevoli. L-ewwel nett, il-proporzjon tal-ġenerazzjoni tal-immaġnijiet kien ferm aktar baxx. Filwaqt li l-attività oriġinali ta’ Stop News kienet, kif osservajna dak iż-żmien, prolifika b’mod mhux tas-soltu fl-użu tal-immaġnijiet, l-aktar attività reċenti ffukat aktar fuq il-ġenerazzjoni tat-test, filwaqt li l-ġenerazzjoni tal-immaġnijiet kienet relattivament rari. Dan huwa konsistenti mal-valutazzjoni tal-aġenzija diġitali Franċiża VIGINUM li “mill-pubblikazzjoni tar-rapporti ta’ Meta u OpenAI, l-użu ta’ immaġnijiet iġġenerati bl-IA naqas drastikament”.
It-tieni, l-operazzjoni użat ukoll ChatGPT biex tiġġenera skripts u deskrizzjonijiet għal filmati qosra fl-istil tal-aħbarijiet. Tipikament, l-operaturi kienu jdaħħlu test twil bir-Russu u jitolbu li jiġi ġġenerat skript għal filmat abbażi tiegħu. Imbagħad kienu jitolbu lill-mudell jittraduċi t-test għall-Franċiż. It-tielet, kienu jitolbu lill-mudell jiġġenera deskrizzjoni ottimizzata għas-SEO u hashtags.
Uħud minn dawn l-iskripts dehru f’filmati fuq kanal ta’ YouTube marbut mas-sit web iffukat fuq l-Afrika tal-operazzjoni Stop News, newstop[.]africa. Oħrajn dehru fuq kanal ta’ YouTube u kanal ta’ TikTok li ma kellhomx il-marka “Stop News”. Dawn il-kanali kienu juru persuna ġġenerata bl-IA taqra l-aħbarijiet. Fil-biċċa l-kbira tal-każijiet, siltiet qosra tal-preżentatur tal-aħbarijiet kienu jalternaw ma’ filmati ta’ avvenimenti fl-Afrika jew relatati magħha. Is-siltiet tal-preżentatur tal-aħbarijiet ma jidhrux li ġew iġġenerati permezz tal-mudelli tagħna; ma nistgħux nikkonfermaw b’mod indipendenti liema servizz intuża. Id-dehra tal-preżentatur tal-aħbarijiet evolviet matul l-2025, kif juru l-iscreenshots ta’ filmati fuq TikTok hawn taħt.
Mix-xellug għal-lemin, il-preżentatur tal-aħbarijiet iġġenerat bl-IA jfaħħar lir-Russja f’Jannar 2025, fil-bidu ta’ Ġunju 2025 u lejn l-aħħar ta’ Ġunju 2025, mill-kont TikTok tal-operazzjoni.
Fl-aktar każijiet elaborati, l-operaturi użaw il-mudelli tagħna biex jiġġeneraw prompts għal filmati, apparentement biex jintużaw ma’ mudelli oħra tal-IA. F’dan ix-xenarju, l-ewwel iġġeneraw skript għal filmat bir-Russu, imbagħad qasmuh f’siltiet ta’ żewġ sentenzi u talbu lil ChatGPT jiġġenera prompt għal filmat għal kull silta. Wara li nħolqu l-prompts tal-filmati, l-operaturi talbu lill-mudell jittraduċi l-iskript kollu għall-Franċiż.
Mix-xellug għal-lemin: tliet screenshots minn filmat fuq TikTok li jfaħħar lill-“Korp tal-Afrika” tar-Russja. L-operaturi użaw ChatGPT biex jiġġeneraw l-iskript tal-awdjo bir-Russu, qasmuh f’siltiet ta’ żewġ sentenzi, u mbagħad iġġeneraw prompt għal filmat għal kull silta biex jintuża ma’ mudell ieħor. L-immaġnijiet ta’ hawn fuq jikkorrispondu mal-prompts tal-filmati. Ma nistgħux nikkonfermaw b’mod indipendenti liema servizz intuża biex jinħolqu l-filmati. Ta’ min jinnota li l-caption fl-immaġni tal-lemin fih żball grammatikali (“ces” minflok “ses”) li ma kienx hemm fit-traduzzjoni bil-Franċiż ipprovduta minn ChatGPT. Dan jissuġġerixxi li l-caption ġie traskritt mill-awdjo u ma ġiex rivedut minn xi ħadd li jaf il-Franċiż.
Riżultati ġġenerati
L-attività ta’ din l-operazzjoni kienet maqsuma fi tliet kategoriji ewlenin. L-ewwel, iġġenerat kontenut bil-Franċiż li kkritika r-rwol ta’ Franza u tal-Istati Uniti fl-Afrika u faħħar ir-rwol tar-Russja hemmhekk. It-tieni, iġġenerat kontenut bl-Ingliż li kkritika lill-Ukrajna u lill-pajjiżi u l-organizzazzjonijiet internazzjonali li jappoġġjawha. F’xi okkażjonijiet, l-operaturi ġġeneraw ukoll immaġnijiet biex jakkumpanjaw il-kontenut testwali tagħhom. F’okkażjonijiet rari, talbu lil ChatGPT jiġġenera artikli promozzjonali u testi għal reklami ta’ Google għall-marka ewlenija tal-aħbarijiet tagħhom, “Newstop Africa”. Minflok ma ffukaw biss fuq Newstop Africa, uħud minn dawn l-artikli promozzjonali semmew il-marka Newstop flimkien ma’ mezzi leġittimi tal-aħbarijiet, aktarx biex tidher aktar kredibbli permezz ta’ din l-assoċjazzjoni.
Tweet mill-kont ewlieni tal-operazzjoni fuq X iffukat fuq l-Afrika. L-immaġni ġiet iġġenerata permezz tal-mudell tagħna.
It-tielet grupp ta’ attività kien jikkonsisti fil-ġenerazzjoni ta’ materjal promozzjonali għal firxa ta’ kumpaniji kummerċjali fir-Russja. Dan kien jinkludi l-ġenerazzjoni ta’ reklami għal-logħob tal-azzard online mingħajr liċenzja. Din il-kombinazzjoni ta’ tipi differenti ta’ ġenerazzjoni tal-kontenut hija konsistenti ma’ kumpanija kummerċjali li tmexxi operazzjonijiet moħbija ta’ influwenza bi ħlas flimkien ma’ reklamar aktar tradizzjonali, u taqbel mal-attività li rrapportajna s-sena l-oħra.
Impatt
Minkejja li din l-operazzjoni ffukat aktar fuq kontenut ta’ filmati qosra u għamlet użu aktar kumpless minn diversi għodod tal-IA, il-kontenut li ppubblikat jidher li kiseb biss għadd limitat ta’ viżwalizzazzjonijiet jew udjenzi. Il-kont ewlieni ta’ “Newstop Africa” fuq X kellu biss 172 segwaċi sa Awwissu 2025 u, skont il-funzjoni “L-aqwa tweets” ta’ X, l-ogħla għadd ta’ retweets li kiseb kwalunkwe post tiegħu kien erbgħa.
Il-kanali ta’ YouTube u TikTok li kienu juru preżentatur tal-aħbarijiet iġġenerat bl-IA kellhom madwar 1,900 segwaċi kull wieħed; il-kanal ta’ TikTok irreġistra 5,855 like, jiġifieri medja ta’ 105 likes għal kull wieħed mis-56 filmat li ppubblika. L-aktar filmat li rawh nies irreġistra 63,300 viżwalizzazzjoni, filwaqt li l-inqas wieħed li rawh kellu biss 87. Il-kanal ta’ YouTube indika madwar 255,000 viżwalizzazzjoni fuq 50 filmat, jiġifieri medja ta’ 5,100 viżwalizzazzjoni għal kull filmat, iżda ma naraw ebda evidenza li dawn il-filmati reġgħu nxterdu, ġew iċċitati fil-midja jew kisbu interess usa’ b’xi mod ieħor.
Il-valutazzjoni oriġinali tagħna ta’ din l-operazzjoni fir-rapport tagħna ta’ Ottubru 2024 kienet li laħqet il-Kategorija 3 fuq l-Iskala ta’ Firxa, ibbażata fil-biċċa l-kbira fuq għadd ta’ “sħubijiet ta’ informazzjoni” apparenti li dehru li ġew stabbiliti ma’ siti web ibbażati fir-Renju Unit. Madankollu, riċerka sussegwenti minn VIGINUM u minn riċerkaturi ta’ sorsi miftuħa wriet li dawn is-“sħubijiet” x’aktarx kienu fittizji u “sfruttaw difetti tekniċi f’dawn is-siti esterni” biex iżidu kontenut mingħajr ma kienu jafu l-amministraturi. Fuq din il-bażi, bħalissa nqisu li l-attività ta’ din l-operazzjoni taqa’ b’mod aktar xieraq fil-Kategorija 2: attività fuq diversi pjattaformi tal-internet, iżda mingħajr firxa sinifikanti f’komunitajiet awtentiċi.