L-Operazzjoni “Ikel tal-Ħut”: attività ta’ fabbrika tal-kontenut li oriġinat fir-Russja

Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Frar 2026⁠(jinfetaħ f’tieqa ġdida) dwar it-tfixkil tal-użi malizzjużi tal-IA.

Imblukkajna għadd ta’ kontijiet ta’ ChatGPT marbuta man-network “Rybar” (“Рыбарь”, bir-Russu, “sajjied”) fuq Telegram u X. Mill-inqas xi wħud mill-kontijiet x’aktarx oriġinaw fir-Russja. In-network iġġenera kontenut li ttella’ f’diversi postijiet fuq l-internet, kultant minn kontijiet bil-marka “Rybar” u kultant minn kontijiet tal-midja soċjali li ma ddikjaraw ebda rabta ma’ “Rybar”. Utent minnhom talab ukoll lil ChatGPT jgħinu jħejji, f’isem “Rybar”, pjanijiet kummerċjali għal kampanji moħbija ta’ interferenza fl-Afrika. Minħabba l-mod kif l-atturi użaw lil ChatGPT biex jipprovdu kontenut lin-network “Rybar” u lil hinn minnu, semmejna din l-operazzjoni “Ikel tal-Ħut”.

L-attività ewlenija li sibna f’dan in-network kienet il-ġenerazzjoni ta’ kontenut biex jittella’ fuq il-midja soċjali. L-utenti tipikament kienu jiktbu l-prompts bir-Russu, iżda jiġġeneraw kontenut b’diversi lingwi, b’mod partikolari bir-Russu, bl-Ingliż u bl-Ispanjol. Parti minn dan il-kontenut imbagħad ittellgħet online minn kontijiet tal-midja soċjali bil-marka “Rybar” u mis-sit web ewlieni ta’ “Rybar”. Utent minnhom iġġenera wkoll vidjows b’Sora li jippromwovu l-marka “Rybar”.

Minbarra li ġġenera kontenut li ttella’ online minn kontijiet bil-marka “Rybar”, l-utent ewlieni f’dan il-każ iġġenera wkoll gruppi ta’ kummenti bl-Ingliż. Permezz ta’ tekniki investigattivi b’sors miftuħ, sibna li ħafna minn dawn il-kummenti ġġenerati dehru kelma b’kelma f’posts fuq il-kanal ta’ Rybar fuq Telegram. Fuq il-lemin, tweet bl-Ingliż bil-marka Rybar. online minn diversi kontijiet ta’ X u Telegram, li ebda wieħed minnhom Maġenb isfel fuq il-lemin, test bl-Ispanjol u infografika bil-marka Rybar fuq sit bl-Ispanjol ma kellu rabta ddikjarata ma’ Rybar. Essenzjalment, is-sit lingwistiku ta’ ChatGPT andaluciamorisca[.]org. l-attività dehret li kienet isservi bħala fabbrika tal-kontenut għal dawn il-kontijiet. Ma nistgħux nikkonfermaw b’mod indipendenti l-mekkaniżmu li bih il-kontenut iġġenerat mill-IA finalment ittella’ online minn dawn il-kontijiet, li jidher li xi drabi tellgħu wkoll kontenut mhux iġġenerat mill-mudelli tagħna.

Ta’ min jinnota li, f’mill-inqas okkażjoni waħda (murija hawn taħt), l-attur tat-theddida ġġenera grupp ta’ seba’ tweets bi prompt wieħed. Sibna li sitta minnhom ġew ippubblikati bħala tweets minn kontijiet differenti ta’ X. Skont l-istatistika ta’ X, l-aktar tweet li rawh nies deher aktar minn 150,000 darba; dak li rawh l-inqas deher 57 darba biss. Il-kont bit-tweet li kiseb l-aktar dehriet kellu aktar minn 600,000 segwaċi fis-26 ta’ Jannar 2026; il-kont bit-tweet li kiseb l-inqas dehriet kellu 827 segwaċi fl-istess data. Peress li t-tweets kollha ġew iġġenerati f’daqqa minn prompt wieħed, dan jindika li l-fattur determinanti għal kemm deher kull tweet aktarx kien l-għadd ta’ segwaċi ta’ kull kont, mhux il-fatt li l-kontenut kien iġġenerat mill-IA.

Minbarra l-ġenerazzjoni tal-kontenut, il-kont ewlieni tal-operazzjoni talab ukoll lil ChatGPT jittraduċi għall-Ingliż lista ta’ servizzi li “Rybar” seta’ joffri lil klijenti mhux identifikati, fosthom it-tħaddim ta’ kontijiet fuq X u Telegram, sit bilingwi ta’ “ġurnaliżmu investigattiv” iffukat fuq l-Afrika, pubblikazzjonijiet imħallsa fil-midja bil-Franċiż u network ta’ amplifikaturi. Prompt separat talab lill-mudell jeditja proposta għal dak li deher li kien tim mibgħut fuq il-post biex jindaħal f’elezzjoni, apparentement fl-Afrika. Din il-proposta kienet tinkludi attività fuq il-post kif ukoll online, bħall-bini ta’ network ta’ aġenti lokali u l-organizzazzjoni ta’ avvenimenti fuq skala kbira. It-tielet prompt iddiskuta kampanja ta’ informazzjoni ffukata fuq ir-Repubblika Demokratika tal-Kongo (RDK). Prompts oħra staqsew dwar il-proċess elettorali fil-Burundi u l-Kamerun u fasslu għażliet għal kampanja fil-Madagaskar, fosthom l-idea li jkomplu jkebbsu l-protesti fuq il-post. Is-somom involuti kienu konsiderevoli: baġit annwali stmat sa $600,000 għall-aktar proġett ambizzjuż.

L-istess utent kultant iġġenera materjal promozzjonali għal stabbiliment tal-aħbarijiet imsejjaħ “REST Media”, li riċerkaturi b’sors miftuħ rabtu⁠(jinfetaħ f’tieqa ġdida) ma’ Rybar. Parti minn dan il-materjal promozzjonali ttellgħet online mill-istess grupp ta’ kanali fuq Telegram deskritti hawn fuq. Pereżempju, f’Awwissu, l-utent ewlieni ta’ ChatGPT f’dan il-każ daħħal artiklu ta’ REST Media li akkuża lill-Ġermanja li kienet qed tibni network ta’ influwenza fil-Moldova, u talab lill-mudell tagħna jiġġenera grupp ta’ kummenti dwaru. Tlieta mill-kummenti mbagħad ittellgħu fuq Telegram minn tliet kanali differenti, u kull wieħed minnhom kien fih link għall-artiklu ta’ REST.

Il-kontenut iġġenerat minn din l-operazzjoni kien tipiku tal-operazzjonijiet moħbija ta’ influwenza Russi matul is-snin. Tipikament kien ifaħħar lir-Russja u lill-alleati tagħha (bħall-Belarussja), jikkritika lill-Ukrajna u jakkuża lill-pajjiżi tal-Punent b’interferenza barranija.

In-network Rybar għandu għadd kbir ta’ segwaċi fuq il-midja soċjali, b’madwar 1.4 miljun abbonat għall-kanal ewlieni tiegħu bir-Russu fuq Telegram biss. Ħafna mill-kontijiet fuq X u Telegram li tellgħu l-kontenut tal-operazzjoni kellhom ukoll għexieren ta’ eluf ta’ segwaċi. Madankollu, ma rajniex il-kontenut tagħha jiġi amplifikat minn stabbilimenti tal-aħbarijiet ewlenin, u lanqas ma stajna nidentifikaw attività fuq il-post fl-Afrika li taqbel mad-deskrizzjoni fil-proposti kummerċjali.

Bl-użu tal-Iskala Breakout⁠(jinfetaħ f’tieqa ġdida) għall-impatt tal-OI, li tikklassifika l-OI fuq skala minn 1 (l-inqas) sa 6 (l-ogħla), nivvalutaw din l-operazzjoni fil-parti ta’ fuq tal-Kategorija 3 (diversi komunitajiet fuq diversi pjattaformi), minħabba l-firxa wiesgħa tagħha fuq il-midja soċjali.