Operazzjoni “Reviżjoni taż-Żebliħ”: attività ta’ influwenza miċ-Ċina
OpenAI pprojbiet kontijiet li użaw l-IA biex jiġġeneraw posts li jikkritikaw influencer Tajwaniż fuq il-midja soċjali u suġġetti relatati mal-Istati Uniti.
Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ġunju 2025(jinfetaħ f’tieqa ġdida).
Attur
Ipprojbixxejna kontijiet ta’ ChatGPT li sibna li kienu qed jużaw il-mudelli tagħna biex jiġġeneraw bil-massa posts għall-midja soċjali konsistenti mal-attività ta’ operazzjoni moħbija ta’ influwenza. Matul l-investigazzjoni tagħna, osservajna wkoll lil dawn il-kontijiet jabbozzaw evalwazzjonijiet interni tal-prestazzjoni.
Dawn il-kontijiet primarjament bagħtu prompts biċ-Ċiniż u ffukaw fuq suġġetti politiċi u ġeopolitiċi rilevanti għaċ-Ċina. Utent wieħed qal fi prompt li kien jaħdem għad-Dipartiment tal-Propaganda Ċiniż; madankollu, ma għandniex evidenza indipendenti biex nivverifikaw din l-istqarrija.
Imġiba
Il-kontijiet li pprojbixxejna kienu involuti f’żewġ oqsma ewlenin ta’ ħidma. L-aktar wieħed prolifiku kien jinvolvi l-ġenerazzjoni ta’ kummenti qosra għall-midja soċjali bl-Ingliż u biċ-Ċiniż, kif ukoll ftit bl-Urdu. Identifikajna ħafna minn dawn il-kummenti ppubblikati fuq TikTok u X, b’kontenut addizzjonali jidher fuq Reddit, Facebook u diversi siti web.
Mudell tipiku kien jinvolvi l-pubblikazzjoni ta’ kumment inizjali minn kont “ewlieni”, li spiss deher li nħoloq biss għal dak il-post, segwit minn sensiela ta’ kummenti bi tweġiba minn kontijiet oħra. Din l-imġiba dehret imfassla biex toħloq impressjoni falza ta’ interazzjoni organika.
Post fuq TikTok bit-titlu “L-għeluq ta’ #USAID huwa biss il-#BIDU!”, assoċjat ma’ din l-attività. Isem il-kanal, it-test tas-sottotitli tal-filmat u l-kummenti kollha viżibbli f’din l-istampa tal-iskrin ġew iġġenerati minn dan in-network permezz ta’ ChatGPT.
Fuq TikTok, il-kontijiet li kienu jikkummentaw użaw ismijiet tal-iskrin b’diversi lingwi u alfabeti, li spiss ma kellhomx x’jaqsmu mal-lingwa tal-kontenut li ppubblikaw. Pereżempju, kont b’isem Korean ippubblika kumment bl-Urdu, filwaqt li kontijiet b’ismijiet Tajlandiżi u Ebrajċi ppubblikaw kummenti bl-Ingliż iġġenerati minn dan in-network. Fuq X, il-kontijiet li kienu jikkummentaw tipikament użaw stampi tal-profil ta’ karattri tal-cartoons u, f’xi każijiet, kellhom ismijiet assoċjati mal-kriptomuniti.
Tweet u kummenti bi tweġiba għalih, kollha ġġenerati minn dan in-network permezz ta’ ChatGPT.
In-network kien inqas attiv fuq Facebook. L-attività tiegħu kienet tinvolvi primarjament il-ġenerazzjoni ta’ ismijiet u stampi tal-profil għal żewġ Paġni li kienu qed jippreżentaw ruħhom bħala mezzi tal-aħbarijiet. L-ebda waħda mill-Paġni ma kellha segwaċi jew likes, u kull waħda kellha biss ftit posts.
Post fuq Facebook li jaqsam filmat li identifikajna bħala x’aktarx marbut ma’ din l-operazzjoni.
Kultant, in-network iġġenera posts itwal biċ-Ċiniż jew bl-Ingliż. Identifikajna post wieħed bħal dan fuq Reddit u tnejn oħra fuq diversi fora online. It-tieni qasam ta’ ħidma kien jikkonsisti fl-użu ta’ ChatGPT biex jiġu ġġenerati dokumenti li dehru li kienu dwar politika interna jew evalwazzjonijiet tal-prestazzjoni.
Riżultati
Il-kontenut għall-midja soċjali ġġenerat minn dan l-attur ta’ theddid kopra firxa ta’ suġġetti, kollha allinjati mill-qrib mal-interessi ġeostrateġiċi taċ-Ċina.
Xi kontenut iffoka fuq it-Tajwan, u speċifikament immira lejn “Il-Front Maqlub”(jinfetaħ f’tieqa ġdida) (“逆統戰”), logħba diġitali u fuq bord iċċentrata fuq it-Tajwan li timmaġina reżistenza kontra l-Partit Komunista Ċiniż. In-network iġġenera għexieren ta’ kummenti kritiċi biċ-Ċiniż dwar il-logħba, segwiti minn artiklu twil li sostna li kienet iffaċċjat reazzjoni negattiva mifruxa. Din kienet l-aktar attività distintiva tal-operazzjoni: abbażi ta’ dan, semmejna din l-operazzjoni “Reviżjoni taż-Żebliħ”.
Kontenut ieħor, bl-Ingliż u bl-Urdu, immira lejn l-attivista Pakistana Mahrang Baloch, li ikkritikat pubblikament l-investimenti taċ-Ċina fil-Balochistan(jinfetaħ f’tieqa ġdida). Kont fuq TikTok u Paġna fuq Facebook marbuta man-network ippubblikaw filmat li akkuża b’mod falz lil Baloch li dehret f’film pornografiku. Imbagħad, l-operazzjoni ġġenerat mijiet ta’ kummenti qosra fiż-żewġ lingwi biex tissimula interazzjoni mifruxa.
Kummenti ta’ xokk fuq il-filmat ta’ Mahrang Baloch fuq TikTok.
L-aħħar sett ta’ kontenut iffoka fuq l-għeluq tal-Aġenzija tal-Istati Uniti għall-Iżvilupp Internazzjonali (USAID), u ġġenera kummenti qosra li jew faħħru jew ikkritikaw id-deċiżjoni. Dawn il-kummenti ġew ippubblikati fuq TikTok u X.
Tweets li jorbtu l-kwistjoni tal-għajnuna ma’ dik tat-tariffi, iġġenerati minn dan in-network permezz ta’ ChatGPT.
Fl-aħħar nett, l-atturi tat-theddid użaw il-mudelli tagħna biex jiġġeneraw dokumenti li jidhru li kienu interni, fosthom esej dettaljat miktub fl-istil ta’ dokument uffiċjali tas-sigurtà pubblika u evalwazzjoni tal-prestazzjoni li tiddeskrivi l-passi meħuda biex tiġi stabbilita u mmexxija l-operazzjoni.
Impatt
Din l-operazzjoni tidher li kienet għadha fil-bidu tagħha meta waqqafna l-użu tagħha tal-mudelli tagħna. L-ebda waħda mill-Paġni ta’ Facebook ma kellha segwaċi. Fuq Reddit, post wieħed irċieva 44 vot favur, filwaqt li tnejn oħra ġew imblukkati jew imneħħija mis-subreddits fejn ġew ippubblikati.
Stampa tal-iskrin ta’ post minn kont ta’ Reddit li identifikajna bħala parti minn dan in-network, li turi li tneħħa mill-filtri tal-pjattaforma.
L-interazzjoni fuq X u TikTok kienet aktar varjata; iż-żewġ filmati fuq TikTok ġabru flimkien 25,000 like, filwaqt li t-tweets mill-kont ewlieni ta’ din l-operazzjoni tipikament irċevew madwar 10,000 viżwalizzazzjoni kull wieħed. Madankollu, ħafna mill-kummenti fuq dawn il-posts ġew iġġenerati minn dan in-network permezz ta’ ChatGPT, u dan jindika li tal-inqas parti mill-interazzjoni ma kinitx awtentika. Għalhekk, iċ-ċifri kollha tal-interazzjoni għandhom jiġu ttrattati b’kawtela.
Bl-użu tal-Iskala Breakout(jinfetaħ f’tieqa ġdida) għall-impatt tal-operazzjonijiet ta’ influwenza, nivvalutaw dan bħala li jinsab fil-livell baxx tal-Kategorija 3, jekk iċ-ċifri tal-interazzjoni fuq X u TikTok kienu awtentiċi. Innaqqsu din il-valutazzjoni jekk titfaċċa aktar evidenza li tappoġġja l-ipoteżi li l-maġġoranza tal-likes u l-viżwalizzazzjonijiet, bħall-maġġoranza tal-kummenti, ma kinux awtentiċi.