Operazzjoni “Linja tad-Disa’ Singijiet Twal”: Attività ta’ influwenza reġjonali

Dan l-istudju ta’ każ kien ippubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ottubru 2025⁠(jinfetaħ f’tieqa ġdida).

Ipprojbejna netwerk żgħir ta’ kontijiet ta’ ChatGPT li potenzjalment kienu affiljati ma’ operazzjoni moħbija ta’ influwenza li oriġinat miċ-Ċina u li użat il-mudelli tagħna biex tiġġenera kontenut għal operazzjoni moħbija ta’ influwenza fuq diversi pjattaformi. Il-kontijiet iġġeneraw l-aktar posts bl-Ingliż għall-midja soċjali dwar l-allegat impatt ambjentali tal-Vjetnam fil-Baħar taċ-Ċina tan-Nofsinhar, posts bl-Ingliż li kkritikaw lill-President tal-Filippini Ferdinand Marcos, u posts bil-Kantoniż dwar personalitajiet politiċi u attivisti involuti fil-moviment favur id-demokrazija ta’ Hong Kong. Fuq skala iżgħar, din l-operazzjoni ġġenerat ukoll kontenut bl-Ingliż dwar kwistjonijiet politiċi fl-Istati Uniti.

Il-kontijiet tal-midja soċjali li xerrdu l-kontenut kellhom xi xebh mal-operazzjoni li ilha għaddejja u li toriġina miċ-Ċina, magħrufa bħala “Spamouflage”, li l-użu tagħha ta’ ChatGPT ktibna dwaru f’Mejju 2024, iżda ma identifikajniex rabtiet tekniċi bejn dawn l-operazzjonijiet. Uħud mill-vidjows imxerrda fl-aħħar posts kienu ġew identifikati qabel mill-Australian Strategic Policy Institute f’operazzjoni li kellha wkoll xebh ma’ attività preċedenti ta’ Spamouflage.

Wieħed mill-għanijiet ewlenin ta’ dan in-netwerk deher li kien il-ġenerazzjoni bil-massa ta’ posts għall-midja soċjali dwar pajjiżi li għandhom tilwim territorjali maċ-Ċina fil-Baħar taċ-Ċina tan-Nofsinhar / il-Baħar tal-Filippini tal-Punent. Iċ-Ċina tippretendi s-sovranità fuq il-biċċa l-kbira ta’ dan ir-reġjun permezz ta’ konfini estensivi magħrufa bħala l-“Linja tad-Disa’ Singijiet”, li ġew ikkontestati skont id-dritt internazzjonali u miċħuda mill-Vjetnam, il-Filippini u pajjiżi oħra. Minħabba dan il-kuntest u l-użu mill-operazzjoni ta’ test iġġenerat bl-IA li kien jinkludi singijiet twal fil-posts tagħha, semmejna din l-operazzjoni “Linja tad-Disa’ Singijiet Twal”. Dawn il-posts tqassmu l-aktar fuq X.

Tweet b’kontenut — u sing twil — iġġenerat minn din l-operazzjoni permezz tal-mudelli tagħna.

Minbarra li ġġeneraw kummenti għall-midja soċjali, l-atturi użaw il-mudelli tagħna għal xi kompiti ta’ riċerka u ġbir ta’ informazzjoni. Dan kien jinkludi l-identifikazzjoni ta’ blogs u forums speċjalizzati, kif ukoll forums online u pjattaformi tal-midja soċjali inqas regolati fl-Ewropa, fl-Amerka jew fix-Xlokk tal-Asja. Barra minn hekk, talbu listi ta’ ismijiet Tibetani komuni, imġiba li osservajna f’każijiet oħra fejn ġew iġġenerati ismijiet għall-kontijiet mhux awtentiċi tal-operaturi fuq il-midja soċjali. Din l-attività kienet tixbah l-użu ta’ magni tat-tiftix tradizzjonali u tat riżultati simili, u dan jissuġġerixxi li l-użu tal-IA mill-atturi tat-theddid għar-riċerka kif ukoll għall-ġenerazzjoni tal-kontenut tahom aktar konvenjenza, iżda mhux neċessarjament kapaċità akbar.

Użu ġdid minn dan in-netwerk kien it-talbiet għal pariri dwar strateġiji biex ikabbru l-preżenza fuq il-midja soċjali, inkluż kif jibdew sfida fuq TikTok u jħeġġu lil oħrajn jippubblikaw kontenut bil-hashtag #MyImmigrantStory, hashtag popolari li ilu jintuża u li l-operazzjoni x’aktarx ippruvat tisfrutta l-popolarità tiegħu. Talbu lill-mudell tagħna joħroġ b’ideat u mbagħad jiġġenera traskrizzjoni għal post fuq TikTok, kif ukoll jagħti rakkomandazzjonijiet għal mużika fl-isfond u stampi li jakkumpanjaw il-post. Permezz ta’ tekniki ta’ sors miftuħ, identifikajna l-kontenut ippubblikat fuq TikTok.

Post fuq TikTok magħmul minn test iġġenerat minn din l-operazzjoni permezz tal-mudelli tagħna.

Is-suġġetti fil-posts bl-Ingliż għall-midja soċjali ġġenerati minn dan in-netwerk kienu jvarjaw mill-allegat impatt ambjentali tal-Vjetnam fil-Baħar taċ-Ċina tan-Nofsinhar sal-kriżi tal-fentanyl fl-Istati Uniti. Ħafna mill-posts allegaw li l-President tal-Filippini Marcos inqabad juża d-drogi u li allegatament uża tattiki ta’ manipulazzjoni elettorali. Il-vidjo mxerred mal-posts li allegaw li Marcos uża d-drogi ma kienx iġġenerat mill-mudelli tagħna u qabel kien ġie kkundannat mill-gvern tal-Filippini bħala deepfake jew bħala materjal mibdul diġitalment. Ħafna mill-kontijiet fuq X li ppubblikaw kontenut iġġenerat mill-mudelli tagħna diġà ġew sospiżi.

Test ta’ tweet iġġenerat minn din l-operazzjoni li allega li l-President tal-Filippini Marcos inqabad fi “skandlu tad-droga”.

Test ta’ tweet iġġenerat minn din l-operazzjoni li allega li l-President Marcos uża tattiki ta’ manipulazzjoni elettorali.

Il-kontijiet talbu wkoll settijiet kbar ta’ kummenti bil-Kantoniż li ġew ippubblikati fuq X u Instagram u li kienu kritiċi jew dispreġġjattivi lejn personalitajiet politiċi u attivisti involuti fil-moviment favur id-demokrazija ta’ Hong Kong, bħal Jimmy Lai, Nathan Law u Agnes Chow. Dawn il-posts jidhru li ppruvaw itappnu r-reputazzjoni ta’ dawn il-persuni billi ppreżentawhom bħala kriminali jew tradituri. Posts oħra appoġġjaw il-liġijiet tas-sigurtà nazzjonali ta’ Hong Kong.

F’każ mhux tas-soltu, operatur ippubblika fuq X kummenti kritiċi dwar personalitajiet politiċi favur id-demokrazija ta’ Hong Kong, u mbagħad iġġenera tweġiba għall-kummenti tiegħu stess li faħħret lil dawk il-personalitajiet. Il-kritika u t-tweġiba ġew ippubblikati minn żewġ kontijiet differenti fuq X.

Tweġiba ta’ appoġġ iġġenerata minn din l-operazzjoni għal tweet kritiku minn kont ieħor tal-istess operazzjoni. It-tweet oriġinali jgħid: “Jimmy Lai u Jeffrey Ngo jistgħu sempliċement inaddfu isimhom billi jiksbu l-hekk imsejjaħ ‘ażil’ barra minn pajjiżhom? 🤔 Il-kriminali tal-kaos ta’ Hong Kong mhumiex eroj; qegħdin biss jużaw it-terminu ‘refuġjat politiku’ biex jaħbu l-identità tagħhom bħala ‘maħrubin’! Dak li tagħmel jerġa’ lura fuqek; illum jew għada trid tħallas, u l-‘karta li toħorġok mill-ħabs b’xejn’ sempliċement ma teżistix.” It-tweġiba tgħid: “Dawn iż-żewġ persuni għandhom il-kuraġġ li jersqu ’l quddiem u jgħidu l-verità, u dan tal-inqas huwa ferm isbaħ mill-ambjent attwali f’Hong Kong fejn kollox jinsab sieket.” Innota li l-interazzjonijiet kollha mat-tweets oriġinali ġew minn kontijiet imħaddma minn dan in-netwerk.

Minkejja l-volum ta’ kummenti għall-midja soċjali ġġenerati fuq diversi pjattaformi, fuq l-Iskala Breakout tal-impatt tal-IO nivvalutaw din l-operazzjoni bħala Kategorija 2: attività fuq diversi pjattaformi, mingħajr firxa sinifikanti jew b’interazzjoni minima. Il-biċċa l-kbira tal-posts u tal-kontijiet tal-midja soċjali rċevew ftit interazzjonijiet jew xejn. Ħafna drabi, l-uniċi tweġibiet jew ripubblikazzjonijiet ta’ post iġġenerat minn dan in-netwerk fuq X u Instagram saru minn kontijiet oħra tal-midja soċjali kkontrollati mill-operaturi ta’ dan in-netwerk.

Il-personaġġi użati mill-kontijiet tal-midja soċjali kienu kkoordinati b’mod ċar u ma kinux sofistikati. Kellhom karatteristiċi ta’ mġiba simili għal operazzjonijiet moħbija oħra ta’ influwenza li joriġinaw miċ-Ċina, bħall-pubblikazzjoni ta’ hashtags, stampi jew vidjows imxerrda minn operazzjonijiet preċedenti, u użaw ritratti ġeneriċi bħala ritratti tal-profil jew ismijiet awtomatiċi tal-utent fuq il-midja soċjali, u għalhekk kienu faċli biex jiġu identifikati. Il-persistenza u l-volum tagħhom fuq diversi pjattaformi ġew identifikati minn Philstar.com, li skopra b’mod indipendenti u rrapporta dwar parti min-netwerk fuq X, li baqa’ jopera wara li pprojbejna l-kontijiet tiegħu ta’ ChatGPT.