Operazzjoni “A2Z”: Attività multilingwi ta’ influwenza

Dan l-istudju tal-każ kien ippubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ottubru 2024⁠(jinfetaħ f’tieqa ġdida).

Ipprojbixxejna grupp ta’ kontijiet li ma kienx irrappurtat qabel u li kien qed juża l-API tagħna biex joħloq kummenti li mbagħad ġew ippubblikati fuq X u Facebook. Ħafna minn dawn il-kummenti faħħru lill-Ażerbajġan jew iddefendew ir-rekord tiegħu dwar id-drittijiet tal-bniedem, iżda l-attività ffukat ukoll fuq firxa wiesgħa ta’ suġġetti oħra, u dan jista’ jindika operazzjoni mmexxija kummerċjalment. Minħabba kemm-il darba faħħret lill-Ażerbajġan u t-tentattiv tagħha li tuża l-IA f’diversi fażijiet tal-operazzjoni, sejjaħna lil dan in-network “A2Z”.

Bħall-operazzjoni fuq Telegram bir-Russu li kxifna f’Mejju u sejjaħnielha “Grammatika Ħażina”, din l-operazzjoni użat il-mudelli tagħna biex tippubblika kummenti fuq il-midja soċjali. Użat l-IA biex timmaniġġja identitajiet foloz fuq il-midja soċjali, tiġġenera bijografiji, tanalizza posts u kummenti, tabbozza tweġibiet b’ħafna lingwi u tikkoreġihom. It-tweġibiet imbagħad ġew ippubblikati fuq X jew Facebook. Il-biċċa l-kbira tal-kontenut kien fil-forma ta’ kummenti qosra, iżda kien jinkludi wkoll immaġnijiet stilizzati. Dawn spiss kienu jużaw l-istil tal-posters tas-snin tletin; għalhekk, jidhru mfassla biex jiġbdu l-attenzjoni u l-involviment, mhux biex iqarrqu. Madankollu, posts tipiċi b’dawn l-immaġnijiet stilizzati rċevew biss bejn 0 u 5 interazzjonijiet kull wieħed.

Dan l-użu tal-IA ppermetta lill-operazzjoni timmaniġġja ħafna kontijiet tal-midja soċjali fl-istess ħin: identifikajna madwar 150 kont fuq X u Facebook li kienu jaqblu ma’ din l-attività, u nissuspettaw li kien hemm aktar. Ippermetta wkoll lill-operazzjoni tieħu sehem, kultant, f’sensiliet ta’ kummenti ma’ persuni reali fuq l-internet. Kultant osservajna konverżazzjonijiet qosra bejn persuni reali u l-kontijiet foloz, fejn it-tweġibiet tal-kontijiet foloz kienu ġġenerati permezz tal-mudelli tagħna.

Operazzjoni fuq din l-iskala qabel l-IA aktarx kienet teħtieġ tim kbir ta’ trolls, bl-ispejjeż u r-riskji kollha ta’ żvelar marbuta ma’ inizjattiva bħal din. Madankollu, id-dipendenza ta’ din l-operazzjoni fuq l-IA għamlitha wkoll vulnerabbli b’mod mhux tas-soltu għall-intervent tagħna. Minħabba li użat l-IA f’tant stadji tal-katina tal-attakk, it-twaqqif tagħna kiser diversi ħoloq tal-katina f’daqqa. Wara li waqqafna din l-attività fil-bidu ta’ Ġunju, il-kontijiet tal-midja soċjali li konna identifikajna bħala parti minn din l-operazzjoni waqfu jippubblikaw matul il-perjodi elettorali fl-UE, fir-Renju Unit u fi Franza. Xi wħud reġgħu bdew jippubblikaw lejn l-aħħar ta’ Awwissu. Għadd żgħir mill-posts tagħhom kellhom indikazzjonijiet li aktarx kienu ġġenerati mill-IA. Il-kontenut li kellu dawn l-indikazzjonijiet ma ġiex mill-mudelli tagħna.

Din il-kampanja ġġenerat kummenti qosra li ffukaw fuq firxa wiesgħa ta’ temi politiċi. L-aktar tema prominenti kienet it-tifħir tal-gvern tal-Ażerbajġan u tar-rwol tiegħu fil-politika domestika, reġjonali u internazzjonali—pereżempju, il-promozzjoni tal-għaqda bejn il-pajjiżi tal-Asja Ċentrali jew l-ospitar tal-Konferenza tan-NU dwar it-Tibdil fil-Klima. Kontijiet bl-Ingliż u bit-Taljan faħħru r-rwol tal-Ażerbajġan bħala fornitur tal-enerġija għall-Ewropa—xi drabi bi tweġiba għal kritika tar-rekord tal-gvern Ażeri dwar id-drittijiet tal-bniedem.

Fergħat oħra tal-attività ffukaw fuq il-benefiċċji u l-evoluzzjoni tal-IA, is-swieq finanzjarji, kwistjonijiet ekoloġiċi, il-kriptovaluti u t-teknoloġija b’mod aktar ġenerali. Grupp wieħed iffoka fuq l-Emirati Għarab Magħquda, u ppreżentahom bħala destinazzjoni stabbli għall-investiment, spiss b’kuntrast ma’ allegazzjonijiet ta’ instabbiltà politika fl-Istati Uniti.

Xi identitajiet foloz iffukaw fuq il-politika fl-Ewropa jew fl-Istati Uniti. L-ideoloġija ta’ din l-attività kienet tvarja minn reġjun għal ieħor. Pereżempju, kont wieħed fuq X li ffoka fuq l-Istati Uniti ippreżenta ruħu bħala liberali u kkritika lill-eks President Amerikan Trump, filwaqt li xi kontijiet fuq Facebook li ppubblikaw bil-Franċiż ikkritikaw lill-President Macron u appoġġjaw lill-partit Rally Nazzjonali (RN). Xi drabi, din il-kritika ffukat fuq kwistjonijiet domestiċi biex targumenta li l-pajjiż ikkonċernat ma kellux jintervjeni fi kwistjonijiet internazzjonali, fosthom l-invażjoni Russa tal-Ukrajna.

Din l-operazzjoni kienet attiva ħafna fuq Facebook u X, aktarx b’mijiet ta’ kontijiet. Fuq X, xi wħud mill-kontijiet tagħha kellhom il-marka blu tal-verifika bi ħlas. Mill-madwar 150 kont li ħadna bħala kampjun miż-żewġ pjattaformi, ma identifikajna ebda wieħed b’għadd sinifikanti ta’ segwaċi: l-akbar għadd ta’ segwaċi fuq X li sibna matul l-investigazzjoni kien ta’ 222, filwaqt li ċifri aktar tipiċi kienu bejn madwar 15 u ftit aktar minn 20, u posts tipiċi fuq X irċevew għadd ta’ interazzjonijiet b’ċifra waħda. Bl-istess mod, l-ogħla għadd ta’ reazzjonijiet għal post fuq Facebook li osservajna matul l-investigazzjoni kien ta’ 36, filwaqt li ċifri aktar tipiċi kienu bejn 0 u 5. Madankollu, identifikajna xi okkażjonijiet meta l-posts tal-operazzjoni ġibdu tweġibiet minn persuni reali. Dawn mhux dejjem kienu pożittivi, u xi drabi kienu jinkludu persuni reali li jikkontradixxu lill-kontijiet foloz, iżda juru li l-operazzjoni kellha tal-inqas xi kapaċità tinvolvi udjenzi fuq diversi pjattaformi, b’diversi lingwi u dwar diversi suġġetti.

Bl-użu tal-Iskala Breakout biex nivvalutaw l-impatt tal-operazzjonijiet ta’ influwenza, li tikklassifikahom fuq skala minn 1 (l-aktar baxxa) sa 6 (l-ogħla), nivvalutaw din l-operazzjoni bħala li tinsab fl-ogħla tarf tat-Tieni Kategorija, bir-riskju li tavvanza għat-Tielet Kategorija: kienet ikkaratterizzata minn attività ta’ pubblikazzjoni fuq diversi pjattaformi, b’xi evidenza li persuni reali kienu qed jinteraġixxu mal-kontenut tagħha. Madankollu, wara li pprojbijna lil din l-operazzjoni milli tuża l-mudelli tagħna u qsamna l-informazzjoni ma’ sħabna fl-industrija, il-kontijiet tal-midja soċjali li konna identifikajna baqgħu siekta għal ħafna ġimgħat. Għalhekk, din l-operazzjoni tenfasizza kemm l-użu tal-IA jista’ jżid il-kapaċità tal-operaturi, iżda wkoll kemm id-dipendenza tagħhom fuq mudell tal-IA żżid il-vulnerabbiltà tagħhom għal intervent li jfixkilhom.