Operazzjoni “Doppelganger”: attività ta’ influwenza Russa mmirata lejn l-Ukrajna
OpenAI pprojbiet kontijiet assoċjati mal-operazzjoni ta’ oriġini Russa “Doppelganger”, li użat l-IA biex tiġġenera kummenti kontra l-Ukrajna għall-midja soċjali, traduzzjonijiet u testi għal siti web b’diversi lingwi.
Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Mejju 2024(jinfetaħ f’tieqa ġdida).
Attur
Ipprojbejna erba’ raggruppamenti ta’ kontijiet li użaw il-mudelli tagħna u kienu marbuta ma’ persuni li aġixxew f’isem l-operazzjoni ta’ influwenza Russa magħrufa bħala “Doppelganger”(jinfetaħ f’tieqa ġdida). Kull raggruppament wera tattiċi, tekniki u proċeduri (TTPs) differenti, b’mod konsistenti ma’ operazzjoni magħmula minn timijiet funzjonali differenti.
Imġiba
Din l-attività kienet immirata lejn udjenzi fl-Ewropa u fl-Amerka ta’ Fuq u ffukat fuq il-ġenerazzjoni ta’ kontenut għal siti web u l-midja soċjali.
L-ewwel raggruppament ta’ kontijiet iġġenera kummenti qosra bl-Ingliż, bil-Franċiż, bil-Ġermaniż, bit-Taljan u bil-Pollakk. Dawn ittellgħu fuq 9GAG u X flimkien ma’ memes, filmati u links li ma jidhrux li ġew iġġenerati bil-mudelli tagħna. Xi memes ġew ikkupjati minn diversi sorsi fuq l-internet u jidher li kienu ilhom jeżistu s-snin.
Fuq 9GAG, il-kontijiet li ppubblikaw il-kontenut ta’ din il-kampanja ġeneralment kellhom ritratti tal-profil ta’ ċelebritajiet jew qtates. Huma ppubblikaw il-memes u l-filmati tagħhom f’firxa wiesgħa ta’ kanali, fosthom il-kanal “Random” u kanali ddedikati għall-annimali domestiċi, l-isport, l-umoriżmu, u saħansitra r-relazzjonijiet u l-appuntamenti.
Kumment dwar l-Ukrajna u filmat dwar Gaża, ippubblikati fil-kanal “Motor Vehicles” ta’ 9GAG minn kont li ripetutament ippubblika kontenut iġġenerat minn din il-kampanja. Ir-referenza għall-Ukrajna u l-fruntiera tal-Istati Uniti ġiet iġġenerata bil-mudelli tagħna. Il-filmat kien taħlita ta’ filmati tal-aħbarijiet. Il-post irċieva 11-il vot favur u 93 vot kontra.
Kull darba li l-kampanja ppubblikat meme jew filmat fuq 9GAG, kienu jwieġbu bejn tlieta u ħames kontijiet, normalment b’messaġġi sempliċi bħal “ħahaha” jew “lol”. Kull wieħed minn dawn il-kontijiet interaġixxa biss mal-kontenut ta’ din il-kampanja; il-biċċa l-kbira nħolqu fl-istess data. Din l-imġiba spiss ġibdet kummenti kritiċi minn utenti oħra, li ħafna minnhom kixfu l-kontijiet bħala “bots”.
Kummenti fuq il-filmat muri hawn fuq. It-tliet kontijiet t’isfel, li kkummentaw l-ewwel, inħolqu kollha lejn tmiem April 2024 u ripetutament ippubblikaw, ivvutaw favur jew ikkummentaw fuq il-postijiet ta’ din il-kampanja biss. It-tliet kontijiet ta’ fuq, li kixfu l-kontijiet foloz, inħolqu bejn sena u għaxar snin ilu u wrew firxa wiesgħa ta’ attività.
Fuq X, il-kummenti tal-kampanja ġew ippubblikati minn kontijiet li ġeneralment għamlu biss post wieħed jew tnejn kull wieħed. Il-kummenti normalment kienu akkumpanjati minn link li deher każwali, bħal “solarpanelfor.sale”. Dawn il-links idderieġew lejn grupp ta’ siti web li ġew attribwiti ripetutament lil Doppelganger. Is-siti web kienu ġeorestritti, biex ikunu jistgħu jarawhom biss persuni b’indirizz IP fil-pajjiż fil-mira. Madankollu, jidher li l-operaturi żbaljaw, u għalhekk xi artikli bl-Ingliż, bil-Ġermaniż u bil-Pollakk setgħu jidhru biss minn IP Franċiż.
Post fuq X li jinkludi kumment iġġenerat bil-mudelli tagħna. It-traduzzjoni tal-kumment hija: “Att xokkanti! Il-politika qatt m’għandha tkun assoċjata mal-vjolenza. Għandna bżonn id-djalogu, mhux il-vjolenza.” Il-link mehmuż jidderieġi lejn l-edizzjoni bil-Ġermaniż tas-sit web tad-ditta Doppelganger, rrn.media. Madankollu, sal-20 ta’ Mejju, seta’ jidher biss minn IP Franċiż.
X’aktarx biex jevita l-identifikazzjoni, dan ir-raggruppament aċċessa l-mudelli tagħna permezz ta’ servizz marbut ma’ kumpaniji fir-Russja u fir-Repubblika Ċeka. Dan is-servizz kien maħsub biex jippermetti lin-nies fir-Russja jevitaw il-politika tagħna dwar l-aċċess minn pajjiżi appoġġjati(jinfetaħ f’tieqa ġdida). Iddiżattivajna l-aċċess ta’ dan is-servizz għall-API.
It-tieni raggruppament ittraduċa artikli mir-Russu għall-Ingliż u l-Franċiż; jidher li t-testi Russi kienu xogħlijiet oriġinali. Ħafna minn dawn l-artikli mbagħad ġew ippubblikati fuq sit web li ġie attribwit ripetutament lil Doppelganger: rrn.media. L-istess raggruppament iġġenera kummenti qosra dwar l-artikli tiegħu li aktar tard dehru fuq il-midja soċjali.
Post fuq X iġġenerat bil-mudelli tagħna, flimkien ma’ link għal artiklu fuq rrn.media.
It-tielet raggruppament intuża biex jiġġenera, jirrevedi u jikkoreġi artikli bil-Franċiż. L-artikli mbagħad ġew ippubblikati fuq sit web ieħor attribwit lil Doppelganger, franceeteu.today.
L-aħħar raggruppament opera bil-Ġermaniż. Huwa daħħal kontenut minn sit web ta’ Doppelganger, grenzezank.com, u użah biex jiġġenera posts qosra għal Grupp u Paġna ta’ Facebook bl-isem tas-sit web.
Kontenut
Il-biċċa l-kbira tal-kontenut li din il-kampanja ppubblikat online iffukat fuq il-gwerra fl-Ukrajna. Hija ppreżentat lill-Ukrajna, lill-Istati Uniti, lin-NATO u lill-UE b’mod negattiv, u lir-Russja b’mod pożittiv. Kummenti tipiċi sostnew li r-Russja hija sieħba ekonomika importanti għall-pajjiżi Ewropej; li l-mexxejja tal-Punent li jikkritikaw lir-Russja ma jifhmux lill-votanti tagħhom stess; u li l-Ukrajna hija dgħajfa, korrotta u/jew qrib it-telfa.
F’xi okkażjonijiet, l-atturi ta’ Doppelganger ippruvaw iġiegħlu lill-mudelli tagħna jiġġeneraw xbihat stil cartoons ta’ politiċi Ewropej prominenti u kritiċi tar-Russja. Il-mudelli tagħna rrifjutaw dawn it-talbiet.
Valutazzjoni tal-impatt
Ebda waħda mill-kampanji ta’ Doppelganger li identifikajna ma tidher li kisbet involviment pożittiv sostanzjali minn udjenzi awtentiċi.
Fuq 9GAG, posts tipiċi rċevew bejn 5 u 10 voti favur — l-aktar minn kontijiet li ppubblikaw ukoll il-kontenut ta’ din il-kampanja — u bejn 15 u 200 vot kontra. Fuq X, posts tipiċi kellhom madwar 1,000 sehem, ebda tweġiba u ebda like. Din id-diskrepanza tant hija kbira li tissuġġerixxi amplifikazzjoni mhux awtentika. Post wieħed kellu tliet tweġibiet, li kollha kixfuh bħala falz.
Tweġiba fuq X għal post ta’ Doppelganger.
Bl-użu tal-Iskala Breakout(jinfetaħ f’tieqa ġdida) biex nivvalutaw l-impatt tal-operazzjonijiet ta’ influwenza, li tikklassifikahom fuq skala minn 1 (l-aktar baxxa) sa 6 (l-ogħla), aħna nivvalutaw l-attività relatata mal-użu tal-mudelli tagħna bħala tal-Kategorija 2, ikkaratterizzata minn attività ta’ pubblikazzjoni fuq diversi pjattaformi, iżda mingħajr firxa qawwija jew involviment sinifikanti tal-udjenza fuq xi waħda minnhom.