“Grammatika Ħażina”: attività ta’ kummenti fuq Telegram b’rabtiet Russi

Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Mejju 2024⁠(jinfetaħ f’tieqa ġdida).

Ipprojbejna network ta’ kontijiet li qatt ma kien irrappurtat u li kien qed juża l-mudelli tagħna biex joħloq kummenti li mbagħad kienu jiġu ppubblikati fuq Telegram. Orbatna din l-attività ma’ individwi mir-Russja. Minħabba l-enfasi tiegħu fuq Telegram, il-pubblikazzjoni ripetuta ta’ Ingliż grammatikalment żbaljat u d-diffikultà tiegħu biex jibni udjenza, sejjaħna lil dan in-network “Grammatika Ħażina”.

Dan in-network immira udjenzi fir-Russja, fl-Ukrajna, fl-Istati Uniti, fil-Moldova u fl-Istati Baltiċi b’kontenut bir-Russu u bl-Ingliż.

In-network uża l-mudelli tagħna u kontijiet fuq Telegram biex jistabbilixxi sistema għall-ispam ta’ kummenti. L-ewwel, l-operaturi użaw il-mudelli tagħna biex isibu u jirranġaw żbalji f’kodiċi li jidher li kien maħsub biex jawtomatizza l-pubblikazzjoni fuq Telegram. Imbagħad iġġeneraw kummenti bir-Russu u bl-Ingliż bħala tweġibiet għal posts speċifiċi fuq Telegram. Fl-aħħar, jidher li użaw mill-inqas tnax-il kont fuq Telegram biex jippubblikaw dawk il-kummenti.

Bl-Ingliż, l-operaturi użaw il-mudelli tagħna biex jiġġeneraw kummenti bil-vuċi ta’ għadd ta’ personaġġi foloz minn gruppi demografiċi differenti u miż-żewġ naħat tal-ispettru politiku fl-Istati Uniti. Bir-Russu, ippreferew struzzjonijiet aktar tematiċi u inqas ibbażati fuq personaġġi.

In-network ikkummenta l-aktar fuq posts minn għadd żgħir ta’ stazzjonijiet ta’ Telegram. L-aktar wieħed imsemmi kien l-istazzjon favur ir-Russja @Slavyangrad, segwit mill-istazzjonijiet bl-Ingliż @police_frequency u @SGTNewsNetwork. (Dan tal-aħħar jippreżenta ruħu bħala veteran Amerikan konservattiv, iżda f’Novembru Meta rrappurtat⁠(jinfetaħ f’tieqa ġdida) li fil-fatt oriġina fl-Iran.) F’kampjun ta’ attività minn Frar, in-network ipprova jiġġenera tweġibiet għal dawn it-tliet stazzjonijiet darbtejn aktar spiss milli għall-għaxar stazzjonijiet l-aktar imsemmija warajhom kollha flimkien.

Din il-kampanja ġġenerat kummenti qosra ffukati fuq ftit temi politiċi. Kemm bl-Ingliż kif ukoll bir-Russu, is-suġġetti ewlenin li ppubblikat dwarhom fuq Telegram kienu l-gwerra fl-Ukrajna, is-sitwazzjoni politika fil-Moldova u fl-Istati Baltiċi, u l-politika fl-Istati Uniti.

Kummenti tipiċi bir-Russu fuq Telegram akkużaw lill-presidenti tal-Ukrajna u tal-Moldova b’korruzzjoni, nuqqas ta’ appoġġ popolari u tradiment tal-popli tagħhom favur l-“indħil” tal-Punent. Il-kummenti bl-Ingliż fuq Telegram iffukaw fuq suġġetti bħall-immigrazzjoni, id-diffikultajiet ekonomiċi u l-aħbarijiet tal-aħħar tal-ġurnata. Dawn il-kummenti spiss użaw il-kuntest tal-ġrajjiet kurrenti biex jargumentaw li l-Istati Uniti m’għandhomx jappoġġaw lill-Ukrajna.

Xi drabi, aktar minn personaġġ wieħed ikkummenta fuq l-istess post u ppreżenta opinjonijiet kontradittorji. Dan l-approċċ “b’żewġ uċuħ”, li jippreżenta ruħu bħala l-vuċi taż-żewġ naħat, diġà ġie osservat f’operazzjonijiet Russi u jista’ jindika xewqa li jiġu attirati udjenzi speċifiċi jew li titkattar il-firda.

Wara l-attakk terroristiku f’Moska fit-22 ta’ Marzu u d-detenzjoni ta’ erba’ ċittadini Taġiki, il-kampanja bdiet tuża grupp ġdid ta’ kontijiet fuq Telegram iffukat fuq it-Taġikistan. Il-kummenti li ppubblikat appellaw għall-għaqda bejn it-Taġiki u r-Russi, u għar-rispett lejn il-liġi Russa.

L-ispam ta’ kummenti kien diġà teknika komuni użata mill-IO qabel il-miġja tal-IA ġenerattiva. Għalkemm Grammatika Ħażina użat teknika ġdida biex tiġġenera l-kummenti tagħha, is-sistema ta’ distribuzzjoni tagħha sabitha diffiċli biex tattira l-interazzjoni.

Ftit ħafna mill-kummenti tagħha rċevew likes jew tweġibiet. Il-kummenti tan-network tipikament kienu minoranza tat-tweġibiet għal kull post, jiġifieri ma għattewx opinjonijiet oħra, jekk dak kien l-għan.

Kultant, in-network uża l-mudelli tagħna biex jiġġenera dawk li jidhru li kienu messaġġi privati, possibbilment ma’ utent ieħor ta’ Telegram, iżda t-testi ġġenerati jissuġġerixxu li n-network kien qed jitkellem ma’ frodist tal-kriptomuniti.

Bl-użu tal-Iskala Breakout⁠(jinfetaħ f’tieqa ġdida) biex nivvalutaw l-impatt tal-IO, li tikklassifika l-operazzjonijiet fuq skala minn 1 (l-inqas) sa 6 (l-ogħla), nivvalutaw dan bħala Kategorija 1, ikkaratterizzata minn attività ta’ pubblikazzjoni fuq pjattaforma waħda, mingħajr evidenza ta’ tixrid sinifikanti minn persuni barra n-network.