„Bloga gramatika“: su Rusija susiję komentarai „Telegram“
OpenAI užblokavo paskyras, susijusias su anksčiau neviešinta Rusijoje vykdyta operacija „Bloga gramatika“. Pasitelkus DI buvo kuriami komentarai anglų ir rusų kalbomis apie Ukrainos, Moldovos, Baltijos šalių ir JAV politiką.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2024 m. gegužės(atsidaro naujame lange) ataskaitoje.
Veikėjas
Užblokavome anksčiau neviešintą paskyrų tinklą, kuris mūsų modeliais kūrė komentarus ir vėliau skelbė juos „Telegram“. Šią veiklą susiejome su asmenimis iš Rusijos. Kadangi šis tinklas daugiausia veikė „Telegram“, nuolat skelbė gramatiškai netaisyklingus tekstus anglų kalba ir nesugebėjo suburti auditorijos, pavadinome jį „Bloga gramatika“.
Elgsena
Šis tinklas skelbė turinį rusų ir anglų kalbomis, skirtą auditorijoms Rusijoje, Ukrainoje, Jungtinėse Amerikos Valstijose, Moldovoje ir Baltijos šalyse.
Naudodamas mūsų modelius ir „Telegram“ paskyras, tinklas sukūrė automatizuotą komentarų šlamšto skelbimo sistemą. Pirmiausia operatoriai mūsų modeliais derino kodą, kuris, regis, buvo skirtas automatizuoti įrašų skelbimą „Telegram“. Tada jie generavo komentarus rusų ir anglų kalbomis, atsakydami į konkrečius „Telegram“ įrašus. Galiausiai šiems komentarams skelbti jie, regis, panaudojo bent keliolika „Telegram“ paskyrų.
Viešas „Telegram“ komentaras, atitinkantis šio tinklo sugeneruotą tekstą. Ši paskyra ne kartą skelbė komentarus, atitinkančius šio tinklo sugeneruotą turinį.
Angliškiems komentarams operatoriai mūsų modeliais kūrė įvairias netikras tapatybes, atstovaujančias skirtingoms demografinėms grupėms ir abiem Jungtinių Amerikos Valstijų politinio spektro pusėms. Rusiškiems komentarams jie dažniau rinkosi teminius nurodymus, mažiau paremtus konkrečiomis tapatybėmis.
Tinklas daugiausia komentavo nedidelio skaičiaus „Telegram“ kanalų įrašus. Dažniausiai minėtas prorusiškas kanalas @Slavyangrad, po jo – anglakalbiai @police_frequency ir @SGTNewsNetwork. (Pastarasis apsimeta konservatyvių pažiūrų JAV veteranu, tačiau lapkritį Meta pranešė(atsidaro naujame lange), kad iš tiesų šis kanalas kilęs iš Irano.) Vasario mėnesio veiklos imtyje tinklas mėgino generuoti atsakymus į šių trijų kanalų įrašus dvigubai dažniau nei į kitų dešimties dažniausiai minimų kanalų įrašus kartu sudėjus.
Turinys
Per šią kampaniją buvo generuojami trumpi komentarai keliomis politinėmis temomis. Tiek anglų, tiek rusų kalbomis skelbtuose „Telegram“ komentaruose daugiausia aptartas karas Ukrainoje, politinė padėtis Moldovoje ir Baltijos šalyse bei Jungtinių Amerikos Valstijų politika.
Tipiniuose „Telegram“ komentaruose rusų kalba Ukrainos ir Moldovos prezidentai kaltinti korupcija, visuomenės palaikymo stoka ir savo tautų išdavimu dėl Vakarų „kišimosi“. Angliškuose „Telegram“ komentaruose daugiausia kalbėta apie imigraciją, ekonominius sunkumus ir svarbiausias dienos naujienas. Šiuose komentaruose aktualių įvykių kontekstas dažnai naudotas teigiant, kad Jungtinės Amerikos Valstijos neturėtų remti Ukrainos.
Viešas „Telegram“ komentaras, atitinkantis šio tinklo sugeneruotą tekstą. Ši paskyra ne kartą skelbė komentarus, atitinkančius mūsų modeliais sugeneruotą turinį.
Kartais tą patį įrašą komentuodavo daugiau nei viena netikra tapatybė, pateikdama prieštaringus požiūrius. Toks „dviveidis“ apsimetinėjimas abiejų pusių atstovais jau anksčiau pastebėtas per Rusijos operacijas. Jis gali rodyti siekį pritraukti konkrečias auditorijas arba skatinti susiskaldymą.
Vieši „Telegram“ komentarai, atitinkantys šio tinklo sugeneruotus tekstus. Šios paskyros ne kartą skelbė komentarus, atitinkančius mūsų modeliais sugeneruotą turinį.
Po kovo 22 d. teroristinio išpuolio Maskvoje ir keturių Tadžikistano piliečių sulaikymo kampanija pradėjo naudoti naują į Tadžikistaną orientuotų „Telegram“ paskyrų grupę. Šiose paskyrose skelbtuose komentaruose raginta puoselėti tadžikų ir rusų vienybę bei gerbti Rusijos įstatymus.
Poveikio vertinimas
Komentarų šlamštas buvo įprasta įtakos operacijų priemonė dar prieš atsirandant generatyviajam DI. Nors „Bloga gramatika“ komentarams generuoti naudojo naują metodą, jos turinio platinimo sistema nesugebėjo sulaukti didesnio įsitraukimo.
Vos keli jos komentarai sulaukė reakcijų „Patinka“ ar atsakymų. Tinklo komentarai paprastai sudarydavo mažumą visų atsakymų į konkretų įrašą, tad neužgožė kitų nuomonių, jei toks ir buvo tikslas.
Kartais tinklas mūsų modeliais generuodavo, regis, privačias žinutes, galbūt skirtas kitam „Telegram“ naudotojui, tačiau iš sugeneruotų tekstų galima spręsti, kad tinklas bendravo su kriptovaliutų sukčiumi.
Įtakos operacijų poveikį vertindami pagal Proveržio skalę(atsidaro naujame lange), kurioje jos vertinamos nuo 1 (žemiausias įvertinimas) iki 6 (aukščiausias įvertinimas), šį atvejį priskirtume 1 kategorijai: veikla vykdyta vienoje platformoje ir nėra įrodymų, kad turinį reikšmingai skleidė tinklui nepriklausantys žmonės.