„Лоша граматика“: активност коментарисања на Telegram-у повезана са Русијом
OpenAI је забранио налоге повезане с раније непријављеном руском операцијом коју смо назвали „Лоша граматика“. Она је помоћу вештачке интелигенције писала коментаре за Telegram на енглеском и руском о политици у Украјини, Молдавији, на Балтику и у САД.
Ова студија случаја првобитно је објављена у извештају компаније OpenAI за мај 2024.(отвара се у новом прозору) године.
Актер
Забранили смо раније непријављену мрежу налога која је користила наше моделе за прављење коментара, касније објављиваних на Telegram-у. Ову активност повезали смо са појединцима из Русије. С обзиром на усредсређеност на Telegram, учестало објављивање неграматичног енглеског текста и неуспех у привлачењу публике, ову мрежу назвали смо „Лоша граматика“.
Понашање
Ова мрежа је садржајем на руском и енглеском циљала публику у Русији, Украјини, Сједињеним Државама, Молдавији и балтичким државама.
Мрежа је користила наше моделе и налоге на Telegram-у да успостави систем за масовно објављивање нежељених коментара. Оператери су најпре користили наше моделе за отклањање грешака у коду који је очигледно био намењен аутоматизацији објављивања на Telegram-у. Затим су генерисали коментаре на руском и енглеском као одговоре на одређене објаве на Telegram-у. На крају су, по свему судећи, употребили најмање десетак налога на Telegram-у да објаве те коментаре.
Јавни коментар на Telegram-у који се подудара са текстом који је генерисала ова мрежа. Овај налог је више пута објављивао коментаре који се подударају са резултатима ове мреже.
Оператери су помоћу наших модела генерисали коментаре на енглеском у име више лажних личности из различитих демографских група са обе стране политичког спектра у Сједињеним Државама. За садржај на руском давали су предност више тематским упутствима, мање заснованим на личностима.
Мрежа је углавном коментарисала објаве малог броја канала на Telegram-у. Најчешће је помињан проруски канал @Slavyangrad, а затим канали на енглеском @police_frequency и @SGTNewsNetwork. (Последњи се представља као конзервативни амерички ветеран, али је у новембру Meta известила(отвара се у новом прозору) да заправо потиче из Ирана.) У узорку активности из фебруара, мрежа је покушала да генерише одговоре на објаве ова три канала двоструко чешће него за наредних 10 најпомињанијих канала заједно.
Садржај
Ова кампања је генерисала кратке коментаре усредсређене на неколико политичких тема. И на енглеском и на руском, главне теме њених објава на Telegram-у биле су рат у Украјини, политичка ситуација у Молдавији и балтичким државама и политика у Сједињеним Државама.
Типични коментари на руском на Telegram-у оптуживали су председнике Украјине и Молдавије за корупцију, недостатак подршке народа и издају сопственог народа у корист западног „мешања“. Коментари на енглеском на Telegram-у били су усредсређени на теме као што су имиграција, економске тешкоће и најновије вести тог дана. Ови коментари су често користили актуелне догађаје као повод за тврдњу да Сједињене Државе не треба да подржавају Украјину.
Јавни коментар на Telegram-у који се подудара са текстом који је генерисала ова мрежа. Овај налог је више пута објављивао коментаре који се подударају са садржајем генерисаним помоћу наших модела.
Понекад је више личности коментарисало исту објаву, износећи супротстављена гледишта. Овај „дволични“ приступ, у којем се представљају као гласови обеју страна, већ је примећен у руским операцијама и може указивати на жељу да се привуче одређена публика или подстакну поделе.
Јавни коментари на Telegram-у који се подударају са текстовима које је генерисала ова мрежа. Ови налози су више пута објављивали коментаре који се подударају са садржајем генерисаним помоћу наших модела.
После терористичког напада у Москви 22. марта и притварања четворице држављана Таџикистана, кампања је почела да користи нову групу налога на Telegram-у усредсређених на Таџикистан. У објављеним коментарима позивало се на јединство Таџика и Руса и на поштовање руског закона.
Процена утицаја
Масовно објављивање нежељених коментара било је уобичајена техника операција утицаја и пре појаве генеративне вештачке интелигенције. Иако је „Лоша граматика“ користила нову технику за генерисање коментара, њен систем дистрибуције није успевао да привуче интеракције.
Веома мало њених коментара добило је лајкове или одговоре. Коментари мреже обично су чинили мањи део одговора на сваку објаву — што значи да нису потиснули друга гледишта, ако је то био циљ.
Мрежа је повремено користила наше моделе за генерисање нечега што је личило на приватне поруке, можда размењене са другим корисником Telegram-а, али генерисани текстови указују на то да се дописивала са преварантом који се бави криптовалутама.
Према Скали продора(отвара се у новом прозору) за процену утицаја операција утицаја, која их оцењује од 1 (најниже) до 6 (највише), ову активност бисмо сврстали у категорију 1, коју одликује објављивање на једној платформи, без доказа да су је значајно проширили људи ван мреже.