„Лоша граматика“: активност со коментари на Telegram поврзана со Русија
OpenAI блокираше сметки поврзани со претходно непријавена операција од Русија, наречена „Лоша граматика“, која користела ВИ за коментари на англиски и руски на Telegram за политиката во Украина, Молдавија, Балтикот и САД.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од мај 2024 година(се отвора во нов прозорец).
Актер
Блокиравме претходно непријавена мрежа од сметки што ги користела нашите модели за да создава коментари, кои потоа биле објавувани на Telegram. Оваа активност ја поврзавме со лица од Русија. Поради нејзиниот фокус на Telegram, постојаното објавување неграматички текстови на англиски и тешкотиите да привлече публика, оваа мрежа ја нарековме „Лоша граматика“.
Однесување
Оваа мрежа со содржини на руски и англиски јазик целела кон публика во Русија, Украина, Соединетите Американски Држави, Молдавија и балтичките држави.
Мрежата ги користела нашите модели и сметки на Telegram за да воспостави систем за масовно објавување коментари. Најпрво, операторите ги користеле нашите модели за отстранување грешки од код што очигледно бил наменет да го автоматизира објавувањето на Telegram. Потоа создавале коментари на руски и англиски како одговор на конкретни објави на Telegram. На крајот, се чини дека користеле најмалку дванаесет сметки на Telegram за да ги објавуваат тие коментари.
Јавен коментар на Telegram што се совпаѓа со текст создаден од оваа мрежа. Предметната сметка повеќепати објавувала коментари што се совпаѓаат со резултатите на оваа мрежа.
На англиски јазик, операторите ги користеле нашите модели за да создаваат коментари во име на повеќе лажни личности од различни демографски групи и од двете страни на политичкиот спектар во Соединетите Американски Држави. На руски јазик, претпочитале инструкции насочени повеќе кон теми, а помалку кон конкретни личности.
Мрежата главно коментирала на објавите од мал број канали на Telegram. Најчесто се споменувал прорускиот канал @Slavyangrad, а по него каналите на англиски јазик @police_frequency и @SGTNewsNetwork. (Последниот се претставува како конзервативен американски ветеран, но во ноември Meta објави(се отвора во нов прозорец) дека всушност потекнува од Иран.) Во примерок од активноста во февруари, мрежата се обидела да создаде двојно повеќе одговори за овие три канали отколку за следните 10 најчесто споменувани канали заедно.
Содржина
Оваа кампања создавала кратки коментари насочени кон неколку политички теми. И на англиски и на руски јазик, главните теми за кои објавувала на Telegram биле војната во Украина, политичката состојба во Молдавија и балтичките држави и политиката во Соединетите Американски Држави.
Вообичаените коментари на руски јазик на Telegram ги обвинувале претседателите на Украина и Молдавија за корупција, недостиг од поддршка од народот и предавство на сопствениот народ поради западно „мешање“. Коментарите на англиски јазик на Telegram биле насочени кон теми како имиграцијата, економските тешкотии и најновите вести. Овие коментари често го користеле контекстот на тековните настани за да тврдат дека Соединетите Американски Држави не треба да ја поддржуваат Украина.
Јавен коментар на Telegram што се совпаѓа со текст создаден од оваа мрежа. Предметната сметка повеќепати објавувала коментари што се совпаѓаат со содржини создадени со нашите модели.
Понекогаш повеќе од една лажна личност коментирала на истата објава, изнесувајќи спротивставени гледишта. Овој „дволичен“ пристап, при кој се претставуваат како гласови од двете страни, и порано е забележан во руски операции и може да укажува на желба да се привлече одредена публика или да се поттикнат поделби.
Јавни коментари на Telegram што се совпаѓаат со текстови создадени од оваа мрежа. Предметните сметки повеќепати објавувале коментари што се совпаѓаат со содржини создадени со нашите модели.
По терористичкиот напад во Москва на 22 март и приведувањето на четворица таџикистански државјани, кампањата почнала да користи нова група сметки на Telegram насочени кон Таџикистан. Во објавените коментари се повикувало на единство меѓу Таџикистанците и Русите и на почитување на руските закони.
Процена на влијанието
Масовното објавување коментари било вообичаена техника во операциите за влијание уште пред појавата на генеративната ВИ. Иако „Лоша граматика“ користела нова техника за создавање коментари, нејзиниот систем за дистрибуција тешко привлекувал интеракции.
Многу малку од нејзините коментари добиле допаѓања или одговори. Коментарите на мрежата обично сочинувале мал дел од одговорите на секоја објава, што значи дека не ги потиснувале другите гледишта, доколку тоа било целта.
Повремено, мрежата ги користела нашите модели за да создава текстови што изгледаат како приватни пораки, можеби со друг корисник на Telegram, но создадените текстови укажуваат дека мрежата разговарала со измамник поврзан со криптовалути.
Според Скалата на пробив(се отвора во нов прозорец) за процена на влијанието на операциите за влијание, која ги оценува на скала од 1 (најниско) до 6 (највисоко), ова би го оцениле како Категорија 1: објавување на една платформа, без докази за значително ширење од луѓе надвор од мрежата.