„Rossz nyelvtan”: Oroszországhoz köthető Telegram-kommenttevékenység

Ez az esettanulmány eredetileg az OpenAI 2024. májusi⁠(új ablakban nyílik meg) jelentésében jelent meg.

Letiltottunk egy korábban nem jelentett fiókhálózatot, amely a modelljeinkkel hozott létre később a Telegramon közzétett kommenteket. A tevékenységet oroszországi személyekhez kötöttük. Mivel a hálózat a Telegramra összpontosított, rendszeresen nyelvtanilag hibás angol szövegeket tett közzé, és nehezen tudott közönséget építeni, a „Rossz nyelvtan” nevet adtuk neki.

A hálózat orosz és angol nyelvű tartalmakkal célzott meg közönségeket Oroszországban, Ukrajnában, az Egyesült Államokban, Moldovában és a balti államokban.

A hálózat a modelljeink és Telegram-fiókok segítségével kommentspammelő folyamatot alakított ki. Az üzemeltetők először a modelljeink segítségével keresték a hibákat egy olyan kódban, amelyet láthatóan a Telegramon való közzététel automatizálására terveztek. Ezután orosz és angol nyelvű kommenteket generáltak konkrét Telegram-bejegyzésekre válaszul. Végül feltehetően legalább egy tucat Telegram-fiókkal tették közzé ezeket a kommenteket.

Az üzemeltetők angolul a modelljeinkkel számos hamis személyiség hangján generáltak kommenteket. Ezek a személyiségek különböző demográfiai csoportokat és az amerikai politikai spektrum mindkét oldalát képviselték. Oroszul inkább tematikusabb, kevésbé személyiségekre épülő utasításokat használtak.

A hálózat főként néhány Telegram-csatorna bejegyzéseihez szólt hozzá. A legtöbbször az oroszbarát @Slavyangrad csatornát említették, ezt követte az angol nyelvű @police_frequency és az @SGTNewsNetwork. (Utóbbi konzervatív amerikai veteránnak adja ki magát, de novemberben a Meta arról számolt be⁠(új ablakban nyílik meg), hogy valójában Iránból származik.) Egy februári tevékenységmintában a hálózat kétszer olyan gyakran próbált válaszokat generálni e három csatorna bejegyzéseire, mint a tíz következő leggyakrabban említett csatornára összesen.

Ez a kampány néhány politikai témára összpontosító rövid kommenteket generált. A Telegramon angolul és oroszul közzétett tartalmak fő témái az ukrajnai háború, a moldovai és a balti államokbeli politikai helyzet, valamint az Egyesült Államok politikája voltak.

A tipikus orosz nyelvű Telegram-kommentek korrupcióval, a társadalmi támogatottság hiányával, valamint saját népüknek a nyugati „beavatkozás” érdekében történő elárulásával vádolták Ukrajna és Moldova elnökét. Az angol nyelvű Telegram-kommentek olyan témákra összpontosítottak, mint a bevándorlás, a gazdasági nehézségek és az aznapi friss hírek. Ezek a kommentek gyakran az aktuális eseményekre hivatkozva érveltek amellett, hogy az Egyesült Államoknak nem kellene támogatnia Ukrajnát.

Néha több személyiség is hozzászólt ugyanahhoz a bejegyzéshez, egymásnak ellentmondó nézőpontokat képviselve. A mindkét oldal hangjának álcájában alkalmazott „kétarcú” megközelítést korábban is megfigyelték orosz műveleteknél. Ez utalhat arra, hogy konkrét közönségeket kívánnak megszólítani vagy megosztottságot akarnak szítani.

A március 22-i moszkvai terrortámadás és négy tádzsik állampolgár őrizetbe vétele után a kampány a Tádzsikisztánra összpontosító Telegram-fiókok új csoportját kezdte használni. A közzétett kommentek a tádzsikok és az oroszok közötti egységre, valamint az orosz törvények tiszteletére szólítottak fel.

A kommentspammelés már a generatív MI megjelenése előtt is a befolyásolási műveletek gyakori módszere volt. Bár a „Rossz nyelvtan” újszerű módszerrel generálta kommentjeit, terjesztési rendszere nehezen váltott ki aktivitást a felhasználókból.

A kommentjei közül csak nagyon kevés kapott kedvelést vagy választ. A hálózat kommentjei általában az egyes bejegyzésekre érkező válaszok kisebbségét tették ki, vagyis nem nyomták el a többi véleményt, ha ez volt a cél.

A hálózat időnként a modelljeinkkel látszólag privát üzeneteket generált, feltehetően egy másik Telegram-felhasználóval folytatott beszélgetéshez. A generált szövegek azonban arra utalnak, hogy a hálózat egy kriptovalutás csalóval csevegett.

A befolyásolási műveletek hatását az 1-től (legalacsonyabb) 6-ig (legmagasabb) terjedő Breakout Scale⁠(új ablakban nyílik meg) alapján értékelve ezt az 1. kategóriába sorolnánk. Ezt az egyetlen platformon végzett közzétételi tevékenység jellemzi, és nincs bizonyíték arra, hogy a hálózaton kívüli személyek jelentős mértékben felerősítették volna.