Ný leynileg áhrifaherferð frá Rússlandi stöðvuð

Markmið okkar er að tryggja að almenn gervigreind gagnist öllu mannkyni. Við vinnum að þessu markmiði með því að nýta nýjungar okkar til að þróa gervigreindarverkfæri sem hjálpa fólki að leysa erfið viðfangsefni. Þar á meðal eru verkfæri sem gera okkur kleift að greina, rannsaka, stöðva og afhjúpa leynilegar áhrifaaðgerðir: blekkingartilraunir til að móta almenningsálit eða hafa áhrif á pólitískar niðurstöður án þess að upplýsa um raunverulegt auðkenni eða áform þeirra sem standa að baki.

Nýlega bönnuðum við hóp ChatGPT‑reikninga frá Rússlandi sem voru notaðir til að kynna International Burke Institute (IBI), stofnun í Ísrael sem lýsir sér sem „samfélagi sérfræðinga“. Rannsókn sem hófst á færslum á samfélagsmiðlum sem gerðar voru með gervigreind leiddi okkur að mun umfangsmeiri áhrifaaðgerð. Hún byggðist á vef með afrituðum fræðiritum sem voru eignuð röngum höfundum, „fullveldisvísitölu“ sem sýndi Rússland í jákvæðu ljósi og tilraunum til að dylja rússneskan uppruna stjórnendanna. Þótt herferðin virðist hafa náð til tiltölulega fárra greinir flókin uppbygging hennar hana frá öðrum áhrifaaðgerðum⁠(opnast í nýjum glugga) tengdum⁠(opnast í nýjum glugga) Rússlandi⁠(opnast í nýjum glugga) sem við höfum stöðvað⁠(opnast í nýjum glugga) frá upphafi stríðsins í Úkraínu. Í þessari skýrslu útskýrum við hvernig aðgerðin fór fram, hvert hlutverk ChatGPT var og hvað við gerðum til að stöðva hana.

Við bönnuðum hóp ChatGPT‑reikninga sem voru að öllum líkindum frá Rússlandi. Stjórnendurnir skrifuðu fyrirmæli á rússnesku til að búa til athugasemdir fyrir samfélagsmiðla sem voru birtar á Substack, Telegram, X, Facebook og LinkedIn. Flestar athugasemdirnar voru á ensku og stjórnendurnir sögðu ChatGPT að fela öll málfarsleg ummerki um að þeir væru rússneskir. Þar sem við heimilum ekki aðgang að líkönum okkar frá Rússlandi notuðu þeir VPN-þjónustur til að komast inn á verkvanginn okkar.

Stór hluti efnisins var gerður til að kynna International Burke Institute (IBI), sem lýsir sér sem „samfélagi sérfræðinga“. Vörumerki IBI tengdist vef sem var skráður í febrúar 2025. Þar var því haldið fram að stofnunin væri í Ísrael. Greinar sem birtar voru á vefnum voru ekki búnar til með líkönum okkar. Margar voru afritaðar úr raunverulegum fræðiritum, stundum með rangri höfundareign. Sumar virðast hafa verið samdar af slavneskumælandi einstaklingi og vélþýddar. Sem dæmi má sjá á skjáskotinu hér fyrir neðan af vef IBI óeðlilegt orðalag sem skýrist líklegast af bókstaflegri vélþýðingu úr slavnesku tungumáli.

Eftir því sem við best vitum er þetta ný leynileg áhrifaherferð sem ekki hefur áður verið greint frá. Athyglisverðasti þáttur hennar er „fullveldisvísitalan“ sem hin meinta „hugveita“ kynnti til að lofsyngja Rússland og gera lítið úr vestrænum ríkjum. Þetta er í fyrsta sinn sem við stöðvum áhrifaaðgerð tengda Rússlandi þar sem gengið var svo langt í flókinni uppbyggingu hennar.

ChatGPT var fyrst og fremst notað í aðgerðinni til að búa til færslur á samfélagsmiðlum sem kynntu greinar á vef IBI. Við fundum þessar færslur á X, LinkedIn, Facebook, Substack og Telegram. Sumar voru birtar af reikningum sem báru nafn og merki IBI. Aðrar virtust koma frá venjulegum notendum, líklega falsreikningum, sem birtu aðallega greinar IBI.

Auk þessara færslna bjuggu stjórnendurnir einnig til svör við færslum raunverulegra Substack-notenda um ýmis málefni. Í svörunum var yfirleitt óskað eftir því að fólk fylgdi rás IBI og þau voru birt á Substack af reikningi IBI.

Auk þess að búa til efni um IBI útbjó einn stjórnandinn færslur á þýsku sem voru birtar á Telegram-rásinni „Lahme Ente“ („halt önd“). Færslurnar gagnrýndu reglulega Úkraínu, ESB og þýsk stjórnvöld og hvöttu til betri samskipta við Rússland.

Annar stjórnandi bjó, samhliða efni tengdu IBI, til merki fyrir tólf Telegram-rásir, þar á meðal Lahme Ente, sem fjölluðu um Þýskaland, Bandaríkin, Frakkland, Pólland og Tyrkland. Sumar rásanna birtu stundum efni um IBI eða deildu færslum IBI. Síðari stjórnandinn bað einnig ítrekað um samantektir á rússnesku um starfsemi þessara rása. Ein rásanna sem beindist að Bandaríkjunum þóttist vera bandarískur fjölmiðill, en í kynningartexta hennar voru ýmis merki um að höfundurinn hefði ekki ensku að móðurmáli.

Kjarninn í þessari aðgerð virtist vera International Burke Institute (IBI), en starfsemin sem við stöðvuðum snerist um efni á samfélagsmiðlum sem kynnti eða vísaði á vef stofnunarinnar, fremur en efni sem var birt beint þar.

Vefurinn sagðist vera „samfélag sérfræðinga“ með heimilisfang í Ísrael. Hinn 17. júlí sagðist vefurinn hafa á að skipa fjölbreyttum hópi heimsklassa sérfræðinga, þar á meðal stórmennum á borð við Francis Fukuyama og Noam Chomsky, og birti fjölbreyttar rannsóknir. Við yfirferð á úrtaki 36 greina sem tengdar voru sérfræðingum á vef IBI og birtar milli september 2025 og maí 2026 kom hins vegar í ljós að 34 þeirra höfðu verið afritaðar annars staðar af internetinu.

Sumar greinanna voru margra ára gamlar en aðrar voru eignaðar röngum höfundum. Ein grein um efnahagsbelti Kína og Pakistans virðist til dæmis hafa verið afrituð úr frumriti Cambridge University Press en ranglega eignuð prófessor við Nottingham-háskóla sem sérhæfir sig í stjórnmálum Suður-Asíu.

Önnur grein, um stjórnun fólksflutninga, virðist hafa verið afrituð frá Migration Policy Institute en ranglega eignuð áströlskum prófessor í matvælafræði. Þessi hegðun bendir til þess að reynt hafi verið að láta vef IBI virðast trúverðugri með því að fylla hann af ósviknu efni en leyna raunverulegum uppruna þess.

Auk þessara greina voru á vef IBI skýrslur um ýmis lönd og fullveldi þeirra samkvæmt mælikvarða stofnunarinnar. Þessar skýrslur voru ekki búnar til með líkönum okkar. Sumar skýrslurnar voru settar fram sem samanburður tveggja landa. Aðrar fjölluðu um einstök lönd, einkum ríki sem gagnrýna stríð Rússlands gegn Úkraínu, svo sem Frakkland og Þýskaland, auk Evrópusambandsins. Aðgerðin ýtti undir svipaðar frásagnir um Bandaríkin. Skýrslurnar voru yfirleitt gagnrýnar og nálguðust áróðurskennda ádeilu. Dæmi eru:

• Frakkland⁠(opnast í nýjum glugga): „Tíu ár Macrons-stefnu skiluðu nákvæmlega þeirri niðurstöðu sem búast mátti við af stjórnanda sem kom úr Rothschild-bankanum í Élysée-höllina: Frakkland var opnað eins og öryggishólf með sögulegum auðæfum og er nú selt í hlutum.“
• Bandaríkin⁠(opnast í nýjum glugga): „Trump kom [til Peking] með hæsta fullveldisvísitölugildi heims og fór eftir að hafa gripið til nokkurra aðgerða sem [...] má skilgreina sem sjálfviljuga skerðingu sjálfstæðis.“
• Þýskaland⁠(opnast í nýjum glugga): „Þýskaland þarf iðnaðarstefnu sem verndar störf, ekki aðeins hlutabréfaverð. Landið þarf heiðarlega umræðu um sjálfsmynd, án bannhelgi og móðursýki. Það þarf raunverulegt hernaðarlegt fullveldi, ekki að vera háð bandarískum herstöðvum. Og það þarf stjórnmálamenn sem sýna þýsku þjóðinni hollustu framar stjórnum fyrirtækja í New York.“
• ESB⁠(opnast í nýjum glugga): „Slóvakía gegn Ítalíu: Þversagnir fullveldis gíslaríkja hins ‚stóra‘ sambands“

Þótt efnið á samfélagsmiðlum sem kynnti IBI hafi verið búið til af ChatGPT‑notendum í Rússlandi sem lögðu sig fram um að leyna uppruna sínum, og stór hluti efnisins á vef IBI virtist afritaður annars staðar frá, benda nokkur ummerki á netinu til þess að fáeinir raunverulegir einstaklingar í Ísrael kunni einnig að hafa komið fram fyrir hönd IBI við innsendingu greina og á ráðstefnum. Við getum ekki ákvarðað tengsl þessara einstaklinga, IBI og stjórnendanna í Rússlandi.

Bein áhrif aðgerðarinnar virðast hafa verið takmörkuð: dæmigerðar færslur á samfélagsmiðlum fengu fá áhorf og opinberir reikningar IBI höfðu fáa áskrifendur. Telegram-rásir aðgerðarinnar virðast hafa laðað að fleiri áskrifendur, yfirleitt 10–20 þúsund fylgjendur hver. Með Breakout-kvarða⁠(opnast í nýjum glugga) Brookings til að meta áhrif aðgerðarinnar myndum við setja hana neðst í þriðja flokk (margir miðlar og nokkur merki um útbreiðslu til raunverulegra markhópa).

Mikilvægi aðgerðarinnar felst þó síður í því hversu stórum hópi hún náði til en innviðunum sem byggðir höfðu verið upp. Þótt gerendurnir hafi aðeins notað ChatGPT til að útbúa stakar kynningarfærslur vísuðu þær á stofnun sem að öðru leyti virtist trúverðug, með meintum sérfræðingum, endurbirtum fræðiritum og meintri eigin áhættuvísitölu. Þetta sýnir hvernig áhrifagerendur geta notað gervigreind sem hjálpartæki í umfangsmeiri viðleitni til að skapa sér trúverðugleika, dylja uppruna hagstæðra frásagna og koma upp innviðum sem hægt væri að stækka með tímanum. Þetta sýnir einnig hvernig notkun gervigreindar sem hjálpartækis getur leitt til þess að umfangsmeiri aðgerðin verði afhjúpuð.