Stöðvun dulbúinna áhrifaaðgerða sem nýta gervigreind

Undanfarin tvö og hálft ár höfum við greint frá ýmsum aðferðum sem ógnaraðilar hafa reynt að beita til að nýta líkönin okkar við netárásir, leynilegar áhrifaaðgerðir, svik og önnur brot á notkunarreglum okkar. Við birtum þessar skýrslur til að upplýsa eftirlitsaðila, önnur fyrirtæki í greininni og samfélagið almennt um hvernig við sjáum ógnaraðila reyna að nýta gervigreind og varpa ljósi á veikleikana sem þeir reyna að misnota.

Við lokuðum nýlega á tvær áhrifaaðgerðir, aðra frá Rússlandi og hina frá Íran, sem notuðu líkönin okkar samhliða hefðbundnari aðferðum og tækni til að styðja við vandlega dulbúna yfirvarpsstarfsemi. Þær notuðu þessa yfirvarpsstarfsemi til að koma landapólitískum boðskap tengdum átökum til markhópa sinna án þess að raunverulegur uppruni hans væri ljós. Íranska aðgerðin hélt úti sjö uppspunnum „blaðamönnum“ sem hún notaði til að bjóða litlum og meðalstórum netmiðlum um allan heim langar greinar til birtingar. Rússneska aðgerðin virðist hafa fengið grunlaust fólk í Rómönsku Ameríku til að reka „hugveitu“ á staðnum.

Báðar aðgerðirnar voru margþættar og beittu ýmsum ólíkum aðferðum til að ná markmiðum sínum. Auk langra greina bjó íranska aðgerðin til athugasemdir fyrir samfélagsmiðla í miklu magni, yfirleitt um málefni tengd stríði Bandaríkjanna og Írans. Auk þess að stjórna „hugveitunni“ bjó rússneska aðgerðin til fölsuð skjöl sem áttu að hafa „lekið“ og handrit að hljóðupptökum. Við fundum hluta þessa efnis í dreifingu á netinu. Báðar aðgerðirnar notuðu einnig gervigreind mikið til að semja innri skýrslur (rússneska aðgerðin notaði hana mest í þeim tilgangi). Í báðum tilvikum beittu aðilarnir vafasömum eða beinlínis villandi aðferðum til að ýkja árangur stjórnendanna.

Það sem vekur mesta athygli við þessar aðgerðir er hversu mjög þær líktust flóknum áhrifaaðgerðum frá því fyrir daga gervigreindar, en notuðu hana til að auðvelda suma verkþætti. Uppspunnu blaðamennirnir sem íranska aðgerðin hélt úti minntu á falska blaðamanninn „Alice⁠(opnast í nýjum glugga) Donovan⁠(opnast í nýjum glugga)“. Hún var yfirvarp fyrir rússnesku herleyniþjónustuna og greinar undir nafni hennar birtust í ýmsum vestrænum miðlum árin 2016–2017. Árið 2020 ráku einstaklingar tengdir fyrri starfsemi rússnesku Internet Research Agency falskan „fréttamiðil“ sem kallaðist „PeaceData⁠(opnast í nýjum glugga)“ og fékk grunlausa blaðamenn um allan heim til að skrifa fyrir sig.

Þessar aðgerðir voru einnig óvenjulegar að því leyti hversu víða efni þeirra gat náð. Miðað við útbreiðslukvarðann⁠(opnast í nýjum glugga) fyrir áhrifaaðgerðir, sem metur þær á skalanum 1 (lægst) til 6 (hæst), myndum við setja rússnesku aðgerðina í flokk 5. Þetta er fyrsta aðgerðin í flokki 5 sem við höfum stöðvað frá því að við hófum að birta skýrslur okkar. Íranska aðgerðin náði í flokk 4. Báðum tókst að fá efni sitt birt í almennum fjölmiðlum, fremur en að birta það eingöngu á samfélagsmiðlum. Ekki var allt þetta efni búið til með líkönunum okkar. Þetta samræmist mynstri sem við höfum séð í þeim 30 leynilegu áhrifaaðgerðum sem við höfum afhjúpað undanfarin tvö og hálft ár: aðgerðir sem reyna að koma efni sínu í raunverulega fjölmiðla, í stað þess að treysta á dreifingu með fölskum samfélagsmiðlareikningum, eiga yfirleitt mesta möguleika á útbreiðslu og áhrifum.

Fylki yfir þær 30 áhrifaaðgerðir sem við höfum afhjúpað frá ársbyrjun 2024, metnar eftir helstu dreifileið (samfélagsmiðlar, eigin vefsíða aðgerðar, utanaðkomandi miðlar) og einkunn á útbreiðslukvarðanum. Aðgerðir sem notuðu fleiri en eina dreifileið, svo sem að reka vefsíðu og kynna hana á samfélagsmiðlum, eru flokkaðar eftir þeirri aðferð sem virtist vera kjarninn í starfseminni.

Gervigreind getur aukið umfang og skilvirkni slíkra dulbúinna aðgerða og bætt málfærni þeirra og ritstjórnarvinnu. Stjórnendurnir geta nýtt þessa kosti til að notfæra sér grunlaus fórnarlömb, svo sem starfsfólk eða ritstjóra, og koma efni sínu fyrir sjónir fólks sem hefur enga hugmynd um hver stendur að baki því eða í hvaða tilgangi. Þessar aðgerðir sýna einnig hversu flóknar og úthugsaðar aðferðir ógnaraðilar nota þegar þeir beita fölskum persónum og starfsemi til að ná markmiðum sínum. Til að viðhalda öflugum vörnum hjá fyrirtækjum og stofnunum er nauðsynlegt að skilja hvaða veikleika ógnaraðilar nýta í þessum tilgangi og hvernig þeir geta breytt þeim í aukna útbreiðslu og aðgang að áhorfendum.

En leyndin sem þessar dulbúnu aðgerðir byggjast á gerir þær líka sérstaklega viðkvæmar fyrir því að upplýst sé um þær með ábyrgum hætti. Bæði „Alice Donovan“ og „PeaceData“ hættu starfsemi eftir að upp um þær komst. Markmið okkar með því að greina frá þessum dulbúnu aðgerðum er því að auðvelda frekari rannsóknir og stöðvun þeirra — og gera erfiðara að halda þeim áfram.

Aðilar frá Rússlandi sem reka áhrifaherferðir víðs vegar um Rómönsku Ameríku.

Við lokuðum hópi tengdra ChatGPT‑reikninga sem áttu uppruna sinn í Rússlandi. Þeir notuðu ChatGPT til ýmissa verkefna sem tengdust leynilegum áhrifaaðgerðum gegn löndum víðs vegar um Rómönsku Ameríku. Stór hluti starfseminnar virtist miða að því að grafa undan orðspori Úkraínu á svæðinu, en sumt virtist ætlað að hafa áhrif á pólitíska framvindu innan einstakra landa, einkum Argentínu og Bólivíu. Flestir stjórnendurnir gáfu fyrirmæli á rússnesku; einn notaði spænsku en virtist engu að síður vera staðsettur í Rússlandi. Við höfum deilt upplýsingum um málið með viðeigandi yfirvöldum.

Stjórnendurnir notuðu ChatGPT í þrjú meginverkefni: að skrifa innri skýrslur um eigin starfsemi (og starfsemi annarra sem þeir gætu með trúverðugum hætti eignað sér heiðurinn af), búa til efni fyrir aðgerðir sínar og semja skýrslur um árangur sjálfskipaðs „rannsóknarvettvangs“ í Rómönsku Ameríku sem kallaðist Social Research Center (SRC). Þeir virðast hafa stjórnað SRC í gegnum uppspunna persónu að nafni „Mia Clark“. Með vísan til þess nafns höfum við kallað aðgerðina „Dark Clark“. Þar sem við heimilum ekki aðgang að líkönunum okkar frá Rússlandi notuðu þeir VPN-tengingar til að tengjast þjónustu okkar.

Í innri skýrslum sínum sögðust stjórnendurnir hafa dreift fölskum sögum um Rómönsku Ameríku til að grafa undan Úkraínu eða leiðtogum á svæðinu. Rannsakendur⁠(opnast í nýjum glugga) sem vinna með opnar heimildir⁠(opnast í nýjum glugga) hafa rakið sumar þessara falsana til rússnesks hóps sem kallast „Politology“ eða „La Compania“. Hann er sagður arftaki Wagner-hópsins og annarrar starfsemi sem rússneski auðjöfurinn Jevgení Prigozhin stofnaði. Stjórnendurnir báðu líkönin okkar einnig um að þýða eða útskýra opinbera umfjöllun um Politology og Wagner, mun oftar en þeir spurðu um nokkur önnur rússnesk tengslanet.

Þessi aðgerð var óvenjuleg á tvennan hátt. Í fyrsta lagi virðist henni hafa tekist að fá einstaklinga í Rómönsku Ameríku til starfa fyrir SRC án þess að þeir vissu hvað byggi að baki. Í skýrslum rússnesku stjórnendanna um SRC var vísað til ákvarðana um atriði eins og launataxta, ráðningar og uppsagnir. Það bendir til þess að þeir hafi stjórnað starfseminni fremur en átt samstarf við hana. Fyrirliggjandi gögn benda til þess að starfsfólk SRC í Rómönsku Ameríku hafi ekki vitað að það ynni fyrir rússneskan hóp. Ólíkt annarri „hugveitu“ með tengsl við Rússland sem við afhjúpuðum nýlega virðist SRC hafa látið grunlaust starfsfólk sitt frumsamja meirihluta efnisins. Þetta er flóknasta tilraunin til að halda úti yfirvarpsstarfsemi sem við höfum stöðvað undanfarin tvö og hálft ár.

Í öðru lagi benda sumar opnar heimildir til þess að falsanir Dark Clark hafi dreifst nægilega víða til að kalla fram staðreyndakannanir⁠(opnast í nýjum glugga) og opinberar neitanir⁠(opnast í nýjum glugga). Það bendir til meiri útbreiðslu en hjá nokkurri þeirra áhrifaaðgerða sem við höfum stöðvað undanfarin tvö ár. Ein fölsun sem stjórnendur aðgerðarinnar sögðust hafa komið á framfæri í Perú ýtti jafnvel undir opinbera spennu milli Úkraínu og Póllands.

Stjórnendurnir notuðu ChatGPT fyrst og fremst til að semja og uppfæra innri skýrslur fyrir óþekktan yfirmann. Þessar reglulegu skýrslur lýstu tilraunum til að reka leynilegar áhrifaherferðir víðs vegar um Rómönsku Ameríku. Þær náðu yfir þrjá meginverkþætti: að sverta Úkraínu og grafa undan nýliðun í úkraínska hernum; að hafa afskipti af innanríkisstjórnmálum tiltekinna landa, einkum Bólivíu og Argentínu; og að stjórna SRC. Í flestum tilvikum sáum við ekki ógnaraðilana nota líkönin okkar til að búa til efni fyrir herferðirnar, heldur aðeins til að skrifa skýrslur um þær (þeim fáu undantekningum er lýst hér á eftir⁠).

Skýrslurnar innihéldu ítarlegar upplýsingar um aðferðir og vörpuðu ljósi á hvernig aðgerðin reyndi að grafa undan Úkraínu og nokkrum þjóðarleiðtogum, einkum forsetum Argentínu, Bólivíu og Ekvador. Sumar lýstu tilraunum til að blekkja heimafólk til athafna sem stjórnendurnir gætu nýtt sem vopn í herferðinni; aðrar lýstu fölsuðum „lekum“ sem þeir sögðust hafa dreift.

Í tveimur tilvikum tengja gögnin stjórnendurna við opinbera umfjöllun um „Politology“. Stjórnendurnir greindu frá því að árið 2024 hefðu þeir rekið tvær herferðir gegn Javier Milei, forseta Argentínu. Í fyrsta lagi sögðust þeir hafa dreift falskri frétt um að Milei hefði keypt skartsteinasettar Cartier-ólar handa hundunum sínum. Í öðru lagi sögðust þeir hafa greitt heimamönnum fyrir að mála veggjakrot gegn Milei í Búenos Aíres. Á grundvelli skjala sem láku hefur hvort tveggja verið opinberlega⁠(opnast í nýjum glugga) rakið⁠(opnast í nýjum glugga) til „Politology“ og „La Compania“.

Mun fleiri falsanir hafa ekki áður verið tengdar rússneskum áhrifa­aðgerðum. Stjórnendurnir sögðust til dæmis hafa stofnað falskt netfang í maí 2026 sem átti að líta út fyrir að tilheyra svæðisskrifstofu menntamála í Líma í Perú. Þeir notuðu það til að fyrirskipa skólum á svæðinu að halda viðburði helgaða Úkraínu á landsdegi menningarlegrar og tungumálalegrar fjölbreytni (21. maí). Í tölvupóstunum voru skýr fyrirmæli um að fjalla meðal annars um hinn umdeilda úkraínska þjóðernissinna Stepan Bandera, sem var uppi á tuttugustu öld. Sumir Úkraínumenn líta á hann sem sjálfstæðishetju, en í Rússlandi og Póllandi er hann tengdur fasisma, samstarfi við óvininn á stríðstímum og voðaverkum. Að sögn stjórnendanna svöruðu sumir skólar á falska netfangið, staðfestu að þeir hefðu haldið slíka viðburði og sendu jafnvel myndir.

Stjórnendurnir sögðust síðan hafa komið fréttum af viðburðunum í fjölmiðla bæði í Perú og Póllandi, ásamt ásökunum um að Úkraína væri að „flytja út“ öfgaþjóðernishyggju, og þannig vakið reiði. Við leit í opnum heimildum fundust fréttir sem samræmdust þessari fullyrðingu í perúskum⁠(opnast í nýjum glugga) og⁠(opnast í nýjum glugga) pólskum⁠(opnast í nýjum glugga) fjölmiðlum⁠(opnast í nýjum glugga) og enskumælandi miðli í Ungverjalandi⁠(opnast í nýjum glugga) (sumum greinanna hefur síðan verið eytt). Sumar⁠(opnast í nýjum glugga) greinanna⁠(opnast í nýjum glugga) höfðu eftir pólskum þingmanni á Evrópuþinginu að fólk sem sýndi „andúð á Póllandi“ ætti að vera lýst óæskilegt í Póllandi. Rússneska fölsunin nýtti þannig sögulega spennu milli Úkraínumanna og Pólverja og kynti jafnframt undir henni.

Á svipaðan hátt sögðust stjórnendurnir í júní hafa notað annað falskt netfang til að blekkja skóla í Ekvador til að halda athöfn þar sem hollusta var sórin Daniel Noboa forseta og Erik Prince, fyrrverandi yfirmanni einkahernaðarfyrirtækisins Blackwater. Stjórnendurnir fullyrtu að atvikið hefði vakið reiði í Ekvador og þrýst á stjórnvöld að hrekja fölsunina, sem hefði orðið til þess að hún næði til fólks um allt land. Aftur leiddi rannsókn í opnum heimildum í ljós fréttir⁠(opnast í nýjum glugga) og umfjöllun⁠(opnast í nýjum glugga) í ekvadorskum⁠(opnast í nýjum glugga) fjölmiðlum⁠(opnast í nýjum glugga) sem samræmdust mjög þessari fullyrðingu, og jafnvel ítarlega afsönnun⁠(opnast í nýjum glugga) frá menntamálaráðherra Ekvador.

Stjórnendurnir beittu ýmsum aðferðum til að renna stoðum undir falskar frásagnir sínar. Samkvæmt innri skýrslum þeirra dreifðu þeir tveimur ólíkum fölsunum sem beindust að Ekvador í mars. Önnur byggðist á falsaðri hljóðupptöku sem eignuð var ræðismanni Úkraínu í Ekvador, þar sem hann átti að hafa talað niðrandi um Ekvadora. Við rannsókn okkar í opnum heimildum fannst færsla á TikTok sem samsvaraði þessari fullyrðingu nákvæmlega; hún virtist hafa fengið lítil viðbrögð. Hin lýsti fölsuðu myndskeiði sem dreift var á X og TikTok undir merki raunverulegrar fréttastöðvar. Þar var fullyrt að ríkisstjórn Noboa væri að ráða unga menn til að berjast í Úkraínu. Staðreyndavaktir⁠(opnast í nýjum glugga) í Ekvador lýstu herferð sem samræmdist þessari lýsingu í byrjun apríl.

Myndskeið birt á TikTok 8. apríl 2026 með fölsuðu hljóðupptökunni sem stjórnendur aðgerðarinnar sögðust hafa búið til og var eignuð úkraínska ræðismanninum.

Önnur innri skýrsla lýsti fölsun sem þeir dreifðu í Bólivíu í lok maí, þegar mótmæli gegn stjórnvöldum stóðu sem hæst. Stjórnendurnir sögðu berum orðum að markmið herferðarinnar væri að magna upp kreppuna í kringum mótmælin. Í herferðinni var notuð fölsuð hljóðupptaka af starfsmanni ríkisvatnsveitunnar EPSAS sem sagði að stjórnvöld hygðust skrúfa fyrir vatn til stjórnsýsluhöfuðborgarinnar La Paz og lýsa yfir neyðarástandi. Við rannsókn okkar í opnum heimildum fundum við afsönnun⁠(opnast í nýjum glugga) á samsvarandi fullyrðingu og opinbera neitun⁠(opnast í nýjum glugga) frá EPSAS.

Aðrar innri skýrslur lýstu fölsunum sem við gátum ekki staðfest í opnum heimildum, hugsanlega vegna þess að þær höfðu þegar verið fjarlægðar eða ekki náð útbreiðslu. Stjórnendurnir sögðust til dæmis hafa dreift sögu í janúar um að brasilískur áhrifavaldur og fyrirsæta hefði orðið fórnarlamb mansals, verið flutt til Úkraínu af fulltrúum úkraínska sendiráðsins og myrt í Kænugarði. Í júní sögðust þeir hafa dreift annarri falsaðri hljóðupptöku í Bólivíu, að þessu sinni sem átti að vera frá starfsmanni Seðlabanka Bólivíu. Þar var varað við því að bankinn væri við það að takmarka úttektir á reiðufé. Þeir sögðust einnig hafa dreift fölsuðu bréfi frá olíu- og gasstofnun landsins þar sem varað var við takmörkunum á eldsneytissölu fyrir einkabíla.

Við gerð annarra skýrslna báðu stjórnendurnir líkönin okkar um að finna atvik í viðkomandi löndum sem þeir gætu eignað sér heiðurinn af, þótt þeir hefðu ekki komið að þeim. Í Argentínu fullyrtu stjórnendurnir til dæmis að utanríkisráðherra landsins hefði vitnað í efni úr aðgerð þeirra á nefndarfundi Sameinuðu þjóðanna um Falklandseyjar / Malvíneyjar. Stjórnendurnir eignuðu sér heiðurinn af að hafa komið á framfæri þeim rökum að meginreglan um sjálfsákvörðunarrétt ætti ekki við um eyjarnar og að Bretland héldi þar úti óhóflega miklu herliði. Í raun hafa bæði þessi rök verið hluti af opinberri afstöðu Argentínu í mörg⁠(opnast í nýjum glugga) ár⁠(opnast í nýjum glugga). Á svipaðan hátt fjölluðu⁠(opnast í nýjum glugga) brasilískir fjölmiðlar í júní um brasilískan ríkisborgara sem hafði farið til Úkraínu til að ganga í herinn, verið handtekinn af rússneskum hersveitum og síðan lýst því yfir í sjónvarpi að hann hefði verið blekktur til að berjast. Stjórnendurnir sem notuðu ChatGPT reyndu að halda því fram að fréttin endurómaði boðskap aðgerðar þeirra; í raun vitnaði hún í myndskeið fangans sjálfs⁠(opnast í nýjum glugga). Þetta bendir til þess að stjórnendurnir hafi reynt að beita eigin vinnuveitendur áhrifum fremur en utanaðkomandi áhorfendur.

Í sumum skýrslum stjórnendanna var vísað til sjálfskipaðs „rannsóknarvettvangs“ sem kallaðist Social Research Center (á rússnesku Центр социологических исследований). Samkvæmt vefsíðu SRC beinist starfsemin að fólki af indverskum uppruna í Rómönsku Ameríku og samskiptum Indlands við lönd svæðisins.

Innri skýrslurnar bentu til þess að stjórnendurnir stýrðu hugveitunni en ættu ekki aðeins í samstarfi við hana. Þar var til dæmis vísað til ákvarðana um ráðningar og uppsagnir, launataxta, starfsmannaáætlana og yfirstandandi rannsóknarverkefna. Mikilvægt var einnig að þar kom fram að stjórnendurnir hefðu búið til falska persónu að nafni „Mia Clark“ til að stýra samfélagsmiðlastarfi aðgerðarinnar og eiga samskipti við starfsfólk á staðnum í Rómönsku Ameríku. Fyrirliggjandi gögn benda til þess að þessir starfsmenn hafi ekki haft hugmynd um að þeir ynnu fyrir rússneska aðgerð og hafi sinnt rannsóknarverkefnum sínum í góðri trú. Þessi notkun grunlausra milliliða minnir mjög á fyrri rússneska aðgerð, „PeaceData“, sem einnig tengdist starfsemi Prigozhins og Meta afhjúpaði⁠(opnast í nýjum glugga) árið 2020.

Af skýrslum rússnesku stjórnendanna að dæma tók starfsfólk þeirra í Rómönsku Ameríku viðtöl við sérfræðinga og álitsgjafa víðs vegar um svæðið og samdi síðan rannsóknargreinar byggðar á niðurstöðunum. Viðfangsefnin spönnuðu allt frá víðtækri greiningu á almenningsáliti á BRICS-hópnum til ítarlegs samanburðar á efnahag Brasilíu í forsetatíð Jairs Bolsonaro og Luiz Inácio Lula da Silva. Stundum sömdu rússnesku stjórnendurnir stöðuskýrslur um rannsóknarverkefnin áður en niðurstöður þeirra voru birtar, sem bendir til náinnar aðkomu að vinnuferlinu. Við fundum vel yfir 60 greinar á vefsíðu SRC og langflestar þeirra virtust frumsamdar. Þetta greinir Dark Clark frá rússnesku aðgerðinni sem við afhjúpuðum nýlega. Hún rak einnig hugveitu sem yfirvarp en stal mestu efni sínu frá öðrum. Þetta bendir til ásetnings um að byggja upp langlífari yfirvarpsstarfsemi með tengsl um alla Rómönsku Ameríku.

Rússnesku stjórnendurnir sögðust hafa reynt að byggja upp net samfélagsmiðlareikninga til að kynna starf SRC. Samkvæmt skýrslum þeirra komu upp vandamál í samfélagsmiðlastarfinu þegar stjórnendur í ólíkum heimshlutum reyndu að skrá sig inn á sömu reikninga, sem leiddi til takmarkana á reikningunum. Ummerki um þetta sjást í opnum heimildum: til dæmis sýndu gagnsæisupplýsingar aðalreiknings SRC á X staðsetningu í Þýskalandi (hugsanlega vegna VPN-notkunar) en tengingu í gegnum rússnesku App Store-verslunina. Gagnsæisupplýsingar eins Instagram-reikningsins sýndu hins vegar að umsjónaraðili væri í Venesúela. Enginn þeirra þriggja Facebook-reikninga undir merkjum SRC sem við fundum var með nógu marga fylgjendur til að staðsetning umsjónaraðila birtist.

Til vinstri: X-reikningur tengdur Social Research Center. Takið eftir gagnsæisupplýsingunum sem sýna að reikningurinn tengdist í gegnum rússnesku appverslunina. Til hægri: Instagram-reikningur SRC; takið eftir staðsetningunni í Venesúela.

Stjórnendurnir greindu sérstaklega frá vandamálum á LinkedIn. Þar sögðust þeir hafa stofnað reikning sem þeir lýstu sjálfir sem fölsuðum til að koma fram fyrir hönd SRC, en síðan átt erfitt með að byggja upp tengslanet fyrir hann. Samkvæmt skýrslum þeirra var lausnin að stofna fleiri falska reikninga til að fylgja þeim fyrsta og gera hann trúverðugri. Þann 17. ágúst var LinkedIn-reikningur með sama auðkenni Social Research Center með 961 fylgjanda og sagðist hafa 200–500 starfsmenn, en skráði aðeins tvo starfsmenn.

Auk þess að nota gervigreind til að uppfæra skýrslur báðu stjórnendurnir líkanið okkar stundum að aðstoða við að skipuleggja og semja texta fyrir aðgerðir sínar. Þeir báðu til dæmis um hjálp við að tryggja að falsanir þeirra notuðu réttan hreim, orðaforða og stofnanamál fyrir ólík lönd. Þetta var tiltölulega lítill hluti heildarvinnunnar, hugsanlega vegna þess að að minnsta kosti einn þátttakandi virðist hafa verið frá Rómönsku Ameríku með spænsku að móðurmáli og því minni þörf á tungumálaaðstoð gervigreindar.

Einu sinni bað til dæmis einn rússneskumælandi stjórnendanna líkanið að hjálpa til við að semja bréf á rússnesku sem myndi bendla kjörræðismann Úkraínu í Panama við spillingu. Spænskumælandi stjórnandinn bað líkanið síðan að þýða bréfið á spænsku og semja handrit að hljóðupptöku sem ætti að fylgja því. Ljósmynd sem samsvaraði texta bréfsins, ásamt innlestri sem samsvaraði handriti stjórnandans, birtist á TikTok-reikningi sem þóttist vera fréttamiðill en notaði merki panamíska miðilsins TVN Noticias⁠(opnast í nýjum glugga). TikTok-rásin var aðeins með einn fylgjanda og hætti að birta efni eftir að hún kom þessari fölsun á framfæri.

TikTok-færsla sem sýnir bréfið sem samið var í þessari aðgerð, ásamt innlestri á handriti sem einnig var samið í aðgerðinni.

Í annað sinn gaf spænskumælandi stjórnandinn í Rússlandi líkaninu rússneskt handrit þar sem fullyrt var að Noboa hefði móðgað fátækt fólk í Ekvador og bað það að þýða textann á ekvadorska spænsku. Í þriðja skipti, í mars, bað sami notandi líkanið að prófarkalesa drög að spænskum samningi milli fyrirtækis sem kallaðist „International Security Solutions FZE“ og einstaklings í Ekvador, sem átti að snúast um innviðaþjónustu í Úkraínu. Spurningar notandans snerust um hvernig bæta mætti málfar og uppsetningu, þar á meðal hvaða orð ættu að vera feitletruð.

Fyrirmælum notandans um samninginn lauk þegar endanlegt orðalag lá fyrir. Rannsókn í opnum heimildum sýnir hins vegar að mynd af „samningnum“ var síðar dreift á samfélagsmiðlum⁠(opnast í nýjum glugga). Hann var notaður til að styðja þá fullyrðingu að ríkisstjórn Noboa hefði unnið með leppfyrirtæki að því að blekkja Ekvadora til að ganga í úkraínska herinn. Fölsunin dreifðist nægilega víða til að kalla fram staðreyndakönnun⁠(opnast í nýjum glugga) í byrjun apríl. Niðurstaðan var sú að fyrirtækið „finnist ekki í skrá eftirlitsstofnunar Ekvador með fyrirtækjum, verðbréfum og tryggingum“.

Meta þarf áhrif þessarar aðgerðar af sérstakri varfærni. Eins og áður sagði var ein helsta aðferð stjórnendanna að eigna sér heiðurinn af starfsemi sem hafði ekkert með aðgerð þeirra að gera. Því er ekki hægt að taka eigin fullyrðingar þeirra um áhrif í innri skýrslum sem góðar og gildar. Sumar falsfréttanna sem þeir sögðust hafa komið á framfæri fundust heldur ekki við rannsókn í opnum heimildum. Hugsanlega var þeim dreift eftir lokuðum leiðum, þær þegar fjarlægðar eða aldrei birtar.

Gögn úr opnum heimildum gerðu okkur þó kleift að staðfesta sumar fullyrðingar þeirra. Sumar falsananna sem stjórnendur aðgerðarinnar sögðust hafa dreift voru síðar teknar fyrir af staðreyndavöktum og hraktar af stjórnvöldum. Það bendir til þess að þær hafi dreifst nægilega víða til að ástæða væri til að bregðast við. Í öðrum tilvikum gátum við fundið efni á netinu sem samsvaraði mjög efninu sem búið var til í aðgerðinni. Athyglisverðasta dæmið var fullyrðing stjórnenda aðgerðarinnar um að hafa blekkt perúskan skóla til að halda viðburð þar sem Bandera var sýndur. Síðar var fjallað um málið bæði í Rómönsku Ameríku og Evrópu og það virðist hafa orðið tilefni ummæla frá að minnsta kosti einum pólskum Evrópuþingmanni.

Miðað við útbreiðslukvarðann⁠(opnast í nýjum glugga) fyrir áhrifaaðgerðir, sem metur þær á skalanum 1 (lægst) til 6 (hæst), myndum við setja þessa aðgerð í flokk 5. Gögn benda til þess að hún hafi leitt til opinberra ummæla stjórnmálamanna í nokkrum löndum. Þetta er fyrsta aðgerðin í flokki 5 sem við höfum stöðvað frá því að við hófum að birta skýrslur okkar.

Aðgerð frá Íran sem kemur löngum greinum undir fölskum höfundarnöfnum í birtingu á fréttamiðlum á netinu.

Við lokuðum hópi tengdra ChatGPT‑reikninga sem áttu uppruna sinn í Íran. Þeir gáfu fyrirmæli á persnesku og bjuggu til efni á persnesku og ensku. Aðilarnir földu staðsetningu sína með því að nota VPN-tengingar til að komast í ChatGPT.

Í aðgerðinni voru líkönin okkar notuð til að bæta langar greinar og kynningarbréf til ritstjóra, semja athugasemdir fyrir samfélagsmiðla og bæta innri skýrslur. Stjórnendurnir notuðu sjö ólík höfundarnöfn þegar þeir buðu greinar sínar til birtingar, svo við höfum kallað herferðina „Bogus Bylines“. Löngu greinarnar fjölluðu um átök Bandaríkjanna og Írans. Flestar athugasemdirnar fjölluðu einnig um átökin; minni hluti þeirra fjallaði um bandarísk stjórnmál, yfirleitt í víðara samhengi átakanna.

Sýnileg áhrif helstu verkþátta þeirra voru mjög mismikil. Við fundum tæplega 100 greinar sem höfðu verið birtar eða endurbirtar undir höfundarnöfnum aðgerðarinnar á um tug netmiðla víðs vegar um heiminn. Þetta voru litlir og meðalstórir miðlar sem fjölluðu aðallega um alþjóðamál, landapólitík og atburði í Mið-Austurlöndum. Aftur á móti virðist engin athugasemdanna á samfélagsmiðlum hafa vakið umtalsverð viðbrögð í formi læka, deilinga eða frekari svara. Í innri skýrslum stjórnendanna var raunar beitt villandi útreikningi til að mæla áhrif þeirra á samfélagsmiðlum, hugsanlega til að láta árangur þeirra virðast meiri en hann var.

Starfsemin í heild virtist samræmast því að viðskiptaaðili ræki áhrifaherferð gegn greiðslu, en við getum ekki borið kennsl á viðkomandi aðila. Við höfum deilt upplýsingum um málið með viðeigandi yfirvöldum.

Sá þáttur aðgerðarinnar sem náði mestri útbreiðslu fólst í að biðja ChatGPT um að yfirfara og bæta langar greinar á ensku um landapólitískar hliðar átaka Bandaríkjanna og Írans. Dæmigerð fyrirmæli báðu líkanið að meta ensk drög út frá birtingarskilyrðum tiltekins netmiðils og leggja til breytingar svo þau uppfylltu skilyrðin. Þegar stjórnendurnir höfðu samþykkt breytingarnar báðu þeir líkanið að semja tölvupóst sem þeir gætu notað til að bjóða ritstjóra viðkomandi netmiðils greinina til birtingar.

Þessi kynningarbréf voru samin undir sjö uppspunnum höfundarnöfnum: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams og Alice Johnson. Samkvæmt æviágripum sem birtust á netinu með sumum greinanna átti hver þessara persóna að vera vestrænn blaðamaður, yfirleitt bandarískur, þótt æviágrip Noah Lamington segði viðkomandi vera á Nýja-Sjálandi. Þau sögðust oft sérhæfa sig í alþjóðastjórnmálum, Mið-Austurlöndum, mannréttindum eða átökum. Fyrir eina persónuna, „Michael Harrison“, báðu stjórnendurnir líkanið að semja æviágripið sjálft. (Vert er að nefna að í mars stöðvaði⁠(opnast í nýjum glugga) Meta íranska áhrifaaðgerð þar sem einnig kom við sögu uppspunninn blaðamaður að nafni „Michael Harrison“.)

Sumar þessara persóna voru gerðar trúverðugri með reikningum á ýmsum samfélagsmiðlum. Til dæmis voru til reikningar fyrir Michael Harrison á Medium, X og Facebook. Persónan Ervin B. Hoskins var með reikninga á X, Facebook, Instagram og Threads. Í æviágripi hans sagðist hann vera „bandarískur sjálfstætt starfandi rithöfundur“, en gagnsæisupplýsingar samfélagsmiðlanna sýndu að reikningarnir væru í Íran.

Efst: æviágrip persónunnar Ervin Hoskins á Instagram. Neðst til vinstri: gagnsæisupplýsingar X-reiknings sem sýna notkun Android-appsins fyrir Vestur-Asíu. Neðst til hægri: gagnsæisupplýsingar Instagram-reiknings sem sýna staðsetningu í Íran. Meta lokaði Instagram-reikningnum í ágúst.

Með rannsóknaraðferðum sem byggjast á opnum heimildum fundum við tæplega 100 greinar sem höfðu birst undir einhverju höfundarnafna stjórnendanna á meira en tug ólíkra miðla. Þessir miðlar fjölluðu aðallega um alþjóðamál, landapólitík og atburði í Mið-Austurlöndum, stundum út frá stríðsandstöðu eða umbótasinnuðum sjónarmiðum. Elsta greinin sem við fundum birtist í júlí 2025 og sú nýjasta í október 2026. Greinum fjölgaði mjög eftir að átök Bandaríkjanna og Írans brutust út.

Tímalína greina eftir höfundi og þema, júlí 2025–september 2026. Takið eftir þéttri birtingu greina um samskipti Bandaríkjanna og Írans frá mars 2026.

Dæmi um fyrirsagnir greina sem birtust undir höfundarnöfnum tengdum þessari aðgerð á ýmsum netmiðlum frá febrúar til júlí 2026.

Að minnsta kosti sumar greinanna voru síðan kynntar á samfélagsmiðlareikningum viðkomandi miðla. Þannig gátu írönsku stjórnendurnir mögulega náð til lesenda sem þeir hefðu annars ekki náð til.

Samhliða greinunum báðu ógnaraðilarnir ChatGPT um að búa til fjölda athugasemda um landapólitísk eða stjórnmálaleg málefni á ensku eða persnesku. Yfirleitt slógu þeir inn texta eða hlóðu upp skjámynd af samfélagsmiðlafærslu og báðu líkanið um nokkur svör sem samræmdust megináherslum þeirra. Svörin voru síðan birt á netinu, oft með aðeins nokkurra mínútna millibili. Í innri skýrslum stjórnendanna var vísað bæði til handvirkrar og sjálfvirkrar birtingar; við höfum engin gögn sem benda til þess að þessi sjálfvirkni hafi verið útfærð með hjálp líkananna okkar.

Tíst á ensku til vinstri og persnesku til hægri, samin í þessari aðgerð og birt í júlí. Ensku athugasemdirnar svöruðu ensku tísti sem varaði við því að Bandaríkin væru að undirbúa „umfangsmikla árás“ á Íran. Allar athugasemdirnar á þessari mynd birtust á 10 mínútna tímabili. Persnesku athugasemdirnar svöruðu persnesku tísti um árásir Bandaríkjanna á Íran og birtust á 13 mínútna tímabili.

Hluti þessarar fjöldaframleiðslu athugasemda fólst í að semja svör við samfélagsmiðlafærslum um fréttagreinar aðgerðarinnar sjálfrar. Stjórnendurnir hlóðu þá upp skjámyndum af færslum sem kynntu greinar þeirra og bjuggu til athugasemdir sem lofuðu þær eða tóku undir efni þeirra, líklega til að láta greinarnar virðast vinsælli.

Facebook-færsla staðbundinnar bandarískrar fréttasíðu sem deilir grein saminni í aðgerðinni, ásamt athugasemdum við færsluna sem einnig voru samdar í aðgerðinni.

Flestir athugasemdahóparnir fjölluðu með almennari hætti um átök Írans, Bandaríkjanna og Ísraels. Notendurnir báðu um athugasemdir um efni á borð við eldflaugaárásir, vopnahlé og diplómatísk útspil. Þeir tilgreindu að textinn skyldi lýsa Bandaríkjunum sem árásaraðila, Ísrael sem óáreiðanlegum bandamanni Bandaríkjanna og Íran sem fórnarlambi sem sýndi mótþróa en stæði á sínu. Stjórnendurnir bjuggu til sérstaklega mörg svör við færslum gervihnattastöðvarinnar Iran International, sem er með aðsetur í Bretlandi og gagnrýnir írönsk stjórnvöld. Þeir sömdu yfir tvo tugi hópa af fjandsamlegum svörum á persnesku. Minni hluti athugasemdahópanna samanstóð af svörum við samfélagsmiðlafærslum um bandarísk stjórnmál, yfirleitt einnig í víðara samhengi átakanna.

Instagram-athugasemdir samdar í þessari aðgerð sem svör við færslum um bandarísk stjórnmál.

Við fundum fáein þessara svara birt á netinu. Mun fleiri komu ekki fram við leit okkar í opnum heimildum, hugsanlega vegna þess að þau voru annaðhvort ekki birt eða birt af reikningum sem þegar hafði verið lokað. (Til dæmis gáfu þrír uppspunnu blaðamannanna — Ericka Feusier, Alice Johnson og Jenny Williams — upp notandanöfn á X í birtum æviágripum sínum. Í ágúst 2026 hafði öllum þessum reikningum verið lokað.) Sumir reikninganna sem birtu athugasemdir á netinu báru vestræn nöfn en sýndu staðsetningu í Íran.

Gagnsæisupplýsingar Instagram-reikninganna sem birtu athugasemdirnar hér að ofan sýna að þeir voru staðsettir í Íran.

Þar sem við fundum þessi svör birt voru þau yfirleitt minnihluti allra athugasemda við viðkomandi færslu. Það bendir til þess að rödd stjórnendanna hafi ekki verið ráðandi meðal raunverulegra viðbragða. Þau virtust heldur ekki hafa vakið mikil viðbrögð. Mörg lækanna á svörum aðgerðarinnar komu raunar frá reikningum sem sjálfir tengdust henni. Við höfum deilt upplýsingum um málið með samstarfsaðilum í greininni, sem eru best í stakk búnir til að leggja heildstætt mat á viðbrögðin.

Tilraunirnar til að láta starfsemina virðast vinsælli takmörkuðust ekki við opinberar færslur. Samhliða efnisgerðinni báðu stjórnendurnir ChatGPT stundum að bæta það sem virtust vera innri skýrslur um samfélagsmiðlaherferð þeirra. Yfirleitt fólst það í að gefa líkaninu tölulegar upplýsingar og biðja það að setja þær fram í vandaðri kynningu.

Þetta er ekki fyrsta aðgerðin sem við höfum stöðvað þar sem gervigreind var notuð til að skrifa eigið⁠(opnast í nýjum glugga) árangursmat⁠(opnast í nýjum glugga). Það sem vakti mesta athygli við tilraunir írönsku stjórnendanna til að meta eigin frammistöðu var aðferðin sem þeir notuðu. Helsti mælikvarðinn á „áhrif“ var fjöldi áhorfa á færslurnar sem þeir svöruðu (ekki fjöldi áhorfa á svörin sjálf), mældur áður en svörin birtust og aftur ótilgreindum tíma síðar. Þessi útreikningur tók ekki tillit til áhorfa sem gætu stafað af öðrum þáttum, svo sem vinsældum upphaflegu færslnanna eða öðrum athugasemdum. Þannig voru tölur um áhrif aðgerðarinnar stórlega ýktar. Það bendir til þess að stjórnendurnir hafi annaðhvort ekki þekkt betri aðferð til að reikna þau eða kosið að nota hana ekki.

Gögn úr opnum heimildum benda raunar til þess að áhrif tveggja meginþátta aðgerðarinnar hafi líklega verið mjög mismikil.

Svörin á samfélagsmiðlum sem við gátum fundið fengu yfirleitt fá læk, áhorf og athugasemdir — fjöldinn mældist í eins eða tveggja stafa tölum. Eins og áður sagði voru svörin yfirleitt minnihluti allra athugasemda við viðkomandi færslu. Miðað við útbreiðslukvarðann⁠(opnast í nýjum glugga) fyrir áhrifaaðgerðir, sem metur þær á skalanum 1 (lægst) til 6 (hæst), myndum við setja þennan hluta aðgerðarinnar í flokk 2. Athugasemdir birtust á mörgum miðlum en fátt benti til þess að þær næðu víðari útbreiðslu eða yrðu ráðandi meðal svara.

Uppspunnu blaðamönnunum tókst hins vegar að fá greinar sínar birtar á ýmsum miðlum, sumum með töluverðan fylgjendahóp. Til dæmis var einn netmiðillinn sem birti greinar aðgerðarinnar með tæplega 2 milljónir fylgjenda á Facebook, tæplega 355.000 á X og yfir 544.000 á Instagram í ágúst 2026. Við myndum setja þennan hluta aðgerðarinnar í flokk 4, þar sem efnið náði ítrekað útbreiðslu í nokkrum fjölmiðlum.