Aðgerðin „Fiskifóður“: Rússnesk efnisverksmiðja

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2026⁠(opnast í nýjum glugga) um aðgerðir gegn skaðlegri notkun gervigreindar.

Við lokuðum nokkrum ChatGPT‑reikningum sem tengdust „Rybar“-netinu („Рыбарь“, rússneska orðið fyrir „fiskimann“) á Telegram og X. Að minnsta kosti sumir reikninganna áttu líklega uppruna sinn í Rússlandi. Netið bjó til efni sem var birt víða á internetinu, stundum af reikningum merktum „Rybar“ en stundum af samfélagsmiðlareikningum sem tilgreindu engin tengsl við „Rybar“. Einn notandi bað ChatGPT einnig um aðstoð við að semja viðskiptaáætlanir fyrir hönd „Rybar“ vegna leynilegra íhlutunarherferða í Afríku. Með hliðsjón af því hvernig gerendurnir notuðu ChatGPT til að miðla efni til „Rybar“-netsins og víðar höfum við nefnt aðgerðina „Fiskifóður“.

Meginstarfsemin sem við greindum hjá netinu var gerð efnis til birtingar á samfélagsmiðlum. Notendur skrifuðu kvaðningar yfirleitt á rússnesku en bjuggu til efni á ýmsum tungumálum, einkum rússnesku, ensku og spænsku. Hluti efnisins var síðan birtur á netinu af samfélagsmiðlareikningum merktum „Rybar“ og á aðalvef „Rybar“. Einn notandi bjó einnig til Sora-myndskeið til kynningar á vörumerkinu „Rybar“.

Auk efnisins sem birt var á netinu af reikningum merktum „Rybar“ bjó aðalnotandinn í þessu tilviki einnig til margar enskar athugasemdir í senn. Með rannsóknaraðferðum sem byggja á opnum heimildum fundum við margar þessara tilbúnu athugasemda orðrétt í færslum á Telegram-rás Rybar. Efst til hægri er ensk tístfærslu merkt Rybar. á netinu af ýmsum X- og Telegram-reikningum, en enginn þeirra Neðst til hægri er spænskur texti og upplýsingamynd merkt Rybar á spænskum vef sem tilgreindi tengsl við Rybar. Í meginatriðum var ChatGPT‑tungumálavefurinn andaluciamorisca[.]org. Starfsemin virtist vera efnisverksmiðja fyrir þessa reikninga. Við getum ekki staðfest með óháðum hætti hvernig gervigreindarefnið var að lokum birt á netinu af þessum reikningum, sem virðast stundum einnig hafa birt efni sem líkön okkar bjuggu ekki til.

Athygli vekur að í að minnsta kosti eitt skipti, sem sýnt er hér fyrir neðan, bjó ógnargerandinn til sjö tístfærslur í einu með einni kvaðningu. Við fundum sex þeirra í tístfærslum frá ólíkum X-reikningum. Samkvæmt tölfræði X var mest séða tístfærslan skoðuð oftar en 150.000 sinnum en sú sem fæstir sáu aðeins 57 sinnum. Reikningurinn sem birti tístfærsluna með flest áhorf hafði yfir 600.000 fylgjendur 26. janúar 2026. Reikningurinn sem birti færsluna með fæst áhorf hafði sama dag 827 fylgjendur. Þar sem allar tístfærslurnar voru búnar til í einu með sömu kvaðningu bendir þetta til þess að fjöldi fylgjenda hvers reiknings hafi ráðið meiru um áhorfið en sú staðreynd að efnið var búið til með gervigreind.

Samhliða efnisgerðinni bað aðalreikningur aðgerðarinnar ChatGPT einnig um að þýða á ensku lista yfir þjónustu sem „Rybar“ gæti boðið ónafngreindum viðskiptavinum. Þar á meðal var rekstur X- og Telegram-reikninga, tvítyngdur vefur um „rannsóknarblaðamennsku“ með áherslu á Afríku, greiddar birtingar í frönskumælandi fjölmiðlum og net reikninga sem mögnuðu upp boðskapinn. Í annarri kvaðningu var líkanið beðið um að ritstýra tillögu um starfandi teymi til afskipta af kosningum, að því er virtist í Afríku. Tillagan náði bæði til starfsemi á vettvangi og á netinu, svo sem að byggja upp net staðbundinna erindreka og skipuleggja umfangsmikla viðburði. Þriðja kvaðningin fjallaði um upplýsingaherferð sem beindist að Lýðstjórnarlýðveldinu Kongó. Í fleiri kvaðningum var spurt um framkvæmd kosninga í Búrúndí og Kamerún og dregnir upp möguleikar á herferð á Madagaskar, þar á meðal að kynda undir mótmælum á vettvangi. Um verulegar fjárhæðir var að ræða: áætluð ársfjárhagsáætlun fyrir metnaðarfyllsta verkefnið var allt að 600.000 Bandaríkjadalir.

Sami notandi bjó öðru hverju til kynningarefni fyrir fréttamiðilinn „REST Media“, sem rannsakendur opinna heimilda hafa tengt⁠(opnast í nýjum glugga) við Rybar. Hluti kynningarefnisins var birtur á netinu af sömu Telegram-rásum og lýst var hér að framan. Í ágúst setti aðalnotandi ChatGPT í þessu tilviki til dæmis inn grein frá REST Media þar sem Þýskaland var sakað um að byggja upp áhrifanet í Moldóvu og bað líkan okkar að búa til athugasemdir um hana. Þrjár athugasemdanna voru síðan birtar á Telegram af þremur ólíkum rásum og hver þeirra tengdi á grein REST.

Efnið sem aðgerðin bjó til var dæmigert fyrir leynilegar rússneskar áhrifaaðgerðir undanfarinna ára. Það lofaði yfirleitt Rússland og bandamenn þess, svo sem Belarús, gagnrýndi Úkraínu og sakaði vestræn ríki um afskipti af málefnum annarra ríkja.

Rybar-netið nýtur mikils fylgis á samfélagsmiðlum. Aðalrás þess á rússnesku á Telegram ein og sér er með um 1,4 milljónir áskrifenda. Margir X- og Telegram-reikninganna sem birtu efni aðgerðarinnar voru einnig með tugi þúsunda fylgjenda. Við sáum þó ekki að meginstraumsfréttamiðlar mögnuðu upp efnið og gátum heldur ekki greint starfsemi á vettvangi í Afríku sem samsvaraði lýsingunum í sölukynningunum.

Samkvæmt Breakout-kvarðanum⁠(opnast í nýjum glugga), sem metur áhrif upplýsingaaðgerða frá 1 (lægst) upp í 6 (hæst), myndum við meta þessa aðgerð efst í flokki 3 (mörg samfélög á mörgum miðlum), í ljósi mikillar útbreiðslu hennar á samfélagsmiðlum.