Narúšanie operácií s falošným krytím podporovaných AI

Za posledného dva a pol roka sme informovali o mnohých z tých spôsobov, ktorými sa škodliví aktéri pokúšali využívať naše modely na kybernetické útoky, skryté vplyvové operácie (IO), podvody a ďalšie porušenia našich zásad používania. Tieto správy zverejňujeme, aby sme regulačné orgány, kolegov z odvetvia a širšiu verejnosť informovali o tom, aké pokusy škodlivých aktérov o využívanie AI pozorujeme, a aby sme poukázali na slabé miesta, ktoré sa snažia zneužiť.

Nedávno sme zablokovali dve vplyvové operácie – jednu z Ruska a jednu z Iránu –, ktoré používali naše modely v kombinácii s tradičnejšími metódami a technológiami na podporu prepracovaných subjektov slúžiacich ako „falošné krytie“. Prostredníctvom týchto subjektov dostávali ku svojim cieľovým skupinám geopolitické posolstvá súvisiace s konfliktmi a zastierali ich skutočný pôvod. Iránska operácia zahŕňala skupinu siedmich fiktívnych „novinárskych“ identít, cez ktoré ponúkala rozsiahle články malým a stredne veľkým online médiám po celom svete. Ruská operácia zrejme získala nič netušiacich ľudí v Latinskej Amerike na prevádzkovanie miestneho „think tanku“.

Obe operácie pôsobili vo viacerých oblastiach a na dosiahnutie svojich cieľov skúšali rôzne taktiky. Okrem rozsiahlych článkov iránska operácia generovala série komentárov na sociálne siete, spravidla k témam súvisiacim s vojnou medzi USA a Iránom. Ruská operácia okrem riadenia „think tanku“ vytvárala falošné „uniknuté“ dokumenty a scenáre zvukových nahrávok, pričom niektoré z nich sme zachytili pri šírení online. Obe operácie vo veľkej miere využívali AI aj na prípravu interných správ (pri ruskej operácii to bol vôbec najčastejší spôsob využitia). V oboch prípadoch aktéri používali pochybné alebo priamo klamlivé metodiky na zveličenie účinnosti práce operátorov.

Na týchto operáciách je najvýraznejšie to, ako veľmi sa podobali na zložité vplyvové operácie z obdobia pred AI, pričom AI využívali na uľahčenie niektorých pracovných postupov. Fiktívne novinárske identity iránskej operácie pripomínali falošnú novinárku „Alice⁠(otvorí sa v novom okne) Donovan⁠(otvorí sa v novom okne)“, ktorá slúžila ako krytie ruskej vojenskej rozviedke a ktorej články v rokoch 2016 – 2017 publikovali rôzne západné médiá. V roku 2020 osoby spojené s predchádzajúcou činnosťou ruskej Agentúry pre výskum internetu prevádzkovali falošné „spravodajské“ médium s názvom „PeaceData⁠(otvorí sa v novom okne)“, pre ktoré získali nič netušiacich novinárov z celého sveta.

Tieto operácie boli nezvyčajné aj svojím potenciálnym dosahom. Na základe škály prieniku vplyvových operácií⁠(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižšia úroveň) do 6 (najvyššia), by sme operáciu ruského pôvodu zaradili do kategórie 5. Ide o prvú operáciu kategórie 5, ktorú sme narušili od začiatku zverejňovania našich správ. Operácia iránskeho pôvodu dosiahla kategóriu 4. Obe dokázali dostať svoj obsah (nie všetok bol vygenerovaný našimi modelmi) do mainstreamových médií namiesto toho, aby ho iba zverejňovali na sociálnych sieťach. To zodpovedá vzorcu, ktorý sme pozorovali pri 30 skrytých vplyvových operáciách odhalených za posledného dva a pol roka: operácie, ktoré sa snažia dostať svoj obsah do skutočných médií namiesto spoliehania sa na šírenie cez falošné účty na sociálnych sieťach, majú spravidla najväčší potenciálny dosah a vplyv.

Matica 30 vplyvových operácií, ktoré sme odhalili od začiatku roka 2024, hodnotených podľa hlavnej metódy šírenia (sociálne siete, web prevádzkovaný operáciou, externé médiá) a skóre na škále prieniku. Operácie, ktoré používali viacero metód šírenia, napríklad prevádzkovali web a propagovali ho na sociálnych sieťach, sú zaradené podľa metódy, ktorá zrejme tvorila jadro operácie.

AI môže takýmto operáciám s falošným krytím priniesť väčší rozsah, efektívnosť, jazykovú plynulosť a redakčné schopnosti. Operátori môžu tieto výhody využiť na zneužívanie nič netušiacich obetí, napríklad zamestnancov alebo redaktorov, a dostať svoj obsah pred publikum, ktoré vôbec netuší, kto za ním stojí ani aké má motívy. Tieto operácie tiež ukazujú, akými zložitými a prepracovanými spôsobmi škodliví aktéri využívajú falošné identity a subjekty na dosiahnutie svojich cieľov. Na udržanie silnej obrany v organizáciách bude zásadné pochopiť slabé miesta, ktoré škodliví aktéri pri týchto aktivitách zneužívajú, aj to, ako im tieto slabiny umožňujú získavať publikum a dosah.

Skrytá povaha týchto operácií s falošným krytím však zároveň znamená, že ich zodpovedné zverejnenie môže obzvlášť účinne oslabiť. „Alice Donovan“ aj „PeaceData“ po odhalení ukončili svoju činnosť. Preto je naším cieľom pri zverejňovaní správ o týchto operáciách s falošným krytím uľahčiť ďalší výskum a ich narúšanie – a sťažiť pokračovanie operácií.

Aktéri ruského pôvodu vedúci vplyvové kampane naprieč Latinskou Amerikou.

Zablokovali sme skupinu účtov ChatGPT pochádzajúcich z Ruska. ChatGPT využívali na rôzne úlohy spojené so skrytými vplyvovými operáciami zameranými na krajiny naprieč Latinskou Amerikou. Veľká časť tejto činnosti zrejme smerovala k poškodeniu povesti Ukrajiny v regióne, no časť sa podľa všetkého snažila ovplyvniť miestny politický vývoj, najmä v Argentíne a Bolívii. Väčšina operátorov zadávala pokyny v ruštine; jeden ich zadával v španielčine, no aj ten sa zrejme nachádzal v Rusku. Informácie o tomto prípade sme poskytli príslušným orgánom.

Operátori používali ChatGPT na tri hlavné úlohy: písanie interných správ o svojich aktivitách (aj o aktivitách iných, za ktoré si mohli vierohodne pripísať zásluhy), tvorbu obsahu pre svoje operácie a prípravu správ o výsledkoch subjektu v Latinskej Amerike, ktorý sa označoval za „výskumnú platformu“ s názvom Centrum sociálneho výskumu (SRC). Zdá sa, že SRC riadili prostredníctvom fiktívnej identity s menom „Mia Clark“; podľa tohto mena sme operáciu nazvali „Temná Clark“. Keďže prístup k našim modelom z Ruska nepovoľujeme, na pripájanie k našim službám používali VPN.

V interných správach operátori tvrdili, že po celej Latinskej Amerike šírili falošné príbehy s cieľom poškodiť Ukrajinu alebo miestnych lídrov. Niektoré z týchto podvrhov na základe verejných zdrojov⁠(otvorí sa v novom okne) výskumníci⁠(otvorí sa v novom okne) pripísali ruskému subjektu známemu ako „Politology“ alebo „La Compania“, ktorý je údajne nástupcom Wagnerovej skupiny a ďalších subjektov založených ruským oligarchom Jevgenijom Prigožinom. Operátori tiež žiadali naše modely o preklad alebo vysvetlenie verejných správ o Politology a Wagnerovej skupine, a to oveľa častejšie než o akýchkoľvek iných sieťach ruského pôvodu.

Táto operácia bola nezvyčajná v dvoch ohľadoch. Po prvé, zrejme sa jej podarilo získať ľudí v Latinskej Amerike na prácu pre SRC. Správy ruských operátorov o SRC spomínali rozhodnutia o platových stupniciach, prijímaní a prepúšťaní zamestnancov, čo naznačuje, že subjekt riadili, a nielen s ním spolupracovali. Dostupné dôkazy naznačujú, že zamestnanci SRC v Latinskej Amerike nevedeli, že pracujú pre ruskú skupinu. Na rozdiel od iného „think tanku“ napojeného na Rusko, ktorý sme nedávno odhalili, SRC zrejme prostredníctvom takto získaných pracovníkov tvorilo prevažne pôvodný obsah. Ide o najzložitejší pokus o fungovanie pod krycou identitou, ktorý sme za posledného dva a pol roka narušili.

Po druhé, niektoré dôkazy z verejne dostupných zdrojov naznačujú, že podvrhy operácie Temná Clark sa rozšírili natoľko, že vyvolali overovania faktov⁠(otvorí sa v novom okne) a oficiálne popretia⁠(otvorí sa v novom okne). To svedčí o miere prieniku, ktorá presahuje všetky vplyvové operácie, ktoré sme narušili za posledné dva roky. Jeden podvrh, o ktorom operácia tvrdila, že ho rozšírila v Peru, dokonca prispel k verejnému napätiu medzi Ukrajinou a Poľskom.

Operátori používali ChatGPT najmä na prípravu a aktualizáciu interných správ pre neznámeho nadriadeného. Tieto pravidelné správy opisovali snahy viesť skryté vplyvové kampane naprieč Latinskou Amerikou. Zahŕňali tri hlavné oblasti činnosti: snahy očierňovať Ukrajinu a podkopávať nábor do ukrajinských ozbrojených síl; snahy zasahovať do vnútornej politiky niektorých krajín, najmä Bolívie a Argentíny; a riadenie SRC. Vo väčšine prípadov sme nezaznamenali, že by škodliví aktéri používali naše modely na tvorbu obsahu kampaní, ale iba na podávanie správ o nich (niekoľko výnimiek opisujeme nižšie⁠).

Správy obsahovali množstvo taktických podrobností a objasňovali, ako sa operácia snažila poškodiť Ukrajinu a niektorých štátnych lídrov, najmä prezidentov Argentíny, Bolívie a Ekvádoru. Niektoré opisovali snahy podvodom naviesť miestnych obyvateľov na aktivity, ktoré by operátori mohli zneužiť; iné opisovali falošné „úniky“, ktoré operátori údajne šírili.

V dvoch prípadoch dôkazy prepájajú operátorov s verejnými správami o „Politology“. Operátori uvádzali, že v roku 2024 viedli dve kampane zamerané na argentínskeho prezidenta Javiera Mileia. Po prvé, tvrdili, že šírili nepravdivú správu o tom, že Milei kúpil svojim psom obojky značky Cartier zdobené drahokamami. Po druhé, tvrdili, že zaplatili miestnym aktérom za vytváranie grafitov namierených proti Mileiovi v Buenos Aires. Na základe uniknutých dokumentov boli obe tieto aktivity verejne⁠(otvorí sa v novom okne) pripísané⁠(otvorí sa v novom okne) subjektom „Politology“ a „La Compania“.

Mnohé ďalšie podvrhy predtým neboli spájané s ruskými vplyvovými operáciami. Operátori napríklad tvrdili, že v máji 2026 vytvorili falošnú e-mailovú adresu, ktorá sa vydávala za adresu Regionálneho riaditeľstva školstva v peruánskej Lime. Z tejto adresy dali školám v danom obvode pokyn, aby na celoštátny Deň kultúrnej a jazykovej rozmanitosti (21. mája) usporiadali podujatia venované Ukrajine. E-maily obsahovali výslovné pokyny spomenúť okrem iných aj kontroverzného ukrajinského nacionalistu 20. storočia Stepana Banderu, ktorého niektorí Ukrajinci vnímajú ako symbol nezávislosti, no v Rusku a Poľsku je spájaný s fašizmom, vojnovou kolaboráciou a zverstvami. Podľa operátorov niektoré školy odpovedali na falošnú e-mailovú adresu, potvrdili, že takéto podujatia usporiadali, a dokonca poslali fotografie.

Operátori potom tvrdili, že do médií v Peru aj Poľsku dostali správy o týchto podujatiach spolu s obvineniami, že Ukrajina „vyváža“ ultranacionalistické ideológie, čo vyvolalo pobúrenie. Vyhľadávanie vo verejne dostupných zdrojoch odhalilo správy zodpovedajúce tomuto tvrdeniu v peruánskej⁠(otvorí sa v novom okne) a⁠(otvorí sa v novom okne) poľskej⁠(otvorí sa v novom okne) tlači⁠(otvorí sa v novom okne) a v anglickojazyčnom médiu v Maďarsku⁠(otvorí sa v novom okne) (niektoré články boli medzičasom vymazané). Niektoré⁠(otvorí sa v novom okne) články⁠(otvorí sa v novom okne) obsahovali reakciu poľského poslanca Európskeho parlamentu, ktorý navrhol, aby ľudia prejavujúci „protipoľské postoje“ boli v Poľsku vyhlásení za nežiaduce osoby. Ruský podvrh tak využíval historické napätie medzi Ukrajincami a Poliakmi a zároveň ho živil.

Podobne v júni operátori tvrdili, že pomocou inej falošnej e-mailovej adresy oklamali školy v Ekvádore a prinútili ich usporiadať slávnostné skladanie prísahy vernosti prezidentovi Danielovi Noboovi a Erikovi Princeovi, bývalému šéfovi súkromnej vojenskej spoločnosti Blackwater. Operátori tvrdili, že incident vyvolal v Ekvádore pobúrenie a dostal vládu pod tlak, aby podvrh vyvrátila, čím sa dostal do pozornosti publika v celej krajine. Aj v tomto prípade výskum verejne dostupných zdrojov odhalil mediálne⁠(otvorí sa v novom okne) správy⁠(otvorí sa v novom okne) v ekvádorskej⁠(otvorí sa v novom okne) tlači⁠(otvorí sa v novom okne), ktoré sa tomuto tvrdeniu veľmi podobali, a dokonca aj podrobné vyvrátenie⁠(otvorí sa v novom okne) od ekvádorskej ministerky školstva.

Operátori používali rôzne techniky na podporu svojich nepravdivých príbehov. Podľa svojich interných správ šírili v marci dva rôzne podvrhy zamerané na Ekvádor. Jeden využíval falošnú zvukovú nahrávku pripisovanú ukrajinskému konzulovi v Ekvádore, na ktorej mal údajne hanlivo hovoriť o Ekvádorčanoch. Naše vyšetrovanie verejne dostupných zdrojov odhalilo príspevok na TikToku, ktorý presne zodpovedal tomuto tvrdeniu; zrejme však vyvolal len málo interakcií. Druhý opisoval falošné video šírené na X a TikToku pod logom skutočnej spravodajskej stanice, podľa ktorého Noboova vláda verbovala mladých mužov do bojov na Ukrajine. Overovatelia faktov⁠(otvorí sa v novom okne) v Ekvádore začiatkom apríla opísali kampaň, ktorá tomuto opisu zodpovedala.

Video zverejnené na TikToku 8. apríla 2026 s falošnou zvukovou nahrávkou pripisovanou ukrajinskému konzulovi, ku ktorej sa táto operácia hlásila.

Ďalšia interná správa opisovala podvrh, ktorý šírili v Bolívii koncom mája, v čase vrcholiacich protivládnych protestov. Operátori výslovne uviedli, že cieľom tejto kampane bolo prehĺbiť krízu okolo protestov. Súčasťou kampane bola falošná zvuková nahrávka pracovníka štátnej vodárenskej spoločnosti EPSAS, ktorý hovoril, že vláda sa chystá zastaviť dodávky vody do administratívneho hlavného mesta La Paz a vyhlásiť výnimočný stav. Náš výskum verejne dostupných zdrojov odhalil vyvrátenie⁠(otvorí sa v novom okne) zodpovedajúceho tvrdenia aj oficiálne popretie⁠(otvorí sa v novom okne) zo strany EPSAS.

Ďalšie interné správy opisovali podvrhy, ktorých existenciu sme z verejne dostupných zdrojov nedokázali potvrdiť, možno preto, že už boli odstránené alebo sa nešírili. Operátori napríklad tvrdili, že v januári šírili príbeh o brazílskej influencerke a modelke, ktorú zástupcovia ukrajinského veľvyslanectva údajne v rámci obchodovania s ľuďmi previezli na Ukrajinu a ktorú následne zabili v Kyjeve. V júni tvrdili, že v Bolívii šírili ďalšiu falošnú zvukovú nahrávku, tentoraz údajne od zamestnanca bolívijskej centrálnej banky, ktorý varoval, že banka sa chystá obmedziť výbery hotovosti. Tvrdili tiež, že šírili sfalšovaný list od bolívijského úradu pre uhľovodíky, ktorý varoval pred obmedzeniami predaja palív pre súkromné autá.

Pri tvorbe iných správ operátori žiadali naše modely o pomoc s vyhľadaním incidentov v cieľových krajinách, za ktoré by si mohli pripísať zásluhy, aj keď sa na nich nepodieľali. Napríklad v Argentíne operátori tvrdili, že argentínsky minister zahraničných vecí citoval ich operáciu na zasadnutí výboru OSN o Falklandských ostrovoch/Malvínach. Operátori si pripisovali zásluhy za rozšírenie argumentov, že zásada sebaurčenia sa na ostrovy nevzťahuje a že Spojené kráľovstvo tam udržiava neprimerane veľkú vojenskú prítomnosť. Oba argumenty sú pritom súčasťou oficiálneho postoja Argentíny už mnoho⁠(otvorí sa v novom okne) rokov⁠(otvorí sa v novom okne). Podobne v júni brazílske médiá informovali⁠(otvorí sa v novom okne) o prípade brazílskeho občana, ktorý odcestoval na Ukrajinu vstúpiť do armády, padol do zajatia ruských síl a potom v televíznom vyhlásení tvrdil, že ho do bojov zatiahli podvodom. Operátori používajúci ChatGPT sa snažili tvrdiť, že táto správa preberala posolstvá ich operácie; v skutočnosti citovala video samotného zajatca⁠(otvorí sa v novom okne). To naznačuje, že operátori sa pokúšali viesť vplyvovú operáciu zameranú na vlastných zamestnávateľov, nie na externé publikum.

Niektoré správy operátorov sa odvolávali na subjekt, ktorý sa označoval za „výskumnú platformu“ s názvom Centrum sociálneho výskumu (po rusky Центр социологических исследований). Podľa webovej stránky SRC sa centrum zameriava na indickú diaspóru v Latinskej Amerike a vzťahy medzi Indiou a krajinami tohto regiónu.

Interné správy naznačovali, že operátori tento think tank riadili, a nielen s ním spolupracovali. Spomínali napríklad rozhodnutia o prijímaní a prepúšťaní zamestnancov, platové stupnice, personálne plány a prebiehajúce výskumné projekty. Kľúčové bolo aj uvedenie toho, že operátori vytvorili fiktívnu identitu s menom „Mia Clark“, ktorá mala riadiť aktivity operácie na sociálnych sieťach a komunikovať s miestnymi pracovníkmi v Latinskej Amerike. Dostupné dôkazy naznačujú, že títo miestni zamestnanci netušili, že pracujú pre ruskú operáciu, a výskumné úlohy vykonávali v dobrej viere. Takéto využívanie nič netušiacich sprostredkovateľov výrazne pripomína skoršiu ruskú operáciu „PeaceData“, tiež spájanú s Prigožinovým okruhom, ktorú spoločnosť Meta odhalila⁠(otvorí sa v novom okne) v roku 2020.

Súdiac podľa správ ruských operátorov ich miestni pracovníci v Latinskej Amerike robili rozhovory s odborníkmi a komentátormi z celého regiónu a na základe zistení potom písali výskumné práce. Témy siahali od širokej analýzy verejnej mienky o skupine BRICS až po podrobné porovnanie brazílskej ekonomiky za prezidentov Jaira Bolsonara a Luiza Inácia Lulu da Silvu. Ruskí operátori niekedy pripravovali správy o stave výskumných projektov ešte pred zverejnením ich výsledkov, čo svedčí o úzkom zapojení do procesu ich tvorby. Na webovej stránke SRC sme našli výrazne viac než 60 článkov, pričom prevažná väčšina z nich zrejme predstavovala pôvodné texty. Tým sa operácia Temná Clark odlišuje od operácie ruského pôvodu, ktorú sme nedávno odhalili a ktorá tiež využívala think tank ako krytie, no väčšinu obsahu plagiovala. Naznačuje to zámer vybudovať trvácnejšiu kryciu organizáciu s kontaktmi po celej Latinskej Amerike.

Ruskí operátori tvrdili, že na propagáciu práce SRC sa pokúsili vytvoriť sieť účtov a stránok na sociálnych sieťach. Podľa ich správ tieto aktivity na sociálnych sieťach narazili na problémy, keď sa operátori z rôznych častí sveta pokúšali pristupovať k rovnakým účtom, čo viedlo k obmedzeniam účtov. Stopy po tom vidno aj vo verejne dostupných zdrojoch: napríklad údaje o transparentnosti hlavného účtu SRC na X uvádzali polohu v Nemecku (možno v dôsledku používania VPN), ale pripojenie cez App Store Ruskej federácie, zatiaľ čo údaje o transparentnosti jedného z jeho účtov na Instagrame uvádzali polohu správcu vo Venezuele. Ani jeden z troch účtov na Facebooku so značkou SRC, ktoré sme identifikovali, nemal dostatok sledovateľov na to, aby sa pri ňom zobrazovali údaje o polohe správcu.

Vľavo účet na X prepojený s Centrom sociálneho výskumu. Všimnite si údaj o transparentnosti, podľa ktorého sa účet pripájal cez App Store Ruskej federácie. Vpravo účet SRC na Instagrame: všimnite si polohu vo Venezuele.

Operátori hlásili osobitné problémy na LinkedIne, kde podľa vlastných slov vytvorili vyslovene falošný účet zastupujúci SRC, no potom mali ťažkosti vybudovať preň sieť kontaktov. Podľa ich správ bolo riešením vytvoriť ďalšie falošné účty, ktoré by sledovali ten prvý a dodávali mu dôveryhodnejší vzhľad. K 17. augustu mal účet na LinkedIne s rovnakou značkou Centra sociálneho výskumu 961 sledovateľov a deklaroval 200 až 500 pracovníkov, no uvádzal iba dvoch zamestnancov.

Okrem využívania AI na aktualizáciu správ operátori občas žiadali náš model aj o pomoc s návrhom a tvorbou textov, ktoré by mohli použiť vo svojich operáciách: napríklad o pomoc so zabezpečením správneho prízvuku, slovnej zásoby a inštitucionálneho štýlu ich podvrhov pre rôzne krajiny. To tvorilo relatívne malú časť celkovej práce, možno preto, že do operácie bol zrejme zapojený aspoň jeden rodený hovoriaci španielčiny z Latinskej Ameriky, a preto menej potrebovala jazykovú podporu AI.

Pri jednej príležitosti napríklad jeden z rusky hovoriacich operátorov požiadal model o pomoc s napísaním listu v ruštine, ktorý by spájal honorárneho konzula Ukrajiny v Paname s korupciou. Španielsky hovoriaci operátor potom požiadal model o preklad listu do španielčiny a o vygenerovanie scenára sprievodnej zvukovej nahrávky. Fotografiu zodpovedajúcu textu listu, sprevádzanú hovoreným komentárom zodpovedajúcim scenáru operátora, zverejnil na TikToku účet, ktorý sa vydával za spravodajské médium, no používal logo panamskej stanice TVN Noticias⁠(otvorí sa v novom okne). Kanál na TikToku mal iba jedného sledovateľa a po zverejnení tohto podvrhu prestal pridávať príspevky.

Príspevok na TikToku zobrazujúci list, ktorého text vznikol v rámci tejto operácie, s hovoreným komentárom podľa scenára vytvoreného tou istou operáciou.

Pri inej príležitosti španielsky hovoriaci operátor v Rusku poskytol modelu scenár v ruštine, ktorý tvrdil, že Noboa urazil chudobných ľudí v Ekvádore, a požiadal o jeho preklad do ekvádorskej španielčiny. Pri tretej príležitosti, v marci, ten istý používateľ požiadal model o jazykovú korektúru návrhu zmluvy v španielčine medzi spoločnosťou „International Security Solutions FZE“ a osobou v Ekvádore, ktorá sa údajne týkala poskytovania infraštruktúrnych služieb na Ukrajine. Používateľove otázky sa zameriavali na zlepšenie jazyka a rozloženia textu vrátane toho, ktoré slová majú byť zvýraznené tučným písmom.

Používateľove zadania týkajúce sa zmluvy sa skončili po dokončení jej znenia. Výskum verejne dostupných zdrojov však ukazuje, že obrázok „zmluvy“ sa následne šíril na sociálnych sieťach⁠(otvorí sa v novom okne). Slúžil na podporu tvrdenia, že Noboova vláda spolupracovala s krycou spoločnosťou, aby podvodom zlákala Ekvádorčanov do ukrajinskej armády. Podvrh sa rozšíril natoľko, že začiatkom apríla vyvolal overenie faktov⁠(otvorí sa v novom okne): overovatelia dospeli k záveru, že spoločnosť „sa nenachádza v registri ekvádorského úradu pre dohľad nad spoločnosťami, cennými papiermi a poisťovníctvom“.

Vplyv tejto operácie si vyžaduje obzvlášť dôkladné posúdenie. Ako sme uviedli vyššie, jedným z hlavných postupov operátorov bolo pripisovať si zásluhy za činnosť, ktorá s ich operáciou vôbec nesúvisela. Ich vlastné tvrdenia o vplyve v interných správach preto nemožno prijímať bez overenia. Podobne sa pri výskume verejne dostupných zdrojov neobjavili niektoré falošné príbehy, ktoré údajne rozšírili, možno preto, že sa šírili v neverejných kanáloch, už boli odstránené alebo v skutočnosti nikdy neboli zverejnené.

Dôkazy z verejne dostupných zdrojov nám však umožnili potvrdiť niektoré ich tvrdenia. O niektorých podvrhoch, ktoré operácia údajne šírila, následne informovali overovatelia faktov a vyvracali ich vlády, čo naznačuje, že sa rozšírili natoľko, aby si vyžiadali reakciu. V iných prípadoch sme dokázali nájsť online obsah, ktorý sa veľmi podobá obsahu vygenerovanému touto operáciou. Najvýraznejším prípadom bolo tvrdenie operácie, že podvodom naviedla peruánsku školu na usporiadanie podujatia, na ktorom bol zobrazený Bandera. O udalosti následne informovali médiá v Latinskej Amerike aj Európe a zrejme viedla k vyjadreniu aspoň jedného poľského europoslanca.

Na základe škály prieniku vplyvových operácií⁠(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižšia úroveň) do 6 (najvyššia), by sme túto operáciu zaradili do kategórie 5, keďže dôkazy naznačujú, že viedla k verejným vyjadreniam politikov vo viacerých krajinách. Ide o prvú operáciu kategórie 5, ktorú sme narušili od začiatku zverejňovania našich správ.

Operácia iránskeho pôvodu, ktorá umiestňovala rozsiahle články pod falošnými autorskými menami do online spravodajských médií.

Zablokovali sme skupinu účtov ChatGPT pochádzajúcich z Iránu. Zadávali pokyny v perzštine a generovali obsah v perzštine a angličtine. Aktéri skrývali svoju polohu tým, že na prístup k ChatGPT používali VPN.

Operácia používala naše modely na úpravu rozsiahlych článkov a ponúk pre redakcie, generovanie komentárov na sociálne siete a zdokonaľovanie interných správ. Operátori ponúkali svoje články pod siedmimi rôznymi autorskými menami, preto sme ich kampaň nazvali „Falošné autorské mená“. Rozsiahle články sa zameriavali na konflikt medzi USA a Iránom. Väčšina komentárov sa takisto venovala konfliktu; menšia časť sa zaoberala politikou USA, zvyčajne v širšom kontexte konfliktu.

Pozorovaný vplyv ich hlavných oblastí činnosti sa výrazne líšil. Identifikovali sme takmer 100 článkov publikovaných alebo prevzatých pod autorskými menami tejto operácie v približne tucte online médií po celom svete. Išlo o malé až stredne veľké médiá, ktoré sa vo všeobecnosti zameriavali na medzinárodné dianie, geopolitiku a udalosti na Blízkom východe. Naopak, zdá sa, že žiadny z komentárov na sociálnych sieťach nevyvolal výraznejšiu odozvu v podobe označení Páči sa mi to, zdieľaní či ďalších odpovedí. Interné správy operátorov v skutočnosti používali na meranie vplyvu na sociálnych sieťach zavádzajúci výpočet, možno v snahe nadhodnotiť zdanlivú účinnosť ich činnosti.

Celková aktivita zodpovedala konaniu komerčného subjektu, ktorý vedie vplyvovú kampaň na objednávku, no konkrétneho aktéra nedokážeme identifikovať. Informácie o tomto prípade sme poskytli príslušným orgánom.

Činnosťou s najväčším dosahom v rámci tejto operácie bolo zadávanie požiadaviek ChatGPT na kontrolu a úpravu rozsiahlych článkov v angličtine o geopolitike konfliktu medzi USA a Iránom. Typické zadania žiadali model, aby posúdil anglický návrh článku podľa kritérií na prijímanie príspevkov konkrétneho online média a navrhol úpravy, ktoré zabezpečia ich splnenie. Keď operátori úpravy schválili, požiadali model o vygenerovanie e-mailu, ktorým by mohli článok ponúknuť redaktorovi daného online média.

Tieto ponukové správy vznikali pod siedmimi rôznymi falošnými autorskými menami: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams a Alice Johnson. Podľa životopisov zverejnených online pri niektorých z týchto článkov sa každá fiktívna identita vydávala za západného novinára či novinárku (zvyčajne z USA, hoci životopis identity Noah Lamington uvádzal Nový Zéland), často so zameraním na medzinárodnú politiku, Blízky východ, ľudské práva alebo konflikty. Pri jednej z fiktívnych identít, „Michael Harrison“, operátori požiadali model aj o napísanie samotného životopisu. (Za zmienku stojí, že spoločnosť Meta v marci narušila⁠(otvorí sa v novom okne) iránsku vplyvovú operáciu, v ktorej tiež vystupovala fiktívna novinárska identita „Michael Harrison“.)

Vierohodnosť niektorých z týchto fiktívnych identít podporovali účty na rôznych sociálnych platformách. Napríklad identitu Michael Harrison podporovali účty na platformách Medium, X a Facebook. Identita Ervin B. Hoskins mala účty na X, Facebooku, Instagrame a Threads. V životopise sa táto identita označovala za „amerického autora na voľnej nohe“, no údaje o transparentnosti na sociálnych sieťach lokalizovali účty do Iránu.

Hore životopis identity Ervin Hoskins na Instagrame. Vľavo dole údaje o transparentnosti účtu na X ukazujúce používanie aplikácie pre Android pre západnú Áziu. Vpravo dole údaje o transparentnosti účtu na Instagrame ukazujúce polohu v Iráne. Meta účet na Instagrame v auguste zablokovala.

Pomocou vyšetrovacích metód využívajúcich verejne dostupné zdroje sme identifikovali takmer 100 článkov, ktoré boli publikované pod niektorým z autorských mien operátorov vo viac než tucte rôznych médií. Tieto médiá sa vo všeobecnosti zameriavali na medzinárodné dianie, geopolitiku a udalosti na Blízkom východe, niekedy z protivojnového alebo progresívneho pohľadu. Najstarší článok, ktorý sme identifikovali, vyšiel v júli 2025 a najnovší v októbri 2026. Frekvencia publikovania výrazne vzrástla po vypuknutí konfliktu medzi USA a Iránom.

Časová os článkov podľa autora a témy, júl 2025 – september 2026. Všimnite si hustotu publikácií o vzťahoch USA a Iránu od marca 2026.

Ukážky titulkov článkov publikovaných pod autorskými menami spojenými s touto operáciou od februára do júla 2026 v rôznych online médiách.

Aspoň niektoré články následne propagovali účty daných médií na sociálnych sieťach, čo iránskym operátorom potenciálne umožnilo osloviť publikum, ku ktorému by sa inak nedostali.

Popri článkoch škodliví aktéri žiadali ChatGPT o generovanie sérií komentárov ku geopolitickým alebo politickým témam v angličtine či perzštine. Ich typickým postupom bolo vložiť text alebo snímku príspevku zo sociálnej siete a požiadať model o sériu odpovedí, ktoré zodpovedali ich celkovému zameraniu. Tie potom zverejňovali online, často s odstupom len niekoľkých minút. Interné správy operátorov spomínali manuálne aj automatizované zverejňovanie; nemáme dôkazy, ktoré by naznačovali, že táto automatizácia prebiehala s pomocou našich modelov.

Tweety v angličtine vľavo a v perzštine vpravo, vygenerované v rámci tejto operácie a zverejnené v júli. Anglické komentáre reagovali na anglický tweet varujúci, že USA pripravujú „rozsiahly útok“ na Irán. Všetky komentáre na tomto obrázku boli zverejnené v priebehu 10 minút. Perzské komentáre reagovali na perzský tweet o amerických útokoch na Irán a boli zverejnené v priebehu 13 minút.

Časť tohto hromadného komentovania spočívala v generovaní odpovedí na príspevky na sociálnych sieťach o spravodajských článkoch samotnej operácie. Operátori pri tom vkladali snímky príspevkov propagujúcich ich články a následne generovali komentáre, ktoré ich chválili alebo podporovali, pravdepodobne s cieľom vytvoriť dojem väčšej popularity článkov.

Príspevok miestnej americkej spravodajskej stránky na Facebooku, ktorý zdieľa článok vygenerovaný v rámci operácie, a komentáre k tomuto príspevku vygenerované tou istou operáciou.

Väčšina sérií komentárov sa všeobecnejšie zameriavala na konflikt medzi Iránom, Spojenými štátmi a Izraelom. Používatelia žiadali komentáre k témam ako raketové útoky, prímeria a diplomatické manévre, pričom požadovali výstupy zobrazujúce USA ako agresora, Izrael ako nespoľahlivého spojenca USA a Irán ako vzdorujúcu, no odolnú obeť. Operátori vygenerovali obzvlášť veľa odpovedí na príspevky satelitnej stanice Iran International so sídlom v Spojenom kráľovstve, ktorá kritizuje iránsky režim: vytvorili viac než dve desiatky sérií nepriateľských odpovedí v perzštine. Menšia časť sérií obsahovala odpovede na príspevky na sociálnych sieťach o politických otázkach USA, zvyčajne tiež v širšom kontexte konfliktu.

Komentáre na Instagrame vygenerované v rámci tejto operácie ako odpovede na príspevky o politike USA.

Malý počet týchto odpovedí sme našli zverejnený online; oveľa viac sa ich pri vyhľadávaní vo verejne dostupných zdrojoch neobjavilo, možno preto, že buď neboli zverejnené, alebo ich zverejnili účty, ktoré už boli odstránené. (Napríklad tri fiktívne novinárske identity – Ericka Feusier, Alice Johnson a Jenny Williams – uvádzali vo svojich zverejnených životopisoch používateľské mená účtov na X: všetky boli k augustu 2026 pozastavené.) Niektoré účty, ktoré komentáre online zverejnili, mali západne znejúce mená, no ako polohu účtu uvádzali Irán.

Údaje o transparentnosti účtov na Instagrame, ktoré zverejnili komentáre uvedené vyššie, ukazujúce ich polohu v Iráne.

Tam, kde sme tieto odpovede našli zverejnené, zvyčajne tvorili menšinu všetkých komentárov k danému príspevku, čo naznačuje, že operátori medzi autentickými reakciami neboli dominantným hlasom. Nezdalo sa ani, že by vyvolávali výraznejšie interakcie: mnohé označenia Páči sa mi to pri odpovediach operácie v skutočnosti pochádzali z účtov, ktoré boli samy s operáciou prepojené. Informácie o tomto prípade sme poskytli partnerom z odvetvia, ktorí majú najlepšie predpoklady na komplexné posúdenie interakcií.

Snaha vytvoriť dojem väčšej popularity ich činnosti sa neobmedzovala len na verejné príspevky. Popri generovaní obsahu operátori občas žiadali ChatGPT o úpravu textov, ktoré pôsobili ako interné správy o ich kampani na sociálnych sieťach. Zvyčajne to spočívalo v tom, že modelu poskytli sériu štatistík a požiadali ho, aby z nich vytvoril profesionálne spracované prezentácie.

Nie je to prvá operácia, ktorú sme narušili a ktorá využívala AI na písanie vlastného⁠(otvorí sa v novom okne) sebahodnotenia⁠(otvorí sa v novom okne). Na snahe iránskych operátorov hodnotiť vlastnú prácu bola najpozoruhodnejšia metóda, ktorú na to použili. Hlavnou metrikou „vplyvu“, ktorú používali, bol počet zobrazení príspevkov, na ktoré odpovedali (nie počet zobrazení samotných odpovedí), zaznamenaný pred zverejnením odpovedí a s neurčeným časovým odstupom po ňom. Tento výpočet nezohľadňoval žiadne zobrazenia, ktoré mohli byť výsledkom iných faktorov, napríklad popularity pôvodných príspevkov alebo iných komentárov. Výrazne tak nadhodnocoval údaje o vplyve operácie, čo naznačuje, že operátori buď nepoznali účinnejší spôsob ich výpočtu, alebo sa ho rozhodli nepoužiť.

Na základe dôkazov získaných pozorovaním verejne dostupných zdrojov sa v skutočnosti zdá, že dve hlavné oblasti činnosti operácie mali veľmi rozdielny pravdepodobný vplyv.

Odpovede na sociálnych sieťach, ktoré sa nám podarilo identifikovať, mali spravidla nízke počty označení Páči sa mi to, zobrazení a komentárov (v jednotkách alebo desiatkach). Ako sme uviedli vyššie, odpovede zvyčajne tvorili menšinu všetkých komentárov k danému príspevku. Na základe škály prieniku vplyvových operácií⁠(otvorí sa v novom okne), ktorá ich hodnotí od 1 (najnižšia úroveň) do 6 (najvyššia), by sme túto časť operácie zaradili do kategórie 2: komentáre sa objavovali na viacerých platformách, no len málo nasvedčovalo širšiemu prieniku alebo schopnosti dominovať medzi odpoveďami.

Naopak, fiktívnym novinárskym identitám sa podarilo dostať články do rôznych médií, z ktorých niektoré mali veľké publikum: napríklad jedno z online médií, ktoré publikovalo články tejto operácie, malo k augustu 2026 takmer 2 milióny sledovateľov na Facebooku, takmer 355 000 na X a viac než 544 000 na Instagrame. Túto časť operácie by sme zaradili do kategórie 4 na základe jej opakovaného prieniku do viacerých médií.