Tehisaru kasutavate katteoperatsioonide tõkestamine

Viimase kahe ja poole aasta jooksul oleme andnud ülevaate paljudest eri võtetest ja viisidest, mille abil pahatahtlikud osalised püüdsid kasutada meie mudeleid küberrünnakuteks, varjatud mõjutusoperatsioonideks, pettusteks ja muuks meie kasutuspõhimõtteid rikkuvaks tegevuseks. Avaldame neid aruandeid, et teavitada reguleerivaid asutusi, valdkonnakaaslasi ja ühiskonda laiemalt sellest, kuidas pahatahtlikud osalised meie tähelepanekute järgi tehisaru kasutada püüavad, ning tuua esile nõrkused, mida nad ära kasutavad.

Hiljuti blokeerisime kaks mõjutusoperatsiooni – ühe Venemaalt ja teise Iraanist –, mis kasutasid meie mudeleid koos tavapärasemate võtete ja tehnoloogiatega keerukate katteidentiteetide ja -organisatsioonide toetamiseks. Nende abil toimetati sihtrühmadeni geopoliitilisi ja konfliktidega seotud sõnumeid, varjates nende tegelikku päritolu. Iraani operatsioon kasutas seitset „ajakirjaniku“ libaidentiteeti, et pakkuda pikki artikleid väikestele ja keskmise suurusega veebiväljaannetele üle maailma. Venemaa operatsioon paistab olevat kaasanud pahaaimamatuid inimesi Ladina-Ameerikas, et pidada seal kohalikku „mõttekoda“.

Mõlemad operatsioonid olid mitmetahulised ja katsetasid eesmärkide saavutamiseks eri taktikaid. Lisaks pikkadele artiklitele lõi Iraani operatsioon hulgaliselt sotsiaalmeediakommentaare, enamasti USA ja Iraani sõjaga seotud teemadel. Lisaks „mõttekoja“ kontrollimisele lõi Venemaa operatsioon võltsitud „lekkinud“ dokumente ja helisalvestiste tekste, millest osa leidsime veebis levimas. Mõlemad operatsioonid kasutasid tehisaru palju ka sisearuannete koostamiseks (Venemaa operatsioon tegi seda rohkem kui midagi muud). Mõlemal juhul kasutati küsitavaid või otseselt petlikke meetodeid, et korraldajate tõhusust suuremana näidata.

Nende operatsioonide puhul torkab enim silma see, kui palju need sarnanesid tehisarueelse ajastu keerukate mõjutusoperatsioonidega, kasutades tehisaru vaid osa töövoogude lihtsustamiseks. Iraani operatsiooni ajakirjanike libaidentiteedid meenutasid libaajakirjanikku „Alice⁠(avaneb uues aknas) Donovan⁠(avaneb uues aknas)“, kelle identiteet oli Venemaa sõjaväeluure kattevari ning kelle artikleid avaldasid aastatel 2016–2017 mitmed lääne väljaanded. 2020. aastal juhtisid Venemaa Internet Research Agency varasema tegevusega seotud isikud võltsitud „uudisteväljaannet“ „PeaceData⁠(avaneb uues aknas)“, mis kaasas endale kirjutama pahaaimamatuid ajakirjanikke üle maailma.

Need operatsioonid olid ebatavalised ka oma võimaliku ulatuse poolest. Mõjutusoperatsioonide levikuulatuse skaala⁠(avaneb uues aknas) järgi, mis hindab operatsioone tasemetel 1 (madalaim) kuni 6 (kõrgeim), liigitaksime Venemaa päritolu operatsiooni 5. kategooriasse. See on esimene 5. kategooria operatsioon, mille oleme pärast aruannete avaldamise alustamist tõkestanud. Iraani päritolu operatsioon jõudis 4. kategooriasse. Mõlemal õnnestus saada oma sisu (mis polnud tervikuna meie mudelite loodud) peavoolumeediasse, mitte piirduda selle postitamisega sotsiaalmeedias. See on kooskõlas mustriga, mida oleme täheldanud viimase kahe ja poole aasta jooksul paljastatud 30 varjatud mõjutusoperatsiooni puhul: suurima võimaliku ulatuse ja mõjuga kipuvad olema operatsioonid, mis püüavad viia oma sisu päris meediaväljaannetesse, selle asemel et loota võltskontode kaudu levitamisele sotsiaalmeedias.

Alates 2024. aasta algusest paljastatud 30 mõjutusoperatsiooni maatriks peamise levitusviisi (sotsiaalmeedia, operatsiooni hallatav veebisait, välised väljaanded) ja levikuulatuse skaala taseme järgi. Mitut levitusviisi kasutanud operatsioonid, näiteks veebisaidi pidamine ja selle reklaamimine sotsiaalmeedias, on liigitatud meetodi alusel, mis näis moodustavat operatsiooni tuuma.

Tehisaru võib suurendada selliste katteoperatsioonide mahtu ja tõhusust ning parandada nende keelelist ladusust ja toimetamisvõimekust. Korraldajad saavad neid eeliseid kasutada pahaaimamatute ohvrite, näiteks töötajate või toimetajate ärakasutamiseks ning oma sisu sokutamiseks publiku ette, kellel pole aimugi, kes selle taga on või mis on nende motiivid. Need operatsioonid näitavad ka seda, kui keerukalt ja oskuslikult kasutavad pahatahtlikud osalised oma eesmärkide saavutamiseks libaidentiteete ja -organisatsioone. Organisatsioonide tugeva kaitse hoidmiseks on oluline mõista, milliseid nõrkusi pahatahtlikud osalised neis katsetes ära kasutavad ning kuidas need nõrkused võivad aidata neil publiku ja laiema levikuni jõuda.

Samas muudab nende katteoperatsioonide varjatud olemus need eriti haavatavaks vastutustundliku avalikustamise suhtes. Nii „Alice Donovan“ kui ka „PeaceData“ lõpetasid tegevuse pärast paljastamist. Seetõttu on meie eesmärk neist katteoperatsioonidest teatades lihtsustada edasist uurimist ja tõkestamist ning raskendada operatsioonide jätkamist.

Venemaa päritolu osalised, kes korraldavad mõjutuskampaaniaid üle Ladina-Ameerika.

Blokeerisime rühma Venemaa päritolu ChatGPT kontosid. Neid kasutati ChatGPT‑s mitmesugusteks ülesanneteks, mis olid seotud Ladina-Ameerika riikide vastu suunatud varjatud mõjutusoperatsioonidega. Suur osa tegevusest näis olevat suunatud Ukraina maine kahjustamisele piirkonnas, kuid osa paistis taotlevat kohalike poliitiliste tulemuste mõjutamist, eriti Argentinas ja Boliivias. Enamik korraldajaid sisestas viipu vene keeles; üks kasutas hispaania keelt, kuid paistis siiski asuvat Venemaal. Oleme jaganud juhtumi kohta teavet asjaomaste ametiasutustega.

Korraldajad kasutasid ChatGPT‑d kolmeks põhiülesandeks: sisearuannete kirjutamiseks oma tegevuse (ja teiste inimeste tegevuse kohta, mida sai usutavalt enda arvele kirjutada), operatsioonide jaoks sisu loomiseks ning Ladina-Ameerikas tegutseva ja end „uurimisplatvormiks“ nimetava Social Research Centeri (SRC) tulemusi käsitlevate aruannete koostamiseks. Nad paistavad olevat kontrollinud SRC-d libaidentiteedi „Mia Clark“ kaudu; selle nime järgi nimetasime operatsiooni „Dark Clarkiks“. Kuna me ei võimalda Venemaalt oma mudelitele juurdepääsu, kasutasid nad meie teenustega ühenduse loomiseks VPN-e.

Sisearuannetes väitsid korraldajad, et levitasid üle Ladina-Ameerika valelugusid Ukraina või kohalike juhtide kahjustamiseks. Avalikel allikatel põhineva uurimisega⁠(avaneb uues aknas) tegelevad uurijad⁠(avaneb uues aknas) on osa neist võltsingutest omistanud Venemaa organisatsioonile nimega „Politology“ ehk „La Compania“, mida on nimetatud Wagneri grupi ja teiste Vene oligarhi Jevgeni Prigožini asutatud organisatsioonide järglaseks. Korraldajad palusid meie mudelitel ka tõlkida või selgitada Politology ja Wagneri kohta avaldatud kajastusi, tehes seda märksa sagedamini kui ühegi teise Venemaa päritolu võrgustiku puhul.

See operatsioon oli ebatavaline kahel põhjusel. Esiteks paistab sellel olevat õnnestunud kaasata Ladina-Ameerika inimesi SRC heaks tööle. Venemaa korraldajate SRC-d käsitlevates aruannetes viidati otsustele näiteks palgaastmestike, värbamise ja vallandamise kohta, mis viitab sellele, et nad kontrollisid organisatsiooni, mitte ei teinud sellega koostööd. Olemasolevad tõendid näitavad, et SRC töötajad Ladina-Ameerikas ei teadnud, et töötavad Venemaa rühmituse heaks. Erinevalt teisest Venemaaga seotud „mõttekojast“, mille hiljuti paljastasime, paistab SRC olevat loonud kaasatud töötajate abil valdavalt algupärast sisu. See on kõige keerukam katteidentiteedi käigushoidmise katse, mille oleme viimase kahe ja poole aasta jooksul tõkestanud.

Teiseks viitavad mõned avalikest allikatest pärit tõendid sellele, et Dark Clarki võltsingud levisid piisavalt laialt, et kutsuda esile faktikontrolle⁠(avaneb uues aknas) ja ametlikke ümberlükkamisi⁠(avaneb uues aknas). See osutab suuremale levikuulatusele kui ühelgi teisel viimase kahe aasta jooksul meie tõkestatud mõjutusoperatsioonil. Üks võltsing, mille operatsioon väitis olevat Peruus levima pannud, süvendas isegi avalikke pingeid Ukraina ja Poola vahel.

Korraldajad kasutasid ChatGPT‑d peamiselt sisearuannete koostamiseks ja ajakohastamiseks tundmatule ülemusele. Need korrapärased aruanded kirjeldasid katseid korraldada varjatud mõjutuskampaaniaid üle Ladina-Ameerika. Need hõlmasid kolme peamist tegevussuunda: Ukraina halvustamist ja Ukraina relvajõududesse värbamise takistamist; sekkumist teatud riikide, eriti Boliivia ja Argentina sisepoliitikasse; ning SRC juhtimist. Enamasti ei täheldanud me, et pahatahtlikud osalised kasutasid meie mudeleid kampaaniate jaoks sisu loomiseks, vaid üksnes neist aruandmiseks (väheseid erandeid kirjeldame allpool⁠).

Aruanded sisaldasid rohkelt taktikalisi üksikasju, mis heitsid valgust sellele, kuidas operatsioon püüdis kahjustada Ukrainat ja mõningaid riigijuhte, eeskätt Argentina, Boliivia ja Ecuadori presidente. Mõned kirjeldasid katseid meelitada kohalikke tegema midagi, mida korraldajad saaksid oma huvides ära kasutada; teised kirjeldasid võltsitud „lekkeid“, mida korraldajad väitsid olevat levitanud.

Kahel juhul seovad tõendid korraldajad „Politology“ kohta avaldatud kajastustega. Korraldajad teatasid, et viisid 2024. aastal läbi kaks Argentina presidendi Javier Milei vastu suunatud kampaaniat. Esiteks ütlesid nad, et levitasid valeuudist, mille kohaselt oli Milei ostnud oma koertele Cartieri vääriskividega kaelarihmad. Teiseks väitsid nad, et maksid kohalikele, et nood teeksid Buenos Aireses Milei-vastast grafitit. Lekkinud dokumentide põhjal on mõlemad tegevused avalikult⁠(avaneb uues aknas) omistatud⁠(avaneb uues aknas) „Politologyle“ ja „La Companiale“.

Paljusid teisi võltsinguid ei ole varem Venemaa mõjutusoperatsioonidega seostatud. Näiteks väitsid korraldajad, et lõid 2026. aasta mais võltsitud e-posti aadressi, mis pidi jätma mulje, et kuulub Peruu Lima piirkondlikule haridusametile. Selle kaudu andsid nad piirkonna koolidele korralduse pidada riiklikul kultuurilise ja keelelise mitmekesisuse päeval (21. mail) Ukrainale pühendatud üritusi. E-kirjad sisaldasid sõnaselgeid juhiseid mainida muu hulgas vastuolulist 20. sajandi Ukraina rahvuslast Stepan Banderat, keda osa ukrainlasi peab iseseisvusvõitlejaks, kuid keda Venemaal ja Poolas seostatakse fašismi, sõjaaegse kollaboratsiooni ja hirmutegudega. Korraldajate sõnul vastasid mõned koolid võltsitud e-posti aadressile, kinnitades, et olid selliseid üritusi pidanud, ning saatsid isegi pilte.

Seejärel väitsid korraldajad, et sokutasid nii Peruu kui ka Poola meediasse üritusi käsitlevaid lugusid koos süüdistustega, et Ukraina „ekspordib“ äärmusrahvuslikke ideoloogiaid, tekitades sellega pahameelt. Avalikest allikatest otsides leiti sellele väitele vastavaid lugusid Peruu⁠(avaneb uues aknas) ja⁠(avaneb uues aknas) Poola⁠(avaneb uues aknas) ajakirjanduses⁠(avaneb uues aknas) ning ühes Ungari⁠(avaneb uues aknas) ingliskeelses väljaandes (osa artikleid on vahepeal kustutatud). Mõned⁠(avaneb uues aknas) artiklid⁠(avaneb uues aknas) sisaldasid ühe Poolast valitud Euroopa Parlamendi liikme reaktsiooni: ta tegi ettepaneku kuulutada „Poola-vastasust“ üles näidanud inimesed Poolas persona non grata’ks. Nii kasutas Venemaa võltsing ära ukrainlaste ja poolakate ajaloolisi pingeid ning ühtlasi süvendas neid.

Samamoodi väitsid korraldajad juunis, et kasutasid teist võltsitud e-posti aadressi, et meelitada Ecuadori koole korraldama tseremooniat, kus antaks truudusvanne president Daniel Noboale ja erasõjafirma Blackwater endisele juhile Erik Prince’ile. Korraldajad väitsid, et juhtum tekitas Ecuadoris pahameelt ja sundis valitsust võltsingut ümber lükkama, viies selle seeläbi üleriigilise publikuni. Ka seekord leiti avalikest allikatest meedias⁠(avaneb uues aknas) ilmunud kajastusi⁠(avaneb uues aknas), täpsemalt Ecuadori⁠(avaneb uues aknas) ajakirjandusest⁠(avaneb uues aknas), mis sellele väitele suuresti vastasid, ning isegi Ecuadori haridusministri üksikasjalik ümberlükkamine⁠(avaneb uues aknas).

Korraldajad kasutasid oma valelugude toetamiseks mitmesuguseid võtteid. Oma sisearuannete kohaselt levitasid nad märtsis kaht eri võltsingut, mis olid suunatud Ecuadori vastu. Ühes kasutati võltsitud helisalvestist, mida omistati Ukraina konsulile Ecuadoris ja milles ta olevat teinud ecuadorlaste kohta halvustavaid märkusi. Meie avalikel allikatel põhinev uurimine tuvastas TikToki postituse, mis vastas täpselt sellele väitele; see paistis olevat saanud vaid vähest vastukaja. Teine kirjeldas X-is ja TikTokis päris uudistekanali logo all levitatud võltsitud videoklippi, milles väideti, et Noboa valitsus värbab noori mehi Ukrainasse sõdima. Ecuadori faktikontrollijad⁠(avaneb uues aknas) kirjeldasid aprilli alguses sellele kirjeldusele vastavat kampaaniat.

8. aprillil 2026 postitatud TikToki video võltsitud helisalvestisega, mille loomise see operatsioon enda arvele kirjutas ja mida omistati Ukraina konsulile.

Ühes teises sisearuandes kirjeldati võltsingut, mida nad levitasid Boliivias mai lõpus valitsusvastaste meeleavalduste haripunktis. Korraldajad nimetasid kampaania eesmärgina sõnaselgelt meeleavaldustega seotud kriisi süvendamist. Kampaanias kasutati võltsitud helisalvestist, kus riikliku vee-ettevõtte EPSAS töötaja väidetavalt ütles, et valitsus kavatseb halduspealinnas La Pazis veevarustuse katkestada ja kuulutada välja erakorralise seisukorra. Avalikest allikatest leidsime sama väite ümberlükkamise⁠(avaneb uues aknas) ning EPSAS-i ametliku eituse⁠(avaneb uues aknas).

Teised sisearuanded sisaldasid võltsinguid, mille levitamist me avalikest allikatest kinnitada ei suutnud, võimalik, et need olid juba eemaldatud või polnudki levima hakanud. Näiteks väitsid korraldajad, et levitasid jaanuaris lugu, mille kohaselt olid Ukraina saatkonna esindajad viinud ühe Brasiilia suunamudija ja modelli inimkaubanduse ohvrina Ukrainasse ning ta oli Kiievis tapetud. Juunis väitsid nad, et levitasid Boliivias veel üht võltsitud heliklippi, seekord väidetavalt Boliivia keskpanga töötajalt, kes hoiatas, et pank hakkab peagi sularaha väljavõtmist piirama. Samuti väitsid nad, et levitasid riigi süsivesinike ameti nimel võltsitud kirja, mis hoiatas eraautodele kütuse müümise piirangute eest.

Teistes aruannetes palusid korraldajad meie mudelitel aidata leida sihtriikides juhtumeid, mida nad saaksid enda teeneks lugeda ka siis, kui nad polnud neis osalenud. Näiteks väitsid korraldajad Argentina puhul, et Argentina välisminister oli tsiteerinud nende operatsiooni ÜRO komisjoni koosolekul, kus käsitleti Falklandi ehk Malviini saari. Korraldajad kirjutasid enda arvele selliste argumentide levitamise, et enesemääramise põhimõte saarte suhtes ei kehti ning et Ühendkuningriigi sõjaline kohalolek seal on ebaproportsionaalselt suur. Tegelikult on mõlemad argumendid kuulunud Argentina ametliku seisukoha juurde juba palju⁠(avaneb uues aknas) aastaid⁠(avaneb uues aknas). Samamoodi kajastas⁠(avaneb uues aknas) Brasiilia meedia juunis Brasiilia kodaniku juhtumit, kes oli sõitnud Ukrainasse sõjaväega liituma, langenud Vene vägede kätte vangi ning esinenud seejärel teleavalduses väitega, et teda oli pettusega sõdima meelitatud. ChatGPT‑d kasutanud korraldajad püüdsid väita, et see uudislugu kordas nende operatsiooni sõnumeid; tegelikult tsiteeriti selles vangi enda videot⁠(avaneb uues aknas). See viitab korraldajate katsele korraldada mõjutusoperatsioon pigem oma tööandjate kui välise publiku vastu.

Mõnes korraldajate aruandes viidati end „uurimisplatvormiks“ nimetavale Social Research Centerile (vene keeles Центр социологических исследований). SRC veebisaidi järgi keskendub keskus India diasporaale Ladina-Ameerikas ning India ja piirkonna riikide suhetele.

Sisearuanded viitasid sellele, et korraldajad kontrollisid mõttekoda, mitte ei teinud sellega pelgalt koostööd. Neis mainiti näiteks värbamis- ja vallandamisotsuseid, palgaastmestikke, personaliplaane ning käimasolevaid uurimisprojekte. Oluline on ka see, et aruannete järgi olid korraldajad loonud libaidentiteedi nimega „Mia Clark“, et juhtida operatsiooni sotsiaalmeediategevust ja suhelda Ladina-Ameerikas kohapeal töötavate inimestega. Olemasolevad tõendid viitavad, et need kohalikud töötajad ei teadnud, et töötavad Venemaa operatsiooni heaks, ning täitsid uurimisülesandeid heas usus. Pahaaimamatute vahendajate selline kasutamine meenutab tugevalt varasemat Venemaa operatsiooni „PeaceData“, mis oli samuti seotud Prigožini ringkonnaga ja mille Meta 2020. aastal paljastas⁠(avaneb uues aknas).

Venemaa korraldajate aruannete põhjal intervjueerisid nende Ladina-Ameerikas kohapeal tegutsevad töötajad eksperte ja kommentaatoreid üle kogu piirkonna ning koostasid seejärel kogutud teabe põhjal uurimistöid. Teemad ulatusid BRICS-i rühma puudutava avaliku arvamuse laiapõhjalisest analüüsist Brasiilia majanduse üksikasjaliku võrdluseni presidentide Jair Bolsonaro ja Luiz Inácio Lula da Silva ametiajal. Mõnikord koostasid Venemaa korraldajad uurimisprojektide edenemise aruandeid enne tööde avaldamist, mis viitab tihedale osalusele nende valmimises. Leidsime SRC veebisaidilt tublisti üle 60 artikli, millest valdav enamik paistis olevat originaallooming. See eristab Dark Clarki hiljuti paljastatud Venemaa päritolu operatsioonist, mis kasutas samuti kattevarjuna mõttekoda, kuid plagieeris suurema osa oma sisust. See viitab kavatsusele luua püsivam katteorganisatsioon, millel oleks kontakte kogu Ladina-Ameerikas.

Venemaa korraldajad väitsid, et olid püüdnud SRC töö tutvustamiseks luua sotsiaalmeediakontode võrgustiku. Nende aruannete kohaselt tekkisid sotsiaalmeediategevuses probleemid, kui eri maailma paigus tegutsevad korraldajad püüdsid pääseda samadele kontodele, mistõttu kontodele kehtestati piirangud. Selle jälgi on näha avalikes allikates: näiteks näitasid SRC peamise X-i konto läbipaistvusandmed asukohana Saksamaad (võimalik, et VPN-i kasutamise tõttu), kuid ühendust Venemaa Föderatsiooni App Store’i kaudu. Ühe Instagrami konto läbipaistvusandmed näitasid haldaja asukohana Venezuelat. Ühelgi kolmest tuvastatud SRC nime kandvast Facebooki kontost polnud piisavalt jälgijaid, et haldaja asukoha andmed nähtavaks muutuksid.

Vasakul Social Research Centeriga seotud X-i konto. Pange tähele läbipaistvusandmeid, mille järgi oli konto ühendatud Venemaa Föderatsiooni rakendusepoe kaudu. Paremal SRC Instagrami konto: pange tähele Venezuela asukohta.

Korraldajad teatasid erilistest raskustest LinkedInis: nende sõnul lõid nad SRC esindamiseks teadlikult võltskonto, kuid nägid seejärel vaeva sellele võrgustiku loomisega. Aruannete kohaselt leidsid nad lahenduse uute võltskontode loomises, mis hakkaksid esimest jälgima ja muudaksid selle usutavamaks. 17. augusti seisuga oli sama Social Research Centeri sümboolikaga LinkedIni kontol 961 jälgijat. Konto väitis, et organisatsioonil on 200–500 töötajat, kuid nimetas ainult kaks.

Aeg-ajalt palusid korraldajad lisaks tehisaru abil aruannete ajakohastamisele meie mudelil aidata kavandada ja luua tekste operatsioonides kasutamiseks. Näiteks küsisid nad abi tagamaks, et võltsingutes oleks eri riikidele omane õige aktsent, sõnavara ja ametkondlik stiil. See moodustas kogu töömahust suhteliselt väikese osa, võib-olla seetõttu, et operatsioonis paistab olevat osalenud vähemalt üks Ladina-Ameerikast pärit hispaania keelt emakeelena kõnelev inimene, mistõttu vajati tehisaru keeleabi vähem.

Näiteks palus üks venekeelne korraldaja ühel korral mudelil aidata koostada vene keeles kirja, mis seostaks Ukraina aukonsulit Panamas korruptsiooniga. Seejärel palus hispaaniakeelne korraldaja mudelil tõlkida kirja hispaania keelde ning luua selle juurde pealelugemise teksti. Kirja tekstile vastav foto koos korraldaja tekstile vastava pealelugemisega postitati TikTokki kontolt, mis esitles end uudisteväljaandena, kuid kasutas Panama TVN Noticiase⁠(avaneb uues aknas) logo. TikToki kanalil oli vaid üks jälgija ja pärast selle võltsingu avaldamist lõpetas kanal postitamise.

TikToki postitus, mis näitab operatsiooni loodud tekstiga kirja. Ka pealelugemise teksti lõi sama operatsioon.

Teisel korral andis Venemaal asuv hispaaniakeelne korraldaja mudelile venekeelse teksti, milles väideti, et Noboa oli solvanud Ecuadori vaeseid inimesi, ning palus tõlkida selle Ecuadori hispaania keelde. Kolmandal korral, märtsis, palus sama kasutaja mudelil keeleliselt kontrollida hispaaniakeelset lepingumustandit ettevõtte „International Security Solutions FZE“ ja ühe Ecuadoris asuva eraisiku vahel. Lepingu väidetav eesmärk oli taristuteenuste osutamine Ukrainas. Kasutaja küsimused keskendusid keele ja küljenduse parandamisele, sealhulgas sellele, millised sõnad peaksid olema paksus kirjas.

Kasutaja lepinguteemalised viibad lõppesid, kui sõnastus oli lõplikult paigas. Avalike allikate uurimine näitab aga, et hiljem levitati sotsiaalmeedias⁠(avaneb uues aknas) selle „lepingu“ pilti. Seda kasutati toetamaks väidet, et Noboa valitsus oli teinud koostööd kattefirmaga, et meelitada ecuadorlasi pettusega Ukraina sõjaväkke astuma. Võltsing levis piisavalt laialt, et ajendada aprilli alguses faktikontrolli⁠(avaneb uues aknas). Faktikontrollijad järeldasid, et ettevõte „ei esine Ecuadori äriühingute, väärtpaberite ja kindlustuse järelevalveameti registris“.

Selle operatsiooni mõju tuleb hinnata eriti hoolikalt. Nagu eespool märgitud, oli korraldajate üks peamisi võtteid kirjutada enda arvele tegevusi, millel polnud nende operatsiooniga mingit seost. Seetõttu ei saa nende sisearuannetes esitatud väiteid oma mõju kohta võtta puhta kullana. Samuti ei leitud avalike allikate uurimisel mõningaid valelugusid, mida nad väitsid olevat levitanud. Võimalik, et neid levitati mitteavalikes kanalites, need olid juba eemaldatud või polnud neid tegelikult postitatudki.

Siiski võimaldasid avalikest allikatest saadud tõendid meil osa nende väiteid kinnitada. Mõningaid võltsinguid, mida operatsioon väitis olevat levitanud, kajastasid hiljem faktikontrollijad ja lükkasid ümber valitsused. See viitab, et need olid levinud piisavalt laialt, et väärida vastust. Teistel juhtudel suutsime veebis tuvastada sisu, mis vastas väga täpselt selle operatsiooni loodud sisule. Kõige tähelepanuväärsem oli operatsiooni väide, et nad olid meelitanud ühe Peruu kooli korraldama üritust, kus kujutati Banderat. Seda kajastati hiljem nii Ladina-Ameerikas kui ka Euroopas ning see paistab olevat ajendanud vähemalt üht Poolast valitud Euroopa Parlamendi liiget kommentaari andma.

Mõjutusoperatsioonide levikuulatuse skaala⁠(avaneb uues aknas) järgi, mis hindab operatsioone tasemetel 1 (madalaim) kuni 6 (kõrgeim), liigitaksime selle operatsiooni 5. kategooriasse, sest tõendid viitavad, et see ajendas poliitikuid mitmes riigis avalikult sõna võtma. See on esimene 5. kategooria operatsioon, mille oleme pärast aruannete avaldamise alustamist tõkestanud.

Iraani päritolu operatsioon, mis sokutab veebipõhistesse uudisteväljaannetesse pikki artikleid võltsitud autorinimede all.

Blokeerisime rühma Iraani päritolu ChatGPT kontosid. Neil sisestati viipu pärsia keeles ning loodi sisu pärsia ja inglise keeles. Osalised varjasid oma asukohta, kasutades ChatGPT‑le juurdepääsuks VPN-e.

Operatsioon kasutas meie mudeleid pikkade artiklite ja toimetustele saadetavate pakkumiskirjade viimistlemiseks, sotsiaalmeediakommentaaride loomiseks ning sisearuannete parandamiseks. Korraldajad pakkusid oma artikleid seitsme eri autorinime all, mistõttu nimetasime kampaania „Bogus Bylinesiks“. Pikad artiklid keskendusid USA ja Iraani konfliktile. Ka enamik kommentaare käsitles konflikti; väiksem osa puudutas USA poliitikat, tavaliselt konflikti laiemas kontekstis.

Nende peamiste tegevussuundade nähtav mõju erines märkimisväärselt. Tuvastasime ligi 100 artiklit, mis avaldati või taasavaldati operatsiooni kasutatud autorinimede all ligikaudu tosinas veebiväljaandes üle maailma. Need olid väikesed ja keskmise suurusega väljaanded, mis keskendusid üldjuhul rahvusvahelistele suhetele, geopoliitikale ja Lähis-Ida sündmustele. Seevastu ei paista ükski sotsiaalmeediakommentaar olevat pälvinud märkimisväärset vastukaja meeldimiste, jagamiste või edasiste vastuste näol. Tegelikult kasutati korraldajate sisearuannetes sotsiaalmeediamõju mõõtmiseks eksitavat arvutusviisi, võimalik, et eesmärgiga jätta nende tõhususest tegelikust parem mulje.

Tegevus tervikuna näis sobivat kokku äritegevusena tellimuspõhist mõjutuskampaaniat korraldava osalisega, kuid konkreetset tegijat me tuvastada ei suutnud. Oleme jaganud juhtumi kohta teavet asjaomaste ametiasutustega.

Selle operatsiooni kõige laiema levikuga tegevus seisnes ChatGPT‑lt USA ja Iraani konflikti geopoliitikat käsitlevate pikkade ingliskeelsete artiklite ülevaatamise ja viimistlemise palumises. Tüüpilistes viipades paluti mudelil hinnata ingliskeelse mustandi vastavust konkreetse veebiväljaande kaastöönõuetele ning soovitada muudatusi, mis tagaksid nõuete täitmise. Kui korraldajad olid muudatused heaks kiitnud, palusid nad mudelil luua e-kirja, millega pakkuda artiklit asjaomase veebiväljaande toimetajale.

Need pakkumiskirjad koostati seitsme eri libaautori nimel: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams ja Alice Johnson. Mõne artikli juures veebis avaldatud elulugude kohaselt esitles iga libaidentiteet end lääne ajakirjanikuna (tavaliselt ameeriklasena, kuigi Noah Lamingtoni eluloos väideti, et ta asub Uus-Meremaal), kes keskendub sageli rahvusvahelisele poliitikale, Lähis-Idale, inimõigustele või konfliktidele. Ühe libaidentiteedi, „Michael Harrisoni“ puhul palusid korraldajad mudelil kirjutada ka eluloo. (Väärib märkimist, et märtsis tõkestas⁠(avaneb uues aknas) Meta Iraani mõjutusoperatsiooni, milles kasutati samuti ajakirjaniku libaidentiteeti „Michael Harrison“.)

Mõne libaidentiteedi usutavust toetati kontodega mitmel sotsiaalmeediaplatvormil. Näiteks toetasid Michael Harrisoni libaidentiteeti kontod Mediumis, X-is ja Facebookis. Ervin B. Hoskinsi libaidentiteedil olid kontod X-is, Facebookis, Instagramis ja Threadsis. Selle libaidentiteedi eluloos nimetati teda „Ameerika vabakutseliseks kirjutajaks“, kuid sotsiaalmeedia läbipaistvusandmed näitasid kontode asukohana Iraani.

Ülal Ervin Hoskinsi libaidentiteedi Instagrami elulugu. All vasakul X-i konto läbipaistvusandmed, mis näitavad Lääne-Aasia Androidi rakenduse kasutamist. All paremal Instagrami konto läbipaistvusandmed, mis näitavad asukohana Iraani. Meta blokeeris Instagrami konto augustis.

Avalikel allikatel põhinevaid uurimismeetodeid kasutades tuvastasime ligi 100 artiklit, mis olid avaldatud korraldajate kasutatud autorinimede all enam kui tosinas eri väljaandes. Need väljaanded keskendusid üldjuhul rahvusvahelistele suhetele, geopoliitikale ja Lähis-Ida sündmustele, mõnikord sõjavastasest või progressiivsest vaatenurgast. Varaseim tuvastatud artikkel avaldati 2025. aasta juulis ja hiliseim 2026. aasta oktoobris. Pärast USA ja Iraani konflikti puhkemist sagenes artiklite avaldamine märgatavalt.

Artiklite ajajoon autorite ja teemade kaupa, juuli 2025 – september 2026. Pange tähele USA ja Iraani suhteid käsitlevate artiklite tihedat ilmumist alates 2026. aasta märtsist.

Näiteid selle operatsiooniga seotud autorinimede all eri veebiväljaannetes 2026. aasta veebruarist juulini avaldatud artiklite pealkirjadest.

Vähemalt osa artikleid jagati seejärel asjaomaste väljaannete sotsiaalmeediakontodel, andes Iraani korraldajatele võimaluse jõuda publikuni, kelleni nad muidu poleks ulatunud.

Lisaks artiklitele palusid pahatahtlikud osalised ChatGPT‑l luua inglise või pärsia keeles kommentaaride kogumeid geopoliitilistel või poliitilistel teemadel. Tüüpiliselt sisestasid nad sotsiaalmeediapostituse teksti või kuvatõmmise ning palusid mudelilt vastuste kogumit, mis sobiks nende üldise suunitlusega. Seejärel postitati vastused veebi, sageli mõneminutiliste vahedega. Korraldajate sisearuannetes viidati nii käsitsi kui ka automaatsele postitamisele; meil pole tõendeid, et seda automatiseeriti meie mudelite abil.

Operatsiooni loodud ja juulis postitatud ingliskeelsed säutsud vasakul ning pärsiakeelsed paremal. Ingliskeelsed kommentaarid vastasid ingliskeelsele säutsule, mis hoiatas, et USA valmistub Iraani vastu „ulatuslikuks rünnakuks“. Kõik selle pildi kommentaarid postitati 10 minuti jooksul. Pärsiakeelsed kommentaarid vastasid pärsiakeelsele säutsule USA rünnakutest Iraani vastu ja postitati 13 minuti jooksul.

Osa sellest hulgi kommenteerimisest seisnes vastuste loomises sotsiaalmeediapostitustele, mis käsitlesid operatsiooni enda uudisartikleid. Selleks sisestasid korraldajad oma artikleid tutvustavate postituste kuvatõmmiseid ning lõid seejärel neid kiitvaid või toetavaid kommentaare, tõenäoliselt selleks, et artiklid paistaksid populaarsemad.

USA kohaliku uudistelehe Facebooki postitus, milles jagatakse operatsiooni loodud artiklit, ning operatsiooni loodud kommentaarid selle postituse all.

Enamik kommentaarikogumeid keskendus üldisemalt Iraani, Ameerika Ühendriikide ja Iisraeli konfliktile. Kasutajad palusid kommentaare näiteks raketirünnakute, vaherahude ja diplomaatiliste manöövrite kohta, nõudes väljundeid, mis kujutaksid USA-d agressorina, Iisraeli USA ebausaldusväärse liitlasena ning Iraani trotsliku, kuid vastupidava ohvrina. Korraldajad lõid eriti palju vastuseid Ühendkuningriigis asuva ja Iraani režiimi kritiseeriva satelliittelekanali Iran International postitustele: üle kahe tosina vaenulike pärsiakeelsete vastuste kogumi. Väiksem osa kogumeid sisaldas vastuseid USA poliitikateemalistele sotsiaalmeediapostitustele, tavaliselt samuti konflikti laiemas kontekstis.

Operatsiooni loodud Instagrami kommentaarid vastuseks USA poliitikat käsitlevatele postitustele.

Leidsime veebis avaldatuna väikese hulga neist vastustest; paljusid teisi meie avalike allikate otsingutes ei ilmunud, võimalik, et neid polnud postitatud või olid need avaldatud kontodel, mis olid juba eemaldatud. (Näiteks olid kolme ajakirjaniku libaidentiteedi – Ericka Feusieri, Alice Johnsoni ja Jenny Williamsi – avaldatud elulugudes kirjas X-i kasutajanimed. Kõik need kontod olid 2026. aasta augusti seisuga peatatud.) Mõnel veebis kommentaare postitanud kontol oli läänelikuna näiv nimi, kuid konto asukohaks oli märgitud Iraan.

Ülal kujutatud kommentaarid postitanud Instagrami kontode läbipaistvusandmed näitavad, et kontod asusid Iraanis.

Seal, kus leidsime need vastused avaldatuna, moodustasid need tavaliselt väiksema osa kõigist asjaomase postituse kommentaaridest. See viitab, et korraldajad ei domineerinud ehtsate vastuste seas. Samuti ei paistnud need olevat pälvinud märkimisväärset vastukaja: paljud operatsiooni vastuste meeldimised tulid kontodelt, mis olid ise operatsiooniga seotud. Oleme jaganud juhtumi kohta teavet valdkonnapartneritega, kellel on parimad võimalused anda vastukajale terviklik hinnang.

Katse näidata oma tegevust populaarsemana ei piirdunud avalike postitustega. Lisaks sisu loomisele palusid korraldajad aeg-ajalt ChatGPT‑l viimistleda tekste, mis paistsid olevat nende sotsiaalmeediakampaania sisearuanded. Tavaliselt anti selleks mudelile hulk statistilisi andmeid ning paluti vormida neist viimistletud esitlused.

See pole esimene meie tõkestatud operatsioon, mis kasutas tehisaru oma⁠(avaneb uues aknas) tegevuse hindamiseks⁠(avaneb uues aknas). Iraani korraldajate enesehindamise juures torkas enim silma kasutatud meetod. Nende peamine „mõju“ mõõdik oli nende postituste vaatamiste arv, millele nad vastasid (mitte vastuste endi vaatamiste arv). Seda loendati enne vastuste postitamist ja täpsustamata aja möödudes pärast seda. See arvutus ei arvestanud vaatamisi, mis võisid tuleneda muudest teguritest, näiteks algsete postituste populaarsusest või teistest kommentaaridest. Nii paisutas see operatsiooni mõjunäitajaid märkimisväärselt, mis viitab, et korraldajad kas ei teadnud tõhusamat arvutusviisi või otsustasid seda mitte kasutada.

Avalikest allikatest kogutavate tõendite põhjal näib operatsiooni kahe peamise tegevussuuna tõenäoline mõju olevat tegelikult väga erinev.

Tuvastatud sotsiaalmeediavastustel oli üldjuhul vähe meeldimisi, vaatamisi ja kommentaare (ühe- või kahekohalistes arvudes). Nagu eespool märgitud, moodustasid vastused tavaliselt väiksema osa kõigist asjaomase postituse kommentaaridest. Mõjutusoperatsioonide levikuulatuse skaala⁠(avaneb uues aknas) järgi, mis hindab operatsioone tasemetel 1 (madalaim) kuni 6 (kõrgeim), liigitaksime selle osa operatsioonist 2. kategooriasse: kommentaare avaldati mitmel platvormil, kuid oli vähe märke laiemast levikust või suutlikkusest vastustes domineerida.

Seevastu õnnestus ajakirjanike libaidentiteetidel saada oma artiklid avaldatud mitmes väljaandes, millest mõnel oli märkimisväärne jälgijaskond. Näiteks oli ühel operatsiooni artikleid avaldanud veebiväljaandel 2026. aasta augusti seisuga Facebookis ligi 2 miljonit, X-is ligi 355 000 ja Instagramis üle 544 000 jälgija. Liigitaksime selle osa operatsioonist 4. kategooriasse, kuna selle sisu jõudis järjepidevalt mitmesse meediaväljaandesse.