Tekoälyavusteisten peiteoperaatioiden torjunta

Viimeisten kahden ja puolen vuoden aikana olemme raportoineet siitä, kuinka monin eri tavoin haitalliset toimijat ovat yrittäneet käyttää mallejamme kyberhyökkäyksiin, salaisiin vaikuttamisoperaatioihin (IO), huijauksiin ja muihin käyttökäytäntöjemme rikkomuksiin. Julkaisemme näitä raportteja, jotta sääntelyviranomaiset, muut alan toimijat ja laajempi yhteiskunta saisivat tietoa havaitsemistamme tavoista, joilla uhkatoimijat yrittävät hyödyntää tekoälyä. Samalla tuomme esiin heikkouksia, joita nämä yrittävät käyttää hyväkseen.

Estimme hiljattain palvelujemme käytön kahdelta vaikuttamisoperaatiolta, joista toinen oli lähtöisin Venäjältä ja toinen Iranista. Ne käyttivät mallejamme yhdessä perinteisempien menetelmien ja teknologioiden kanssa tukeakseen pitkälle kehitettyjä peitetoimijoita. Näiden peitetoimijoiden avulla ne välittivät kohdeyleisöilleen konflikteihin liittyviä geopoliittisia viestejä ja peittivät viestien alkuperän. Iranilaisoperaatiolla oli seitsemän ”journalistin” valehenkilöllisyyttä, joiden avulla se tarjosi pitkiä artikkeleja pienille ja keskisuurille verkkomedioille eri puolilla maailmaa. Venäläisoperaatio puolestaan näyttää värvänneen Latinalaisessa Amerikassa ihmisiä pyörittämään paikallista ”ajatushautomoa” heidän tietämättään toiminnan todellisesta luonteesta.

Molemmat operaatiot olivat monitahoisia ja kokeilivat erilaisia taktiikoita tavoitteidensa saavuttamiseksi. Pitkien artikkelien lisäksi iranilaisoperaatio tuotti sosiaalisen median kommentteja erissä, yleensä Yhdysvaltojen ja Iranin sotaan liittyvistä aiheista. ”Ajatushautomon” hallinnoinnin lisäksi venäläisoperaatio loi väärennettyjä ”vuodettuja” asiakirjoja ja äänikäsikirjoituksia. Havaitsimme osaa niistä levitetyn verkossa. Molemmat operaatiot käyttivät tekoälyä runsaasti myös sisäisten raporttien laatimiseen; venäläisoperaatiolle tämä oli sen yleisin käyttötapa. Kummassakin tapauksessa toimijat käyttivät kyseenalaisia tai suorastaan vilpillisiä menetelmiä oman tehokkuutensa liioittelemiseen.

Huomiota herättävintä näissä operaatioissa on se, että ne muistuttivat läheisesti monimutkaisia vaikuttamisoperaatioita ajalta ennen tekoälyä, mutta helpottivat tekoälyllä joitakin työvaiheitaan. Iranilaisoperaation ylläpitämät journalistien valehenkilöllisyydet muistuttivat valetoimittaja ”Alice⁠(avautuu uudessa ikkunassa) Donovania⁠(avautuu uudessa ikkunassa)”. Tämä oli Venäjän sotilastiedustelun peitehenkilöllisyys, jonka artikkeleja useat länsimaiset mediat julkaisivat vuosina 2016–2017. Vuonna 2020 Venäjän Internet Research Agencyn aiempaan toimintaan kytkeytyneet henkilöt ylläpitivät ”PeaceData⁠(avautuu uudessa ikkunassa)”-nimistä valeuutismediaa, joka sai eri puolilla maailmaa toimivia journalisteja kirjoittamaan sille heidän tietämättään toiminnan todellisesta luonteesta.

Nämä operaatiot olivat poikkeuksellisia myös mahdollisen tavoittavuutensa vuoksi. Arvioisimme venäläislähtöisen operaation kuuluvan luokkaan 5 vaikuttamisoperaatioiden Breakout-asteikolla⁠(avautuu uudessa ikkunassa), jonka luokat ulottuvat 1:stä (alin) 6:een (ylin). Tämä on ensimmäinen luokan 5 operaatio, jonka toimintaan olemme puuttuneet raportointimme alkamisen jälkeen. Iranilaislähtöinen operaatio ylsi luokkaan 4. Molemmat onnistuivat saamaan sisältöään valtavirran medioihin sen sijaan, että olisivat vain julkaisseet sitä sosiaalisessa mediassa. Kaikkea sisältöä ei ollut tuotettu malleillamme. Tämä vastaa kaavaa, jonka olemme havainneet viimeisten kahden ja puolen vuoden aikana paljastamissamme 30 salaisessa vaikuttamisoperaatiossa: suurin mahdollinen tavoittavuus ja vaikutus on yleensä operaatioilla, jotka pyrkivät saamaan sisältönsä oikeisiin tiedotusvälineisiin eivätkä tukeudu sosiaalisen median valetileillä tapahtuvaan levitykseen.

Matriisi vuoden 2024 alusta lähtien paljastamistamme 30 vaikuttamisoperaatiosta ensisijaisen levitystavan (sosiaalinen media, operaation ylläpitämä verkkosivusto, ulkopuoliset julkaisut) ja Breakout-asteikon luokan mukaan. Useampaa kuin yhtä levitystapaa käyttäneet operaatiot, jotka esimerkiksi ylläpitivät verkkosivustoa ja mainostivat sitä sosiaalisessa mediassa, on luokiteltu sen menetelmän mukaan, joka vaikutti olevan toiminnan ydin.

Tekoäly voi kasvattaa tällaisten peiteoperaatioiden mittakaavaa ja tehokkuutta sekä parantaa niiden kielellistä sujuvuutta ja toimituksellisia valmiuksia. Toimijat voivat hyödyntää näitä etuja käyttääkseen hyväksi pahaa-aavistamattomia uhreja, kuten työntekijöitä tai toimittajia, ja ujuttaakseen sisältönsä yleisöille, jotka eivät tiedä, kuka sen takana on tai mitkä tämän motiivit ovat. Nämä operaatiot osoittavat myös, kuinka monimutkaisin ja kehittynein tavoin uhkatoimijat käyttävät valehenkilöllisyyksiä ja peiteorganisaatioita tavoitteidensa saavuttamiseksi. Organisaatioiden vahvan puolustuksen ylläpitämiseksi on olennaista ymmärtää, mitä heikkouksia uhkatoimijat hyödyntävät ja miten ne voivat auttaa toimijoita saamaan yleisöä ja näkyvyyttä.

Peiteoperaatioiden salainen luonne tekee niistä kuitenkin myös erityisen haavoittuvia vastuulliselle julkiselle paljastamiselle. Sekä ”Alice Donovan” että ”PeaceData” lopettivat toimintansa paljastuttuaan. Siksi tavoitteemme näistä peiteoperaatioista raportoidessamme on helpottaa jatkotutkimusta ja toimintaan puuttumista sekä vaikeuttaa operaatioiden jatkamista.

Venäläislähtöiset toimijat toteuttavat vaikuttamiskampanjoita eri puolilla Latinalaista Amerikkaa.

Suljimme joukon Venäjältä lähtöisin olevia ChatGPT‑tilejä. Niillä käytettiin ChatGPT:tä erilaisiin tehtäviin, jotka liittyivät Latinalaisen Amerikan maihin kohdistuviin salaisiin vaikuttamisoperaatioihin. Suuri osa toiminnasta näytti tähtäävän Ukrainan maineen heikentämiseen alueella. Osa puolestaan vaikutti pyrkivän vaikuttamaan paikalliseen politiikkaan, erityisesti Argentiinassa ja Boliviassa. Useimmat toimijat kirjoittivat kehotteensa venäjäksi. Yksi käytti espanjaa, mutta vaikutti silti olevan Venäjällä. Olemme jakaneet tapausta koskevia tietoja asianomaisille viranomaisille.

Toimijat käyttivät ChatGPT:tä kolmeen päätehtävään: sisäisten raporttien kirjoittamiseen omasta toiminnastaan (ja muiden toiminnasta, jonka he saattoivat uskottavasti ottaa nimiinsä), sisällön luomiseen operaatioitaan varten sekä raporttien laatimiseen Latinalaisessa Amerikassa toimivan, itseään ”tutkimusalustaksi” kutsuvan Social Research Centerin (SRC) tuloksista. He näyttävät hallinneen SRC:tä ”Mia Clark” -nimisen valehenkilöllisyyden kautta. Nimen pohjalta olemme antaneet operaatiolle lempinimen ”Dark Clark”. Koska emme salli malliemme käyttöä Venäjältä, he muodostivat yhteyden palveluihimme VPN-yhteyksillä.

Sisäisissä raporteissaan toimijat väittivät levittäneensä valheellisia tarinoita eri puolilla Latinalaista Amerikkaa Ukrainan tai paikallisten johtajien aseman horjuttamiseksi. Avoimia lähteitä käyttävät⁠(avautuu uudessa ikkunassa) tutkijat⁠(avautuu uudessa ikkunassa) ovat yhdistäneet osan näistä väärennöksistä venäläiseen ”Politology”- tai ”La Compania” -nimiseen organisaatioon. Sen on kerrottu olevan Wagner-ryhmän ja muiden venäläisoligarkki Jevgeni Prigožinin perustamien organisaatioiden seuraaja. Toimijat pyysivät mallejamme myös kääntämään tai selittämään Politologya ja Wagneria koskevaa julkista uutisointia huomattavasti useammin kuin mitään muita venäläislähtöisiä verkostoja koskevaa aineistoa.

Tämä operaatio oli poikkeuksellinen kahdella tavalla. Ensinnäkin se näyttää onnistuneen värväämään Latinalaisessa Amerikassa ihmisiä työskentelemään SRC:lle heidän tietämättään toiminnan todellisesta luonteesta. Venäläistoimijoiden SRC:tä koskevissa raporteissa viitattiin esimerkiksi palkkatasoja, rekrytointeja ja irtisanomisia koskeviin päätöksiin. Tämä viittaa siihen, että he hallitsivat organisaatiota eivätkä vain tehneet sen kanssa yhteistyötä. Käytettävissä olevan näytön mukaan SRC:n työntekijät Latinalaisessa Amerikassa eivät tienneet työskentelevänsä venäläiselle ryhmälle. Toisin kuin toinen Venäjään kytkeytyvä ”ajatushautomo”, jonka paljastimme hiljattain, SRC näyttää tuottaneen suurimman osan sisällöstään itse värväämänsä henkilöstön avulla. Tämä on monimutkaisin peitetoimijan ylläpitoyritys, johon olemme puuttuneet viimeisten kahden ja puolen vuoden aikana.

Toiseksi osa avoimista lähteistä saadusta näytöstä viittaa siihen, että Dark Clarkin väärennökset levisivät niin laajalle, että ne johtivat faktantarkistuksiin⁠(avautuu uudessa ikkunassa) ja virallisiin kiistämisiin⁠(avautuu uudessa ikkunassa). Tämä kertoo laajemmasta läpimurrosta kuin yhdessäkään niistä vaikuttamisoperaatioista, joihin puutuimme kahden viime vuoden aikana. Yksi väärennös, jonka operaatio väitti saaneensa levitykseen Perussa, lietsoi jopa julkisia jännitteitä Ukrainan ja Puolan välillä.

Toimijat käyttivät ChatGPT:tä pääasiassa sisäisten raporttien laatimiseen ja päivittämiseen tuntemattomaksi jääneelle esimiehelle. Näissä säännöllisissä raporteissa kuvattiin pyrkimyksiä toteuttaa salaisia vaikuttamiskampanjoita eri puolilla Latinalaista Amerikkaa. Niissä käsiteltiin kolmea päätoimintalinjaa: Ukrainan mustamaalaamista ja Ukrainan asevoimien värväyksen heikentämistä, tiettyjen maiden – erityisesti Bolivian ja Argentiinan – sisäpolitiikkaan puuttumista sekä SRC:n hallinnointia. Useimmissa tapauksissa emme havainneet uhkatoimijoiden käyttävän mallejamme kampanjoiden sisällön luomiseen vaan ainoastaan niistä raportointiin. Muutamat poikkeukset kuvataan jäljempänä⁠.

Raportit sisälsivät runsaasti taktisia yksityiskohtia siitä, miten operaatio pyrki horjuttamaan Ukrainaa ja joidenkin maiden johtajia, etenkin Argentiinan, Bolivian ja Ecuadorin presidenttejä. Joissakin kuvattiin yrityksiä huijata paikallisia toimimaan tavoilla, joita toimijat voisivat käyttää aseena. Toisissa kuvattiin väärennettyjä ”vuotoja”, joita toimijat väittivät levittäneensä.

Kahdessa tapauksessa näyttö yhdistää toimijat ”Politologya” koskevaan julkiseen uutisointiin. Toimijat raportoivat toteuttaneensa vuonna 2024 kaksi Argentiinan presidentti Javier Mileihin kohdistunutta kampanjaa. Ensinnäkin he kertoivat levittäneensä valheellista uutista, jonka mukaan Milei oli ostanut koirilleen jalokivillä koristeltuja Cartier-pantoja. Toiseksi he väittivät maksaneensa paikallisille toimijoille Milein vastaisten graffitien tekemisestä Buenos Airesissa. Molemmat väitetyt teot on vuotaneiden asiakirjojen perusteella julkisesti⁠(avautuu uudessa ikkunassa) yhdistetty⁠(avautuu uudessa ikkunassa) ”Politologyyn” ja ”La Companiaan”.

Monia muita väärennöksiä ei ole aiemmin yhdistetty venäläisiin vaikuttamisoperaatioihin. Toimijat väittivät esimerkiksi luoneensa toukokuussa 2026 väärennetyn sähköpostiosoitteen, joka esiintyi Perun Liman alueellisen opetusviraston osoitteena. He ohjeistivat sen kautta alueen kouluja järjestämään Ukrainalle omistettuja tapahtumia kansallisena kulttuurisen ja kielellisen monimuotoisuuden päivänä (21. toukokuuta). Sähköposteissa annettiin nimenomaiset ohjeet mainita muun muassa kiistanalainen 1900-luvun ukrainalaisnationalisti Stepan Bandera. Osa ukrainalaisista pitää häntä itsenäisyystaistelijana, mutta Venäjällä ja Puolassa hänet yhdistetään fasismiin, sodanaikaiseen yhteistoimintaan miehittäjien kanssa ja hirmutekoihin. Toimijoiden mukaan jotkin koulut vastasivat väärennettyyn sähköpostiosoitteeseen, vahvistivat järjestäneensä tällaisia tapahtumia ja lähettivät jopa kuvia.

Toimijat väittivät sitten saaneensa Perun ja Puolan tiedotusvälineisiin juttuja tapahtumista sekä väitteitä, että Ukraina ”vei” äärinationalistisia ideologioita ulkomaille, mikä herätti suuttumusta. Avoimista lähteistä tehdyissä hauissa löytyi väitettä vastaavia juttuja perulaisessa⁠(avautuu uudessa ikkunassa) ja⁠(avautuu uudessa ikkunassa) puolalaisessa⁠(avautuu uudessa ikkunassa) lehdistössä⁠(avautuu uudessa ikkunassa) sekä englanninkielisessä julkaisussa Unkarissa⁠(avautuu uudessa ikkunassa) (osa artikkeleista on sittemmin poistettu). Joissakin⁠(avautuu uudessa ikkunassa) artikkeleissa⁠(avautuu uudessa ikkunassa) oli mukana puolalaisen Euroopan parlamentin jäsenen reaktio: hän ehdotti, että ”puolalaisvastaisuutta” osoittaneet ihmiset julistettaisiin Puolassa ei-toivotuiksi henkilöiksi. Venäläinen väärennös siis sekä hyödynsi että lietsoi ukrainalaisten ja puolalaisten välisiä historiallisia jännitteitä.

Vastaavasti kesäkuussa toimijat väittivät käyttäneensä toista väärennettyä sähköpostiosoitetta huijatakseen Ecuadorin kouluja järjestämään seremonian, jossa vannottiin uskollisuutta presidentti Daniel Noboalle ja yksityisen sotilaspalveluyrityksen Blackwaterin entiselle johtajalle Erik Princelle. Toimijat väittivät tapauksen herättäneen Ecuadorissa suuttumusta ja painostaneen hallitusta kiistämään väärennöksen, jolloin se sai valtakunnallista näkyvyyttä. Jälleen avoimista lähteistä löytyi väitettä läheisesti vastaavia uutisia⁠(avautuu uudessa ikkunassa) aiheesta⁠(avautuu uudessa ikkunassa) ecuadorilaisessa⁠(avautuu uudessa ikkunassa) lehdistössä⁠(avautuu uudessa ikkunassa) ja jopa Ecuadorin opetusministerin yksityiskohtainen vastine⁠(avautuu uudessa ikkunassa).

Toimijat käyttivät monenlaisia keinoja valheellisten tarinoidensa tueksi. Sisäisten raporttiensa mukaan he levittivät maaliskuussa kahta erilaista Ecuadoriin kohdistunutta väärennöstä. Toisessa käytettiin väärennettyä äänitettä, joka pantiin Ukrainan Ecuadorin-konsulin nimiin ja jolla tämän väitettiin esittävän halventavia kommentteja ecuadorilaisista. Avoimiin lähteisiin perustuvassa tutkimuksessamme löysimme TikTok-julkaisun, joka vastasi täsmälleen tätä väitettä. Se näytti saaneen vain vähän reaktioita. Toisessa kuvattiin X:ssä ja TikTokissa oikean uutiskanavan logon alla levitettyä väärennettyä videoleikettä. Siinä väitettiin Noboan hallituksen värväävän nuoria miehiä taistelemaan Ukrainaan. Ecuadorilaiset faktantarkistajat⁠(avautuu uudessa ikkunassa) kuvasivat tähän sopivaa kampanjaa huhtikuun alussa.

8. huhtikuuta 2026 julkaistu TikTok-video, jossa on Ukrainan konsulin nimiin pantu väärennetty äänite, jonka operaatio väitti tehneensä.

Toinen sisäinen raportti kuvasi väärennöstä, jota he levittivät Boliviassa toukokuun lopulla hallituksen vastaisten mielenosoitusten ollessa kiivaimmillaan. Toimijat sanoivat suoraan kampanjan tavoitteena olevan mielenosoituksiin liittyvän kriisin kärjistäminen. Kampanjassa käytettiin väärennettyä äänitettä, jolla valtion vesiyhtiö EPSASin työntekijäksi esitetty henkilö sanoi hallituksen aikovan katkaista vedentulon hallinnolliseen pääkaupunkiin La Paziin ja julistaa poikkeustilan. Avoimiin lähteisiin perustuvassa tutkimuksessamme löysimme vastaavan väitteen kumoavan jutun⁠(avautuu uudessa ikkunassa) sekä EPSASin virallisen kiistämisen⁠(avautuu uudessa ikkunassa).

Muissa sisäisissä raporteissa mainittiin väärennöksiä, joiden olemassaoloa emme pystyneet vahvistamaan avoimista lähteistä. Ne oli ehkä jo poistettu tai ne eivät olleet levinneet. Toimijat väittivät esimerkiksi levittäneensä tammikuussa tarinaa, jonka mukaan Ukrainan suurlähetystön edustajat olivat vieneet brasilialaisen vaikuttajan ja mallin ihmiskaupan uhrina Ukrainaan, missä tämä oli surmattu Kiovassa. Kesäkuussa he väittivät levittäneensä Boliviassa toista väärennettyä äänileikettä. Tällä kertaa sen esitettiin olevan Bolivian keskuspankin työntekijältä, joka varoitti pankin aikovan rajoittaa käteisnostoja. He väittivät myös levittäneensä maan hiilivetyviraston nimiin laadittua väärennettyä kirjettä, jossa varoitettiin polttoaineen myynnin rajoittamisesta yksityisautoille.

Muissa raporteissa toimijat pyysivät mallejamme auttamaan sellaisten kohdemaiden tapahtumien löytämisessä, jotka he voisivat ottaa nimiinsä, vaikka eivät olleet olleet niissä mukana. Toimijat väittivät esimerkiksi Argentiinan ulkoministerin lainanneen heidän operaatiotaan Falklandinsaaria eli Malvinassaaria käsittelevässä Yhdistyneiden kansakuntien komitean kokouksessa. Toimijat ottivat kunnian siitä, että olivat saaneet liikkeelle väitteet, joiden mukaan itsemääräämisoikeuden periaate ei koske saaria ja Yhdistynyt kuningaskunta ylläpitää siellä suhteettoman suurta sotilaallista läsnäoloa. Todellisuudessa molemmat väitteet ovat olleet osa Argentiinan virallista kantaa jo monien⁠(avautuu uudessa ikkunassa) vuosien⁠(avautuu uudessa ikkunassa) ajan. Vastaavasti kesäkuussa brasilialaiset tiedotusvälineet uutisoivat⁠(avautuu uudessa ikkunassa) Brasilian kansalaisesta, joka oli matkustanut Ukrainaan liittyäkseen armeijaan, joutunut venäläisjoukkojen vangiksi ja sitten väittänyt televisioidussa lausunnossa, että hänet oli huijattu taistelemaan. ChatGPT:tä käyttäneet toimijat yrittivät väittää, että juttu toisti heidän operaationsa viestejä. Todellisuudessa siinä lainattiin vangin omaa videota⁠(avautuu uudessa ikkunassa). Tämä viittaa siihen, että toimijat yrittivät kohdistaa vaikuttamisoperaation omiin työnantajiinsa ulkopuolisen yleisön sijaan.

Osassa toimijoiden raporteista viitattiin itseään ”tutkimusalustaksi” kutsuvaan Social Research Centeriin (venäjäksi Центр социологических исследований). SRC:n verkkosivuston mukaan se keskittyy Latinalaisen Amerikan intialaiseen diasporaan sekä Intian ja alueen maiden välisiin suhteisiin.

Sisäiset raportit viittasivat siihen, että toimijat hallitsivat ajatushautomoa eivätkä vain tehneet yhteistyötä sen kanssa. Niissä viitattiin esimerkiksi rekrytointi- ja irtisanomispäätöksiin, palkkatasoihin, henkilöstösuunnitelmiin ja meneillään oleviin tutkimushankkeisiin. Olennaista oli myös se, että raporttien mukaan toimijat olivat luoneet ”Mia Clark” -nimisen valehenkilöllisyyden hoitamaan operaation sosiaalisen median toimintaa ja yhteydenpitoa Latinalaisessa Amerikassa työskentelevään henkilöstöön. Käytettävissä oleva näyttö viittaa siihen, että paikalliset työntekijät eivät tienneet työskentelevänsä venäläiselle operaatiolle, vaan tekivät tutkimustehtäviä vilpittömin mielin. Tällaisten tietämättömien välikäsien käyttö muistuttaa vahvasti aiempaa, niin ikään Prigožinin piiriin kytkeytynyttä venäläisoperaatiota ”PeaceData”, jonka Meta paljasti⁠(avautuu uudessa ikkunassa) vuonna 2020.

Venäläistoimijoiden raporttien perusteella heidän Latinalaisessa Amerikassa työskentelevä henkilöstönsä haastatteli asiantuntijoita ja kommentaattoreita eri puolilla aluetta ja laati sitten tutkimusraportteja havaintojensa pohjalta. Aiheet vaihtelivat BRICS-ryhmää koskevan yleisen mielipiteen laajasta analyysistä Brasilian talouden yksityiskohtaiseen vertailuun presidenttien Jair Bolsonaron ja Luiz Inácio Lula da Silvan kausilla. Joskus venäläistoimijat laativat tutkimushankkeista tilanneraportteja jo ennen tutkimusten julkaisua, mikä viittaa tiiviiseen osallistumiseen tuotantoprosessiin. Löysimme SRC:n verkkosivustolta selvästi yli 60 artikkelia, joista valtaosa vaikutti olevan itse kirjoitettuja. Tämä erottaa Dark Clarkin hiljattain paljastamastamme venäläislähtöisestä operaatiosta, joka myös käytti ajatushautomoa peiteorganisaationa mutta plagioi suurimman osan sisällöstään. Se viittaa pyrkimykseen rakentaa pitkäikäisempi peiteorganisaatio, jolla on yhteyksiä kaikkialla Latinalaisessa Amerikassa.

Venäläistoimijat väittivät yrittäneensä luoda sosiaalisen median tilien ja sivujen verkoston SRC:n työn esiin tuomiseksi. Heidän raporttiensa mukaan sosiaalisen median toiminnassa ilmeni ongelmia, kun eri puolilla maailmaa olevat toimijat yrittivät kirjautua samoille tileille, mikä johti tilirajoituksiin. Tästä näkyy jälkiä avoimissa lähteissä: esimerkiksi SRC:n X-päätilin läpinäkyvyystiedoissa sijainniksi ilmoitettiin Saksa (mahdollisesti VPN:n käytön vuoksi), mutta yhteys oli muodostettu Venäjän federaation App Storen kautta. Yhden Instagram-tilin läpinäkyvyystiedoissa taas ylläpitäjän sijainniksi ilmoitettiin Venezuela. Yhdelläkään löytämistämme kolmesta SRC-brändätystä Facebook-tilistä ei ollut riittävästi seuraajia, jotta ylläpitäjän sijaintitiedot olisivat tulleet näkyviin.

Vasemmalla Social Research Centeriin liittyvä X-tili. Huomaa läpinäkyvyystieto, jonka mukaan tiliin oli muodostettu yhteys Venäjän federaation sovelluskaupan kautta. Oikealla SRC:n Instagram-tili: huomaa sijainti Venezuelassa.

Toimijat raportoivat erityisistä ongelmista LinkedInissä, johon he kertoivat luoneensa nimenomaisesti väärennetyn tilin edustamaan SRC:tä. Verkoston rakentaminen sille oli kuitenkin vaikeaa. Raporttien mukaan ratkaisuna oli luoda lisää valetilejä, jotka seuraisivat ensimmäistä tiliä ja saisivat sen näyttämään uskottavammalta. Elokuun 17. päivänä samaa Social Research Centerin brändiä käyttävällä LinkedIn-tilillä oli 961 seuraajaa. Se ilmoitti henkilöstömääräkseen 200–500, mutta listasi vain kaksi työntekijää.

Raporttien päivittämisen lisäksi toimijat pyysivät toisinaan malliamme auttamaan operaatioissa käytettävien tekstien suunnittelussa ja luomisessa. He pyysivät esimerkiksi apua sen varmistamiseen, että väärennösten aksentti, sanasto ja viranomaistyyli sopivat kyseiseen maahan. Tämän osuus kokonaistyömäärästä oli suhteellisen pieni, ehkä siksi, että operaatiossa näyttää olleen mukana ainakin yksi Latinalaisesta Amerikasta kotoisin oleva espanjan äidinkielinen puhuja, jolloin tekoälyn kieliavulle oli vähemmän tarvetta.

Esimerkiksi eräs venäjänkielinen toimija pyysi kerran mallia auttamaan venäjänkielisen kirjeen laatimisessa. Kirjeen tarkoitus oli esittää Ukrainan Panaman-kunniakonsuli osallisena korruptioon. Espanjankielinen toimija pyysi sitten mallia kääntämään kirjeen espanjaksi ja tuottamaan sen oheen äänikäsikirjoituksen. Kirjeen tekstiä vastaava kuva ja toimijan käsikirjoitusta vastaava selostus julkaistiin TikTokissa tilillä, joka esiintyi uutismediana mutta käytti panamalaisen TVN Noticiasin⁠(avautuu uudessa ikkunassa) logoa. TikTok-kanavalla oli vain yksi seuraaja, ja se lopetti julkaisemisen levitettyään tämän väärennöksen.

TikTok-julkaisu, jossa näkyy operaation tuottaman tekstin sisältävä kirje. Myös selostuksen käsikirjoitus on operaation tuottama.

Toisella kerralla Venäjällä ollut espanjankielinen toimija antoi mallille venäjänkielisen käsikirjoituksen, jossa väitettiin Noboan loukanneen Ecuadorin köyhiä, ja pyysi kääntämään sen ecuadorilaiseksi espanjaksi. Kolmannella kerralla maaliskuussa sama käyttäjä pyysi mallia oikolukemaan espanjankielisen sopimusluonnoksen. Sen osapuoliksi oli merkitty ”International Security Solutions FZE” -niminen yritys ja Ecuadorissa oleva yksityishenkilö, ja sen väitettiin koskevan infrastruktuuripalvelujen tarjoamista Ukrainassa. Käyttäjän kysymykset keskittyivät kielen ja ulkoasun parantamiseen, muun muassa siihen, mitkä sanat pitäisi lihavoida.

Käyttäjän sopimusta koskevat kehotteet päättyivät, kun sanamuoto oli viimeistelty. Avoimiin lähteisiin perustuva tutkimus kuitenkin osoittaa, että ”sopimuksen” kuvaa levitettiin myöhemmin sosiaalisessa mediassa⁠(avautuu uudessa ikkunassa). Sillä tuettiin väitettä, että Noboan hallitus oli tehnyt yhteistyötä peiteyrityksen kanssa huijatakseen ecuadorilaisia värväytymään Ukrainan armeijaan. Väärennös levisi niin laajalle, että se johti faktantarkistukseen⁠(avautuu uudessa ikkunassa) huhtikuun alussa. Faktantarkistajat totesivat, ettei yritystä ”löydy Ecuadorin yritys-, arvopaperi- ja vakuutusvalvontaviranomaisen rekisteristä”.

Tämän operaation vaikutus vaatii erityisen huolellista arviointia. Kuten edellä todettiin, yksi toimijoiden keskeisistä toimintatavoista oli ottaa nimiinsä toimintaa, jolla ei ollut mitään tekemistä heidän operaationsa kanssa. Siksi heidän sisäisissä raporteissaan esittämiään väitteitä omasta vaikutuksestaan ei voi ottaa sellaisinaan. Myöskään joitakin valheellisia tarinoita, joita he väittivät saaneensa levitykseen, ei löytynyt avoimista lähteistä. Niitä oli mahdollisesti levitetty suljetuissa kanavissa, ne oli jo poistettu tai niitä ei ollut todellisuudessa julkaistu.

Avoimista lähteistä saatu näyttö antoi kuitenkin mahdollisuuden vahvistaa osan heidän väitteistään. Faktantarkistajat raportoivat myöhemmin joistakin väärennöksistä, joita operaatio väitti levittäneensä, ja hallitukset kumosivat niitä. Tämä viittaa siihen, että ne olivat levinneet riittävän laajalle ansaitakseen vastauksen. Muissa tapauksissa löysimme verkosta sisältöä, joka vastasi läheisesti operaation tuottamaa sisältöä. Merkittävintä oli operaation väite, että se oli huijannut perulaisen koulun järjestämään tapahtuman, jossa esiteltiin Banderaa. Tapauksesta uutisoitiin myöhemmin sekä Latinalaisessa Amerikassa että Euroopassa, ja se näyttää saaneen ainakin yhden puolalaisen europarlamentaarikon kommentoimaan asiaa.

Arvioisimme tämän operaation kuuluvan luokkaan 5 vaikuttamisoperaatioiden Breakout-asteikolla⁠(avautuu uudessa ikkunassa), jonka luokat ulottuvat 1:stä (alin) 6:een (ylin). Näyttö viittaa siihen, että se sai poliitikkoja useissa maissa kommentoimaan julkisesti. Tämä on ensimmäinen luokan 5 operaatio, jonka toimintaan olemme puuttuneet raportointimme alkamisen jälkeen.

Iranilaislähtöinen operaatio ujuttaa pitkiä artikkeleja tekaistuilla kirjoittajanimillä verkkouutismedioihin.

Suljimme joukon Iranista lähtöisin olevia ChatGPT‑tilejä. Niillä kirjoitettiin kehotteita persiaksi ja tuotettiin sisältöä persiaksi ja englanniksi. Toimijat peittivät sijaintinsa käyttämällä ChatGPT:tä VPN-yhteyksillä.

Operaatio käytti mallejamme pitkien artikkelien ja juttutarjousten hiomiseen, sosiaalisen median kommenttien tuottamiseen sekä sisäisten raporttien viimeistelyyn. Toimijat tarjosivat artikkelejaan seitsemällä eri kirjoittajanimellä, joten olemme nimenneet kampanjan ”Bogus Bylinesiksi”. Pitkät artikkelit keskittyivät Yhdysvaltojen ja Iranin konfliktiin. Myös suurin osa kommenteista käsitteli konfliktia. Pienempi osa koski Yhdysvaltojen politiikkaa, tyypillisesti konfliktin laajemmassa yhteydessä.

Heidän keskeisten toimintalinjojensa havaittavissa oleva vaikutus vaihteli huomattavasti. Löysimme lähes 100 artikkelia, jotka oli julkaistu tai uudelleenjulkaistu operaation käyttämillä kirjoittajanimillä noin tusinassa verkkomediassa eri puolilla maailmaa. Nämä olivat pieniä tai keskisuuria medioita, jotka keskittyivät yleensä kansainvälisiin asioihin, geopolitiikkaan ja Lähi-idän tapahtumiin. Sen sijaan yksikään sosiaalisen median kommenteista ei näytä saaneen merkittävästi tykkäyksiä, jakoja tai vastauksia. Toimijoiden sisäisissä raporteissa sosiaalisen median vaikutusta mitattiin harhaanjohtavalla laskentatavalla, mahdollisesti toiminnan tehokkuuden liioittelemiseksi.

Kokonaisuutena toiminta vaikutti sopivan kaupalliseen toimijaan, joka toteuttaa vaikuttamiskampanjaa toimeksiannosta. Emme kuitenkaan pysty tunnistamaan kyseistä toimijaa. Olemme jakaneet tapausta koskevia tietoja asianomaisille viranomaisille.

Tämän operaation laajimmalle ulottunut toiminta koostui siitä, että ChatGPT:tä pyydettiin tarkistamaan ja hiomaan pitkiä englanninkielisiä artikkeleja Yhdysvaltojen ja Iranin konfliktin geopolitiikasta. Tyypillisissä kehotteissa mallia pyydettiin arvioimaan englanninkielistä luonnosta tietyn verkkomedian julkaisukriteerien perusteella ja ehdottamaan muutoksia, joilla luonnos saataisiin täyttämään ne. Hyväksyttyään muutokset toimijat pyysivät mallia laatimaan sähköpostin, jolla he voisivat tarjota artikkelia kyseisen verkkomedian toimittajalle.

Nämä tarjousviestit laadittiin seitsemällä eri tekaistulla kirjoittajanimellä: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams ja Alice Johnson. Joidenkin artikkelien yhteydessä verkossa julkaistujen esittelyjen mukaan kukin valehenkilö esiintyi länsimaisena journalistina, yleensä yhdysvaltalaisena, joskin Noah Lamingtonin esittelyssä sijainniksi väitettiin Uutta-Seelantia. Erikoisalaksi ilmoitettiin usein kansainvälinen politiikka, Lähi-itä, ihmisoikeudet tai konfliktit. Yhden valehenkilön, ”Michael Harrisonin”, kohdalla toimijat pyysivät mallia kirjoittamaan myös itse esittelyn. (Huomionarvoista on, että maaliskuussa Meta puuttui⁠(avautuu uudessa ikkunassa) iranilaiseen vaikuttamisoperaatioon, jossa esiintyi myös ”Michael Harrison” -niminen journalistin valehenkilöllisyys.)

Joidenkin valehenkilöllisyyksien uskottavuutta tuettiin useiden sosiaalisen median alustojen tileillä. Esimerkiksi Michael Harrisonin valehenkilöllisyyttä tukivat tilit Mediumissa, X:ssä ja Facebookissa. Ervin B. Hoskinsin valehenkilöllisyydellä oli tilit X:ssä, Facebookissa, Instagramissa ja Threadsissa. Esittelyn mukaan hän oli ”yhdysvaltalainen freelance-kirjoittaja”, mutta sosiaalisen median läpinäkyvyystiedot sijoittivat tilit Iraniin.

Ylhäällä Ervin Hoskins -valehenkilöllisyyden Instagram-esittely. Alhaalla vasemmalla X-tilin läpinäkyvyystiedot, jotka osoittavat Länsi-Aasian Android-sovelluksen käytön. Alhaalla oikealla Instagram-tilin läpinäkyvyystiedot, joiden mukaan sijainti on Iran. Meta sulki Instagram-tilin elokuussa.

Avoimien lähteiden tutkintamenetelmillä löysimme lähes 100 artikkelia, jotka oli julkaistu jollakin toimijoiden käyttämistä kirjoittajanimistä yli tusinassa eri julkaisussa. Nämä julkaisut keskittyivät yleensä kansainvälisiin asioihin, geopolitiikkaan ja Lähi-idän tapahtumiin, toisinaan sodanvastaisesta tai edistysmielisestä näkökulmasta. Varhaisin löytämämme artikkeli oli julkaistu heinäkuussa 2025 ja viimeisin lokakuussa 2026. Julkaisutahti kiihtyi huomattavasti Yhdysvaltojen ja Iranin konfliktin puhjettua.

Artikkelien aikajana kirjoittajan ja teeman mukaan heinäkuusta 2025 syyskuuhun 2026. Huomaa Yhdysvaltojen ja Iranin suhteita käsittelevien julkaisujen tiheys maaliskuusta 2026 alkaen.

Esimerkkejä tähän operaatioon liittyvillä kirjoittajanimillä eri verkkomedioissa helmi–heinäkuussa 2026 julkaistujen artikkelien otsikoista.

Ainakin joitakin artikkeleja nostettiin esiin kyseisten medioiden sosiaalisen median tileillä. Tämä tarjosi iranilaistoimijoille mahdollisen väylän yleisöihin, joita he eivät muuten olisi tavoittaneet.

Artikkelien lisäksi uhkatoimijat pyysivät ChatGPT:tä tuottamaan kommenttieriä geopoliittisista tai poliittisista aiheista englanniksi tai persiaksi. Tyypillisesti toimijat syöttivät mallille sosiaalisen median julkaisun tekstin tai kuvakaappauksen ja pyysivät joukon vastauksia, jotka tukivat heidän yleistä linjaansa. Vastaukset julkaistiin sitten verkossa, usein muutaman minuutin sisällä toisistaan. Toimijoiden sisäisissä raporteissa viitattiin sekä manuaaliseen että automatisoituun julkaisemiseen. Meillä ei ole näyttöä siitä, että automatisointi olisi toteutettu malliemme avulla.

Operaation tuottamia ja heinäkuussa julkaisemia twiittejä englanniksi vasemmalla ja persiaksi oikealla. Englanninkieliset kommentit vastasivat englanninkieliseen twiittiin, jossa varoitettiin Yhdysvaltojen valmistelevan ”laajamittaista hyökkäystä” Iraniin. Kaikki kuvan englanninkieliset kommentit julkaistiin 10 minuutin aikana. Persiankieliset kommentit vastasivat persiankieliseen twiittiin Yhdysvaltojen iskuista Iraniin, ja ne julkaistiin 13 minuutin sisällä.

Osa tästä erissä tehdystä kommentoinnista koostui vastauksista sosiaalisen median julkaisuihin, jotka käsittelivät operaation omia uutisartikkeleja. Toimijat syöttivät mallille kuvakaappauksia artikkeleitaan esiin nostavista julkaisuista ja tuottivat sitten niitä kehuvia tai puoltavia kommentteja, todennäköisesti saadakseen artikkelit näyttämään suositummilta.

Yhdysvaltalaisen paikallisuutissivun Facebook-julkaisu, jossa jaetaan operaation tuottama artikkeli, sekä operaation tuottamia kommentteja julkaisuun.

Useimmat kommenttierät keskittyivät yleisemmin Iranin, Yhdysvaltojen ja Israelin väliseen konfliktiin. Käyttäjät pyysivät kommentteja esimerkiksi ohjusiskuista, tulitauoista ja diplomaattisista siirroista. Ohjeena oli kuvata Yhdysvallat hyökkääjänä, Israel Yhdysvaltojen epäluotettavana liittolaisena ja Iran uhmakkaana mutta sitkeänä uhrina. Toimijat tuottivat erityisen paljon vastauksia Iranin hallintoa arvostelevan, Yhdistyneessä kuningaskunnassa toimivan Iran International -satelliittikanavan julkaisuihin: yli kaksi tusinaa erää vihamielisiä persiankielisiä vastauksia. Pienempi osa eristä sisälsi vastauksia Yhdysvaltojen poliittisia kysymyksiä käsitteleviin sosiaalisen median julkaisuihin, tyypillisesti niin ikään konfliktin laajemmassa yhteydessä.

Operaation tuottamia Instagram-kommentteja vastauksina Yhdysvaltojen politiikkaa koskeviin julkaisuihin.

Löysimme verkosta pienen määrän näitä vastauksia. Paljon useampia ei löytynyt avoimista lähteistä tehdyissä hauissa, mahdollisesti siksi, ettei niitä ollut julkaistu tai ne oli julkaistu tileillä, jotka oli jo poistettu. (Esimerkiksi kolmen journalistin valehenkilöllisyyden – Ericka Feusierin, Alice Johnsonin ja Jenny Williamsin – julkaistuissa esittelyissä mainittiin X-käyttäjätunnukset. Kaikki nämä tilit oli jäädytetty elokuuhun 2026 mennessä.) Joillakin verkossa kommentteja julkaisseilla tileillä oli länsimaisilta vaikuttavat nimet, mutta tilien sijaintitiedoissa näkyi Iran.

Yllä esitetyt kommentit julkaisseiden Instagram-tilien läpinäkyvyystiedot, joiden mukaan tilit sijaitsivat Iranissa.

Löytämämme julkaistut vastaukset muodostivat tyypillisesti vain pienen osan kyseisen julkaisun kaikista kommenteista. Tämä viittaa siihen, ettei toimijoilla ollut hallitsevaa ääntä aitojen vastausten joukossa. Ne eivät myöskään näyttäneet saaneen merkittävästi reaktioita. Monet operaation vastausten tykkäyksistä tulivat tileiltä, jotka olivat itsekin kytköksissä operaatioon. Olemme jakaneet tapausta koskevia tietoja alan kumppaneille, joilla on parhaat edellytykset arvioida kokonaisvaltaisesti sisällön saamaa vuorovaikutusta.

Pyrkimys saada toiminta näyttämään suositummalta ei rajoittunut julkisiin julkaisuihin. Sisällöntuotannon ohella toimijat pyysivät toisinaan ChatGPT:tä hiomaan tekstejä, jotka vaikuttivat heidän sosiaalisen median kampanjaansa koskevilta sisäisiltä raporteilta. Tyypillisesti he antoivat mallille joukon tilastotietoja ja pyysivät sitä muuntamaan ne viimeistellyiksi esityksiksi.

Tämä ei ole ensimmäinen torjumamme operaatio, joka käytti tekoälyä oman⁠(avautuu uudessa ikkunassa) itsearviointinsa⁠(avautuu uudessa ikkunassa) kirjoittamiseen. Iranilaistoimijoiden itsearvioinnissa huomiota herättävintä oli heidän käyttämänsä menetelmä. Heidän tärkein ”vaikuttavuusmittarinsa” oli niiden julkaisujen katselukertojen määrä, joihin he vastasivat, ei itse vastausten katselukertojen määrä. Katselukerrat laskettiin ennen vastausten julkaisemista ja määrittelemättömän ajan kuluttua siitä. Laskentatapa ei huomioinut katselukertoja, jotka saattoivat johtua muista tekijöistä, kuten alkuperäisten julkaisujen suosiosta tai muista kommenteista. Siksi se liioitteli suuresti operaation vaikutuslukuja. Tämä viittaa siihen, etteivät toimijat joko tunteneet parempaa laskentatapaa tai päättäneet käyttää sitä.

Avoimista lähteistä saatavan näytön perusteella operaation kahden päätoimintalinjan todennäköiset vaikutukset näyttävätkin olleen hyvin erisuuruisia.

Löytämämme sosiaalisen median vastaukset saivat yleensä vain vähän tykkäyksiä, katselukertoja ja kommentteja: määrät olivat yksi- tai kaksinumeroisia. Kuten edellä todettiin, vastaukset muodostivat tyypillisesti vain pienen osan kyseisen julkaisun kaikista kommenteista. Arvioisimme tämän osan operaatiosta kuuluvan luokkaan 2 vaikuttamisoperaatioiden Breakout-asteikolla⁠(avautuu uudessa ikkunassa), jonka luokat ulottuvat 1:stä (alin) 6:een (ylin). Kommentteja oli useilla alustoilla, mutta laajemmasta läpimurrosta tai kyvystä hallita vastauskeskusteluja oli vain vähän merkkejä.

Journalistien valehenkilöllisyydet sen sijaan onnistuivat saamaan artikkelejaan useisiin medioihin, joista joillakin oli huomattava seuraajakunta. Esimerkiksi yhdellä operaation artikkeleja julkaisseella verkkomedialla oli elokuussa 2026 lähes 2 miljoonaa seuraajaa Facebookissa, lähes 355 000 X:ssä ja yli 544 000 Instagramissa. Arvioisimme tämän osan operaatiosta kuuluvan luokkaan 4, koska sen sisältö pääsi toistuvasti läpi useisiin tiedotusvälineisiin.