Uue Venemaalt lähtuva varjatud mõjutuskampaania tõkestamine
Meie missioon on tagada, et üldine tehisintellekt tooks kasu kogu inimkonnale. Edendame seda missiooni, rakendades oma uuendusi tehisarutööriistade loomiseks, mis aitavad inimestel keerulisi probleeme lahendada. Muu hulgas loome tööriistu, mis võimaldavad meil tuvastada, uurida, tõkestada ja paljastada varjatud mõjutusoperatsioone: eksitavaid katseid manipuleerida avaliku arvamusega või mõjutada poliitilisi tulemusi, avaldamata nende taga olevate isikute tegelikku identiteeti või kavatsusi.
Hiljuti blokeerisime Venemaalt pärinevate ChatGPT kontode rühma, mida kasutati Iisraelis asuva ja end „ekspertide kogukonnaks“ nimetava International Burke Institute’i (IBI) reklaamimiseks. Tehisaru loodud sotsiaalmeediapostituste uurimisest alguse saanud juhtum viis meid palju ulatuslikuma mõjutusoperatsioonini. Selle keskmes oli veebisait, mis sisaldas kopeeritud ja valesti omistatud teadustöid, Venemaad soodsas valguses näitavat „suveräänsusindeksit“ ning katseid varjata Operatorite Venemaa päritolu. Kuigi kampaania näib olevat jõudnud suhteliselt väikese vaatajaskonnani, eristab selle keerukas ülesehitus seda teistest Venemaaga seotud(avaneb uues aknas) mõjutus(avaneb uues aknas)operatsioonidest(avaneb uues aknas), mida oleme alates Ukraina sõja algusest tõkestanud(avaneb uues aknas). Selles aruandes selgitame, kuidas operatsioon toimis, milline oli selles ChatGPT roll ja mida me selle tõkestamiseks tegime.
Blokeerisime ChatGPT kontode rühma, mis pärines suure tõenäosusega Venemaalt. Operatorid sisestasid venekeelseid juhiseid, et luua Substacki, Telegrami, X-i, Facebooki ja LinkedIni postitatavaid sotsiaalmeediakommentaare. Enamik loodud kommentaaridest oli inglise keeles ning Operatorid käskisid ChatGPT‑l peita kõik keelelised vihjed nende Venemaa päritolule. Kuna me ei võimalda Venemaalt oma mudelitele juurdepääsu, kasutasid nad meie platvormile pääsemiseks VPN-e.
Suur osa loodud sisust reklaamis end „ekspertide kogukonnaks“ nimetavat International Burke Institute’i (IBI). IBI kaubamärk oli seotud 2025. aasta veebruaris registreeritud veebisaidiga. Saidil väideti, et instituut asub Iisraelis. Veebisaidil avaldatud artikleid ei loodud meie mudelitega. Paljud neist olid kopeeritud tegelikest teadustöödest ja mõnikord valele autorile omistatud. Mõne näib olevat koostanud mõne slaavi keele kõneleja ja seejärel masinaga tõlkinud. Näiteks kasutatakse alloleval IBI veebisaidi kuvatõmmisel ebaloomulikku väljendit, mida saab kõige tõenäolisemalt seletada sõnasõnalise masintõlkega mõnest slaavi keelest.
Kuvatõmmis Saksamaad käsitlevast artiklist IBI veebisaidil. Väljend „Svetofori koalitsioon“ viitab Saksamaa sotsialistide, liberaalide ja roheliste koalitsioonile, mida nende erakondade värvide — punase, kollase ja rohelise — järgi nimetatakse „valgusfoorikoalitsiooniks“ või saksa keeles „Ampelkoalition“. Sõna „svetofor“ (светофор) tähendab mitmes slaavi keeles, sealhulgas vene keeles, valgusfoori, kuid inglise või saksa keelt kõneleval inimesel oleks äärmiselt ebatõenäoline seda koalitsiooni nii nimetada. Tõenäoliselt tõlgiti see masinaga mõnest slaavi keelest.
Meile teadaolevalt on tegu uue varjatud mõjutuskampaaniaga, millest pole varem teatatud. Selle silmapaistvaim tunnus on väidetava „mõttekoja“ loodud ja reklaamitud „suveräänsusindeks“, millega kiidetakse Venemaad ning halvustatakse lääneriike. See on esimene kord, kui oleme tõkestanud Venemaaga seotud mõjutusoperatsiooni, mille korraldamiseks nähti nii palju vaeva.
Operatsioonis kasutati ChatGPT‑d peamiselt IBI veebisaidi artikleid reklaamivate sotsiaalmeediapostituste loomiseks. Tuvastasime selliseid postitusi X-is, LinkedInis, Facebookis, Substackis ja Telegramis. Osa postitati IBI nime ja logoga kontodelt, teised näisid pärinevat tavakasutajatelt (tõenäoliselt ebaautentsetelt), kelle peamine tegevus oli IBI artiklite postitamine.
Selle operatsiooni loodud ja LinkedIni postitatud väljaanne
Lisaks neile omaalgatuslikele postitustele koostasid Operatorid vastuseid ka tegelike Substacki kasutajate postitustele mitmesugustel teemadel. Neis vastustes paluti tavaliselt IBI kanalit jälgida ning IBI konto postitas need Substacki.
Selle operatsiooni loodud Substacki kommentaar vastuseks platvormil avaldatud postitusele.
Lisaks IBI-d käsitlevale sisule lõi üks Operator saksakeelseid postitusi, mis avaldati Telegrami kanalis nimega „Lahme Ente“ („lonkav part“). Neis postitustes kritiseeriti sageli Ukrainat, EL-i ja Saksamaa valitsust ning toetati paremaid suhteid Venemaaga.
Teine Operator lõi IBI-ga seotud sisu kõrval logod tosinale Saksamaale, USA-le, Prantsusmaale, Poolale ja Türgile keskendunud Telegrami kanalile, sealhulgas Lahme Entele. Mõni neist kanalitest postitas aeg-ajalt IBI kohta või jagas IBI enda postitusi. Teine Operator küsis korduvalt ka venekeelseid kokkuvõtteid nende kanalite tegevusest. Ühe USA-le keskendunud ja end Ameerika väljaandena esitlenud kanali eluloos leidus mitu võõrkeelsele autorile viitavat tunnust.
Telegrami konto „Ameerika vaatleja“ profiil. Üks selle juhtumiga seotud ChatGPT kasutaja lõi kanalile profiilipildi ja küsis korduvalt venekeelseid kokkuvõtteid. Pange tähele ebaloomulikku inglise keelt, sealhulgas mõistatuslikku väljendit „täiesti kulumata vaatenurk hägusele“.
Operatsiooni keskmes näis olevat International Burke Institute (IBI), kuigi meie tõkestatud tegevus keskendus veebisaidile viitavale või seda reklaamivale sotsiaalmeediasisule, mitte otse saidil avaldatud sisule.
Veebisait esitles end Iisraelis asuva „ekspertide kogukonnana“ ja avaldas ka tänava-aadressi. 17. juuli seisuga väideti veebisaidil, et instituudiga on seotud suur hulk maailmatasemel eksperte, sealhulgas sellised tuntud nimed nagu Francis Fukuyama ja Noam Chomsky, ning avaldati mitmesuguseid uurimistöid. IBI veebisaidil ekspertidega seostatud ja 2025. aasta septembrist 2026. aasta maini avaldatud 36 artiklist koosneva valimi kontrollimisel selgus aga, et 34 artiklit olid kopeeritud mujalt internetist.
Mõni neist artiklitest oli aastaid vana, teiste autoriks oli märgitud vale inimene. Näiteks näib, et üks Hiina-Pakistani majanduskoridori käsitlev artikkel kopeeriti Cambridge University Pressi originaalist, kuid selle autoriks märgiti ekslikult Nottinghami Ülikooli professor, kelle eriala on Lõuna-Aasia poliitika.
28. detsembril 2025 avaldatud artikkel IBI veebisaidil(avaneb uues aknas), mille autoriks on märgitud Nottinghami Ülikooli professor Katharine Adeney(avaneb uues aknas)
Artikli originaal, mille kirjutas Bradfordi Ülikooli emeriitprofessor Yunas Samad ja mille avaldas Cambridge University Press(avaneb uues aknas) 7. juulil 2025.
Teine, rände juhtimist käsitlev artikkel näib olevat kopeeritud Migration Policy Institute’ilt, kuid selle autoriks märgiti ekslikult Austraalia toiduteaduse professor. Selline käitumine viitab soovile muuta IBI veebisait usaldusväärsemaks, täites selle ehtsa sisuga ja varjates samal ajal sisu tegelikku allikat.
Kuvatõmmis IBI veebisaidi autorilehest(avaneb uues aknas), kus on 21. jaanuaril 2026 avaldatud artikkel, mille autoriks on märgitud Kate Howell, kes on väidetavalt Migration Policy Institute’i ekspert.
Artikli originaal, mille avaldas Migration Policy Institute(avaneb uues aknas) 2025. aasta aprillis ning mille autorid on Meghan Benton, Natalia Banulescu-Bogdan ja Kate Hooper.
Kate Howelli 2017. aasta esinejaleht(avaneb uues aknas). Howell on tegelikult Austraalia toidukeemia professor(avaneb uues aknas) ning lehel on sama foto mis IBI lehel.
Lisaks neile artiklitele sisaldas IBI veebisait aruandeid eri riikide ja nende suveräänsuse kohta, mida mõõdeti instituudi indeksiga. Neid ei loodud meie mudelite abil. Osa aruandeid esitati kahe riigi võrdlusena. Teised keskendusid üksikutele riikidele, eriti Venemaa sõda Ukraina vastu kritiseerivatele riikidele, nagu Prantsusmaa ja Saksamaa, ning Euroopa Liidule. Operatsioon levitas sarnaseid narratiive ka Ameerika Ühendriikide kohta. Need aruanded olid tavaliselt kriitilised ja kohati lausa poleemilised. Näited:
- Prantsusmaa(avaneb uues aknas): „Kümme aastat makronismi andis täpselt sellise tulemuse, mida pidi andma Rothschildi pangast Élysée paleesse tulnud juht: Prantsusmaa avati kui ajaloolise kapitali varalaegas ja nüüd müüakse seda tükkhaaval maha.“
- USA(avaneb uues aknas): „Trump saabus [Pekingisse] maailma kõrgeima suveräänsusindeksiga ja lahkus pärast mitut sammu, mida [...] võib pidada autonoomia vabatahtlikuks vähendamiseks.“
- Saksamaa(avaneb uues aknas): „Saksamaa vajab tööstuspoliitikat, mis kaitseb töökohti, mitte üksnes aktsiahindu. Riik vajab ausat arutelu identiteedi üle, ilma tabude ja hüsteeriata. Ta vajab tõelist sõjalist suveräänsust, mitte sõltuvust Ameerika baasidest. Ja ta vajab poliitikuid, kelle esmane lojaalsus kuulub Saksa rahvale, mitte New Yorgi ettevõtete juhatustele.“
- EL(avaneb uues aknas): „Slovakkia versus Itaalia: „suure“ liidu pantvangriikide suveräänsuse paradoksid“
IBI-d reklaamiva sotsiaalmeediasisu lõid Venemaal asuvad ChatGPT kasutajad, kes nägid vaeva oma päritolu varjamisega, ning suur osa IBI veebisaidi sisust näis olevat mujalt kopeeritud. Mõned veebijäljed viitavad siiski, et käputäis tegelikke Iisraeli elanikke võis esindada IBI-d ka artiklite esitamisel ja konverentsidel. Meil pole võimalik kindlaks teha nende inimeste, IBI ja Venemaal asuvate Operatorite omavahelisi seoseid.
Operatsiooni vahetu mõju näib olevat olnud piiratud: tavapärased sotsiaalmeediapostitused kogusid vähe vaatamisi ning IBI ametlikel kontodel oli vähe tellijaid. Operatsiooni Telegrami kanalid näivad olevat kogunud rohkem tellijaid, tavaliselt 10 000–20 000 jälgijat kanali kohta. Hinnates operatsiooni mõju Brookingsi läbimurdeskaala(avaneb uues aknas) abil, paigutaksime selle kolmanda kategooria alumisse otsa: tegevus toimus mitmel platvormil ja esines märke jõudmisest tegeliku vaatajaskonnani.
Operatsiooni tähtsus ei seisne siiski niivõrd selle saavutatud vaatajaskonnas, kuivõrd loodud taristus. Kuigi osalised kasutasid ChatGPT‑d vaid üksikute reklaampostituste loomiseks, suunasid need postitused muus osas usaldusväärsena näiva institutsiooni juurde, millel olid väidetavad eksperdid, taasavaldatud teadustööd ja väidetavalt oma riskindeks. See näitab, kuidas mõjutajad saavad kasutada tehisaru laiema tegevuse abitööriistana, et luua kunstlikult autoriteeti, varjata neile sobivate narratiivide allikat ja rajada ressursse, mida saab aja jooksul laiendada. Samuti näitab see, kuidas tehisaru kasutamine abitööriistana võib viia laiema operatsiooni paljastamiseni.
