Narušenie novej skrytej vplyvovej kampane z Ruska
Naším poslaním je zabezpečiť, aby všeobecná umelá inteligencia prinášala úžitok celému ľudstvu. Toto poslanie napĺňame zavádzaním našich inovácií a vytváraním nástrojov AI, ktoré ľuďom pomáhajú riešiť náročné problémy. Patrí sem aj vývoj nástrojov, ktoré nám umožňujú odhaľovať, vyšetrovať, narúšať a zverejňovať skryté vplyvové operácie (IO): klamlivé pokusy manipulovať verejnú mienku alebo ovplyvňovať politické výsledky bez odhalenia skutočnej identity či zámerov aktérov, ktorí za nimi stoja.
Nedávno sme zablokovali skupinu účtov ChatGPT pochádzajúcich z Ruska, ktoré sa používali na propagáciu organizácie International Burke Institute (IBI), označujúcej sa za „komunitu expertov“ so sídlom v Izraeli. Vyšetrovanie príspevkov na sociálnych sieťach vytvorených pomocou AI nás priviedlo k oveľa rozsiahlejšej vplyvovej operácii. Jej jadrom bol web so skopírovanými akademickými prácami pripísanými nesprávnym autorom, index „suverenity“ vykresľujúci Rusko priaznivo a snahy utajiť ruský pôvod operátorov. Hoci kampaň zrejme oslovila pomerne malé publikum, prepracovanosťou sa odlišuje od iných vplyvových(otvorí sa v novom okne) operácií(otvorí sa v novom okne) prepojených s Ruskom(otvorí sa v novom okne), ktoré sme od začiatku vojny na Ukrajine narušili(otvorí sa v novom okne). Táto správa vysvetľuje, ako operácia fungovala, akú úlohu v nej zohrával ChatGPT a čo sme urobili na jej narušenie.
Zablokovali sme skupinu účtov ChatGPT, ktoré s veľkou pravdepodobnosťou pochádzali z Ruska. Operátori zadávali pokyny v ruštine na vytváranie komentárov pre sociálne siete, ktoré zverejňovali na platformách Substack, Telegram, X, Facebook a LinkedIn. Väčšina vytvorených komentárov bola v angličtine a operátori prikázali ChatGPT skryť všetky jazykové stopy, ktoré by naznačovali ich ruský pôvod. Keďže prístup k našim modelom z Ruska nepovoľujeme, na prístup k našej platforme používali siete VPN.
Veľká časť vytvoreného obsahu propagovala organizáciu International Burke Institute (IBI), ktorá sa označovala za „komunitu expertov“. Značka IBI bola spojená s webom zaregistrovaným vo februári 2025. Web tvrdil, že inštitút sídli v Izraeli. Články zverejnené na tomto webe neboli vytvorené pomocou našich modelov. Mnohé boli skopírované zo skutočných akademických prác, niekedy s falošným uvedením autora. Niektoré zrejme napísal používateľ slovanského jazyka a následne boli strojovo preložené. Napríklad nasledujúca snímka z webu IBI obsahuje neprirodzenú formuláciu, ktorú možno najlepšie vysvetliť doslovným strojovým prekladom zo slovanského jazyka.
Snímka článku o Nemecku na webe IBI. Výraz „koalícia Svetofor“ má označovať nemeckú koalíciu socialistov, liberálov a zelených, ktorá je podľa červenej, žltej a zelenej farby ich strán známa ako „semaforová koalícia“, po nemecky „Ampelkoalition“. Slovo „svetofor“ (светофор) znamená v mnohých slovanských jazykoch vrátane ruštiny „semafor“, no je mimoriadne nepravdepodobné, že by anglicky alebo nemecky hovoriaci človek takto označil túto koalíciu. Pravdepodobne išlo o strojový preklad zo slovanského originálu.
Podľa našich najlepších vedomostí ide o novú a dosiaľ nezdokumentovanú skrytú vplyvovú kampaň. Jej najvýraznejším prvkom je vytvorenie „indexu suverenity“, ktorý údajný „think-tank“ propagoval s cieľom vyzdvihovať Rusko a očierňovať západné krajiny. Je to prvýkrát, čo sme narušili vplyvovú operáciu prepojenú s Ruskom, ktorá bola až takto prepracovaná.
Operácia využívala ChatGPT najmä na vytváranie príspevkov na sociálnych sieťach, ktoré propagovali články na webe IBI. Tieto príspevky sme identifikovali na platformách X, LinkedIn, Facebook, Substack a Telegram. Niektoré zverejnili účty s názvom a logom IBI, iné zdanlivo pochádzali od bežných používateľov (pravdepodobne neautentických), ktorých hlavnou činnosťou bolo zverejňovanie článkov IBI.
Príspevok na LinkedIne vytvorený v rámci tejto operácie a zverejnený na platforme
Okrem týchto aktívne šírených príspevkov operátori vytvárali aj odpovede na príspevky skutočných používateľov Substacku o rôznych témach. Tieto odpovede zvyčajne obsahovali výzvu na sledovanie kanála IBI a na Substacku ich zverejňoval účet IBI.
Komentár na Substacku vytvorený v rámci tejto operácie ako odpoveď na príspevok na platforme.
Jeden z operátorov okrem obsahu o IBI vytváral aj príspevky v nemčine, ktoré sa zverejňovali v telegramovom kanáli s názvom „Lahme Ente“ („chromá kačica“). Tieto príspevky pravidelne kritizovali Ukrajinu, EÚ a nemeckú vládu a presadzovali lepšie vzťahy s Ruskom.
Druhý operátor popri obsahu súvisiacom s IBI vytvoril logá pre tucet telegramových kanálov (vrátane Lahme Ente), ktoré sa zameriavali na Nemecko, USA, Francúzsko, Poľsko a Turecko. Niektoré z týchto kanálov občas uverejňovali obsah o IBI alebo zdieľali vlastné príspevky IBI. Druhý operátor tiež opakovane žiadal súhrny činnosti týchto kanálov v ruštine. Jeden z kanálov zameraných na USA, ktorý sa vydával za americké médium, mal v profile viacero znakov textu od autora, pre ktorého angličtina nebola materinským jazykom.
Profil telegramového účtu „American Observer“. Jeden z používateľov ChatGPT v tomto prípade vytvoril profilový obrázok kanála a opakovane žiadal súhrny v ruštine. Všimnite si neprirodzenú angličtinu vrátane záhadnej formulácie „úplne neotrepaný pohľad na hazzy“.
Jadrom tejto operácie bol zrejme International Burke Institute (IBI), hoci činnosť, ktorú sme narušili, sa namiesto obsahu zverejneného priamo na jeho webe sústreďovala na príspevky na sociálnych sieťach propagujúce tento web alebo odkazujúce naň.
Web sa prezentoval ako „komunita expertov“ so sídlom na konkrétnej adrese v Izraeli. K 17. júlu web tvrdil, že združuje širokú škálu popredných svetových expertov vrátane osobností ako Francis Fukuyama a Noam Chomsky, a zverejňoval množstvo výskumných prác. Preskúmali sme však vzorku 36 článkov, ktoré boli na webe IBI prepojené s expertmi a zverejnené od septembra 2025 do mája 2026. Z nich bolo 34 skopírovaných z iných miest na internete.
Niektoré z týchto článkov boli staré niekoľko rokov, iné boli pripísané nesprávnym autorom. Napríklad jeden článok o čínsko-pakistanskom hospodárskom koridore bol zrejme skopírovaný z originálu vydavateľstva Cambridge University Press, no nesprávne ho pripísali profesorke z Nottinghamskej univerzity, ktorá sa venuje politike južnej Ázie.
Článok na webe IBI(otvorí sa v novom okne) pripísaný profesorke Katharine Adeneyovej z Nottinghamskej univerzity(otvorí sa v novom okne) a datovaný 28. decembra 2025
Originál článku, ktorý napísal emeritný profesor Yunas Samad z Bradfordskej univerzity a 7. júla 2025 ho vydalo vydavateľstvo Cambridge University Press(otvorí sa v novom okne).
Ďalší článok o riadení migrácie bol zrejme skopírovaný z Migration Policy Institute, ale nesprávne pripísaný austrálskej profesorke potravinárstva. Takéto konanie naznačuje snahu dodať webu IBI väčšiu dôveryhodnosť tým, že ho naplnia autentickým obsahom a zároveň zataja jeho skutočný zdroj.
Snímka stránky autorky(otvorí sa v novom okne) na webe IBI s článkom z 21. januára 2026, ktorý je pripísaný Kate Howellovej, údajnej expertke z Migration Policy Institute.
Originál článku, ktorý v apríli 2025 zverejnil Migration Policy Institute(otvorí sa v novom okne) a napísali ho Meghan Bentonová, Natalia Banulescuová-Bogdanová a Kate Hooperová.
Stránka rečníčky(otvorí sa v novom okne) Kate Howellovej z roku 2017, ktorá je v skutočnosti austrálskou profesorkou potravinárskej chémie(otvorí sa v novom okne), s rovnakou fotografiou ako na stránke IBI.
Okrem týchto článkov web IBI obsahoval správy o rôznych krajinách a ich suverenite meranej indexom inštitútu. Tieto správy neboli vytvorené pomocou našich modelov. Niektoré z nich boli koncipované ako porovnania dvoch krajín. Iné sa zameriavali na jednotlivé krajiny, najmä na štáty kritizujúce vojnu Ruska proti Ukrajine, ako sú Francúzsko a Nemecko, alebo na Európsku úniu. Operácia šírila podobné naratívy aj o Spojených štátoch. Tieto správy boli zvyčajne kritické a zachádzali až do polemiky. Medzi príklady patria:
- Francúzsko(otvorí sa v novom okne): „Desať rokov macronizmu prinieslo presne taký výsledok, aký musel dosiahnuť manažér, ktorý prišiel do Elyzejského paláca z Rothschildovej banky: Francúzsko otvorili ako trezor s historickým kapitálom a teraz ho rozpredávajú po častiach.“
- USA(otvorí sa v novom okne): „Trump prišiel [do Pekingu] s najvyšším indexom suverenity na svete a odišiel po uskutočnení viacerých krokov, ktoré [...] možno označiť za dobrovoľné obmedzenie autonómie.“
- Nemecko(otvorí sa v novom okne): „Nemecko potrebuje priemyselnú politiku, ktorá chráni pracovné miesta, nielen ceny akcií. Krajina potrebuje úprimnú diskusiu o identite bez tabu a hystérie. Potrebuje skutočnú vojenskú suverenitu, nie závislosť od amerických základní. A potrebuje politikov, ktorých prvoradá lojalita patrí nemeckému ľudu, nie správnym radám korporácií v New Yorku.“
- EÚ(otvorí sa v novom okne): „Slovensko verzus Taliansko: Paradoxy suverenity rukojemníckych krajín ‚veľkej‘ Únie“
Hoci obsah na sociálnych sieťach propagujúci IBI vytvárali používatelia ChatGPT v Rusku, ktorí sa dôsledne snažili utajiť svoj pôvod, a veľká časť obsahu na webe IBI bola zrejme skopírovaná odinakiaľ, niektoré stopy na internete naznačujú, že IBI mohla pri zasielaní článkov a na konferenciách zastupovať aj hŕstka skutočných osôb v Izraeli. Nedokážeme určiť vzťah medzi týmito osobami, IBI a operátormi v Rusku.
Bezprostredný dosah operácie bol zrejme obmedzený: bežné príspevky na sociálnych sieťach zaznamenali len málo zobrazení a oficiálne účty IBI mali málo odberateľov. Zdá sa, že telegramové kanály operácie prilákali viac odberateľov, spravidla 10- až 20-tisíc na každý kanál. Pri hodnotení dosahu tejto operácie pomocou škály Breakout(otvorí sa v novom okne) od Brookingsovho inštitútu by sme ju zaradili na spodnú hranicu tretej kategórie (viacero platforiem s určitými náznakmi prieniku k autentickému publiku).
Význam operácie však nespočíva ani tak v publiku, ktoré oslovila, ako skôr v infraštruktúre, ktorú vybudovala. Hoci aktéri používali ChatGPT len na vytváranie jednotlivých propagačných príspevkov, tie odkazovali na inštitúciu, ktorá inak pôsobila dôveryhodne a mala údajných expertov, opätovne publikované akademické práce aj údajne vlastný index rizika. To ukazuje, ako môžu aktéri vplyvových operácií využívať AI ako podporný nástroj širšieho úsilia o vytvorenie dojmu autority, zatajenie zdroja preferovaných naratívov a vybudovanie prostriedkov, ktorých rozsah možno časom zväčšovať. Zároveň to ukazuje, ako môže podporné využitie AI viesť k odhaleniu širšej operácie.
