Prekinitev nove prikrite kampanje vplivanja iz Rusije

Naše poslanstvo je zagotoviti, da splošna umetna inteligenca koristi vsemu človeštvu. To poslanstvo uresničujemo z uvajanjem inovacij in razvojem orodij umetne inteligence, ki ljudem pomagajo reševati zahtevne probleme. To vključuje razvoj orodij, s katerimi lahko odkrivamo, preiskujemo, prekinjamo in razkrivamo prikrite operacije vplivanja: zavajajoče poskuse manipuliranja z javnim mnenjem ali vplivanja na politične izide brez razkritja prave identitete ali namenov akterjev v ozadju.

Pred kratkim smo onemogočili skupino računov ChatGPT iz Rusije, ki so jih uporabljali za promocijo International Burke Institute (IBI), samooklicane »skupnosti strokovnjakov« s sedežem v Izraelu. Preiskava objav v družbenih medijih, ustvarjenih z umetno inteligenco, nas je pripeljala do precej obsežnejše operacije vplivanja. Ta je temeljila na spletnem mestu s prekopiranimi in napačno pripisanimi akademskimi deli, indeksu »suverenosti«, ki je Rusijo prikazoval v ugodni luči, ter prizadevanjih za prikrivanje ruskega izvora Operatorjev. Čeprav je kampanja očitno dosegla razmeroma malo občinstva, se zaradi svoje dovršene zasnove razlikuje od drugih z Rusijo povezanih⁠(odpre se v novem oknu) operacij⁠(odpre se v novem oknu) vplivanja⁠(odpre se v novem oknu), ki smo jih prekinili⁠(odpre se v novem oknu) od začetka vojne v Ukrajini. To poročilo pojasnjuje, kako je operacija delovala, kakšno vlogo je imel ChatGPT in kaj smo storili, da bi jo prekinili.

Onemogočili smo skupino računov ChatGPT, ki so zelo verjetno izvirali iz Rusije. Operatorji so v ruščini vnašali pozive za ustvarjanje komentarjev za družbene medije, ki so jih nato objavljali na platformah Substack, Telegram, X, Facebook in LinkedIn. Večina ustvarjenih komentarjev je bila v angleščini, Operatorji pa so ChatGPT naročili, naj prikrije vse jezikovne znake, ki bi razkrivali, da so Rusi. Ker dostopa do naših modelov iz Rusije ne dovoljujemo, so za dostop do naše platforme uporabljali omrežja VPN.

Velik del ustvarjene vsebine je bil namenjen promociji samooklicane »skupnosti strokovnjakov« z imenom International Burke Institute (IBI). Znamka IBI je bila povezana s spletnim mestom, registriranim februarja 2025. Spletno mesto je trdilo, da ima inštitut sedež v Izraelu. Članki, objavljeni na spletnem mestu, niso bili ustvarjeni z našimi modeli. Številni so bili prekopirani iz resničnih akademskih del, včasih z napačnim avtorstvom. Nekatere je očitno napisal govorec slovanskega jezika, nato pa so bili strojno prevedeni. Spodnji posnetek zaslona s spletnega mesta IBI na primer vsebuje nenaravno besedno zvezo, ki jo je najlažje pojasniti kot dobesedni strojni prevod iz slovanskega jezika.

Kolikor nam je znano, gre za novo prikrito kampanjo vplivanja, o kateri doslej še niso poročali. Njena najopaznejša značilnost je »indeks suverenosti«, ki ga je domnevni »možganski trust« ustvaril in promoviral, da bi hvalil Rusijo ter omalovaževal zahodne države. Prvič smo prekinili operacijo vplivanja, povezano z Rusijo, ki je bila zasnovana tako dovršeno.

Operacija je ChatGPT uporabljala predvsem za ustvarjanje objav v družbenih medijih, ki so promovirale članke na spletnem mestu IBI. Te objave smo odkrili na platformah X, LinkedIn, Facebook, Substack in Telegram. Nekatere so objavili računi z imenom in logotipom IBI, druge pa so bile videti kot objave običajnih uporabnikov (verjetno lažnih), katerih glavna dejavnost je bila objavljanje člankov IBI.

Poleg teh samoiniciativnih objav so Operatorji ustvarjali tudi odgovore na objave resničnih uporabnikov Substacka o različnih temah. Ti odgovori so običajno vsebovali poziv k spremljanju kanala IBI, na Substacku pa jih je objavljal račun IBI.

Eden od Operatorjev je poleg vsebin o IBI ustvarjal tudi objave v nemščini, ki so bile objavljene na Telegramovem kanalu »Lahme Ente« (»šepava raca«). Te objave so redno kritizirale Ukrajino, EU in nemško vlado ter zagovarjale boljše odnose z Rusijo.

Drugi Operator je poleg vsebin, povezanih z IBI, ustvaril logotipe za ducat Telegramovih kanalov (vključno z Lahme Ente), osredotočenih na Nemčijo, ZDA, Francijo, Poljsko in Turčijo. Nekateri od teh kanalov so občasno objavljali o IBI ali delili njegove objave. Drugi Operator je tudi večkrat zahteval povzetke dejavnosti teh kanalov v ruščini. Eden od kanalov, osredotočenih na ZDA, ki se je izdajal za ameriški medij, je imel opis z več znaki, da ga ni napisal materni govorec.

Jedro te operacije je bil očitno International Burke Institute (IBI), vendar so bile dejavnosti, ki smo jih prekinili, osredotočene na objave v družbenih medijih, ki so promovirale spletno mesto ali vsebovale povezave do njega, ne pa na vsebine, objavljene neposredno na tem mestu.

Spletno mesto se je predstavljalo kot »skupnost strokovnjakov« z naslovom v Izraelu. Na dan 17. julija je spletno mesto navajalo širok nabor vrhunskih svetovnih strokovnjakov, med njimi ugledna imena, kot sta Francis Fukuyama in Noam Chomsky, ter objavljalo številne raziskave. Vendar je pregled vzorca 36 člankov, ki so bili na spletnem mestu IBI povezani s strokovnjaki in objavljeni med septembrom 2025 in majem 2026, pokazal, da je bilo 34 člankov prekopiranih z drugih mest na internetu.

Nekateri od teh člankov so bili stari več let, drugi pa so bili pripisani napačnim avtorjem. Članek o kitajsko-pakistanskem gospodarskem koridorju je bil na primer očitno prekopiran iz izvirnika založbe Cambridge University Press, vendar napačno pripisan profesorici z Univerze v Nottinghamu, ki se ukvarja s politiko Južne Azije.

Drug članek o upravljanju migracij je bil očitno prekopiran z Migration Policy Institute, vendar napačno pripisan avstralski profesorici živilstva. Takšno ravnanje kaže na željo, da bi spletno mesto IBI delovalo verodostojneje, zato so ga napolnili s pristnimi vsebinami, hkrati pa prikrili njihov dejanski vir.

Poleg teh člankov so bila na spletnem mestu IBI objavljena tudi poročila o različnih državah in njihovi suverenosti, izmerjeni z indeksom inštituta. Ta poročila niso bila ustvarjena z našimi modeli. Nekatera so bila predstavljena kot primerjave med dvema državama. Druga so se osredotočala na posamezne države, zlasti tiste, ki kritizirajo rusko vojno proti Ukrajini, kot sta Francija in Nemčija, ter na Evropsko unijo. Operacija je širila podobne narative tudi o Združenih državah Amerike. Ta poročila so bila praviloma kritična in so pogosto prehajala v polemiko. Med primeri so:

• Francija⁠(odpre se v novem oknu): »Deset let makronizma je prineslo natanko takšen rezultat, kakršnega je moral doseči menedžer, ki je v Elizejsko palačo prišel iz banke Rothschild: Francijo so odprli kot sef z zgodovinskim kapitalom, zdaj pa jo razprodajajo po delih.«
• ZDA⁠(odpre se v novem oknu): »Trump je prispel [v Peking] z najvišjim indeksom suverenosti na svetu, odšel pa je po številnih korakih, ki jih [...] lahko opredelimo kot prostovoljno zmanjšanje avtonomije.«
• Nemčija⁠(odpre se v novem oknu): »Nemčija potrebuje industrijsko politiko, ki varuje delovna mesta, ne le tečajev delnic. Država potrebuje iskreno razpravo o identiteti, brez tabujev in histerije. Potrebuje pravo vojaško suverenost, ne odvisnosti od ameriških oporišč. Potrebuje tudi politike, katerih prva zvestoba velja nemškemu ljudstvu, ne upravnim odborom korporacij v New Yorku.«
• EU⁠(odpre se v novem oknu): »Slovaška proti Italiji: paradoksi suverenosti držav talk ‘velike’ Unije«

Čeprav so vsebine za promocijo IBI v družbenih medijih ustvarjali uporabniki ChatGPT v Rusiji, ki so si prizadevali prikriti svoj izvor, velik del vsebine na spletnem mestu IBI pa je bil očitno prekopiran od drugod, nekatere spletne sledi kažejo, da je peščica resničnih posameznikov v Izraelu morda zastopala IBI tudi pri oddaji člankov in na konferencah. Razmerja med temi posamezniki, IBI in Operatorji v Rusiji ne moremo ugotoviti.

Neposredni vpliv operacije je bil očitno omejen: običajne objave v družbenih medijih so imele malo ogledov, uradni računi IBI pa malo naročnikov. Telegramovi kanali operacije so očitno privabili več naročnikov, praviloma od 10.000 do 20.000 sledilcev na kanal. Če vpliv te operacije ocenimo z Brookingsovo lestvico Breakout Scale⁠(odpre se v novem oknu), jo uvrščamo na spodnji rob tretje kategorije (več platform z nekaterimi znaki prodora do pristnega občinstva).

Pomen operacije pa ni toliko v občinstvu, ki ga je dosegla, temveč v infrastrukturi, ki jo je zgradila. Čeprav so akterji ChatGPT uporabljali le za posamezne promocijske objave, so te usmerjale k ustanovi, ki je sicer delovala verodostojno, z domnevnimi strokovnjaki, ponovno objavljenimi akademskimi deli in domnevno lastniškim indeksom tveganja. To ponazarja, kako lahko akterji vplivanja umetno inteligenco uporabijo kot podporno orodje v širšem prizadevanju za ustvarjanje lažne avtoritete, prikrivanje vira zaželenih narativov in vzpostavljanje zmogljivosti, ki jih je mogoče sčasoma razširiti. Hkrati kaže, kako lahko podporna uporaba umetne inteligence privede do razkritja širše operacije.