Ometanje nove prikrivene kampanje utjecaja iz Rusije

Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Tu misiju ostvarujemo primjenom svojih inovacija za izradu AI alata koji ljudima pomažu u rješavanju teških problema. To uključuje izradu alata koji nam omogućavaju da otkrijemo, istražimo, ometemo i razotkrijemo prikrivene operacije utjecaja (IO): obmanjujuće pokušaje manipuliranja javnim mnijenjem ili utjecanja na političke ishode bez otkrivanja stvarnog identiteta ili namjera aktera koji stoje iza njih.

Nedavno smo zabranili grupu ChatGPT računa porijeklom iz Rusije koji su korišteni za promoviranje Međunarodnog instituta Burke (IBI), samoproglašene „zajednice stručnjaka“ sa sjedištem u Izraelu. Istraga objava na društvenim mrežama generiranih pomoću AI-ja dovela nas je do mnogo šire operacije utjecaja, izgrađene oko web-stranice s kopiranim i pogrešno pripisanim akademskim radovima, indeksom „suvereniteta“ koji je Rusiju prikazivao u povoljnom svjetlu te pokušajima prikrivanja ruskog porijekla operatora. Iako se čini da je kampanja doprla do relativno malobrojne publike, njena složena struktura izdvaja je od drugih operacija povezanih s Rusijom⁠(otvara se u novom prozoru) i operacija⁠(otvara se u novom prozoru) utjecaja⁠(otvara se u novom prozoru) koje smo omeli⁠(otvara se u novom prozoru) od početka rata u Ukrajini. Ovaj izvještaj objašnjava kako je operacija funkcionirala, kakvu je ulogu u njoj imao ChatGPT i šta smo učinili da je ometemo.

Zabranili smo grupu ChatGPT računa koji su vrlo vjerovatno potjecali iz Rusije. Operatori su na ruskom jeziku zadavali upute za generiranje komentara na društvenim mrežama, koji su objavljivani na Substacku, Telegramu, X-u, Facebooku i LinkedInu. Većina komentara koje su generirali bila je na engleskom, a operatori su ChatGPT‑ju nalagali da ukloni sve jezičke tragove koji bi ukazivali na to da su Rusi. Budući da ne dopuštamo pristup našim modelima iz Rusije, za pristup našoj platformi koristili su VPN-ove.

Velik dio generiranog sadržaja služio je za promoviranje samoproglašene „zajednice stručnjaka“ pod nazivom Međunarodni institut Burke (IBI). Brend IBI bio je povezan s web-stranicom registriranom u februaru 2025. Na njoj se tvrdilo da Institut ima sjedište u Izraelu. Članci objavljeni na toj stranici nisu generirani pomoću naših modela. Mnogi su kopirani iz stvarnih akademskih radova, ponekad uz lažno navođenje autora. Čini se da je neke sastavio govornik slavenskog jezika, nakon čega su mašinski prevedeni. Naprimjer, snimak ekrana s web-stranice IBI-ja u nastavku sadrži neprirodan izraz koji se najlakše može objasniti doslovnim mašinskim prijevodom sa slavenskog jezika.

Prema našim saznanjima, riječ je o novoj, ranije neprijavljenoj prikrivenoj kampanji utjecaja. Njena je najistaknutija odlika stvaranje „indeksa suvereniteta“, koji je navodni „trust mozgova“ promovirao kako bi hvalio Rusiju i omalovažavao zapadne zemlje. Ovo je prvi put da smo omeli operaciju utjecaja povezanu s Rusijom koja je poduzela tako složene korake.

Operacija je ChatGPT prvenstveno koristila za generiranje objava na društvenim mrežama kojima su promovirani članci na web-stranici IBI-ja. Te smo objave pronašli na X-u, LinkedInu, Facebooku, Substacku i Telegramu. Neke su objavili računi s nazivom i logotipom IBI-ja, dok se za druge činilo da potječu od običnih korisnika (vjerovatno lažnih), čija je glavna aktivnost bilo objavljivanje članaka IBI-ja.

Pored tih proaktivnih objava, operatori su generirali i odgovore na objave stvarnih korisnika Substacka o različitim temama. Ti odgovori obično su sadržavali poziv da se prati kanal IBI-ja, a na Substacku ih je objavljivao račun IBI-ja.

Pored generiranja sadržaja o IBI-ju, jedan od operatora generirao je objave na njemačkom koje su objavljivane na Telegram kanalu „Lahme Ente“ („hroma patka“). U tim objavama redovno su kritizirani Ukrajina, EU i njemačka vlada te su zagovarani bolji odnosi s Rusijom.

Drugi operator je, pored sadržaja povezanog s IBI-jem, generirao logotipe za dvanaest Telegram kanala (uključujući Lahme Ente) usmjerenih na Njemačku, SAD, Francusku, Poljsku i Tursku. Neki od tih kanala povremeno su objavljivali sadržaj o IBI-ju ili dijelili njegove objave. Drugi operator također je više puta tražio sažetke aktivnosti tih kanala na ruskom jeziku. Jedan od kanala usmjerenih na SAD, koji se predstavljao kao američki medij, imao je biografiju s više pokazatelja da je tekst pisala osoba kojoj engleski nije maternji jezik.

Čini se da je okosnicu ove operacije činio Međunarodni institut Burke (IBI), iako su aktivnosti koje smo omeli bile usmjerene na sadržaj na društvenim mrežama koji je promovirao web-stranicu ili vodio na nju, a ne na sadržaj objavljen direktno na toj stranici.

Stranica se predstavljala kao „zajednica stručnjaka“ s adresom u Izraelu. Do 17. jula na web-stranici se tvrdilo da okuplja brojne stručnjake svjetske klase, uključujući ugledne ličnosti poput Francisa Fukuyame i Noama Chomskog, te je objavljivan širok raspon istraživanja. Međutim, pregled uzorka od 36 članaka povezanih sa stručnjacima na web-stranici IBI-ja i objavljenih između septembra 2025. i maja 2026. pokazao je da su 34 članka kopirana s drugih mjesta na internetu.

Neki od tih članaka bili su stari godinama, dok su drugi pripisani pogrešnim autorima. Naprimjer, čini se da je članak o Kinesko-pakistanskom ekonomskom koridoru kopiran iz izvornika Cambridge University Pressa, ali je pogrešno pripisan profesorici sa Univerziteta u Nottinghamu, stručnoj za politiku Južne Azije.

Čini se da je drugi članak, o upravljanju migracijama, kopiran od Instituta za migracijsku politiku, ali pogrešno pripisan australskoj profesorici prehrambenih nauka. Takvo ponašanje ukazuje na namjeru da web-stranica IBI-ja djeluje vjerodostojnije tako što će se ispuniti autentičnim sadržajem, uz prikrivanje njegovog stvarnog izvora.

Pored tih članaka, web-stranica IBI-ja sadržavala je izvještaje o različitim zemljama i njihovom suverenitetu, mjerenom indeksom tog instituta. Ti izvještaji nisu generirani pomoću naših modela. Neki od njih predstavljeni su kao poređenja dviju zemalja. Drugi su se bavili pojedinačnim zemljama, naročito onima koje kritikuju ruski rat protiv Ukrajine, poput Francuske i Njemačke, kao i Evropskom unijom. Operacija je promovirala slične narative o Sjedinjenim Američkim Državama. Ti izvještaji obično su bili kritički i prelazili u polemiku. Među primjerima su:

• Francuska⁠(otvara se u novom prozoru): „Deset godina makronizma dalo je upravo rezultat kakav se morao očekivati od menadžera koji je u Elizejsku palaču došao iz banke Rothschild: Francuska je otvorena poput sefa s historijskim kapitalom, a sada se rasprodaje u dijelovima.“
• SAD⁠(otvara se u novom prozoru): „Trump je stigao [u Peking] s prvim mjestom na svjetskom indeksu suvereniteta, a otišao nakon niza koraka koji se [...] mogu okarakterizirati kao dobrovoljno smanjenje autonomije.“
• Njemačka⁠(otvara se u novom prozoru): „Njemačkoj je potrebna industrijska politika koja štiti radna mjesta, a ne samo cijene dionica. Zemlji je potrebna iskrena rasprava o identitetu, bez tabua i histerije. Potreban joj je stvarni vojni suverenitet, a ne zavisnost od američkih baza. I potrebni su joj političari koji su prije svega odani njemačkom narodu, a ne upravnim odborima korporacija u New Yorku.“
• EU⁠(otvara se u novom prozoru): „Slovačka protiv Italije: paradoksi suvereniteta zemalja talaca ‘Velike’ unije“

Iako su sadržaj za društvene mreže kojim se promovirao IBI generirali korisnici ChatGPT‑ja u Rusiji koji su se trudili sakriti svoje porijeklo, a veliki dio sadržaja na web-stranici IBI-ja očigledno je kopiran s drugih mjesta, pojedini tragovi na internetu ukazuju na to da je nekolicina stvarnih osoba u Izraelu možda također predstavljala IBI prilikom slanja članaka i na konferencijama. Ne možemo utvrditi odnos između tih osoba, IBI-ja i operatora u Rusiji.

Čini se da je neposredni utjecaj operacije bio ograničen: uobičajene objave na društvenim mrežama imale su malo pregleda, a službeni računi IBI-ja malo pretplatnika. Čini se da su Telegram kanali operacije privukli više pretplatnika, uglavnom između 10.000 i 20.000 pratilaca po kanalu. Primjenjujući Brookingsovu skalu prodora⁠(otvara se u novom prozoru) za procjenu utjecaja ove operacije, svrstali bismo je u donji dio treće kategorije (više platformi, uz određene pokazatelje prodora do autentične publike).

Međutim, značaj operacije ne leži toliko u publici do koje je doprla koliko u infrastrukturi koju je izgradila. Iako su akteri koristili ChatGPT samo za izradu pojedinačnih promotivnih objava, one su vodile do institucije koja je inače djelovala vjerodostojno, zajedno s navodnim stručnjacima, ponovno objavljenim akademskim radovima i navodno vlastitim indeksom rizika. To pokazuje kako akteri operacija utjecaja mogu koristiti AI kao pomoćni alat u sklopu širih nastojanja da stvore privid autoriteta, prikriju izvor poželjnih narativa i uspostave resurse koji se s vremenom mogu proširivati. To također pokazuje kako pomoćna upotreba AI-ja može dovesti do razotkrivanja šire operacije.