Ometanje nove tajne kampanje utjecaja iz Rusije
Naša je misija osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Tu misiju ostvarujemo primjenom svojih inovacija za razvoj alata umjetne inteligencije koji ljudima pomažu riješiti teške probleme. To obuhvaća razvoj alata koji nam omogućuju otkrivanje, istraživanje, ometanje i razotkrivanje tajnih operacija utjecaja: obmanjujućih pokušaja manipuliranja javnim mnijenjem ili utjecanja na političke ishode bez otkrivanja stvarnog identiteta ili namjera aktera koji stoje iza njih.
Nedavno smo zabranili skupinu računa ChatGPT‑ja podrijetlom iz Rusije koji su se upotrebljavali za promicanje International Burke Institutea (IBI), samoproglašene „zajednice stručnjaka” sa sjedištem u Izraelu. Istraga koja je započela zbog objava na društvenim mrežama izrađenih umjetnom inteligencijom dovela nas je do mnogo šire operacije utjecaja, izgrađene oko web-mjesta s kopiranim i pogrešno pripisanim akademskim radovima, indeksa „suverenosti” koji je Rusiju prikazivao u povoljnom svjetlu te pokušaja prikrivanja ruskog podrijetla operatora. Iako se čini da je kampanja dosegnula razmjerno malu publiku, njezina složena struktura razlikuje je od drugih operacija povezanih s Rusijom(otvara se u novom prozoru) i operacija utjecaja(otvara se u novom prozoru) koje smo otkrili(otvara se u novom prozoru) i omeli(otvara se u novom prozoru) od početka rata u Ukrajini. Ovo izvješće objašnjava kako je operacija funkcionirala, koju je ulogu u njoj imao ChatGPT i što smo poduzeli kako bismo je omeli.
Zabranili smo skupinu računa ChatGPT‑ja koji su vrlo vjerojatno potjecali iz Rusije. Operatori su na ruskom jeziku zadavali upute za izradu komentara na društvenim mrežama koji su objavljivani na platformama Substack, Telegram, X, Facebook i LinkedIn. Većina izrađenih komentara bila je na engleskom, a operatori su ChatGPT‑ju naložili da prikrije sve jezične naznake njihova ruskog podrijetla. Budući da ne dopuštamo pristup svojim modelima iz Rusije, za pristup našoj platformi upotrebljavali su VPN-ove.
Velik dio izrađenog sadržaja služio je promicanju samoproglašene „zajednice stručnjaka” pod nazivom International Burke Institute (IBI). Brend IBI bio je povezan s web-mjestom registriranim u veljači 2025. Na tom se web-mjestu tvrdilo da institut ima sjedište u Izraelu. Članci objavljeni na tom web-mjestu nisu izrađeni pomoću naših modela. Mnogi su bili kopirani iz stvarnih akademskih radova, katkad uz lažno navođenje autora. Čini se da je neke sastavio govornik slavenskog jezika, nakon čega su strojno prevedeni. Primjerice, snimka zaslona web-mjesta IBI-ja u nastavku sadržava neprirodan izraz koji se najlakše može objasniti doslovnim strojnim prijevodom sa slavenskog jezika.
Snimka zaslona članka o Njemačkoj na web-mjestu IBI-ja. Izraz „koalicija Svetofor” trebao bi označavati njemačku koaliciju socijalista, liberala i zelenih, koja je zbog stranačkih boja — crvene, žute i zelene — poznata kao „semaforska koalicija” ili na njemačkom „Ampelkoalition”. Riječ „svetofor” (светофор) znači „semafor” u više slavenskih jezika, uključujući ruski, no gotovo je nezamislivo da bi se govornik engleskog ili njemačkog njome poslužio za opis te koalicije. Izraz je vjerojatno strojno preveden iz slavenskog izvornika.
Prema našim saznanjima, riječ je o novoj i dosad neprijavljenoj tajnoj kampanji utjecaja. Njezina je najistaknutija značajka stvaranje „indeksa suverenosti”, koji je navodni „trust mozgova” promicao kako bi veličao Rusiju i omalovažavao zapadne zemlje. Ovo je prvi put da smo omeli operaciju utjecaja povezanu s Rusijom koja je bila toliko pomno razrađena.
ChatGPT se u ovoj operaciji uglavnom upotrebljavao za izradu objava na društvenim mrežama kojima su se promicali članci na web-mjestu IBI-ja. Te smo objave pronašli na platformama X, LinkedIn, Facebook, Substack i Telegram. Neke su objavili računi s nazivom i logotipom IBI-ja, dok se za druge činilo da potječu od običnih korisnika, vjerojatno lažnih, čija se glavna aktivnost sastojala od objavljivanja članaka IBI-ja.
Objava na LinkedInu izrađena u sklopu ove operacije i objavljena na toj platformi
Uz te proaktivne objave, operatori su izrađivali i odgovore na objave stvarnih korisnika Substacka o raznim temama. Ti su odgovori obično sadržavali poziv da se prati kanal IBI-ja, a na Substacku ih je objavljivao račun IBI-ja.
Komentar na Substacku izrađen u sklopu ove operacije kao odgovor na objavu na platformi.
Osim sadržaja o IBI-ju, jedan je operator izrađivao objave na njemačkom koje su objavljivane na Telegramovu kanalu „Lahme Ente” („hroma patka”). U tim se objavama redovito kritiziralo Ukrajinu, EU i njemačku vladu te zagovaralo bolje odnose s Rusijom.
Drugi je operator, uz sadržaj povezan s IBI-jem, izradio logotipe za desetak Telegramovih kanala, uključujući Lahme Ente, usmjerenih na Njemačku, SAD, Francusku, Poljsku i Tursku. Neki od tih kanala povremeno su objavljivali sadržaj o IBI-ju ili dijelili njegove objave. Drugi je operator također više puta tražio sažetke aktivnosti tih kanala na ruskom jeziku. Jedan od kanala usmjerenih na SAD, koji se predstavljao kao američki medij, imao je biografiju s brojnim pokazateljima da je tekst napisala osoba kojoj engleski nije materinski jezik.
Profil Telegramova računa „American Observer”. Jedan od korisnika ChatGPT‑ja u ovom slučaju izradio je profilnu sliku za kanal i više puta tražio sažetke na ruskom jeziku. Obratite pozornost na neprirodan engleski, uključujući zagonetnu formulaciju „potpuno neizlizana perspektiva o hazzyju”.
Čini se da je središte ove operacije bio International Burke Institute (IBI), premda je aktivnost koju smo omeli bila usmjerena na sadržaj na društvenim mrežama koji je promicao web-mjesto ili vodio na njega, a ne na sadržaj objavljen izravno na tom web-mjestu.
Web-mjesto predstavljalo se kao „zajednica stručnjaka” s adresom u Izraelu. Na dan 17. srpnja na web-mjestu tvrdilo se da okuplja velik broj vrhunskih svjetskih stručnjaka, uključujući uglednike poput Francisa Fukuyame i Noama Chomskog, te je objavljivalo širok raspon istraživanja. Međutim, pregledom uzorka od 36 članaka povezanih sa stručnjacima na web-mjestu IBI-ja i objavljenih između rujna 2025. i svibnja 2026. utvrdili smo da su 34 članka kopirana s drugih mjesta na internetu.
Neki od tih članaka bili su stari godinama, a drugi su bili pripisani pogrešnim autorima. Primjerice, čini se da je članak o Kinesko-pakistanskom gospodarskom koridoru kopiran iz izvornika izdavačke kuće Cambridge University Press, ali pogrešno pripisan profesorici sa Sveučilišta u Nottinghamu čije je područje stručnosti politika južne Azije.
Članak na web-mjestu IBI-ja(otvara se u novom prozoru), pripisan profesorici Katharine Adeney sa Sveučilišta u Nottinghamu(otvara se u novom prozoru) i datiran 28. prosinca 2025.
Izvornik članka koji je napisao umirovljeni profesor Yunas Samad sa Sveučilišta u Bradfordu, a objavio ga je Cambridge University Press(otvara se u novom prozoru) 7. srpnja 2025.
Čini se da je drugi članak, o upravljanju migracijama, kopiran iz Instituta za migracijsku politiku, ali pogrešno pripisan australskoj profesorici prehrambene znanosti. Takvo ponašanje upućuje na namjeru da web-mjesto IBI-ja djeluje vjerodostojnije tako što će biti ispunjeno autentičnim sadržajem, uz prikrivanje njegova stvarnog izvora.
Snimka zaslona stranice autorice(otvara se u novom prozoru) na web-mjestu IBI-ja, s člankom od 21. siječnja 2026. pripisanim Kate Howell, navodnoj stručnjakinji Instituta za migracijsku politiku.
Izvornik članka koji je u travnju 2025. objavio Institut za migracijsku politiku(otvara se u novom prozoru), a napisale su ga Meghan Benton, Natalia Banulescu-Bogdan i Kate Hooper.
Stranica predavačice(otvara se u novom prozoru) Kate Howell iz 2017., koja je zapravo australska profesorica prehrambene kemije(otvara se u novom prozoru), s istom fotografijom kao na stranici IBI-ja.
Uz te članke, web-mjesto IBI-ja sadržavalo je izvješća o različitim zemljama i njihovoj suverenosti, mjerenoj indeksom instituta. Ta izvješća nisu izrađena pomoću naših modela. Neka od njih predstavljena su kao usporedbe dviju zemalja. Druga su bila usmjerena na pojedine zemlje, osobito one koje kritiziraju ruski rat protiv Ukrajine, poput Francuske i Njemačke, te na Europsku uniju. Operacija je promicala slične narative o Sjedinjenim Američkim Državama. Ta su izvješća obično bila kritična, a ponekad su prelazila u polemiku. Primjeri uključuju:
- Francuska(otvara se u novom prozoru): „Deset godina makronizma proizvelo je upravo rezultat koji je morao postići menadžer koji je u Elizejsku palaču došao iz banke Rothschild: Francuska je otvorena poput sefa s povijesnim kapitalom, a sada se rasprodaje u dijelovima.”
- SAD(otvara se u novom prozoru): „Trump je stigao [u Peking] s prvim mjestom na svjetskom indeksu suverenosti, a otišao nakon što je poduzeo niz koraka koji se [...] mogu opisati kao dobrovoljno smanjenje autonomije.”
- Njemačka(otvara se u novom prozoru): „Njemačkoj je potrebna industrijska politika koja štiti radna mjesta, a ne samo cijene dionica. Zemlji je potrebna iskrena rasprava o identitetu, bez tabua i histerije. Potrebna joj je stvarna vojna suverenost, a ne ovisnost o američkim bazama. I potrebni su joj političari koji su prije svega odani njemačkom narodu, a ne upravnim odborima korporacija u New Yorku.”
- EU(otvara se u novom prozoru): „Slovačka protiv Italije: paradoksi suverenosti zemalja talaca ‘velike’ Unije”
Iako su sadržaj za društvene mreže kojim se promicao IBI izrađivali korisnici ChatGPT‑ja u Rusiji koji su ulagali velik trud u prikrivanje svojeg podrijetla, a velik dio sadržaja na web-mjestu IBI-ja očito je bio kopiran odnekud drugdje, neki tragovi na internetu upućuju na to da je nekoliko stvarnih osoba u Izraelu možda također predstavljalo IBI pri slanju članaka i na konferencijama. Ne možemo utvrditi odnos između tih osoba, IBI-ja i operatora u Rusiji.
Čini se da je neposredan učinak operacije bio ograničen: uobičajene objave na društvenim mrežama imale su malo pregleda, a službeni računi IBI-ja malo pretplatnika. Čini se da su Telegramovi kanali operacije privukli više pretplatnika, obično od 10.000 do 20.000 pratitelja svaki. Prema Brookingsovoj ljestvici Breakout Scale(otvara se u novom prozoru) za procjenu učinka operacija utjecaja, ovu bismo operaciju svrstali pri dnu treće kategorije (više platformi, uz određene naznake prodora do autentične publike).
Međutim, važnost operacije nije toliko u publici koju je dosegnula koliko u infrastrukturi koju je izgradila. Iako su akteri ChatGPT upotrebljavali samo za izradu pojedinačnih promotivnih objava, te su objave upućivale na instituciju koja je inače djelovala vjerodostojno, s navodnim stručnjacima, ponovno objavljenim akademskim radovima i navodno vlastitim indeksom rizika. To pokazuje kako akteri operacija utjecaja mogu upotrebljavati umjetnu inteligenciju kao pomoćni alat u širim nastojanjima da stvore privid autoriteta, prikriju izvor poželjnih narativa i uspostave resurse koji se s vremenom mogu proširivati. Pokazuje i kako njihova pomoćna upotreba umjetne inteligencije može dovesti do razotkrivanja šire operacije.
