Прекидање нове прикривене кампање утицаја из Русије
Наша мисија је да обезбедимо да општа вештачка интелигенција користи целом човечанству. Ову мисију остварујемо применом својих иновација у изради алата заснованих на ВИ који помажу људима да решавају тешке проблеме. То обухвата израду алата који нам омогућавају да откривамо, истражујемо, прекидамо и разоткривамо прикривене операције утицаја: обмањујуће покушаје манипулисања јавним мњењем или утицања на политичке исходе без откривања правог идентитета или намера актера који стоје иза њих.
Недавно смо забранили групу ChatGPT налога пореклом из Русије који су коришћени за промовисање Међународног института Берк (IBI), самопроглашене „заједнице стручњака“ са седиштем у Израелу. Истрага која је почела од објава на друштвеним мрежама генерисаних помоћу ВИ довела нас је до много шире операције утицаја, изграђене око веб-сајта са копираним академским радовима приписаним погрешним ауторима, индексом „суверенитета“ који је Русију приказивао у повољном светлу и настојањима да се прикрије руско порекло оператера. Иако се чини да је кампања допрла до релативно мале публике, њена сложена структура издваја је од других операција повезаних са Русијом(отвара се у новом прозору) и операција(отвара се у новом прозору) утицаја(отвара се у новом прозору) које смо прекинули(отвара се у новом прозору) од почетка рата у Украјини. Овај извештај објашњава како је операција функционисала, какву је улогу у њој имао ChatGPT и шта смо предузели да је прекинемо.
Забранили смо групу ChatGPT налога који су врло вероватно потицали из Русије. Оператери су на руском задавали упите за генерисање коментара на друштвеним мрежама, који су потом објављивани на платформама Substack, Telegram, X, Facebook и LinkedIn. Већина коментара које су генерисали била је на енглеском, а оператери су наложили ChatGPT‑у да сакрије све језичке назнаке њиховог руског порекла. Пошто не дозвољавамо приступ нашим моделима из Русије, нашој платформи су приступали преко VPN-ова.
Велики део генерисаног садржаја служио је промовисању самопроглашене „заједнице стручњака“ под називом Међународни институт Берк (IBI). Бренд IBI био је повезан са веб-сајтом регистрованим у фебруару 2025. На том сајту се тврдило да Институт има седиште у Израелу. Чланци објављени на сајту нису генерисани помоћу наших модела. Многи су копирани из стварних академских радова, понекад уз лажно навођење аутора. Чини се да је неке саставио говорник словенског језика, након чега су машински преведени. На пример, снимак екрана са веб-сајта IBI-ја у наставку садржи неприродан израз који се најлакше може објаснити дословним машинским преводом са словенског језика.
Снимак екрана чланка о Немачкој на веб-сајту IBI-ја. Израз „коалиција Светофор“ требало би да означава немачку коалицију социјалиста, либерала и зелених, која је због страначких боја — црвене, жуте и зелене — позната као „семафор коалиција“, односно на немачком „Ampelkoalition“. Реч „светофор“ (светофор) значи „семафор“ у више словенских језика, укључујући руски, али је изузетно мало вероватно да би говорник енглеског или немачког њоме описао ову коалицију: вероватно је машински преведена из словенског оригинала.
Према нашим сазнањима, ово је нова, раније непријављена прикривена кампања утицаја. Њена најупечатљивија одлика јесте стварање „индекса суверенитета“, који је наводни „истраживачки центар“ промовисао како би хвалио Русију и омаловажавао западне земље. Ово је први пут да смо прекинули операцију утицаја повезану са Русијом која је предузела тако сложене и опсежне кораке.
Операција је ChatGPT првенствено користила за генерисање објава на друштвеним мрежама које су промовисале чланке на веб-сајту IBI-ја. Те објаве смо пронашли на платформама X, LinkedIn, Facebook, Substack и Telegram. Неке су постављали налози са именом и логотипом IBI-ја, док се за друге чинило да потичу од обичних корисника, вероватно неаутентичних, чија се главна активност сводила на објављивање чланака IBI-ја.
LinkedIn објава коју је генерисала ова операција и поставила на платформу
Поред ових самосталних објава, оператери су генерисали и одговоре на објаве стварних корисника платформе Substack о различитим темама. Ти одговори су обично садржали позив да се запрати канал IBI-ја, а на платформи Substack објављивао их је налог IBI-ја.
Коментар на платформи Substack који је ова операција генерисала као одговор на објаву на тој платформи.
Поред генерисања садржаја о IBI-ју, један од оператера је генерисао објаве на немачком које су постављане на Telegram каналу под називом „Lahme Ente“ („хрома патка“). Те објаве су редовно критиковале Украјину, ЕУ и немачку владу и залагале се за боље односе са Русијом.
Други оператер је, поред садржаја повезаног са IBI-јем, генерисао логотипе за десетак Telegram канала, укључујући Lahme Ente, усмерених на Немачку, САД, Француску, Пољску и Турску. Неки од тих канала повремено су објављивали о IBI-ју или делили његове објаве. Други оператер је такође више пута тражио сажетке активности тих канала на руском језику. Један од канала усмерених на САД представљао се као амерички медиј, а у опису је имао више показатеља да текст није написао изворни говорник.
Профил Telegram налога „American Observer“. Један од корисника ChatGPT‑а у овом случају генерисао је профилну слику за канал и више пута тражио сажетке на руском језику. Обратите пажњу на неприродан енглески, укључујући загонетни израз „потпуно неклишеирана перспектива о hazzy“.
Чини се да је окосницу ове операције чинио Међународни институт Берк (IBI), мада су активности које смо прекинули биле усмерене на садржај на друштвеним мрежама који је промовисао веб-сајт или водио ка њему, а не на садржај објављен непосредно на том сајту.
Сајт се представљао као „заједница стручњака” са адресом у Израелу. На дан 17. јула, веб-сајт је тврдио да окупља широк спектар светски познатих стручњака, укључујући угледне личности попут Френсиса Фукујаме и Ноама Чомског, и објављивао је разноврсна истраживања. Међутим, преглед узорка од 36 чланака повезаних са стручњацима на веб-сајту IBI-ја и објављених између септембра 2025. и маја 2026. показао је да су 34 чланка копирана са других места на интернету.
Неки од тих чланака били су стари више година, док су други били приписани погрешним ауторима. На пример, чини се да је један чланак о кинеско-пакистанском економском коридору копиран из оригинала издавачке куће Универзитета у Кембриџу, али је погрешно приписан професорки Универзитета у Нотингему, стручној за политику Јужне Азије.
Чланак на веб-сајту IBI-ја(отвара се у новом прозору), приписан професорки Катарин Адени са Универзитета у Нотингему(отвара се у новом прозору) и датиран 28. децембра 2025.
Оригинал чланка који је написао професор емеритус Јунас Самад са Универзитета у Брадфорду, а 7. јула 2025. објавила издавачка кућа Универзитета у Кембриџу(отвара се у новом прозору).
Чини се да је други чланак, о управљању миграцијама, копиран од Института за миграциону политику, али погрешно приписан аустралијској професорки прехрамбених наука. Такво понашање указује на намеру да веб-сајт IBI-ја делује веродостојније тако што ће бити испуњен аутентичним садржајем, уз прикривање његовог стварног извора.
Снимак екрана странице ауторке(отвара се у новом прозору) на веб-сајту IBI-ја, са чланком од 21. јануара 2026. приписаним Кејт Хауел, наводно стручњакињи Института за миграциону политику.
Оригинал чланка који је у априлу 2025. објавио Институт за миграциону политику(отвара се у новом прозору), а написале су га Меган Бентон, Наталија Банулеску-Богдан и Кејт Хупер.
Страница говорнице(отвара се у новом прозору) Кејт Хауел из 2017, која је заправо аустралијска професорка прехрамбене хемије(отвара се у новом прозору), са истом фотографијом као на страници IBI-ја.
Поред тих чланака, веб-сајт IBI-ја садржао је извештаје о различитим земљама и њиховом суверенитету, мереном индексом тог института. Ти извештаји нису генерисани помоћу наших модела. Неки од њих представљени су као поређења двеју земаља. Други су били усредсређени на појединачне земље, нарочито оне које критикују руски рат против Украјине, попут Француске и Немачке, као и на Европску унију. Операција је промовисала сличне наративе и о Сједињеним Државама. Ти извештаји су обично били критички настројени и прелазили у полемику. Неки примери су:
- Француска(отвара се у новом прозору): „Десет година макронизма донело је управо онај резултат који је морао да постигне менаџер који је из банке Ротшилд дошао у Јелисејску палату: Француска је отворена као сеф са историјским капиталом, а сада се распродаје у деловима.“
- САД(отвара се у новом прозору): „Трамп је стигао [у Пекинг] са првим местом на светском индексу суверенитета, а отишао након низа корака који се [...] могу окарактерисати као добровољно смањење аутономије.“
- Немачка(отвара се у новом прозору): „Немачкој је потребна индустријска политика која штити радна места, а не само цене акција. Земљи је потребна искрена расправа о идентитету, без табуа и хистерије. Потребан јој је прави војни суверенитет, а не зависност од америчких база. И потребни су јој политичари чија је прва оданост немачком народу, а не управним одборима корпорација у Њујорку.“
- ЕУ(отвара се у новом прозору): „Словачка против Италије: парадокси суверенитета земаља талаца ’велике‘ Уније“
Иако су садржај на друштвеним мрежама којим је промовисан IBI генерисали корисници ChatGPT‑а у Русији који су се трудили да сакрију своје порекло, а велики део садржаја на веб-сајту IBI-ја изгледа да је копиран са других места, поједини трагови на интернету указују на то да је неколико стварних особа у Израелу можда представљало IBI приликом подношења чланака и на конференцијама. Нисмо у могућности да утврдимо однос између тих особа, IBI-ја и оператера у Русији.
Непосредан утицај операције по свему судећи је био ограничен: типичне објаве на друштвеним мрежама имале су мало прегледа, а званични налози IBI-ја мали број пратилаца. Изгледа да су Telegram канали операције привукли више пратилаца, обично између 10.000 и 20.000 по каналу. Када се утицај ове операције процени помоћу Брукингсове скале продора(отвара се у новом прозору), сврстали бисмо је у доњи део треће категорије (више платформи, уз одређене назнаке продора до аутентичне публике).
Значај операције, међутим, није толико у публици до које је допрла колико у инфраструктури коју је изградила. Иако су актери користили ChatGPT само за израду појединачних промотивних објава, те објаве су водиле ка институцији која је иначе деловала веродостојно, са наводним стручњацима, поново објављеним академским радовима и наводно сопственим индексом ризика. То показује како актери утицаја могу да користе ВИ као помоћни алат у оквиру ширег настојања да створе привид ауторитета, прикрију извор пожељних наратива и успоставе ресурсе чији би се обим временом могао повећати. То такође показује како њихова помоћна употреба ВИ може довести до разоткривања шире операције.
