Pagpigil sa isang bagong lihim na kampanyang pang-impluwensya mula sa Russia

Misyon naming tiyaking nakikinabang ang buong sangkatauhan sa artificial general intelligence. Isinusulong namin ang misyong ito sa pamamagitan ng paggamit sa aming mga inobasyon upang bumuo ng mga AI tool na tumutulong sa mga taong lumutas ng mahihirap na problema. Kabilang dito ang pagbuo ng mga tool na nagbibigay-daan sa aming tumukoy, mag-imbestiga, magpatigil, at maglantad ng mga lihim na operasyong pang-impluwensya (IO): mga mapanlinlang na pagtatangkang manipulahin ang opinyon ng publiko o impluwensyahan ang mga resultang pampolitika nang hindi ibinubunyag ang tunay na identidad o layunin ng mga nasa likod nito.

Kamakailan, ipinagbawal namin ang isang pangkat ng mga ChatGPT account na nagmula sa Russia at ginagamit upang i-promote ang International Burke Institute (IBI), na nagpapakilalang “komunidad ng mga eksperto” na nakabase sa Israel. Ang nagsimula bilang imbestigasyon sa mga post sa social media na ginawa ng AI ay humantong sa isang mas malawak na operasyong pang-impluwensya na nakasentro sa isang website na may kinopya at maling iniugnay na akademikong akda, isang indeks ng “soberanya” na naglalarawan sa Russia nang positibo, at mga pagsisikap na itago ang pinagmulang Russian ng mga Operator. Bagama’t tila kakaunti lamang ang naabot ng kampanya, naiiba ito sa iba pang mga operasyong nauugnay sa Russia⁠(magbubukas sa bagong window) na nang-iimpluwensya⁠(magbubukas sa bagong window) na isinagawa⁠(magbubukas sa bagong window) mula nang magsimula ang digmaan sa Ukraine dahil sa masalimuot nitong pagkakabuo, at pinatigil⁠(magbubukas sa bagong window) namin ito. Ipinapaliwanag ng ulat na ito kung paano gumana ang operasyon, kung ano ang papel ng ChatGPT dito, at kung ano ang ginawa namin upang patigilin ito.

Ipinagbawal namin ang isang pangkat ng mga ChatGPT account na malamang na nagmula sa Russia. Gumamit ng mga prompt sa wikang Russian ang mga Operator upang gumawa ng mga komento sa social media na inilathala sa Substack, Telegram, X, Facebook, at LinkedIn. Nasa English ang karamihan sa mga komentong ginawa nila, at inutusan ng mga Operator ang ChatGPT na itago ang anumang pahiwatig sa wika na sila ay Russian. Dahil hindi namin pinapayagan ang pag-access sa aming mga modelo mula sa Russia, gumamit sila ng mga VPN upang ma-access ang aming platform.

Layunin ng malaking bahagi ng ginawang content na i-promote ang International Burke Institute (IBI), na nagpapakilalang isang “komunidad ng mga eksperto.” Naugnay ang brand na IBI sa isang website na inirehistro noong Pebrero 2025. Sinasabi ng site na nakabase sa Israel ang Institute. Hindi ginawa gamit ang aming mga modelo ang mga artikulong inilathala sa site. Marami ang kinopya mula sa mga tunay na akademikong akda, kung minsan ay may maling pagkilala sa awtor; lumilitaw namang isinulat ng isang nagsasalita ng wikang Slavic at isinalin ng makina ang ilan. Bilang halimbawa, gumagamit ang screenshot sa ibaba mula sa website ng IBI ng hindi natural na parirala na pinakamalamang na nagmula sa literal na pagsasalin ng makina mula sa isang wikang Slavic.

Sa abot ng aming kaalaman, isa itong bago at hindi pa dating naiulat na lihim na kampanyang pang-impluwensya. Ang pinakakapansin-pansing katangian nito ay ang paglikha ng “indeks ng soberanya” na itinaguyod ng diumano’y “think tank” upang purihin ang Russia at hamakin ang mga bansa sa Kanluran. Ito ang unang pagkakataong pinatigil namin ang isang operasyong pang-impluwensya na nauugnay sa Russia at nagsagawa ng ganito kasalimuot na mga hakbang.

Pangunahing ginamit ng operasyon ang ChatGPT upang gumawa ng mga post sa social media na nagpo-promote ng mga artikulo sa website ng IBI. Natukoy namin ang mga post na ito sa X, LinkedIn, Facebook, Substack, at Telegram. Ang ilan ay inilathala ng mga account na gumagamit ng pangalan at logo ng IBI; ang iba naman ay tila nagmula sa mga ordinaryong user (malamang na hindi tunay) na pangunahing nagpo-post ng mga artikulo ng IBI.

Bukod sa mga post na ito na sila mismo ang nagpasimula, gumawa rin ang mga Operator ng mga tugon sa mga post ng tunay na user ng Substack tungkol sa iba’t ibang paksa. Karaniwang hinihiling sa mga tugong ito na i-follow ang channel ng IBI, at ipo-post ang mga ito sa Substack gamit ang account ng IBI.

Bukod sa paggawa ng content tungkol sa IBI, gumawa ang isa sa mga Operator ng mga post sa wikang German na inilathala sa isang Telegram channel na tinatawag na “Lahme Ente” (“pilay na pato”). Madalas punahin ng mga post na ito ang Ukraine, EU, at pamahalaan ng Germany, at itaguyod ang mas mabuting ugnayan sa Russia.

Kasabay ng paggawa ng content na nauugnay sa IBI, gumawa ang ikalawang Operator ng mga logo para sa labindalawang Telegram channel (kabilang ang Lahme Ente) na nakatuon sa Germany, USA, France, Poland, at Türkiye. Paminsan-minsan, nagpo-post tungkol sa IBI o nagbabahagi ng mga post mismo ng IBI ang ilan sa mga channel na ito. Paulit-ulit ding humiling ang ikalawang Operator ng mga buod sa wikang Russian tungkol sa aktibidad ng mga channel na ito. Isa sa mga channel na nakatuon sa US, na nagkunwaring outlet sa America, ay may bio na nagpakita ng maraming palatandaang hindi likas sa isang katutubong nagsasalita ng wika.

Lumilitaw na sentro ng operasyong ito ang International Burke Institute (IBI), bagama’t nakatuon ang aktibidad na pinatigil namin sa content sa social media na nagpo-promote o nagli-link sa website, sa halip na sa content na direktang naka-host dito.

Ipinakilala ng site ang sarili bilang isang “komunidad ng mga eksperto” na may adres sa Israel. Noong Hulyo 17, sinasabi ng website nito na kabilang dito ang maraming pandaigdigang nangungunang eksperto, gaya nina Francis Fukuyama at Noam Chomsky, at naglathala ito ng sari-saring pananaliksik. Gayunman, sa pagsusuri ng 36 na artikulong naka-link sa mga eksperto sa website ng IBI at inilathala mula Setyembre 2025 hanggang Mayo 2026, 34 ang kinopya mula sa ibang bahagi ng internet.

Ilang taon na ang tanda ng ilan sa mga artikulong ito; ang iba naman ay iniugnay sa maling mga awtor. Halimbawa, lumilitaw na kinopya mula sa orihinal ng Cambridge University Press ang isang artikulo tungkol sa China-Pakistan Economic Corridor, ngunit mali itong iniugnay sa isang propesor sa University of Nottingham na dalubhasa sa politika ng Timog Asya.

Lumilitaw namang kinopya mula sa Migration Policy Institute ang isa pang artikulo tungkol sa pamamahala sa migrasyon, ngunit mali itong iniugnay sa isang propesor ng food science sa Australia. Ipinahihiwatig ng gawaing ito na nais nilang magmukhang mas lehitimo ang website ng IBI sa pamamagitan ng paglalagay rito ng tunay na content habang itinatago ang aktuwal na pinagmulan nito.

Kasama ng mga artikulong ito, naglaman ang website ng IBI ng mga ulat tungkol sa iba’t ibang bansa at sa kanilang soberanya, batay sa indeks ng instituto. Hindi ginawa ang mga ito gamit ang aming mga modelo. Iniharap ang ilan sa mga ulat na ito bilang paghahambing ng dalawang bansa. Nakatuon naman ang iba sa iisang bansa, lalo na sa mga pumupuna sa digmaan ng Russia laban sa Ukraine, gaya ng France at Germany, pati sa European Union. Nagpalaganap din ang operasyon ng mga katulad na salaysay tungkol sa United States. Karaniwang mapanuligsa ang mga ulat na ito at halos nagiging polemiko; kabilang sa mga halimbawa ang:

• France⁠(magbubukas sa bagong window): “Sampung taon ng Macronismo ang nagbunga mismo ng resultang tiyak na maibibigay ng isang tagapamahalang nagmula sa Rothschild Bank at pumunta sa Palasyo ng Elysée: binuksan ang France na parang kaha na puno ng makasaysayang yaman, at ngayo’y ibinebenta ito nang pira-piraso.”
• USA⁠(magbubukas sa bagong window): “Dumating si Trump [sa Beijing] na nangunguna sa indeks ng soberanya sa buong mundo at umalis matapos gumawa ng ilang hakbang na [...] maituturing na kusang pagbawas sa awtonomiya.”
• Germany⁠(magbubukas sa bagong window): “Kailangan ng Germany ng patakarang pang-industriya na nagpoprotekta sa mga trabaho, hindi lamang sa mga presyo ng stock. Kailangan ng bansa ng tapat na talakayan tungkol sa identidad, nang walang mga bawal na paksa at histerya. Kailangan nito ng tunay na soberanyang militar, hindi ng pag-asa sa mga base ng America. At kailangan nito ng mga politikong ang pangunahing katapatan ay sa mga mamamayang German, hindi sa mga corporate board of directors sa New York.”
• EU⁠(magbubukas sa bagong window): “Slovakia laban sa Italy: Ang mga kabalintunaan ng Soberanya ng mga Bansang-Bihag ng ‘Malaking’ Unyon”

Bagama’t ginawa ng mga user ng ChatGPT sa Russia ang content sa social media na nagpo-promote sa IBI at nagsikap silang itago ang kanilang pinagmulan, at bagama’t tila kinopya sa ibang lugar ang malaking bahagi ng content sa website ng IBI, ipinahihiwatig ng ilang bakas online na maaaring may iilang tunay na indibidwal sa Israel na kumatawan din sa IBI sa pagsusumite ng mga artikulo at sa mga kumperensya. Wala kaming sapat na batayan upang matukoy ang ugnayan ng mga indibidwal na ito, ng IBI, at ng mga Operator sa Russia.

Lumilitaw na limitado ang agarang epekto ng operasyon: karaniwang kakaunti lamang ang view ng mga post sa social media, at kakaunti rin ang subscriber ng mga opisyal na account ng IBI. Lumilitaw na mas maraming subscriber ang naakit ng mga Telegram channel ng operasyon, na karaniwang may tig-10,000 hanggang 20,000 follower. Gamit ang Breakout Scale⁠(magbubukas sa bagong window) ng Brookings upang suriin ang epekto ng operasyong ito, ilalagay namin ito sa mababang bahagi ng Ikatlong Kategorya (maraming platform, na may ilang palatandaang nakaabot ito sa mga tunay na audience).

Gayunman, mas nakasalalay ang kabuluhan ng operasyon sa imprastrakturang binuo nito kaysa sa audience na naabot nito. Bagama’t ginamit lamang ng mga aktor ang ChatGPT upang gumawa ng paisa-isang promotional post, nakaturo ang mga post na iyon sa isang institusyong mukhang kapani-paniwala, na may diumano’y mga eksperto, muling inilathalang akademikong akda, at diumano’y sariling indeks ng panganib. Ipinapakita nito kung paano magagamit ng mga aktor na nang-iimpluwensya ang AI bilang pantulong na tool sa mas malawak na pagsisikap na lumikha ng awtoridad, itago ang pinagmulan ng mga pinapaborang salaysay, at magtatag ng mga asset na maaaring palawakin sa paglipas ng panahon. Ipinapakita rin nito kung paanong ang pantulong nilang paggamit ng AI ay maaaring humantong sa pagkakalantad ng mas malawak na operasyon.