Operasyong “VAGue Focus”: Social engineering at mga aktibidad na pang-impluwensiya

Unang inilathala ang pag-aaral ng kasong ito sa ulat ng OpenAI noong Hunyo 2025⁠(magbubukas sa bagong window).

Nag-ban kami ng isang maliit na network ng mga ChatGPT account na gumamit ng aming mga modelo para gumawa ng mga post sa social media, magsuri ng mga dataset, at magsalin mula Tsino tungong Ingles ng mga email at mensaheng tila mga pagtatangka sa social engineering. Gumamit ang mga account ng wikang Tsino sa mga prompt sa aming mga modelo at kadalasang aktibo ang mga ito sa mga oras ng trabaho sa mainland China.

Gumawa ang mga ito ng mga mensaheng kunwari ay mula sa mga empleyado ng tatlong organisasyong nakatuon sa heopolitika: “Focus Lens News”, “BrightWave Media Europe”, at “Visionary Advisory Group” (VAG). Bukod dito, gumawa ang mga ChatGPT account ng tekstong tumugma sa mga post at bio ng mga X account na konektado sa tatlong organisasyong ito. Sa hiwalay na mga pahayag, inilarawan ng mga malisyosong aktor ang mga organisasyong ito bilang mga panakip sa pangangalap at pagsusuri ng impormasyong pang-intelihensiya. Batay sa mga pangalang ito, tinawag namin ang operasyong ito na “VAGue Focus”.

Ginamit ng operasyon ang ChatGPT para suportahan ang apat na pangunahing uri ng gawain. Una, pangunahing ginamit ng mga account ang aming mga modelo para gumawa ng mga post sa social media at talambuhay para sa mga online na katauhang mukhang bahagi ng isang lihim na operasyong pang-impluwensiya. Ipinakalat ang mga post ng mga X account na nagpanggap na mga mamamahayag at tagasuri ng heopolitika.

Ikalawa, pinahusay at isinalin ng mga account ang mga liham para sa isang Senador ng US tungkol sa nominasyon ng isang opisyal ng administrasyon. Hindi namin makumpirma mula sa mga independiyenteng sanggunian kung naipadala ang alinman sa mga liham na ito.

Ikatlo, nagtanong ang mga account ng ilang pangunahing tanong tungkol sa mga tool na ginagamit sa pag-atake at pagsasamantala sa mga kahinaan ng computer network. Pangkalahatang paliwanag lamang tungkol sa gamit at kakayahan ng mga ito ang ibinigay ng aming mga modelo. Hindi kasing-antas ng mga tanong na ito ang ipinakitang kaalaman ng mga cyber actor na ilalarawan namin sa bandang huli ng ulat na ito, at nagpapahiwatig ang mga ito ng mababang antas ng kasanayan.

Panghuli, regular na humiling ang mga user ng mga salin mula Tsino tungong Ingles ng mga mensaheng tila idinisenyo upang makipag-ugnayan sa mga kausap na hindi namin matukoy at, sa kalaunan, makakuha ng impormasyon mula sa kanila. Ipinost sa social media ang ilan sa mga mensaheng ito bilang mga tugon sa mga mamamahayag at mananaliksik. Ang iba ay mukhang mga direktang mensahe na hindi lumitaw sa mga paghahanap online.

Lumilitaw na ang pangunahing layunin ng network na ito ay mangalap ng impormasyong pang-intelihensiya sa pamamagitan ng pagpapanggap na mga propesyonal na nakabase sa Europa o Turkey. Sa nilalamang ginawa at ipinost nila online, inilarawan ng mga nagpapatakbo ng operasyon ang “Focus Lens News” bilang isang independiyenteng organisasyong nakabase sa Europa na dalubhasa sa pagsusuri at pag-uulat. Gayunman, sinabi rin nilang nagsilbing panakip lamang ang pagkakakilanlang ito upang mapadali ang pangangalap, pagsusuri, at pagpapalaganap ng impormasyong pang-intelihensiya.

Ayon sa website na naka-link sa mga bio sa social media, ang Visionary Advisory Group ay nasa Turkey at dalubhasa sa mga propesyonal na serbisyong pagkonsulta sa heopolitika. Ginamit ng mga nagpapatakbo ng operasyon ang aming mga modelo upang isalin mula Tsino tungong Ingles ang mga tagubiling nagsasaad na naghahanap ang VAG Group ng impormasyon tungkol sa mga patakarang pang-ekonomiya at pampinansiya ng US at handa itong magbayad ng $2,000 kada oras para sa isang panayam. Nagsalin din sila ng mga alok na magbayad kapalit ng mga klasipikadong dokumento.

May mga bersiyong Turko at Ingles ang website ng VAG Group. Sa pahinang Makipag-ugnayan sa Amin ng Ingles na bersiyon, makikita sa menu ang mga karakter na Tsino para sa “makipag-ugnayan sa amin” (聯絡). Ito lang ang tekstong Tsino sa buong domain.

Ang ilan sa nilalaman ng network na ito ay mukhang mga materyal na pang-promosyon para sa mas malawak na mga operasyong pang-impluwensiya. Ayon sa mga pahayag na hindi namin mabeberipika mula sa mga independiyenteng sanggunian, gumamit ang operasyon ng machine learning, pagproseso ng natural na wika, at awtomatikong pagkuha ng datos upang tukuyin ang mga maimpluwensiyang tao at paksa sa social media.

Hindi nakakuha ng makabuluhang tunay na pakikipag-ugnayan online ang mga social media account na konektado sa aktibidad na ito. Tanging ang X account ng Focus Lens News ang may malaking bilang ng mga follower—17,000. Gayunman, ginawa ang account noong Nobyembre 2014 gamit ang ibang pangalan, nag-tweet sa loob ng tatlong araw, at pagkatapos ay nanahimik hanggang kalagitnaan ng 2024. Karaniwan ito sa mga account na nakompromiso at ginamit para sa ibang layunin, kaya dapat maging maingat sa pagbibigay-kahulugan sa bilang ng mga follower nito.

Gamit ang Sukatan ng Paglaganap⁠(magbubukas sa bagong window) para sa epekto ng mga operasyong pang-impluwensiya (IO), mailalagay namin ang bahaging nakikita ng publiko ng operasyong ito sa mababang dulo ng Kategorya 2: may aktibidad sa maraming platform, ngunit kakaunti ang ebidensiyang pinansin o malawakang ibinahagi ng mga totoong tao ang nilalaman nito. Hindi sapat ang makukuhang ebidensiya upang masuri ang epekto ng social engineering at iba pang lihim na aktibidad ng operasyon.