Manwal ng Pag-asa: Aktibidad na malamang ay mula sa China at tumatarget sa mga indibidwal mula sa US

Unang inilathala ang pag-aaral ng kasong ito sa ulat ng OpenAI noong Pebrero 2026⁠(magbubukas sa bagong window) tungkol sa pagpigil sa mga mapaminsalang paggamit ng AI.

Nag-ban kami ng isang maliit na grupo ng mga ChatGPT account na malamang ay nagmula sa China. Ginamit nila ang aming mga modelo para humingi ng impormasyon tungkol sa mga indibidwal mula sa US, mga forum, at mga lokasyon ng gusali ng pederal na pamahalaan, pati na ng gabay sa software para sa pagpapalit ng mukha. Gumawa rin sila ng mga email sa Ingles na mukhang mga pagtatangka sa social engineering. Nagbigay sila ng mga prompt sa aming mga modelo sa wikang Chinese, aktibo sila pangunahin sa mga oras ng trabaho sa mainland China, at gumamit sila ng mga VPN para ma-access ang aming platform.

Gumawa ang mga account ng mga draft ng email na kunwari ay mula sa mga empleyado ng kumpanyang nakabase sa Hong Kong na pinangalanang “Nimbus Hub Consulting”. Gayunman, gumamit sila ng mga karakter ng Simplified Chinese (na karaniwang ginagamit sa mainland China) sa mga prompt sa aming mga modelo sa halip na Traditional Chinese (na karaniwang ginagamit sa Hong Kong). Ipinahihiwatig nito na nakabase sa mainland China ang mga aktuwal na operator. Bukod dito, gumawa ang isang account ng email na nagpapanggap na mula sa isang kinatawan ng organisasyong pang-ugnayang pampubliko na nakabase sa Shanghai at nagtataguyod ng mga palitang pang-ekonomiya at pangkultura sa pagitan ng US at Shanghai. Batay sa pagtukoy ng pangalan ng kumpanya sa “Nimbus”, na nangangahulugang ulap-ulan o sinag sa paligid ng ulo, pinangalanan namin ang operasyong ito na “Manwal ng Pag-asa”.

Gumawa ang mga account ng mga draft ng email sa Ingles para sa mga opisyal sa antas ng estado sa US o mga tagasuri ng patakaran na nagtatrabaho sa larangan ng negosyo at pananalapi. Mukhang iniimbitahan nila ang mga tatanggap na ito na lumahok sa mga konsultasyong may bayad, na inilarawan nila bilang pagpapaliwanag ng patakaran at pagbibigay ng estratehikong payo para sa kanilang mga kliyente. Hiniling nilang maging maikli, malinaw, at propesyonal ang mga draft ng email, na may mga subject line na naghihikayat ng agarang pagtugon at gumagamit ng mga banayad na pahiwatig na sikolohikal.

Bukod dito, ginamit ng mga ChatGPT account ang aming mga modelo para maghanap ng pangkalahatang impormasyon. Tumugon ang aming modelo gamit ang mga sangguniang bukas sa publiko. Kabilang dito ang mga tanong tungkol sa mga sumusunod na paksa:

• Ang mga lokasyon ng mga tanggapan ng pederal na pamahalaan ng US, kabilang ang mga pangunahing tanggapan, at isang listahan ng mga estadong niranggo ayon sa dami ng mga pederal na ahensiya at opisyal na naroon.

• Ang distribusyon ng mga kawani ng pederal na pamahalaan ng US ayon sa estado.

• Mga indibidwal mula sa US, gaya ng mga host ng Voice of America, kabilang ang kanilang mga nakaraang panayam at mga paksang kinaiinteresan.

• Mga online forum at website na karaniwang ginagamit ng mga propesyonal at naghahanap ng trabaho sa larangan ng ekonomiya at pananalapi sa US.

Kapansin-pansing humingi ang isang account ng gabay kung paano i-download at i-install sa kanilang computer ang FaceFusion, isang platform para sa pagpapalit ng mukha at iba pang pagpapahusay ng media. Batay sa kanilang aktibidad sa ChatGPT, sinabi nilang partikular na nais nilang gamitin ang feature nito para sa live na pagpapalit ng mukha. Humingi sila ng sunod-sunod at hindi teknikal na gabay sa pag-install. Sinabi nilang baguhan sila sa computer programming, kaya kailangang simple ang mga tagubilin. Nag-upload sila ng screenshot ng mga espesipikasyon ng hardware ng kanilang computer para makatulong sa pag-install. Tumugon ang modelo gamit ang impormasyong mula sa website at dokumentasyon ng FaceFusion na bukas sa publiko.

Ang kanilang mga tagubilin sa paggawa ng mga draft ng email gamit ang aming mga modelo ay kahawig ng isang manwal⁠(magbubukas sa bagong window) ng social engineering para sa pakikipag-ugnayan ng isang dayuhang ahensiya ng paniktik, sa halip na mga karaniwang mensahe tungkol sa trabaho. Para sa bawat draft ng email, hiniling nila ang mga sumusunod na seksiyon:

Magmukhang lehitimo: Ipinakilala nila ang “Nimbus Hub” bilang isang propesyonal na consulting firm sa estratehiya na may kinikilalang kadalubhasaan sa heopolitika at mga patakarang sumasaklaw sa iba't ibang bansa. Nagsama sila ng link sa website ng Nimbus Hub (tingnan ang screenshot sa ibaba).

Iangkop ang mensahe sa target at purihin siya: Inutusan nila ang modelo na tahasang banggitin ang karanasan ng tatanggap sa pampublikong sektor bilang patunay na siya ang pinakababagay sa posisyon. Sa isang pagkakataon, nag-upload ang account ng mga screenshot ng LinkedIn profile ng isang indibidwal mula sa US na nakabase sa Shanghai. Inutusan nito ang modelo na iangkop ang draft ng email batay sa tekstong nasa mga screenshot tungkol sa mga personal na karanasan at pinagmulan ng indibidwal.

Mag-alok ng maraming insentibo: Karaniwang ipinang-akit ang alok na pagkonsulta bilang isang online na oportunidad na malaki ang kita, may mga bonus batay sa pagganap at gantimpala sa pagre-refer ng iba, ngunit nanatiling malabo ang aktuwal na trabaho.

Gumamit ng pananalitang nagbibigay-kumpiyansa at nagpapababang tingin sa mga panganib: Madalas nilang sabihing magaan ang trabaho, nasa oras ang bayad, at kumpidensiyal ito.

Ilipat agad ang komunikasyon sa ibang platform: Palagi nilang sinisikap na ilipat ang mga tatanggap mula sa email tungo sa isang paunang online na video conference sa WhatsApp, Zoom, o Teams.

Hindi teknikal na masalimuot ang pakikipag-ugnayan ng mga network sa modelo sa kasong ito. Kung minsan, ang mga kahilingan nila ay mukhang karaniwang pagpapagawa ng mga imbitasyon para sa recruitment o lehitimong pag-install ng software. Gayunman, ang paggamit ng mga user ng pekeng pagkakakilanlan ng kumpanya at ang interes nila sa mga usaping heopolitikal ay nagpapahiwatig ng posibleng layuning mag-recruit para sa mapanlabang aktibidad.

Batay sa paggamit ng mga account sa ChatGPT, walang ebidensiyang nagtagumpay silang mahikayat ang mga target nila na tumugon sa kanilang mga imbitasyon. Hindi namin malayang matiyak kung talagang naipadala ang mga imbitasyon sa email o kung may tumugon sa mga target na tatanggap.

Nagbabala ang ilang demokratikong pamahalaan (hal. USA⁠(magbubukas sa bagong window), UK⁠(magbubukas sa bagong window), Australia⁠(magbubukas sa bagong window)) na tinatarget ng mga dayuhang ahensiya ng paniktik ang kasalukuyan at dating mga empleyado ng gobyerno para sa recruitment. Nagpapanggap ang mga ito bilang mga consulting firm at iba pang entidad sa mga platform para sa social at professional networking. Maaaring mahirap pag-ibahin ang karaniwang mga mensahe tungkol sa trabaho at ang mga target na pamamaraang ito ng social engineering dahil may ilang pagkakatulad ang mga ito. Gayunman, ang lehitimong pakikipag-ugnayan ay karaniwang nakabatay sa mas mabagal na proseso ng pagsusuri sa mga aplikante. Mayroon din itong mapapatunayang impormasyon tungkol sa titulo ng posisyon, kapani-paniwalang detalye ng employer, makatwirang saklaw ng sahod ayon sa merkado, at mga link sa tunay na anunsiyo ng trabaho. Sa madaling salita, kung napakaganda ng alok para maging totoo, malamang ay hindi nga ito totoo.