Sudraba maliņas taktika: iespējams, no Ķīnas īstenotas darbības pret personām no ASV

Šī gadījuma izpēte sākotnēji publicēta OpenAI 2026. gada februāra⁠(atveras jaunā logā) ziņojumā par mākslīgā intelekta ļaunprātīgas izmantošanas novēršanu.

Mēs bloķējām nelielu skaitu ChatGPT kontu, kuru izcelsme, visticamāk, bija Ķīnā. To lietotāji izmantoja mūsu modeļus, lai pieprasītu informāciju par personām no ASV, forumiem un federālo iestāžu ēku atrašanās vietām, norādījumus par sejas aizstāšanas programmatūru un ģenerētu e-pasta vēstules angļu valodā, kas atgādināja sociālās inženierijas mēģinājumus. Viņi sniedza uzvednes mūsu modeļiem ķīniešu valodā, pārsvarā bija aktīvi kontinentālās Ķīnas darba laikā un piekļuvei mūsu platformai izmantoja VPN.

Šajos kontos tika ģenerēti e-pasta vēstuļu melnraksti, kuros par sūtītājiem tika uzdoti Honkongā bāzēta uzņēmuma „Nimbus Hub Consulting” darbinieki. Tomēr uzvednēs mūsu modeļiem viņi izmantoja vienkāršotās ķīniešu rakstzīmes, ko parasti lieto kontinentālajā Ķīnā, nevis tradicionālās ķīniešu rakstzīmes, ko parasti lieto Honkongā. Tas liecina, ka faktiskie kontu lietotāji atradās kontinentālajā Ķīnā. Turklāt vienā kontā tika ģenerēta e-pasta vēstule, kuras sūtītājs uzdevās par Šanhajā bāzētas sabiedrisko attiecību organizācijas pārstāvi. Šī organizācija veicina ekonomisko un kultūras apmaiņu starp ASV un Šanhaju. Tā kā uzņēmuma nosaukumā bija vārds „Nimbus”, kas nozīmē lietus mākoni vai oreolu, mēs šo operāciju nosaucām par „Sudraba maliņas taktiku”.

Šajos kontos tika ģenerēti e-pasta vēstuļu melnraksti angļu valodā, kas bija adresēti ASV štatu amatpersonām vai politikas analītiķiem uzņēmējdarbības un finanšu jomā. Šķietami tie bija uzaicinājumi saņēmējiem sniegt maksas konsultācijas — skaidrot politiku un sniegt stratēģiskus ieteikumus sūtītāju klientiem. Viņi lūdza sagatavot īsus, skaidrus un profesionālus e-pasta vēstuļu melnrakstus ar temata rindiņām, kas radītu steidzamības sajūtu un ietvertu neuzkrītošus psiholoģiskas ietekmēšanas paņēmienus.

Turklāt šo ChatGPT kontu lietotāji izmantoja mūsu modeļus vispārīgas informācijas meklēšanai. Atbildēs mūsu modelis izmantoja publiski pieejamus avotus. Tika uzdoti jautājumi par šādām tēmām:

• ASV federālās valdības biroju, tostarp galveno biroju, atrašanās vietas un štatu saraksts, kas sakārtots pēc federālo aģentūru un amatpersonu koncentrācijas.

• ASV federālo iestāžu darbinieku sadalījums pa štatiem.

• Personas no ASV, piemēram, raidorganizācijas „Amerikas Balss” raidījumu vadītāji, tostarp viņu iepriekšējās intervijas un interešu tēmas.

• Tiešsaistes forumi un tīmekļvietnes, ko bieži izmanto ASV ekonomikas un finanšu jomas profesionāļi un darba meklētāji.

Īpaši jāatzīmē, ka viena konta lietotājs lūdza norādījumus, kā datorā lejupielādēt un instalēt FaceFusion — platformu seju aizstāšanai un citādai multivides materiālu uzlabošanai. Kā liecina darbības pakalpojumā ChatGPT, tika pausts nodoms izmantot tieši tās sejas aizstāšanas funkciju reāllaikā. Tika lūgta instalēšanas pamācība soli pa solim bez tehniskiem terminiem, apgalvojot, ka lietotājs ir iesācējs programmēšanā, tāpēc norādījumiem jābūt vienkāršiem. Lai atvieglotu instalēšanu, tika augšupielādēts datora tehnisko parametru ekrānuzņēmums. Modelis atbildē sniedza informāciju no FaceFusion publiski pieejamās tīmekļvietnes un dokumentācijas.

Norādījumi e-pasta vēstuļu melnrakstu ģenerēšanai ar mūsu modeļiem vairāk atgādināja ārvalstu izlūkdienestu izmantotu sociālās inženierijas taktiku⁠(atveras jaunā logā) kontaktu uzsākšanai, nevis parastu darba piedāvājumu sagatavošanu. Katrā e-pasta vēstules melnrakstā tika lūgts iekļaut šādas sadaļas:

Radīt uzticamības iespaidu: „Nimbus Hub” tika pasniegts kā profesionāls stratēģisko konsultāciju uzņēmums ar autoritatīvām zināšanām ģeopolitikā un starpvalstu politikā. Tika iekļauta saite uz Nimbus Hub tīmekļvietni (skatiet ekrānuzņēmumu tālāk).

Personalizēt vēstuli un glaimot saņēmējam: Modelim tika norādīts skaidri atsaukties uz saņēmēja pieredzi valsts sektorā kā pierādījumu tam, ka viņš ir ideāli piemērots šim darbam. Vienā gadījumā konta lietotājs augšupielādēja Šanhajā dzīvojošas personas no ASV LinkedIn profila ekrānuzņēmumus un lika modelim personalizēt e-pasta vēstules melnrakstu, balstoties uz ekrānuzņēmumos redzamo informāciju par šīs personas pieredzi un līdzšinējo darbību.

Piedāvāt vairākus ieguvumus: Konsultāciju darbs parasti tika pasniegts kā ienesīga iespēja strādāt tiešsaistē, saņemot piemaksas par rezultātiem un atlīdzību par citu cilvēku piesaistīšanu, taču pats darba saturs tika aprakstīts neskaidri.

Izmantot nomierinošu valodu un mazināt bažas par riskiem: Bieži tika apgalvots, ka darbs ir mierīgs, samaksa tiek veikta laikus un tiek ievērota konfidencialitāte.

Ātri pārcelt saziņu uz citu platformu: Vienmēr tika mēģināts panākt, lai saņēmēji no e-pasta sarakstes pārietu uz sākotnēju tiešsaistes videosarunu lietotnē WhatsApp, Zoom vai Teams.

Šajā gadījumā tīklu mijiedarbība ar modeļiem nebija tehniski sarežģīta, un to pieprasījumi dažkārt atgādināja ticamu darbā pieņemšanas uzaicinājumu sagatavošanu vai likumīgu programmatūras instalēšanu. Tomēr lietotāju taktika — slēpšanās aiz viltus uzņēmuma identitātes — un interese par ģeopolitiskiem jautājumiem liecina par iespējamu nodomu vervēt cilvēkus naidīgiem mērķiem.

Šo kontu darbības pakalpojumā ChatGPT nesniedza pierādījumus, ka tiem būtu izdevies panākt uzaicinājumu saņēmēju atbildes. Mēs nevarējām neatkarīgi noskaidrot, vai e-pasta uzaicinājumi patiešām tika nosūtīti un vai kāds no izraudzītajiem saņēmējiem uz tiem atbildēja.

Vairāku demokrātisku valstu (piemēram, ASV⁠(atveras jaunā logā), Apvienotās Karalistes⁠(atveras jaunā logā), Austrālijas⁠(atveras jaunā logā)) valdības ir brīdinājušas, ka ārvalstu izlūkdienesti cenšas vervēt pašreizējos un bijušos valsts pārvaldes darbiniekus, sociālo un profesionālo kontaktu platformās uzdodoties par konsultāciju uzņēmumiem un citām organizācijām. Parastus darba piedāvājumus var būt grūti atšķirt no šādiem mērķētiem sociālās inženierijas mēģinājumiem, jo tiem ir vairākas kopīgas iezīmes. Tomēr īsti darba piedāvājumi parasti paredz ilgāku kandidātu atlases procesu un ietver pārbaudāmu informāciju par amata nosaukumu, ticamas ziņas par darba devēju, tirgum atbilstošu atalgojuma diapazonu un saites uz reāliem darba sludinājumiem. Īsāk sakot, ja kaut kas šķiet pārāk labs, lai būtu patiesība, visticamāk, tā arī ir.