Operācija „Neskaidrais fokuss”: sociālā inženierija un ietekmēšanas darbības

Šī gadījuma analīze sākotnēji publicēta OpenAI 2025. gada jūnija⁠(atveras jaunā logā) ziņojumā.

Mēs bloķējām nelielu ChatGPT kontu tīklu, kurā mūsu modeļus izmantoja sociālo mediju ierakstu ģenerēšanai, datu kopu analīzei un e-pastu un ziņu tulkošanai no ķīniešu valodas angļu valodā. Šie e-pasti un ziņas līdzinājās sociālās inženierijas mēģinājumiem. Šajos kontos mūsu modeļiem uzvednes ievadīja ķīniešu valodā, un konti lielākoties bija aktīvi kontinentālās Ķīnas darbalaikā.

Tajos ģenerēja ziņas, kas it kā nāca no trīs uz ģeopolitiku orientētu organizāciju darbiniekiem: „Fokusa lēcas ziņas”, „Spožā viļņa mediji Eiropā” un „Vizionārā konsultāciju grupa” (VAG). Turklāt šajos ChatGPT kontos ģenerētais teksts sakrita ar šo trīs organizāciju X kontu ierakstiem un profilu aprakstiem. Citviet apdraudējuma radītāji šīs organizācijas raksturoja kā aizsegu izlūkinformācijas vākšanai un analīzei. Balstoties uz šiem nosaukumiem, mēs šo operāciju nodēvējām par „Neskaidro fokusu”.

Operācijā ChatGPT izmantoja četros galvenajos darbības virzienos. Pirmkārt, šajos kontos mūsu modeļus galvenokārt izmantoja sociālo mediju ierakstu un biogrāfiju ģenerēšanai izdomātām tiešsaistes personām, kuras, šķiet, bija daļa no slēptas ietekmēšanas operācijas. Ierakstus izplatīja X kontos, kas uzdevās par žurnālistiem un ģeopolitikas analītiķiem.

Otrkārt, šajos kontos uzlaboja un tulkoja kādam ASV senatoram adresētu saraksti par administrācijas amatpersonas izvirzīšanu amatam. Mēs nevaram neatkarīgi apstiprināt, vai kaut kas no šīs sarakstes tika nosūtīts.

Treškārt, šajos kontos uzdeva virkni pamatlīmeņa jautājumu par uzbrukumu rīkiem datortīkliem un to ievainojamību izmantošanu. Mūsu modeļi uz tiem sniedza tikai vispārīgus skaidrojumus par rīku lietojumu un iespējām. Šie jautājumi liecināja par zemāku sagatavotības līmeni nekā tiem kiberdraudu radītājiem, kurus aprakstām tālāk šajā ziņojumā, un norādīja uz vājām zināšanām šajā jomā.

Visbeidzot, lietotāji regulāri lūdza tulkot no ķīniešu valodas angļu valodā ziņas, kuru mērķis, šķiet, bija nodibināt kontaktu ar nezināmiem sarunbiedriem un galu galā iegūt no viņiem informāciju. Daļa šo ziņu tika publicēta sociālajos medijos kā atbildes žurnālistiem un pētniekiem. Citas līdzinājās privātām ziņām, kuras tiešsaistes meklējumos neizdevās atrast.

Šķiet, šī tīkla galvenais mērķis bija vākt izlūkinformāciju, uzdodoties par Eiropā vai Turcijā strādājošiem profesionāļiem. Ģenerētajā un tiešsaistē publicētajā saturā operācijas īstenotāji raksturoja „Fokusa lēcas ziņas” kā neatkarīgu, Eiropā bāzētu organizāciju, kas specializējas analīzē un ziņu veidošanā. Tomēr operācijas īstenotāji arī apgalvoja, ka šis tēls patiesībā kalpoja par aizsegu izlūkinformācijas vākšanai, analīzei un izplatīšanai.

Saskaņā ar sociālo mediju profilu aprakstos norādīto tīmekļvietni Vizionārā konsultāciju grupa atrodas Turcijā un specializējas profesionālās ģeopolitikas konsultācijās. Operācijas īstenotāji izmantoja mūsu modeļus, lai no ķīniešu valodas angļu valodā tulkotu norādījumus, kuros apgalvots, ka VAG grupa meklē informāciju par ASV ekonomikas un finanšu politiku un ir gatava par interviju maksāt 2000 ASV dolāru stundā. Viņi tulkoja arī piedāvājumus maksāt par slepeniem dokumentiem.

VAG grupas tīmekļvietnei ir versijas turku un angļu valodā, un angļu versijas lapas „Sazinieties ar mums” izvēlnē ir redzamas ķīniešu rakstzīmes ar nozīmi „sazinieties ar mums” (聯絡). Tas bija vienīgais teksts ķīniešu valodā visā domēnā.

Daļa šī tīkla satura līdzinājās plašāku ietekmēšanas operāciju mārketinga materiāliem. Saskaņā ar apgalvojumiem, kurus nevaram neatkarīgi pārbaudīt, operācijā izmantoja mašīnmācīšanos, dabiskās valodas apstrādi un automatizētu datu izgūšanu, lai sociālajos medijos apzinātu ietekmīgus viedokļu paudējus un tematus.

Ar šo darbību saistītie sociālo mediju konti tiešsaistē neizraisīja ievērojamu patiesu lietotāju iesaisti. Tikai X kontam „Fokusa lēcas ziņas” bija ievērojams sekotāju skaits — 17 000. Tomēr konts tika izveidots 2014. gada novembrī ar citu nosaukumu, tajā trīs dienas publicēja tvītus, bet pēc tam līdz 2024. gada vidum tas bija neaktīvs. Tas ir raksturīgi kontiem, kas pārņemti un pielāgoti citiem mērķiem, tāpēc šī konta sekotāju skaits jāvērtē piesardzīgi.

Izmantojot ietekmēšanas operāciju ietekmes novērtēšanas izplatības skalu⁠(atveras jaunā logā), mēs šīs operācijas publiski redzamo daļu ierindotu 2. kategorijas zemākajā līmenī: darbība vairākās platformās, bet maz pierādījumu tam, ka reāli cilvēki būtu pārņēmuši vai plaši izplatījuši tās saturu. Pieejamo pierādījumu nepietiek, lai novērtētu operācijas sociālās inženierijas un citu slēpto darbību ietekmi.