Operatsioon „VAGue Focus“: sotsiaalmanipulatsioon ja mõjutustegevus

See juhtumiuuring avaldati algselt OpenAI 2025. aasta juuni⁠(avaneb uues aknas) aruandes.

Blokeerisime väikese ChatGPT kontode võrgustiku, mis kasutas meie mudeleid sotsiaalmeediapostituste loomiseks, andmestike analüüsimiseks ning sotsiaalmanipulatsiooni katseid meenutavate e-kirjade ja sõnumite tõlkimiseks hiina keelest inglise keelde. Nende kontode kaudu anti meie mudelitele hiinakeelseid juhiseid ning kontod olid aktiivsed peamiselt Mandri-Hiina tööajal.

Kontode kaudu loodi sõnumeid, mis väidetavalt pärinesid kolme geopoliitikale keskenduva organisatsiooni töötajatelt: „Focus Lens News“, „BrightWave Media Europe“ ja „Visionary Advisory Group“ (VAG). Lisaks loodi nende ChatGPT kontode kaudu tekste, mis kattusid kolme organisatsiooniga seotud X-i kontode postituste ja profiilitutvustustega. Eraldi kirjeldasid pahatahtlikud tegutsejad neid organisatsioone luureteabe kogumise ja analüüsimise kattevarjuna. Nende nimede põhjal andsime operatsioonile nime „VAGue Focus“.

Operatsioonis kasutati ChatGPT‑d nelja peamise tegevussuuna toetamiseks. Esiteks kasutati kontode kaudu meie mudeleid peamiselt sotsiaalmeediapostituste ja profiilitutvustuste loomiseks veebipersoonidele, kes näisid olevat osa varjatud mõjutusoperatsioonist. Postitusi levitasid X-i kontod, mille kasutajad esinesid ajakirjanike ja geopoliitikaanalüütikutena.

Teiseks viimistleti ja tõlgiti kontode kaudu USA senaatorile adresseeritud kirju, mis puudutasid administratsiooni ametniku ametisse nimetamiseks esitamist. Me ei saa sõltumatult kinnitada, kas mõni neist kirjadest ka saadeti.

Kolmandaks esitati kontode kaudu hulk algtaseme küsimusi arvutivõrkude ründamise ja turvanõrkuste ärakasutamise tööriistade kohta. Meie mudelid vastasid neile üksnes üldiste selgitustega tööriistade kasutuse ja võimaluste kohta. Need küsimused jäid keerukuselt alla aruandes hiljem kirjeldatud küberründajate omadele ja viitavad vähestele erialateadmistele.

Viimaks palusid kasutajad regulaarselt tõlkida hiina keelest inglise keelde sõnumeid, mille eesmärk näis olevat luua kontakt tundmatute vestluspartneritega ja lõpuks neilt teavet hankida. Osa neist sõnumitest avaldati sotsiaalmeedias vastustena ajakirjanikele ja teadlastele. Teised meenutasid privaatsõnumeid, mida veebiotsingutega ei leitud.

Võrgustiku peamine eesmärk näis olevat luureteabe kogumine, esinedes Euroopas või Türgis tegutsevate spetsialistidena. Enda loodud ja veebis avaldatud sisus kirjeldasid operatsiooni korraldajad organisatsiooni „Focus Lens News“ kui Euroopas asuvat sõltumatut üksust, mis on spetsialiseerunud analüüsile ja uudiste kajastamisele. Samas väitsid korraldajad ka seda, et selline kuvand oli tegelikult kattevari, mis hõlbustas luureteabe kogumist, analüüsimist ja levitamist.

Sotsiaalmeedia profiilitutvustustes viidatud veebisaidi kohaselt asub Visionary Advisory Group Türgis ja on spetsialiseerunud professionaalsele geopoliitilisele nõustamisele. Korraldajad kasutasid meie mudeleid, et tõlkida hiina keelest inglise keelde juhiseid, milles väideti, et VAG Group otsib teavet USA majandus- ja rahanduspoliitika kohta ning on valmis maksma intervjuu eest 2000 dollarit tunnis. Samuti tõlkisid nad pakkumisi maksta salastatud dokumentide eest.

VAG Groupi veebisaidil on türgi- ja ingliskeelne versioon ning ingliskeelse versiooni kontaktilehe menüüs on näha hiina kirjamärgid tähendusega „Võta meiega ühendust“ (聯絡). See oli kogu domeeni ainus hiinakeelne tekst.

Osa võrgustiku loodud sisust meenutas laiemate mõjutusoperatsioonide turundusmaterjale. Väidete kohaselt, mida me ei saa sõltumatult kontrollida, kasutati operatsioonis masinõpet, loomuliku keele töötlust ja automatiseeritud andmekraapimist, et tuvastada sotsiaalmeedias mõjukaid arvamusliidreid ja teemasid.

Selle tegevusega seotud sotsiaalmeediakontod ei pälvinud veebis märkimisväärset ehtsat vastukaja. Vaid Focus Lens Newsi X-i kontol oli märkimisväärne jälgijaskond: 17 000 jälgijat. Konto oli aga loodud 2014. aasta novembris teise nime all, sellelt säutsuti kolm päeva ning seejärel vaikis konto kuni 2024. aasta keskpaigani. See on tüüpiline kaaperdatud ja uuel otstarbel kasutusele võetud kontodele, mistõttu tuleks selle jälgijate arvu suhtuda ettevaatlikult.

Mõjutusoperatsioonide mõju hindava läbimurdeskaala⁠(avaneb uues aknas) põhjal paigutaksime selle operatsiooni avaliku osa 2. kategooria alumisse otsa: tegevus toimus mitmel platvormil, kuid on vähe tõendeid selle kohta, et päris inimesed oleksid sisu omaks võtnud või laialdaselt jaganud. Operatsiooni sotsiaalmanipulatsiooni ja muu varjatud tegevuse mõju hindamiseks ei ole piisavalt tõendeid.