Pereiti prie pagrindinio turinio
OpenAI

2025 m. birželio 1 d.

Sauga

Operacija „Miglotas fokusas“: socialinė inžinerija ir įtakos veikla

OpenAI užblokavo paskyras, kurių naudotojai pasitelkė DI socialinei inžinerijai, tyrimams sekimo tema ir įtakos veiklai, nukreiptai į kritikus.

Įkeliama...

Ši atvejo analizė pirmą kartą paskelbta OpenAI 2025 m. birželio mėn.⁠(atsidaro naujame lange) ataskaitoje.

Veikėjas

Užblokavome nedidelį ChatGPT paskyrų tinklą, kurio naudotojai pasitelkė mūsų modelius socialinių tinklų įrašams kurti, duomenų rinkiniams analizuoti ir iš kinų į anglų kalbą versti el. laiškams bei žinutėms, primenantiems socialinės inžinerijos bandymus. Šių paskyrų naudotojai teikė užklausas mūsų modeliams kinų kalba ir daugiausia veikė žemyninės Kinijos darbo valandomis.

Jie generavo žinutes, neva siunčiamas trijų į geopolitiką orientuotų organizacijų darbuotojų: „Fokuso objektyvo naujienų“, „Ryškiosios bangos Europos žiniasklaidos“ ir „Įžvalgių konsultantų grupės“ (VAG). Be to, šiose ChatGPT paskyrose buvo generuojami tekstai, sutampantys su šioms trims organizacijoms priskiriamų X paskyrų įrašais ir profilių aprašais. Kituose pokalbiuose piktavaliai šias organizacijas apibūdino kaip žvalgybinės informacijos rinkimo ir analizės priedangą. Remdamiesi šiais pavadinimais, operaciją pavadinome „Miglotu fokusu“.

Veikimo būdai

Vykdant operaciją, ChatGPT buvo pasitelktas keturioms pagrindinėms veiklos kryptims. Pirma, paskyrų naudotojai daugiausia pasitelkė mūsų modelius socialinių tinklų įrašams ir internetinių personažų biografijoms kurti. Šie personažai, regis, buvo slaptos įtakos operacijos dalis. Įrašai buvo platinami per X paskyras, kurių valdytojai apsimetė žurnalistais ir geopolitikos analitikais.

Šio piktavalio naudojant ChatGPT sugeneruotas įrašas, paskelbtas X paskyroje, kurioje nuolat buvo skelbiamas jo turinys.

Šio piktavalio naudojant ChatGPT sugeneruotas įrašas, paskelbtas X paskyroje, kurioje nuolat buvo skelbiamas jo turinys.

Antra, paskyrų naudotojai tobulino ir vertė JAV senatoriui adresuotus laiškus dėl kandidato į administracijos pareigūno postą teikimo. Negalime nepriklausomai patvirtinti, ar bent vienas iš šių laiškų buvo išsiųstas.

Trečia, paskyrų naudotojai pateikė nemažai elementarių klausimų apie kompiuterių tinklų atakų ir pažeidžiamumų išnaudojimo įrankius. Mūsų modeliai į juos atsakė tik bendro pobūdžio paaiškinimais apie šių įrankių naudojimą ir galimybes. Šie klausimai buvo gerokai paprastesni nei kibernetinių grėsmių veikėjų, kuriuos aprašome toliau šioje ataskaitoje, ir rodo menką kompetenciją.

Galiausiai naudotojai reguliariai prašė iš kinų į anglų kalbą išversti žinutes, kuriomis, regis, buvo siekiama užmegzti ryšį su nenustatytais pašnekovais ir galiausiai išgauti iš jų informaciją. Kai kurios iš šių žinučių buvo paskelbtos socialiniuose tinkluose kaip atsakymai žurnalistams ir tyrėjams. Kitos priminė privačias žinutes, kurių nepavyko rasti atliekant paiešką internete.

Bandymas užmegzti ryšį iš su šia operacija susijusios X paskyros, viešai kreipiantis į tyrėją platformoje X.

Bandymas užmegzti ryšį iš su šia operacija susijusios X paskyros, viešai kreipiantis į tyrėją platformoje X.

Sugeneruoti atsakymai

Pagrindinis šio tinklo tikslas, regis, buvo rinkti žvalgybinę informaciją apsimetant Europoje ar Turkijoje dirbančiais specialistais. Generuotame ir internete skelbtame turinyje operacijos vykdytojai „Fokuso objektyvo naujienas“ apibūdino kaip nepriklausomą Europoje įsikūrusią organizaciją, kurios specializacija – analizė ir naujienų rengimas. Tačiau vykdytojai taip pat teigė, kad šis prekės ženklas iš tikrųjų buvo priedanga, palengvinanti žvalgybinės informacijos rinkimą, analizę ir platinimą.

Socialinių tinklų profilių aprašuose nurodytoje svetainėje teigiama, kad „Įžvalgių konsultantų grupė“ įsikūrusi Turkijoje ir specializuojasi teikdama profesionalias geopolitikos konsultacijas. Vykdytojai naudojo mūsų modelius instrukcijoms iš kinų į anglų kalbą versti. Jose buvo teigiama, kad VAG grupė ieško informacijos apie JAV ekonominę ir finansinę politiką ir yra pasirengusi mokėti 2 000 JAV dolerių už interviu valandą. Jie taip pat vertė pasiūlymus sumokėti už įslaptintus dokumentus.

VAG grupės svetainė turi versijas turkų ir anglų kalbomis. Angliškos versijos puslapio „Susisiekite su mumis“ meniu matomi kinų rašmenys, reiškiantys „susisiekite su mumis“ (聯絡). Tai buvo vienintelis kiniškas tekstas visame domene.

VAG grupės puslapio „Susisiekite su mumis“ ekrano kopija. Išskleidžiamajame meniu matomi kinų rašmenys, reiškiantys „susisiekite su mumis“ (聯絡).

VAG grupės puslapio „Susisiekite su mumis“ ekrano kopija. Išskleidžiamajame meniu matomi kinų rašmenys, reiškiantys „susisiekite su mumis“ (聯絡).

Dalis šio tinklo turinio priminė platesnio masto įtakos operacijoms skirtą rinkodaros medžiagą. Remiantis teiginiais, kurių negalime nepriklausomai patikrinti, vykdant operaciją buvo pasitelkiamas mašininis mokymasis, natūraliosios kalbos apdorojimas ir automatinis duomenų rinkimas iš interneto, siekiant nustatyti įtakingus socialinių tinklų veikėjus ir temas.

Poveikis

Su šia veikla susijusios socialinių tinklų paskyros nesulaukė reikšmingo tikrų naudotojų įsitraukimo internete. Tik „Fokuso objektyvo naujienų“ X paskyra turėjo nemažai sekėjų – 17 000. Tačiau ji buvo sukurta 2014 m. lapkritį kitu pavadinimu, skelbė įrašus tris dienas, o paskui nutilo iki 2024 m. vidurio. Tai būdinga užgrobtoms ir kitai paskirčiai pritaikytoms paskyroms, todėl jos sekėjų skaičių reikėtų vertinti atsargiai.

Pagal įtakos operacijų poveikio prasiveržimo skalę⁠(atsidaro naujame lange) viešąją šios operacijos dalį priskirtume apatinei 2-osios kategorijos daliai: veikta keliose platformose, tačiau beveik nėra įrodymų, kad tikri žmonės perėmė ar plačiai dalijosi jos turiniu. Turimų įrodymų nepakanka šios operacijos socialinės inžinerijos ir kitos slaptos veiklos poveikiui įvertinti.