A „VAGue Focus” művelet: pszichológiai manipuláció és befolyásolás
Az OpenAI letiltott olyan fiókokat, amelyek pszichológiai manipulációra, megfigyeléssel kapcsolatos kutatásra és bírálókat célzó befolyásolási tevékenységre használták az MI-t.
Ez az esettanulmány eredetileg az OpenAI 2025. júniusi(új ablakban nyílik meg) jelentésében jelent meg.
Elkövető
Letiltottunk egy ChatGPT‑fiókokból álló kisebb hálózatot, amely modelljeinket közösségimédia-bejegyzések létrehozására, adathalmazok elemzésére, valamint pszichológiai manipulációs kísérletnek tűnő e-mailek és üzenetek kínairól angolra fordítására használta. A fiókok kínai nyelven adtak utasításokat modelljeinknek, és főként a szárazföldi Kínában szokásos munkaidőben voltak aktívak.
Olyan üzeneteket generáltak, amelyek állítólag három geopolitikával foglalkozó szervezet munkatársaitól származtak: a „Focus Lens News”, a „BrightWave Media Europe” és a „Visionary Advisory Group” (VAG) alkalmazottaitól. A ChatGPT‑fiókok emellett olyan szövegeket is generáltak, amelyek megegyeztek az e három szervezethez köthető X-fiókok bejegyzéseivel és bemutatkozásaival. A rosszindulatú szereplők másutt hírszerzési információk gyűjtésére és elemzésére szolgáló fedőszervezetekként írták le ezeket a szervezeteket. E nevek alapján a műveletet „VAGue Focus”-nak neveztük el.
Módszerek
A műveletben négy fő tevékenység támogatására használták a ChatGPT‑t. Először is, a fiókok többnyire olyan online személyiségekhez készítettek közösségimédia-bejegyzéseket és bemutatkozásokat modelljeinkkel, amelyek látszólag egy rejtett befolyásolási művelet részei voltak. A bejegyzéseket újságíróknak és geopolitikai elemzőknek álcázott X-fiókok terjesztették.
A rosszindulatú szereplő által a ChatGPT‑vel létrehozott tweet, amelyet egy, a szereplő tartalmait rendszeresen közzétevő X-fiókból posztoltak.
Másodszor, a fiókok egy kormányzati tisztviselő jelölése ügyében egy amerikai szenátornak címzett levelezés szövegét csiszolták és fordították le. Független forrásból nem tudjuk megerősíteni, hogy e levelek közül bármelyiket elküldték-e.
Harmadszor, a fiókok egy sor alapvető kérdést tettek fel a számítógépes hálózatok támadására és sebezhetőségeik kihasználására szolgáló eszközökről. Modelljeink ezekre csak általános magyarázatot adtak az eszközök használatáról és képességeiről. E kérdésekből hiányzott a jelentés későbbi részében bemutatott kibertámadókra jellemző felkészültség, és alacsony szintű szakértelemre utaltak.
Végül a felhasználók rendszeresen kérték olyan üzenetek kínairól angolra fordítását, amelyek látszólag ismeretlen személyek megszólítását, majd információk kicsalását célozták. Ezen üzenetek egy részét újságíróknak és kutatóknak címzett válaszként tették közzé a közösségi médiában. Mások privát üzeneteknek tűntek, és nem bukkantak fel az online keresésekben.
Előzetes kapcsolat nélküli megkeresés: a művelethez köthető X-fiók nyilvános üzenetet küldött egy kutatónak az X-en.
Generált tartalmak
Úgy tűnt, a hálózat elsődleges célja az volt, hogy Európában vagy Törökországban dolgozó szakembereknek adva ki magukat hírszerzési információkat gyűjtsenek. Az általuk generált és online közzétett tartalmakban a működtetők a „Focus Lens News”-t független, európai székhelyű, elemzésekre és tudósításokra szakosodott szervezetként mutatták be. Ugyanakkor azt is állították, hogy ez az arculat valójában a hírszerzési információk gyűjtését, elemzését és terjesztését megkönnyítő fedésként szolgált.
A közösségimédia-profilok bemutatkozásaiban belinkelt weboldal szerint a Visionary Advisory Group törökországi székhelyű, és professzionális geopolitikai tanácsadási szolgáltatásokra szakosodott. A működtetők modelljeinkkel kínairól angolra fordíttattak olyan utasításokat, amelyek szerint a VAG Group az Egyesült Államok gazdaság- és pénzügypolitikájáról keresett információkat, és hajlandó volt óránként 2000 dollárt fizetni egy interjúért. Olyan ajánlatokat is lefordíttattak, amelyekben pénzt ígértek minősített dokumentumokért.
A VAG Group weboldalának török és angol változata is van; az angol változat Kapcsolat oldalán a menüben a „kapcsolat” kínai írásjegyei (聯絡) láthatók. Ez volt az egyetlen kínai szöveg a teljes webhelyen.
Képernyőkép a VAG Group Kapcsolat oldaláról, amelynek legördülő menüjében a „kapcsolat” kínai írásjegyei (聯絡) láthatók.
A hálózat egyes tartalmai kiterjedtebb befolyásolási műveleteket reklámozó marketinganyagoknak tűntek. A független forrásból nem ellenőrizhető állítások szerint a műveletben gépi tanulást, természetesnyelv-feldolgozást és automatizált webes adatgyűjtést használtak a közösségi média befolyásos szereplőinek és témáinak azonosítására.
Hatás
A tevékenységhez kapcsolódó közösségimédia-fiókok nem váltottak ki jelentős aktivitást valódi felhasználók körében. Csak a Focus Lens News X-fiókja rendelkezett számottevő, 17 000 fős követőtáborral. A fiókot azonban 2014 novemberében más néven hozták létre, három napig tweetelt, majd 2024 közepéig elhallgatott. Ez jellemző a feltört, majd más célra felhasznált fiókokra, ezért a követőszámot fenntartásokkal kell kezelni.
A befolyásolási műveletek hatását mérő kitörési skálán(új ablakban nyílik meg) a művelet nyilvánosan látható részét a 2. kategória alsó szintjére sorolnánk: több platformon is aktív volt, de kevés bizonyíték utal arra, hogy valódi emberek felfigyeltek volna a tartalmaira, vagy széles körben megosztották volna azokat. Nem áll rendelkezésre elegendő bizonyíték a művelet pszichológiai manipulációs és egyéb rejtett tevékenységeinek hatásértékeléséhez.