Ezüstszegély-forgatókönyv: vélhetően kínai eredetű, amerikai személyeket célzó tevékenység

Ez az esettanulmány eredetileg az OpenAI 2026. februári⁠(új ablakban nyílik meg) jelentésében jelent meg, amely az MI rosszindulatú felhasználásának megakadályozásáról szól.

Letiltottunk néhány, vélhetően Kínából működtetett ChatGPT‑fiókot. Ezek a modelljeinkkel amerikai személyekről, fórumokról és szövetségi épületek elhelyezkedéséről kértek információkat, arccserélő szoftver használatához kértek útmutatást, valamint pszichológiai manipulációs kísérletekre emlékeztető angol nyelvű e-maileket generáltak. Kínai nyelven adtak utasításokat a modelljeinknek, főként a szárazföldi Kínában szokásos munkaidőben voltak aktívak, és VPN-en keresztül érték el a platformunkat.

A fiókok olyan e-mail-vázlatokat generáltak, amelyek látszólag egy „Nimbus Hub Consulting” nevű hongkongi vállalat alkalmazottaitól származtak. A modelljeinknek azonban a jellemzően Hongkongban használt hagyományos kínai írásjegyek helyett a szárazföldi Kínában elterjedt egyszerűsített kínai írásjegyekkel adtak utasításokat, ami arra utal, hogy a fiókok tényleges működtetői a szárazföldi Kínában tartózkodtak. Emellett az egyik fiók olyan e-mailt generált, amelynek feladója egy, az Egyesült Államok és Sanghaj közötti gazdasági és kulturális kapcsolatokat előmozdító sanghaji PR-szervezet képviselőjének adta ki magát. A cégnévben szereplő, esőfelhőt vagy glóriát jelentő „Nimbus” szóra utalva a műveletet „Ezüstszegély-forgatókönyvnek” neveztük el.

A fiókok angol nyelvű e-mail-vázlatokat generáltak, amelyek címzettjei amerikai tagállami tisztviselők, illetve az üzleti és pénzügyi szférában dolgozó szakpolitikai elemzők voltak. Látszólag fizetett konzultációkra hívták a címzetteket, amelyek feladatait szakpolitikai értelmezésként és az ügyfeleiknek nyújtott stratégiai tanácsadásként írták le. Tömör, világos és professzionális e-mail-vázlatokat kértek, olyan tárgysorokkal, amelyek sürgető hatást keltenek, és finom pszichológiai eszközökkel hatnak a címzettre.

A ChatGPT‑fiókok emellett általános információkeresésre is használták a modelljeinket; ezekre a kérésekre a modellünk nyilvánosan elérhető források alapján válaszolt. A lekérdezések többek között a következő témákra irányultak:

• Az amerikai szövetségi kormányzati hivatalok, köztük a központi irodák elhelyezkedése, valamint azon tagállamok rangsora, ahol sok szövetségi szerv és tisztviselő található.

• Az amerikai szövetségi alkalmazottak tagállamonkénti megoszlása.

• Amerikai személyek, például az Amerika Hangja műsorvezetői, beleértve korábbi interjúikat és érdeklődési köreiket.

• Az amerikai gazdasági és pénzügyi szektor szakemberei és álláskeresői által gyakran használt online fórumok és webhelyek.

Külön figyelemre méltó, hogy az egyik fiók útmutatást kért a FaceFusion nevű, arccserére és más médiatartalom-javítási feladatokra szolgáló arcmanipulációs platform számítógépre történő letöltéséhez és telepítéséhez. A ChatGPT‑ben folytatott tevékenységük alapján kifejezetten a valós idejű arccsere funkciót kívánták használni. Lépésről lépésre követhető, szakkifejezésektől mentes telepítési útmutatást kértek, és kezdő programozóknak vallották magukat, ezért egyszerű utasításokat vártak. A telepítés megkönnyítésére feltöltöttek egy képernyőképet a számítógépük hardveradatairól. A modell a FaceFusion nyilvánosan elérhető webhelyéről és dokumentációjából származó információkkal válaszolt.

Az e-mail-vázlatok generálásához a modelljeinknek adott utasításaik nem szokványos toborzóüzenetekre, hanem a külföldi hírszerző szolgálatok pszichológiai manipulációra épülő kapcsolatfelvételi forgatókönyvére⁠(új ablakban nyílik meg) emlékeztettek. Minden e-mail-vázlathoz a következő részeket kérték:

A hitelesség megalapozása: A „Nimbus Hubot” professzionális stratégiai tanácsadó cégként mutatták be, amely tekintélyes szakértelemmel rendelkezik a geopolitika és a nemzetközi szakpolitika terén. A Nimbus Hub webhelyére mutató hivatkozást is mellékeltek (lásd az alábbi képernyőképet).

Személyre szabás és hízelgés a célszemélynek: Arra utasították a modellt, hogy kifejezetten a címzett közszférában szerzett tapasztalatával indokolja, miért ő a tökéletes jelölt a feladatra. Egy esetben a fiók használója képernyőképeket töltött fel egy Sanghajban élő amerikai személy LinkedIn-profiljáról, és arra utasította a modellt, hogy a képeken szereplő, az illető személyes tapasztalatairól és hátteréről szóló szövegek alapján szabja személyre az e-mail-vázlatot.

Ösztönzők halmozása: A tanácsadói ajánlatot rendszerint jól fizető, online végezhető lehetőségként lebegtették meg, teljesítménybónuszokkal és ajánlási jutalmakkal, miközben a tényleges munkáról csak homályosan fogalmaztak.

Megnyugtató megfogalmazás és a kockázatérzet csökkentése: Gyakran állították, hogy a munka kényelmes, a kifizetések pontosan érkeznek, és minden bizalmasan zajlik.

A kommunikáció gyors átterelése más platformra: Mindig megpróbálták rávenni a címzetteket, hogy az e-mailezésről térjenek át egy első online videóbeszélgetésre a WhatsAppon, a Zoomon vagy a Teamsen.

Ebben az esetben a hálózatok technikailag nem kifinomult módon használták a modelleket, és kéréseik olykor valós állásajánlatok megfogalmazására vagy jogszerű szoftvertelepítésre irányuló kéréseknek tűntek. Ugyanakkor az, hogy a felhasználók hamis vállalati identitás mögé bújtak, és geopolitikai témák iránt érdeklődtek, ellenséges célú beszervezés lehetséges szándékára utal.

A fiókok ChatGPT‑használata alapján nem volt bizonyíték arra, hogy sikerült válaszra bírniuk a meghívások címzettjeit. Független forrásból nem tudtuk megállapítani, hogy az e-mailes meghívásokat valóban elküldték-e, illetve válaszolt-e bármelyik megcélzott címzett.

Több demokratikus ország (például az Egyesült Államok⁠(új ablakban nyílik meg), az Egyesült Királyság⁠(új ablakban nyílik meg) és Ausztrália⁠(új ablakban nyílik meg)) kormánya figyelmeztetett arra, hogy külföldi hírszerző szolgálatok tanácsadó cégeknek és más szervezeteknek adva ki magukat próbálnak jelenlegi és volt kormányzati alkalmazottakat beszervezni közösségi és szakmai kapcsolatépítő platformokon. Nehéz lehet megkülönböztetni a szokásos toborzóüzeneteket ezektől a célzott, pszichológiai manipulációra épülő megkeresésektől, mert bizonyos jellemzőik hasonlóak. A valódi megkeresések azonban általában lassabb kiválasztási folyamathoz igazodnak, és ellenőrizhető munkaköri megnevezést, hiteles munkáltatói adatokat, reális piaci bérsávokat, valamint valódi álláshirdetésekre mutató hivatkozásokat tartalmaznak. Röviden: ami túl szép ahhoz, hogy igaz legyen, az valószínűleg nem is igaz.