Scenár svetlej stránky: Aktivity zamerané na osoby z USA s pravdepodobným pôvodom v Číne

Táto prípadová štúdia bola pôvodne uverejnená v správe OpenAI z februára 2026⁠(otvorí sa v novom okne) o marení škodlivého využívania AI.

Zablokovali sme malú skupinu účtov ChatGPT pravdepodobne pochádzajúcich z Číny. Naše modely využívali na získavanie informácií o osobách z USA, fórach a umiestnení federálnych budov, na získavanie návodov k softvéru na výmenu tvárí a na tvorbu e-mailov v angličtine, ktoré pripomínali pokusy o sociálne inžinierstvo. Našim modelom zadávali pokyny v čínštine, boli aktívne prevažne počas pracovných hodín v pevninskej Číne a na prístup k našej platforme používali VPN.

Tieto účty generovali návrhy e-mailov, ktoré sa tvárili, akoby ich posielali zamestnanci spoločnosti „Nimbus Hub Consulting“ so sídlom v Hongkongu. Pokyny však našim modelom zadávali v zjednodušených čínskych znakoch (bežne používaných v pevninskej Číne), nie v tradičných čínskych znakoch (bežne používaných v Hongkongu). To naznačuje, že osoby za týmito účtami v skutočnosti pôsobili v pevninskej Číne. Jeden účet navyše vygeneroval e-mail, ktorého odosielateľ sa vydával za zástupcu šanghajskej organizácie pre vzťahy s verejnosťou podporujúcej hospodársku a kultúrnu výmenu medzi USA a Šanghajom. Keďže názov spoločnosti odkazuje na slovo „nimbus“, ktoré znamená dažďový oblak alebo svätožiaru, túto operáciu sme nazvali „Scenár svetlej stránky“.

Účty generovali návrhy e-mailov v angličtine adresované úradníkom na úrovni jednotlivých štátov USA alebo analytikom verejných politík pôsobiacim v oblasti podnikania a financií. Zdalo sa, že adresátov pozývajú na platené konzultácie, ktoré opisovali ako výklad politík a poskytovanie strategického poradenstva pre svojich klientov. Žiadali stručné, jasné a profesionálne návrhy e-mailov s predmetmi, ktoré vyvolávali pocit naliehavosti a využívali nenápadné psychologické podnety.

Účty ChatGPT používali naše modely aj na vyhľadávanie všeobecných informácií, pričom model odpovedal na základe verejne dostupných zdrojov. Otázky sa týkali týchto tém:

• Umiestnenie úradov federálnej vlády USA vrátane ich hlavných sídel a rebríček štátov s vysokou koncentráciou federálnych agentúr a úradníkov.

• Rozloženie federálnych zamestnancov USA podľa jednotlivých štátov.

• Osoby z USA, napríklad moderátori Hlasu Ameriky, vrátane ich predchádzajúcich rozhovorov a tém, o ktoré sa zaujímajú.

• Online fóra a webové stránky bežne využívané odborníkmi a uchádzačmi o zamestnanie v oblasti ekonómie a financií v USA.

Za pozornosť stojí, že jeden účet žiadal návod na stiahnutie a inštaláciu platformy FaceFusion do počítača. Táto platforma umožňuje manipuláciu s tvárami, najmä ich výmenu, a ďalšie úpravy médií. Podľa aktivity v ChatGPT používateľ tohto účtu výslovne uviedol zámer využiť jej funkciu výmeny tvárí v reálnom čase. Žiadal návod na inštaláciu krok za krokom bez odborných výrazov a tvrdil, že s programovaním len začína, preto musia byť pokyny jednoduché. Na uľahčenie inštalácie nahral snímku obrazovky s hardvérovými parametrami svojho počítača. Model odpovedal informáciami z verejne dostupnej webovej stránky a dokumentácie platformy FaceFusion.

Ich pokyny na generovanie návrhov e-mailov pomocou našich modelov pripomínali skôr postup⁠(otvorí sa v novom okne) sociálneho inžinierstva používaný pri oslovovaní zahraničnou spravodajskou službou než bežné náborové správy. V každom návrhu e-mailu žiadali tieto časti:

Vzbudenie dôveryhodnosti: Spoločnosť „Nimbus Hub“ predstavovali ako profesionálnu firmu poskytujúcu strategické poradenstvo s uznávanými odbornými znalosťami geopolitiky a nadnárodných politík. Pripájali odkaz na webovú stránku spoločnosti Nimbus Hub (pozri snímku nižšie).

Personalizácia a lichotenie adresátovi: Modelu prikázali, aby výslovne uviedol skúsenosti adresáta z verejného sektora ako dôkaz, že sa na danú pozíciu ideálne hodí. V jednom prípade používateľ účtu nahral snímky profilu osoby z USA pôsobiacej v Šanghaji na sieti LinkedIn a prikázal modelu, aby návrh e-mailu prispôsobil na základe textu na snímkach opisujúceho skúsenosti a profesijnú dráhu tejto osoby.

Hromadenie lákadiel: Ponuku poradenstva zvyčajne prezentovali ako lukratívnu príležitosť na prácu online s výkonnostnými bonusmi a odmenami za odporúčanie ďalších ľudí, no samotnú náplň práce opisovali len hmlisto.

Upokojujúci jazyk a znižovanie vnímaných rizík: Často tvrdili, že práca je nenáročná, platby prichádzajú načas a všetko je dôverné.

Rýchly presun komunikácie mimo platformy: Vždy sa snažili presunúť komunikáciu s adresátmi z e-mailu na úvodný videohovor cez WhatsApp, Zoom alebo Teams.

Interakcie týchto sietí s modelmi neboli v tomto prípade technicky sofistikované a ich požiadavky niekedy pripomínali bežnú prípravu náborových oslovení alebo legitímnu inštaláciu softvéru. Skrývanie sa používateľov za falošnú firemnú identitu a ich záujem o geopolitické témy však naznačujú možný zámer verbovať ľudí na nepriateľské účely.

Z používania služby ChatGPT týmito účtami nevyplynuli žiadne dôkazy o tom, že by sa im podarilo získať od oslovených osôb odpovede na pozvania. Nedokázali sme nezávisle zistiť, či boli e-mailové pozvania skutočne odoslané alebo či na ne niektorý z adresátov odpovedal.

Viaceré demokratické vlády (napr. USA⁠(otvorí sa v novom okne), Spojeného kráľovstva⁠(otvorí sa v novom okne) a Austrálie⁠(otvorí sa v novom okne)) varovali, že zahraničné spravodajské služby sa na sociálnych a profesijných sieťach vydávajú za poradenské firmy a iné subjekty a snažia sa verbovať súčasných aj bývalých štátnych zamestnancov. Odlíšiť bežné náborové správy od týchto cielených pokusov o sociálne inžinierstvo môže byť náročné, pretože majú niektoré spoločné črty. Legitímne oslovenia však zvyčajne počítajú s pomalším výberovým konaním a obsahujú overiteľné informácie o názve pozície, dôveryhodné údaje o zamestnávateľovi, primerané rozpätie odmeny podľa trhu a odkazy na skutočné pracovné ponuky. Skrátka, ak niečo znie príliš dobre na to, aby to bola pravda, pravdepodobne to pravda nie je.