Scénář Stříbrný lem: Aktivity pravděpodobně z Číny zaměřené na osoby z USA

Tato případová studie původně vyšla ve zprávě OpenAI z února 2026⁠(otevře se v novém okně) o potírání zneužívání AI.

Zablokovali jsme malou skupinu účtů ChatGPT pravděpodobně pocházejících z Číny, které pomocí našich modelů vyhledávaly informace o osobách z USA, fórech a umístění federálních budov, žádaly o rady k softwaru pro záměnu obličejů a generovaly e-maily v angličtině připomínající pokusy o sociální inženýrství. Uživatelé těchto účtů zadávali našim modelům pokyny v čínštině, byli aktivní převážně v pracovní době pevninské Číny a k naší platformě přistupovali přes VPN.

Účty generovaly návrhy e-mailů, které se tvářily jako zprávy od zaměstnanců hongkongské společnosti „Nimbus Hub Consulting“. Pokyny našim modelům však zadávaly ve zjednodušeném čínském písmu (běžně používaném v pevninské Číně), nikoli v tradičním čínském písmu (běžně používaném v Hongkongu). To naznačuje, že skuteční provozovatelé působili v pevninské Číně. Jeden účet navíc vygeneroval e-mail jménem údajného zástupce šanghajské organizace pro vztahy s veřejností, která podporuje hospodářskou a kulturní výměnu mezi USA a Šanghají. Podle slova „nimbus“ v názvu společnosti, které znamená dešťový oblak nebo svatozář, jsme tuto operaci pojmenovali „Scénář Stříbrný lem“.

Účty generovaly návrhy e-mailů v angličtině adresované představitelům jednotlivých států USA nebo analytikům veřejných politik působícím v oblasti obchodu a financí. Zdánlivě tyto příjemce zvaly k placeným konzultacím, které popisovaly jako interpretaci veřejných politik a poskytování strategického poradenství pro své klienty. Požadovaly stručné, jasné a profesionální návrhy e-mailů s předměty, které vyvolávaly pocit naléhavosti a působily na příjemce pomocí nenápadných psychologických podnětů.

Účty ChatGPT navíc využívaly naše modely k vyhledávání obecných informací. Náš model na tyto dotazy odpovídal na základě veřejně dostupných zdrojů. Dotazy se týkaly mimo jiné těchto témat:

• Umístění úřadů federální vlády USA včetně jejich hlavních sídel a žebříček států s vysokou koncentrací federálních úřadů a úředníků.

• Rozložení federálních zaměstnanců USA podle jednotlivých států.

• Osoby z USA, například moderátoři Hlasu Ameriky, včetně jejich dřívějších rozhovorů a témat, o která se zajímají.

• Online fóra a weby, které běžně využívají odborníci a uchazeči o práci v oblasti ekonomiky a financí v USA.

Za pozornost stojí, že jeden účet požádal o návod ke stažení a instalaci platformy FaceFusion do svého počítače. Tato platforma slouží k úpravám a záměně obličejů i dalším úpravám médií. Podle aktivity v ChatGPT uživatelé výslovně uvedli, že chtějí využívat její funkci záměny obličeje v reálném čase. Žádali o návod k instalaci krok za krokem bez odborných výrazů a tvrdili, že jsou začínající programátoři, takže pokyny musí být jednoduché. Aby usnadnili pomoc s instalací, nahráli snímek obrazovky s hardwarovými specifikacemi svého počítače. Model odpověděl informacemi čerpanými z veřejně dostupného webu a dokumentace FaceFusion.

Jejich pokyny pro generování návrhů e-mailů pomocí našich modelů připomínaly spíše postup⁠(otevře se v novém okně) sociálního inženýrství používaný zahraniční zpravodajskou službou při navazování kontaktu než běžné náborové zprávy. U každého návrhu e-mailu požadovali následující části:

Budování důvěryhodnosti: Prezentovali „Nimbus Hub“ jako profesionální strategickou poradenskou firmu s uznávanou odborností v geopolitice a nadnárodní politice. Uváděli odkaz na web Nimbus Hub (viz snímek níže).

Personalizace a lichocení cílové osobě: Modelu zadali, aby výslovně uvedl zkušenosti příjemce z veřejného sektoru jako důkaz, že se na danou pozici dokonale hodí. V jednom případě byly z účtu nahrány snímky profilu osoby z USA žijící v Šanghaji na síti LinkedIn. Model dostal pokyn přizpůsobit návrh e-mailu textu na snímcích, který popisoval osobní zkušenosti a profesní minulost této osoby.

Kumulace lákadel: Nabídka konzultační práce obvykle lákala na lukrativní příležitost pracovat online s výkonnostními bonusy a odměnami za doporučení dalších spolupracovníků, zatímco skutečná náplň práce zůstávala neurčitá.

Uklidňující formulace a snižování vnímaných rizik: Často tvrdili, že práce je nenáročná, platby chodí včas a spolupráce je důvěrná.

Rychlý přesun komunikace mimo platformu: Vždy se snažili přimět příjemce, aby z e-mailu přešli k úvodnímu videohovoru přes WhatsApp, Zoom nebo Teams.

Interakce těchto sítí s modely nebyly v tomto případě technicky sofistikované a jejich požadavky někdy připomínaly věrohodné žádosti o sepsání náborových pozvánek nebo o pomoc s legitimní instalací softwaru. Skrývání uživatelů za falešnou firemní identitou a jejich zájem o geopolitická témata však naznačují možný záměr získávat spolupracovníky pro nepřátelské účely.

Z používání ChatGPT těmito účty nevyplynuly žádné důkazy o tom, že by se jim podařilo přimět oslovené osoby k odpovědi na pozvánky. Nemohli jsme nezávisle ověřit, zda byly e-mailové pozvánky skutečně odeslány nebo zda na ně někdo z cílových příjemců odpověděl.

Vlády několika demokratických zemí (např. USA⁠(otevře se v novém okně), Spojeného království⁠(otevře se v novém okně) a Austrálie⁠(otevře se v novém okně)) varovaly, že zahraniční zpravodajské služby se na sociálních a profesních sítích vydávají za poradenské firmy a další subjekty a snaží se získávat současné i bývalé zaměstnance státní správy ke spolupráci. Rozlišit běžné náborové zprávy od těchto cílených pokusů o sociální inženýrství může být obtížné, protože mají některé společné rysy. Legitimní nabídky však obvykle počítají s pomalejším procesem prověřování uchazečů a obsahují ověřitelné informace o názvu pozice, důvěryhodné údaje o zaměstnavateli, přiměřené rozpětí odměny odpovídající trhu a odkazy na skutečné pracovní inzeráty. Zkrátka, pokud něco zní příliš dobře na to, aby to byla pravda, nejspíš to pravda není.