Priručnik srebrnog obruba: Aktivnost vjerojatno iz Kine usmjerena na osobe iz SAD-a

Ova je studija slučaja izvorno objavljena u izvješću tvrtke OpenAI iz veljače 2026.⁠(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe umjetne inteligencije.

Blokirali smo manji broj računa za ChatGPT koji su vjerojatno potjecali iz Kine. Njihovi su korisnici putem naših modela tražili informacije o osobama iz SAD-a, forumima i lokacijama saveznih zgrada, upute za softver za zamjenu lica te generirali poruke e-pošte na engleskom jeziku koje su nalikovale pokušajima socijalnog inženjeringa. Našim su modelima slali upite na kineskom jeziku, bili su aktivni uglavnom tijekom radnog vremena u kontinentalnoj Kini i pristupali su našoj platformi putem VPN-a.

Putem tih računa generirani su nacrti poruka e-pošte u kojima su se pošiljatelji predstavljali kao zaposlenici tvrtke „Nimbus Hub Consulting” sa sjedištem u Hong Kongu. Međutim, upite su našim modelima pisali pojednostavnjenim kineskim znakovima (koji se obično upotrebljavaju u kontinentalnoj Kini), a ne tradicionalnim kineskim znakovima (koji se obično upotrebljavaju u Hong Kongu), što upućuje na to da su stvarni operateri bili u kontinentalnoj Kini. Osim toga, s jednog je računa generirana poruka e-pošte u kojoj se pošiljatelj predstavljao kao predstavnik organizacije za odnose s javnošću sa sjedištem u Šangaju koja promiče gospodarsku i kulturnu razmjenu između SAD-a i Šangaja. Budući da naziv tvrtke sadrži riječ „Nimbus”, koja znači kišni oblak ili aureola, ovu smo operaciju nazvali „Priručnik srebrnog obruba”.

Putem tih računa generirani su nacrti poruka e-pošte na engleskom jeziku upućenih dužnosnicima američkih saveznih država ili analitičarima javnih politika koji rade u poslovnom i financijskom sektoru. Poruke su izgledale kao pozivi primateljima da sudjeluju u plaćenim savjetovanjima, opisanima kao tumačenje javnih politika i pružanje strateških savjeta za klijente pošiljatelja. Tražili su da nacrti poruka budu sažeti, jasni i profesionalni te da njihov predmet stvara osjećaj hitnosti i suptilno psihološki utječe na primatelje.

Osim toga, korisnici tih računa za ChatGPT upotrebljavali su naše modele za pronalaženje općih informacija, a naš je model na te upite odgovarao na temelju javno dostupnih izvora. To je uključivalo upite o sljedećim temama:

• Lokacije ureda američke savezne vlade, uključujući sjedišta, te rangirani popis saveznih država s velikom koncentracijom saveznih agencija i dužnosnika.

• Raspodjela zaposlenika američke savezne vlade po saveznim državama.

• Osobe iz SAD-a, poput voditelja Glasa Amerike, uključujući njihove ranije intervjue i teme koje ih zanimaju.

• Internetski forumi i web-stranice kojima se često služe stručnjaci i tražitelji posla u američkom gospodarskom i financijskom sektoru.

Posebno se ističe da su s jednog računa zatražene upute za preuzimanje i instalaciju platforme FaceFusion na računalo, namijenjene manipulaciji licima, odnosno zamjeni lica i drugim poboljšanjima medijskih sadržaja. U svojoj su aktivnosti na ChatGPT‑u naveli da namjeravaju upotrebljavati upravo funkciju zamjene lica u stvarnom vremenu. Zatražili su postupne upute za instalaciju bez tehničkog žargona i tvrdili da su početnici u programiranju, pa su upute morale biti jednostavne. Prenijeli su snimku zaslona s hardverskim specifikacijama svojeg računala kako bi olakšali instalaciju. Model je odgovorio informacijama preuzetima s javno dostupne web-stranice i iz dokumentacije platforme FaceFusion.

Njihove upute našim modelima za generiranje nacrta poruka e-pošte više su nalikovale na obrazac postupanja⁠(otvara se u novom prozoru) kojim se strane obavještajne službe služe za pristupanje osobama putem socijalnog inženjeringa nego na uobičajene poruke o zapošljavanju. Za svaki nacrt poruke e-pošte zatražili su sljedeće dijelove:

Uspostaviti vjerodostojnost: Predstavili su „Nimbus Hub” kao profesionalnu tvrtku za strateško savjetovanje s mjerodavnim stručnim znanjem o geopolitici i transnacionalnim politikama. Uključili su poveznicu na web-stranicu tvrtke Nimbus Hub (pogledajte snimku zaslona u nastavku).

Personalizirati poruku i laskati ciljanoj osobi: Naložili su modelu da izričito navede iskustvo primatelja u javnom sektoru kao dokaz da je upravo on idealan za tu ulogu. U jednom su slučaju s računa prenesene snimke zaslona profila na LinkedInu osobe iz SAD-a koja živi u Šangaju. Model je dobio uputu da prilagodi nacrt poruke e-pošte toj osobi na temelju teksta o njezinim osobnim iskustvima i profesionalnom putu prikazanog na snimkama zaslona.

Ponuditi niz poticaja: Ponuda savjetodavnog angažmana obično je predstavljana kao unosna prilika za rad putem interneta, uz bonuse za uspješnost i nagrade za preporuke, dok je sam posao ostajao nejasno opisan.

Umiriti primatelja i umanjiti dojam rizika: Često su tvrdili da je posao opušten, da su isplate pravodobne i da je rad povjerljiv.

Brzo premjestiti komunikaciju izvan platforme: Uvijek su pokušavali navesti primatelje da s e-pošte prijeđu na početni videopoziv putem WhatsAppa, Zooma ili Teamsa.

Interakcije tih mreža s modelima u ovom slučaju nisu bile tehnički sofisticirane, a njihovi su zahtjevi ponekad nalikovali na sastavljanje uvjerljivih poziva za zapošljavanje ili legitimnu instalaciju softvera. Međutim, taktika skrivanja iza lažnog korporativnog identiteta i interes korisnika za geopolitičke teme upućuju na moguću namjeru vrbovanja u neprijateljske svrhe.

Na temelju upotrebe ChatGPT‑a na tim računima nije bilo dokaza da su uspjeli potaknuti ciljane osobe da odgovore na njihove pozive. Nismo mogli neovisno utvrditi jesu li pozivi e-poštom doista poslani ni je li itko od ciljanih primatelja odgovorio.

Vlade više demokratskih zemalja (npr. SAD-a⁠(otvara se u novom prozoru), Ujedinjenog Kraljevstva⁠(otvara se u novom prozoru) i Australije⁠(otvara se u novom prozoru)) upozorile su da strane obavještajne službe ciljaju sadašnje i bivše državne zaposlenike radi vrbovanja, predstavljajući se kao konzultantske tvrtke i drugi subjekti na društvenim mrežama i platformama za profesionalno umrežavanje. Uobičajene poruke o zapošljavanju može biti teško razlikovati od ovakvih ciljanih pokušaja socijalnog inženjeringa jer imaju neke zajedničke značajke. Međutim, legitimne ponude obično su prilagođene sporijim postupcima provjere kandidata te sadrže provjerljive informacije o nazivu radnog mjesta, vjerodostojne podatke o poslodavcu, razumne raspone naknade u skladu s tržištem i poveznice na stvarne oglase za posao. Ukratko, ako nešto zvuči predobro da bi bilo istinito, vjerojatno i jest.