Priručnik za tračak nade: Aktivnosti vjerovatno porijeklom iz Kine usmjerene na osobe iz SAD-a

Ova studija slučaja prvobitno je objavljena u izvještaju kompanije OpenAI iz februara 2026.⁠(otvara se u novom prozoru) o suzbijanju zlonamjerne upotrebe umjetne inteligencije.

Zabranili smo malu grupu računa za ChatGPT koji su vjerovatno potjecali iz Kine, a koristili su naše modele za traženje informacija o osobama iz SAD-a, forumima i lokacijama saveznih zgrada, uputa za softver za zamjenu lica te za generiranje e-poruka na engleskom jeziku koje su ličile na pokušaje socijalnog inženjeringa. Našim modelima slali su upite na kineskom jeziku, bili su uglavnom aktivni tokom radnog vremena u kontinentalnoj Kini i koristili su VPN-ove za pristup našoj platformi.

S tih računa generirani su nacrti e-poruka koje su navodno slali zaposlenici firme „Nimbus Hub Consulting“ sa sjedištem u Hong Kongu. Međutim, upite su našim modelima pisali pojednostavljenim kineskim znakovima (koji se obično koriste u kontinentalnoj Kini), a ne tradicionalnim kineskim znakovima (koji se obično koriste u Hong Kongu), što upućuje na to da su se osobe koje su zapravo upravljale računima nalazile u kontinentalnoj Kini. Osim toga, s jednog računa generirana je e-poruka čiji se pošiljalac predstavljao kao zastupnik organizacije za odnose s javnošću sa sjedištem u Šangaju koja promovira ekonomsku i kulturnu razmjenu između SAD-a i Šangaja. Polazeći od riječi „nimbus“ u nazivu firme, koja označava kišni oblak ili oreol, ovu operaciju nazvali smo „Priručnik za tračak nade“.

S tih računa generirani su nacrti e-poruka na engleskom jeziku upućenih zvaničnicima američkih saveznih država ili analitičarima javnih politika koji rade u poslovnom i finansijskom sektoru. Činilo se da primaoce pozivaju na plaćeni konsultantski angažman, koji su opisivali kao tumačenje politika i pružanje strateških savjeta svojim klijentima. Tražili su da nacrti e-poruka budu sažeti, jasni i profesionalni te da naslovi poruka stvaraju osjećaj hitnosti i koriste suptilne psihološke poticaje.

Osim toga, računi za ChatGPT korišteni su za traženje općih informacija putem naših modela, a naš model je na te upite odgovarao koristeći javno dostupne izvore. To je uključivalo upite o sljedećim temama:

• Lokacije ureda savezne vlade SAD-a, uključujući sjedišta, te rangirana lista saveznih država s velikom koncentracijom saveznih agencija i zvaničnika.

• Raspoređenost zaposlenih u saveznim institucijama SAD-a po saveznim državama.

• Osobe iz SAD-a, poput voditelja Glasa Amerike, uključujući njihove ranije intervjue i teme koje ih zanimaju.

• Internetski forumi i web-stranice koje često koriste stručnjaci i osobe koje traže posao u oblastima ekonomije i finansija u SAD-u.

Posebno se ističe da su s jednog računa zatražene upute za preuzimanje i instalaciju platforme FaceFusion na računar, koja služi za manipulaciju licima, uključujući zamjenu lica, i druga poboljšanja medijskog sadržaja. Prema aktivnostima na tom računu u ChatGPT‑u, navedena je namjera korištenja upravo funkcije zamjene lica uživo. Tražili su upute za instalaciju korak po korak, bez tehničkog žargona, i tvrdili da su početnici u programiranju, pa su upute morale biti jednostavne. Učitali su snimak ekrana s hardverskim specifikacijama svog računara kako bi dobili pomoć pri instalaciji. Model je odgovorio informacijama preuzetim s javno dostupne web-stranice i iz dokumentacije platforme FaceFusion.

Njihove upute za generiranje nacrta e-poruka pomoću naših modela više su ličile na priručnik⁠(otvara se u novom prozoru) za socijalni inženjering kojim se služe strane obavještajne službe pri uspostavljanju kontakta nego na obične poruke s ponudama za posao. Za svaki nacrt e-poruke tražili su sljedeće dijelove:

Uspostaviti vjerodostojnost: Predstavljali su „Nimbus Hub“ kao profesionalnu firmu za strateško savjetovanje s vrhunskom stručnošću u geopolitici i transnacionalnim politikama. Uključivali su link na web-stranicu firme Nimbus Hub (pogledajte snimak ekrana u nastavku).

Personalizirati poruku i laskati ciljanoj osobi: Modelu su nalagali da izričito navede iskustvo primaoca u javnom sektoru kao dokaz da je upravo ta osoba idealna za angažman. U jednom slučaju, s računa su učitani snimci ekrana LinkedIn profila osobe iz SAD-a nastanjene u Šangaju, uz uputu modelu da personalizira nacrt e-poruke na osnovu teksta sa snimaka o ličnim iskustvima i biografiji te osobe.

Ponuditi niz pogodnosti: Konsultantski angažman obično je predstavljan kao primamljiva prilika za unosan rad putem interneta, uz bonuse za učinak i nagrade za preporuke, dok su detalji o samom poslu ostajali nejasni.

Koristiti umirujući ton i umanjiti dojam rizika: Često su tvrdili da je posao opušten, isplate pravovremene, a rad povjerljiv.

Brzo premjestiti komunikaciju izvan platforme: Uvijek su pokušavali navesti primaoce da s e-pošte pređu na uvodni videopoziv putem WhatsAppa, Zooma ili Teamsa.

Interakcije tih mreža s modelima u ovom slučaju nisu bile tehnički sofisticirane, a njihovi zahtjevi ponekad su djelovali kao uvjerljivi zahtjevi za sastavljanje poziva za posao ili legitimnu instalaciju softvera. Međutim, taktika skrivanja iza lažnog korporativnog identiteta i interes korisnika za geopolitičke teme ukazuju na moguću namjeru vrbovanja za neprijateljske svrhe.

Na osnovu načina na koji su ti računi koristili ChatGPT, nije bilo dokaza da su uspjeli navesti ciljane osobe da odgovore na njihove pozive. Nismo mogli nezavisno utvrditi jesu li pozivi e-poštom zaista poslani niti je li iko od ciljanih primalaca odgovorio.

Vlade više demokratskih zemalja (npr. SAD-a⁠(otvara se u novom prozoru), Ujedinjenog Kraljevstva⁠(otvara se u novom prozoru) i Australije⁠(otvara se u novom prozoru)) upozorile su da strane obavještajne službe pokušavaju vrbovati sadašnje i bivše državne službenike predstavljajući se kao konsultantske firme i drugi subjekti na društvenim i profesionalnim mrežama. Obične poruke s ponudama za posao može biti teško razlikovati od ovih ciljanih pokušaja socijalnog inženjeringa jer imaju neke slične osobine. Međutim, legitimne ponude obično podrazumijevaju sporiji postupak provjere kandidata i sadrže provjerljive podatke o nazivu radnog mjesta, vjerodostojne podatke o poslodavcu, raspone naknada usklađene s tržištem i linkove na stvarne oglase za posao. Ukratko, ako nešto zvuči predobro da bi bilo istinito, vjerovatno i nije istinito.