Handbók um silfurröndina: Starfsemi sem beinist að bandarískum einstaklingum og á líklega uppruna sinn í Kína

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2026⁠(opnast í nýjum glugga) um að stöðva illgjarna notkun gervigreindar.

Við lokuðum nokkrum ChatGPT‑reikningum sem líklega áttu uppruna sinn í Kína. Þeir notuðu líkönin okkar til að óska eftir upplýsingum um bandaríska einstaklinga, umræðuvettvanga og staðsetningar alríkisbygginga, fá leiðbeiningar um hugbúnað til að skipta út andlitum og semja tölvupósta á ensku sem líktust tilraunum til félagsverkfræði. Þeir sendu líkönunum okkar fyrirmæli á kínversku, voru að mestu virkir á hefðbundnum vinnutíma á meginlandi Kína og notuðu VPN-tengingar til að komast inn á þjónustuna okkar.

Reikningarnir bjuggu til tölvupóstdrög sem áttu að líta út fyrir að vera frá starfsfólki fyrirtækis í Hong Kong að nafni „Nimbus Hub Consulting“. Fyrirmælin til líkananna okkar voru þó skrifuð með einfölduðum kínverskum táknum (sem eru yfirleitt notuð á meginlandi Kína) fremur en hefðbundnum kínverskum táknum (sem eru yfirleitt notuð í Hong Kong). Það bendir til þess að þeir sem í raun stýrðu reikningunum hafi verið á meginlandi Kína. Auk þess bjó einn reikningur til tölvupóst þar sem sendandinn þóttist vera fulltrúi almannatengslastofnunar í Sjanghæ sem stuðlar að efnahags- og menningarsamskiptum milli Bandaríkjanna og Sjanghæ. Með vísan til orðsins „Nimbus“ í heiti fyrirtækisins, sem merkir regnský eða geislabaugur, nefndum við aðgerðina „Handbók um silfurröndina“.

Reikningarnir bjuggu til tölvupóstdrög á ensku sem voru stíluð á embættismenn í stjórnsýslu bandarískra ríkja eða sérfræðinga í greiningu stefnumála á sviði viðskipta og fjármála. Í þeim virtist viðtakendum boðið að veita ráðgjöf gegn greiðslu. Verkinu var lýst sem túlkun stefnumála og stefnumótandi ráðgjöf fyrir viðskiptavini sendendanna. Þeir báðu um hnitmiðuð, skýr og fagleg tölvupóstdrög með efnislínum sem gæfu til kynna að málið væri brýnt og beittu lúmskum sálfræðilegum vísbendingum.

ChatGPT‑reikningarnir notuðu líkönin okkar einnig til almennrar upplýsingaöflunar. Líkanið okkar svaraði þeim fyrirspurnum með upplýsingum úr opinberlega aðgengilegum heimildum. Meðal annars var spurt um eftirfarandi:

• Staðsetningar skrifstofa bandaríska alríkisins, þar á meðal aðalskrifstofa, og röðunarlista yfir ríki þar sem mikið er um alríkisstofnanir og embættismenn.

• Dreifingu starfsfólks bandaríska alríkisins eftir ríkjum.

• Bandaríska einstaklinga, svo sem þáttastjórnendur Voice of America, þar á meðal fyrri viðtöl þeirra og áhugamál.

• Umræðuvettvanga og vefsíður sem fagfólk og atvinnuleitendur á sviði efnahagsmála og fjármála í Bandaríkjunum nota gjarnan.

Sérstaka athygli vakti að einn reikningur óskaði eftir leiðbeiningum um að sækja og setja upp FaceFusion á tölvu. Sá hugbúnaður er ætlaður til að breyta andlitum, skipta þeim út og bæta myndefni með öðrum hætti. Í samskiptum sínum við ChatGPT lýsti notandinn því að ætlunin væri sérstaklega að nota eiginleikann sem gerir kleift að skipta út andlitum í rauntíma. Notandinn bað um skrefaskiptar uppsetningarleiðbeiningar án tæknimáls og sagðist vera byrjandi í forritun, svo leiðbeiningarnar yrðu að vera einfaldar. Notandinn hlóð upp skjáskoti af vélbúnaðarupplýsingum tölvunnar sinnar til að auðvelda uppsetninguna. Líkanið svaraði með upplýsingum af opinberlega aðgengilegum vef FaceFusion og úr leiðbeiningum hugbúnaðarins.

Fyrirmæli þeirra um að semja tölvupóstdrög með líkönunum okkar líktust fremur aðferðahandbók⁠(opnast í nýjum glugga) um félagsverkfræði við að koma á sambandi fyrir erlenda leyniþjónustu en venjulegum ráðningarskilaboðum. Þeir báðu um eftirfarandi þætti í öllum tölvupóstdrögunum:

Byggja upp trúverðugleika: Þeir kynntu „Nimbus Hub“ sem faglegt ráðgjafarfyrirtæki á sviði stefnumótunar með trausta sérþekkingu á landfræðilegum stjórnmálum og stefnumálum þvert á landamæri. Þeir létu fylgja tengil á vef Nimbus Hub (sjá skjáskot hér að neðan).

Sníða skilaboðin að viðtakandanum og smjaðra fyrir honum: Þeir sögðu líkaninu að vísa sérstaklega til starfsreynslu viðtakandans hjá hinu opinbera sem sönnunar þess að hann hentaði fullkomlega í starfið. Í einu tilviki hlóð reikningurinn upp skjáskotum af LinkedIn-prófíl bandarísks einstaklings í Sjanghæ. Líkaninu var síðan gefið fyrirmæli um að sníða tölvupóstdrögin að viðkomandi út frá texta á skjáskotunum um persónulega reynslu hans og bakgrunn.

Hlaða ávinningi ofan á ávinning: Yfirleitt var reynt að lokka viðtakendur með ábatasömu ráðgjafarstarfi á netinu, árangursbónusum og umbun fyrir að vísa öðrum á starfið, en sjálfu starfinu var lýst á óljósan hátt.

Nota róandi orðalag og draga úr tilfinningu fyrir áhættu: Þeir fullyrtu oft að starfið væri afslappað, greitt væri á réttum tíma og trúnaður ríkti um það.

Færa samskiptin fljótt á annan vettvang: Þeir reyndu alltaf að fá viðtakendur til að færa sig úr tölvupósti yfir í fyrsta myndfund á netinu í gegnum WhatsApp, Zoom eða Teams.

Notkun þessara neta á líkönunum var ekki tæknilega flókin og beiðnir þeirra líktust stundum eðlilegum beiðnum um að semja ráðningarboð eða setja upp hugbúnað í lögmætum tilgangi. Sú aðferð notendanna að fela sig á bak við falskt fyrirtæki, ásamt áhuga þeirra á landfræðilegum stjórnmálum, bendir þó til þess að hugsanlega hafi verið ætlunin að fá fólk til starfa í fjandsamlegum tilgangi.

Ekkert í notkun reikninganna á ChatGPT benti til þess að tekist hefði að fá þá sem boðin beindust að til að svara þeim. Við gátum ekki staðfest með sjálfstæðum hætti hvort tölvupóstboðin hefðu í raun verið send eða hvort einhverjir þeirra sem þau beindust að hefðu svarað.

Stjórnvöld í nokkrum lýðræðisríkjum (t.d. Bandaríkjunum⁠(opnast í nýjum glugga), Bretlandi⁠(opnast í nýjum glugga) og Ástralíu⁠(opnast í nýjum glugga)) hafa varað við því að erlendar leyniþjónustur reyni að fá núverandi og fyrrverandi ríkisstarfsmenn til starfa með því að þykjast vera ráðgjafarfyrirtæki og aðrir aðilar á samfélagsmiðlum og starfsmiðlum. Erfitt getur verið að greina venjuleg ráðningarskilaboð frá þessum markvissu tilraunum til félagsverkfræði, þar sem þau eiga ýmis einkenni sameiginleg. Lögmæt ráðningarboð eru þó yfirleitt miðuð við hægara matsferli. Þau innihalda sannreynanlegar upplýsingar um starfsheiti, trúverðugar upplýsingar um vinnuveitandann, raunhæft launabil miðað við markaðinn og tengla á raunverulegar starfsauglýsingar. Í stuttu máli: Ef eitthvað virðist of gott til að vera satt er það líklega raunin.