Hopeareunuksen pelikirja: todennäköisesti Kiinasta lähtöisin olevaa toimintaa yhdysvaltalaisia henkilöitä vastaan

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n helmikuun 2026⁠(avautuu uudessa ikkunassa) raportissa, joka käsittelee tekoälyn haitallisen käytön torjuntaa.

Suljimme pienen joukon todennäköisesti Kiinasta peräisin olevia ChatGPT‑tilejä. Niillä käytettiin mallejamme tietojen pyytämiseen yhdysvaltalaisista henkilöistä, keskustelufoorumeista ja liittovaltion rakennusten sijainneista, ohjeiden hakemiseen kasvojenvaihto-ohjelmistojen käyttöön sekä sellaisten englanninkielisten sähköpostien tuottamiseen, jotka muistuttivat manipulointiyrityksiä. Käyttäjät antoivat malleillemme kehotteita kiinaksi, olivat aktiivisia pääosin Manner-Kiinan työaikoina ja käyttivät alustaamme VPN-yhteyksien kautta.

Tileillä tuotettiin sähköpostiluonnoksia, joiden väitettiin olevan hongkongilaisen Nimbus Hub Consulting -nimisen yrityksen työntekijöiden lähettämiä. Käyttäjät antoivat kuitenkin kehotteet malleillemme yksinkertaistetuilla kiinalaisilla kirjoitusmerkeillä, joita käytetään tyypillisesti Manner-Kiinassa, eivätkä perinteisillä kirjoitusmerkeillä, joita käytetään tyypillisesti Hongkongissa. Tämä viittaa siihen, että todelliset toimijat olivat Manner-Kiinassa. Lisäksi yhdellä tilillä tuotettiin sähköposti, jonka lähettäjä esiintyi Yhdysvaltojen ja Shanghain taloudellista ja kulttuurista kanssakäymistä edistävän shanghailaisen PR-organisaation edustajana. Yrityksen nimessä esiintyvä Nimbus tarkoittaa sadepilveä tai sädekehää. Sen pohjalta annoimme operaatiolle nimen ”Hopeareunuksen pelikirja”.

Tileillä tuotettiin englanninkielisiä sähköpostiluonnoksia, jotka oli osoitettu Yhdysvaltojen osavaltiotason virkamiehille tai yritys- ja rahoitusalalla työskenteleville politiikka-analyytikoille. Viesteissä vastaanottajia näytettiin kutsuvan palkallisiin konsultointitehtäviin, joiden kerrottiin sisältävän poliittisten linjausten tulkintaa ja strategista neuvontaa asiakkaille. Käyttäjät pyysivät tiiviitä, selkeitä ja ammattimaisia sähköpostiluonnoksia, joiden aiherivit loivat kiireen tuntua ja hyödynsivät hienovaraisia psykologisia vihjeitä.

Lisäksi ChatGPT‑tileillä käytettiin mallejamme yleiseen tiedonhakuun. Mallimme vastasi näihin pyyntöihin julkisesti saatavilla olevien lähteiden pohjalta. Kyselyt käsittelivät muun muassa seuraavia aiheita:

• Yhdysvaltojen liittovaltion virastojen toimipisteiden ja päätoimipaikkojen sijainnit sekä osavaltiot, joissa on paljon liittovaltion virastoja ja virkamiehiä, määrän mukaisessa järjestyksessä.

• Yhdysvaltojen liittovaltion henkilöstön jakautuminen osavaltioittain.

• Yhdysvaltalaiset henkilöt, kuten Voice of American juontajat, sekä heidän aiemmat haastattelunsa ja kiinnostuksenkohteensa.

• Verkkofoorumit ja verkkosivustot, joita Yhdysvaltojen talous- ja rahoitusalan ammattilaiset ja työnhakijat yleisesti käyttävät.

Erityisen huomionarvoista oli, että yhdellä tilillä pyydettiin ohjeita FaceFusion-nimisen alustan lataamiseen ja asentamiseen tietokoneelle. Alustaa käytetään kasvojen muokkaamiseen, kasvojen vaihtamiseen ja muuhun mediasisällön parantamiseen. ChatGPT‑keskusteluissa käyttäjä kertoi aikovansa käyttää nimenomaan alustan reaaliaikaista kasvojenvaihtotoimintoa. Käyttäjä pyysi vaiheittaisia asennusohjeita ilman teknistä sanastoa ja kertoi olevansa aloitteleva ohjelmoija, joten ohjeiden tuli olla yksinkertaisia. Käyttäjä latasi näyttökuvan tietokoneensa laitteistotiedoista asennuksen tueksi. Malli vastasi tiedoilla, jotka olivat peräisin FaceFusionin julkiselta verkkosivustolta ja julkisesta dokumentaatiosta.

Malleillemme annetut sähköpostiluonnosten laatimisohjeet muistuttivat pikemminkin ulkomaisen tiedustelupalvelun yhteydenotoissa käyttämää manipuloinnin toimintamallia⁠(avautuu uudessa ikkunassa) kuin tavallisia rekrytointiviestejä. Käyttäjät pyysivät jokaiseen sähköpostiluonnokseen seuraavat osiot:

Uskottavuuden rakentaminen: He esittelivät Nimbus Hubin ammattimaisena strategiakonsultointiyrityksenä, jolla oli vahvaa asiantuntemusta geopolitiikasta ja valtioiden rajat ylittävästä politiikasta. Viesteihin sisällytettiin linkki Nimbus Hubin verkkosivustolle (katso alla oleva näyttökuva).

Viestin personointi ja kohteen imartelu: Käyttäjät kehottivat mallia mainitsemaan nimenomaisesti vastaanottajan julkisen sektorin työkokemuksen osoituksena siitä, että tämä sopi tehtävään täydellisesti. Yhdessä tapauksessa tilille ladattiin näyttökuvia Shanghaissa asuvan yhdysvaltalaisen henkilön LinkedIn-profiilista. Mallia ohjeistettiin personoimaan sähköpostiluonnos näyttökuvissa olevien, henkilön kokemuksia ja taustaa kuvaavien tekstien pohjalta.

Kannustimien kasaaminen: Konsultointitarjousta kuvailtiin yleensä houkuttelevaksi ja tuottoisaksi verkkotyöksi, johon kuului tulosbonuksia ja suosittelupalkkioita. Varsinaisen työn kuvaus jätettiin kuitenkin epämääräiseksi.

Rauhoittava kielenkäyttö ja riskin tunteen vähentäminen: Käyttäjät väittivät usein, että työ oli rentoa ja luottamuksellista ja että palkkiot maksettiin ajallaan.

Viestinnän nopea siirtäminen pois alustalta: Käyttäjät pyrkivät aina siirtämään vastaanottajat sähköpostista ensimmäiseen videokeskusteluun WhatsAppin, Zoomin tai Teamsin kautta.

Tässä tapauksessa verkostot eivät käyttäneet malleja teknisesti edistyneillä tavoilla, ja niiden pyynnöt muistuttivat toisinaan uskottavien rekrytointikutsujen laatimista tai ohjelmistojen asentamista laillisiin tarkoituksiin. Käyttäjien tapa piiloutua tekaistun yritysidentiteetin taakse ja kiinnostus geopoliittisiin aiheisiin viittaavat kuitenkin mahdolliseen aikomukseen värvätä ihmisiä vihamielisiin tarkoituksiin.

Tilien ChatGPT‑käytöstä ei löytynyt näyttöä siitä, että käyttäjät olisivat onnistuneet saamaan kohteiltaan vastauksia kutsuihinsa. Emme voineet riippumattomasti selvittää, lähetettiinkö sähköpostikutsut todella tai vastasiko kukaan kohteena olleista vastaanottajista.

Useiden demokraattisten maiden (esimerkiksi Yhdysvaltojen⁠(avautuu uudessa ikkunassa), Yhdistyneen kuningaskunnan⁠(avautuu uudessa ikkunassa) ja Australian⁠(avautuu uudessa ikkunassa)) hallinnot ovat varoittaneet, että ulkomaiset tiedustelupalvelut pyrkivät värväämään nykyisiä ja entisiä valtion työntekijöitä esiintymällä konsulttiyrityksinä ja muina toimijoina sosiaalisessa mediassa ja ammatillisilla verkostoitumisalustoilla. Tavallisia rekrytointiviestejä voi olla vaikea erottaa näistä kohdennetuista manipulointiyrityksistä, sillä niillä on samankaltaisia piirteitä. Aidot rekrytointiyhteydenotot on kuitenkin yleensä suunniteltu hitaampia valintaprosesseja varten. Ne sisältävät todennettavan tehtävänimikkeen, uskottavat työnantajatiedot, markkinatasoa vastaavan palkkahaarukan ja linkkejä todellisiin työpaikkailmoituksiin. Lyhyesti sanottuna: jos jokin kuulostaa liian hyvältä ollakseen totta, se tuskin on totta.