Hõbeääre tegevuskava: tõenäoliselt Hiinast lähtuv tegevus USA isikute vastu

See juhtumiuuring avaldati algselt OpenAI 2026. aasta veebruari⁠(avaneb uues aknas) aruandes tehisintellekti pahatahtliku kasutamise tõkestamise kohta.

Blokeerisime väikese hulga tõenäoliselt Hiinast pärit ChatGPT kontosid, mis kasutasid meie mudeleid USA isikute, foorumite ja föderaalhoonete asukohtade kohta teabe küsimiseks, näovahetustarkvara kasutusjuhiste saamiseks ning ingliskeelsete meilide loomiseks, mis meenutasid sotsiaalse manipuleerimise katseid. Nad esitasid meie mudelitele hiinakeelseid päringuid, tegutsesid peamiselt Mandri-Hiina tööajal ja kasutasid meie platvormile pääsemiseks VPN-e.

Kontodel loodi meilide mustandeid, mille väidetavateks saatjateks olid Hongkongis asuva ettevõtte Nimbus Hub Consulting töötajad. Kuid nad esitasid meie mudelitele päringuid lihtsustatud hiina kirjas (mida kasutatakse tavaliselt Mandri-Hiinas), mitte traditsioonilises hiina kirjas (mida kasutatakse tavaliselt Hongkongis). See viitab sellele, et kontode tegelikud kasutajad asusid Mandri-Hiinas. Lisaks loodi ühe konto kaudu meil, mille saatja esines Shanghais asuva suhtekorraldusorganisatsiooni esindajana. See organisatsioon edendab USA ja Shanghai majandus- ning kultuurisidemeid. Lähtudes ettevõtte nimes sisalduvast sõnast „nimbus“, mis tähendab vihmapilve või aupaistet, andsime operatsioonile nimeks „Hõbeääre tegevuskava“.

Kontodel loodi ingliskeelseid meilimustandeid, mis olid adresseeritud USA osariikide ametnikele või ettevõtlus- ja finantsvaldkonnas töötavatele poliitikaanalüütikutele. Paistis, et adressaate kutsuti osalema tasulistes konsultatsioonides, mida kirjeldati kui poliitika tõlgendamist ja strateegiliste nõuannete andmist nende klientidele. Nad palusid koostada lühikesed, selged ja professionaalsed meilimustandid, mille teemarida tekitaks pakilisuse tunde ning kasutaks peeneid psühholoogilisi vihjeid.

Lisaks kasutati nendel ChatGPT kontodel meie mudeleid üldiseks teabeotsinguks. Meie mudel vastas neile päringutele avalike allikate põhjal. Päringud hõlmasid järgmisi teemasid:

• USA föderaalvalitsuse büroode, sealhulgas peakontorite asukohad ning osariikide pingerida föderaalasutuste ja -ametnike koondumise järgi.

• USA föderaaltöötajate jaotus osariigiti.

• USA isikud, näiteks Ameerika Hääle saatejuhid, sealhulgas nende varasemad intervjuud ja huvipakkuvad teemad.

• Veebifoorumid ja veebisaidid, mida USA majandus- ja finantsvaldkonna spetsialistid ning tööotsijad sageli kasutavad.

Tähelepanuväärselt küsiti ühe konto kaudu juhiseid, kuidas laadida arvutisse alla ja paigaldada FaceFusion – nägude vahetamiseks ning muuks meediasisu täiustamiseks mõeldud näotöötlusplatvorm. ChatGPT kasutusandmete kohaselt väljendas konto kasutaja kavatsust kasutada just selle reaalajas näovahetuse funktsiooni. Ta palus samm-sammulisi ja tehniliste üksikasjadeta paigaldusjuhiseid ning väitis, et on programmeerimises algaja, mistõttu pidid juhised olema lihtsad. Paigaldamise hõlbustamiseks laadis ta üles kuvatõmmise oma arvuti riistvara tehnilistest andmetest. Mudel vastas teabega, mis pärines FaceFusioni avalikult veebisaidilt ja dokumentatsioonist.

Nende juhised meie mudelite abil meilimustandite loomiseks meenutasid pigem välisriigi luureteenistuse sotsiaalse manipuleerimise tegevuskava⁠(avaneb uues aknas) kui tavalisi värbamissõnumeid. Iga meilimustandi jaoks palusid nad järgmisi osi:

Usaldusväärsuse loomine: Nad esitlesid Nimbus Hubi professionaalse strateegiakonsultatsioonifirmana, millel on kaalukad eriteadmised geopoliitika ja riikideülese poliitika vallas. Nad lisasid lingi Nimbus Hubi veebisaidile (vt allolevat kuvatõmmist).

Isiklik lähenemine ja sihtisiku meelitamine: Nad palusid mudelil sõnaselgelt viidata adressaadi avaliku sektori kogemusele kui tõendile, et ta sobib sellesse rolli täiuslikult. Ühel juhul laadis konto kasutaja üles kuvatõmmised Shanghais elava USA isiku LinkedIni profiilist ning palus mudelil kohandada meilimustandit kuvatõmmistel oleva teksti järgi, mis kirjeldas selle isiku kogemusi ja tausta.

Hüvede kuhjamine: Konsultatsioonipakkumist esitleti tavaliselt tulusa veebipõhise töövõimalusena, millega kaasnevad tulemustasud ja soovituspreemiad, kuid töö tegelik sisu jäeti ebamääraseks.

Rahustav sõnakasutus ja tajutud riskide vähendamine: Sageli väideti, et töö on pingevaba, tasu makstakse õigel ajal ja töö on konfidentsiaalne.

Suhtluse kiire viimine teisele platvormile: Nad püüdsid alati suunata adressaate meili teel suhtlemiselt esmasele videokõnele WhatsAppi, Zoomi või Teamsi kaudu.

Võrgustike suhtlus mudeliga ei olnud sel juhul tehniliselt keerukas ning nende päringud meenutasid mõnikord tavapäraste värbamiskutsete koostamist või tarkvara õiguspärast paigaldamist. Kasutajate taktika peituda võltsitud ettevõtteidentiteedi taha ja nende huvi geopoliitiliste teemade vastu viitavad aga võimalikule kavatsusele värvata inimesi vaenulikel eesmärkidel.

Nende kontode ChatGPT kasutusest ei ilmnenud tõendeid, et neil oleks õnnestunud sihtisikutelt oma kutsetele vastuseid saada. Me ei saanud sõltumatult kindlaks teha, kas meilikutsed tegelikult saadeti või kas mõni sihitud adressaat neile vastas.

Mitme demokraatliku riigi (nt USA⁠(avaneb uues aknas), Ühendkuningriigi⁠(avaneb uues aknas) ja Austraalia⁠(avaneb uues aknas)) valitsused on hoiatanud, et välisriikide luureteenistused püüavad värvata praeguseid ja endisi riigitöötajaid, esinedes sotsiaalmeedias ja tööalastes suhtlusvõrgustikes konsultatsioonifirmade ning muude organisatsioonidena. Tavalisi värbamissõnumeid võib olla raske eristada sellistest sihitud sotsiaalse manipuleerimise katsetest, sest neil on ühiseid jooni. Õiguspärased tööpakkumised arvestavad aga tavaliselt pikema valikuprotsessiga ning sisaldavad kontrollitavat ametinimetust, usaldusväärseid andmeid tööandja kohta, turutasemele vastavat palgavahemikku ja linke tegelikele töökuulutustele. Lühidalt: kui miski tundub liiga hea, et tõsi olla, siis tõenäoliselt see polegi tõsi.