Kambodžassa toimineen rikollisen huijausoperaation estäminen
OpenAI esti Kambodžassa toimineen huijausoperaation, joka hyödynsi ChatGPT:tä sijoitus-, romanssi-, uhkapeli- ja toisena henkilönä esiintymiseen perustuvissa huijauksissa.
Johdanto
Estimme aiemmin tänä vuonna Kambodžassa toimineen huijausoperaation, joka hyödynsi ChatGPT:tä sijoitus-, romanssi- ja uhkapelihuijauksissa sekä lainvalvontaviranomaisina esiintymisessä. Aloitimme toiminnan tutkinnan WhatsAppin kollegoidemme vihjeen perusteella. Sen jälkeen olemme jakaneet lisää uhkaan liittyviä tietoja alan kumppaneille ja asianomaisille viranomaisille.
Operaatio havainnollistaa yhtä nykyajan huijausverkostojen keskeistä piirrettä: järjestäytyneet rikollisryhmät rajoittuvat harvoin vain yhteen huijaustyyppiin. Sen sijaan ne hyödyntävät tilaisuuden tullen sellaisia tarinoita, henkilöhahmoja ja menetelmiä, joiden ne uskovat tehoavan uhreihin parhaiten. Havaitsemme tutkimuksissamme säännöllisesti toimijoita, jotka siirtyvät huijaustyypistä toiseen tai yhdistelevät useita huijausmenetelmiä samassa operaatiossa.
Jotkut verkoston käyttäjät loivat myös sisältöä, joka viittasi yhteyksiin ihmiskauppaan ja rikoksiin pakottamiseen. Havainnot vastaavat laajaa julkista raportointia(avautuu uudessa ikkunassa), jossa kuvataan(avautuu uudessa ikkunassa) Kaakkois-Aasian järjestäytyneitä rikollisryhmiä. Ne houkuttelevat työntekijöitä lupaamalla laillista työtä mutta vangitsevat nämä sitten velkaorjuuteen ja pakottamiseen perustuviin järjestelmiin. Emme pysty selvittämään itsenäisesti jokaisen osallisen olosuhteita, mutta toiminta muistuttaa siitä, että huijauksia toteuttavat ihmiset voivat itsekin olla hyväksikäytön uhreja.
Toimija
Estimme koordinoidun ChatGPT‑tilien verkoston, joka oli hyvin todennäköisesti lähtöisin Kambodžasta ja toimi todennäköisesti Poipetissa tai sen ympäristössä. Poipet on Banteay Meancheyn maakunnassa sijaitseva kaupunki, jonka julkisessa raportoinnissa(avautuu uudessa ikkunassa) on toistuvasti(avautuu uudessa ikkunassa) kerrottu(avautuu uudessa ikkunassa) liittyvän verkkohuijauskeskuksiin ja ihmiskauppaan.
Verkosto käytti mallejamme tekaistujen verkkopersoonien luomiseen ja ylläpitoon, huijausten kohteille lähetettyjen viestien laatimiseen ja kääntämiseen, huijausten markkinointisisällön tuottamiseen sekä päivittäisen toiminnan tukemiseen.
Kuten aiemmissa(avautuu uudessa ikkunassa) estämissämme huijausverkostoissa, osa käyttäjistä hyödynsi ChatGPT:tä myös hallinnollisiin tehtäviin. Näitä olivat sisäisten tiedotteiden laatiminen, henkilöstön välisten viestien kääntäminen sekä rekrytointiin, maahanmuuttostatukseen, työoloihin ja työntekijöiden kurinpitoon liittyneiden asioiden dokumentointi.
Toiminta
Verkosto toteutti samanaikaisesti monentyyppisiä huijauksia ja yhdisteli usein eri huijausten piirteitä. Toimijat esimerkiksi rakensivat luottamusta deittipersoonien avulla ja esittelivät sitten tekaistuja kryptovaluuttoihin ja kullan hetkikauppaan liittyviä sijoitusmahdollisuuksia. Toiset käyttäjät kävivät kohteiden kanssa pitkiä romanttisia keskusteluja tekaistuilla henkilöllisyyksillä, esiintyivät vääriä bonuksia ja voittoja tarjoavien verkkouhkapelialustojen edustajina tai tekeytyivät lainvalvontaviranomaisiksi ja väittivät kohteiden joutuvan maksamaan sakkoja vakavista rikoksista.
Vaikka tarinat vaihtelivat, koko verkoston käyttäjien petollinen toiminta noudatti johdonmukaisesti samaa peruskaavaa. He esimerkiksi loivat ja ylläpitivät tekaistuja deittiprofiileja, sijoitusasiantuntijoita ja lainvalvontaviranomaisina esiintyviä henkilöhahmoja. He loivat myös kuvia väärennetyistä asiakirjoista, kuten passeista, oikeudellisista ilmoituksista ja osakkeiden ostovahvistuksista, sekä uhkapelialustojen käyttöliittymistä.
Kuten olemme tuoneet(avautuu uudessa ikkunassa) aiemmissa(avautuu uudessa ikkunassa) raporteissamme(avautuu uudessa ikkunassa) esiin, huijarit noudattivat kohteidensa kanssa yleistä kolmivaiheista kaavaa: yhteydenotto, tunteisiin vetoaminen ja rahastus.
Yhteydenotto: Verkosto käytti ChatGPT:tä kohteiden kanssa WhatsAppin ja Telegramin kaltaisilla viestialustoilla käytyjen keskustelujen kääntämiseen ja tuottamiseen. Huijarit loivat myös sisältöä sosiaaliseen mediaan ja etsivät aineistoa deittiprofiileihin tekaistujen persooniensa tueksi.
Tunteisiin vetoaminen: Huijareiden viestit perustuivat usein emotionaaliseen painostukseen ja luottamusta rakentaviin menetelmiin. Huijarit esimerkiksi lupasivat taattuja tuottoja ja ”riskittömiä” sijoituksia, käyttivät romanttista kieltä, kehottivat pitämään keskustelut salassa ja vaativat toimimaan nopeasti ennen tekaistujen bonusten vanhenemista.
Rahastus: Huijarit kehottivat uhreja tekemään talletuksia väitettyjen palkintojen avaamiseksi, maksamaan aktivointimaksuja ja tekaistuja sakkoja sekä toimittamaan sitten maksutositteeksi kuvakaappauksia tilisiirroista tai tilitietoja.

Verkoston huijarin ChatGPT:n avulla luoma tekaistu kryptovaluuttakaupan käyttöliittymä.

Verkoston huijarin tekoälyllä luoma kuva, jolla mainostettiin tekaistua sijoitushuijausta.
Ihmiskauppaan viittaavat merkit
Huijausten lisäksi jotkut käyttäjät loivat sisältöä, joka viittasi osallisuuteen muussa havaitsemassamme ja estämässämme sääntöjen vastaisessa toiminnassa, kuten ihmiskaupassa tai pakkotyössä. Tähän sisältyi sosiaalisen median työpaikkailmoituksia Poipetissa tarjotuista ”keskustelijan” töistä, joihin luvattiin lennot, majoitus, ateriat, viisumit ja työluvat.
Muu toiminta näytti liittyvän operaatioon kuuluvien työntekijöiden hallinnointiin. Käyttäjät pitivät kirjaa työntekijöiden veloista, palkasta tehtävistä vähennyksistä, kurinpidollisista sakoista ja lainanlyhennyksistä. Lisäksi he käänsivät keskusteluja maahanmuuttostatuksesta, työluvista, viisumin voimassaoloajan ylityksistä ja rekrytointikannustimista.
Joissakin keskusteluissa viitattiin myös ilmeiseen vangitsemiseen, pakoyrityksiin ja mahdolliseen rikosoikeudelliseen vastuuseen sellaisten ihmisten kohdalla, jotka oli joutuneet ihmiskaupan uhreiksi ja pakotettu työskentelemään huijausoperaatioissa. Vaikka näiden keskustelujen perusteella ei voida selvittää kenenkään yksittäisen henkilön olosuhteita, ne vastaavat laajaa julkista raportointia(avautuu uudessa ikkunassa), jossa kuvataan(avautuu uudessa ikkunassa) Kaakkois-Aasian järjestäytyneiden rikollisryhmien toimintaa.


Verkoston huijareiden tekoälyllä luomia kuvia, joilla mainostettiin työpaikkoja Kambodžassa sosiaalisessa mediassa. OpenAI on peittänyt kuvista tietoja.
Vaikutukset
Estimme tähän operaatioon liittyneet ChatGPT‑tilit, jaoimme olennaisia tietoja alan kumppaneille ja asianomaisille viranomaisille sekä vaikeutimme toimijoiden pääsyä uudelleen tuotteisiimme ja palveluihimme.
Verkostoon liittyvien taloudellisten menetysten koko laajuutta ei tunneta, mutta huijareiden oman viestinnän perusteella operaatio on saattanut olla yhteydessä satoihin kohteisiin useiden erityyppisten huijausten yhteydessä. Käyttäjien keskusteluissa väitettiin yksittäisten uhrien menettäneen tuhansia dollareita, mutta emme pysty vahvistamaan näitä väitteitä itsenäisesti.
Laajemmin tarkasteltuna tapaus vahvistaa kaksi kehityssuuntaa. Ensinnäkin järjestäytyneet huijausverkostot voivat olla hyvin monipuolisia: ne voivat toteuttaa samanaikaisesti useita petoksia sen sijaan, että keskittyisivät vain yhteen huijaustyyppiin. Toiseksi verkkopetosten, järjestäytyneen rikollisuuden ja ihmiskaupan väliset rajat ovat usein häilyviä. Toiminnan tehokas estäminen edellyttää siksi puuttumista paitsi uhreihin kohdistuviin huijauksiin myös niitä järjestäviin ja niistä hyötyviin rikollisorganisaatioihin.