Huijausoperaatiot: verkkopetosverkostot

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n lokakuun 2025⁠(avautuu uudessa ikkunassa) raportissa.

Todennäköisesti Kambodžasta, Myanmarista ja Nigeriasta lähtöisin olevat verkostot käyttivät ChatGPT:tä väärin ilmeisesti yrittäessään huijata ihmisiä verkossa.

Olemme sitoutuneet tunnistamaan, estämään ja torjumaan yrityksiä käyttää mallejamme väärin vahingollisiin tarkoituksiin. Väärinkäyttöön kuuluvat huijaukset, joissa havaitsemme haitallisia toimijoita, jotka yrittävät käyttää mallejamme ihmisten harhauttamiseen ja petoksiin, ja estämme heidän toimintansa. Viimeisten kolmen kuukauden aikana olemme pysäyttäneet huijausverkostoja, jotka olivat todennäköisesti lähtöisin Kambodžasta, Myanmarista ja Nigeriasta. Tekoälyn mahdollisuuksista petosten torjunnassa kertoo se, että tutkiessamme näitä väärinkäytösmalleja olemme myös nähneet monien käyttävän mallejamme huijausten tunnistamiseen. Tässä raportissa käsitellään molempia käyttötapoja.

Mallejamme käytetään huijausten tukena niin yksittäisten toimijoiden petosyrityksissä kuin laajoissa ja jatkuvissa operaatioissa, joilla on todennäköisesti yhteyksiä järjestäytyneisiin rikollisryhmiin. Alkuperästä ja tarkoista menetelmistä riippumatta pysäyttämämme huijaustoiminta noudattaa yleensä samaa kaavaa: ensin otetaan yhteyttä tuntemattomaan, sitten herätetään innostusta tai paniikkia ja lopuksi viedään rahat tai arvokkaat tiedot.

Huijarit aloittavat levittämällä viestipalveluihin ja muualle internetiin sisältöä, joka voi olla tekoälyllä tuotettua tai muuta. He esimerkiksi julkaisevat mainoksia sosiaalisessa mediassa. Seuraavaksi he yrittävät saada vastaajat joko innostumaan tuottoisasta mahdollisuudesta tai pelkäämään välitöntä taloudellista menetystä. Tämän tunnereaktion avulla kohde pyritään taivuttelemaan luovuttamaan rahaa tai arkaluonteisia tietoja.

Olemme myös havainneet monia tapauksia, joissa mallimme ovat todennäköisesti auttaneet suojelemaan ihmisiä petoksilta. Olemme nähneet näyttöä siitä, että ihmiset käyttävät ChatGPT:tä verkkohuijausten tunnistamiseen ja välttämiseen miljoonia kertoja kuukaudessa. Jokaisessa tässä raportissa käsitellyssä huijausoperaatiossa olemme nähneet mallin auttavan ihmisiä tunnistamaan huijauksen oikein ja neuvovan sopivissa turvatoimissa. Nykyisen arviomme mukaan ChatGPT:tä käytetään huijausten tunnistamiseen jopa kolme kertaa useammin kuin huijausten tekemiseen.

Esimerkki siitä, kuinka OpenAI:n tutkija liitti ChatGPT:hen kuvakaappauksen saamastaan huijaustekstiviestistä ja tunnisti sen mallin avulla huijaukseksi. Tässä tapauksessa uhkatoimijat yrittivät esiintyä TikTokin rekrytoijina.

Olemme edellisen raporttimme jälkeen vahvistaneet kykyämme havaita ja torjua huijauksia. Olemme pysäyttäneet lisää huijausverkostoja, jotka vaikuttivat olevan lähtöisin Kambodžasta, Myanmarista ja Nigeriasta. Yhdessä aiempien torjuntatoimiemme kanssa nämä alasajot auttavat tunnistamaan eri maiden lukuisissa huijausoperaatioissa ilmeneviä uusia suuntauksia.

Suurimmassa osassa pysäyttämästämme huijaustoiminnasta tekoälyä sovitettiin jo olemassa oleviin toimintamalleihin sen sijaan, että sen ympärille olisi kehitetty uusia. Kaikki tänä vuonna tunnistamamme ja estämämme huijausoperaatiot käyttivät tekoälyä ensisijaisesti toimintansa tehostamiseen ja laajentamiseen. Tavallisesti mallejamme käytettiin käännöksiin, viestien kirjoittamiseen ja sosiaalisen median sisällön luomiseen.

Estimme esimerkiksi äskettäin todennäköisesti Kambodžasta ja Nigeriasta lähtöisin olleita huijausoperaatioita, jotka esiintyivät ”sijoitusyhtiöinä” yrittäessään huijata uhreja useissa maissa. Huijarit perustivat verkkosivustoja ja julkaisivat verkkomainoksia tekaistujen yhtiöiden markkinoimiseksi. Lisäksi he käyttivät todennäköisesti epäaitoja sosiaalisen median tilejä, joilla esiinnyttiin kaupankäynnin asiantuntijoina ja kutsuttiin ihmisiä yksityisiin viestiryhmiin. Uhkatoimijat lupasivat tuottoisia ja riskittömiä ansaintamahdollisuuksia ja yrittivät houkutella mahdollisia uhreja siirtämään rahaa tekaistuille kaupankäyntialustoille. Kaikissa huijauksissa mallejamme käytettiin pääasiassa viestien tuottamiseen ja kääntämiseen, verkkosivustojen ja sosiaalisen median tilien sisällön luomiseen sekä perustason tiedonhakuun.

Eräässä toisessa tapauksessa estimme hyvin todennäköisesti Myanmarissa toimineen huijauskeskuksen, joka käytti mallejamme sekä petosjärjestelyjensä sisällön tuottamiseen että päivittäisiin liiketoimintatehtäviin. Tehtäviin kuului aikataulujen järjestämistä, sisäisten tiedotteiden laatimista, työpisteiden ja asuntolapaikkojen jakamista sekä taloustilien hallintaa. Jotkut toimijat kysyivät verkkohuijauksista kiinni jääville määrättävistä rikosoikeudellisista seuraamuksista.

Kaikki pysäyttämämme huijarit eivät käyttäneet mallejamme samalla tavalla tai yhtä monimutkaisiin tehtäviin. Useimmat huijarit teettivät ChatGPT:llä verrattain yksinkertaisia tehtäviä, kuten käännöksiä, mutta osa huijausoperaatioista oli kunnianhimoisempia ja monimutkaisempia.

Yksi pysäyttämämme, todennäköisesti Kambodžasta lähtöisin ollut huijausoperaatio esimerkiksi tuotti malleillamme yksityiskohtaisia elämäkertoja tekaistuille sijoitusasiantuntijoille ja valeyhtiöiden kuvitteellisille työntekijöille. Tämän jälkeen huijarit pyysivät ChatGPT:tä kirjoittamaan sosiaalisen median viestejä näiden hahmojen tyylillä. Uhkatoimijat syöttivät mallillemme usein viestejä, jotka he näyttivät saaneen kohteiltaan, ja pyysivät mallia jatkamaan keskustelua tekaistuna henkilönä.

Toinen, niin ikään todennäköisesti Kambodžasta lähtöisin ollut huijausoperaatio aloitti tuottamalla malleillamme tekstiviestejä, joita lähetettiin massoittain yhdysvaltalaisiin puhelinnumeroihin. Yksi näistä lähetettiin OpenAI:n tutkijalle, kuten kesäkuussa raportoimassamme vastaavassa tapauksessa. Tekstiviesteissä vastaanottajia kutsuttiin sittemmin estettyihin WhatsApp-ryhmiin, joiden nimet muistuttivat todellisen sijoitusyhtiön nimeä.

OpenAI:n tutkijalle lähetetyn WhatsApp-viestisarjan perusteella mahdollinen kohde olisi ryhmään liityttyään nähnyt nopeasti noin kuuden eri tilin välisen ”keskustelun”, jossa kaikki puhuivat sijoittamisesta. Yksi tileistä esiintyi ”sijoitusasiantuntijana” ja muut sijoittajina, joiden itsevarmuuden ja kokemuksen määrä vaihteli. Huijarit tuottivat keskustelun kaikki osat ja käänsivät ne yhdellä kertaa kiinasta. Tarkoituksena oli todennäköisesti luoda vaikutelma innokkaiden ja menestyvien sijoittajien vilkkaasta ryhmästä. Lopulta ”sijoitusasiantuntija” ehdotti, että kohdekin kokeilisi sijoittamista.

Erillinen, hyvin todennäköisesti Nigeriasta lähtöisin ollut sijoitushuijausoperaatio pyysi mallilta vaiheittaisia ohjeita siihen, miten sosiaalisen median mainoksilla voisi tavoittaa varakkaita ihmisiä Latinalaisessa Amerikassa, peittää oman sijainnin ja kiertää sosiaalisen median alustojen rajoituksia. Tätä varten mallia ohjattiin alustan julkisiin käyttöehtoihin ja pyydettiin arvioimaan, oliko suunniteltu mainossisältö niiden mukaista.

Huijarit ja etenkin suuret huijauskeskukset ovat sitkeitä. Hyvin usein ne reagoivat torjuntatoimiin yrittämällä käynnistää sääntöjen vastaisen toimintansa uudelleen ja muuttamalla joitakin toimintatapojaan, todennäköisesti välttääkseen uuden havaitsemisen. Tämä on yksi syy siihen, miksi alan toimijoiden on tärkeää jakaa havaintoja huijareiden kehittyvistä toimintatavoista. Esimerkiksi OpenAI ja Meta jakoivat kumpikin tietoja uhkatoimijoista, mikä edisti tutkintaa ja sääntöjen toimeenpanoa.

Huijarit ovat ehkä reagoineet torjuntatoimiin tai verkossa käytäviin keskusteluihin tekoälyn käytön paljastavista merkeistä, sillä olemme havainneet heidän yrittävän peittää tekoälyn käyttöään verkkosisällöissä ja kohteille lähettämissään viesteissä. Esimerkiksi todennäköisesti Kambodžasta lähtöisin olleet huijausoperaatiot kehottivat mallia poistamaan vastauksista pitkät ajatusviivat.

Yhdessä tapauksessa huijarit yrittivät selittää sosiaalisen median resurssiensa laajamittaista poistamista keksimällä tekosyyn estoille. Kyse oli edellä kuvatusta, todennäköisesti Kambodžasta lähtöisin olleesta huijauskeskuksesta, joka toimi tekstiviesteillä ja WhatsAppissa. Kun WhatsApp esti operaatioon liittyneet ”sijoitusryhmät”, toimijat alkoivat tuottaa viestejä, joissa väitettiin kilpailijan tehneen ryhmistä perättömiä ilmoituksia. Tarkoituksena oli todennäköisesti selittää estot parhain päin.

Kuvakaappaus viestistä, jonka Kambodžaan kytkeytynyt huijausoperaatio lähetti WhatsAppissa OpenAI:n tutkijalle sen jälkeen, kun WhatsApp oli poistanut ryhmät.