Operaatio ”Väärä numero”: tekoälyavusteinen tehtävähuijaus
OpenAI esti tilejä, jotka olivat todennäköisesti peräisin Kambodžasta ja käyttivät tekoälyä Britanniassa asuviin ihmisiin kohdistuvien huijausten työnkuluissa.
Tämä tapaustutkimus julkaistiin alun perin OpenAI:n kesäkuun 2025(avautuu uudessa ikkunassa) raportissa.
Toimija
Estimme ChatGPT‑tilejä, joilla luotiin lyhyitä rekrytointihenkisiä viestejä englanniksi, espanjaksi, swahiliksi, ruandaksi, saksaksi ja haitinkreoliksi. Viesteissä tarjottiin vastaanottajille suurta palkkaa vähäpätöisistä tehtävistä, kuten sosiaalisen median julkaisuista tykkäämisestä, ja kannustettiin heitä rekrytoimaan muita. Operaatio vaikutti hyvin keskitetysti johdetulta ja oli todennäköisesti lähtöisin Kambodžasta.
Pystyimme tekoälyä hyödyntävien käännöstyökalujen avulla tutkimaan kampanjaa ja puuttumaan nopeasti siihen, miten se käytti OpenAI:n palveluita.
Toiminta
Valtaosa verkoston viesteistä liittyi käännöstehtäviin. Verkosto käytti ChatGPT:tä keskustelulauseiden kääntämiseen kiinan ja useiden muiden kielten välillä. Näistä tärkeimpiä olivat englanti, espanja, ruanda, swahili, saksa ja haitinkreoli. Tehtävissä käännettiin yleensä vuorotellen saapuva viesti kiinaksi ja vastaus kiinasta takaisin alkuperäiselle kielelle.
Osa viesteistä muistutti kylmäkontakteina lähetettyjä työpaikkailmoituksia, joissa tarjottiin suurta tuntipalkkaa hyvin vähäisestä työstä. Yksi tällainen viesti lähetettiin tekstiviestinä näennäisesti satunnaisesti valittuihin brittiläisiin matkapuhelinnumeroihin. Yksi numeroista kuului OpenAI:n tutkijalle. Nimesimme operaation ensimmäisen tekstiviestin kunniaksi ”Vääräksi numeroksi”.
Satunnaisesti OpenAI-tutkijalle lähetetty tekstiviesti, joka luotiin ChatGPT:llä.
Uhkatoimijat vaikuttivat käyttävän useita viestipalveluita. Ensimmäisessä tekstiviestissä vastaanottajia kehotettiin jatkamaan keskustelua WhatsAppissa, josta vastaajat ohjattiin edelleen Telegramissa toimivalle ”mentorille”. Joissakin toimissa viitattiin myös BonChat-viestisovellukseen. Näiden kanavien kautta lähetettyjä ensimmäisiä esittelyviestejä ei vaikuta olevan luotu malleillamme. Ne olivat vakiomuotoisia viestejä, joita voitiin todennäköisesti käyttää kaikissa keskusteluissa.
Tekstiviestin jatkoksi lähetetty WhatsApp-viesti. Viestiä ei vaikuta olevan luotu malleillamme.
Monet käännöstehtävät koskivat viestejä, joiden väitettiin tulevan oletettujen ”työnantajayritysten” edustajilta. Samat yritysten nimet nousivat toistuvasti esiin lukuisissa tähän tutkintaan kuuluneissa ChatGPT‑keskusteluissa. Näihin kuuluivat Hyesung Advertising(avautuu uudessa ikkunassa) ja Lightning Shared Scooter Co (LSSC)(avautuu uudessa ikkunassa). Julkisissa raporteissa Hyesungin ja LSSC:n on väitetty harjoittavan tehtävähuijauksia. Emme ole vahvistaneet itsenäisesti näiden tahojen luonnetta, mutta tutkinnassamme selvisi, että niiltä väitetysti tulleita viestejä loivat kiinankieliset ChatGPT‑käyttäjät, jotka toimivat todennäköisesti Kambodžasta käsin.
Tuotokset
Yritykset, joita verkosto väitti edustavansa, toimivat monilla eri aloilla osakekaupasta sähköpotkulautojen vuokraukseen ja sosiaalisen median tykkäysten myyntiin. Yksi selvä varoitusmerkki oli lupaus maksaa yli viisi dollaria yhdestä TikTok-tykkäyksestä. Vertailun vuoksi verkkomarkkinapaikkojen manuaalinen tarkastuksemme osoitti, että jotkin sosiaalisen median tykkäysten myyjät veloittavat alle kymmenen dollaria tuhannesta tykkäyksestä.
Yhdistämällä palvelun ulkopuolisia havaintoja sisäisiin havaintoihimme tunnistimme toistuvan toimintamallin. Jotta taktiikkaa ymmärrettäisiin paremmin ja se olisi helpompi luokitella, kuvaamme mallia kolmella vaiheella: kontakti (kylmäkontakti), innostus (innostuksen herättäminen) ja rahastus (rahan vieminen):
Kontakti (kylmäkontakti): Verkosto luo sisältöä kylmäkontaktointiin. Tavallisesti siinä tarjotaan poikkeuksellisen suurta palkkaa vähäisestä työstä tai luvataan suuria tuottoja osakemarkkinasijoituksille. Tarjouksissa luvataan suurta palkkaa yksinkertaisista tehtävistä, kuten sosiaalisen median julkaisuista tykkäämisestä, tai tuottoisia sijoitusmahdollisuuksia.
Innostus (innostuksen herättäminen): Verkosto kääntää keskusteluja, joita käydään todennäköisesti Operaattorin ja tämän ”työntekijöiden” välillä. Keskusteluissa käsitellään tehtävien käytännön järjestelyjä, mutta niiden lomassa on usein ansioita ja mahdollisia bonuksia korostavia kannustusviestejä.
Rahastus (rahan vieminen): Verkosto luo ja/tai lähettää sisältöä, jolla ”työntekijää” tai ”sijoittajaa” painostetaan maksamaan rahaa suurempien palkkioiden avaamiseksi. Tämä voi tarkoittaa esimerkiksi ensimmäistä ”talletusta”, kryptovaluutan ostamista tai ”käsittelymaksuja”.
Esimerkki ChatGPT:llä luodusta kylmäviestistä, jota tämä verkosto jakeli. Viesti lähetettiin samanaikaisesti kahdeksaan puhelinnumeroon, joista yksikään ei ollut vastaanottajan yhteystiedoissa. Yksi vastaanottaja poistui ryhmästä heti.
Verkoston mahdolliselle uhrille lähettämä Telegram-viesti, jossa tätä kehotetaan ostamaan kryptovaluuttaa 20 punnan arvosta ja siirtämään se nimeämättömälle kauppiaalle.
Julkisten raporttien(avautuu uudessa ikkunassa) mukaan jotkin näistä yrityksistä perivät uusilta rekrytoiduilta huomattavia liittymismaksuja ja käyttivät sitten osan varoista maksaakseen nykyisille ”työntekijöille” juuri sen verran, että nämä jatkoivat toimintaansa. Tällainen rakenne on tyypillinen tehtävähuijauksille(avautuu uudessa ikkunassa).
Vaikutukset
Verkoston todellista laajuutta on vaikea arvioida, koska näkyvyytemme siihen on rajallinen. Palvelun ulkopuoliset raportit(avautuu uudessa ikkunassa) ja keskustelut, joissa ”työntekijät” vaativat hyvityksiä, kuitenkin osoittavat, että ainakin jotkut ihmiset maksoivat näille väitetyille työnantajille. Havaitsimme myös aitojen käyttäjien puolustavan yrityksiä sosiaalisessa mediassa, mikä viittaa jonkinasteiseen todelliseen osallistumiseen.