Tehtävähuijaus: tekoälyllä avustetut valearvostelutyöt

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n helmikuun 2025⁠(avautuu uudessa ikkunassa) raportissa.

Estimme joukon ChatGPT‑tilejä, joilla käännettiin lyhyitä kommentteja urdusta englanniksi ja päinvastoin tavalla, joka vastasi ”tehtävä⁠(avautuu uudessa ikkunassa)huijausta”. Siinä uhreille tarjotaan hyväpalkkaista työtä, mutta heidän on maksettava järjestelmään omia rahojaan ennen oletettujen ”ansioidensa” nostamista. Toiminta vaikutti olevan peräisin Kambodžasta. Tällaisissa huijauksissa uhrit yleensä menettävät sekä ”ansionsa” että omat rahansa. Aloitimme toiminnan tutkimisen Metan antaman vihjeen perusteella.

Verkosto käytti mallejamme pääasiassa lyhyiden kommenttien kääntämiseen urdusta englanniksi ja päinvastoin. Kommentit vastasivat huijarin ja uhrien välisiä keskusteluja. Havaitsimme viittauksia viestintään Telegramissa, joka vaikutti olevan heidän pääasiallinen alustansa, sekä WhatsAppissa, tekstiviesteillä ja monilla työnhakufoorumeilla ja -ryhmissä, joilla työtarjouksia voitiin julkaista.

Huijarit vaikuttivat esiintyvän pääasiassa kahdenlaisissa rooleissa. Toinen oli ”rekrytoija”, jonka viestit olivat kylmäkontaktointia ja sisälsivät ilmoituksia hyväpalkkaisesta etätyöstä. Toinen ja aktiivisempi rooli oli ”mentori”, joka jatkoi yhteydenpitoa ”rekrytoijan” aloitteen jälkeen ja opetti kohteelle, miten työ tehdään. Mentorit viittasivat hyvin usein Telegramissa järjestettäviin koulutuksiin.

Toisinaan huijarit käyttivät mallejamme myös verkkosivustojen tekstien oikolukemiseen. Sivustot vaikuttivat jäljittelevän ylellisyys-, muoti- ja matkailubrändien nimiä ja ulkoasua. ”Mentoreina” esiintyneet väittivät rekrytoivansa näiden brändien puolesta, mikä viittaa siihen, että sivustoilla pyrittiin tekemään huijauksesta uskottavampi.

Rajallisten havaintojemme perusteella huijarit näyttävät noudattaneen yleistä toimintamallia, jolla kohteet johdatettiin yhteydenotosta huijaukseen:

1. Työpaikkailmoitus: Kehotteiden ja tuotosten perusteella huijarit näyttävät aloittaneen julkaisemalla työtarjouksia erilaisilla verkkofoorumeilla. Rekrytoinnissa mainittiin yleensä etätyö ja tarjottiin vähäiseen työmäärään nähden suhteellisen korkeaa palkkaa, esimerkiksi 300 dollaria päivässä sekä bonuksia muutaman tunnin työstä. Ilmoitukset julkaisi yleensä ”rekrytoijan” roolissa esiintynyt henkilö.

2. Rekrytointi: Seuraavaksi huijarit loivat ”mentorin” roolissa kommentteja, joilla mahdollisiin työntekijöihin otettiin yhteyttä ilmeisesti eri viestisovelluksissa. ”Mentori” kertoi työskentelevänsä ”rekrytoijan” kanssa ja väitti olevansa sellaisen luksusbrändin palveluksessa, jota varten huijausoperaatio oli perustanut verkkosivuston. Tehtäväksi kuvattiin viiden tähden arvostelujen lähettäminen näiden luksusbrändien sivustoille näennäisesti asiakasarvioiden parantamiseksi.

3. Vakuuttelu: Huijarit vakuuttelivat tuotoksissa kohteilleen usein, että työ oli laillista, koska sitä tehtiin pitkään toimineen yrityksen puolesta. Jos kohde suhtautui epäluuloisesti, huijari väitti itsekin joutuneensa aiemmin huijatuksi mutta tämän tilaisuuden olevan turvallinen.

4. Koulutus: Jos kohde oli edelleen kiinnostunut, tuotosten perusteella ”mentori” tarjosi hänelle koulutusta, yleensä Telegramissa. Aluksi kohde sai käyttöönsä ”koulutustilin”, jolla hänen odotettiin suorittavan 25–35 arvostelutehtävää päivässä. ”Koulutustilillä” kohteen ”ansiot” näyttivät kasvavan nopeasti.

5. Innostaminen: Jos kohde jatkoi koulutusta, tuotosten mukaan hänelle tarjottiin usein ”erikois-” tai ”äärimmäistä” arvostelutehtävää, josta luvattiin tavallista suurempi bonus. ”Mentori” korosti tehtävän harvinaisuutta ja sitä, kuinka onnekas kohde oli.

6. ”Aktivointimaksu”: Kun kohteen ”ansiot” saavuttivat tietyn tason, ”mentori” kertoi tuotoksissa, että tämän oli maksettava ”aktivointimaksu” voidakseen nostaa ”ansionsa”. Tarvittaessa huijari kehotti lainaamaan rahat ystäviltä tai perheeltä.

7. Painostaminen: Tuotokset osoittivat, että jos kohde epäröi maksamista, huijari muuttui yhä aggressiivisemmaksi. Hän painosti kohdetta vertaamalla tätä muihin, tehokkaampiin työntekijöihin ja väittämällä tämän menettävän ansionsa, ellei hän maksaisi.

8. Tekosyyt: Jos tuotokset viittasivat siihen, että kohde oli maksanut rahaa, huijari esitti joukon tekosyitä sille, miksi kohde ei voinut nostaa ansioitaan. Usein hän väitti, että kohteen oli maksettava lisää.

Osa keskusteluista osoitti kohteiden suhtautuvan hyvin epäilevästi. Joissakin huijareiden tuottamissa kommenteissa mentori kyseli, miksi kohde oli lopettanut viestittelyn. Tämä viittaa siihen, että huijauksen onnistumisaste oli todennäköisesti yleisesti ottaen alhainen. Jotkin keskustelut ja verkkoraportit kuitenkin viittaavat siihen, että ainakin osa uhreista todella sijoitti rahaa näihin huijauksiin. Emme voi itsenäisesti vahvistaa työkalujemme ulkopuolella tapahtuvaa toimintaa.

OpenAI:n käytännöt kieltävät ehdottomasti työkalujemme tuotosten käyttämisen petoksiin tai huijauksiin. Teemme tiivistä yhteistyötä alan muiden toimijoiden ja viranomaisten kanssa ymmärtääksemme, miten tekoäly vaikuttaa vihamieliseen toimintaan, ja estääksemme aktiivisesti palvelujamme väärinkäyttävät huijaukset. Tämän sitoumuksen mukaisesti olemme jakaneet tietoja estämistämme huijausverkostoista alan muiden toimijoiden ja asianomaisten viranomaisten kanssa yhteisen turvallisuutemme parantamiseksi.