Operaatio ”Treffisyötti”: tekoälyavusteinen huijaus rakkauden etsijöille

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n helmikuun 2026⁠(avautuu uudessa ikkunassa) raportissa, joka käsittelee tekoälyn väärinkäytön torjuntaa.

Suljimme joukon toisiinsa liittyviä ChatGPT‑tilejä ja yhden API-asiakkaan, jotka käyttivät mallejamme osittain automatisoituun rakkaus- ja tehtävähuijaukseen. Sen uhreiksi joutui todennäköisesti satoja ihmisiä kuukaudessa. Toiminta oli hyvin todennäköisesti lähtöisin Kambodžasta ja vastaa tuoretta julkista raportointia⁠(avautuu uudessa ikkunassa) maassa toimivista kiinalaisjohtoisista rikollisista huijausoperaatioista. Yksittäisissä tapauksissa käyttäjät kertoivat itse työskentelevänsä huijareina Kambodžassa, esimerkiksi kysyessään mallilta veroneuvoja ja ilmoittaessaan ammatikseen ”huijari”.

Verkosto käytti ChatGPT:tä ja mallejamme API:n kautta laajamittaiseen, osittain automatisoituun rakkaus- ja tehtävähuijaukseen. Sen järjestelmällinen työnkulku ja toimintamalli muistuttivat tuntemattomille suunnattuihin yhteydenottoihin perustuvaa myyntitoimintaa.

1. Ensikontakti: Prosessin alkuvaiheessa operaatio loi ChatGPT‑tileillään mainostekstejä ”Romanttinen klubi” -nimiselle ylelliselle deitti- ja seuralaispalvelulle. Tekstit julkaistiin sitten maksullisina mainoksina sosiaalisessa mediassa. Huijarit kohdistivat mainokset ylellistä elämäntapaa käsittelevästä sisällöstä kiinnostuneille indonesialaismiehille ja käyttivät mainosten avainsanoina muun muassa sanoja ”golf”, ”jahdit” ja ”gourmetruokailu”. Mainoksissa oli linkkejä tekoälychatbottiin, joka oli ohjeistettu esiintymään flirttailevana vastaanottovirkailijana. Vastaanottovirkailijana esiintyvä botti pyysi kohteita valitsemaan valikosta mieluisia nais- ja suhdetyyppejä ja ohjasi heidät sitten Telegramiin seurantalinkin ja alennuskoodin avulla.

2. Tunnereaktio: Telegramissa operaatio yhdisti ChatGPT:tä käyttävien ihmisten työn ja API:n avulla toteutetun automaation. Vastaanottovirkailijoina esiintyvät hahmot jatkoivat keskustelua yhä romanttisemmalla ja seksuaalisesti suorasukaisemmalla kielellä ja tarjosivat sitten kohteille mahdollisuutta liittyä ”Rakkauskoodi”- ja ”Seksitoiminta”-nimisiin verkkodeittipalveluihin. Palvelussa näytettiin väitetysti ”vapaiden tyttöjen” profiileja sekä tekoälyllä luotujen ilmoitusten syöte, jossa onniteltiin kuvitteellisia asiakkaita ”tehtävien” suorittamisesta, bonusten avaamisesta ja palkintojen voittamisesta.

Luottamuksen synnyttyä vastaanottovirkailijan hahmo siirsi keskustelun ”mentorille”. Tämä käytti ChatGPT:tä luodakseen ja kääntääkseen tunteilla manipuloivia viestejä, joilla kohteita painostettiin suorittamaan sarja ”tehtäviä” tai ”missioita”. Jokainen uusi tehtävä edellytti yhä suurempia maksuja pankkisiirroilla tai digitaalisilla lompakoilla. Maksun syynä saattoi olla esimerkiksi ”VIP-kortin” ostaminen, ”valitun tytön” tukeminen kilpailussa tai hotellin varausmaksu. Huijarin ChatGPT:llä luoma kuva kuvitteellisesta ”Rakkauskoodi”-deittipalvelun vastaanottovirkailijasta.

3. Rahastus: Loppuvaiheessa huijarit yrittivät periä suuremman maksun, jota he kutsuivat ”teurastukseksi”, keksimällä lisämaksuja, kuten ”sovintokorvauksia” tai ”vahvistustalletuksia”. Huijarien ChatGPT:hen liittämien viestien perusteella he estivät uhrin Telegramissa ja merkitsivät tapauksen loppuun käsitellyksi, kun uhri oli lähettänyt suurimman mahdollisen summan. Kopio huijarin ChatGPT:lle jakamasta kirjeestä. Siinä uhrille kerrotaan, että tämän on maksettava 20 500 000 rupiaa (12 000 dollaria) kuvitteellisen tietojenkäsittelyvirheen korjaamiseksi Rakkauskoodi-järjestelmässä, mutta hän saa 35 prosentin ”bonuksen”, 39 860 000 rupiaa. OpenAI:n tutkijat ovat peittäneet osan tiedoista.

Rakkaushuijausten lisäksi operaatio käytti mallejamme päivittäisen liiketoimintansa apuna. Tähän kuului ohjeiden pyytäminen ChatGPT:ltä teknisiin tehtäviin, kuten OpenAI API:n integrointiin tai valedeittipalvelun verkkosivuston päivittämiseen, taloustilien analysointi sekä päivittäisten raporttien luominen. Raporteissa kullekin kohteelle määritettiin huijarien laskema ”teurastusarvo” eli arvio summasta, joka uhrilta pyrittäisiin saamaan viimeisessä rahastuksessa.

Toisissa tapauksissa huijarit pyysivät ChatGPT:tä kääntämään viestejä kiinankielisten esihenkilöiden ja indonesiaa puhuvien huijauskeskuksen työntekijöiden välillä sekä seuraamaan ”Liidien hankinta”-, ”Vastaanottotiimi”- ja ”Esihenkilötiimi”-nimisten osastojen tuloksia.

Tämän verkoston vaikutusten arvioinnissa on oltava varovainen. Ensisijainen tietolähteemme on huijarien itsensä syöttämä sisältö. Sen perusteella huijarit ovat saattaneet olla yhteydessä satoihin kohteisiin samanaikaisesti ja saada tuhansia dollareita päivässä. Emme kuitenkaan pysty riippumattomasti varmistamaan näiden väitteiden paikkansapitävyyttä.

OpenAI:n käytännöt kieltävät ehdottomasti työkalujemme tuotosten käytön petoksiin tai huijauksiin. Olemme sitoutuneet tekemään yhteistyötä alan muiden toimijoiden ja viranomaisten kanssa ymmärtääksemme, miten tekoäly vaikuttaa haitallisten toimijoiden käyttäytymiseen, ja torjuaksemme aktiivisesti palveluitamme väärinkäyttävää huijaustoimintaa.