Operaatio ”Väärä todistaja”: Viranomaisina esiintyvä tekaistu varojen palautuspalvelu

Tämä tapaustutkimus julkaistiin alun perin OpenAI:n helmikuun 2026⁠(avautuu uudessa ikkunassa) raportissa tekoälyn haitallisen käytön torjunnasta.

Suljimme joukon ChatGPT‑tilejä, joilla käytettiin mallejamme tekaistuina asianajotoimistoina sekä oikeina asianajajina ja Yhdysvaltain lainvalvontaviranomaisina esiintymiseen. Kyse oli petosten uhreihin kohdistuvasta huijauksesta, jossa luvattiin palauttaa menetettyjä varoja. Toiminta oli erittäin todennäköisesti lähtöisin Kambodžasta ja vastaa viimeaikaisia julkisia raportteja kiinalaisjohtoisesta rikollisesta huijaustoiminnasta maassa.

Tileillä käytettiin ChatGPT:tä tukemaan huijaustoimintaa, jossa luvattiin palauttaa huijauksissa menetettyjä varoja. Toiminta perustui tekaistuihin asianajotoimistoihin ja luotettuina tahoina, kuten oikeina asianajajina ja FBI:n verkkorikosilmoituskeskuksena (Internet Crime Complaint Center, IC3), esiintymiseen.

1. Yhteyden luominen: Huijarit loivat ChatGPT:llä sisältöä, jonka väitettiin olevan peräisin vähintään kuudelta tekaistulta asianajotoimistolta. Osa sisällöstä julkaistiin sittemmin sosiaalisen median tileillä ja verkkomainoksissa, joissa mainostettiin tekaistuja palveluita huijauksissa menetettyjen varojen palauttamiseen. Useat avoimista lähteistä saadut tiedot viittasivat siihen, että toimistot olivat vilpillisiä. Osavaltion asianajajajärjestön myöntämistä toimiluvista ei löytynyt näyttöä, verkkotunnukset eivät vastanneet toimistojen tietoja, yhteystiedoissa ilmoitettuja katuosoitteita ei näyttänyt olevan olemassa ja asianajajiin ohjeistettiin ottamaan yhteyttä viestisovelluksilla.

2. Luottamuksen rakentaminen: Huijarit yrittivät voittaa kohteidensa luottamuksen luomalla kommentteja, jotka jäljittelivät huijauksissa menetettyjen varojen palauttamiseen erikoistuneiden asianajajien sävyä ja ammattimaisuutta. He loivat sisältöä, jonka väitettiin olevan peräisin asianajajina esiintyviltä henkilöiltä. Löysimme joitakin näistä henkilöprofiileista eri verkkosivustoilta. Niiden profiilikuvat oli ilmeisesti otettu sosiaalisesta mediasta tai luotu tekoälyllä. Joissakin tapauksissa huijari käytti samoja ”asianajajien” henkilöllisyyksiä useissa väitetyissä asianajotoimistoissa. Yksi löytämistämme verkkosivustoista esiintyi IC3:n sivustona.

Näillä eri huijaussivustoilla julkaistut yhteystiedot ohjasivat kävijät yksityisiin viestisovelluksiin, kuten Telegramiin. ChatGPT:llä laatimissaan viesteissä huijarit väittivät kohteilleen valheellisesti toimivansa Kansainvälisen rikostuomioistuimen valvonnassa. He myös sanoivat, ettei maksuja perittäisi ennen kuin kaikki uhrin varat olisi saatu palautettua.

3. Rahojen vieminen: Huijarit yrittivät saada kohteiltaan rahaa pyytämällä maksuja ja talletuksia ennen minkäänlaista varojen ”palautusta”. Kohteita muun muassa ohjeistettiin maksamaan 15 prosentin ”palvelumaksu” ennen kuin he saisivat väitetysti takaisin saadut varansa. Heiltä myös pyydettiin talletuksia tilin aktivoimiseksi ja perittiin ”konsultaatiomaksuja”. Huijarien ChatGPT:llä laatimissa viesteissä kohteita ohjeistettiin maksamaan kryptovaluutalla ja toimittamaan maksutositteeksi kuvakaappauksia tapahtumavahvistuksista.

Operaatiossa käytettiin mallejamme useissa toiminnan vaiheissa, esimerkiksi sosiaalisen median mainossisällön sekä kohteille lähetettävien ennalta sopimattomien yhteydenottoviestien luomiseen. Yleisimmin huijarit käyttivät kuitenkin ChatGPT:tä yksityisissä viestisovelluksissa kohteille lähetettyjen ja heiltä saatujen viestien kääntämiseen. He esimerkiksi pyysivät kirjoittamaan vastauksen ”amerikanenglanniksi” tai asianajajan tyyliin.

Osalla huijaustileistä käytettiin mallejamme myös harhaanjohtavien aineistojen luomiseen uskottavuuden vahvistamiseksi. Tällaisia olivat tekaistut asianajajarekisteritiedot ja asianajajajärjestöjen jäsenkortit sekä valesalassapitosopimukset, joilla pyrittiin estämään uhreja hakemasta ulkopuolista apua.

Vaikutuksia on arvioitava varoen, sillä keskeinen tietolähde ovat huijarien omat syötteet. Syötteet viittaavat siihen, että huijarit ovat saattaneet huijata yksittäisiltä uhreilta tuhansia dollareita, mutta emme pysty vahvistamaan näitä väitteitä riippumattomasti. FBI ja ainakin yksi asianajotoimisto, jonka nimissä on esiinnytty, ovat varoittaneet huijauksesta julkisesti. FBI:n viranomaiset varoittivat, että toiminta kohdistuu haavoittuvassa asemassa oleviin ryhmiin, etenkin ikääntyneisiin. Siinä käytetään hyväksi huijausten uhrien tunnetilaa ja halua saada menetetyt varat nopeasti takaisin.

OpenAI:n käytännöt kieltävät ehdottomasti työkalujemme tuotosten käytön petoksiin tai huijauksiin. Olemme sitoutuneet yhteistyöhön alan muiden toimijoiden ja viranomaisten kanssa ymmärtääksemme, miten tekoäly vaikuttaa pahantahtoisten toimijoiden käyttäytymiseen, ja torjuaksemme aktiivisesti palvelujamme väärinkäyttävää huijaustoimintaa.