Aðgerð „Stefnumótabeita“: Gervigreind nýtt til svika gegn fólki í ástarleit

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2026⁠(opnast í nýjum glugga) um aðgerðir gegn skaðlegri notkun gervigreindar.

Við lokuðum hópi tengdra ChatGPT‑reikninga og aðgangi eins API-viðskiptavinar sem notuðu líkönin okkar til að reka hálfsjálfvirk ástar- og verkefnasvik. Líklegt er að hundruð fórnarlamba hafi verið svikin í hverjum mánuði. Starfsemin átti mjög líklega upptök sín í Kambódíu og samræmist nýlegri opinberri umfjöllun⁠(opnast í nýjum glugga) um glæpastarfsemi svikahópa undir kínverskri stjórn þar í landi. Í einstaka tilvikum sögðust notendur starfa við svik í Kambódíu, til dæmis þegar þeir báðu líkanið um skattaráðgjöf og tilgreindu starf sitt sem „svikari“.

Svikanetið notaði ChatGPT og API-aðgang að líkönum okkar til að stunda umfangsmikil, hálfsjálfvirk ástar- og verkefnasvik. Fylgt var skipulögðum verkferlum og rekstrarfyrirkomulagi sem minnti á sölustarf þar sem haft er samband við fólk að fyrra bragði.

1. Fyrsta samband: Til að laða fólk að notaði svikahópurinn ChatGPT‑reikninga sína til að semja kynningartexta fyrir lúxusstefnumóta- og fylgdarþjónustu sem nefndist „Rómantíski klúbburinn“. Þessir textar voru síðan birtir sem greiddar auglýsingar á samfélagsmiðlum. Svikararnir beindu auglýsingunum að indónesískum karlmönnum sem höfðu áhuga á efni um lúxuslífsstíl og notuðu leitarorð á borð við „golf“, „snekkjur“ og „sælkeraveitingar“. Í auglýsingunum voru tenglar á gervigreindarspjallmenni sem hafði fengið fyrirmæli um að þykjast vera daðrandi móttökustarfsmaður. Meinti móttökustarfsmaðurinn bað viðtakendur að velja úr lista yfir gerðir kvenna og sambanda áður en hann beindi þeim á Telegram með rakningarslóð og kynningarkóða.

2. Tilfinningakveikja: Á Telegram blandaði svikahópurinn saman vinnu starfsfólks sem notaði ChatGPT og sjálfvirkni sem byggðist á API. Uppspunnir móttökustarfsmenn héldu samtalinu áfram með sífellt rómantískara og kynferðislega opinskárra orðalagi. Síðan buðu þeir viðtakendum að skrá sig á stefnumótavefina „Ástarkóða“ og „Kynlífsaðgerð“. Á vefnum birtust prófílar meintra „stúlkna á lausu“ og straumur tilkynninga sem gervigreind hafði búið til. Þar var tilbúnum viðskiptavinum óskað til hamingju með að ljúka „verkefnum“, opna fyrir bónusa og vinna verðlaun.

Þegar uppspunni móttökustarfsmaðurinn hafði byggt upp traust færði hann samtalið yfir til „leiðbeinanda“. Sá notaði ChatGPT til að semja og þýða skilaboð sem beittu tilfinningalegri stjórnun til að þrýsta á viðtakendur að ljúka röð „verkefna“ eða „leiðangra“. Hvert verkefni krafðist hærri greiðslu en það fyrra með bankamillifærslu eða rafrænu greiðsluveski, svo sem fyrir kaup á „VIP-korti“, stuðning við „útvalda stúlku“ í keppni eða staðfestingargjald fyrir hótel. Mynd af uppspunnum móttökustarfsmanni stefnumótaþjónustunnar „Ástarkóði“, búin til af svikara með ChatGPT.

3. Fjársvik: Á lokastiginu reyndu svikararnir að innheimta hærri greiðslu, sem þeir kölluðu „slátrun“, með því að búa til viðbótargjöld á borð við „bótauppgjör“ eða „staðfestingargreiðslur“. Miðað við skilaboðin sem svikararnir límdu inn í ChatGPT lokuðu þeir á fórnarlambið á Telegram og merktu málið sem lokið þegar það hafði sent eins háa fjárhæð og mögulegt var. Afrit af bréfi sem svikari deildi með ChatGPT. Þar er fórnarlambi sagt að það verði að greiða 20.500.000 Rp (12.000 Bandaríkjadali) til að leiðrétta uppspunna gagnavinnsluvillu í Ástarkóðakerfinu en fái 35% „bónus“ að upphæð 39.860.000 Rp. Rannsakendur OpenAI afmáðu viðkvæmar upplýsingar.

Auk ástarsvikanna notaði svikahópurinn líkönin okkar til að aðstoða við daglegan rekstur. Meðal annars var ChatGPT beðið um leiðbeiningar við tæknileg verkefni, svo sem að samþætta API OpenAI eða uppfæra vefsíðu fölsku stefnumótaþjónustunnar, greina fjárhagsreikninga og útbúa daglegar skýrslur. Í skýrslunum var hverju hugsanlegu fórnarlambi úthlutað „slátrunarupphæð“ sem svikararnir reiknuðu út — áætlaðri fjárhæð sem stefnt var að því að ná af viðkomandi í lokin.

Í öðrum tilvikum báðu svikararnir ChatGPT um að þýða skilaboð milli kínverskumælandi yfirmanna og indónesískumælandi starfsfólks í svikamiðstöðvum og fylgjast með árangri deilda sem kölluðust „Öflun tengiliða“, „Móttökuteymi“ og „Yfirmannateymi“.

Gæta þarf varúðar við mat á áhrifum þessa svikanets. Helstu gögn okkar koma úr því sem svikararnir sjálfir færðu inn. Þau benda til þess að svikararnir kunni að hafa verið í samskiptum við hundruð hugsanlegra fórnarlamba í einu og haft þúsundir Bandaríkjadala upp úr krafsinu á dag. Við getum þó ekki staðfest með óháðum hætti hvort þessar fullyrðingar voru réttar.

Reglur OpenAI banna alfarið að nota úttak verkfæra okkar til svika eða prettabragða. Við leggjum okkur fram um samstarf við önnur fyrirtæki í greininni og yfirvöld til að skilja hvernig gervigreind hefur áhrif á háttsemi illgjarnra aðila og grípa með virkum hætti inn í svikastarfsemi sem misnotar þjónustu okkar.