Glæpsamleg svikastarfsemi í Kambódíu stöðvuð
OpenAI stöðvaði svikastarfsemi í Kambódíu sem notaði ChatGPT við fjárfestingar-, ástar-, fjárhættuspila- og persónusvik.
Inngangur
Fyrr á þessu ári stöðvuðum við svikastarfsemi í Kambódíu sem notaði ChatGPT við fjárfestingar-, ástar-, fjárhættuspila- og lögreglueftirlíkingarsvik. Við hófum rannsókn á starfseminni eftir ábendingu frá samstarfsfólki okkar hjá WhatsApp og höfum síðan deilt frekari vísbendingum um ógnina með samstarfsaðilum í greininni og viðeigandi yfirvöldum.
Starfsemin varpar ljósi á mikilvæga staðreynd um svikanet nútímans: skipulagðir glæpahópar einskorða sig sjaldnast við eina tegund svika. Þess í stað grípa þeir tækifærissinnað til þeirra frásagna, persóna og aðferða sem þeir telja líklegastar til að blekkja fórnarlömb. Í rannsóknum okkar sjáum við reglulega að aðilar færa sig á milli svikategunda eða beita mörgum svikaaðferðum í sömu starfsemi.
Sumir notendur netsins bjuggu einnig til efni sem benti til tengsla við mansal og þvingaða þátttöku í afbrotum. Þessar athuganir samræmast umfangsmikilli opinberri umfjöllun(opnast í nýjum glugga) sem lýsir(opnast í nýjum glugga) skipulögðum glæpahópum í Suðaustur-Asíu sem lokka til sín starfsfólk með loforðum um lögmæt störf en hneppa það síðan í skuldafjötra og þvingun. Þótt við getum ekki sjálfstætt staðfest aðstæður hvers einstaklings sem kemur að málinu minnir starfsemin á að fólkið sem fremur svikin getur sjálft verið fórnarlamb misnotkunar.
Aðili
Við bönnuðum samhæft net ChatGPT‑reikninga sem átti mjög líklega uppruna sinn í Kambódíu og starfaði sennilega í eða við Poipet, borg í Banteay Meanchey-héraði sem opinber umfjöllun(opnast í nýjum glugga) hefur ítrekað(opnast í nýjum glugga) tengt(opnast í nýjum glugga) við svikamiðstöðvar á netinu og mansalsstarfsemi.
Netið notaði líkön okkar til að búa til og reka falskar persónur á netinu, semja og þýða skilaboð til skotmarka svikanna, útbúa kynningarefni fyrir svikastarfsemina og aðstoða við daglegan rekstur.
Líkt og hjá fyrri(opnast í nýjum glugga) svikanetum sem við höfum stöðvað notaði hluti notendanna ChatGPT einnig við umsýslu, svo sem að semja innri tilkynningar, þýða skilaboð milli starfsfólks og skrásetja atriði sem virtust tengjast ráðningum, stöðu innflytjenda, vinnuaðstæðum og starfsmannaaga.
Hegðun
Netið stundaði margar tegundir svika samtímis og blandaði oft saman þáttum úr ólíkum svikaleiðum. Til dæmis notuðu stjórnendur falska stefnumótaprófíla til að byggja upp traust áður en þeir kynntu sviksamleg fjárfestingartækifæri tengd rafmyntum og viðskiptum með gull á staðmarkaði. Aðrir notendur áttu löng ástarsamtöl við skotmörk undir fölsku auðkenni, þóttust vera fulltrúar fjárhættuspilavefja sem buðu falska bónusa og vinninga eða þóttust vera fulltrúar löggæslu og sögðu skotmörkum að þau þyrftu að greiða sektir fyrir alvarleg afbrot.
Þótt frásagnirnar væru ólíkar sýndu notendur um allt netið stöðugt sama undirliggjandi mynstur blekkinga. Þeir bjuggu til og ráku meðal annars fölsk stefnumótasnið og persónur sem þóttust vera fjárfestingarsérfræðingar eða fulltrúar lögregluyfirvalda. Þeir bjuggu einnig til myndir af fölsuðum skjölum, þar á meðal vegabréfum, lögformlegum tilkynningum, staðfestingum á hlutabréfakaupum og viðmótum fjárhættuspilavefja.
Eins og við höfum bent á(opnast í nýjum glugga) í fyrri(opnast í nýjum glugga) skýrslum(opnast í nýjum glugga) fylgdu svikararnir algengu mynstri í samskiptum við skotmörk: fyrsta sambandið (ná til skotmarks), tilfinningasveiflan (vekja tilfinningar) og höggið (hafa fé af skotmarkinu).
Fyrsta sambandið: Netið notaði ChatGPT til að þýða og semja samtöl við skotmörk á skilaboðaforritum á borð við WhatsApp og Telegram. Svikararnir bjuggu einnig til efni fyrir samfélagsmiðla og öfluðu efnis fyrir stefnumótasnið til að styðja við falskar persónur sínar.
Tilfinningasveiflan: Skilaboð svikaranna byggðust oft á tilfinningalegum þrýstingi og aðferðum til að byggja upp traust. Dæmi voru loforð um tryggða ávöxtun og „áhættulausar“ fjárfestingar, ástarorð, fyrirmæli um að halda samtölum leyndum og áríðandi beiðnir um aðgerðir áður en uppspunnir bónusar rynnu út.
Höggið: Svikararnir sögðu fórnarlömbum að leggja inn fé til að fá meinta umbun, greiða virkjunargjöld eða uppspunnar sektir og senda síðan skjáskot af millifærslum eða reikningsupplýsingar sem greiðslusönnun.

Falskt viðmót fyrir rafmyntaviðskipti, búið til með ChatGPT af svikara í netinu.

Mynd búin til með gervigreind af svikara í netinu til að kynna falska fjárfestingarleið.
Vísbendingar um mansal
Auk svikanna bjuggu sumir notendur til efni sem benti til þátttöku í annarri starfsemi sem brýtur gegn reglum okkar og við greinum og stöðvum, svo sem mansali eða nauðungarvinnu. Þar á meðal voru auglýsingar á samfélagsmiðlum eftir „spjöllurum“ til starfa í Poipet með loforðum um flug, gistingu, fæði, vegabréfsáritanir og atvinnuleyfi.
Önnur starfsemi virtist tengjast umsýslu starfsfólks innan svikastarfseminnar. Notendur héldu skrár yfir skuldir starfsfólks, launafrádrátt, agasektir og afborganir lána og þýddu umræður um stöðu innflytjenda, atvinnuleyfi, útrunnar vegabréfsáritanir og hvata til ráðninga.
Í sumum samtölum var einnig vísað til meintrar frelsissviptingar, flóttatilrauna og mögulegrar refsiábyrgðar fólks sem hafði sætt mansali og verið neytt til að starfa við svik. Þótt þessi samtöl geri okkur ekki kleift að ákvarða aðstæður tiltekinna einstaklinga samræmast þau umfangsmikilli opinberri umfjöllun(opnast í nýjum glugga) sem lýsir(opnast í nýjum glugga) starfsemi skipulagðra glæpahópa í Suðaustur-Asíu.


Myndir búnar til með gervigreind af svikurum í netinu til að auglýsa störf í Kambódíu á samfélagsmiðlum. OpenAI bætti við afmáun.
Áhrif
Við bönnuðum ChatGPT‑reikninga sem tengdust starfseminni, deildum viðeigandi vísbendingum með samstarfsaðilum í greininni og viðeigandi yfirvöldum og gerðum ráðstafanir til að torvelda þessum aðilum að fá aftur aðgang að vörum okkar og þjónustu.
Heildarumfang fjárhagstjóns af völdum netsins er óþekkt, en miðað við samskipti svikaranna sjálfra kann starfsemin að hafa náð til hundruða skotmarka með margs konar svikum. Í samtölum notenda kom fram að einstök fórnarlömb hefðu tapað þúsundum dala, en við getum ekki staðfest þær fullyrðingar sjálfstætt.
Í víðara samhengi staðfestir málið tvær tilhneigingar. Í fyrsta lagi geta skipulögð svikanet verið mjög fjölbreytt og rekið mörg svikakerfi samtímis í stað þess að einskorða sig við eina tegund svika. Í öðru lagi eru mörkin milli netsvika, skipulagðrar glæpastarfsemi og mansals oft óskýr. Til að stöðva slíka starfsemi á árangursríkan hátt þarf því ekki aðeins að beina sjónum að svikunum gagnvart fórnarlömbum heldur einnig glæpasamtökunum sem skipuleggja þau og hagnast á þeim.