Aðgerðin „Ljúgvitni“: Fölsk þjónusta við endurheimt fjár þykist vera á vegum yfirvalda

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2026⁠(opnast í nýjum glugga) um aðgerðir gegn skaðlegri notkun gervigreindar.

Við lokuðum hópi ChatGPT‑reikninga sem notuðu líkön okkar til að þykjast vera uppspunnar lögmannsstofur, raunverulegir lögmenn og bandarísk löggæsluyfirvöld. Þetta var liður í svikum sem beindust að þolendum fjársvika undir yfirskini aðstoðar við endurheimt fjár. Þessi starfsemi átti mjög líklega uppruna sinn í Kambódíu og samræmist nýlegri opinberri umfjöllun um skipulagða svikastarfsemi þar í landi undir stjórn kínverskra aðila.

Reikningarnir notuðu ChatGPT til að styðja við svikastarfsemi sem þóttist hjálpa þolendum fjársvika að endurheimta tapað fé. Hún byggðist á fölskum lögmannsstofum og því að villa á sér heimildir sem traustir aðilar, svo sem raunverulegir lögmenn og IC3, miðstöð bandarísku alríkislögreglunnar FBI sem tekur við tilkynningum um netglæpi.

1. Samband komið á: Svindlararnir notuðu ChatGPT til að búa til efni sem átti að vera frá að minnsta kosti sex fölskum lögmannsstofum. Hluti þessa efnis var síðan birtur á samfélagsmiðlareikningum og í netauglýsingum sem kynntu uppspunna þjónustu við endurheimt fjár eftir svik. Ýmsar vísbendingar í opnum heimildum bentu til þess að stofurnar væru svikastarfsemi. Engin gögn fundust um lögmannsréttindi í viðkomandi ríkjum, lénin pössuðu ekki við starfsemina, heimilisföngin virtust ekki vera til og fólki var bent á að hafa samband við lögmenn í gegnum skilaboðaforrit.

2. Traust áunnið: Svindlararnir reyndu að ávinna sér traust þeirra sem þeir beindu spjótum sínum að með því að búa til athugasemdir sem líktu eftir tón og fagmennsku lögmanna sem sérhæfa sig í að hjálpa þolendum fjársvika að endurheimta tapað fé. Þeir bjuggu til efni sem átti að koma frá uppspunnum lögmönnum. Við fundum sumar þessara gervipersóna á ýmsum vefsíðum, þar sem prófílmyndir þeirra virtust teknar af samfélagsmiðlum eða búnar til með gervigreind. Í sumum tilvikum notaði svindlarinn sömu „lögmennina“ á mörgum meintum lögmannsstofum. Ein vefsíðan sem við fundum þóttist vera vefsíða IC3.

Samskiptaupplýsingar á þessum svikasíðum vísuðu gestum á forrit fyrir einkaskilaboð, svo sem Telegram. Í skilaboðum til þeirra sem svikin beindust að, sem samin voru með ChatGPT, fullyrtu svindlararnir ranglega að þeir störfuðu undir eftirliti Alþjóðlega sakamáladómstólsins. Þeir sögðu jafnframt að engin gjöld yrðu innheimt fyrr en allt fé þolandans hefði verið endurheimt.

3. Fé svikið út: Svindlararnir reyndu að hafa fé af fólkinu með því að krefjast gjalda og innborgana áður en nokkur „endurheimt“ færi fram. Meðal annars var fólki sagt að greiða 15% „þjónustugjald“ áður en það fengi féð sem átti að hafa verið endurheimt. Einnig var krafist innborgana til að virkja reikning og innheimt „ráðgjafargjöld“. Skilaboð svindlaranna til þeirra sem svikin beindust að, samin með ChatGPT, innihéldu leiðbeiningar um að greiða með rafmynt og senda skjáskot af staðfestingum færslna sem sönnun fyrir greiðslu.

Líkön okkar voru notuð á ýmsum stigum starfseminnar, svo sem til að búa til kynningarefni fyrir samfélagsmiðla og semja óumbeðin skilaboð til þeirra sem svikin beindust að. Algengast var þó að svindlararnir notuðu ChatGPT til að þýða skilaboð til og frá þessu fólki í einkaskilaboðaforritum. Meðal annars báðu þeir um svör á „bandarískri ensku“ eða í stíl lögmanns.

Sumir svikareikninganna notuðu einnig líkön okkar til að búa til villandi gögn sem áttu að auka trúverðugleika þeirra. Þar á meðal voru falsaðar skráningar lögmanna og fölsuð félagsskírteini lögmannafélaga, auk falskra trúnaðarsamninga sem áttu að fæla þolendur frá því að leita sér hjálpar annars staðar.

Gæta þarf varúðar við mat á áhrifum, þar sem ein helsta heimildin er texti sem svindlararnir slógu sjálfir inn. Sá texti bendir til þess að svindlararnir kunni að hafa haft þúsundir dala af einstökum þolendum, en við getum ekki staðfest þær fullyrðingar með óháðum hætti. FBI og að minnsta kosti ein lögmannsstofa sem svindlararnir þóttust vera hafa varað almenning við þessum svikum. Fulltrúar FBI vöruðu við því að starfsemin beindist að fólki í viðkvæmri stöðu, einkum öldruðum. Svindlararnir nýttu sér tilfinningalegt ástand þolenda fjársvika og löngun þeirra til að endurheimta tapað fé hratt.

Reglur OpenAI banna alfarið að nota úttak úr verkfærum okkar til fjársvika eða annarra svika. Við leggjum okkur fram um að vinna með öðrum aðilum í greininni og yfirvöldum að því að skilja hvernig gervigreind hefur áhrif á aðferðir illviljaðra aðila og stöðva svikastarfsemi sem misnotar þjónustu okkar.