Verkefnasvindl: Störf við falskar umsagnir með aðstoð gervigreindar

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2025⁠(opnast í nýjum glugga).

Við lokuðum hópi ChatGPT‑reikninga sem þýddu stutt ummæli milli úrdú og ensku í tengslum við svokallað „verkefnasvindl⁠(opnast í nýjum glugga)“. Þar er þolendum boðið hálaunastarf en síðan gert að leggja eigið fé inn í kerfið áður en þeir geta fengið aðgang að meintum „tekjum“ sínum. Starfsemin virtist eiga uppruna sinn í Kambódíu. Í slíku svindli tapa þolendur yfirleitt bæði „tekjunum“ og eigin fé. Við hófum rannsókn á starfseminni eftir ábendingu frá Meta.

Þetta net notaði líkön okkar einkum til að þýða stutt ummæli milli úrdú og ensku sem virtust vera úr samtölum svindlara við þolendur þeirra. Við fundum tilvísanir í skilaboð á Telegram, sem virðist hafa verið helsti vettvangurinn, WhatsApp og með SMS-skilaboðum, auk ýmissa atvinnuspjallborða og hópa þar sem hægt var að birta atvinnutilboð.

Svindlararnir virtust einkum koma fram í tvenns konar hlutverkum. Annað var „ráðningaraðilinn“. Skilaboð hans voru óumbeðnar fyrirspurnir og auglýsingar um vel launuð fjarstörf. Hitt hlutverkið, sem stóð að baki meiri umsvifum, var „leiðbeinandinn“. Hann fylgdi eftir fyrirspurnum „ráðningaraðilans“ og kenndi skotmarkinu hvernig ætti að vinna starfið. „Leiðbeinendurnir“ vísuðu mjög oft til þjálfunarlota á Telegram.

Svindlararnir notuðu líkön okkar einnig stöku sinnum til að prófarkalesa vefsvæði. Vefsvæðin virðast hafa líkt eftir nöfnum og útliti lúxusvörumerkja á sviði hönnunar, tísku og ferðalaga. Þeir sem komu fram sem „leiðbeinendur“ sögðust ráða starfsfólk fyrir þessi vörumerki, sem bendir til þess að vefsvæðin hafi verið notuð til að gera svindlið trúverðugra.

Miðað við þær takmörkuðu upplýsingar sem við höfum virðast svindlararnir hafa fylgt algengu ferli til að leiða skotmörk sín frá fyrstu samskiptum yfir í svindlið:

1. Atvinnuauglýsing: Miðað við fyrirmæli og úttök svindlaranna virðast þeir hafa byrjað á að birta atvinnutilboð á ýmsum spjallborðum á netinu. Í ráðningartilraununum var yfirleitt vísað til fjarvinnu og boðin laun sem voru tiltölulega há fyrir litla vinnu, til dæmis $300 á dag auk kaupauka fyrir nokkurra klukkustunda vinnu. Auglýsingarnar voru yfirleitt birtar af „ráðningaraðilanum“.

2. Ráðning: Svindlararnir létu síðan búa til ummæli í nafni „leiðbeinandans“ til að hafa samband við mögulega starfsmenn í gegnum ýmis skilaboðaforrit og sögðust starfa með „ráðningaraðilanum“. „Leiðbeinandinn“ sagðist starfa hjá einu þeirra lúxusvörumerkja sem svindlararnir höfðu útbúið vefsvæði fyrir. Verkefninu var lýst sem því að senda inn fimm stjörnu umsagnir á vefsvæði lúxusvörumerkjanna, að því er virtist til að hækka einkunnir þeirra meðal viðskiptavina.

3. Trúverðugleiki: Í textunum sem voru búnir til fullvissuðu svindlararnir skotmörk sín oft um að starfið væri lögmætt þar sem það væri unnið fyrir rótgróið fyrirtæki. Ef skotmarkið sýndi efasemdir hélt svindlarinn því fram að hann hefði sjálfur áður lent í svindli en þetta tækifæri væri öruggt.

4. Þjálfun: Ef skotmarkið sýndi áfram áhuga bentu úttökin til þess að „leiðbeinandinn“ byði því þjálfun, yfirleitt á Telegram. Skotmarkið fékk fyrst aðgang að „þjálfunarreikningi“ þar sem ætlast var til að það skilaði 25–35 umsagnarverkefnum á dag. Á „þjálfunarreikningnum“ virtust „tekjur“ skotmarksins aukast hratt.

5. Vekja spennu: Ef skotmarkið hélt þjálfuninni áfram gáfu úttökin oft til kynna að því yrði boðið „sérstakt“ eða „fullkomið“ umsagnarverkefni með hærri kaupauka. „Leiðbeinandinn“ lagði áherslu á hve sjaldgæft þetta væri og hve heppið skotmarkið væri.

6. „Virkjunargjald“: Þegar „tekjur“ skotmarksins höfðu náð ákveðnu marki lét „leiðbeinandinn“ það vita að greiða þyrfti „virkjunargjald“ til að taka „tekjurnar“ út. Ef þörf krafði hvatti svindlarinn það til að fá féð lánað hjá vinum eða fjölskyldu.

7. Þrýstingur: Úttökin sýndu að ef skotmarkið hikaði við að greiða varð svindlarinn sífellt ágengari. Hann beitti þrýstingi með því að bera skotmarkið saman við aðra og skilvirkari starfsmenn og sagði að það tapaði tekjunum ef það greiddi ekki.

8. Afsakanir: Ef úttökin gáfu til kynna að skotmarkið hefði greitt kom svindlarinn með ýmsar afsakanir fyrir því að ekki væri hægt að taka tekjurnar út og sagði oft að greiða þyrfti meira.

Sum samtölin sýndu að skotmörkin voru mjög tortryggin. Sum ummælanna sem svindlararnir létu búa til voru sett fram í nafni leiðbeinanda sem spurði hvers vegna skotmarkið hefði hætt að senda skilaboð. Þetta bendir til þess að svindlið hafi líklega skilað litlum árangri í heildina. Sum samtöl og frásagnir á netinu benda þó til þess að að minnsta kosti hluti þolendanna hafi í raun lagt fé í svindlið. Við getum ekki sannreynt með óháðum hætti starfsemi sem fer fram utan verkfæra okkar.

Reglur OpenAI banna alfarið að úttök úr verkfærum okkar séu notuð til fjársvika eða annars svindls. Við leggjum áherslu á samstarf við aðra í greininni og yfirvöld til að skilja hvernig gervigreind hefur áhrif á skaðlega hegðun og vinna markvisst gegn svindli þar sem þjónusta okkar er misnotuð. Í samræmi við þessa skuldbindingu höfum við deilt upplýsingum um svindlnetin sem við stöðvuðum með öðrum í greininni og viðeigandi yfirvöldum til að auka sameiginlegt öryggi okkar.