Ástarblekking: „svínaslátrunarsvik“ með aðstoð gervigreindar

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2025⁠(opnast í nýjum glugga).

Við lokuðum hópi ChatGPT‑reikninga sem voru notaðir til að þýða og semja stuttar athugasemdir á japönsku, kínversku og ensku. Starfsemin virðist hafa átt uppruna sinn í Kambódíu og bar merki ástar- og fjárfestingarsvika (einnig þekkt sem „svínaslátrunarsvik“). Meta greindi nýlega tengda starfsemi⁠(opnast í nýjum glugga) á sínum vettvangi sem virtist eiga uppruna sinn í nýlegum svikamiðstöðvum í Kambódíu.

Þetta net notaði líkönin okkar til að þýða og semja stuttar athugasemdir. Kínverska virðist hafa verið aðaltungumál gerendanna. Efnið var á ýmsum tungumálum, einkum japönsku og kínversku, en einnig ensku.

Gerendurnir notuðu líkönin okkar einkum í tvennum tilgangi. Í fyrsta lagi sömdu þeir athugasemdir sem voru birtar opinberlega á samfélagsmiðlum á borð við Facebook, X og Instagram. Á hverjum samfélagsmiðlareikningi voru yfirleitt ein eða fleiri prófílmyndir af ungri konu. Við teljum að að minnsta kosti sumar myndanna hafi verið afritaðar frá raunverulegum fyrirsætum eða áhrifavöldum en ekki búnar til með gervigreind.

Flestar athugasemdirnar voru birtar sem svör við færslum raunverulegs fólks á samfélagsmiðlum. Sumar færslurnar sem gerendurnir svöruðu voru mánaða- eða jafnvel áragamlar. Aðgerðin beindist yfirleitt að körlum sem opinberir prófílar gáfu til kynna að væru eldri en fertugir, oft heilbrigðisstarfsmönnum. Oft var svarað færslum um golf, sem bendir til meðvitaðrar aðferðar við val á skotmörkum. Stöku sinnum birtu svikararnir færslur um stjórnmál eða málefni líðandi stundar.

Í öðru lagi, og mun oftar, sömdu gerendurnir stuttar athugasemdir sem líktust brotum úr samtali á netinu. Yfirleitt var um að ræða þýðingu athugasemda úr kínversku yfir á markmálið, japönsku eða ensku, eða af markmálinu aftur yfir á kínversku. Þetta samræmist því að svikararnir hafi einkum notað líkanið til að þýða yfirstandandi spjallsamtöl.

Stundum báðu reikningarnir líkanið um að semja svar í ákveðnum tón, til dæmis eins og daðrandi ung kona. Stundum voru veittar ítarlegar æviupplýsingar til að stýra svörum líkansins, meðal annars nafn gervipersónunnar, menntun, starf, búseta og áhugamál. Í þessum æviágripum kom yfirleitt fram að gervipersónan stundaði fjárfestingar á netinu í hjáverkum.

Svikararnir virðast hafa notað fjölda ólíkra verkfæra og vettvanga til að eiga samskipti við skotmörk sín. Rannsókn okkar leiddi í ljós notkun á LINE, WhatsApp, X, Facebook, Instagram, ýmsum öðrum skilaboðaþjónustum, eiginleikanum „Fela netfangið mitt“ frá Apple⁠(opnast í nýjum glugga) og vettvöngum fyrir rafmyntir og gjaldeyrisviðskipti.

Miðað við þá afmörkuðu sýn sem við höfum á starfsemina virðast svikararnir hafa fylgt algengu ferli til að leiða skotmörkin frá fyrstu samskiptum yfir í sviksamlegar fjárfestingar:

1. Opinber samskipti: Svikararnir skrifuðu athugasemdir við færslur skotmarksins á samfélagsmiðlum. Athugasemdirnar enduðu oft á spurningu á borð við: „Hvað finnst þér um [efni]?“Líklega var það gert til að auka líkurnar á viðbrögðum. Í örfáum tilvikum skrifuðu þeir um stjórnmál en mun oftar ræddu þeir golf.

2. Líkleg einkaskilaboð: Svikararnir sömdu síðan stutt og óformleg skilaboð. Þótt við sjáum ekki til fulls hvernig og hvar þau voru notuð samræmdust skilaboðin aðstæðum þar sem svikarinn og skotmarkið voru farin að skiptast á einkaskilaboðum.

3. Örugg skilaboðaþjónusta: Mjög fljótlega, oft innan fárra daga, sömdu svikararnir skilaboð þar sem lagt var til að færa samtalið yfir í öruggara skilaboðaforrit. Stundum var það réttlætt með því að svikarinn treysti ekki samfélagsmiðlum. Í öðrum tilvikum var gripið til hentugrar afsökunar, til dæmis að viðkomandi væri á leið þangað sem ekki væri aðgangur að samfélagsmiðlum.

4. Rómantísk samskipti: Svikararnir sömdu og þýddu sífellt ástúðlegri og nánari skilaboð. Ef skotmörkin báðu um myndir af „konunni“ sem þau ræddu við fundu svikararnir upp afsakanir.

5. Fjárhagsleg samskipti: Svikararnir sömdu og þýddu skilaboð þar sem þeir stærðu sig af miklum hagnaði af netfjárfestingum í gjaldeyri, rafmyntum eða gulli. Oft var þetta sagt vera árangur þess að fylgja ráðum ættingja sem starfaði í fjármálageiranum. Svikarinn hvatti skotmarkið til að fjárfesta með sama hætti og bauðst til að leiðbeina því í gegnum ferlið.

6. Svik: Svikararnir sömdu og þýddu skilaboð til að sannfæra fórnarlambið um að flytja fé í viðskiptaforrit og hvöttu það áfram með því að ýkja hagnaðinn. Í hvert sinn sem fórnarlambið reyndi að taka út „hagnaðinn“ kom svikarinn með afsökun, til dæmis að fyrst þyrfti að greiða gjald.

Þetta hegðunarmynstur samræmist opinberri umfjöllun⁠(opnast í nýjum glugga) um hvernig slík svik ganga yfirleitt fyrir sig.

Starfsemin virðist hafa einkennst af mörgum árangurslausum tilraunum og mistökum. Sum samtölin sem svikararnir unnu með líkönunum okkar enduðu með því að skotmarkið benti á að um svik væri að ræða eða sagði svikaranum að láta sig í friði. Við fundum einnig færslur svikaranna á samfélagsmiðlum sem fengu engin viðbrögð.

Í sumum samtölum var þó vísað til þúsunda Bandaríkjadala, eða samsvarandi fjárhæða í öðrum gjaldmiðlum, í einstökum viðskiptum. Vegna þess hvernig gerendurnir notuðu líkönin okkar sjáum við ekki hvort þessi fjárskipti fóru í raun fram. Tilvísanirnar í samtölunum benda þó til þess að svikararnir hafi að minnsta kosti í sumum tilvikum náð að svíkja fé af skotmörkum sínum.

Reglur OpenAI banna alfarið að úttak úr verkfærum okkar sé notað til svika eða blekkinga. Við leggjum áherslu á samstarf við aðra í greininni og yfirvöld til að skilja hvernig gervigreind er notuð í skaðlegum tilgangi og vinna markvisst gegn svikastarfsemi sem misnotar þjónustu okkar. Í samræmi við þessa skuldbindingu höfum við miðlað upplýsingum um svikanetin sem við stöðvuðum til annarra í greininni og viðeigandi yfirvalda.