Ástarsvik: Verkferlar við ástarsvik með hjálp gervigreindar

Þessi tilviksrannsókn birtist upphaflega í skýrslu OpenAI frá febrúar 2026⁠(opnast í nýjum glugga) um aðgerðir gegn skaðlegri notkun gervigreindar.

Síðan við hófum að greina frá aðgerðum okkar gegn svikanetum sem reyndu að misnota líkönin okkar fyrir ári⁠(opnast í nýjum glugga) höfum við stöðvað fjölmarga svikastarfsemi víðs vegar um heiminn. Þar á meðal voru „verkefnasvik“, þar sem fórnarlömb eru blekkt til að greiða inn fé til að fá aðgang að uppspunnum tekjum fyrir einföld verkefni, og fjárfestingarsvik, þar sem þau eru blekkt til að leggja fé í fjárfestingarfélög sem eru ekki til.

Ástarsvik hafa verið algeng frá því löngu fyrir daga gervigreindar. Þá þykjast svikarar vera mögulegir ástvinir og reyna að sannfæra þann sem þeir beina spjótum sínum að um að hann hafi fundið ástina, áður en þeir fara að biðja um sífellt meira fé. Í fyrstu birtu umfjöllun okkar um aðgerðir gegn svikum sögðum við frá nýstofnaðri glæpastarfsemi í Kambódíu sem hafði notað ChatGPT til að semja skilaboð fyrir ástarsvik. Sumum þeirra var dreift á samfélagsmiðlum. Síðan þá höfum við gripið inn í ýmsar tilraunir til ástarsvika. Eins og við skrifuðum í júní⁠(opnast í nýjum glugga) fylgja þessi svik og önnur gjarnan sama mynstri við notkun gervigreindar. Við skiptum því í þrjú skref: fyrsta samband (óumbeðin skilaboð), tilfinningakveikju (að vekja tilfinningar) og fjársvik (að ná fé af fólki).

Fyrsta samband (óumbeðin skilaboð): Svikarinn býr til efni sem á að vekja athygli hugsanlegs fórnarlambs með því að höfða til áhugamála þess. Til dæmis beindust „svínaslátrunar“-svikin sem við greindum frá í fyrra oft að bandarískum karlmönnum á fimmtugsaldri í heilbrigðisstéttum, með svörum við færslum þeirra um golf á samfélagsmiðlum. Aðrir svikahópar notuðu óumbeðin SMS-skilaboð, fölsuð ráðningarskilaboð eða auglýsingar á samfélagsmiðlum, eins og í nýjasta ástarsvikamálinu okkar sem lýst er hér að neðan. Í öllum tilvikum notuðu gerendurnir ChatGPT til að semja skilaboð sem gætu vakið meiri áhuga en hefðbundin svikaskilaboð og síður borið með sér að höfundurinn hefði ekki tungumálið að móðurmáli.

Tilfinningakveikja (að vekja tilfinningar): Svikarinn býr til efni sem á að vekja sterkar tilfinningar hjá viðtakandanum og gera þannig auðveldara að hafa áhrif á hann. Í ástarsvikum er reynt að vekja ástarhug hjá viðtakandanum í garð svikarans. Í öðrum svikum er til dæmis reynt að vekja spennu fyrir hugsanlega arðbærum viðskiptum, ótta við að missa af tækifæri eða áhyggjur af meintum lagalegum afleiðingum eða ógreiddum reikningi. Stundum er tilfinningakveikjan hluti af fyrstu skilaboðunum.

Fjársvik (að ná fé af fólki): Svikarinn býr til efni sem á að sannfæra viðtakandann um að láta fé af hendi. Ástæðurnar sem gefnar eru geta verið afar ólíkar. Í ástarsvikum gæti viðtakandinn til dæmis verið beðinn um að fjárfesta í fyrirtæki ástvinarins eða leggja fram fé til að leysa fjárhagsvanda. Í „verkefnasvikum“ er fólki sagt að greiða inn fé til að fá aðgang að (uppspunnum) peningum sem það telur sig hafa unnið sér inn. Í fjárfestingarsvikum er fólki sagt að leggja fé í fjárfestingar sem eru ekki til.

Eins og þessi framvinda sýnir er dreifikerfið lykilþáttur í svikunum. Svikahópar sem við höfum afhjúpað sendu fyrstu skilaboðin með SMS, dulkóðuðum skilaboðaforritum, færslum á samfélagsmiðlum, netauglýsingum eða blöndu af þessu öllu. Fyrir daga gervigreindar voru svikarar alræmdir fyrir að nota tölvupóst⁠(opnast í nýjum glugga), símtöl⁠(opnast í nýjum glugga) eða jafnvel, á nítjándu öld, bréf⁠(opnast í nýjum glugga) og símskeyti⁠(opnast í nýjum glugga). Margir svikarar dreifa skilaboðum vítt og breitt, en sumir virðast reyna að ná til afmarkaðra hópa með markvissum hætti. Til dæmis snerust „svínaslátrunar“-svikin sem við greindum frá í febrúar 2025⁠(opnast í nýjum glugga) um viðfangsefni á borð við golf. Í öðrum ástarsvikum voru auglýsingar á samfélagsmiðlum notaðar til að ná til ungra karlmanna í Indónesíu. Í svikum í nafni frægs fólks⁠(opnast í nýjum glugga) þykjast svikarar yfirleitt vera fræg manneskja og beina svo svikunum að aðdáendahópum hennar. Gögnin eru brotakennd og því erfitt að bera saman með áreiðanlegum hætti þau svik sem við höfum gripið inn í. Við teljum þó að dreifiaðferðin sem svikarar velja, til dæmis hvort skilaboðum er dreift vítt og breitt eða beint að afmörkuðum hópum, skipti miklu um hversu vel þeim tekst að ná til fólks og misnota það. Það á við óháð því að hve miklu leyti gervigreind var notuð við einstaka þætti starfseminnar.