Frodi b’lixka romantika: flussi ta’ “pig butchering” megħjuna mill-IA
OpenAI mblukkat kontijiet li dehru li kienu joriġinaw mill-Kambodja u li użaw l-IA biex jittraduċu u jiġġeneraw konverżazzjonijiet għal frodi romantika u ta’ investiment.
Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Frar 2025(jinfetaħ f’tieqa ġdida).
Attur
Imblukkajna grupp ta’ kontijiet ta’ ChatGPT li kienu qed jittraduċu u jiġġeneraw kummenti qosra bil-Ġappuniż, biċ-Ċiniż u bl-Ingliż. Din l-attività tidher li oriġinat mill-Kambodja u kienet konsistenti ma’ frodi romantika u ta’ investiment (magħrufa wkoll bħala “pig butchering”). Meta dan l-aħħar identifikat attività relatata(jinfetaħ f’tieqa ġdida) fuq il-pjattaforma tagħha, li dehret li kienet ġejja minn ċentru tal-frodi li kien għadu kemm twaqqaf fil-Kambodja.
Imġiba
Dan in-network uża l-mudelli tagħna biex jittraduċi u jiġġenera kummenti qosra. Jidher li l-lingwa ewlenija tal-atturi kienet iċ-Ċiniż. Ir-riżultati kienu b’firxa ta’ lingwi, l-aktar bil-Ġappuniż u biċ-Ċiniż, iżda wkoll bl-Ingliż.
L-atturi użaw il-mudelli tagħna għal żewġ attivitajiet ewlenin. L-ewwel, kienu jiġġeneraw kummenti li jiġu ppubblikati fuq pjattaformi tal-midja soċjali, fosthom Facebook, X u Instagram. Kull kont tal-midja soċjali normalment kien ikollu ritratt wieħed jew aktar ta’ mara żagħżugħa bħala ritratti tal-profil. Aħna nivvalutaw li tal-anqas uħud minnhom ġew ikkupjati minn mudelli jew influwenzaturi reali, u mhux iġġenerati bl-IA.
Il-biċċa l-kbira tal-kummenti ġġenerati ġew ippubblikati bi tweġiba għal posts ta’ persuni reali fuq il-midja soċjali. Xi wħud mill-posts li wieġbu għalihom l-operaturi kellhom xhur jew snin. Din l-operazzjoni normalment kienet timmira lejn irġiel li l-profili pubbliċi tagħhom kienu jindikaw li kellhom aktar minn 40 sena, spiss fi professjonijiet mediċi. L-operazzjoni ta’ spiss kienet twieġeb għal posts dwar il-golf, u dan jindika strateġija intenzjonata ta’ mmirar. Kultant, il-frodaturi kienu jippubblikaw dwar kwistjonijiet politiċi jew ġrajjiet kurrenti.
Kumment fuq Facebook iġġenerat minn dan l-attur bil-mudelli tagħna, bi tweġiba għal kumment dwar il-golf minn persuna li ma dehritx marbuta ma’ din l-operazzjoni. Ir-ritratt tal-profil tal-kont tal-frodi ġie kkupjat mingħand influwenzatriċi Amerikana tal-moda u s-sbuħija. Il-post oriġinali kellu aktar minn xahar meta l-kont tal-frodi ppubblika l-kumment.
Kumment iġġenerat mill-mudelli tagħna u ppubblikat minn kont ivverifikat fuq X bi tweġiba għal post minn kont li ma deherx marbut ma’ din il-frodi. Ir-ritratt tal-profil tal-kont ġie kkupjat mingħand l-istess influwenzatriċi Amerikana tal-moda u s-sbuħija. Il-post oriġinali kellu kważi sitt xhur.
It-tieni, u aktar ta’ spiss, l-operaturi kienu jiġġeneraw kummenti qosra li kienu jixbhu partijiet minn konverżazzjoni online. Dan normalment kien jinvolvi t-traduzzjoni ta’ kummenti miċ-Ċiniż għal-lingwa fil-mira (il-Ġappuniż jew l-Ingliż), jew mil-lingwa fil-mira lura għaċ-Ċiniż. Dan huwa konsistenti ma’ frodaturi li jużaw il-mudell primarjament biex jittraduċu chats li jkunu għaddejjin.
Xi drabi, il-kontijiet kienu jitolbu lill-mudell jiġġenera tweġiba b’ċertu ton, bħal dak ta’ mara żagħżugħa flirtatjuża. Xi drabi kienu jingħataw dettalji bijografiċi estensivi biex jiggwidaw lill-mudell fit-tweġibiet tiegħu, fosthom l-isem, l-edukazzjoni, ix-xogħol, il-post u l-passatempi tal-persunaġġ falz. Dawn il-bijografiji normalment kienu jsemmu li l-persunaġġ falz kien jinvesti xi ftit online.
Jidher li l-frodaturi użaw għadd kbir ta’ għodod u pjattaformi differenti biex jikkomunikaw mal-miri tagħhom. L-investigazzjoni tagħna sabet evidenza li użaw għodod fosthom LINE, WhatsApp, X, Facebook, Instagram, diversi servizzi oħra ta’ messaġġi, il-funzjoni ta’ Apple “aħbi l-email tiegħi”(jinfetaħ f’tieqa ġdida), kif ukoll pjattaformi tal-kriptomuniti u tal-kambju barrani.
Riżultati
Abbażi tal-informazzjoni speċifika li kellna dwar din l-attività, jidher li l-frodaturi segwew fluss ta’ xogħol komuni biex imexxu lill-miri tagħhom mill-ewwel kuntatt għal investiment frawdolenti:
Interazzjoni pubblika: Il-frodaturi kienu jikkummentaw fuq il-posts tal-mira fil-midja soċjali. Dawn il-kummenti spiss kienu jispiċċaw b’mistoqsija bħal, “X’taħseb dwar [is-suġġett]?,” aktarx biex iżidu l-possibbiltà ta’ interazzjoni. Fi ftit każijiet ikkummentaw dwar il-politika, iżda aktar ta’ spiss tkellmu dwar il-golf.
Messaġġi diretti probabbli: Imbagħad il-frodaturi kienu jiġġeneraw kummenti qosra u konversazzjonali. Għalkemm ma narawx għalkollox kif u fejn intużaw, il-kummenti kienu konsistenti ma’ sitwazzjoni fejn il-frodatur u l-mira bdew jiskambjaw messaġġi diretti.
Messaġġi siguri: Ftit wara, spiss fi żmien ftit jiem, il-frodaturi kienu jiġġeneraw messaġġi li jissuġġerixxu li l-konverżazzjoni titmexxa għal app tal-messaġġi aktar sigura. Xi drabi kienu jiġġustifikaw dan billi jgħidu li l-frodatur ma kienx jafda l-midja soċjali; drabi oħra kienu jagħtu skuża loġistika, bħal li kienu se jmorru f’post fejn ma jkollhomx aċċess għall-midja soċjali.
Interazzjoni romantika: Il-frodaturi kienu jiktbu u jittraduċu messaġġi dejjem aktar affettivi u intimi. Jekk il-miri kienu jitolbu ritratti tal-“mara” li kienu qed jitkellmu magħha, il-frodaturi kienu jġibu l-iskużi.
Interazzjoni finanzjarja: Il-frodaturi kienu jiktbu u jittraduċu messaġġi li jiftaħru li qalgħu somma kbira ta’ flus b’investiment online fil-kambju barrani, fil-kriptomuniti jew fid-deheb. Spiss kienu jippreżentaw dan bħala r-riżultat tal-parir ta’ qarib li kien jaħdem fil-finanzi. Il-frodatur kien iħeġġeġ lill-mira tibda tinvesti bl-istess mod u joffri li jiggwidaha tul il-proċess.
Frodi: Il-frodaturi kienu jiktbu u jittraduċu messaġġi biex jippruvaw jikkonvinċu lill-vittma tittrasferixxi flus f’app tan-negozjar, u jħeġġuha billi jkabbru l-profitti li kienu qed jagħmlu. Kull meta l-vittma kienet tipprova tiġbed il-“profitti” tagħha, il-frodatur kien iġib skuża, bħal li kellha titħallas tariffa.
Dan ix-xejra ta’ attività hija konsistenti ma’ rapporti disponibbli pubblikament(jinfetaħ f’tieqa ġdida) dwar kif normalment jaħdmu frodi bħal dawn.
Impatt
Jidher li din l-attività inkludiet ħafna tentattivi li ma wasslu mkien u fallimenti. Uħud mill-konverżazzjonijiet li l-frodaturi pproċessaw permezz tal-mudelli tagħna spiċċaw bil-mira tgħid li l-attività kienet frodi, jew titlob lill-frodatur iħalliha bi kwietha. Identifikajna wkoll posts tal-frodaturi fuq il-midja soċjali li ma kellhom ebda interazzjoni.
Madankollu, xi konverżazzjonijiet semmew somom ta’ eluf ta’ dollari (jew l-ekwivalenti f’muniti oħra) bħala l-valur ta’ tranżazzjonijiet individwali. Minħabba kif dawn l-operaturi użaw il-mudelli tagħna, ma nistgħux naraw jekk dawn it-tranżazzjonijiet finanzjarji twettqux, iżda r-referenzi fil-konverżazzjonijiet jissuġġerixxu li, tal-anqas f’xi każijiet, il-frodaturi rnexxielhom jiddefrawdaw lill-miri tagħhom.
Il-politiki ta’ OpenAI jipprojbixxu b’mod strett l-użu tar-riżultati tal-għodod tagħna għal frodi jew ingann. Aħna impenjati li nikkollaboraw ma’ kumpaniji oħra fl-industrija u mal-awtoritajiet biex nifhmu kif l-IA tintuża f’imġiba ostili u biex inwaqqfu b’mod attiv attivitajiet ta’ frodi li jabbużaw mis-servizzi tagħna. B’konformità ma’ dan l-impenn, qsamna informazzjoni dwar in-networks tal-frodi li waqqafna ma’ kumpaniji oħra fl-industrija u mal-awtoritajiet rilevanti.