Frodi sentimentali: proċessi ta’ qerq megħjuna mill-AI
OpenAI pprojbiet kontijiet li kienu jużaw l-AI biex jappoġġaw proċessi ta’ frodi sentimentali, fosthom kuntatt inizjali, traduzzjoni, interazzjoni mal-vittmi u lixki għal frodi fl-investiment.
Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Frar 2026(jinfetaħ f’tieqa ġdida) dwar it-tfixkil tal-użi malizzjużi tal-AI.
Minn meta sena ilu(jinfetaħ f’tieqa ġdida) bdejna nirrappurtaw dwar kif fixkilna netwerks ta’ qerq li ppruvaw jabbużaw mill-mudelli tagħna, waqqafna ħafna operazzjonijiet ta’ qerq minn partijiet differenti tad-dinja. Dawn kienu jinkludu qerq ibbażat fuq “kompiti”, li jiffroda lill-vittmi billi jikkonvinċihom iħallsu biex ikollhom aċċess għal qligħ ineżistenti minn kompiti sempliċi, u qerq fl-investiment, li jiffroda lill-vittmi billi jikkonvinċihom ipoġġu flushom f’kumpaniji tal-investiment li ma jeżistux.
Tip komuni ta’ qerq li ilu jeżisti minn ferm qabel l-AI huwa l-frodi sentimentali: il-qarrieqa jippreżentaw ruħhom bħala sħab romantiċi potenzjali u jippruvaw jikkonvinċu lill-persuni fil-mira li sabu l-imħabba, qabel jibdew jitolbuhom dejjem aktar flus. L-ewwel rapport tagħna dwar it-tfixkil ta’ qerq kien jittratta operazzjoni kriminali ġdida fil-Kambodja li kienet użat ChatGPT biex tiġġenera messaġġi għal frodi sentimentali, li wħud minnhom inxterdu fuq il-midja soċjali. Minn dak iż-żmien ’l hawn, fixkilna diversi tentattivi ta’ frodi sentimentali. Kif ktibna f’Ġunju(jinfetaħ f’tieqa ġdida), dawn il-forom ta’ qerq u oħrajn għandhom it-tendenza li jużaw l-AI skont mudell komuni, li nqisuh fi tliet stadji: il-kuntatt inizjali (kuntatt mhux mitlub), it-tqanqil emozzjonali (ħolqien ta’ emozzjonijiet) u t-teħid tal-flus.
Il-kuntatt inizjali (kuntatt mhux mitlub): il-qarrieq jiġġenera kontenut maħsub biex jiġbed l-attenzjoni tal-persuna li tista’ ssir vittma billi jappella għall-interessi tagħha. Pereżempju, l-iskema tal-“qatla tal-ħanżir” li rrappurtajna dwarha s-sena l-oħra spiss kellha fil-mira rġiel Amerikani ta’ bejn l-40 u d-49 sena li jaħdmu fil-professjonijiet mediċi, billi kienet twieġeb għal posts tagħhom dwar il-golf fuq il-midja soċjali. Operazzjonijiet oħra użaw messaġġi SMS mhux mitluba, messaġġi foloz ta’ reklutaġġ jew, fl-aktar każ reċenti tagħna ta’ frodi sentimentali (deskritt hawn taħt), reklami fuq il-midja soċjali. F’kull każ, l-atturi malizzjużi użaw ChatGPT biex jiġġeneraw messaġġi li setgħu jkunu aktar attraenti u li, meta mqabbla mal-qerq tradizzjonali, ma jurux daqshekk ċar li nkitbu minn xi ħadd li l-lingwa mhijiex ilsien twelidu.
Kuntatt inizjali dwar il-golf min-netwerk tal-“qatla tal-ħanżir” li rrappurtajna dwaru fl-2025, bi tweġiba għal post fuq Facebook ta’ utent mhux marbut mal-operazzjoni.
It-tqanqil emozzjonali (ħolqien ta’ emozzjonijiet): il-qarrieq jiġġenera kontenut maħsub biex iqanqal emozzjonijiet qawwija fil-persuna fil-mira, u b’hekk jagħmilha aktar faċli biex jimmanipulaha. Il-frodi sentimentali tipprova toħloq attrazzjoni lejn il-qarrieq fil-persuna fil-mira. Forom oħra ta’ qerq jistgħu jippruvaw iħeġġu lill-persuna fil-mira dwar ftehim li jista’ jħalli qligħ kbir, ibeżżgħuha li se titlef opportunità, jew jallarmawha dwar allegat riskju legali jew kont mhux imħallas. Xi drabi, it-tqanqil emozzjonali jista’ jkun inkluż fl-istess messaġġ bħall-kuntatt inizjali.
SMS mhux mitlub mill-operazzjoni ta’ qerq “Numru Ħażin” li kxifna f’Ġunju 2025, b’dettalji ta’ qligħ għoli wisq biex jitwemmen għal ftit xogħol, x’aktarx maħsub biex joħloq l-effett ta’ “tqanqil emozzjonali”.
It-teħid tal-flus: il-qarrieq jiġġenera kontenut maħsub biex jikkonvinċi lill-persuna fil-mira tagħtih il-flus. Ir-raġunijiet mogħtija jistgħu jvarjaw ħafna. Pereżempju, fi frodi sentimentali, il-persuna fil-mira tista’ tintalab tinvesti fin-negozju tal-maħbub jew tal-maħbuba tagħha, jew tagħti flus biex tgħin fi kriżi finanzjarja. Il-qerq ibbażat fuq “kompiti” jitlob lill-persuni fil-mira jħallsu biex ikollhom aċċess għal flus (fittizji) li jemmnu li qalgħu. Il-qerq fl-investiment jitlob lill-persuni fil-mira jpoġġu flushom f’investimenti li ma jeżistux.
SMS mhux mitlub mill-operazzjoni ta’ qerq “Numru Ħażin” li kxifna f’Ġunju 2025, b’dettalji ta’ qligħ għoli wisq biex jitwemmen għal ftit xogħol, x’aktarx maħsub biex joħloq l-effett ta’ “tqanqil emozzjonali”.
Kif jissuġġerixxi dan il-proċess, in-netwerk tad-distribuzzjoni huwa komponent essenzjali tal-qerq. Operazzjonijiet differenti ta’ qerq li kxifna bagħtu l-messaġġi ta’ kuntatt inizjali tagħhom permezz ta’ SMS, apps ta’ messaġġi kriptati, posts fuq il-midja soċjali, reklami online, jew taħlita ta’ dawn kollha; il-qerq ta’ qabel l-era tal-AI huwa magħruf għall-użu ta’ emails(jinfetaħ f’tieqa ġdida), telefonati(jinfetaħ f’tieqa ġdida), jew saħansitra, fis-seklu dsatax, ittri(jinfetaħ f’tieqa ġdida) u telegrammi(jinfetaħ f’tieqa ġdida). Ħafna skemi ta’ qerq iqassmu l-messaġġi tagħhom bl-addoċċ, iżda xi wħud jidhru li jippruvaw jilħqu persuni magħżula bi preċiżjoni. Pereżempju, l-iskema tal-“qatla tal-ħanżir” li irrappurtajna dwarha fi Frar 2025(jinfetaħ f’tieqa ġdida) kienet tiffoka fuq suġġetti bħall-golf; skema oħra ta’ frodi sentimentali użat reklami fuq il-midja soċjali biex timmira lejn irġiel żgħażagħ fl-Indoneżja; u l-qerq li juża ċelebritajiet(jinfetaħ f’tieqa ġdida) tipikament jinvolvi lil xi ħadd li jippretendi li hu persuna famuża u mbagħad jimmira lejn il-gruppi tal-ammiraturi tagħha. Għalkemm in-natura frammentarja tal-evidenza tagħmilha diffiċli biex inqabblu b’mod affidabbli l-iskemi differenti ta’ qerq li fixkilna, il-valutazzjoni tagħna hija li l-metodu ta’ distribuzzjoni magħżul (pereżempju, bl-addoċċ jew immirat) għandu rwol sinifikanti fil-kapaċità ta’ kull skema li tilħaq u tisfrutta b’suċċess lill-persuni fil-mira tagħha, irrispettivament minn kemm l-operazzjoni użat l-AI għal funzjonijiet differenti.
