Operazzjoni “Il-Lixka tal-Imħabba”: qerq megħjun mill-AI li jimmira lejn min qed ifittex l-imħabba

Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Frar 2026⁠(jinfetaħ f’tieqa ġdida) dwar it-tfixkil tal-użi malizzjużi tal-AI.

Ipprojbejna grupp ta’ kontijiet ta’ ChatGPT u klijent wieħed tal-API li kienu qed jużaw il-mudelli tagħna biex imexxu skema semiawtomatizzata ta’ frodi sentimentali u qerq ibbażat fuq kompiti, li x’aktarx kienet qed tiffroda mijiet ta’ vittmi fix-xahar. Huwa probabbli ħafna li din l-attività oriġinat fil-Kambodja, u hija konsistenti ma’ rapporti⁠(jinfetaħ f’tieqa ġdida) pubbliċi reċenti dwar operazzjonijiet kriminali ta’ qerq immexxija minn Ċiniżi fil-pajjiż. F’każijiet iżolati, utenti individwali identifikaw ruħhom bħala ħaddiema f’operazzjonijiet ta’ qerq fil-Kambodja, pereżempju meta talbu parir lill-mudell dwar it-taxxa u ddikjaraw l-okkupazzjoni tagħhom bħala “qarrieq”.

In-netwerk uża ChatGPT u aċċess għall-mudelli tagħna permezz tal-API biex iwettaq, fuq skala kbira, skema semiawtomatizzata ta’ frodi sentimentali bbażata fuq kompiti. Din kienet issegwi proċess strutturat u mod ta’ operat simili għal programmi ta’ bejgħ li jikkuntattjaw klijenti potenzjali mingħajr kuntatt preċedenti.

1. Kuntatt inizjali: Fl-ewwel stadju tal-proċess, l-operazzjoni użat il-kontijiet tagħha ta’ ChatGPT biex tiġġenera testi promozzjonali għal servizz lussuż ta’ laqgħat romantiċi u skorta msejjaħ “Klabb Romantiku”. Dawn it-testi mbagħad ġew ippubblikati fuq il-midja soċjali bħala reklami mħallsa. Il-qarrieqa mmiraw lejn irġiel Indoneżjani interessati f’kontenut dwar stil ta’ ħajja lussuż, billi użaw kliem ewlieni fir-reklami bħal “golf”, “jottijiet” u “ikel raffinat”. Ir-reklami kienu jinkludu links għal chatbot tal-AI bi struzzjonijiet biex jippretendi li hu reċevitur li jittanta jħajjar lill-persuni romantikament. Is-suppost reċevitur talab lill-persuni fil-mira jagħżlu minn menu ta’ tipi ta’ nisa u relazzjonijiet, qabel jidderiġihom lejn Telegram permezz ta’ URL ta’ traċċar u kodiċi promozzjonali.

2. Tqanqil emozzjonali: Ladarba l-konversazzjoni kienet tgħaddi għal Telegram, l-operazzjoni kienet tgħaqqad operaturi umani li jużaw ChatGPT ma’ awtomazzjoni mħaddma permezz tal-API. Il-personaġġi tar-reċevituri komplew il-konversazzjoni b’lingwaġġ dejjem aktar romantiku u sesswalment espliċitu, u mbagħad stiednu lill-persuni fil-mira jingħaqdu ma’ pjattaformi ta’ laqgħat romantiċi online msejħa “LoveCode” u “SexAction”. Il-pjattaforma kienet turi profili ta’ suppost “tfajliet disponibbli” u fluss ta’ avviżi ġġenerati mill-AI li jifirħu lil klijenti fittizji talli lestew “missjonijiet”, kisbu aċċess għal bonuses u rebħu premjijiet.

Wara li jkun bena l-fiduċja, il-personaġġ tar-reċevitur kien jgħaddi l-konversazzjoni lil “mentor”, li kien juża ChatGPT biex jiġġenera u jittraduċi messaġġi li jimmanipulaw l-emozzjonijiet u jagħmlu pressjoni fuq il-persuni fil-mira biex ilestu sensiela ta’ “kompiti” jew “missjonijiet”. Kull kompitu sussegwenti kien jeħtieġ ħlasijiet dejjem akbar permezz ta’ trasferimenti bankarji jew kartieri ta’ pagamenti diġitali, bħax-xiri ta’ “karta VIP”, l-appoġġ lil “tfajla magħżula” f’kompetizzjoni, jew il-ħlas ta’ depożitu għal lukanda. Immaġni ta’ reċevitur falz għall-pjattaforma ta’ laqgħat romantiċi “LoveCode”, maħluqa minn qarrieq bl-użu ta’ ChatGPT.

3. Teħid tal-flus: Fl-aħħar stadju, il-qarrieqa ppruvaw jiġbru ħlas akbar, li ddeskrivew bħala l-“qatla”, billi vvintaw tariffi addizzjonali bħal “ħlasijiet ta’ kumpens” jew “depożiti ta’ verifika”. Mill-messaġġi li l-qarrieqa kkopjaw f’ChatGPT, jidher li ladarba l-vittma kienet tibgħat l-akbar ammont possibbli, il-qarrieqa kienu jimblukkawha fuq Telegram u jimmarkaw il-każ bħala magħluq. Kopja ta’ ittra li qarrieq qasam ma’ ChatGPT, fejn jgħid lil vittma li trid tħallas Rp 20,500,000 ($12,000) biex tirranġa żball fittizju fl-ipproċessar tad-data fis-sistema Love Code, iżda li se tirċievi “bonus” ta’ 35% li jammonta għal Rp 39,860,000. Xi partijiet inħbew mill-investigaturi ta’ OpenAI.

Minbarra l-attività ta’ frodi sentimentali, l-operazzjoni użat ukoll il-mudelli tagħna biex jgħinuha fit-tmexxija tan-negozju ta’ kuljum. Dan kien jinkludi talbiet lil ChatGPT għal gwida dwar kif jitlestew kompiti tekniċi, bħall-integrazzjoni tal-API ta’ OpenAI jew l-aġġornament tas-sit web tas-servizz falz ta’ laqgħat romantiċi, kif ukoll analiżi tal-kontijiet finanzjarji u ġenerazzjoni ta’ rapporti ta’ kuljum li jassenjaw lil kull persuna fil-mira valur ta’ “qatla” kkalkolat mill-qarrieqa — l-ammont stmat li jippruvaw jieħdu fl-aħħar tal-proċess.

F’każijiet oħra, il-qarrieqa talbu lil ChatGPT jittraduċi messaġġi bejn superviżuri li jitkellmu ċ-Ċiniż u ħaddiema taċ-ċentru tal-qerq li jitkellmu l-Indoneżjan, u jsegwi l-prestazzjoni fid-dipartimenti msejħa “Identifikazzjoni ta’ Klijenti Potenzjali”, “Tim tar-Reċezzjoni” u “Tim tas-Superviżuri”.

Il-valutazzjoni tal-impatt ta’ dan in-netwerk teħtieġ kawtela. Is-sors ewlieni tal-evidenza tagħna huwa dak li daħħlu l-qarrieqa nfushom. Dan il-materjal jissuġġerixxi li l-qarrieqa setgħu kienu qed jinteraġixxu ma’ mijiet ta’ persuni fil-mira fl-istess ħin u jiġġeneraw eluf ta’ dollari kuljum. Madankollu, ma nistgħux nivverifikaw b’mod indipendenti jekk dawn l-istqarrijiet kinux preċiżi.

Il-politiki ta’ OpenAI jipprojbixxu strettament l-użu ta’ kontenut iġġenerat mill-għodod tagħna għal frodi jew qerq. Aħna impenjati li nikkollaboraw ma’ oħrajn fis-settur u mal-awtoritajiet biex nifhmu kif l-AI qed tinfluwenza l-imġiba tal-atturi malizzjużi u biex infixklu b’mod attiv l-attivitajiet ta’ qerq li jabbużaw mis-servizzi tagħna.