Operazzjonijiet ta’ frodi: Networks tal-frodi online

Dan l-istudju tal-każ kien ippubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ottubru 2025⁠(jinfetaħ f’tieqa ġdida).

Networks li x’aktarx oriġinaw fil-Kambodja, fil-Myanmar u fin-Niġerja abbużaw minn ChatGPT f’dak li jidher li kienu tentattivi biex iqarrqu bin-nies online.

Aħna impenjati li nidentifikaw, nipprevjenu u nfixklu t-tentattivi ta’ abbuż mill-mudelli tagħna għal skopijiet ta’ ħsara. Fost dawn l-abbużi hemm l-iskemi ta’ frodi, fejn nidentifikaw u nipprojbixxu atturi malizzjużi li jippruvaw jużaw ħażin il-mudelli tagħna biex iqarrqu bin-nies u jisirquhom. Fl-aħħar tliet xhur, fixkilna networks ta’ frodi li x’aktarx oriġinaw fil-Kambodja, fil-Myanmar u fin-Niġerja. Bħala indikazzjoni tar-rwol li jista’ jkollha l-IA fil-ġlieda kontra l-frodi, waqt li investigajna dawn ix-xejriet ta’ abbuż rajna wkoll ħafna nies jużaw il-mudelli tagħna biex jgħinuhom jidentifikaw l-iskemi ta’ frodi. Dan ir-rapport jiddiskuti ż-żewġ każijiet ta’ użu.

L-abbuż mill-mudelli tagħna biex jiġu appoġġati skemi ta’ frodi jvarja minn individwi li jippruvaw iwettqu frodi sa operazzjonijiet fuq skala kbira u persistenti li x’aktarx huma marbuta ma’ gruppi tal-kriminalità organizzata. Irrispettivament mill-oriġini u t-tattiċi preċiżi tagħhom, l-attività marbuta mal-frodi li fixkilna normalment issegwi xejra komuni: il-kuntatt inizjali mhux mitlub, it-tqanqil tal-entużjażmu jew tal-paniku, u fl-aħħar it-teħid tal-flus jew ta’ informazzjoni siewja.

Dawn il-frodisti jibdew billi jxerrdu kontenut, kemm jekk iġġenerat bl-IA kif ukoll jekk le, fuq is-servizzi tal-messaġġi u l-internet, inkluż permezz ta’ reklami fuq il-midja soċjali. Imbagħad jippruvaw iqanqlu f’kull min iwieġeb jew entużjażmu għal opportunità ta’ qligħ kbir, jew biża’ ta’ telf finanzjarju imminenti, u jisfruttaw dik l-emozzjoni biex jikkonvinċu lill-mira tagħtihom flus jew informazzjoni sensittiva.

Osservajna wkoll ħafna każijiet fejn il-mudelli tagħna x’aktarx għenu biex jipproteġu lin-nies mill-frodi. Rajna evidenza li n-nies jużaw ChatGPT miljuni ta’ drabi fix-xahar biex jgħinhom jidentifikaw u jevitaw skemi ta’ frodi online; f’kull operazzjoni ta’ frodi f’dan ir-rapport, rajna lill-mudell jgħin lin-nies jidentifikaw l-iskema b’mod korrett u jagħtihom pariri dwar miżuri xierqa ta’ sigurtà. L-istima attwali tagħna hija li ChatGPT qed jintuża biex jiġu identifikati skemi ta’ frodi sa tliet darbiet aktar milli qed jintuża biex jitwettquhom.

Eżempju ta’ investigatur ta’ OpenAI li waħħal f’ChatGPT ritratt tal-iskrin ta’ messaġġ SMS frodulenti li rċieva u uża b’suċċess il-mudell biex jidentifikah bħala frodi. F’dan il-każ, l-atturi tat-theddid ippruvaw jagħmluha ta’ reklutaturi ta’ TikTok.

Sa mill-aħħar rapport tagħna, saħħaħna l-kapaċità tagħna li nidentifikaw u nfixklu l-iskemi ta’ frodi. Fixkilna aktar networks ta’ frodi li dehru li oriġinaw fil-Kambodja, fil-Myanmar u fin-Niġerja. Flimkien mal-interventi preċedenti tagħna, dawn l-operazzjonijiet ta’ tneħħija jippermettulna nidentifikaw xi xejriet emerġenti fost diversi operazzjonijiet ta’ frodi minn pajjiżi differenti.

Il-biċċa l-kbira tal-attività frodulenti li fixkilna kienet iffukata fuq l-inkorporazzjoni tal-IA f’metodi ta’ frodi eżistenti, aktar milli fuq il-ħolqien ta’ metodi ġodda mibnija madwar l-IA. L-operazzjonijiet kollha ta’ frodi li identifikajna u pprojbixxejna din is-sena użaw l-IA primarjament bħala għodda biex iżidu l-iskala u l-effiċjenza. Dan tipikament kien jinkludi l-użu tal-mudelli tagħna għat-traduzzjoni, għall-kitba ta’ messaġġi u għall-ħolqien ta’ kontenut għall-midja soċjali.

Pereżempju, dan l-aħħar ipprojbixxejna operazzjonijiet ta’ frodi li x’aktarx oriġinaw fil-Kambodja u fin-Niġerja u ppreżentaw ruħhom bħala “kumpaniji tal-investiment” biex iqarrqu b’vittmi f’diversi pajjiżi. Il-frodisti ħolqu siti web u reklami online biex jippromwovu l-kumpaniji foloz, u użaw kontijiet tal-midja soċjali li x’aktarx ma kinux awtentiċi u li ppreżentaw ruħhom bħala esperti fin-negozjar biex jistiednu lin-nies jingħaqdu ma’ gruppi privati tal-messaġġi. Wara li wegħdu opportunitajiet ta’ qligħ kbir mingħajr riskju, l-atturi tat-theddid ippruvaw iħajru lill-vittmi potenzjali jagħmlu pagamenti fi pjattaformi fittizji tan-negozjar. Fl-iskemi kollha, il-frodisti użaw il-mudelli tagħna primarjament biex jiġġeneraw u jittraduċu l-korrispondenza, joħolqu kontenut għas-siti web u l-kontijiet tal-midja soċjali tagħhom, u jagħmlu riċerka bażika.

F’każ ieħor, ipprojbixxejna ċentru tal-frodi li kien kważi ċertament jinsab fil-Myanmar u li uża l-mudelli tagħna kemm biex jiġġenera kontenut għall-iskemi frodulenti tiegħu kif ukoll biex iwettaq kompiti kummerċjali ta’ kuljum. Dan kien jinkludi l-organizzazzjoni tal-iskedi, l-abbozzar ta’ avviżi interni, l-allokazzjoni ta’ skrivaniji u postijiet fid-dormitorji, u l-ġestjoni tal-kontijiet finanzjarji. Xi operaturi staqsew dwar il-pieni kriminali għal persuni li jinqabdu jwettqu frodi online.

Mhux il-frodisti kollha li fixkilna użaw il-mudelli tagħna bl-istess mod jew bl-istess livell ta’ kumplessità. Il-biċċa l-kbira tal-interazzjonijiet tal-frodisti ma’ ChatGPT kienu jinvolvu kompiti relattivament sempliċi bħat-traduzzjoni, iżda xi operazzjonijiet ta’ frodi kienu aktar ambizzjużi u elaborati.

Pereżempju, operazzjoni ta’ frodi li x’aktarx oriġinat fil-Kambodja u li fixkilna użat il-mudelli tagħna biex tiġġenera bijografiji dettaljati ta’ esperti foloz tal-investiment u impjegati fittizji ta’ kumpaniji foloz tan-negozjar. Imbagħad il-frodisti talbu lil ChatGPT jikteb messaġġi għall-midja soċjali bil-vuċi ta’ dawk il-personaġġi. Spiss, l-atturi tat-theddid daħħlu fil-mudell tagħna messaġġi li dehru li rċevew mingħand il-miri tagħhom, u talbu lill-mudell ikompli l-konverżazzjoni fil-persona falza.

Operazzjoni oħra ta’ frodi, li wkoll x’aktarx oriġinat fil-Kambodja, bdiet billi użat il-mudelli tagħna biex tiġġenera messaġġi SMS mhux mitluba li ntbagħtu bil-massa lil numri tat-telefon fl-Istati Uniti. Wieħed minn dawn intbagħat lil investigatur ta’ OpenAI, b’mod simili għall-każ li rrapportajna f’Ġunju. Dawn il-messaġġi SMS kienu jinkludu stediniet biex wieħed jingħaqad ma’ gruppi ta’ WhatsApp, li aktar tard ġew ipprojbiti, u li isimhom kien jixbah lil dak ta’ kumpanija leġittima tal-investiment.

Skont sensiela ta’ messaġġi fuq WhatsApp mibgħuta lill-investigatur ta’ OpenAI, jekk mira potenzjali kienet tingħaqad ma’ wieħed minn dawn il-gruppi, malajr kienet tara “konverżazzjoni” bejn madwar sitt kontijiet differenti, ilkoll jitkellmu dwar l-investiment. Wieħed minnhom kien jagħmilha tal-“espert tal-investiment”, filwaqt li l-oħrajn kienu jagħmluha ta’ investituri b’livelli differenti ta’ kunfidenza u esperjenza. Kull parti minn din il-konverżazzjoni kienet iġġenerata mill-frodisti, li ttraduċewha f’blokka waħda miċ-Ċiniż—x’aktarx biex joħolqu l-impressjoni ta’ grupp attiv ta’ negozjanti ħerqana u ta’ suċċess. Fl-aħħar mill-aħħar, l-“espert tal-investiment” kien jissuġġerixxi li l-mira tipprova tinvesti wkoll.

Separatament, operazzjoni ta’ frodi fl-investiment li kważi ċertament oriġinat fin-Niġerja talbet lill-mudell pariri pass pass dwar kif tuża reklami fuq il-midja soċjali biex tilħaq nies għonja fl-Amerka Latina, kif taħbi l-post tagħha u kif tevita r-restrizzjonijiet tal-pjattaformi tal-midja soċjali. Dan kien jinvolvi li l-mudell jiġi dirett lejn it-termini tas-servizz pubbliċi ta’ pjattaforma u jintalab jirrieżamina kontenut propost għar-reklami biex jiċċekkja jekk kienx konformi magħhom.

Il-frodisti, speċjalment iċ-ċentri tal-frodi fuq skala kbira, huma persistenti. Spiss ħafna, ir-rispons tagħhom għal intervent ikun li jippruvaw jerġgħu jibdew l-attività tagħhom li tikser ir-regoli, filwaqt li jibdlu xi aspetti tal-imġiba tagħhom, x’aktarx biex jevitaw li jerġgħu jinqabdu. Din hija raġuni għaliex huwa importanti li l-industrija taqsam informazzjoni dwar l-attività tagħhom li qed tevolvi, bħal meta OpenAI u Meta qasmu informazzjoni dwar atturi tat-theddid li kkontribwiet għal aktar investigazzjoni u infurzar.

Possibbilment b’reazzjoni għall-interventi jew għal diskussjonijiet usa’ online dwar sinjali li jistgħu jikxfu l-użu tal-IA, rajna frodisti jippruvaw jaħbu l-użu tagħhom tal-IA fil-kontenut online u fil-komunikazzjonijiet mal-miri. Dan jinkludi operazzjonijiet ta’ frodi li x’aktarx oriġinaw fil-Kambodja u li ordnaw lill-mudell ineħħi s-sing twil mir-riżultati.

F’każ wieħed, il-frodisti ppruvaw jispjegaw it-tneħħija fuq skala kbira tal-assi tagħhom fuq il-midja soċjali billi vvintaw skuża għaliex kienu ġew ipprojbiti. Dan kien jikkonċerna ċ-ċentru tal-frodi deskritt hawn fuq, li x’aktarx oriġina fil-Kambodja u kien jopera permezz tal-SMS u WhatsApp. Wara li WhatsApp ipprojbixxa “gruppi tal-investiment” marbuta mal-operazzjoni, l-operaturi bdew jiġġeneraw messaġġi li sostnew li dawk il-gruppi kienu ġew irrapportati b’mod falz minn kompetitur, x’aktarx biex jiġġustifikaw il-projbizzjonijiet.

Ritratt tal-iskrin ta’ messaġġ fuq WhatsApp mibgħut mill-operazzjoni ta’ frodi marbuta mal-Kambodja lil investigatur ta’ OpenAI wara t-tneħħija minn WhatsApp.