Operazzjoni “Xhud Falz”: Servizz falz ta’ rkupru ta’ flus li jippreżenta ruħu bħala awtoritajiet
OpenAI pprojbixxiet kontijiet li x’aktarx oriġinaw fil-Kambodja u użaw l-IA biex jippreżentaw ruħhom bħala servizzi ta’ rkupru ta’ flus, ditti legali u awtoritajiet, filwaqt li ħadu fil-mira persuni milquta mill-frodi.
Dan l-istudju tal-każ ġie ppubblikat għall-ewwel darba fir-rapport ta’ OpenAI ta’ Frar 2026(jinfetaħ f’tieqa ġdida) dwar it-tfixkil tal-użi malizzjużi tal-IA.
Min kien involut
Ipprojbixxejna grupp ta’ kontijiet ta’ ChatGPT li kienu jużaw il-mudelli tagħna biex jippreżentaw ruħhom bħala ditti legali fittizji, kif ukoll biex jimpersonaw avukati reali u aġenziji tal-infurzar tal-liġi tal-Istati Uniti, fi skema ta’ qerq li kienet twiegħed l-irkupru ta’ flus u timmira lejn vittmi tal-frodi. Din l-attività x’aktarx oriġinat fil-Kambodja u taqbel ma’ rapporti pubbliċi reċenti dwar operazzjonijiet kriminali ta’ qerq immexxija miċ-Ċiniżi fil-pajjiż.
Imġiba
Il-kontijiet użaw ChatGPT biex jgħinu operazzjoni frawdolenti li kienet twiegħed l-irkupru ta’ flus mitlufa fi skemi ta’ qerq. L-operazzjoni kienet ibbażata fuq ditti legali foloz u l-impersonazzjoni ta’ entitajiet fdati, bħal avukati reali u ċ-Ċentru tal-FBI għall-Ilmenti dwar il-Kriminalità fuq l-Internet (IC3).
1. Kuntatt inizjali: Il-qarrieqa użaw ChatGPT biex joħolqu kontenut li kien jidher li ġej minn mill-inqas sitt ditti legali foloz. Parti minn dan il-kontenut imbagħad ġiet ippubblikata minn kontijiet tal-midja soċjali u f’reklami online li kienu jippromwovu servizzi fittizji għall-irkupru ta’ flus mitlufa fi skemi ta’ qerq. Diversi indikaturi minn sorsi miftuħa ssuġġerew li d-ditti kienu frawdolenti. Dawn kienu jinkludu n-nuqqas ta’ evidenza ta’ liċenzji mill-korpi statali tal-avukati, l-użu ta’ dominji tal-web mhux konsistenti mal-identità tad-ditti, dettalji ta’ kuntatt b’indirizzi fiżiċi li ma jidhrux li jeżistu, u struzzjonijiet biex wieħed jikkuntattja lill-avukati permezz ta’ apps tal-messaġġi.
Il-qarrieqa użaw il-mudelli tagħna biex jiġġeneraw kontenut għall-midja soċjali li jippromwovi servizzi foloz għall-irkupru ta’ flus mitlufa fi skemi ta’ qerq.
2. Kisba tal-fiduċja: Il-qarrieqa ppruvaw jiksbu l-fiduċja tal-persuni fil-mira tagħhom billi ġġeneraw kummenti li kienu jippruvaw jimitaw it-ton u l-professjonalità ta’ avukati speċjalizzati fl-għajnuna lill-vittmi tal-qerq biex jirkupraw it-telf finanzjarju tagħhom. Iġġeneraw kontenut li kien jidher li ġej minn identitajiet fittizji ta’ avukati. Identifikajna xi wħud minn dawn l-identitajiet fuq diversi siti web, fejn ir-ritratti tal-profil tagħhom kienu apparentement ittieħdu mill-midja soċjali jew ġew iġġenerati bl-IA. F’xi każijiet, il-qarrieq reġa’ uża l-istess identitajiet ta’ “avukati” f’diversi ditti li allegatament kienu legali. Wieħed mis-siti web li identifikajna kien jippreżenta ruħu bħala l-IC3.
Id-dettalji ta’ kuntatt ippubblikati fuq dawn id-diversi siti frawdolenti kienu jidderieġu lill-viżitaturi lejn apps ta’ messaġġi privati, bħal Telegram. F’messaġġi għall-persuni fil-mira tagħhom abbozzati b’ChatGPT, il-qarrieqa sostnew b’mod falz li kienu joperaw taħt is-superviżjoni tal-Qorti Kriminali Internazzjonali u qalu li ma kienu se jintalbu ebda ħlasijiet qabel ma jiġu rkuprati l-flus kollha tal-vittma.
3. In-nassa: Il-qarrieqa ppruvaw jieħdu l-flus mingħand il-persuni fil-mira tagħhom billi talbu ħlasijiet u depożiti qabel ma jsir kwalunkwe “rkupru”. Dan kien jinkludi struzzjonijiet biex il-persuni fil-mira jħallsu “miżata tas-servizz” ta’ 15% qabel ma jirċievu l-flus li allegatament kienu ġew irkuprati, talbiet għal depożiti biex jiġi attivat kont, u “miżati ta’ konsultazzjoni”. Il-messaġġi tal-qarrieqa lill-persuni fil-mira tagħhom, abbozzati b’ChatGPT, kienu jinkludu struzzjonijiet biex jibagħtu pagamenti bil-kriptovaluta u jipprovdu ritratti tal-iskrin tal-konfermi tat-tranżazzjonijiet bħala prova tal-ħlas.
Sit web li jimpersona l-unità IC3 tal-FBI u huwa marbut ma’ din l-iskema ta’ qerq. Meta l-viżitaturi kienu jikklikkjaw “ressaq ilment”, kienu jittieħdu lejn kont ta’ Telegram li juża identità falza.
Twettiq
L-operazzjoni użat il-mudelli tagħna biex tgħin f’diversi partijiet tal-proċess tax-xogħol tagħha, bħall-ġenerazzjoni ta’ kontenut promozzjonali għall-midja soċjali u messaġġi mhux mitluba għall-kuntatt inizjali mal-persuni fil-mira. Madankollu, il-qarrieqa l-aktar li użaw ChatGPT kien biex jittraduċu messaġġi mibgħuta lil jew riċevuti mingħand il-persuni fil-mira fuq apps ta’ messaġġi privati. Dawn kienu jinkludu talbiet biex tinkiteb tweġiba bl-“Ingliż Amerikan” jew bl-istil ta’ avukat.
Xi wħud mill-kontijiet involuti fil-qerq użaw ukoll il-mudelli tagħna biex joħolqu materjali qarrieqa maħsuba biex isaħħu l-kredibbiltà tagħhom. Dawn kienu jinkludu rekords foloz ta’ reġistrazzjoni ta’ avukati u karti foloz ta’ sħubija f’għaqdiet tal-avukati, kif ukoll ftehimiet foloz ta’ kunfidenzjalità biex jiskoraġġixxu lill-vittmi milli jfittxu għajnuna minn barra.
Karta falza ta’ sħubija fl-Għaqda tal-Avukati tal-Istat ta’ New York iġġenerata bil-mudelli tagħna. Xi informazzjoni ġiet mgħottija mill-investigaturi ta’ OpenAI.
Impatt
L-impatt irid jiġi vvalutat b’kawtela għax sors ewlieni ta’ evidenza huwa dak li daħħlu l-qarrieqa stess fis-sistema. Dak il-kontenut jissuġġerixxi li l-qarrieqa setgħu ħadu eluf ta’ dollari mingħand vittmi individwali permezz tal-frodi, iżda ma nistgħux nivverifikaw dawn l-allegazzjonijiet b’mod indipendenti. L-FBI u mill-inqas ditta legali waħda li ġiet impersonata ħarġu twissijiet pubbliċi dwar din l-iskema ta’ qerq. Uffiċjali tal-FBI wissew li l-operazzjoni timmira lejn gruppi vulnerabbli, b’mod partikolari l-anzjani, u tisfrutta l-istat emozzjonali tal-vittmi tal-qerq u x-xewqa tagħhom li jirkupraw malajr il-flus mitlufa.
Il-politiki ta’ OpenAI jipprojbixxu b’mod strett l-użu tal-kontenut iġġenerat mill-għodod tagħna għal frodi jew skemi ta’ qerq. Aħna impenjati li nikkollaboraw ma’ oħrajn fl-industrija u mal-awtoritajiet biex nifhmu kif l-IA qed tinfluwenza l-imġiba ta’ atturi malizzjużi u biex infixklu b’mod attiv attivitajiet ta’ qerq li jabbużaw mis-servizzi tagħna.