Pagpigil sa isang kriminal na operasyon ng panloloko na nakabase sa Cambodia
Pinatigil ng OpenAI ang isang operasyon ng panloloko na nakabase sa Cambodia at gumagamit ng ChatGPT para sa mga pakana sa pamumuhunan, pag-iibigan, pagsusugal, at pagpapanggap.
Panimula
Noong unang bahagi ng taong ito, pinatigil namin ang isang operasyon ng panloloko na nakabase sa Cambodia at gumagamit ng ChatGPT para sa mga pakana sa pamumuhunan, pag-iibigan, pagsusugal, at pagpapanggap bilang tagapagpatupad ng batas. Sinimulan naming imbestigahan ang aktibidad na ito matapos makatanggap ng impormasyon mula sa aming mga kasamahan sa WhatsApp, at mula noon ay nagbahagi kami ng mga karagdagang senyales ng banta sa mga katuwang sa industriya at kinauukulang awtoridad.
Ipinapakita ng operasyong ito ang isang mahalagang realidad tungkol sa mga makabagong network ng panloloko: bihirang magtuon lamang sa iisang uri ng panloloko ang mga organisadong grupong kriminal. Sa halip, sinasamantala nila ang anumang kuwento, katauhan, at taktika na sa tingin nila ay pinakamabisang makapanlinlang ng mga biktima. Sa aming mga imbestigasyon, karaniwan naming nakikitang nagpapalit-palit ang mga sangkot sa iba't ibang uri ng panloloko o pinagsasama ang maraming paraan ng panloloko sa iisang operasyon.
Bumuo rin ang ilang user sa network ng content na nagpapahiwatig ng kaugnayan sa human trafficking at sapilitang paggawa ng krimen. Tumutugma ang mga obserbasyong ito sa malawakang pampublikong pag-uulat(magbubukas sa bagong window) na naglalarawan(magbubukas sa bagong window) sa mga organisadong grupong kriminal sa Timog-Silangang Asya na nangangalap ng mga manggagawa sa pangakong magkakaroon sila ng lehitimong trabaho, bago sila bitagin sa sistemang nagtatali sa kanila sa utang at pamimilit. Bagama't hindi namin malayang matukoy ang kalagayan ng bawat taong sangkot, ipinapaalala ng aktibidad na ito na maaari ring maging biktima ng pananamantala ang mga taong nagsasagawa ng panloloko.
Aktor
Nag-ban kami ng isang koordinadong network ng mga ChatGPT account na malamang na nagmula sa Cambodia at posibleng kumikilos sa Poipet o sa paligid nito. Ang Poipet ay isang lungsod sa lalawigan ng Banteay Meanchey na paulit-ulit na iniuugnay(magbubukas sa bagong window) ng pampublikong pag-uulat(magbubukas sa bagong window) sa(magbubukas sa bagong window) mga compound ng online scam at operasyon ng trafficking.
Ginamit ng network ang aming mga modelo upang lumikha at magpatakbo ng mga pekeng online na katauhan, bumuo at magsalin ng mga mensaheng ipinapadala sa mga puntirya ng scam, gumawa ng promotional content para sa kanilang mga mapanlinlang na pakana, at tumulong sa pang-araw-araw na operasyon.
Tulad ng mga nakaraang(magbubukas sa bagong window) network ng panloloko na pinatigil namin, gumamit din ang ilang user ng ChatGPT para sa gawaing administratibo, kabilang ang pagbubuo ng mga panloob na anunsyo, pagsasalin ng mga mensahe sa pagitan ng mga tauhan, at pagtatala ng mga usaping tila nauugnay sa recruitment, katayuan sa imigrasyon, mga kondisyon sa trabaho, at pagdidisiplina sa empleyado.
Gawi
Sabay-sabay na nagsagawa ang network ng maraming uri ng panloloko at madalas na pinaghahalo ang mga elemento mula sa iba't ibang pakana. Halimbawa, gumamit ang mga operator ng mga dating persona upang makuha ang tiwala ng mga puntirya bago mag-alok ng mga mapanlinlang na pagkakataong mamuhunan sa cryptocurrency at spot gold trading. Ang ibang user ay nakipag-usap nang matagal at romantiko sa mga puntirya gamit ang mga gawa-gawang pagkakakilanlan, nagpanggap na kinatawan ng mga online gambling platform na nag-aalok ng mga pekeng bonus at premyo, o nagpanggap bilang mga ahensiyang nagpapatupad ng batas upang sabihing kailangang magbayad ng multa ang mga puntirya dahil sa umano'y mabibigat na krimen.
Bagama't magkakaiba ang kanilang mga kuwento, pare-pareho ang pattern sa likod ng mapanlinlang na gawi ng mga user sa buong network. Halimbawa, gumawa at nagpatakbo sila ng mga pekeng dating profile, gawa-gawang eksperto sa pamumuhunan, at huwad na katauhan ng mga tagapagpatupad ng batas. Bumuo rin sila ng mga larawan ng pinekeng dokumento, kabilang ang mga pasaporte, legal na abiso, kumpirmasyon ng pagbili ng stock, at interface ng mga platform sa pagsusugal.
Gaya ng binigyang-diin namin sa(magbubukas sa bagong window) mga nakaraang(magbubukas sa bagong window) ulat(magbubukas sa bagong window), may sinusunod na pattern ang mga scammer sa kanilang pakikipag-ugnayan sa mga puntirya, na tinatawag naming the ping (pakikipag-ugnayan), the zing (pagpukaw ng damdamin), at the sting (pagkuha ng pera).
The ping: Ginamit ng network ang ChatGPT upang magsalin at bumuo ng mga pakikipag-usap sa mga puntirya sa mga messaging platform gaya ng WhatsApp at Telegram. Gumawa rin ang mga scammer ng content para sa social media at nagsaliksik ng materyal para sa mga dating profile upang suportahan ang kanilang mga pekeng katauhan.
The zing: Madalas gumagamit ang mga mensahe ng mga scammer ng emosyonal na pamimilit at mga paraang naglalayong makuha ang tiwala. Kabilang sa mga halimbawa ang mga pangako ng garantisadong kita at mga pamumuhunang “walang panganib,” romantikong pananalita, tagubiling ilihim ang mga pag-uusap, at agarang paghiling na kumilos bago mawalan ng bisa ang mga kathang-isip na bonus.
The sting: Inutusan ng mga scammer ang mga biktima na magdeposito upang ma-unlock ang umano'y mga gantimpala, magbayad ng activation fee, bayaran ang mga gawa-gawang multa, at pagkatapos ay magbigay ng mga screenshot ng paglilipat o impormasyon ng account bilang patunay ng pagbabayad.

Isang pekeng cryptocurrency trading interface na ginawa gamit ang ChatGPT ng isang scammer sa network.

Isang larawang binuo ng AI na ginawa ng scammer sa network upang mag-promote ng huwad na pakana sa pamumuhunan.
Mga Palatandaan ng Human Trafficking
Bukod sa mga scam, bumuo ang ilang user ng content na nagpapahiwatig ng pagkakasangkot sa iba pang lumalabag na aktibiad na tinutukoy at pinipigilan namin, gaya ng human trafficking o sapilitang pagtatrabaho. Kabilang dito ang paggawa ng mga advertisement sa social media para sa mga trabahong “chatter” sa Poipet na nangangako ng mga pamasahe sa eroplano, tirahan, pagkain, visa, at permit sa trabaho.
Ang iba pang aktibidad ay tila nauugnay sa pamamahala ng mga manggagawa sa loob ng operasyon. Nagtago ang mga user ng mga rekord ng utang ng empleyado, bawas sa suweldo, multang pandisiplina, at pagbabayad ng utang, at nagsalin ng mga talakayan tungkol sa katayuan sa imigrasyon, mga permit sa trabaho, paglampas sa bisa ng visa, at mga insentibo sa recruitment.
Binanggit din sa ilang pag-uusap ang tila pagkakadetine, mga tangkang pagtakas, at posibleng pananagutang kriminal ng mga taong na-traffick at pinilit magtrabaho sa mga operasyon ng panloloko. Bagama't hindi namin matutukoy mula sa mga pag-uusap na ito ang kalagayan ng sinumang partikular na tao, tumutugma ang mga ito sa malawakang pampublikong pag-uulat(magbubukas sa bagong window) na naglalarawan(magbubukas sa bagong window) sa mga aktibidad ng mga organisadong grupong kriminal sa Timog-Silangang Asya.


Mga larawang binuo ng AI na ginawa ng mga scammer sa network upang mag-advertise ng mga trabaho sa Cambodia sa social media. Tinakpan ng OpenAI ang mga sensitibong impormasyon.
Epekto
Nag-ban kami ng mga ChatGPT account na nauugnay sa operasyong ito, nagbahagi ng mga nauugnay na palatandaan sa mga katuwang sa industriya at kinauukulang awtoridad, at gumawa ng mga hakbang upang pahirapan ang mga sangkot na muling ma-access ang aming mga produkto at serbisyo.
Hindi alam ang kabuuang halaga ng pagkaluging pinansyal na nauugnay sa network, ngunit batay sa sariling komunikasyon ng mga scammer, maaaring nakipag-ugnayan ang operasyon sa daan-daang puntirya sa iba't ibang uri ng panloloko. Binanggit sa mga pag-uusap ng user ang mga indibidwal na biktimang nawalan ng libo-libong dolyar, bagama't hindi namin malayang mapatunayan ang mga pahayag na iyon.
Sa mas malawak na pananaw, pinagtitibay ng kasong ito ang dalawang trend. Una, maaaring lubhang sari-sari ang mga organisadong network ng panloloko, na sabay-sabay na nagpapatakbo ng maraming mapanlinlang na pakana sa halip na tumuon lang sa iisang uri ng panloloko. Ikalawa, madalas na hindi malinaw ang mga hangganan sa pagitan ng online na pandaraya, organisadong krimen, at human trafficking. Samakatuwid, upang maging epektibo ang pagpigil, kailangang puntiryahin hindi lamang ang mga panlolokong direktang nakatuon sa mga biktima kundi pati ang mga kriminal na organisasyong nagpaplano at kumikita mula rito.