Mga operasyong scam: Mga network ng online na panloloko

Ang pag-aaral ng kasong ito ay unang inilathala sa ulat ng OpenAI noong Oktubre 2025⁠(magbubukas sa bagong window).

Mga network na malamang na nagmula sa Cambodia, Myanmar, at Nigeria na inaabuso ang ChatGPT sa mga tila pagtatangkang manloko ng mga tao online.

Nakatuon kami sa pagtukoy, pagpigil, at pagsugpo sa mga pagtatangkang abusuhin ang aming mga modelo para sa mapaminsalang layunin. Kabilang sa mga pang-aabusong iyon ang mga scam, kung saan tinutukoy at bina-ban namin ang mga mapaminsalang indibidwal na nagtatangkang gamitin sa maling paraan ang aming mga modelo upang manlinlang at mandaya ng mga tao. Sa nakalipas na tatlong buwan, sinugpo namin ang mga scam network na malamang na nagmula sa Cambodia, Myanmar, at Nigeria. Bilang pahiwatig sa papel na maaaring gampanan ng AI sa paglaban sa panloloko, habang sinisiyasat namin ang mga ganitong uri ng pang-aabuso, nakita rin namin ang maraming taong gumagamit ng aming mga modelo upang matukoy ang mga scam. Tinatalakay sa ulat na ito ang dalawang gamit na iyon.

Ang pang-aabuso sa aming mga modelo upang suportahan ang mga scam ay mula sa mga indibidwal na nagtatangkang manloko hanggang sa malawakan at tuloy-tuloy na mga operasyong malamang na konektado sa mga organisadong grupong kriminal. Anuman ang kanilang pinagmulan at eksaktong taktika, karaniwang iisa ang padron ng mga aktibidad na may kaugnayan sa scam na sinugpo namin: ang ping (biglaang pakikipag-ugnayan), zing (pagpukaw ng pananabik o sindak), at sting (pagkuha ng pera o mahalagang impormasyon).

Nagsisimula ang mga scammer na ito sa pagpapakalat ng content—binuo man ng AI o hindi—sa mga serbisyo sa pagmemensahe at sa internet, kabilang ang pagpapalabas ng mga ad sa social media. Pagkatapos, sinusubukan nilang pukawin sa sinumang tumugon ang pananabik sa isang malaking pagkakataong kumita o ang takot sa napipintong pagkalugi, at gamitin ang damdaming iyon upang kumbinsihin ang target na ibigay ang pera o sensitibong impormasyon.

Marami rin kaming naobserbahang kaso kung saan malamang na nakatulong ang aming mga modelo na maprotektahan ang mga tao laban sa panloloko. Bawat buwan, milyun-milyong beses kaming nakakita ng ebidensiyang ginagamit ng mga tao ang ChatGPT upang matukoy at maiwasan ang mga online scam. Sa bawat operasyong scam sa ulat na ito, nakita naming tinutulungan ng modelo ang mga tao na wastong matukoy ang scam at pinapayuhan sila tungkol sa mga naaangkop na hakbang sa kaligtasan. Sa kasalukuyan, tinataya naming ginagamit ang ChatGPT sa pagtukoy ng mga scam nang hanggang tatlong beses na mas madalas kaysa sa paggamit nito para magsagawa ng mga scam.

Halimbawa ng isang imbestigador ng OpenAI na nag-paste sa ChatGPT ng screenshot ng natanggap niyang mapanlinlang na SMS at matagumpay na gumamit sa modelo upang matukoy itong scam. Sa kasong ito, nagpanggap ang mga banta bilang mga recruiter ng TikTok.

Mula noong huli naming ulat, pinahusay namin ang sarili naming kakayahang tumukoy at sumugpo sa mga scam. Sinugpo namin ang iba pang mga scam network na tila nagmula sa Cambodia, Myanmar, at Nigeria. Kasama ng mga nauna naming pagsugpo, nakatulong ang mga pagtanggal na ito upang matukoy namin ang ilang umuusbong na kalakaran sa maraming operasyong scam mula sa iba’t ibang bansa.

Karamihan sa mga aktibidad na scam na sinugpo namin ay nakatuon sa pagsasama ng AI sa mga dati nang taktika sa panloloko, sa halip na lumikha ng mga bagong taktikang nakasentro sa AI. Pangunahing ginamit ng lahat ng operasyong scam na natukoy at na-ban namin ngayong taon ang AI bilang kasangkapan upang mapalawak at mapahusay ang kanilang operasyon. Karaniwan, kabilang dito ang paggamit sa aming mga modelo para sa pagsasalin, pagsusulat ng mga mensahe, at paglikha ng content para sa social media.

Halimbawa, kamakailan naming bina-ban ang mga operasyong scam na malamang na nagmula sa Cambodia at Nigeria at nagpanggap bilang mga “kompanya sa pamumuhunan” upang mandaya ng mga biktima sa maraming bansa. Gumawa ang mga scammer ng mga website at online ad upang i-promote ang mga pekeng kompanya, at gumamit ng malamang na mga huwad na social media account na nagpapanggap bilang mga eksperto sa trading upang anyayahan ang mga tao sa mga pribadong messaging group. Sa pangakong malaki at walang-panganib na pagkakataong kumita, sinikap ng mga banta na hikayatin ang mga posibleng biktima na magbayad sa mga kathang-isip na trading platform. Sa lahat ng scam, pangunahing ginamit ng mga scammer ang aming mga modelo upang bumuo at magsalin ng mga liham at mensahe, lumikha ng content para sa kanilang mga website at social media account, at magsagawa ng pangunahing pananaliksik.

Sa isa pang kaso, bina-ban namin ang isang scam center na malamang na nasa Myanmar at gumamit sa aming mga modelo kapwa upang lumikha ng content para sa mga mapanlinlang nitong pakana at upang isagawa ang mga pang-araw-araw na gawain sa negosyo. Kabilang dito ang pag-aayos ng mga iskedyul, pagbabalangkas ng mga panloob na anunsiyo, pagtatalaga ng mga mesa at matutuluyan, at pamamahala ng mga account sa pananalapi. Nagtanong ang ilang operator tungkol sa mga parusang kriminal para sa mga taong mahuhuling nagsasagawa ng mga online scam.

Hindi pare-pareho ang paraan o antas ng pagiging komplikado ng paggamit sa aming mga modelo ng lahat ng scammer na sinugpo namin. Karamihan sa pakikipag-ugnayan ng mga scammer sa ChatGPT ay tungkol sa mga simpleng gawain gaya ng pagsasalin, ngunit mas ambisyoso at masalimuot ang ilang operasyong scam.

Halimbawa, gumamit ang isang operasyong scam na malamang na nagmula sa Cambodia ng aming mga modelo upang gumawa ng detalyadong talambuhay para sa mga pekeng eksperto sa pamumuhunan at mga kathang-isip na empleyado ng mga pekeng trading firm. Pagkatapos, hiniling ng mga scammer sa ChatGPT na sumulat ng mga mensahe sa social media gamit ang tinig ng mga karakter na iyon. Madalas, ipinapasok ng mga banta sa aming modelo ang mga mensaheng tila natanggap nila mula sa kanilang mga target, at hinihiling sa modelo na ipagpatuloy ang usapan bilang ang pekeng persona.

Nagsimula naman ang isa pang operasyong scam, na malamang ding nagmula sa Cambodia, sa paggamit ng aming mga modelo upang bumuo ng mga SMS para sa biglaang pangangalap ng biktima at ipadala ang mga ito nang maramihan sa mga numero ng telepono sa U.S. Ipinadala ang isa sa mga ito sa isang imbestigador ng OpenAI, katulad ng kasong iniulat namin noong Hunyo. Kabilang sa mga SMS na ito ang mga paanyayang sumali sa mga WhatsApp group—na bina-ban kalaunan—na may mga pangalang kahawig ng isang lehitimong kompanya sa pamumuhunan.

Batay sa serye ng mga mensahe sa WhatsApp na ipinadala sa imbestigador ng OpenAI, kapag sumali ang isang posibleng target sa isa sa mga grupong ito, agad siyang makakakita ng isang “pag-uusap” ng anim na magkakaibang account na pawang tumatalakay sa pamumuhunan. Nagpanggap ang isa sa mga ito bilang “eksperto sa pamumuhunan,” habang nagpanggap naman ang iba bilang mga mamumuhunang may iba’t ibang antas ng kumpiyansa at karanasan. Binuo ng mga scammer ang bawat bahagi ng usapang ito at isinalin iyon bilang isang buong bloke mula sa Chinese—malamang upang magmukhang masigla ang grupo at puno ng masigasig at matagumpay na trader. Sa bandang huli, imumungkahi ng “eksperto sa pamumuhunan” na subukan din ng target na mamuhunan.

Sa hiwalay na kaso, humingi sa modelo ang isang operasyong investment scam na malamang na nagmula sa Nigeria ng sunod-sunod na payo kung paano gumamit ng mga social media ad upang maabot ang mayayamang tao sa Latin America, itago ang kanilang lokasyon, at iwasan ang mga paghihigpit ng mga social media platform. Kabilang dito ang pag-akay sa modelo sa pampublikong mga tuntunin ng serbisyo ng isang platform at paghiling ditong suriin kung sumusunod ang iminungkahing content ng ad.

Mapilit ang mga scammer, lalo na ang malalaking scam center. Madalas, tumutugon sila sa pagsugpo sa pamamagitan ng pagtatangkang simulan muli ang kanilang lumalabag na aktibidad habang binabago ang ilang bahagi ng kanilang pagkilos, malamang upang makaiwas sa muling pagtukoy. Isa itong dahilan kung bakit mahalagang ibahagi sa buong industriya ang mga kaalaman tungkol sa nagbabago nilang aktibidad, gaya noong kapwa nagbahagi ang OpenAI at Meta ng impormasyon tungkol sa mga banta na nakatulong sa karagdagang pagsisiyasat at pagpapatupad.

Posibleng bilang tugon sa mga pagsugpo o sa mas malawak na online na talakayan tungkol sa mga palatandaang maaaring magbunyag ng paggamit ng AI, nakita naming tinatangkang ikubli ng mga scammer ang paggamit nila ng AI sa online content at pakikipag-ugnayan sa mga target. Kabilang dito ang mga operasyong scam na malamang na nagmula sa Cambodia at nag-utos sa modelo na alisin ang mga em dash sa mga output.

Sa isang kaso, tinangka ng mga scammer na ipaliwanag ang malawakang pagsugpo sa kanilang mga asset sa social media sa pamamagitan ng pag-imbento ng dahilan kung bakit sila na-ban. May kinalaman ito sa scam center na malamang na nagmula sa Cambodia at gumamit ng SMS at WhatsApp, gaya ng inilarawan sa itaas. Matapos i-ban ng WhatsApp ang mga “grupo sa pamumuhunan” na konektado sa operasyon, nagsimulang bumuo ang mga operator ng mga mensaheng nagsasabing maling iniulat ng isang kakumpitensya ang mga grupong iyon, malamang upang magbigay-dahilan sa mga pagbabawal.

Screenshot ng mensahe sa WhatsApp na ipinadala ng operasyong scam na konektado sa Cambodia sa isang imbestigador ng OpenAI matapos itong alisin ng WhatsApp.