Scam na nang-aakit gamit ang pag-ibig: Mga workflow ng “pig butchering” na tinulungan ng AI
Nag-ban ang OpenAI ng mga account na mukhang nagmula sa Cambodia at gumamit ng AI upang magsalin at bumuo ng mga usapan para sa scam sa pag-ibig at pamumuhunan.
Ang case study na ito ay unang inilathala sa ulat ng OpenAI noong Pebrero 2025(magbubukas sa bagong window).
Aktor
Nag-ban kami ng isang pangkat ng mga ChatGPT account na nagsasalin at bumubuo ng maiikling komento sa Japanese, Chinese, at English. Mukhang nagmula sa Cambodia ang aktibidad na ito at tumutugma ito sa isang scam sa pag-ibig at pamumuhunan (kilala rin bilang “pig butchering”). Kamakailan ay natukoy ng Meta ang kaugnay na aktibidad(magbubukas sa bagong window) sa platform nito na mukhang nagmula sa isang bagong tayong scam compound sa Cambodia.
Gawi
Ginamit ng network na ito ang aming mga modelo upang magsalin at bumuo ng maiikling komento. Mukhang Chinese ang pangunahing wika ng mga aktor. Nasa iba’t ibang wika ang mga output, lalo na sa Japanese at Chinese, ngunit mayroon din sa English.
Ginamit ng mga aktor ang aming mga modelo para sa dalawang pangunahing aktibidad. Una, bumubuo sila ng mga komentong pampublikong ipinopost sa mga social media platform, kabilang ang Facebook, X, at Instagram. Karaniwang may isa o higit pang larawan sa profile ng isang dalaga ang bawat social media account. Sa pagtataya namin, kinopya ang ilan sa mga larawang ito mula sa mga totoong modelo o influencer at hindi binuo ng AI.
Karamihan sa mga nabuong komento ay ipinost bilang tugon sa mga social media post ng mga totoong tao. Ilang buwan o taon na ang ilan sa mga post na sinagot ng mga operator. Karaniwang pinupuntirya ng operasyong ito ang mga lalaking mahigit 40 taong gulang batay sa kanilang pampublikong profile, at madalas ay nasa propesyong medikal. Madalas sumagot ang operasyon sa mga post tungkol sa golf, na nagpapahiwatig ng sinasadyang estratehiya sa pagpili ng target. Paminsan-minsan, nagpopost ang mga scammer tungkol sa mga isyung pampolitika o kasalukuyang pangyayari.
Komento sa Facebook na binuo ng aktor na ito gamit ang aming mga modelo, bilang tugon sa komento tungkol sa golf ng isang taong mukhang walang kaugnayan sa operasyong ito. Kinopya ang larawan sa profile ng scam account mula sa isang influencer sa fashion at pagpapaganda sa U.S. Mahigit isang buwan na ang orihinal na post nang magkomento roon ang scam account.
Komentong binuo ng aming mga modelo at ipinost ng isang beripikadong account sa X bilang tugon sa tweet ng isang account na mukhang walang kaugnayan sa scam na ito. Kinopya ang larawan sa profile ng account mula sa parehong influencer sa fashion at pagpapaganda sa U.S. Halos anim na buwan na ang orihinal na tweet.
Ikalawa, at mas madalas, bumubuo ang mga operator ng maiikling komentong mistulang bahagi ng isang online na usapan. Karaniwan itong pagsasalin ng mga komento mula sa Chinese tungo sa target na wika (Japanese o English), o mula sa target na wika pabalik sa Chinese. Tumutugma ito sa paggamit ng mga scammer sa modelo, pangunahin upang isalin ang mga nagpapatuloy na chat.
Kung minsan, hinihiling ng mga account sa modelo na bumuo ng tugon sa isang partikular na tono, gaya ng isang malanding dalaga. Kung minsan, nagbibigay sila ng maraming detalye tungkol sa buhay ng pekeng persona upang gabayan ang modelo sa pagsagot, kabilang ang pangalan, pinag-aralan, trabaho, lokasyon, at mga libangan nito. Karaniwang kasama sa mga talambuhay na ito ang detalyeng sumusubok ang pekeng persona sa online na pamumuhunan.
Mukhang gumamit ang mga scammer ng maraming iba’t ibang tool at platform upang makipag-ugnayan sa kanilang mga target. Nakakita sa aming imbestigasyon ng ebidensiyang gumamit sila ng mga tool tulad ng LINE, WhatsApp, X, Facebook, Instagram, iba’t ibang serbisyo sa pagmemensahe, function ng Apple na “Itago ang Aking Email”(magbubukas sa bagong window), at mga platform para sa cryptocurrency at foreign exchange.
Mga output
Batay sa partikular naming pananaw sa aktibidad na ito, mukhang sinunod ng mga scammer ang karaniwang workflow na ito upang akayin ang kanilang mga target mula sa pakikipag-ugnayan tungo sa mapanlinlang na pamumuhunan:
Pampublikong pakikipag-ugnayan: Nagkokomento ang mga scammer sa mga social media post ng target. Madalas nagtatapos ang mga komentong ito sa isang tanong gaya ng, “Ano sa palagay mo ang tungkol sa [paksa]?”—malamang upang madagdagan ang posibilidad na tumugon ang target. Sa ilang kaso, nagkomento sila tungkol sa politika, ngunit mas madalas nilang pinag-uusapan ang golf.
Malamang na direktang pagmemensahe: Pagkatapos, bumubuo ang mga scammer ng maiikli at palagay na komento. Bagaman hindi namin lubos na nakikita kung paano at saan ginamit ang mga ito, tumutugma ang mga komento sa sitwasyong nagsimula nang magpalitan ng direktang mensahe ang scammer at ang target.
Secure na pagmemensahe: Hindi nagtagal, kadalasan sa loob ng ilang araw, bumubuo ang mga scammer ng mga mensaheng nagmumungkahing lumipat sa mas secure na messaging app. Kung minsan, sinasabi nilang hindi nagtitiwala ang scammer sa social media; sa ibang pagkakataon, nagbibigay sila ng praktikal na dahilan, gaya ng pagpunta sa isang lugar na walang access sa social media.
Romantikong pakikipag-ugnayan: Sumusulat at nagsasalin ang mga scammer ng mga mensaheng lalong nagiging mapagmahal at matalik. Kapag humihingi ang mga target ng larawan ng “babaeng” kausap nila, gumagawa ng mga dahilan ang mga scammer.
Pinansyal na pakikipag-ugnayan: Sumusulat at nagsasalin ang mga scammer ng mga mensaheng ipinagyayabang ang malaking perang kinita sa online na pamumuhunan sa foreign exchange, cryptocurrency, o ginto. Madalas itong inilalarawan bilang resulta ng pagsunod sa payo ng isang kamag-anak na nagtatrabaho sa pananalapi. Hihikayatin ng scammer ang target na mamuhunan sa parehong paraan at mag-aalok na gabayan siya sa proseso.
Pandaraya: Sumusulat at nagsasalin ang mga scammer ng mga mensaheng naglalayong kumbinsihin ang biktima na maglipat ng pera sa isang trading app, at hinihikayat siya sa pamamagitan ng pagmamalaki sa laki ng kinikita niyang tubo. Sa tuwing susubukan ng biktimang i-withdraw ang kanyang “mga tubo,” magbibigay ng dahilan ang scammer, gaya ng pagsasabing kailangang magbayad ng fee.
Ang ganitong pattern ng aktibidad ay tumutugma sa mga pampublikong ulat(magbubukas sa bagong window) tungkol sa karaniwang paraan ng paggana ng ganitong mga scam.
Epekto
Mukhang maraming nabigong pagsisimula at pagtatangka ang aktibidad na ito. Ang ilan sa mga usapang iprinoceso ng mga scammer sa aming mga modelo ay nagtapos nang tahasang sabihin ng target na scam ito, o nang sabihan niya ang scammer na tigilan siya. Natukoy rin namin ang mga post ng mga scammer sa social media na walang anumang pakikipag-ugnayan.
Gayunman, binanggit sa ilang usapan ang libo-libong dolyar (o katumbas na halaga sa ibang currency) bilang laki ng bawat transaksyon. Dahil sa paraan ng paggamit ng mga operator na ito sa aming mga modelo, hindi namin nakikita kung talagang isinagawa ang mga pinansyal na transaksyong ito. Gayunman, ipinahihiwatig ng mga binanggit sa usapan na sa ilang kaso man lang ay nagawa ng mga scammer na dayain ang kanilang mga target.
Mahigpit na ipinagbabawal ng mga patakaran ng OpenAI ang paggamit sa output ng aming mga tool para sa pandaraya o scam. Nakatuon kami sa pakikipagtulungan sa mga kapwa organisasyon sa industriya at sa mga awtoridad upang maunawaan kung paano ginagamit ang AI sa mapaminsalang gawain at aktibong mapigil ang mga scam na umaabuso sa aming mga serbisyo. Alinsunod sa pangakong ito, ibinahagi namin sa mga kapwa organisasyon sa industriya at sa mga kaugnay na awtoridad ang impormasyon tungkol sa mga scam network na pinigil namin.