Task scam: Mga pekeng trabahong mag-review na tinulungan ng AI

Orihinal na inilathala ang pag-aaral ng kasong ito sa ulat ng OpenAI noong Pebrero 2025⁠(magbubukas sa bagong window).

Nag-ban kami ng isang pangkat ng mga ChatGPT account na nagsasalin ng maiikling komento sa pagitan ng Urdu at Ingles na tumutugma sa isang scam na “gawain⁠(magbubukas sa bagong window).” Dito, inaalok ang mga biktima ng trabahong malaki ang sahod, ngunit kailangan muna nilang magpasok ng sarili nilang pera sa sistema bago nila makuha ang diumano nilang “kinita.” Mukhang nagmula sa Cambodia ang aktibidad na ito. Sa mga scam na ito, karaniwang nawawala sa mga biktima ang “kinita” at sarili nilang pera. Sinimulan naming imbestigahan ang aktibidad na ito matapos makatanggap ng impormasyon mula sa Meta.

Pangunahing ginamit ng network na ito ang aming mga modelo upang magsalin ng maiikling komento sa pagitan ng Urdu at Ingles, na tumutugma sa mga chat ng scammer at ng mga biktima nito. Nakakita kami ng mga pagtukoy sa pagpapalitan ng mensahe sa Telegram—na mukhang pangunahing platform nila—WhatsApp, SMS, at iba't ibang forum at grupo tungkol sa trabaho kung saan maaaring mag-post ng mga alok na trabaho.

Mukhang nagpanggap ang mga scammer bilang dalawang pangunahing uri ng persona. Ang isa ay ang “recruiter”: Ang mga mensahe nito ay biglaang pakikipag-ugnayan para mag-post ng mga ad tungkol sa remote na trabahong malaki ang sahod. Ang isa pa, na lumikha ng mas maraming aktibidad, ay ang “mentor,” na magpapatuloy sa pakikipag-ugnayan ng “recruiter” at magtuturo sa target kung paano gawin ang trabaho. Napakadalas banggitin ng mga mentor ang mga sesyon ng pagsasanay sa Telegram.

Paminsan-minsan, ginagamit din ng mga scammer ang aming mga modelo upang i-proofread ang teksto ng mga website. Mukhang ginaya ng mga site na ito ang mga pangalan at hitsura ng mga luxury brand sa disenyo, fashion, at paglalakbay. Sinasabi ng mga personang “mentor” na nagre-recruit sila para sa mga brand na iyon, na nagpapahiwatig na malamang na ginamit ang mga website upang magmukhang mas kapani-paniwala ang scam.

Batay sa limitado naming nakikita, mukhang sinunod ng mga scammer ang karaniwang prosesong ito upang dalhin ang kanilang mga target mula sa pakikipag-ugnayan tungo sa scam:

1. Pag-post ng trabaho: Batay sa kanilang mga prompt at nabuong output, mukhang nagsimula ang mga scammer sa pag-post ng mga alok na trabaho sa iba't ibang online forum. Karaniwang binabanggit sa recruitment ang remote na trabaho at nag-aalok ng sahod na medyo malaki para sa kaunting trabaho, gaya ng $300 bawat araw at mga bonus kapalit ng ilang oras na pagtatrabaho. Karaniwang ipinopost ang mga ito ng personang “recruiter.”

2. Mag-recruit: Pagkatapos, lilikha ang mga scammer ng mga komentong mula sa personang “mentor” upang makipag-ugnayan sa mga potensyal na empleyado gamit ang iba't ibang messaging app at sabihing katrabaho nila ang “recruiter.” Sasabihin ng “mentor” na nagtatrabaho ito para sa isa sa mga luxury brand na ginawan ng operasyon ng isang website. Ilalarawan nila ang gawain bilang pagsusumite ng mga five-star review sa mga site ng mga luxury brand na iyon, diumano upang mapataas ang kanilang mga rating mula sa customer.

3. Magbigay ng katiyakan: Sa mga nabuong output, madalas tiyakin ng mga scammer sa kanilang mga target na lehitimo ang trabaho dahil ginagawa ito para sa isang matagal nang kumpanya. Kung magpakita ng pag-aalinlangan ang target, sasabihin ng scammer na minsan na rin itong na-scam ngunit ligtas ang pagkakataong ito.

4. Magsanay: Kung interesado pa rin ang target, ipinahihiwatig ng mga nabuong output na aalukin siya ng “mentor” ng pagsasanay, karaniwan sa Telegram. Sa simula, bibigyan ang target ng access sa isang “training account,” kung saan inaasahan siyang magsumite ng 25–35 gawaing pag-review bawat araw. Ipapakita ng “training account” na mabilis na tumataas ang “kinikita” ng target.

5. Pukawin ang pananabik: Kung magpapatuloy ang target sa pagsasanay, madalas ipinahihiwatig ng mga nabuong output na aalukin siya ng “espesyal” o “pinakamahusay” na gawaing pag-review na may mas malaking bonus. Bibigyang-diin ng “mentor” kung gaano ito kabihira at kung gaano kasuwerte ang target.

6. “Bayad sa activation”: Kapag umabot sa isang partikular na halaga ang “kinita” ng target, kasama sa mga nabuong output ang pagsasabi ng “mentor” na kailangan niyang magbayad ng “bayad sa activation” upang ma-withdraw ang kanyang “kinita.” Kung kailangan, hihimukin siya ng scammer na manghiram sa mga kaibigan o kapamilya.

7. Gipitin: Ipinakita ng mga nabuong output na kung mag-aatubiling magbayad ang target, lalo pang magiging agresibo ang scammer. Gigipitin siya nito sa pamamagitan ng pagkukumpara sa kanya sa ibang mas mahusay na manggagawa at pagsasabing mawawala ang kanyang kinita kung hindi siya magbabayad.

8. Magdahilan: Sa mga nabuong output, kung may indikasyong nagbayad ang target, sunod-sunod na magdadahilan ang scammer kung bakit hindi ma-withdraw ng target ang kanyang kinita, at madalas sasabihing kailangan pa niyang magbayad nang mas malaki.

Ipinakita ng ilang pag-uusap na lubhang nagdududa ang mga target. Ang ilan sa mga komentong nilikha ng mga scammer ay mula sa boses ng isang mentor na nagtatanong kung bakit tumigil sa pagpapadala ng mensahe ang target nito, na nagpapahiwatig na malamang na mababa ang kabuuang conversion rate ng scam na ito. Gayunman, ipinahihiwatig ng ilang pag-uusap at online na ulat na may ilang biktimang talagang nagpasok ng pera sa mga scam na ito. Hindi namin malayang mabe-verify ang aktibidad na nagaganap sa labas ng aming mga tool.

Mahigpit na ipinagbabawal ng mga patakaran ng OpenAI ang paggamit ng output mula sa aming mga tool para sa panloloko o scam. Nakatuon kami sa pakikipagtulungan sa mga kapwa organisasyon sa industriya at mga awtoridad upang maunawaan kung paano naiimpluwensiyahan ng AI ang mapaminsalang pag-uugali at aktibong mapigil ang mga scam na umaabuso sa aming mga serbisyo. Alinsunod sa pangakong ito, ibinahagi namin sa mga kapwa organisasyon sa industriya at mga kaugnay na awtoridad ang impormasyon tungkol sa mga scam network na napigil namin upang mapahusay ang kaligtasan nating lahat.