Operasyong “Maling Numero”: Panlolokong gumagamit ng AI at mga gawain

Orihinal na inilathala ang case study na ito sa ulat ng OpenAI noong Hunyo 2025⁠(magbubukas sa bagong window).

Nag-ban kami ng mga ChatGPT account na bumubuo ng maiikling mensaheng pang-recruit sa English, Spanish, Swahili, Kinyarwanda, German, at Haitian Creole. Nag-aalok ang mga mensaheng ito ng matataas na suweldo para sa napakasimpleng gawain, gaya ng pag-like sa mga post sa social media, at hinihikayat ang mga tatanggap na mag-recruit ng iba. Mukhang lubos na sentralisado ang operasyon at malamang na nagmula ito sa Cambodia.

Sa tulong ng mga translation tool na pinapagana ng AI, mabilis naming naimbestigahan at nahadlangan ang paggamit ng kampanya sa mga serbisyo ng OpenAI.

Karamihan sa mga komento ng network ay may kinalaman sa mga gawain sa pagsasalin. Ginamit nila ang ChatGPT upang magsalin ng mga pangungusap sa pag-uusap sa pagitan ng Chinese at iba pang wika, lalo na sa English, Spanish, Kinyarwanda, Swahili, German, at Haitian Creole. Karaniwang salitan sa mga gawaing ito ang pagsasalin sa Chinese ng isang natanggap na mensahe at ang pagsasalin ng tugon mula sa Chinese pabalik sa orihinal na wika.

Ang ilan sa mga mensaheng ito ay kahawig ng mga hindi hinihinging patalastas sa trabaho, na nag-aalok ng mataas na orasang bayad para sa napakakaunting gawain. Ipinamahagi sa pamamagitan ng SMS ang isang ganitong mensahe sa tila random na grupo ng mga mobile number sa UK, at ang isa sa mga ito ay pag-aari ng isang imbestigador ng OpenAI. Tinawag naming Operasyong “Maling Numero” ang operasyong ito bilang pagkilala sa unang SMS.

Mukhang gumagamit ang mga banta sa likod ng operasyon ng maraming platform sa pagmemensahe. Itinuro ng unang SMS ang mga tatanggap sa WhatsApp, at mula roon ay ipinapasa ang mga tumutugon sa isang “mentor” sa Telegram. Binanggit din sa ilang aktibidad ang messaging app na BonChat. Mukhang hindi binuo gamit ang aming mga modelo ang mga nauna at panimulang mensahe sa mga channel na ito. Binubuo ang mga ito ng mga karaniwang mensaheng malamang na magagamit sa bawat pag-uusap.

Marami sa mga gawain sa pagsasalin ang may kinalaman sa mga komunikasyong sinasabing nagmula sa mga kinatawan ng umano’y mga kumpanyang “employer.” Paulit-ulit na lumitaw ang parehong mga pangalan ng kumpanya sa maraming pag-uusap sa ChatGPT na saklaw ng imbestigasyong ito. Kabilang dito ang Hyesung Advertising⁠(magbubukas sa bagong window) at Lightning Shared Scooter Co (LSSC)⁠(magbubukas sa bagong window). Tinukoy sa mga pampublikong ulat ang Hyesung at LSSC bilang mga umano’y panloloko gamit ang mga gawain. Bagama’t hindi namin hiwalay na napatunayan ang katangian ng mga organisasyong ito, natuklasan sa aming imbestigasyon na ang mga mensaheng sinasabing mula sa kanila ay binuo ng mga gumagamit ng ChatGPT na nagsasalita ng Chinese at malamang na nasa Cambodia.

Mula sa stock trading at pagpapaupa ng scooter hanggang sa pagbebenta ng mga like sa social media, iba’t ibang industriya ang saklaw ng mga kumpanyang sinasabing kinakatawan ng network na ito. Isang malinaw na babala ang alok na magbayad ng higit sa $5 para sa isang like sa TikTok. Bilang paghahambing, ipinakita ng aming manwal na pagsusuri sa mga online marketplace na wala pang $10 ang sinisingil ng ilang nagbebenta para sa 1,000 like sa social media.

Sa pagsasama ng mga palatandaan mula sa labas ng platform at ng aming mga panloob na obserbasyon, natukoy namin ang isang paulit-ulit na pattern ng proseso. Upang mas maunawaan ng marami ang taktikang ito at mapadali ang pag-uuri rito, inilalarawan namin ang pattern bilang: ping (unang kontak), zing (pagpapasigla ng interes), at sting (pagkuha ng pera):

1. Ang ping (unang kontak): Bumubuo ang network ng content para sa hindi hinihinging pakikipag-ugnayan, na karaniwang nag-aalok ng napakataas na sahod para sa kaunting trabaho o nangangako ng malalaking kita mula sa pamumuhunan sa stock market. Kabilang sa mga alok na ito ang mataas na bayad para sa mga simpleng gawain, gaya ng pag-like sa mga post sa social media, o mga mapagkakakitaang pagkakataon sa pamumuhunan.

2. Ang zing (pagpapasigla ng interes): Isinasalin ng network ang mga pag-uusap, na malamang ay sa pagitan ng Operator at ng kanilang mga “empleyado.” Kabilang sa mga usapang ito ang mga detalye tungkol sa pagsasagawa ng mga gawain, ngunit madalas ding sinisingitan ang mga ito ng mga mensaheng nagbibigay-motibasyon tungkol sa kita at mga posibleng bonus.

3. Ang sting (pagkuha ng pera): Bumubuo at/o nagpapadala ang network ng content na nanggigipit sa “empleyado” o “mamumuhunan” na magbigay ng pera upang makakuha ng mas malalaking gantimpala. Iba-iba ang anyo nito, kabilang ang paunang “deposito,” pagbili ng cryptocurrency, at mga “bayarin sa pagproseso.”

Ipinahihiwatig ng mga pampublikong ulat⁠(magbubukas sa bagong window) na naniningil ang ilan sa mga kumpanyang ito ng malalaking joining fee sa mga bagong recruit, at pagkatapos ay ginagamit ang bahagi ng pondong iyon upang bayaran ang kasalukuyang mga “empleyado” nang sapat lang para mapanatili ang kanilang pakikilahok. Karaniwan ang ganitong istruktura sa mga panloloko gamit ang mga gawain⁠(magbubukas sa bagong window).

Mahirap sukatin ang tunay na lawak ng network na ito dahil limitado ang aming nakikita. Gayunman, ipinahihiwatig ng mga ulat mula sa labas ng platform⁠(magbubukas sa bagong window) at ng mga pag-uusap kung saan humingi ng refund ang mga “empleyado” na may ilang indibidwal na nagbayad sa umano’y mga employer na ito. May nakita rin kaming mga tunay na user na ipinagtatanggol ang mga kumpanya sa social media, na nagpapahiwatig ng aktuwal na pakikilahok ng ilang tao.