Operasyong “Pain na Ka-date”: Panlolokong pinapagana ng AI na tumatarget sa mga naghahanap ng pag-ibig

Unang inilathala ang pag-aaral na ito ng kaso sa ulat ng OpenAI noong Pebrero 2026⁠(magbubukas sa bagong window) tungkol sa pagsugpo sa mapaminsalang paggamit ng AI.

Ipinagbawal namin ang isang grupo ng mga ChatGPT account at isang kliyente ng API na gumagamit ng aming mga modelo para magpatakbo ng bahagyang awtomatikong panlolokong gumagamit ng pag-ibig at mga gawain, na malamang ay nanloloko ng daan-daang biktima bawat buwan. Malaki ang posibilidad na nagmula sa Cambodia ang aktibidad na ito, at kaayon ito ng mga kamakailang pampublikong ulat⁠(magbubukas sa bagong window) tungkol sa mga operasyong kriminal ng panloloko sa bansa na pinamumunuan ng mga Tsino. Sa ilang hiwa-hiwalay na kaso, nagpakilala ang mga indibidwal na user bilang mga manggagawa sa operasyon ng panloloko sa Cambodia, gaya noong humingi sila ng payo sa modelo tungkol sa buwis at inilagay ang “manloloko” bilang kanilang trabaho.

Gumamit ang network ng ChatGPT at ng access sa aming mga modelo sa pamamagitan ng API upang magsagawa ng malawakan at bahagyang awtomatikong panlolokong gumagamit ng pag-ibig at mga gawain. Sinunod nito ang isang organisadong proseso at paraan ng pagpapatakbo na kahawig ng mga programa sa pagbebenta na lumalapit sa mga hindi pa kakilalang kliyente.

1. Unang pakikipag-ugnayan: Sa unang yugto ng pang-akit, ginamit ng operasyon ang mga ChatGPT account nito para gumawa ng mga tekstong nagpo-promote ng isang marangyang serbisyo sa pakikipag-date at pagkuha ng escort na tinatawag na “Romantikong Klub.” Pagkatapos, inilathala ang mga tekstong ito sa social media bilang mga bayad na ad. Tinatarget ng mga manloloko ang mga lalaking Indonesian na interesado sa nilalaman tungkol sa marangyang pamumuhay, gamit ang mga keyword sa ad gaya ng “golf,” “mga yate,” at “pagkain sa marangyang restawran.” May mga link ang mga ad patungo sa isang AI chatbot na inutusang magpanggap na malanding receptionist. Pinapili ng nagpapanggap na receptionist ang mga target mula sa isang listahan ng mga uri ng babae at relasyon bago sila idirekta sa Telegram gamit ang isang tracking URL at promo code.

2. Pagpukaw ng damdamin: Kapag nasa Telegram na, pinagsama ng operasyon ang mga taong gumagamit ng ChatGPT at ang awtomasyong pinapagana ng API. Ipinagpatuloy ng mga nagpapanggap na receptionist ang pag-uusap gamit ang lalong romantiko at tahasang seksuwal na pananalita, saka inalok ang mga target na sumali sa mga online dating platform na tinatawag na “Kodigo ng Pag-ibig” at “Aksiyong Seksuwal.” Nagpakita ang platform ng mga profile ng di-umano'y “mga babaeng puwedeng maka-date” at isang feed ng mga anunsyong ginawa ng AI. Binabati ng mga ito ang mga kathang-isip na kliyente sa pagkumpleto ng mga “misyon,” pagkakaroon ng karapatan sa mga dagdag na pabuya, at pagkapanalo ng mga premyo.

Matapos makuha ang tiwala, ipinasa ng nagpapanggap na receptionist ang pag-uusap sa isang “tagapayo.” Gumamit ito ng ChatGPT para gumawa at magsalin ng mga mensaheng nagmamanipula ng damdamin upang pilitin ang mga target na kumpletuhin ang sunod-sunod na “gawain” o “misyon.” Bawat kasunod na gawain ay nangangailangan ng mas malaking bayad sa pamamagitan ng bank transfer o digital payment wallet, gaya ng pagbili ng “VIP card,” pagsuporta sa isang “piniling babae” sa isang paligsahan, o pagbabayad ng deposito sa hotel. Larawan ng isang pekeng receptionist para sa dating platform na “Kodigo ng Pag-ibig,” na ginawa ng isang manloloko gamit ang ChatGPT.

3. Pagkuha ng pera: Sa huling yugto, sinubukan ng mga manloloko na mangolekta ng mas malaking bayad, na tinawag nilang “pagkatay,” sa pamamagitan ng pag-imbento ng mga karagdagang singil gaya ng “bayad-pinsala” o “deposito para sa beripikasyon.” Batay sa mga mensaheng idinikit ng mga manloloko sa ChatGPT, kapag naipadala na ng biktima ang pinakamalaking halagang kaya nitong ibigay, bina-block nila ito sa Telegram at minamarkahang sarado na ang kaso. Kopya ng liham na ibinahagi ng isang manloloko sa ChatGPT. Sinasabi nito sa biktima na kailangan niyang magbayad ng Rp 20,500,000 ($12,000) para itama ang isang kathang-isip na error sa pagproseso ng data sa sistemang Kodigo ng Pag-ibig, pero makakatanggap siya ng 35% na “dagdag na pabuya” na Rp 39,860,000. Tinakpan ng mga imbestigador ng OpenAI ang ilang detalye.

Bukod sa panlolokong gumagamit ng pag-ibig, ginamit din ng operasyon ang aming mga modelo para tumulong sa pang-araw-araw na pagpapatakbo ng kanilang negosyo. Kabilang dito ang paghingi ng gabay sa ChatGPT sa pagkumpleto ng mga teknikal na gawain, gaya ng pagsasama ng OpenAI API sa kanilang sistema o pag-update sa website ng pekeng dating service, pagsusuri ng mga account sa pananalapi, at paggawa ng mga pang-araw-araw na ulat. Sa mga ulat, itinatalaga sa bawat target ang halaga ng “pagkatay” na kinalkula ng mga manloloko—ang tinatayang halagang balak kunin sa huling pagsingil.

Sa ibang pagkakataon, hiniling ng mga manloloko sa ChatGPT na isalin ang mga mensahe sa pagitan ng mga superbisor na nagsasalita ng Tsino at mga manggagawa sa sentro ng panloloko na nagsasalita ng Indonesian. Ginamit din nila ito upang subaybayan ang pagganap ng mga departamentong tinatawag na “Paghahanap ng mga Prospek,” “Pangkat ng Pagtanggap,” at “Pangkat ng mga Superbisor.”

Kailangang maging maingat sa pagtatasa ng epekto ng network na ito. Ang pangunahing pinagmumulan ng aming ebidensya ay ang mga inilagay mismo ng mga manloloko sa aming mga tool. Ipinahihiwatig ng mga ito na posibleng daan-daang target ang sabay-sabay na kinakausap ng mga manloloko, at libo-libong dolyar ang nakukuha nila bawat araw. Gayunman, hindi namin makumpirma sa mga independiyenteng mapagkukunan kung tama ang mga pahayag na ito.

Mahigpit na ipinagbabawal ng mga patakaran ng OpenAI ang paggamit ng output ng aming mga tool para sa pandaraya o panloloko. Nakatuon kami sa pakikipagtulungan sa mga kapwa namin nasa industriya at sa mga awtoridad upang maunawaan kung paano naiimpluwensyahan ng AI ang kilos ng mga mapaminsalang aktor, at aktibong sugpuin ang mga panlolokong umaabuso sa aming mga serbisyo.