Mga panlolokong gumagamit ng pag-ibig: Mga proseso ng panlolokong pinapagana ng AI

Unang inilathala ang pag-aaral na ito ng kaso sa ulat ng OpenAI noong Pebrero 2026⁠(magbubukas sa bagong window) tungkol sa pagsugpo sa mapaminsalang paggamit ng AI.

Mula nang simulan naming iulat ang pagsugpo namin sa mga network ng panlolokong nagtangkang abusuhin ang aming mga modelo isang taon na ang nakalipas⁠(magbubukas sa bagong window), marami na kaming napatigil na operasyon ng panloloko mula sa iba't ibang bahagi ng mundo. Kabilang dito ang mga panlolokong nakabatay sa “gawain,” na kinukumbinsi ang mga biktima na magbayad para makuha ang di-umiiral na kita mula sa mga simpleng gawain, at mga panloloko sa pamumuhunan, na kinukumbinsi silang maglagay ng pera sa mga di-umiiral na kumpanya ng pamumuhunan.

Matagal nang karaniwan ang panlolokong gumagamit ng pag-ibig, bago pa man dumating ang AI. Dito, nagpapanggap ang mga manloloko bilang posibleng karelasyon at sinusubukang papaniwalain ang kanilang target na natagpuan na nito ang katugma sa pag-ibig, bago humingi ng palaki nang palaking halaga. Ang una naming inilathalang ulat sa pagsugpo sa panloloko ay tungkol sa isang bagong tatag na operasyong kriminal sa Cambodia. Gumamit ito ng ChatGPT para gumawa ng mga mensahe para sa panlolokong gumagamit ng pag-ibig, at ang ilan ay ikinalat sa social media. Mula noon, nasugpo na namin ang iba't ibang pagtatangka sa panlolokong gumagamit ng pag-ibig. Gaya ng isinulat namin noong Hunyo⁠(magbubukas sa bagong window), karaniwang sumusunod ang mga ito at iba pang panloloko sa iisang padron ng paggamit ng AI: unang pakikipag-ugnayan (paglapit sa hindi kakilala), pagpukaw ng damdamin, at pagkuha ng pera.

Unang pakikipag-ugnayan (paglapit sa hindi kakilala): gumagawa ang manloloko ng nilalamang idinisenyo upang makuha ang atensyon ng posibleng target sa pamamagitan ng pag-ayon sa mga interes nito. Halimbawa, ang panlolokong “pagkatay ng baboy” na iniulat namin noong nakaraang taon ay madalas tumarget sa mga Amerikanong lalaki na nasa edad 40–49 at nagtatrabaho sa larangang medikal, sa pamamagitan ng pagsagot sa kanilang mga post sa social media tungkol sa golf. Gumamit ang ibang operasyon ng mga SMS sa mga hindi kakilala, pekeng mensahe ng pagre-recruit, o mga ad sa social media, gaya sa pinakahuli naming kaso ng panlolokong gumagamit ng pag-ibig (inilalarawan sa ibaba). Sa bawat kaso, gumamit ang mga mapaminsalang aktor ng ChatGPT para gumawa ng mga mensaheng posibleng mas nakakaengganyo at hindi gaanong halatang isinulat ng hindi katutubong tagapagsalita, kumpara sa mga tradisyonal na panloloko.

Pagpukaw ng damdamin: gumagawa ang manloloko ng nilalamang idinisenyo upang pukawin ang matinding damdamin ng target at sa gayon ay mas madaling mamanipula ito. Sinisikap ng mga panlolokong gumagamit ng pag-ibig na mapaibig ang target sa manloloko. Sa ibang panloloko, maaaring subukang pasabikin ang target sa isang alok na posibleng maghatid ng malaking kita, takutin itong mapalampas ang isang pagkakataon, o alalahanin ang isang di-umano'y problemang legal o hindi pa nababayarang bayarin. Minsan, kasama na sa unang mensahe ng pakikipag-ugnayan ang pagpukaw ng damdamin.

Pagkuha ng pera: gumagawa ang manloloko ng nilalamang idinisenyo upang kumbinsihin ang target na magbigay ng pera. Maaaring lubhang magkakaiba ang mga ibinibigay na dahilan. Halimbawa, sa mga panlolokong gumagamit ng pag-ibig, maaaring hilingin sa target na mamuhunan sa negosyo ng minamahal nito, o magbigay ng pera para matugunan ang isang krisis sa pananalapi. Sa mga panlolokong nakabatay sa “gawain,” sinasabihan ang mga target na magbayad para makuha ang (kathang-isip na) perang inaakala nilang kinita nila. Sa mga panloloko sa pamumuhunan, sinasabihan ang mga target na ilagak ang kanilang pera sa mga di-umiiral na pamumuhunan.

Gaya ng ipinapakita ng prosesong ito, mahalagang bahagi ng panloloko ang network na ginagamit sa pagpapalaganap nito. Ipinadala ng iba't ibang operasyon ng panlolokong ibinunyag namin ang kanilang mga unang mensahe sa pamamagitan ng SMS, mga naka-encrypt na messaging app, mga post sa social media, mga online ad, o kombinasyon ng lahat ng ito. Kilala ang mga panloloko bago ang panahon ng AI sa paggamit ng mga email⁠(magbubukas sa bagong window), mga tawag sa telepono⁠(magbubukas sa bagong window), o maging ng mga liham⁠(magbubukas sa bagong window) at mga telegrama⁠(magbubukas sa bagong window) noong ikalabinsiyam na siglo. Maraming panloloko ang nagpapalaganap ng mga mensahe nang walang pinipili, pero may ilan na tila nagsisikap pumili ng mga tiyak na target. Halimbawa, nakatuon sa mga paksang gaya ng golf ang panlolokong “pagkatay ng baboy” na iniulat namin noong Pebrero 2025⁠(magbubukas sa bagong window); gumamit naman ang isa pang panlolokong gumagamit ng pag-ibig ng mga ad sa social media para tumarget sa mga kabataang lalaki sa Indonesia; at karaniwang nagpapanggap na sikat na tao ang mga nasa likod ng mga panlolokong gumagamit ng mga celebrity⁠(magbubukas sa bagong window), saka tinatarget ang mga grupo ng tagahanga ng taong iyon. Dahil pira-piraso ang ebidensya, mahirap ihambing nang mapagkakatiwalaan ang iba't ibang panlolokong nasugpo namin. Gayunman, sa aming pagsusuri, malaki ang papel ng piniling paraan ng pagpapalaganap ng panloloko (hal., walang pinipili o may tiyak na target) sa kakayahan nitong matagumpay na maabot at pagsamantalahan ang mga target, gaano man kalawak ang paggamit ng operasyon ng AI para sa iba't ibang gawain.