Operasyong “Huwad na Saksi”: Pekeng serbisyong bumabawi ng pera na nagpapanggap na mga awtoridad

Unang inilathala ang pag-aaral na ito ng kaso sa ulat ng OpenAI noong Pebrero 2026⁠(magbubukas sa bagong window) tungkol sa pagsugpo sa mga mapaminsalang paggamit ng AI.

Ipinagbawal namin ang isang grupo ng mga ChatGPT account na gumamit ng aming mga modelo para magpanggap na mga kathang-isip na law firm, gayundin para magpanggap bilang mga tunay na abogado at tagapagpatupad ng batas sa U.S., sa isang scam na nangangakong babawiin ang pera ng mga biktima ng panloloko. Malamang na malamang na nagmula sa Cambodia ang aktibidad na ito at tumutugma ito sa mga kamakailang ulat sa publiko tungkol sa mga kriminal na operasyon ng scam na pinamumunuan ng mga Tsino sa bansa.

Ginamit ng mga account ang ChatGPT para suportahan ang isang mapanlinlang na operasyong nag-aalok na bawiin ang perang nawala sa scam. Nakasentro ito sa mga pekeng law firm at pagpapanggap bilang mga pinagkakatiwalaang tao at institusyon, gaya ng mga tunay na abogado at Internet Crime Complaint Center (IC3) ng FBI.

1. Pakikipag-ugnayan: Ginamit ng mga scammer ang ChatGPT para gumawa ng nilalamang kunwari ay mula sa hindi bababa sa anim na pekeng law firm. Pagkatapos, inilathala ang ilan sa nilalamang ito sa mga social media account at online na ad na nagpo-promote ng mga hindi totoong serbisyong bumabawi ng perang nawala sa scam. Ipinahiwatig ng maraming palatandaan mula sa mga pampublikong mapagkukunan na mapanlinlang ang mga law firm. Kabilang dito ang kawalan ng ebidensya ng lisensya mula sa state bar, paggamit ng mga hindi tugmang web domain, mga address sa contact information na tila hindi umiiral, at mga tagubiling makipag-ugnayan sa mga abogado sa pamamagitan ng mga messaging app.

2. Pagkuha ng tiwala: Sinikap ng mga scammer na makuha ang tiwala ng kanilang mga pinupuntirya sa pamamagitan ng pagbuo ng mga komentong gumagaya sa tono at propesyonalismo ng mga abogadong dalubhasa sa pagtulong sa mga biktima ng scam na mabawi ang nawalang pera. Gumawa sila ng nilalamang kunwari ay mula sa mga pekeng pagkakakilanlan ng abogado. Natukoy namin ang ilan sa mga pekeng pagkakakilanlang ito sa iba't ibang website, kung saan ang kanilang mga larawan sa profile ay tila kinuha mula sa social media o ginawa gamit ang AI. Sa ilang kaso, muling ginamit ng scammer ang parehong mga pagkakakilanlan ng “abogado” sa maraming diumano'y law firm. Nagpanggap bilang IC3 ang isa sa mga website na natukoy namin.

Itinuro ng mga detalye sa pakikipag-ugnayan na inilathala sa iba't ibang scam website na ito ang mga bisita sa mga pribadong messaging app, gaya ng Telegram. Sa mga mensahe sa mga pinupuntirya na binuo gamit ang ChatGPT, maling sinabi ng mga scammer na kumikilos sila sa ilalim ng pangangasiwa ng International Criminal Court at na walang sisingiling bayad hangga't hindi matagumpay na nababawi ang lahat ng pera ng biktima.

3. Paniningil: Sinikap ng mga scammer na makakuha ng pera mula sa mga pinupuntirya sa pamamagitan ng paghingi ng mga bayad at deposito bago pa man may anumang “mabawi”. Kabilang dito ang pag-aatas sa mga pinupuntirya na magbayad ng 15% na “bayad sa serbisyo” bago matanggap ang diumano'y nabawing pera, paghingi ng mga deposito para mag-activate ng account, at paniningil ng “bayad sa konsultasyon”. Kasama sa mga mensaheng binuo ng mga scammer gamit ang ChatGPT para sa kanilang mga pinupuntirya ang mga tagubiling magbayad gamit ang cryptocurrency at magbigay ng mga screenshot ng kumpirmasyon ng transaksyon bilang patunay ng pagbabayad.

Ginamit ng operasyon ang aming mga modelo para suportahan ang iba't ibang bahagi ng proseso nito, gaya ng pagbuo ng nilalamang pang-promosyon para sa social media at mga mensahe para sa unang pakikipag-ugnayan sa mga pinupuntirya. Gayunman, pinakamadalas na ginamit ng mga scammer ang ChatGPT para isalin ang mga mensaheng ipinapadala sa at natatanggap mula sa mga pinupuntirya sa mga pribadong messaging app. Kabilang dito ang mga kahilingang sumulat ng tugon sa “Ingles na gamit sa Amerika” o sa estilo ng isang abogado.

Ginamit din ng ilan sa mga scam account ang aming mga modelo para gumawa ng mga mapanlinlang na materyal na naglalayong magmukha silang mas kapani-paniwala. Kabilang dito ang mga pekeng rekord ng pagpaparehistro ng abogado at pekeng membership card sa asosasyon ng mga abogado, gayundin ang mga pekeng kasunduan sa pagiging kumpidensyal para pigilan ang mga biktimang humingi ng tulong sa iba.

Kailangang maging maingat sa pagtatasa ng epekto dahil isang pangunahing pinagmumulan ng ebidensya ang mismong mga input ng mga scammer. Ipinahihiwatig ng mga input na iyon na maaaring nakakuha ang mga scammer ng libo-libong dolyar mula sa bawat biktima sa pamamagitan ng panloloko, ngunit hindi namin makumpirma ang mga pahayag na iyon gamit ang hiwalay na ebidensya. Naglabas ng mga babala sa publiko tungkol sa scam na ito ang FBI at hindi bababa sa isang law firm na ginaya ng mga scammer. Nagbabala ang mga opisyal ng FBI na pinupuntirya ng operasyon ang mga taong madaling mabiktima, lalo na ang mga nakatatanda. Sinasamantala nito ang emosyonal na kalagayan ng mga biktima ng scam at ang kanilang pagnanais na mabilis na mabawi ang nawalang pera.

Mahigpit na ipinagbabawal ng mga patakaran ng OpenAI ang paggamit ng output mula sa aming mga tool para sa panloloko o mga scam. Nakatuon kami sa pakikipagtulungan sa iba pang kumpanya sa industriya at sa mga awtoridad upang maunawaan kung paano naiimpluwensyahan ng AI ang pagkilos ng mga may masamang layunin, at upang aktibong sugpuin ang mga scam na umaabuso sa aming mga serbisyo.