Romantiskas ievilināšanas krāpšana: MI atbalstītas „cūku kaušanas” darbplūsmas
OpenAI bloķēja kontus, kuru darbība, šķiet, tika veikta no Kambodžas un kuros MI tika izmantots romantiskas iepazīšanās un investīciju krāpšanas sarunu tulkošanai un ģenerēšanai.
Šī gadījuma izpēte sākotnēji tika publicēta OpenAI 2025. gada februāra(atveras jaunā logā) ziņojumā.
Īstenotājs
Mēs bloķējām ChatGPT kontu kopu, kuros tika tulkoti un ģenerēti īsi komentāri japāņu, ķīniešu un angļu valodā. Šķiet, ka šīs darbības tika veiktas no Kambodžas un atbilda romantiskas iepazīšanās un investīciju krāpšanas shēmai, ko dēvē arī par „cūku kaušanu”. Meta nesen savā platformā konstatēja saistītas darbības(atveras jaunā logā), kas, šķiet, tika veiktas no nesen izveidota krāpniecības kompleksa Kambodžā.
Rīcība
Šis tīkls izmantoja mūsu modeļus, lai tulkotu un ģenerētu īsus komentārus. Šķiet, ka krāpnieku galvenā saziņas valoda bija ķīniešu. Saturs tika veidots vairākās valodās, jo īpaši japāņu un ķīniešu, kā arī angļu valodā.
Krāpnieki izmantoja mūsu modeļus galvenokārt divām darbībām. Pirmkārt, viņi ģenerēja komentārus, kurus publiski ievietoja tādās sociālo tīklu platformās kā Facebook, X un Instagram. Katrā sociālā tīkla kontā parasti bija viens vai vairāki jaunas sievietes profila attēli. Mēs uzskatām, ka vismaz daļa šo attēlu bija nokopēti no īstām modelēm vai satura veidotājām, nevis ģenerēti ar MI.
Lielākā daļa ģenerēto komentāru tika publicēti, atbildot uz īstu cilvēku ierakstiem sociālajos tīklos. Daži ieraksti, uz kuriem krāpnieki atbildēja, bija vairākus mēnešus vai pat gadus veci. Šīs operācijas mērķi parasti bija vīrieši, kuru publiskie profili liecināja, ka viņi ir vecāki par 40 gadiem un bieži strādā medicīnas jomā. Operācijas īstenotāji bieži atbildēja uz ierakstiem par golfu, kas liecina par apzinātu mērķu atlases stratēģiju. Reizēm krāpnieki publicēja ierakstus par politiskiem jautājumiem vai aktuāliem notikumiem.
Šī krāpnieka ar mūsu modeļiem ģenerēts Facebook komentārs, kas publicēts, atbildot uz ar šo operāciju šķietami nesaistītas personas komentāru par golfu. Krāpnieciskā konta profila attēls ir nokopēts no kādas ASV modes un skaistumkopšanas satura veidotājas. Kad krāpnieciskais konts publicēja komentāru, sākotnējais ieraksts bija vairāk nekā mēnesi vecs.
Mūsu modeļu ģenerēts komentārs, ko verificēts konts platformā X publicēja, atbildot uz tvītu no konta, kurš, šķiet, nebija saistīts ar šo krāpšanu. Konta profila attēls ir nokopēts no tās pašas ASV modes un skaistumkopšanas satura veidotājas. Sākotnējais tvīts bija gandrīz sešus mēnešus vecs.
Otrkārt, un biežāk, krāpnieki ģenerēja īsus komentārus, kas līdzinājās tiešsaistes sarunas fragmentiem. Parasti komentāri tika tulkoti no ķīniešu valodas mērķa valodā — japāņu vai angļu — vai no mērķa valodas atpakaļ ķīniešu valodā. Tas atbilst situācijai, kurā krāpnieki modeli galvenokārt izmanto notiekošu sarakstu tulkošanai.
Dažkārt kontu lietotāji lūdza modelim ģenerēt atbildi noteiktā tonī, piemēram, koķetas jaunas sievietes stilā. Lai ievirzītu modeļa atbildes, dažkārt tika sniegta plaša biogrāfiska informācija, tostarp izdomātās personas vārds, izglītība, darbs, dzīvesvieta un vaļasprieki. Šajās biogrāfijās parasti bija minēts, ka izdomātā persona nedaudz nodarbojas ar ieguldījumiem tiešsaistē.
Šķiet, ka saziņai ar izraudzītajiem mērķiem krāpnieki izmantoja daudz dažādu rīku un platformu. Mūsu izmeklēšanā tika atklāti pierādījumi, ka viņi izmantoja LINE, WhatsApp, X, Facebook, Instagram, vairākus citus ziņapmaiņas pakalpojumus, Apple funkciju „Paslēpt manu e-pastu”(atveras jaunā logā), kā arī kriptovalūtu un ārvalstu valūtas tirdzniecības platformas.
Rezultāti
Spriežot pēc mums pieejamās informācijas par šīm darbībām, krāpnieki, šķiet, izmantoja ierastu darbplūsmu, lai no sākotnējās saziņas novestu mērķus līdz krāpnieciskiem ieguldījumiem:
Publiska saziņa: krāpnieki komentēja izraudzītā mērķa ierakstus sociālajos tīklos. Šie komentāri bieži beidzās ar jautājumu, piemēram: „Ko jūs domājat par [tematu]?”, iespējams, lai palielinātu iespēju, ka persona iesaistīsies sarunā. Dažos gadījumos viņi komentēja politiku, taču daudz biežāk runāja par golfu.
Iespējama privāta sarakste: pēc tam krāpnieki ģenerēja īsus sarunvalodas komentārus. Lai gan mums nav pilnīgas informācijas par to, kā un kur tie tika izmantoti, komentāri atbilda situācijai, kurā krāpnieks un izraudzītais mērķis sāka apmainīties ar privātām ziņām.
Droša ziņapmaiņa: pavisam drīz, bieži vien dažu dienu laikā, krāpnieki ģenerēja ziņas ar ierosinājumu pāriet uz drošāku ziņapmaiņas lietotni. Dažkārt to pamatoja ar neuzticēšanos sociālajiem tīkliem, bet citreiz izmantoja praktisku ieganstu, piemēram, apgalvoja, ka drīz dosies uz vietu, kur sociālie tīkli nebūs pieejami.
Romantiskas attiecības: krāpnieki rakstīja un tulkoja arvien sirsnīgākas un intīmākas ziņas. Ja izraudzītie mērķi lūdza atsūtīt tās „sievietes” fotoattēlus, ar kuru viņi sarakstījās, krāpnieki aizbildinājās.
Finansiāla iesaistīšana: krāpnieki rakstīja un tulkoja ziņas, kurās lielījās, ka nopelnījuši lielu naudas summu, tiešsaistē ieguldot ārvalstu valūtās, kriptovalūtās vai zeltā. Bieži tika apgalvots, ka tas izdevies, sekojot finanšu nozarē strādājoša radinieka padomiem. Krāpnieks mudināja izraudzīto mērķi sākt ieguldīt tādā pašā veidā un piedāvāja palīdzēt visā procesā.
Krāpšana: krāpnieki rakstīja un tulkoja ziņas, mēģinot pārliecināt upuri pārskaitīt naudu uz tirdzniecības lietotni, un iedrošināja viņu, uzsverot gūtās peļņas apmēru. Ikreiz, kad upuris mēģināja izņemt savu „peļņu”, krāpnieks atrada kādu ieganstu, piemēram, apgalvoja, ka vispirms jāsamaksā komisijas maksa.
Šāds darbību modelis atbilst publiski pieejamajai informācijai(atveras jaunā logā) par to, kā šādas krāpšanas shēmas parasti darbojas.
Ietekme
Šķiet, ka daudzi mēģinājumi neizdevās vai tika pārtraukti jau sākumā. Dažas sarunas, kuras krāpnieki apstrādāja ar mūsu modeļiem, beidzās ar to, ka izraudzītā persona atpazina krāpšanu vai lika krāpniekam likt viņu mierā. Mēs arī konstatējām krāpnieku ierakstus sociālajos tīklos, kas vispār neizraisīja nekādu iesaisti.
Tomēr dažās sarunās kā atsevišķu darījumu apmērs tika minēti vairāki tūkstoši ASV dolāru vai līdzvērtīgas summas citās valūtās. Tā kā šie krāpnieki mūsu modeļus izmantoja tikai noteiktiem uzdevumiem, mēs nevaram noteikt, vai šie finanšu darījumi patiešām notika. Tomēr sarunās minētais liecina, ka vismaz dažos gadījumos krāpniekiem izdevās apkrāpt izraudzītos mērķus.
OpenAI politikas stingri aizliedz izmantot mūsu rīku ģenerēto saturu krāpšanai vai krāpnieciskām shēmām. Mēs esam apņēmušies sadarboties ar nozares partneriem un iestādēm, lai izprastu, kā MI tiek izmantots ļaunprātīgām darbībām, un aktīvi apturētu krāpnieciskas darbības, kurās tiek ļaunprātīgi izmantoti mūsu pakalpojumi. Atbilstoši šai apņēmībai esam nodevuši nozares partneriem un attiecīgajām iestādēm informāciju par mūsu apturētajiem krāpniecības tīkliem.