Krāpšanas operācijas: tiešsaistes krāpnieku tīkli

Šis gadījuma apraksts sākotnēji tika publicēts OpenAI 2025. gada oktobra⁠(atveras jaunā logā) ziņojumā.

Tīkli, kuru izcelsme, visticamāk, meklējama Kambodžā, Mjanmā un Nigērijā, ļaunprātīgi izmantoja ChatGPT, šķietami cenšoties apkrāpt cilvēkus internetā.

Mēs neatlaidīgi strādājam, lai atklātu, novērstu un apturētu mēģinājumus ļaunprātīgi izmantot mūsu modeļus kaitnieciskos nolūkos. Viens no šādas ļaunprātīgas izmantošanas veidiem ir krāpšana — mēs atklājam un bloķējam ļaundarus, kuri mēģina izmantot mūsu modeļus cilvēku maldināšanai un apkrāpšanai. Pēdējo trīs mēnešu laikā esam apturējuši krāpnieku tīklus, kuru izcelsme, visticamāk, meklējama Kambodžā, Mjanmā un Nigērijā. Izmeklējot šos ļaunprātīgas izmantošanas modeļus, esam arī novērojuši, ka daudzi cilvēki izmanto mūsu modeļus, lai atpazītu krāpšanu, — tas liecina par MI iespējām palīdzēt cīņā pret krāpšanu. Šajā ziņojumā aplūkoti abi lietojuma veidi.

Mūsu modeļu ļaunprātīga izmantošana krāpšanas atbalstam ietver gan atsevišķu personu krāpšanas mēģinājumus, gan plaša mēroga un ilgstošas darbības, kas, visticamāk, saistītas ar organizētās noziedzības grupām. Neatkarīgi no izcelsmes un konkrētās taktikas mūsu apturētajām ar krāpšanu saistītajām darbībām parasti ir kopīgs modelis: uzruna (nevēlams pirmais kontakts), uzkurināšana (mēģinājums izraisīt sajūsmu vai paniku) un trieciens (naudas vai vērtīgas informācijas izvilināšana).

Krāpnieki vispirms izplata saturu — gan MI ģenerētu, gan cita veida — ziņapmaiņas pakalpojumos un internetā, tostarp ievietojot reklāmas sociālajos tīklos. Pēc tam viņi mēģina atbildējušajos radīt vai nu sajūsmu par ienesīgu iespēju, vai bailes no gaidāmiem finansiāliem zaudējumiem un izmanto šīs emocijas, lai pārliecinātu upuri atdot naudu vai sensitīvu informāciju.

Esam novērojuši arī daudzus gadījumus, kad mūsu modeļi, visticamāk, ir palīdzējuši pasargāt cilvēkus no krāpšanas. Ik mēnesi miljoniem reižu esam novērojuši, ka cilvēki izmanto ChatGPT, lai atpazītu tiešsaistes krāpšanu un no tās izvairītos. Visās šajā ziņojumā aplūkotajās krāpšanas operācijās modelis ir palīdzējis cilvēkiem pareizi atpazīt krāpšanu un ieteicis atbilstošus drošības pasākumus. Pašlaik lēšam, ka ChatGPT krāpšanas atpazīšanai tiek izmantots līdz pat trim reizēm biežāk nekā krāpšanas veikšanai.

Piemērs, kurā OpenAI izmeklētājs ielīmē ChatGPT saņemtas krāpnieciskas īsziņas ekrānuzņēmumu un ar modeļa palīdzību sekmīgi atpazīst to kā krāpšanu. Šajā gadījumā ļaundari uzdevās par TikTok personāla atlases speciālistiem.

Kopš iepriekšējā ziņojuma esam uzlabojuši savas spējas atklāt un apturēt krāpšanu. Esam apturējuši vēl vairākus krāpnieku tīklus, kuru izcelsme, šķiet, meklējama Kambodžā, Mjanmā un Nigērijā. Kopā ar iepriekšējiem pasākumiem šīs darbības ļauj mums saskatīt jaunas tendences vairākās dažādu valstu krāpšanas operācijās.

Lielākajā daļā mūsu apturēto krāpšanas darbību MI tika pielāgots jau esošām krāpšanas shēmām, nevis izmantots jaunu, uz MI balstītu shēmu radīšanai. Visas šogad atklātās un bloķētās krāpšanas operācijas MI galvenokārt izmantoja mēroga palielināšanai un efektivitātes uzlabošanai. Parasti mūsu modeļi tika izmantoti tulkošanai, ziņojumu rakstīšanai un sociālo tīklu satura veidošanai.

Piemēram, nesen bloķējām krāpšanas operācijas, kuru izcelsme, visticamāk, meklējama Kambodžā un Nigērijā un kuru dalībnieki uzdevās par „ieguldījumu uzņēmumiem“, mēģinot apkrāpt upurus vairākās valstīs. Krāpnieki izveidoja tīmekļvietnes un tiešsaistes reklāmas viltus uzņēmumu popularizēšanai un izmantoja, visticamāk, neautentiskus sociālo tīklu kontus, kuros uzdevās par tirdzniecības ekspertiem un aicināja cilvēkus pievienoties privātām ziņapmaiņas grupām. Solot ienesīgas peļņas iespējas bez jebkāda riska, ļaundari centās pamudināt iespējamos upurus pārskaitīt naudu uz fiktīvām tirdzniecības platformām. Visās šajās shēmās krāpnieki mūsu modeļus galvenokārt izmantoja sarakstes ģenerēšanai un tulkošanai, savu tīmekļvietņu un sociālo tīklu kontu satura veidošanai, kā arī vienkāršai informācijas izpētei.

Citā gadījumā bloķējām krāpšanas centru, kas ar ļoti lielu ticamību atradās Mjanmā un izmantoja mūsu modeļus gan krāpniecisko shēmu satura ģenerēšanai, gan ikdienas administratīvo uzdevumu veikšanai. Tas ietvēra grafiku sastādīšanu, iekšējo paziņojumu sagatavošanu, darba vietu un kopmītņu istabu sadali, kā arī finanšu kontu pārvaldību. Daži operatori interesējās par kriminālsodiem, kas draud cilvēkiem, kuri pieķerti krāpšanā internetā.

Ne visi mūsu apturētie krāpnieki izmantoja modeļus vienādi vai ar vienādu sarežģītības pakāpi. Lielākā daļa krāpnieku mijiedarbības ar ChatGPT bija saistīta ar samērā vienkāršiem uzdevumiem, piemēram, tulkošanu, tomēr dažas krāpšanas operācijas bija vērienīgākas un sarežģītākas.

Piemēram, kāda mūsu apturēta krāpšanas operācija, kuras izcelsme, visticamāk, meklējama Kambodžā, izmantoja mūsu modeļus, lai ģenerētu detalizētas biogrāfijas neīstiem ieguldījumu ekspertiem un fiktīviem viltus tirdzniecības uzņēmumu darbiniekiem. Pēc tam krāpnieki lūdza ChatGPT rakstīt sociālo tīklu ziņojumus šo tēlu balsīs. Bieži vien ļaundari ievadīja mūsu modelī ziņojumus, ko acīmredzot bija saņēmuši no saviem upuriem, un lūdza modeli turpināt sarunu izdomātās personas lomā.

Otra krāpšanas operācija, kuras izcelsme, visticamāk, arī meklējama Kambodžā, sākotnēji izmantoja mūsu modeļus nevēlamu pirmā kontakta īsziņu ģenerēšanai, kuras masveidā sūtīja uz ASV tālruņu numuriem. Viena no šīm īsziņām tika nosūtīta OpenAI izmeklētājam — līdzīgi gadījumam, par kuru ziņojām jūnijā. Šajās īsziņās cilvēkus aicināja pievienoties WhatsApp grupām, kuru nosaukumi atgādināja īsta ieguldījumu uzņēmuma nosaukumu un kuras vēlāk tika bloķētas.

Spriežot pēc OpenAI izmeklētājam nosūtīto WhatsApp ziņojumu virknes, iespējamais upuris, pievienojoties kādai no šīm grupām, drīz vien redzētu „sarunu“ starp aptuveni sešiem dažādiem kontiem, kuri visi apspriestu ieguldījumus. Viens no tiem uzdevās par „ieguldījumu ekspertu“, bet pārējie — par ieguldītājiem ar atšķirīgu pārliecības un pieredzes līmeni. Krāpnieki bija ģenerējuši visu šo sarunu un vienā blokā pārtulkojuši to no ķīniešu valodas, visticamāk, lai radītu iespaidu par aktīvu grupu, kurā darbojas aizrautīgi un veiksmīgi tirgotāji. Visbeidzot „ieguldījumu eksperts“ ierosinātu arī upurim izmēģināt ieguldīšanu.

Savukārt kāda ieguldījumu krāpšanas operācija, kuras izcelsme ar ļoti lielu ticamību meklējama Nigērijā, lūdza modelim detalizētus norādījumus par sociālo tīklu reklāmu izmantošanu turīgu Latīņamerikas iedzīvotāju sasniegšanai, savas atrašanās vietas slēpšanu un sociālo tīklu platformu ierobežojumu apiešanu. Tostarp modelim tika norādīti platformas publiskie pakalpojuma noteikumi un lūgts pārbaudīt, vai iecerētais reklāmas saturs tiem atbilst.

Krāpnieki, īpaši plaša mēroga krāpšanas centri, ir neatlaidīgi. Ļoti bieži pēc darbības apturēšanas viņi cenšas atsākt noteikumu pārkāpumus, vienlaikus mainot atsevišķus savas rīcības elementus, visticamāk, lai izvairītos no atkārtotas atklāšanas. Tas ir viens no iemesliem, kāpēc visai nozarei ir svarīgi dalīties atziņās par šo grupu darbības attīstību. Piemēram, OpenAI un Meta savstarpēji sniegtā informācija par ļaundariem palīdzēja turpmākā izmeklēšanā un ierobežojošo pasākumu veikšanā.

Iespējams, reaģējot uz darbības apturēšanu vai plašākām diskusijām internetā par pazīmēm, kas var atklāt MI izmantošanu, krāpnieki ir centušies slēpt MI lietojumu tiešsaistes saturā un saziņā ar upuriem. Piemēram, krāpšanas operācijas, kuru izcelsme, visticamāk, meklējama Kambodžā, lika modelim no atbildēm izņemt garās domuzīmes.

Kādā gadījumā krāpnieki mēģināja izskaidrot savu sociālo tīklu resursu masveida bloķēšanu, izdomājot atrunu par tās iemeslu. Tas attiecās uz iepriekš aprakstīto krāpšanas centru, kura izcelsme, visticamāk, meklējama Kambodžā un kurš darbojās īsziņās un platformā WhatsApp. Kad WhatsApp bloķēja ar šo operāciju saistītās „ieguldījumu grupas“, operatori sāka ģenerēt ziņojumus, kuros apgalvoja, ka par šīm grupām nepamatoti ziņojis kāds konkurents, — visticamāk, lai attaisnotu bloķēšanu.

Ekrānuzņēmums ar WhatsApp ziņojumu, ko ar Kambodžu saistītā krāpšanas operācija nosūtīja OpenAI izmeklētājam pēc tam, kad WhatsApp to bloķēja.