Sukčiavimo operacijos: internetinio sukčiavimo tinklai

Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. spalio⁠(atsidaro naujame lange) ataskaitoje.

Tikėtina, iš Kambodžos, Mianmaro ir Nigerijos kilę tinklai piktnaudžiauja ChatGPT, kaip manoma, mėgindami internetu apgauti žmones.

Siekiame nustatyti, užkirsti kelią ir sutrikdyti mėginimus piktnaudžiauti mūsų modeliais žalingais tikslais. Vienas tokio piktnaudžiavimo būdų – sukčiavimas. Aptinkame ir užblokuojame piktavalius, mėginančius netinkamai naudoti mūsų modelius žmonėms apgauti ir išvilioti jų turtą. Per pastaruosius tris mėnesius sutrikdėme sukčiavimo tinklų, tikėtina, kilusių iš Kambodžos, Mianmaro ir Nigerijos, veiklą. Tirdami šiuos piktnaudžiavimo modelius taip pat matėme daug žmonių, kurie mūsų modeliais naudojosi sukčiavimui atpažinti. Tai rodo, kokį vaidmenį DI gali atlikti kovojant su sukčiavimu. Šioje ataskaitoje aptariami abu naudojimo atvejai.

Piktnaudžiavimo mūsų modeliais sukčiavimo tikslais mastas įvairus – nuo pavienių sukčiauti mėginančių asmenų iki plataus masto ilgalaikių operacijų, tikriausiai susijusių su organizuotomis nusikalstamomis grupuotėmis. Nepriklausomai nuo kilmės ir konkrečios taktikos, mūsų sutrikdyta su sukčiavimu susijusi veikla paprastai vyksta pagal tą patį modelį: kontaktas (neprašytas kreipimasis), emocinis sužadinimas (bandymas sukelti entuziazmą ar paniką) ir smūgis (pinigų ar vertingos informacijos išviliojimas).

Pirmiausia šie sukčiai žinučių platformose ir internete paskleidžia turinį – sukurtą DI arba ne, be kita ko, skelbdami reklamas socialiniuose tinkluose. Tuomet atsakiusiesiems jie mėgina sukelti entuziazmą dėl pelningos galimybės arba baimę dėl gresiančių finansinių nuostolių ir, pasinaudodami šiomis emocijomis, įtikinti taikinį atiduoti pinigus ar neskelbtiną informaciją.

Taip pat pastebėjome daug atvejų, kai mūsų modeliai greičiausiai padėjo žmonėms apsisaugoti nuo sukčiavimo. Turimi duomenys rodo, kad žmonės ChatGPT naudoja internetinėms apgavystėms atpažinti ir jų išvengti milijonus kartų per mėnesį. Kiekvienos šioje ataskaitoje aprašytos sukčiavimo operacijos atveju matėme, kaip modelis padėjo žmonėms teisingai atpažinti apgavystę ir patarė, kokių saugumo priemonių imtis. Dabartiniu mūsų vertinimu, ChatGPT sukčiavimui atpažinti naudojamas iki trijų kartų dažniau nei pačiam sukčiavimui.

Pavyzdys, kaip OpenAI tyrėjas į ChatGPT įkėlė gautos sukčių SMS žinutės ekrano kopiją ir naudodamasis modeliu sėkmingai nustatė, kad tai apgavystė. Šiuo atveju grėsmės subjektai mėgino apsimesti TikTok darbuotojų atrankos specialistais.

Nuo ankstesnės ataskaitos sustiprinome savo gebėjimus aptikti ir sutrikdyti sukčiavimą. Sutrikdėme daugiau sukčiavimo tinklų, kurie, regis, veikė iš Kambodžos, Mianmaro ir Nigerijos. Šie ir ankstesni veiklos nutraukimo atvejai leidžia mums nustatyti naujas tendencijas, būdingas įvairioms sukčiavimo operacijoms skirtingose šalyse.

Dauguma mūsų sutrikdytos sukčiavimo veiklos buvo grindžiama DI pritaikymu prie esamų sukčiavimo schemų, o ne naujų, DI paremtų schemų kūrimu. Visose šiemet nustatytose ir užblokuotose sukčiavimo operacijose DI pirmiausia naudotas veiklos mastui ir efektyvumui didinti. Paprastai mūsų modeliai buvo naudojami vertimams, žinutėms rašyti ir socialinių tinklų turiniui kurti.

Pavyzdžiui, neseniai užblokavome sukčiavimo operacijas, tikėtina, vykdytas iš Kambodžos ir Nigerijos: jų vykdytojai dėjosi „investicinėmis bendrovėmis“ ir mėgino apgauti aukas keliose šalyse. Sukčiai kūrė svetaines ir internetines reklamas fiktyvioms bendrovėms reklamuoti, o tikriausiai netikrose socialinių tinklų paskyrose apsimetė prekybos ekspertais ir kvietė žmones prisijungti prie privačių žinučių grupių. Žadėdami pelningas ir nerizikingas galimybes užsidirbti, grėsmės subjektai mėgino suvilioti potencialias aukas pervesti pinigus į fiktyvias prekybos platformas. Visose šiose schemose sukčiai mūsų modelius daugiausia naudojo korespondencijai kurti ir versti, savo svetainių bei socialinių tinklų paskyrų turiniui rengti ir nesudėtingiems tyrimams atlikti.

Kitu atveju užblokavome sukčiavimo centrą, beveik neabejotinai veikusį Mianmare. Mūsų modelius jis naudojo ir apgaulingų schemų turiniui kurti, ir kasdienėms verslo užduotims atlikti. Be kita ko, buvo sudaromi tvarkaraščiai, rengiami vidiniai pranešimai, skirstomos darbo vietos ir vietos bendrabučiuose bei tvarkomos finansinės sąskaitos. Kai kurie vykdytojai teiravosi, kokios baudžiamosios sankcijos gresia už internetinį sukčiavimą sugautiems žmonėms.

Ne visi mūsų sustabdyti sukčiai modelius naudojo vienodai ar taip pat sudėtingai. Dauguma sukčių sąveikų su ChatGPT buvo susijusios su palyginti paprastomis užduotimis, pavyzdžiui, vertimu, tačiau kai kurios sukčiavimo operacijos buvo ambicingesnės ir sudėtingesnės.

Pavyzdžiui, viena mūsų sutrikdyta sukčiavimo operacija, tikėtina, vykdyta iš Kambodžos, naudojo mūsų modelius išsamioms fiktyvių investavimo ekspertų ir netikrų prekybos bendrovių išgalvotų darbuotojų biografijoms kurti. Tada sukčiai prašė ChatGPT rašyti socialinių tinklų žinutes šių personažų vardu ir stiliumi. Grėsmės subjektai dažnai pateikdavo mūsų modeliui žinutes, kurias, regis, buvo gavę iš savo taikinių, ir prašydavo tęsti pokalbį apsimetant išgalvotu asmeniu.

Kita sukčiavimo operacija, taip pat tikriausiai vykdyta iš Kambodžos, iš pradžių naudojo mūsų modelius neprašytoms SMS žinutėms kurti ir masiškai siuntė jas JAV telefono numeriais. Viena tokių žinučių buvo išsiųsta OpenAI tyrėjui, panašiai kaip birželį aprašytu atveju. Šiose SMS žinutėse buvo kviečiama prisijungti prie WhatsApp grupių, kurių pavadinimai priminė teisėtos investicinės bendrovės pavadinimą. Vėliau šios grupės buvo užblokuotos.

Sprendžiant iš OpenAI tyrėjui atsiųstų WhatsApp žinučių sekos, prie vienos iš šių grupių prisijungęs potencialus taikinys netrukus pamatydavo pusės tuzino skirtingų paskyrų „pokalbį“ apie investavimą. Viena iš šių paskyrų apsimetė „investavimo ekspertu“, o kitos – skirtingo pasitikėjimo savimi ir patirties turinčiais investuotojais. Visą šį pokalbį sukūrė sukčiai ir vienu bloku išvertė iš kinų kalbos – tikriausiai siekdami sudaryti gyvybingos, entuziastingų ir sėkmingų prekiautojų grupės įspūdį. Galiausiai „investavimo ekspertas“ pasiūlydavo taikiniui taip pat pabandyti investuoti.

Kita investicinio sukčiavimo operacija, beveik neabejotinai vykdyta iš Nigerijos, prašė modelio nuosekliai paaiškinti, kaip naudojantis socialinių tinklų reklamomis pasiekti turtingus Lotynų Amerikos gyventojus, nuslėpti savo buvimo vietą ir apeiti socialinių tinklų platformų apribojimus. Tam modeliui buvo nurodoma peržiūrėti viešai skelbiamas platformos paslaugų teikimo sąlygas ir įvertinti, ar siūlomas reklamos turinys jas atitinka.

Sukčiai, ypač dideli sukčiavimo centrai, yra atkaklūs. Sutrikdžius jų veiklą, jie labai dažnai mėgina vėl imtis taisykles pažeidžiančių veiksmų, tačiau pakeičia kai kuriuos elgsenos elementus, tikriausiai siekdami išvengti pakartotinio aptikimo. Todėl visoje sektoriaus bendruomenėje svarbu dalytis įžvalgomis apie kintančią jų veiklą. Pavyzdžiui, OpenAI ir Meta pasidalijo informacija apie grėsmės subjektus, kuri padėjo tęsti tyrimą ir imtis poveikio priemonių.

Galbūt reaguodami į veiklos sutrikdymą arba platesnes interneto diskusijas apie DI naudojimą išduodančius požymius, sukčiai mėgino nuslėpti DI naudojimą internete skelbiamame turinyje ir bendraudami su taikiniais. Pavyzdžiui, tikėtina, iš Kambodžos vykdytų sukčiavimo operacijų dalyviai nurodydavo modeliui iš atsakymų pašalinti ilguosius brūkšnius.

Vienu atveju sukčiai mėgino paaiškinti plataus masto jų socialinių tinklų išteklių blokavimą išgalvodami pasiteisinimą, kodėl buvo užblokuoti. Tai buvo susiję su pirmiau aprašytu sukčiavimo centru, kuris, tikėtina, veikė iš Kambodžos ir naudojo SMS bei WhatsApp. Kai WhatsApp užblokavo su šia operacija susijusias „investavimo grupes“, jos vykdytojai pradėjo kurti žinutes, kuriose teigė, kad konkurentas melagingai apskundė šias grupes, tikriausiai taip mėgindami pateisinti blokavimą.

WhatsApp žinutės, kurią su Kambodža susijusi sukčiavimo grupė išsiuntė OpenAI tyrėjui po to, kai WhatsApp nutraukė jos veiklą, ekrano kopija.