Operacija „Melagingas liudytojas“: institucijomis apsimetantys netikrų lėšų susigrąžinimo paslaugų teikėjai
OpenAI užblokavo paskyras, veikiausiai valdytas iš Kambodžos, kurių naudotojai pasitelkė DI apsimesti lėšų susigrąžinimo paslaugų teikėjais, advokatų kontoromis ir institucijomis, taikydamiesi į nuo sukčiavimo nukentėjusius žmones.
Ši atvejo analizė pirmą kartą paskelbta OpenAI 2026 m. vasario mėn.(atsidaro naujame lange) ataskaitoje apie kovą su piktavališku DI naudojimu.
Veikėjai
Užblokavome grupę ChatGPT paskyrų, kurių naudotojai pasitelkė mūsų modelius prisistatyti išgalvotomis advokatų kontoromis, taip pat apsimesti tikrais advokatais ir JAV teisėsaugos atstovais. Jie taikėsi į sukčiavimo aukas, siūlydami netikras lėšų susigrąžinimo paslaugas. Ši veikla veikiausiai buvo vykdoma iš Kambodžos ir atitinka naujausius viešus pranešimus apie kinų vadovaujamas nusikalstamas sukčiavimo operacijas šioje šalyje.
Veikimo būdas
Paskyrų naudotojai pasitelkė ChatGPT sukčiavimo schemai, kuria siūlyta susigrąžinti dėl sukčiavimo prarastas lėšas. Schema rėmėsi netikromis advokatų kontoromis ir apsimetimu patikimais asmenimis bei organizacijomis, pavyzdžiui, tikrais advokatais ir FTB Skundų dėl internetinių nusikaltimų centru (IC3).
1. Dėmesio patraukimas: sukčiai naudojo ChatGPT kurdami turinį, tariamai skelbiamą bent šešių netikrų advokatų kontorų vardu. Dalis šio turinio vėliau buvo paskelbta socialinių tinklų paskyrose ir internetinėse reklamose, kuriose siūlytos fiktyvios dėl sukčiavimo prarastų lėšų susigrąžinimo paslaugos. Daugelis atviruose šaltiniuose aptiktų požymių rodė, kad kontoros yra apgaulingos: nebuvo duomenų apie valstijų advokatūrų išduotas licencijas, naudoti su kontoromis nederantys interneto domenai, kontaktinėje informacijoje nurodyti, regis, neegzistuojantys adresai, o su advokatais siūlyta susisiekti per susirašinėjimo programėles.
Sukčiai naudojo mūsų modelius socialinių tinklų turiniui, reklamuojančiam netikras dėl sukčiavimo prarastų lėšų susigrąžinimo paslaugas, kurti.
2. Pasitikėjimo pelnymas: sukčiai bandė pelnyti nusižiūrėtų aukų pasitikėjimą generuodami komentarus, kuriais mėginta atkartoti advokatų, padedančių sukčiavimo aukoms susigrąžinti prarastas lėšas, toną ir profesionalumą. Jie generavo turinį, tariamai sukurtą išgalvotų advokatų vardu. Kai kuriuos iš šių išgalvotų advokatų aptikome įvairiose svetainėse. Jų profilių nuotraukos, regis, buvo paimtos iš socialinių tinklų arba sugeneruotos pasitelkus DI. Kai kuriais atvejais sukčius naudojo tas pačias „advokatų“ tapatybes keliose tariamose advokatų kontorose. Viena iš mūsų aptiktų svetainių apsimetė IC3 svetaine.
Šiose sukčiavimo svetainėse skelbti kontaktiniai duomenys nukreipdavo lankytojus į privataus susirašinėjimo programėles, pavyzdžiui, Telegram. Pasitelkę ChatGPT parengtose žinutėse nusižiūrėtoms aukoms sukčiai melagingai teigė veikiantys prižiūrimi Tarptautinio baudžiamojo teismo ir tvirtino, kad jokių mokesčių nereikės mokėti, kol nebus sėkmingai susigrąžintos visos aukos lėšos.
3. Pinigų išviliojimas: sukčiai bandė išvilioti pinigų iš nusižiūrėtų aukų, prašydami sumokėti mokesčius ir įnašus dar prieš bet kokį lėšų „susigrąžinimą“. Pavyzdžiui, jie nurodydavo sumokėti 15 % „paslaugos mokestį“ prieš gaunant tariamai susigrąžintas lėšas, prašydavo įnašų sąskaitai aktyvuoti ir imdavo „konsultacijų mokesčius“. Sukčių žinutėse nusižiūrėtoms aukoms, parengtose pasitelkus ChatGPT, buvo nurodymų atlikti mokėjimus kriptovaliuta ir kaip mokėjimo įrodymą pateikti operacijų patvirtinimų ekrano kopijas.
Su šia sukčiavimo schema susijusi svetainė, apsimetanti FTB IC3 padalinio svetaine. Spustelėję „Pateikti skundą“, lankytojai būdavo nukreipiami į šiuo padaliniu apsimetančią Telegram paskyrą.
Įgyvendinimas
Operacijos vykdytojai naudojo mūsų modelius įvairiems veiklos etapams, pavyzdžiui, reklaminiam turiniui socialiniuose tinkluose kurti ir nepageidautoms pirminio kontakto žinutėms nusižiūrėtoms aukoms rengti. Tačiau dažniausiai sukčiai naudojo ChatGPT žinutėms, siunčiamoms nusižiūrėtoms aukoms ir gaunamoms iš jų privataus susirašinėjimo programėlėse, versti. Be kita ko, jie prašė parašyti atsakymą „amerikiečių anglų kalba“ arba advokato stiliumi.
Dalis sukčių paskyrų naudotojų taip pat pasitelkė mūsų modelius kurdami apgaulingą medžiagą, skirtą patikimumo įspūdžiui sustiprinti. Tai buvo netikri advokatų registracijos įrašai ir advokatų asociacijų nario pažymėjimai, taip pat fiktyvūs konfidencialumo susitarimai, kuriais siekta atgrasyti aukas nuo pagalbos paieškų kitur.
Netikras Niujorko valstijos advokatų asociacijos nario pažymėjimas, sugeneruotas naudojant mūsų modelius. Dalį duomenų uždengė OpenAI tyrėjai.
Poveikis
Poveikį reikia vertinti atsargiai, nes vienas pagrindinių įrodymų šaltinių yra pačių sukčių įvestas tekstas. Šis tekstas leidžia manyti, kad sukčiai iš pavienių aukų galėjo išvilioti tūkstančius dolerių, tačiau negalime nepriklausomai patikrinti šių teiginių. FTB ir bent viena advokatų kontora, kurios vardu apsimetė sukčiai, viešai įspėjo apie šią sukčiavimo schemą. FTB pareigūnai įspėjo, kad operacija nukreipta į pažeidžiamus žmones, ypač vyresnio amžiaus, išnaudojant sukčiavimo aukų emocinę būseną ir norą greitai susigrąžinti prarastas lėšas.
OpenAI taisyklės griežtai draudžia naudoti mūsų įrankių rezultatus apgaulei ar sukčiavimui. Esame įsipareigoję bendradarbiauti su kitomis sektoriaus įmonėmis ir institucijomis, kad suprastume, kaip DI keičia piktavalių elgesį, ir aktyviai užkirstume kelią sukčiavimui piktnaudžiaujant mūsų paslaugomis.