Romantinio viliojimo afera: DI padedamos „kiaulių skerdimo“ schemos
OpenAI užblokavo, regis, iš Kambodžos valdytas paskyras, kurios pasitelkė DI romantinio viliojimo ir investicinio sukčiavimo pokalbiams versti bei generuoti.
Šis atvejo tyrimas pirmą kartą paskelbtas OpenAI 2025 m. vasario(atsidaro naujame lange) ataskaitoje.
Vykdytojas
Užblokavome grupę ChatGPT paskyrų, kurios vertė ir generavo trumpus komentarus japonų, kinų ir anglų kalbomis. Atrodo, kad ši veikla vykdyta iš Kambodžos ir atitiko romantinio viliojimo bei investicinio sukčiavimo schemą (dar vadinamą „kiaulių skerdimu“). Meta neseniai aptiko susijusią veiklą(atsidaro naujame lange) savo platformoje, kuri, regis, vykdyta iš neseniai Kambodžoje įkurto sukčiavimo centro.
Veikla
Šis tinklas naudojo mūsų modelius trumpiems komentarams versti ir generuoti. Atrodo, kad pagrindinė vykdytojų kalba buvo kinų. Turinys buvo generuojamas įvairiomis kalbomis, daugiausia japonų ir kinų, bet taip pat anglų.
Vykdytojai mūsų modelius naudojo dviem pagrindiniais tikslais. Pirma, jie generuodavo komentarus, kuriuos viešai skelbdavo socialinių tinklų platformose, įskaitant Facebook, X ir Instagram. Kiekvienoje socialinio tinklo paskyroje paprastai būdavo viena ar kelios jaunos moters profilio nuotraukos. Vertiname, kad bent dalis jų buvo nukopijuotos iš tikrų modelių ar nuomonės formuotojų, o ne sugeneruotos DI.
Dauguma sugeneruotų komentarų buvo paskelbti atsakant į tikrų žmonių įrašus socialiniuose tinkluose. Kai kurie įrašai, į kuriuos atsakė vykdytojai, buvo paskelbti prieš kelis mėnesius ar net metus. Šios operacijos taikiniais paprastai tapdavo vyresni nei 40 metų vyrai, dažnai medicinos specialistai, sprendžiant iš jų viešų profilių. Operacijos vykdytojai dažnai atsakydavo į įrašus apie golfą, o tai rodo sąmoningai pasirinktą taikinių strategiją. Kartais sukčiai skelbdavo įrašus politinėmis ar aktualijų temomis.
Šio vykdytojo, naudojantis mūsų modeliais, sugeneruotas Facebook komentaras, paskelbtas atsakant į su šia operacija, regis, nesusijusio asmens komentarą apie golfą. Sukčių paskyros profilio nuotrauka nukopijuota iš JAV mados ir grožio nuomonės formuotojos. Kai sukčių paskyra paskelbė komentarą, pirminis įrašas jau buvo daugiau nei mėnesio senumo.
Mūsų modelių sugeneruotas komentaras, kurį patvirtinta paskyra paskelbė platformoje X atsakydama į, regis, su šia apgaule nesusijusios paskyros įrašą. Paskyros profilio nuotrauka nukopijuota iš tos pačios JAV mados ir grožio nuomonės formuotojos. Pirminis įrašas buvo paskelbtas beveik prieš šešis mėnesius.
Antra, ir gerokai dažniau, vykdytojai generuodavo trumpus komentarus, primenančius internetinio pokalbio dalis. Paprastai komentarai buvo verčiami iš kinų kalbos į tikslinę kalbą (japonų arba anglų) arba iš tikslinės kalbos atgal į kinų. Tai atitinka situaciją, kai sukčiai modelį pirmiausia naudoja vykstantiems pokalbiams versti.
Kartais paskyrų valdytojai prašydavo modelio sugeneruoti atsakymą tam tikru tonu, pavyzdžiui, kaip flirtuojanti jauna moteris. Kartais modeliui būdavo pateikiama išsami biografinė informacija, turėjusi padėti parengti atsakymus: išgalvoto asmens vardas, išsilavinimas, darbas, gyvenamoji vieta ir pomėgiai. Šiose biografijose paprastai būdavo nurodoma, kad išgalvotas asmuo šiek tiek investuoja internetu.
Atrodo, kad taikiniams pasiekti sukčiai naudojo daug įvairių įrankių ir platformų. Tyrimo metu aptikome įrodymų, kad jie naudojo LINE, WhatsApp, X, Facebook, Instagram, įvairias kitas susirašinėjimo paslaugas, Apple funkciją „Slėpti mano el. pašto adresą“(atsidaro naujame lange), taip pat kriptovaliutų ir užsienio valiutų prekybos platformas.
Sugeneruoti atsakymai
Remiantis mūsų turimais duomenimis apie šią veiklą, sukčiai, regis, laikėsi įprastos schemos, palaipsniui įtraukdami taikinius ir galiausiai paskatindami juos nesąžiningai investuoti:
Viešas kontakto užmezgimas. Sukčiai komentuodavo taikinio įrašus socialiniuose tinkluose. Šie komentarai dažnai baigdavosi tokiu klausimu kaip „Ką manote apie [temą]?“, tikriausiai siekiant padidinti atsakymo tikimybę. Keliais atvejais jie komentavo politiką, tačiau dažniau kalbėjo apie golfą.
Tikėtinas perėjimas prie privačių žinučių. Tada sukčiai generuodavo trumpas, pokalbiui būdingas žinutes. Nors negalime tiksliai nustatyti, kaip ir kur jos buvo naudojamos, šios žinutės atitiko situaciją, kai sukčius ir taikinys pradeda susirašinėti privačiai.
Saugus susirašinėjimas. Labai greitai, dažnai per kelias dienas, sukčiai sugeneruodavo žinutes, kuriose siūlydavo pereiti į saugesnę susirašinėjimo programėlę. Kartais tai būdavo grindžiama nepasitikėjimu socialiniais tinklais, o kartais – praktine dingstimi, pavyzdžiui, kad sukčius netrukus vyks ten, kur negalės naudotis socialiniais tinklais.
Romantinis ryšys. Sukčiai rašydavo ir versdavo vis švelnesnes bei intymesnes žinutes. Jei taikiniai paprašydavo moters, su kuria neva bendravo, nuotraukų, sukčiai sugalvodavo pasiteisinimų.
Finansinis įtraukimas. Sukčiai rašydavo ir versdavo žinutes, kuriose girdavosi daug uždirbę internetu investuodami į užsienio valiutas, kriptovaliutas ar auksą. Dažnai būdavo teigiama, kad tai pavyko klausant finansų srityje dirbančio giminaičio patarimų. Sukčius ragindavo taikinį pradėti investuoti tokiu pačiu būdu ir siūlydavosi padėti kiekviename etape.
Sukčiavimas. Sukčiai rašydavo ir versdavo žinutes, kuriomis mėgindavo įtikinti auką pervesti pinigų į prekybos programėlę, o ją skatindavo girdamiesi neva gaunamu dideliu pelnu. Kaskart aukai mėginant atsiimti „pelną“, sukčius pateikdavo kokią nors dingstį, pavyzdžiui, kad pirmiausia reikia sumokėti mokestį.
Šis veiklos modelis atitinka viešai skelbiamą informaciją(atsidaro naujame lange) apie įprastą tokių sukčiavimo schemų veikimą.
Poveikis
Atrodo, kad daug bandymų vykdant šią veiklą nutrūko vos prasidėję arba nepavyko. Kai kurie pokalbiai, kuriuos sukčiai apdorojo naudodami mūsų modelius, baigėsi tuo, kad taikinys atpažino sukčiavimą arba liepė sukčiui palikti jį ramybėje. Socialiniuose tinkluose taip pat aptikome sukčių įrašų, kurie nesulaukė jokios reakcijos.
Vis dėlto kai kuriuose pokalbiuose minėtos tūkstantinės sumos JAV doleriais ar atitinkamos sumos kitomis valiutomis kaip pavienių operacijų dydis. Dėl to, kaip šie vykdytojai naudojo mūsų modelius, negalime nustatyti, ar tokios finansinės operacijos iš tiesų įvyko. Vis dėlto pokalbiuose pateiktos užuominos leidžia manyti, kad bent kai kuriais atvejais sukčiams pavyko apgauti savo taikinius.
OpenAI politika griežtai draudžia mūsų įrankių sugeneruotą turinį naudoti sukčiavimui ar apgaulėms. Esame pasiryžę bendradarbiauti su kitomis sektoriaus įmonėmis ir institucijomis, kad suprastume, kaip DI naudojamas žalingai veiklai, ir aktyviai stabdytume sukčius, piktnaudžiaujančius mūsų paslaugomis. Vykdydami šį įsipareigojimą, su kitomis sektoriaus įmonėmis ir atitinkamomis institucijomis pasidalijome informacija apie mūsų sustabdytus sukčių tinklus.