Romantinės apgavystės: sukčiavimo procesai pasitelkiant DI
OpenAI užblokavo paskyras, kuriose DI buvo naudojamas romantinėms apgavystėms: kontaktams užmegzti, versti, aukoms įtraukti ir apgaulingomis investicijomis vilioti.
Ši atvejo analizė pirmą kartą paskelbta OpenAI 2026 m. vasario mėn.(atsidaro naujame lange) ataskaitoje apie kovą su piktavališku DI naudojimu.
Nuo tada, kai prieš metus(atsidaro naujame lange) pradėjome skelbti apie tai, kaip trikdome sukčių tinklų, bandžiusių piktnaudžiauti mūsų modeliais, veiklą, sustabdėme daugybę sukčiavimo operacijų įvairiose pasaulio vietose. Tarp jų buvo „užduočių“ apgavystės, kai aukos įtikinamos sumokėti, kad galėtų atsiimti neegzistuojantį uždarbį už paprastas užduotis, ir investicinės apgavystės, kai aukos įtikinamos pervesti pinigus neegzistuojančioms investicinėms bendrovėms.
Viena dažna sukčiavimo rūšis, žinoma dar gerokai iki DI atsiradimo, yra romantinė apgavystė: sukčiai apsimeta potencialiu romantiniu partneriu ir bando įtikinti auką, kad ši sutiko savo meilę, o tada ima prašyti vis daugiau pinigų. Pirmasis mūsų paskelbtas sukčiavimo sustabdymo atvejis buvo susijęs su naujai pradėta nusikalstama operacija Kambodžoje. Jos vykdytojai naudojo ChatGPT romantinės apgavystės žinutėms generuoti, o dalį jų platino socialiniuose tinkluose. Nuo tada sutrukdėme įvairiems bandymams vykdyti romantines apgavystes. Kaip rašėme birželį(atsidaro naujame lange), šiose ir kitose apgavystėse DI paprastai naudojamas pagal bendrą schemą, kurią skirstome į tris etapus: užkalbinimą (pirmąjį kontaktą), sujaudinimą (emocijų sužadinimą) ir išviliojimą (pinigų gavimą).
Užkalbinimas (pirmasis kontaktas): sukčius generuoja turinį, kuriuo siekia patraukti potencialios aukos dėmesį, atsižvelgdamas į jos pomėgius. Pavyzdžiui, „kiaulių skerdimo“ apgavystės, apie kurią pranešėme pernai, vykdytojai dažnai taikėsi į 40–49 metų amerikiečius vyrus, dirbančius medicinos srityje, atsakydami į jų socialinių tinklų įrašus apie golfą. Kitų operacijų vykdytojai siuntė nepageidaujamas SMS žinutes, netikrus darbo pasiūlymus arba, kaip naujausiu mūsų tirtu romantinės apgavystės atveju (aprašytu toliau), naudojo reklamas socialiniuose tinkluose. Visais šiais atvejais piktavaliai naudojo ChatGPT žinutėms generuoti, kad jos būtų patrauklesnės ir mažiau išduotų, jog jas rašė ne gimtakalbis, nei įprastos sukčių žinutės.
Su golfu susijusi pirmojo kontakto žinutė iš „kiaulių skerdimo“ sukčių tinklo, apie kurį pranešėme 2025 m., atsakant į su šia operacija nesusijusio naudotojo „Facebook“ įrašą.
Sujaudinimas (emocijų sužadinimas): sukčius generuoja turinį, skirtą stiprioms aukos emocijoms sukelti, kad ja būtų lengviau manipuliuoti. Romantinėmis apgavystėmis siekiama, kad auka pajustų trauką sukčiui. Kitomis apgavystėmis gali būti bandoma sužavėti auką galimai pelningu sandoriu, sukelti baimę praleisti progą arba išgąsdinti tariama teisine rizika ar neapmokėta sąskaita. Kartais emocijas bandoma sužadinti jau pirmojo kontakto žinutėje.
Nepageidaujama SMS žinutė iš sukčiavimo operacijos „Klaidingas numeris“, kurią atskleidėme 2025 m. birželį. Joje žadamas neįtikėtinai didelis uždarbis už menką darbą, tikriausiai siekiant sukelti „sujaudinimo“ efektą.
Išviliojimas (pinigų gavimas): sukčius generuoja turinį, skirtą aukai įtikinti atiduoti pinigus. Nurodomos priežastys gali būti labai įvairios. Pavyzdžiui, romantinių apgavysčių vykdytojai gali prašyti aukos investuoti į mylimojo verslą arba duoti pinigų jo finansiniams sunkumams įveikti. „Užduočių“ apgavysčių vykdytojai liepia aukoms įmokėti pinigų, kad jos galėtų atsiimti tariamai uždirbtas (išgalvotas) lėšas. Investicinių apgavysčių vykdytojai ragina aukas dėti pinigus į neegzistuojančias investicijas.
Nepageidaujama SMS žinutė iš sukčiavimo operacijos „Klaidingas numeris“, kurią atskleidėme 2025 m. birželį. Joje žadamas neįtikėtinai didelis uždarbis už menką darbą, tikriausiai siekiant sukelti „sujaudinimo“ efektą.
Kaip rodo ši veiksmų seka, esminė apgavysčių dalis yra platinimo tinklas. Įvairių mūsų atskleistų sukčiavimo operacijų vykdytojai pirmąsias žinutes siuntė SMS žinutėmis, per šifruotų žinučių programėles, socialinių tinklų įrašus, internetines reklamas arba derindami visus šiuos kanalus. Iki DI atsiradimo sukčiai garsėjo tuo, kad naudojo el. laiškus(atsidaro naujame lange), telefono skambučius(atsidaro naujame lange), o XIX amžiuje – net laiškus(atsidaro naujame lange) ir telegramas(atsidaro naujame lange). Daugelis sukčių žinutes platina plačiai ir nesirinkdami gavėjų, tačiau kai kurie, regis, bando tiksliai atsirinkti aukas. Pavyzdžiui, „kiaulių skerdimo“ apgavystės, apie kurią pranešėme 2025 m. vasarį(atsidaro naujame lange), vykdytojai daugiausia dėmesio skyrė tokioms temoms kaip golfas; kitos romantinės apgavystės vykdytojai socialinių tinklų reklamomis taikėsi į jaunus vyrus Indonezijoje; o įžymybėmis apsimetantys sukčiai(atsidaro naujame lange) paprastai taikosi į konkretaus garsaus žmogaus gerbėjų grupes. Nors dėl fragmentiškų įrodymų sunku patikimai palyginti skirtingas mūsų sustabdytas apgavystes, manome, kad pasirinktas platinimo būdas (pvz., masinis ar tikslinis) turi didelę įtaką tam, ar sukčiams pavyks pasiekti ir išnaudoti aukas, nepaisant to, kiek DI jie naudojo įvairioms užduotims atlikti.
