Романтичне преваре: процеси романтичних превара уз помоћ ВИ
OpenAI је блокирао налоге који су користили ВИ у процесима романтичних превара, укључујући успостављање контакта, превођење, комуникацију са жртвама и мамце за инвестиционе преваре.
Ова студија случаја првобитно је објављена у извештају компаније OpenAI из фебруара 2026.(отвара се у новом прозору) о сузбијању злонамерне употребе ВИ.
Откако смо пре годину дана(отвара се у новом прозору) почели да извештавамо о сузбијању мрежа превараната које су настојале да злоупотребе наше моделе, угасили смо многе преварантске операције из различитих делова света. Међу њима су биле преваре са „задацима“, у којима се жртве убеђују да уплате новац како би приступиле непостојећој заради од безначајних задатака, као и инвестиционе преваре, у којима се жртве наводе да уложе новац у непостојеће инвестиционе компаније.
Једна уобичајена врста преваре, присутна много пре појаве ВИ, јесте романтична превара. У њој се преваранти представљају као потенцијални романтични партнери и покушавају да увере мету да је пронашла љубав, а затим од ње траже све више новца. Први случај сузбијања преваре који смо објавили односио се на новоосновану криминалну операцију у Камбоџи која је користила ChatGPT за генерисање порука за романтичну превару, од којих су неке објављиване на друштвеним мрежама. Од тада смо осујетили различите покушаје романтичних превара. Као што смо писали у јуну(отвара се у новом прозору), ове и друге преваре обично прате заједнички образац употребе ВИ, који називамо контактом (хладно обраћање), подстицајем (изазивање емоција) и ударцем (извлачење новца).
Контакт (хладно обраћање): преварант генерише садржај осмишљен да привуче пажњу потенцијалне мете позивајући се на њена интересовања. На пример, превара „товљењем свиња“ о којој смо извештавали прошле године често је циљала Американце у четрдесетим годинама који раде у здравству, тако што је одговарала на њихове објаве о голфу на друштвеним мрежама. Друге операције користиле су нежељене SMS поруке, лажне поруке о запошљавању или, у нашем најновијем случају романтичне преваре описаном у наставку, огласе на друштвеним мрежама. У сваком случају, актери претњи користили су ChatGPT за генерисање порука које би могле бити привлачније и мање очигледно написане од стране особе којој језик није матерњи него код традиционалних превара.
Порука на тему голфа из мреже за преваре „товљењем свиња“ о којој смо извештавали 2025, као одговор на Facebook објаву корисника који није повезан са операцијом.
Подстицај (изазивање емоција): преварант генерише садржај осмишљен да изазове снажна осећања код мете и тако олакша манипулацију. Романтичне преваре настоје да код мете изазову привлачност према преваранту. Друге преваре могу покушати да изазову узбуђење због потенцијално уносног посла, страх од пропуштања прилике или забринутост због наводног правног ризика или неплаћеног рачуна. Понекад подстицај може бити у истој поруци као и контакт.
Нежељена SMS порука преварантске операције „Погрешан број“, коју смо разоткрили у јуну 2025, са детаљима о неуверљиво високој заради за мало рада, вероватно осмишљеним да изазову ефекат „подстицаја“.
Ударац (извлачење новца): преварант генерише садржај осмишљен да убеди мету да преда новац. Наведени разлози могу се знатно разликовати. На пример, у романтичним преварама од мете се може тражити да уложи у посао вољене особе или да преда новац ради решавања финансијске кризе. Преваре са „задацима“ траже од мета да уплате новац како би приступиле (измишљеном) новцу за који верују да су га зарадиле. Инвестиционе преваре наводе мете да уложе новац у непостојеће инвестиције.
Нежељена SMS порука преварантске операције „Погрешан број“, коју смо разоткрили у јуну 2025, са детаљима о неуверљиво високој заради за мало рада, вероватно осмишљеним да изазову ефекат „подстицаја“.
Као што овај ток показује, дистрибутивна мрежа је кључна компонента превара. Различите преварантске операције које смо разоткрили слале су почетне поруке путем SMS-а, шифрованих апликација за размену порука, објава на друштвеним мрежама, онлајн огласа или њиховом комбинацијом. Преваре из доба пре ВИ познате су по употреби е-поште(отвара се у новом прозору), телефонских позива(отвара се у новом прозору), па чак и, у деветнаестом веку, писама(отвара се у новом прозору) и телеграма(отвара се у новом прозору). Многе преваре се дистрибуирају насумично и широко, али неке очигледно покушавају да прецизно одаберу мете. На пример, превара „товљењем свиња“ о којој смо извештавали у фебруару 2025.(отвара се у новом прозору) била је усмерена на теме попут голфа; друга романтична превара користила је огласе на друштвеним мрежама да циља младе мушкарце у Индонезији; док се преваре са лажним познатим личностима(отвара се у новом прозору) обично представљају као нека позната особа и затим циљају групе њених обожавалаца. Иако фрагментарни докази отежавају поуздано поређење различитих превара које смо осујетили, процењујемо да изабрани начин дистрибуције — на пример, масован или циљан — значајно утиче на способност сваке преваре да успешно досегне и искористи своје мете, без обзира на то у којој мери је операција користила ВИ за различите функције.
