Преварантске операције: мреже за преваре на интернету

Ова студија случаја првобитно је објављена у извештају компаније OpenAI за октобар 2025.⁠(отвара се у новом прозору) године.

Мреже које вероватно потичу из Камбоџе, Мјанмара и Нигерије злоупотребљавају ChatGPT, по свему судећи покушавајући да преваре људе на интернету.

Посвећени смо откривању, спречавању и ометању покушаја злоупотребе наших модела у штетне сврхе. Међу тим злоупотребама су и преваре, при чему откривамо и забрањујемо злонамерне актере који покушавају да злоупотребе наше моделе како би обманули и преварили људе. У последња три месеца омели смо преварантске мреже које су вероватно потекле из Камбоџе, Мјанмара и Нигерије. Као показатељ улоге коју AI може имати у борби против превара, током истраге ових образаца злоупотребе видели смо и многе људе који користе наше моделе да би лакше препознали преваре. Овај извештај разматра оба начина употребе.

Злоупотреба наших модела као подршка преварама креће се од појединаца који покушавају да преваре друге до обимних и упорних операција вероватно повезаних са организованим криминалним групама. Без обзира на порекло и конкретну тактику, преварантске активности које смо омели обично прате заједнички образац који називамо пингом (неочекивано обраћање), зингом (покушај изазивања одушевљења или панике) и стингом (извлачење новца или вредних информација).

Ови преваранти најпре шире садржај, било да је генерисан помоћу AI или не, преко сервиса за размену порука и интернета, укључујући огласе на друштвеним мрежама. Затим покушавају да код свакога ко одговори изазову одушевљење уносном приликом или страх од непосредног финансијског губитка, па ту емоцију користе да убеде мету да им преда новац или осетљиве податке.

Уочили смо и бројне случајеве у којима су наши модели вероватно помогли људима да се заштите од превара. Видели смо доказе да људи милионима пута месечно користе ChatGPT како би лакше препознали и избегли преваре на интернету; у свакој преварантској операцији из овог извештаја видели смо како модел помаже људима да исправно препознају превару и саветује их о одговарајућим мерама заштите. Према нашој тренутној процени, ChatGPT се за препознавање превара користи и до три пута чешће него за њихово спровођење.

Пример истраживача компаније OpenAI који је у ChatGPT налепио снимак екрана примљене преварантске SMS поруке и помоћу модела успешно утврдио да је реч о превари. У овом случају злонамерни актери представљали су се као регрутери компаније TikTok.

Од претходног извештаја унапредили смо сопствену способност откривања и ометања превара. Омели смо још преварантских мрежа за које се чинило да потичу из Камбоџе, Мјанмара и Нигерије. Заједно са нашим ранијим интервенцијама, ова гашења нам омогућавају да препознамо нове трендове у више преварантских операција из различитих земаља.

Већина преварантских активности које смо омели сводила се на уклапање AI у постојеће преварантске шеме, а не на стварање нових шема заснованих на AI. Све преварантске операције које смо ове године открили и забранили користиле су AI првенствено као алат за повећање обима и ефикасности. То је обично подразумевало коришћење наших модела за превођење, писање порука и стварање садржаја за друштвене мреже.

На пример, недавно смо забранили преварантске операције које су вероватно потицале из Камбоџе и Нигерије и представљале се као „инвестиционе фирме“ како би превариле жртве у више земаља. Преваранти су правили веб-сајтове и интернет огласе за промовисање лажних фирми и користили вероватно неаутентичне налоге на друштвеним мрежама, на којима су се представљали као стручњаци за трговање и позивали људе да се придруже приватним групама за размену порука. Обећавајући уносне прилике за зараду без ризика, злонамерни актери су затим покушавали да наведу потенцијалне жртве да уплате новац на измишљене платформе за трговање. У свим овим преварама, преваранти су наше моделе првенствено користили за генерисање и превођење преписке, прављење садржаја за своје веб-сајтове и налоге на друштвеним мрежама и основна истраживања.

У другом случају забранили смо преварантски центар који се највероватније налазио у Мјанмару и користио наше моделе како за генерисање садржаја за своје преварантске шеме, тако и за обављање свакодневних пословних задатака. То је обухватало организовање распореда, састављање интерних обавештења, додељивање радних места и смештаја у спаваоницама и управљање финансијским рачунима. Неки оператери су се распитивали о кривичним казнама за особе ухваћене у вршењу превара на интернету.

Нису сви преваранти које смо зауставили користили наше моделе на исти начин нити са истим степеном сложености. Већина интеракција превараната са системом ChatGPT односила се на релативно једноставне задатке попут превођења, али су неке преварантске операције биле амбициозније и разрађеније.

На пример, једна преварантска операција коју смо омели и која је вероватно потицала из Камбоџе користила је наше моделе за писање детаљних биографија лажних инвестиционих стручњака и измишљених запослених у лажним трговачким фирмама. Преваранти су затим тражили од система ChatGPT да пише поруке за друштвене мреже гласом тих ликова. Злонамерни актери су у наш модел често уносили поруке које су, по свему судећи, примили од својих мета и тражили од модела да настави разговор у улози лажног лика.

Друга преварантска операција, која је такође вероватно потицала из Камбоџе, најпре је користила наше моделе за генерисање неочекиваних промотивних SMS порука које су масовно слате на бројеве телефона у САД. Једна од тих порука послата је истраживачу компаније OpenAI, слично случају о којем смо известили у јуну. Те SMS поруке садржале су позиве за придруживање групама на сервису WhatsApp, које су накнадно забрањене, а чија су имена подсећала на назив легитимне инвестиционе фирме.

На основу низа порука послатих истраживачу компаније OpenAI путем сервиса WhatsApp, потенцијална мета која би се придружила некој од ових група убрзо би видела „разговор“ између шест различитих налога који су говорили о улагању. Један од тих налога представљао се као „инвестициони стручњак“, док су се остали представљали као улагачи са различитим нивоима самопоуздања и искуства. Преваранти су генерисали сваки део овог разговора, који су затим у једном блоку превели са кинеског — вероватно да би створили утисак живахне групе ентузијастичних и успешних трговаца. На крају би „инвестициони стручњак“ предложио мети да и она покуша да улаже.

Одвојено од тога, операција инвестиционе преваре која је највероватније потицала из Нигерије тражила је од модела детаљна упутства о томе како да помоћу огласа на друштвеним мрежама досегне богате људе у Латинској Америци, прикрије своју локацију и избегне ограничења платформи друштвених мрежа. То је подразумевало упућивање модела на јавно доступне услове коришћења платформе и захтев да провери да ли је предложени садржај огласа усклађен с њима.

Преваранти су упорни, нарочито велики преварантски центри. На ометање веома често реагују покушајем да поново покрену активности којима крше правила, уз измене појединих елемената свог понашања, вероватно како би избегли да буду поново откривени. То је један од разлога због којих је важно да се широм сектора размењују сазнања о њиховим активностима које се мењају, као када су OpenAI и Meta појединачно поделили информације о злонамерним актерима које су допринеле даљој истрази и спровођењу мера.

Можда као одговор на ометање или шире расправе на интернету о знацима који могу открити употребу AI, видели смо да преваранти покушавају да прикрију коришћење AI у садржају на интернету и комуникацији са метама. То обухвата преварантске операције које вероватно потичу из Камбоџе и налажу моделу да из резултата уклони дуге црте.

У једном случају преваранти су покушали да објасне обимно гашење својих ресурса на друштвеним мрежама измишљајући оправдање за забране. То се односило на претходно описани преварантски центар, вероватно пореклом из Камбоџе, који је деловао путем SMS порука и сервиса WhatsApp. Након што је WhatsApp забранио „инвестиционе групе“ повезане са том операцијом, оператери су почели да генеришу поруке у којима су тврдили да је конкурент лажно пријавио те групе, вероватно како би оправдали забране.

Снимак екрана поруке коју је преварантска операција повезана са Камбоџом послала истраживачу компаније OpenAI путем сервиса WhatsApp након што ју је WhatsApp угасио.