Операција „Лажни сведок“: лажна служба за повраћај новца представља се као надлежни орган

Ова студија случаја првобитно је објављена у извештају компаније OpenAI из фебруара 2026.⁠(отвара се у новом прозору) о спречавању злонамерне употребе вештачке интелигенције.

Забранили смо групу ChatGPT налога који су помоћу наших модела представљали измишљене адвокатске канцеларије, стварне адвокате и америчке органе реда у превари усмереној на жртве ранијих превара којима је нуђен повраћај новца. Ова активност је врло вероватно потицала из Камбоџе и поклапа се с недавним јавним извештајима о криминалним преварама које у тој земљи предводе кинеске групе.

Налози су користили ChatGPT као подршку за превару с повраћајем изгубљеног новца, засновану на лажним адвокатским канцеларијама и лажном представљању као поуздани субјекти, попут стварних адвоката и Центра за пријаву интернет криминала (IC3) при FBI-ју.

1. Привлачење: Преваранти су користили ChatGPT за прављење садржаја који је наводно потицао од најмање шест лажних адвокатских канцеларија. Део тог садржаја потом је објављен преко налога на друштвеним мрежама и интернет огласа који су промовисали измишљене услуге повраћаја новца изгубљеног у превари. Више јавно доступних показатеља упућивало је на то да су канцеларије лажне: није било доказа о лиценци надлежне адвокатске коморе, коришћени су неодговарајући веб-домени и контакт-подаци с адресама које по свему судећи не постоје, а корисници су упућивани да адвокате контактирају путем апликација за размену порука.

2. Уверавање: Преваранти су покушавали да стекну поверење мета тако што су генерисали коментаре који су опонашали тон и професионалност адвоката специјализованих за помоћ жртвама преваре при повраћају новца. Генерисали су садржај који је наводно потицао од измишљених адвоката. Неке од тих измишљених особа пронашли смо на различитим веб-сајтовима, где су њихове профилне слике очигледно преузете с друштвених мрежа или генерисане помоћу вештачке интелигенције. У неким случајевима преварант је користио исте идентитете „адвоката“ у више наводних адвокатских канцеларија. Један од веб-сајтова које смо открили лажно се представљао као IC3.

Контакт-подаци објављени на тим различитим преварантским веб-сајтовима упућивали су посетиоце на приватне апликације за размену порука, као што је Telegram. У порукама метама, састављеним помоћу ChatGPT‑а, преваранти су лажно тврдили да раде под надзором Међународног кривичног суда и да неће наплатити накнаде док жртви успешно не врате сав новац.

3. Наплата: Преваранти су покушавали да извуку новац од мета тражећи накнаде и депозите пре било каквог „повраћаја“. Између осталог, тражили су од мета да плате „накнаду за услугу“ од 15% пре него што приме наводно враћени новац, захтевали депозите за активирање налога и наплаћивали „накнаде за консултације“. Поруке које су преваранти састављали помоћу ChatGPT‑а садржале су упутства метама да пошаљу уплате у криптовалутама и доставе снимке екрана с потврдама трансакција као доказ о уплати.

У оквиру операције наши модели су коришћени као подршка у више фаза рада, попут генерисања промотивног садржаја за друштвене мреже и порука за нежељено контактирање мета. Међутим, преваранти су ChatGPT најчешће користили за превођење порука метама и њихових одговора у приватним апликацијама за размену порука, укључујући захтеве да одговор буде написан на „америчком енглеском“ или у стилу адвоката.

Део преварантских налога користио је наше моделе и за прављење обмањујућих материјала намењених јачању веродостојности. То је обухватало лажне евиденције о регистрацији адвоката и лажне чланске картице адвокатских комора, као и лажне уговоре о поверљивости којима су жртве одвраћане од тражења помоћи са стране.

Процена утицаја захтева опрез јер су главни извор доказа уноси самих превараната. Ти уноси указују на то да су преваранти можда појединим жртвама узели хиљаде долара, али те тврдње не можемо независно да потврдимо. FBI и најмање једна адвокатска канцеларија чији је идентитет злоупотребљен објавили су јавна упозорења о овој превари. Званичници FBI-ја упозорили су да операција циља рањиве групе, нарочито старије особе, искоришћавајући емоционално стање жртава преваре и њихову жељу да брзо поврате изгубљени новац.

Смернице компаније OpenAI строго забрањују коришћење резултата наших алата за преваре и обмане. Посвећени смо сарадњи с колегама из сектора и надлежним органима како бисмо разумели како вештачка интелигенција утиче на злонамерно понашање и активно ометали преваре у којима се злоупотребљавају наше услуге.