Превара са задацима: послови писања лажних рецензија уз помоћ ВИ

Ова студија случаја првобитно је објављена у извештају компаније OpenAI из фебруара 2025.⁠(отвара се у новом прозору)

Забранили смо групу ChatGPT налога који су преводили кратке коментаре са урдуа на енглески и обратно, што је одговарало превари са „задацима⁠(отвара се у новом прозору)“. У таквој превари жртвама се нуди добро плаћен посао, али се затим од њих тражи да уплате сопствени новац у систем пре него што могу да приступе наводној „заради“. Изгледа да је ова активност потицала из Камбоџе. У овим преварама жртве обично губе и „зараду“ и сопствени новац. Ову активност почели смо да истражујемо након дојаве компаније Meta.

Ова мрежа је наше моделе првенствено користила за превођење кратких коментара са урдуа на енглески и обратно, који су одговарали разговорима између преваранта и њихових жртава. Пронашли смо помињања размене порука преко сервиса Telegram, који је очигледно био њихова главна платформа, као и преко сервиса WhatsApp, SMS порука и различитих форума и група за запошљавање на којима су могли да објављују понуде за посао.

Изгледа да су се преваранти углавном представљали кроз две врсте улога. Једна је била улога „регрутера“: њихове поруке биле су нежељена обраћања с огласима за добро плаћен рад на даљину. Друга, која је стварала већи обим активности, била је улога „ментора“, који би наставио комуникацију коју је започео „регрутер“ и објаснио мети како да обавља посао. „Ментори“ су веома често помињали обуке преко сервиса Telegram.

Преваранти су повремено користили наше моделе и за лектуру текстова на веб-сајтовима. Изгледа да су ти сајтови имитирали називе и изглед луксузних дизајнерских, модних и туристичких брендова. Особе у улози „ментора“ тврдиле су да регрутују у име тих брендова, што указује на то да су веб-сајтови вероватно служили да превара делује веродостојније.

На основу нашег ограниченог увида, изгледа да су преваранти користили уобичајен поступак како би мете од првог контакта довели до преваре:

1. Објава огласа за посао: На основу њихових упита и генерисаног садржаја, изгледа да су преваранти започињали објављивањем понуда за посао на различитим онлајн форумима. У понудама за посао обично се помињао рад на даљину и, по свему судећи, релативно висока зарада за мало рада — на пример, $300 дневно уз бонусе за неколико сати рада. Обично их је објављивала особа у улози „регрутера“.

2. Регрутовање: Преваранти би затим генерисали коментаре из улоге „ментора“ како би контактирали потенцијалне раднике преко различитих апликација за размену порука и рекли им да сарађују с „регрутером“. „Ментор“ би тврдио да ради за један од луксузних брендова за које је ова операција направила веб-сајт. Задатак би описали као објављивање рецензија са пет звездица на сајтовима тих луксузних брендова, наводно ради побољшања њихових оцена међу купцима.

3. Уверавање: Преваранти су у генерисаном садржају често уверавали мете да је посао легитиман јер се обавља у име компаније с дугом традицијом. Ако би мета показала нелагоду, преварант би тврдио да је и сам раније био преварен, али да је ова прилика безбедна.

4. Обука: Ако би мета и даље била заинтересована, генерисани садржај указивао је на то да би јој „ментор“ понудио обуку, обично преко сервиса Telegram. Мета би прво добила приступ „налогу за обуку“, преко којег би требало да обави од 25 до 35 задатака с рецензијама дневно. „Налог за обуку“ би приказивао како „зарада“ мете брзо расте.

5. Подстицање узбуђења: Ако би мета наставила обуку, генерисани садржај често је указивао на то да би јој био понуђен „посебан“ или „врхунски“ задатак с рецензијом који доноси већи бонус. „Ментор“ би наглашавао колико је такав задатак редак и колико је мета имала среће.

6. „Накнада за активацију“: Када би „зарада“ мете достигла одређени износ, генерисани садржај укључивао је поруку „ментора“ да мора да плати „накнаду за активацију“ како би могла да подигне „зараду“. Ако би било потребно, преварант би је наговарао да позајми новац од пријатеља или породице.

7. Вршење притиска: Генерисани садржај показивао је да би преварант, ако би мета оклевала да уплати новац, постајао све агресивнији. Вршио би притисак поредећи је с другим, ефикаснијим радницима и говорећи да ће изгубити зараду ако не уплати новац.

8. Измишљање изговора: Ако би генерисани садржај указивао на то да је мета уплатила новац, преварант би износио низ изговора због којих не може да подигне зараду, често тврдећи да мора да уплати још новца.

Неки разговори су показали да су мете биле веома сумњичаве, а поједини коментари које су генерисали преваранти били су написани из угла „ментора“ који пита зашто је мета престала да одговара. То указује на то да је ова превара вероватно имала ниску укупну стопу успеха. Међутим, неки разговори и извештаји на интернету указују на то да су бар неке жртве заиста уплатиле новац у ове преваре. Не можемо независно да проверимо активности које се одвијају изван наших алатки.

Смернице компаније OpenAI строго забрањују коришћење резултата наших алатки за преваре и обмане. Посвећени смо сарадњи с колегама из сектора и надлежним органима како бисмо разумели како ВИ утиче на злонамерно понашање и активно сузбијали преваре у којима се злоупотребљавају наше услуге. У складу с том посвећеношћу, с колегама из сектора и надлежним органима поделили смо информације о мрежама за преваре које смо сузбили како бисмо унапредили заједничку безбедност.