Измама со задачи: лажни рецензии со помош на ВИ

Оваа студија на случај првично беше објавена во извештајот на OpenAI од февруари 2025 година⁠(се отвора во нов прозорец).

Блокиравме група сметки на ChatGPT што преведуваа кратки коментари меѓу урду и англиски јазик, што одговараше на измама со „задачи⁠(се отвора во нов прозорец)“. Во таквите измами, на жртвите им се нуди добро платена работа, но потоа од нив се бара да вложат сопствени пари во системот пред да можат да пристапат до наводната „заработка“. Се чинеше дека оваа активност потекнува од Камбоџа. Во овие измами, жртвите обично ги губат и „заработката“ и сопствените пари. Почнавме да ја истражуваме оваа активност по дојава од Meta.

Оваа мрежа првенствено ги користеше нашите модели за преведување кратки коментари меѓу урду и англиски јазик, што наликуваа на разговори меѓу измамник и неговите жртви. Утврдивме дека се споменува разменување пораки преку Telegram (очигледно нивната главна платформа), WhatsApp, SMS, како и низа форуми и групи за вработување каде што можеле да се објавуваат понуди за работа.

Изгледа дека измамниците се претставувале главно преку два вида лажни идентитети. Едниот бил „регрутер“: неговите пораки биле несакани понуди за контакт, со огласи за добро платена работа од далечина. Другиот, кој создавал поголем обем на активност, бил „менторот“. Тој се надоврзувал на првичниот контакт на „регрутерот“ и ја подучувал целта како да ја извршува работата. „Менторите“ многу често споменувале обуки преку Telegram.

Повремено, измамниците ги користеле нашите модели и за јазична проверка на текстот на веб-локации. Се чини дека овие веб-локации ги имитирале имињата и изгледот на луксузни брендови од областа на дизајнот, модата и патувањата. Лицата што се претставувале како „ментори“ тврделе дека регрутираат во име на тие брендови, што укажува дека веб-локациите веројатно служеле измамата да изгледа поверодостојно.

Врз основа на ограничениот увид што го имаме, се чини дека измамниците следеле вообичаен процес за да ги доведат целите од првичниот контакт до измамата:

1. Објавување оглас за работа: Врз основа на нивните инструкции и генерирани содржини, се чини дека измамниците почнувале со објавување понуди за работа на различни онлајн-форуми. Во обидите за регрутирање обично се споменувала работа од далечина и се нудела релативно висока плата за малку работа, на пример $300 дневно плус бонуси за неколку часа работа. Овие огласи обично ги објавувало лицето што се претставувало како „регрутер“.

2. Регрутирање: Потоа измамниците генерирале коментари претставувајќи се како „ментор“, за да контактираат со потенцијални работници преку, како што наведувале, различни апликации за пораки и да им кажат дека соработуваат со „регрутерот“. „Менторот“ тврдел дека работи за еден од луксузните брендови за кои групата поставила веб-локација. Задачата ја опишувале како објавување рецензии со пет ѕвезди на веб-локациите на тие луксузни брендови, наводно за да им се подобрат оцените од клиентите.

3. Убедување: Во генерираните содржини, измамниците честопати ги уверувале целите дека работата е легитимна бидејќи се врши во име на долгогодишна компанија. Ако целта покажела загриженост, измамникот тврдел дека и самиот претходно бил измамен, но дека оваа можност е безбедна.

4. Обука: Ако целта и понатаму покажувала интерес, генерираните содржини укажуваа дека „менторот“ ќе ѝ понуди обука, обично преку Telegram. На целта првично ѝ се давал пристап до „сметка за обука“, преку која требало да завршува од 25 до 35 задачи за рецензии дневно. „Сметката за обука“ ѝ прикажувала на целта дека нејзината „заработка“ брзо расте.

5. Поттикнување возбуда: Ако целта продолжела со обуката, генерираните содржини честопати укажуваа дека ќе ѝ биде понудена „специјална“ или „врвна“ задача за рецензија, со повисок бонус. „Менторот“ нагласувал колку е ретка таквата задача и колкава среќа има целта.

6. „Надоместок за активација“: Откако „заработката“ на целта ќе достигнела одредено ниво, генерираните содржини вклучувале порака од „менторот“ дека мора да плати „надоместок за активација“ за да може да ја повлече „заработката“. Ако било потребно, измамникот ја поттикнувал да позајми пари од пријателите или семејството.

7. Вршење притисок: Генерираните содржини покажаа дека, ако целта се двоумела да плати, измамникот станувал сè поагресивен. Вршел притисок споредувајќи ја со други, поефикасни работници и тврдел дека ќе ја изгуби заработката ако не плати.

8. Барање изговори: Ако генерираните содржини укажувале дека целта платила, измамникот нудел низа изговори зошто таа не може да ја повлече заработката, честопати тврдејќи дека мора да уплати уште пари.

Некои разговори покажаа дека целите биле многу скептични, а дел од коментарите што ги генерирале измамниците биле напишани како пораки од „ментор“ кој прашува зошто целта престанала да одговара. Ова укажува дека измамата веројатно имала ниска вкупна стапка на успех. Сепак, некои разговори и извештаи на интернет укажуваат дека барем дел од жртвите навистина вложиле пари во овие измами. Не можеме независно да ги потврдиме активностите што се одвиваат надвор од нашите алатки.

Политиките на OpenAI строго забрануваат користење на резултатите од нашите алатки за измами. Посветени сме на соработка со другите компании во индустријата и со надлежните органи за да разбереме како ВИ влијае врз злонамерното однесување и активно да ги попречуваме измамничките активности што ги злоупотребуваат нашите услуги. Во согласност со оваа заложба, споделивме информации за попречените измамнички мрежи со другите компании во индустријата и со надлежните органи, за да ја подобриме заедничката безбедност.