Измама със задачи: фалшива работа с отзиви, подпомагана от ИИ

Този казус е публикуван първоначално в доклада на OpenAI от февруари 2025 г.⁠(отваря се в нов прозорец).

Блокирахме група профили в ChatGPT, които превеждаха кратки коментари между урду и английски, характерни за измама със „задачи⁠(отваря се в нов прозорец)“. При нея на жертвите се предлага високоплатена работа, но след това от тях се изисква да внесат собствени средства в системата, преди да получат достъп до предполагаемите си „печалби“. Изглежда, че тази дейност произхождаше от Камбоджа. При тези измами жертвите обикновено губят както „печалбите“, така и собствените си пари. Започнахме да разследваме тази дейност след сигнал от Meta.

Тази мрежа използваше нашите модели предимно за превод между урду и английски на кратки коментари, характерни за разговори между измамник и жертвите му. Открихме препратки към комуникация чрез Telegram (очевидно основната им платформа), WhatsApp, SMS и различни форуми и групи за работа, където могат да се публикуват обяви.

Изглежда, че измамниците се представяха основно за два типа лица. Единият беше „специалистът по подбор“: съобщенията му представляваха непоискани предложения и обяви за добре платена дистанционна работа. Другият, който генерираше повече активност, беше „наставникът“. Той продължаваше комуникацията, започната от „специалиста по подбор“, и учеше набелязаната жертва как да върши работата си. „Наставниците“ много често споменаваха обучения в Telegram.

Понякога измамниците използваха моделите ни и за коригиране на текстове за уебсайтове. Изглежда, че тези сайтове имитираха имената и облика на луксозни марки в областта на дизайна, модата и пътуванията. Представящите се за „наставници“ твърдяха, че набират служители от името на тези марки, което подсказва, че сайтовете вероятно са използвани, за да изглежда измамата по-правдоподобна.

Според ограничената информация, с която разполагаме, изглежда, че измамниците са следвали обичаен процес, за да превърнат първоначалния контакт с набелязаните жертви в измама:

1. Публикуване на обява: Според подканите и генерираните от тях текстове измамниците изглежда са започвали с публикуване на обяви за работа в различни онлайн форуми. При набирането обикновено се споменаваше дистанционна работа, а предлаганото възнаграждение изглежда беше сравнително високо спрямо малкото работа — например 300 щ.д. на ден плюс бонуси за няколко часа работа. Обикновено обявите се публикуваха от лицето, представящо се за „специалист по подбор“.

2. Набиране: След това измамниците генерираха съобщения от името на „наставника“, за да се свържат с потенциални служители чрез различни приложения за съобщения, както самите те посочваха, и да им кажат, че работят със „специалиста по подбор“. „Наставникът“ твърдеше, че работи за една от луксозните марки, за които групата беше създала уебсайт. Те описваха задачата като публикуване на отзиви с пет звезди в сайтовете на тези луксозни марки, уж за да подобрят оценките им от клиентите.

3. Вдъхване на увереност: В генерираните текстове измамниците често уверяваха набелязаните жертви, че работата е законна, защото е от името на отдавна утвърдена компания. Ако набелязаната жертва проявеше безпокойство, измамникът твърдеше, че самият той също е бил мамен преди, но тази възможност е безопасна.

4. Обучение: Ако набелязаната жертва продължаваше да проявява интерес, генерираните текстове подсказваха, че „наставникът“ ѝ предлага обучение, обикновено в Telegram. Първоначално на набелязаната жертва се предоставяше достъп до „обучителен профил“, в който от нея се очакваше да изпълнява по 25–35 задачи с отзиви дневно. „Обучителният профил“ показваше как „печалбите“ на набелязаната жертва нарастват бързо.

5. Предизвикване на ентусиазъм: Ако набелязаната жертва продължеше обучението, генерираните текстове често показваха, че ѝ се предлага „специална“ или „върховна“ задача с отзиви, носеща по-висок бонус. „Наставникът“ подчертаваше колко рядко се случва това и какъв късмет има набелязаната жертва.

6. „Такса за активиране“: След като „печалбите“ на набелязаната жертва достигнеха определено ниво, генерираните текстове включваха съобщение от „наставника“, че тя трябва да плати „такса за активиране“, за да изтегли „печалбите“ си. При нужда измамникът я подтикваше да заеме парите от приятели или роднини.

7. Оказване на натиск: Генерираните текстове показваха, че ако набелязаната жертва се възпротиви на плащането, измамникът става все по-агресивен. Той я притиска, като я сравнява с други, по-ефективни служители, и твърди, че ще загуби печалбите си, ако не внесе парите.

8. Измисляне на оправдания: Ако в генерираните текстове имаше индикация, че набелязаната жертва е платила, измамникът измисляше поредица от оправдания защо тя не може да изтегли печалбите си, като често твърдеше, че трябва да внесе още пари.

Някои разговори показваха, че набелязаните жертви са силно скептични. Част от генерираните за измамниците съобщения бяха от името на наставник, който пита защо набелязаната жертва е спряла да пише. Това подсказва, че измамата вероятно е имала нисък общ процент на успеваемост. Някои разговори и публикации онлайн обаче подсказват, че поне част от жертвите действително са внесли пари в тези измамни схеми. Не можем независимо да проверим дейност, извършвана извън нашите инструменти.

Правилата на OpenAI строго забраняват използването на резултати от нашите инструменти за измами или други злоупотреби. Ангажирани сме да си сътрудничим с други организации в сектора и с властите, за да разбираме как ИИ влияе върху поведението на злонамерените лица и активно да прекъсваме измамни дейности, които злоупотребяват с услугите ни. В съответствие с този ангажимент споделихме информация за прекъснатите от нас измамни мрежи с други организации в сектора и със съответните органи, за да подобрим общата ни сигурност.