Операција „Погрешен број“: измама со задачи потпомогната од ВИ

Оваа студија на случај првично беше објавена во извештајот на OpenAI за јуни 2025⁠(се отвора во нов прозорец).

Забранивме сметки на ChatGPT што генерираа кратки пораки за регрутирање на англиски, шпански, свахили, кинјаруанда, германски и хаитски креолски јазик. Во овие пораки на примачите им се нудеа високи плати за едноставни задачи, како допаѓање објави на социјалните мрежи, и се поттикнуваа да регрутираат други лица. Операцијата изгледаше високо централизирана и веројатно потекнувала од Камбоџа.

Со помош на алатки за превод засновани на ВИ, успеавме брзо да ја истражиме и да ја спречиме злоупотребата на услугите на OpenAI во оваа кампања.

Повеќето интеракции на мрежата се однесуваа на задачи за превод. Тие го користеа ChatGPT за преведување разговорни реченици меѓу кинескиот и неколку други јазици, особено англискиот, шпанскиот, кинјаруанда, свахили, германскиот и хаитскиот креолски јазик. Овие задачи обично наизменично опфаќаа преведување на примена порака на кинески и преведување на одговорот од кинески назад на изворниот јазик.

Дел од овие пораки наликуваа на огласи за работа испратени до непознати лица и нудеа висока плата по час за минимална работа. Една таква порака била испратена преку SMS до навидум случајно избрана група мобилни броеви во Обединетото Кралство, од кои еден му припаѓал на истражувач на OpenAI. Оваа операција ја нарековме „Погрешен број“, во чест на првичната SMS-порака.

Се чинеше дека актерите на заканата користеле повеќе платформи за пораки. Првичната SMS-порака ги упатувала примачите да продолжат да комуницираат преку WhatsApp, по што оние што ќе одговореле биле насочувани кон „ментор“ на Telegram. Во дел од активностите се споменуваше и апликацијата за пораки BonChat. Се чини дека првичните воведни пораки преку овие канали не биле генерирани со нашите модели. Тие се состоеле од вообичаени пораки што веројатно би можеле да се користат во секој разговор.

Многу од задачите за превод опфаќаа комуникација што наводно доаѓала од претставници на компании претставени како „работодавачи“. Истите имиња на компании постојано се појавуваа во многубројни разговори на ChatGPT опфатени со оваа истрага. Меѓу нив беа Hyesung Advertising⁠(се отвора во нов прозорец) и Lightning Shared Scooter Co (LSSC)⁠(се отвора во нов прозорец). Во јавно достапни извештаи, Hyesung и LSSC се наведени како наводни шеми со задачи. Иако самостојно не ја потврдивме природата на овие субјекти, нашата истрага утврди дека пораките што наводно доаѓале од нив биле генерирани од корисници на ChatGPT што зборувале кинески и веројатно дејствувале од Камбоџа.

Компаниите што оваа мрежа тврдеше дека ги претставува опфаќаа широк спектар дејности, од тргување со акции и изнајмување тротинети до продажба на допаѓања на социјалните мрежи. Еден очигледен предупредувачки знак беше понудата да се платат повеќе од 5 $ за едно допаѓање на TikTok. За споредба, при нашата рачна проверка на онлајн-пазарите откривме дека некои продавачи на допаѓања наплаќаат помалку од 10 $ за 1.000 допаѓања.

Со комбинирање показатели надвор од платформата со внатрешни согледувања, утврдивме повторлив образец на дејствување. За да овозможиме пошироко разбирање на оваа тактика и да го поедноставиме нејзиното класифицирање, образецот го опишуваме како: пинг (контакт со непознато лице), поттик (создавање ентузијазам) и убод (извлекување пари):

1. Пинг (контакт со непознато лице): Мрежата генерира содржини за несакано директно контактирање, обично со понуди за невообичаено високи плати за минимална работа или ветувања за високи приноси од берзански инвестиции. Овие понуди вклучуваат високи исплати за едноставни задачи, како допаѓање објави на социјалните мрежи, или профитабилни можности за инвестирање.

2. Поттик (создавање ентузијазам): Мрежата преведува разговори, веројатно меѓу операторот и неговите „вработени“. Оваа комуникација содржи логистички детали за задачите, но често е проткаена со мотивациски пораки за заработката и можните бонуси.

3. Убод (извлекување пари): Мрежата генерира и/или испраќа содржини со кои врши притисок врз „вработениот“ или „инвеститорот“ да уплати пари за да добие пристап до поголеми награди. Ова има неколку облици, вклучувајќи почетен „депозит“, купување криптовалути и „трошоци за обработка“.

Јавно достапните извештаи⁠(се отвора во нов прозорец) укажуваат дека некои од овие компании наплаќале значителни членарини од новите регрути, а потоа користеле дел од тие средства за да им исплатат на постојните „вработени“ доволно за да го задржат нивниот интерес. Оваа структура е карактеристична за измамите со задачи⁠(се отвора во нов прозорец).

Тешко е да се утврди вистинскиот досег на оваа мрежа поради нашиот ограничен увид. Сепак, извештаите надвор од платформата⁠(се отвора во нов прозорец) и разговорите во кои „вработени“ барале враќање на парите укажуваат дека барем некои лица им платиле на овие наводни работодавачи. Забележавме и вистински корисници што ги бранеа компаниите на социјалните мрежи, што укажува на одреден степен на реална вклученост.