Операция „Грешен номер“: измама със задачи, подпомогната от ИИ
OpenAI блокира акаунти, които вероятно произхождат от Камбоджа и използват ИИ в измамни схеми, насочени към хора във Великобритания.
Този казус е публикуван първоначално в доклада на OpenAI от юни 2025 г.(отваря се в нов прозорец)
Извършител
Блокирахме акаунти в ChatGPT, които генерираха кратки съобщения за набиране на служители на английски, испански, суахили, киняруанда, немски и хаитянски креолски език. В тези съобщения на получателите се предлагаха високи възнаграждения за елементарни задачи, като харесване на публикации в социалните мрежи, и бяха насърчавани да привличат други хора. Операцията изглеждаше силно централизирана и вероятно произхождаше от Камбоджа.
С помощта на инструменти за превод с ИИ успяхме бързо да разследваме и прекъснем използването на услугите на OpenAI в тази кампания.
Поведение
Повечето от заявките на мрежата бяха свързани с превод. Използвали са ChatGPT, за да превеждат разговорни изречения между китайски и няколко други езика, най-вече английски, испански, киняруанда, суахили, немски и хаитянски креолски. Обикновено задачите се редували между превод на входящо съобщение на китайски и превод на отговор от китайски обратно на първоначалния език.
Част от тези съобщения приличаха на непоискани обяви за работа, предлагащи високо почасово заплащане срещу минимални усилия. Едно такова съобщение е разпространено чрез SMS до привидно произволна група мобилни номера във Великобритания, един от които е принадлежал на разследващ служител на OpenAI. Нарекохме операцията „Грешен номер“ в чест на първоначалното SMS съобщение.
SMS, изпратен на случаен принцип до разследващ служител на OpenAI и генериран с ChatGPT.
Изглежда, че участниците в заплахата са разчитали на няколко платформи за съобщения. Първоначалното SMS съобщение насочвало получателите към WhatsApp, откъдето отговорилите били препращани към „наставник“ в Telegram. В част от дейността се споменаваше и приложението за съобщения BonChat. Изглежда, че първите въвеждащи съобщения в тези канали не са били генерирани с нашите модели. Това бяха стандартни съобщения, които вероятно са използвани във всеки разговор.
Съобщение в WhatsApp, изпратено след SMS съобщението. Изглежда, че то не е генерирано от нашите модели.
Много от задачите за превод включваха комуникации, за които се твърдеше, че идват от представители на предполагаеми компании „работодатели“. Имената на едни и същи компании се появяваха многократно в редица разговори в ChatGPT, обхванати от разследването. Сред тях бяха Hyesung Advertising(отваря се в нов прозорец) и Lightning Shared Scooter Co (LSSC)(отваря се в нов прозорец). В публични източници Hyesung и LSSC са определяни като предполагаеми схеми за измами със задачи. Макар да не сме проверили независимо естеството на тези дружества, разследването ни установи, че съобщенията, за които се твърди, че идват от тях, са генерирани от китайскоговорящи потребители на ChatGPT, вероятно действащи от Камбоджа.
Генерирано съдържание
Компаниите, които тази мрежа твърдеше, че представлява, обхващаха разнообразни отрасли — от търговия с акции и отдаване на тротинетки под наем до продажба на харесвания в социалните мрежи. Явен предупредителен знак беше предложението за над 5 щ.д. за едно харесване в TikTok. За сравнение, при ръчната ни проверка на онлайн пазари установихме, че някои продавачи на харесвания в социалните мрежи искат под 10 щ.д. за 1000 харесвания.
Чрез съпоставяне на външни индикатори с вътрешните ни наблюдения установихме повтарящ се модел на работа. За да улесним разбирането и класифицирането на тази тактика, описваме модела като: контактът (непоискан контакт), примамката (създаване на ентусиазъм) и ужилването (измъкване на пари):
Контактът (непоискан контакт): Мрежата генерира съдържание за установяване на непоискан контакт, като обикновено предлага необичайно високи възнаграждения за минимална работа или обещава висока доходност от инвестиции на фондовия пазар. Предложенията включват високо заплащане за лесни задачи, като харесване на публикации в социалните мрежи, или доходоносни инвестиционни възможности.
Примамката (създаване на ентусиазъм): Мрежата превежда разговори, вероятно между Operator и неговите „служители“. В тях се обсъждат организационни подробности за задачите, но често са вмъкнати и мотивиращи съобщения за печалби и възможни бонуси.
Ужилването (измъкване на пари): Мрежата генерира и/или изпраща съдържание, което оказва натиск върху „служителя“ или „инвеститора“ да внесе пари, за да получи достъп до по-големи възнаграждения. Това приема различни форми, включително първоначален „депозит“, покупки на криптовалута и „такси за обработка“.
Пример за съобщение за непоискан контакт, генерирано с ChatGPT и разпространено от тази мрежа. Съобщението е изпратено едновременно до осем телефонни номера, никой от които не е бил в списъка с контакти на получателя. Един от получателите веднага е напуснал групата.
Съобщение в Telegram от мрежата до потенциална жертва с указания да купи криптовалута на стойност 20 британски лири и да я прехвърли на неназован търговец.
Според публични източници(отваря се в нов прозорец) някои от тези компании са начислявали на новите участници значителни такси за присъединяване, след което са използвали част от тези средства, за да плащат на настоящите „служители“ колкото да поддържат интереса им. Тази структура е характерна за измамите със задачи(отваря се в нов прозорец).
Въздействие
Поради ограничената ни видимост е трудно да определим действителния обхват на тази мрежа. Въпреки това външни публикации(отваря се в нов прозорец) и разговори, в които „служители“ настояват за възстановяване на суми, показват, че поне някои хора са платили на тези предполагаеми работодатели. Наблюдавахме и реални потребители, които защитаваха компаниите в социалните мрежи, което показва известна степен на действително ангажиране.