Операция «Не туда попали»: мошенничество с заданиями при помощи ИИ
OpenAI заблокировала аккаунты, которые, вероятно, использовались из Камбоджи и применяли ИИ в мошеннических схемах с заданиями, нацеленных на жителей Великобритании.
Изначально этот разбор был опубликован в отчете OpenAI за июнь 2025 года(открывается в новом окне).
Злоумышленники
Мы заблокировали аккаунты ChatGPT, в которых создавались короткие сообщения о найме на английском, испанском, суахили, киньяруанда, немецком и гаитянском креольском языках. В этих сообщениях адресатам предлагали высокую оплату за простые задания, например отметки «Нравится» в социальных сетях, и призывали привлекать других людей. Операция выглядела строго централизованной и, вероятно, проводилась из Камбоджи.
Благодаря инструментам перевода на базе ИИ мы смогли быстро расследовать и пресечь использование сервисов OpenAI в этой кампании.
Действия
Большинство запросов участников сети были связано с переводом. Они использовали ChatGPT для перевода разговорных фраз с китайского и на китайский, главным образом при работе с английским, испанским, киньяруанда, суахили, немецким и гаитянским креольским языками. Как правило, они поочередно переводили входящее сообщение на китайский, а ответ с китайского — обратно на исходный язык.
Некоторые из этих сообщений напоминали объявления о работе из холодных рассылок: в них предлагалась высокая почасовая оплата за минимум усилий. Одно такое сообщение разослали по SMS на, судя по всему, случайно выбранные британские мобильные номера, один из которых принадлежал исследователю OpenAI. В честь первого SMS мы назвали эту операцию «Не туда попали».
SMS, созданное с помощью ChatGPT и случайным образом отправленное исследователю OpenAI.
По всей видимости, злоумышленники использовали несколько платформ для обмена сообщениями. В первом SMS получателям предлагали продолжить общение в WhatsApp, откуда ответивших направляли к «наставнику» в Telegram. В некоторых материалах также упоминалось приложение для обмена сообщениями BonChat. По всей видимости, первые вводные сообщения в этих каналах не создавались с помощью наших моделей. Это были стандартные сообщения, подходившие практически для любой беседы.
Сообщение в WhatsApp, отправленное после SMS. По всей видимости, оно не было создано с помощью наших моделей.
Многие запросы на перевод касались сообщений, якобы поступавших от представителей предполагаемых компаний-«работодателей». Названия одних и тех же компаний неоднократно встречались во множестве бесед в ChatGPT, изученных в рамках расследования. Среди них были Hyesung Advertising(открывается в новом окне) и Lightning Shared Scooter Co (LSSC)(открывается в новом окне). Согласно общедоступным сведениям, Hyesung и LSSC предположительно использовали мошеннические схемы с заданиями. Хотя мы не проводили независимую проверку деятельности этих организаций, расследование показало, что сообщения якобы от их имени создавали китайскоязычные пользователи ChatGPT, вероятно находившиеся в Камбодже.
Результаты
Компании, от имени которых якобы действовала эта сеть, представляли самые разные отрасли: от торговли акциями и проката самокатов до продажи отметок «Нравится» в социальных сетях. Явным тревожным сигналом было предложение заплатить более 5 долларов за одну отметку «Нравится» в TikTok. Для сравнения: наша ручная проверка онлайн-площадок показала, что некоторые продавцы таких отметок берут менее 10 долларов за тысячу.
Сопоставив внешние признаки с внутренними наблюдениями, мы выявили повторяющуюся схему действий. Чтобы помочь шире понять эту тактику и упростить ее классификацию, мы описываем схему в трех этапах: зацепка (холодный контакт), подогрев (создание энтузиазма) и выманивание (получение денег):
Зацепка (холодный контакт): участники сети создают материалы для холодных рассылок, обычно предлагая необычно высокую оплату за минимум работы или обещая большую доходность от вложений в акции. Адресатам предлагают высокую оплату за простые задания, например отметки «Нравится» в социальных сетях, или выгодные инвестиционные возможности.
Подогрев (создание энтузиазма): участники сети переводят переписку, вероятно между оператором и его «сотрудниками». В ней обсуждаются организационные детали заданий, но часто встречаются и мотивирующие сообщения о заработке и возможных премиях.
Выманивание (получение денег): участники сети создают и/или рассылают материалы, вынуждающие «сотрудника» или «инвестора» внести деньги, чтобы получить доступ к более крупному вознаграждению. Для этого используются разные предлоги, в том числе первоначальный «взнос», покупка криптовалюты и «комиссии за обработку».
Пример сообщения для холодной рассылки, созданного с помощью ChatGPT и распространенного этой сетью. Сообщение одновременно отправили на восемь телефонных номеров, ни один из которых не был в списке контактов получателя. Один из получателей сразу покинул группу.
Сообщение в Telegram от участников сети потенциальной жертве с указанием купить криптовалюту на 20 фунтов стерлингов и перевести ее неназванному продавцу.
Согласно общедоступным сведениям(открывается в новом окне), некоторые из этих компаний взимали с новых участников значительные вступительные взносы, а затем направляли часть этих средств на небольшие выплаты действующим «сотрудникам», чтобы поддерживать их интерес. Такая структура характерна для мошенничества с заданиями(открывается в новом окне).
Последствия
Из-за ограниченного объема доступных нам данных сложно оценить истинный охват этой сети. Однако сообщения за пределами нашей платформы(открывается в новом окне) и беседы, в которых «сотрудники» требовали вернуть деньги, указывают на то, что по крайней мере некоторые люди платили этим предполагаемым работодателям. Мы также видели, как реальные пользователи защищали эти компании в социальных сетях, что указывает на определенную вовлеченность людей в реальном мире.