Мошеннические операции: сети интернет-мошенничества

Изначально этот кейс был опубликован в отчете OpenAI за октябрь 2025 года⁠(открывается в новом окне).

Сети, предположительно действующие из Камбоджи, Мьянмы и Нигерии, злоупотребляли ChatGPT — по всей видимости, пытаясь обманывать людей в интернете.

Мы стремимся выявлять, предотвращать и пресекать попытки использовать наши модели во вредоносных целях. К таким злоупотреблениям относится мошенничество: мы выявляем и блокируем злоумышленников, которые пытаются использовать наши модели для обмана людей и хищения их средств. За последние три месяца мы пресекли деятельность мошеннических сетей, предположительно возникших в Камбодже, Мьянме и Нигерии. Расследуя подобные злоупотребления, мы также увидели, что многие люди используют наши модели для выявления мошеннических схем. Это показывает, какую роль ИИ может играть в борьбе с мошенничеством. В этом отчете рассматриваются оба варианта использования.

Нашими моделями злоупотребляют для проведения самых разных мошеннических схем: от одиночных попыток обмана до масштабных и устойчивых операций, предположительно связанных с организованными преступными группами. Независимо от происхождения и конкретной тактики, пресеченная нами мошенническая деятельность обычно следует общей схеме: первый контакт (холодная рассылка), эмоциональная зацепка (попытка вызвать воодушевление или панику) и развязка (выманивание денег или ценной информации).

Сначала мошенники массово распространяют контент — созданный с помощью ИИ или без него — в мессенджерах и интернете, в том числе размещая рекламу в социальных сетях. Затем у ответивших пытаются вызвать либо воодушевление перспективой выгодной возможности, либо страх перед неминуемыми финансовыми потерями. Используя эти эмоции, мошенники убеждают жертву передать деньги или конфиденциальную информацию.

Мы также наблюдали множество случаев, когда наши модели, вероятно, помогали людям защититься от мошенничества. По нашим данным, люди используют ChatGPT для выявления и предотвращения интернет-мошенничества миллионы раз в месяц. Во всех описанных в этом отчете мошеннических операциях модель помогала людям правильно распознать обман и советовала надлежащие меры безопасности. По нашей текущей оценке, ChatGPT используют для выявления мошенничества до трех раз чаще, чем для его совершения.

Пример того, как сотрудник OpenAI загрузил в ChatGPT снимок экрана с полученным мошенническим SMS-сообщением и с помощью модели успешно распознал обман. В этом случае злоумышленники выдавали себя за рекрутеров TikTok.

После публикации предыдущего отчета мы расширили собственные возможности по выявлению и пресечению мошенничества. Мы пресекли деятельность новых мошеннических сетей, предположительно возникших в Камбодже, Мьянме и Нигерии. Вместе с результатами предыдущих расследований эти блокировки позволяют выявить ряд новых тенденций, характерных для нескольких мошеннических операций из разных стран.

В большинстве пресеченных нами операций ИИ встраивали в уже существующие мошеннические сценарии, а не создавали вокруг него новые. Во всех мошеннических операциях, которые мы выявили и заблокировали в этом году, ИИ использовался главным образом для повышения эффективности и масштабирования деятельности. Как правило, наши модели применяли для перевода, составления сообщений и создания контента для социальных сетей.

Например, недавно мы заблокировали мошеннические операции, предположительно организованные из Камбоджи и Нигерии: злоумышленники выдавали себя за «инвестиционные компании», чтобы обманывать жертв в разных странах. Мошенники создавали сайты и интернет-рекламу для продвижения поддельных компаний, а с помощью, вероятно, фиктивных аккаунтов в социальных сетях выдавали себя за экспертов по трейдингу и приглашали людей в закрытые группы в мессенджерах. Обещая высокую доходность без какого-либо риска, злоумышленники пытались убедить потенциальных жертв внести деньги на фиктивные торговые платформы. Во всех этих схемах мошенники использовали наши модели главным образом для создания и перевода переписки, подготовки контента для сайтов и аккаунтов в социальных сетях, а также для базового поиска информации.

В другом случае мы заблокировали мошеннический центр, почти наверняка находившийся в Мьянме. Он использовал наши модели как для создания материалов для мошеннических схем, так и для решения повседневных рабочих задач. В частности, с их помощью составляли расписания и внутренние объявления, распределяли рабочие места и места в общежитиях, а также управляли финансовыми счетами. Некоторые операторы спрашивали, какое уголовное наказание грозит тем, кого поймают на интернет-мошенничестве.

Не все мошенники, деятельность которых мы пресекли, использовали наши модели одинаково и с одной и той же степенью сложности. Большинство обращений мошенников к ChatGPT касалось относительно простых задач, таких как перевод, но некоторые операции были более амбициозными и тщательно продуманными.

Например, участники одной пресеченной нами операции, предположительно организованной из Камбоджи, использовали наши модели для создания подробных биографий вымышленных инвестиционных экспертов и сотрудников фиктивных торговых компаний. Затем мошенники просили ChatGPT писать сообщения для социальных сетей от лица этих персонажей. Злоумышленники часто вводили в нашу модель сообщения, которые, по всей видимости, получили от своих целей, и просили ее продолжить разговор от лица вымышленного персонажа.

Другая мошенническая операция, также предположительно организованная из Камбоджи, началась с использования наших моделей для создания SMS-сообщений для холодной рассылки по телефонным номерам в США. Одно из таких сообщений получил сотрудник OpenAI — аналогичный случай мы описывали в июне. В этих SMS предлагалось вступить в группы WhatsApp, позднее заблокированные. Их названия были похожи на название настоящей инвестиционной компании.

Судя по серии сообщений WhatsApp, отправленных сотруднику OpenAI, после вступления в одну из таких групп потенциальная жертва сразу видела «беседу» примерно между шестью разными аккаунтами, участники которой обсуждали инвестиции. Один аккаунт изображал «инвестиционного эксперта», а остальные — инвесторов с разным уровнем уверенности и опыта. Всю эту беседу создавали мошенники, переводя ее с китайского одним блоком, — вероятно, чтобы создать впечатление оживленной группы увлеченных и успешных трейдеров. В конце концов «инвестиционный эксперт» предлагал потенциальной жертве тоже попробовать вложить деньги.

Отдельно участники инвестиционной мошеннической операции, почти наверняка организованной из Нигерии, просили модель пошагово объяснить, как с помощью рекламы в социальных сетях охватить состоятельных жителей Латинской Америки, скрыть свое местоположение и обойти ограничения платформ. Для этого модели давали ссылку на общедоступные условия использования платформы и просили проверить, соответствует ли им предлагаемый рекламный контент.

Мошенники, особенно крупные мошеннические центры, действуют настойчиво. Столкнувшись с блокировкой, они очень часто пытаются возобновить нарушающую правила деятельность, меняя отдельные элементы своего поведения — вероятно, чтобы избежать дальнейшего обнаружения. Поэтому важно обмениваться с другими представителями отрасли данными об изменениях в деятельности таких злоумышленников. Например, OpenAI и Meta делились друг с другом информацией, которая помогла продолжить расследования и принять дополнительные меры.

Возможно, в ответ на блокировки или более широкое обсуждение признаков использования ИИ в интернете мошенники пытались скрыть применение ИИ в онлайн-контенте и общении с потенциальными жертвами. Например, участники мошеннических операций, предположительно организованных из Камбоджи, требовали от модели удалять из ответов длинные тире.

В одном случае мошенники попытались объяснить масштабную блокировку своих ресурсов в социальных сетях, выдумав причину произошедшего. Речь идет об описанном выше мошенническом центре, который, предположительно, действовал из Камбоджи и использовал SMS и WhatsApp. После того как WhatsApp заблокировал связанные с этой операцией «инвестиционные группы», их организаторы начали создавать сообщения с утверждениями, что группы якобы были несправедливо заблокированы по жалобе конкурента.

Снимок экрана с сообщением WhatsApp, которое связанная с Камбоджей мошенническая сеть отправила сотруднику OpenAI после блокировки со стороны WhatsApp.