Пресечение преступной мошеннической операции в Камбодже
OpenAI пресекла деятельность базирующейся в Камбодже мошеннической сети, которая использовала ChatGPT в мошеннических схемах, связанных с инвестициями, романтическими отношениями, азартными играми и выдачей себя за других лиц.
Введение
Ранее в этом году мы пресекли деятельность базирующейся в Камбодже мошеннической сети, которая использовала ChatGPT в мошеннических схемах, связанных с инвестициями, романтическими отношениями, азартными играми и выдачей себя за сотрудников правоохранительных органов. Мы начали расследование этой деятельности после получения информации от коллег из WhatsApp, а затем передали дополнительные признаки угрозы отраслевым партнерам и соответствующим органам власти.
Эта операция наглядно показывает важную особенность современных мошеннических сетей: организованные преступные группы редко ограничиваются одним видом мошенничества. Вместо этого они, пользуясь любой возможностью, выбирают те легенды, образы и приемы, которые считают наиболее эффективными для обмана жертв. В ходе расследований мы регулярно наблюдаем, как злоумышленники переходят от одного вида мошенничества к другому или сочетают в рамках одной операции несколько мошеннических приемов.
Некоторые участники сети также создавали материалы, указывающие на возможную связь с торговлей людьми и принуждением к преступной деятельности. Эти наблюдения согласуются с многочисленными публикациями в открытых источниках(открывается в новом окне), описывающими(открывается в новом окне) действующие в Юго-Восточной Азии организованные преступные группы, которые обещают людям легальную работу, а затем загоняют их в долговую кабалу и принуждают подчиняться. Хотя мы не можем независимо установить обстоятельства каждого причастного человека, эта деятельность напоминает о том, что люди, участвующие в мошенничестве, сами могут быть жертвами эксплуатации.
Злоумышленники
Мы заблокировали скоординированную сеть аккаунтов ChatGPT, которая, с высокой вероятностью, возникла в Камбодже и, вероятно, действовала в Пойпете или его окрестностях — городе провинции Бантеаймеантьей, который в открытых источниках(открывается в новом окне) неоднократно(открывается в новом окне) связывали(открывается в новом окне) с мошенническими центрами и торговлей людьми.
Сеть использовала наши модели для создания и ведения поддельных онлайн-персон, составления и перевода сообщений для потенциальных жертв, подготовки рекламных материалов для мошеннических схем и решения повседневных рабочих задач.
Как и в случае с ранее(открывается в новом окне) пресеченными нами мошенническими сетями, часть пользователей также применяла ChatGPT для административной работы: составляла внутренние объявления, переводила сообщения сотрудников и документировала вопросы, по всей видимости связанные с наймом, иммиграционным статусом, условиями труда и дисциплиной работников.
Поведение
Сеть одновременно реализовывала несколько видов мошенничества, часто сочетая элементы разных схем. Например, операторы входили в доверие под видом потенциальных романтических партнеров, а затем предлагали фиктивные инвестиции в криптовалюты и торговлю золотом на спотовом рынке. Другие пользователи под вымышленными именами вели с потенциальными жертвами продолжительные романтические переписки, выдавали себя за представителей онлайн-платформ для азартных игр, предлагающих фиктивные бонусы и выигрыши, либо за сотрудников правоохранительных органов, требуя уплатить штрафы за якобы совершённые тяжкие преступления.
Несмотря на различия в легендах, участники всей сети неизменно следовали одной и той же базовой модели обмана. Например, они создавали и вели поддельные анкеты знакомств, выдавали себя за инвестиционных экспертов и сотрудников правоохранительных органов. Они также создавали изображения поддельных документов, в том числе паспортов, официальных уведомлений, подтверждений покупки акций и интерфейсов онлайн-платформ для азартных игр.
Как мы отмечали(открывается в новом окне) в предыдущих(открывается в новом окне) отчетах(открывается в новом окне), мошенники придерживались распространенной модели взаимодействия с потенциальными жертвами, которую мы называем первым контактом (завязать общение), эмоциональной раскачкой (вызвать эмоции) и финальным ударом (выманить деньги).
Первый контакт: участники сети использовали ChatGPT для перевода и составления переписок с потенциальными жертвами в мессенджерах, таких как WhatsApp и Telegram. Мошенники также создавали контент для социальных сетей и искали материалы для анкет знакомств, чтобы сделать свои поддельные образы убедительнее.
Эмоциональная раскачка: в сообщениях мошенники часто прибегали к эмоциональному давлению и приемам завоевания доверия. Например, они обещали гарантированную доходность и инвестиции «без риска», использовали формулировки романтического характера, требовали держать переписку в секрете и торопили жертв действовать, пока не истек срок вымышленных бонусов.
Финальный удар: мошенники убеждали жертв внести деньги, чтобы получить обещанное вознаграждение, оплатить активацию или погасить фиктивные штрафы, а затем требовали в качестве подтверждения оплаты снимки экрана с переводами либо сведения о счете.

Поддельный интерфейс для торговли криптовалютой, созданный участником мошеннической сети с помощью ChatGPT.

Созданное с помощью ИИ изображение, которым участник мошеннической сети продвигал фиктивную инвестиционную схему.
Признаки торговли людьми
Помимо мошеннических материалов, некоторые пользователи создавали контент, указывающий на возможную причастность к другим нарушениям, которые мы выявляем и пресекаем, включая торговлю людьми и принудительный труд. В частности, они создавали для социальных сетей объявления о работе «оператором чата» в Пойпете, обещая перелет, жилье, питание, визу и разрешение на работу.
Другие действия, по всей видимости, были связаны с управлением работниками внутри этой структуры. Пользователи вели учет долгов сотрудников, удержаний из зарплаты, дисциплинарных штрафов и выплат по кредитам, а также переводили обсуждения иммиграционного статуса, разрешений на работу, просроченных виз и вознаграждений за найм.
В некоторых разговорах также упоминались возможное удержание людей, попытки побега и потенциальная уголовная ответственность тех, кто стал жертвой торговли людьми и был принужден работать на мошенников. Хотя эти разговоры не позволяют нам установить обстоятельства какого-либо конкретного человека, они согласуются с многочисленными публикациями в открытых источниках(открывается в новом окне), описывающими(открывается в новом окне) деятельность организованных преступных групп в Юго-Восточной Азии.


Созданные с помощью ИИ изображения, которыми участники мошеннической сети рекламировали вакансии в Камбодже в социальных сетях. Некоторые фрагменты скрыты OpenAI.
Результаты
Мы заблокировали связанные с этой операцией аккаунты ChatGPT, передали соответствующие индикаторы отраслевым партнерам и компетентным органам, а также приняли меры, чтобы затруднить этим злоумышленникам повторный доступ к нашим продуктам и сервисам.
Полный размер финансового ущерба, связанного с этой сетью, неизвестен, однако, судя по переписке самих мошенников, в рамках различных схем они могли взаимодействовать с сотнями потенциальных жертв. В разговорах пользователей упоминались отдельные жертвы, потерявшие тысячи долларов, однако мы не можем независимо подтвердить эти заявления.
В более широком смысле этот случай подтверждает две тенденции. Во-первых, организованные мошеннические сети могут быть весьма диверсифицированными и одновременно реализовывать несколько схем, не ограничиваясь одним видом мошенничества. Во-вторых, границы между онлайн-мошенничеством, организованной преступностью и торговлей людьми часто размыты. Поэтому для эффективного пресечения необходимо бороться не только с мошенничеством, непосредственно направленным против жертв, но и с преступными организациями, которые им руководят и получают от него прибыль.