SweetSpecter: кибердеятельность, связанная с Китаем
OpenAI заблокировала аккаунты, вероятно принадлежавшие SweetSpecter — группировке, предположительно базирующейся в Китае и использовавшей ИИ для изучения уязвимостей, написания кода и целевого фишинга.
Этот разбор впервые был опубликован в отчете OpenAI за октябрь 2024 года(открывается в новом окне).
Субъект угрозы
Мы выявили и заблокировали аккаунты, которые, по оценке надежного источника, вероятно принадлежали злоумышленникам, предположительно базирующимся в Китае. Они пытались использовать наши модели для поддержки своих наступательных киберопераций и одновременно проводили целевые фишинговые атаки на наших сотрудников и государственные структуры по всему миру. Эта группировка, известная в открытых источниках как SweetSpecter, появилась в 2023 году. Насколько нам известно, впервые было публично установлено, что среди ее целей оказалась американская компания в сфере ИИ. Ранее сообщалось, что ее деятельность была направлена на политические структуры на Ближнем Востоке, в Африке и Азии.
Действия
В мае 2024 года мы получили информацию от надежного источника: его команда безопасности зафиксировала, как SweetSpecter рассылала целевые фишинговые письма с вредоносными вложениями на корпоративные и личные адреса электронной почты некоторых наших сотрудников.
Письмо, отправленное SweetSpecter небольшому числу наших сотрудников; часть сведений скрыта. Эти письма были заблокированы нашими системами безопасности. Изображение любезно предоставлено Proofpoint.
В этих письмах SweetSpecter выдавала себя за пользователя ChatGPT, который обращался к выбранным сотрудникам за помощью. Письма содержали вредоносное вложение «some problems.zip» с LNK-файлом внутри. В этом файле был код, который при его открытии показывал пользователю DOCX-файл с перечнем якобы полученных от ChatGPT сообщений об ошибках и служебных уведомлений. При этом в фоновом режиме расшифровывалась и запускалась вредоносная программа для Windows, известная как SugarGh0st RAT. Эта программа предназначена для того, чтобы дать SweetSpecter контроль над зараженным компьютером и возможность, например, выполнять произвольные команды, делать снимки экрана и похищать данные.
Команда безопасности OpenAI связалась с сотрудниками, которые предположительно стали мишенями этой фишинговой кампании, и установила, что действующие средства защиты не позволили письмам попасть в их корпоративные почтовые ящики.
Приманка из одного из проанализированных вредоносных LNK-файлов, отображаемая при его запуске.
На протяжении всей этой работы сотрудничество с отраслевыми партнерами играло ключевую роль в выявлении неудавшихся попыток взломать учетные записи сотрудников. Это подчеркивает важность обмена информацией об угрозах и сотрудничества, которые помогают опережать технически изощренных злоумышленников в эпоху ИИ. Используя общие данные и коллективный опыт, мы можем лучше защищать наши ресурсы и пресекать работу аккаунтов на нашей платформе, связанных с подобной деятельностью.
Ответы модели
При анализе более широкой инфраструктуры, обеспечивавшей эту кампанию, мы обнаружили и заблокировали группу аккаунтов ChatGPT. Они использовали ту же инфраструктуру, чтобы получать ответы на вопросы, писать скрипты и исследовать уязвимости. Мы сопоставили эти взаимодействия с тактиками, техниками и процедурами (TTP), связанными с LLM, которые Microsoft ранее в этом году предложила включить в матрицу MITRE ATT&CK®. Матрица MITRE описывает тактики и техники, которые киберзлоумышленники применяют на практике. Приводя эти соответствия, мы стремимся информировать широкое сообщество специалистов по кибербезопасности о наблюдаемых TTP и помочь повысить эффективность киберзащиты.
Ниже приведены примеры действий SweetSpecter, соответствующих этим TTP:
Действие | Категория матрицы ATT&CK, связанная с LLM |
|---|---|
Вопросы об уязвимостях в различных приложениях | Разведка на основе информации от LLM |
Вопросы о том, как искать конкретные версии Log4j, подверженные критической уязвимости удаленного выполнения кода (RCE) Log4Shell | Разведка на основе информации от LLM |
Вопросы о популярных системах управления контентом, используемых за рубежом | Разведка на основе информации от LLM |
Запросы информации об уязвимостях по конкретным номерам CVE | Разведка на основе информации от LLM |
Вопросы о том, как создаются сканеры, охватывающие весь интернет. | Разведка на основе информации от LLM |
Вопросы о том, как использовать sqlmap для загрузки возможной веб-оболочки на целевой сервер. | Исследование уязвимостей с помощью LLM |
Просьбы помочь найти способы эксплуатации уязвимостей в инфраструктуре крупного автопроизводителя. | Исследование уязвимостей с помощью LLM |
Предоставление кода и просьбы о дополнительной помощи в использовании коммуникационных сервисов для программной отправки текстовых сообщений. | Совершенствование методов написания скриптов с помощью LLM |
Просьбы помочь с отладкой разрабатываемого расширения для инструмента кибербезопасности. | Совершенствование методов написания скриптов с помощью LLM |
Просьбы помочь с отладкой кода, входящего в более крупный фреймворк для программной отправки текстовых сообщений на номера, указанные злоумышленником. | Разработка с помощью LLM |
Запросы тем, которые могли бы заинтересовать сотрудников государственных ведомств, и названий вложений, позволяющих избежать блокировки. | Социальная инженерия с помощью LLM |
Просьбы создать варианты сообщения о найме, предоставленного злоумышленником. | Социальная инженерия с помощью LLM |
На протяжении всего расследования наши команды безопасности использовали ChatGPT для анализа, классификации, перевода и краткого изложения диалогов с аккаунтов злоумышленников. Это позволило нам быстро извлекать полезную информацию из больших массивов данных, сводя к минимуму необходимые для этой работы ресурсы. Мы ожидаем, что по мере совершенствования наших моделей сможем также использовать ChatGPT для обратной разработки и анализа вредоносных вложений, отправленных сотрудникам.
Результаты
Как и в наблюдениях из нашего первого отчета об угрозах, использование наших моделей, судя по всему, не дало злоумышленникам новых возможностей или указаний, которые они не могли бы получить из множества общедоступных источников. Наши механизмы защиты заблокировали вредоносные письма злоумышленников до того, как они попали в почтовые ящики сотрудников.