SweetSpecter: кібердіяльність, пов’язана з Китаєм
OpenAI заблокувала облікові записи, ймовірно, належні SweetSpecter — угрупованню, що, за підозрами, базується в Китаї та використовує ШІ для дослідження вразливостей, написання коду й підтримки цільового фішингу.
Цей аналіз випадку вперше опубліковано у звіті OpenAI за жовтень 2024 року(відкривається у новому вікні).
Зловмисник
Ми виявили та заблокували облікові записи, які, за оцінкою надійного джерела, імовірно, належали зловмисному угрупованню, що, як припускають, базується в Китаї. Воно намагалося використовувати наші моделі для підтримки своїх наступальних кібероперацій і водночас проводило цільові фішингові атаки проти наших працівників та урядів у всьому світі. Це угруповання, відоме у відкритих джерелах як SweetSpecter, з’явилося у 2023 році. Наскільки нам відомо, це перший публічно встановлений випадок, коли його ціллю стала американська компанія у сфері ШІ. Раніше повідомлялося, що його діяльність була зосереджена на політичних структурах Близького Сходу, Африки та Азії.
Методи дій
У травні 2024 року ми отримали повідомлення від надійного джерела: його команда безпеки зафіксувала, що SweetSpecter надсилає цільові фішингові листи зі шкідливими вкладеннями на корпоративні й особисті електронні адреси деяких наших працівників.
Лист, надісланий SweetSpecter невеликій кількості наших працівників, із прихованими конфіденційними даними. Наші системи безпеки заблокували ці листи. Зображення люб’язно надала компанія Proofpoint.
У цих листах SweetSpecter видавало себе за користувача ChatGPT, який звертався по допомогу до працівників, обраних цілями атаки. Листи містили шкідливе вкладення з назвою «some problems.zip», у якому був LNK-файл. Цей файл містив код, який у разі відкриття показував би користувачеві DOCX-файл із переліком нібито повідомлень про помилки та службових повідомлень ChatGPT. Водночас у фоновому режимі розшифровувалася б і запускалася шкідлива програма для Windows, відома як SugarGh0st RAT. Ця шкідлива програма призначена для того, щоб надати SweetSpecter контроль над скомпрометованим комп’ютером і можливість, зокрема, виконувати довільні команди, робити знімки екрана та викрадати дані.
Команда безпеки OpenAI зв’язалася з працівниками, які, ймовірно, стали цілями цієї фішингової кампанії, і встановила, що наявні засоби захисту не дали листам потрапити до їхніх корпоративних поштових скриньок.
Вміст-приманка з одного з проаналізованих шкідливих LNK-файлів, який відображався б після запуску.
Упродовж цього процесу співпраця з галузевими партнерами відіграла ключову роль у виявленні цих невдалих спроб скомпрометувати облікові записи працівників. Це підкреслює важливість обміну інформацією про загрози та співпраці, які дають змогу випереджати технічно підкованих зловмисників в епоху ШІ. Обмінюючись інформацією та об’єднуючи досвід, ми можемо краще захищати свої ресурси й блокувати на платформі облікові записи, пов’язані з такою діяльністю.
Відповіді моделей
Аналізуючи ширшу інфраструктуру цієї кампанії, ми виявили та заблокували групу облікових записів ChatGPT, які використовували ту саму інфраструктуру, щоб отримувати відповіді на запитання, писати скрипти й досліджувати вразливості. Ми зіставили ці взаємодії з тактиками, техніками та процедурами (TTP), пов’язаними з LLM, які Microsoft запропонувала включити до бази знань MITRE ATT&CK® на початку цього року. База знань MITRE описує тактики й техніки, які кіберзловмисники застосовують на практиці. Наводячи ці відповідності, ми прагнемо поінформувати ширшу спільноту фахівців із кібербезпеки про виявлені TTP та допомогти підвищити ефективність кіберзахисту.
Нижче наведено кілька прикладів дій SweetSpecter, що відповідають цим TTP:
Дії | Категорія ATT&CK для LLM |
|---|---|
Запити про вразливості в різних застосунках | Розвідка з використанням інформації від LLM |
Запити про те, як шукати конкретні версії Log4j із критичною вразливістю Log4Shell, що дає змогу віддалено виконувати код (RCE) | Розвідка з використанням інформації від LLM |
Запити про популярні системи керування вмістом, які використовують за кордоном | Розвідка з використанням інформації від LLM |
Запити інформації про вразливості з конкретними номерами CVE | Розвідка з використанням інформації від LLM |
Запити про те, як створюють сканери, що охоплюють увесь інтернет. | Розвідка з використанням інформації від LLM |
Запити про те, як за допомогою sqlmap завантажити потенційну вебоболонку на цільовий сервер. | Дослідження вразливостей за допомогою LLM |
Прохання допомогти знайти способи експлуатації вразливостей в інфраструктурі відомого автовиробника. | Дослідження вразливостей за допомогою LLM |
Надання коду та прохання про додаткову допомогу з використанням комунікаційних сервісів для програмного надсилання текстових повідомлень. | Удосконалення методів написання скриптів за допомогою LLM |
Прохання допомогти усунути помилки під час розробки розширення для інструмента кібербезпеки. | Удосконалення методів написання скриптів за допомогою LLM |
Прохання допомогти налагодити код, що є частиною більшого фреймворку для програмного надсилання текстових повідомлень на номери, вказані зловмисником. | Розробка за допомогою LLM |
Запити про теми, які могли б зацікавити працівників державних установ, і про назви вкладень, які допомогли б уникнути блокування. | Соціальна інженерія за підтримки LLM |
Прохання створити варіанти наданого зловмисником повідомлення з пропозицією роботи. | Соціальна інженерія за підтримки LLM |
Протягом цього розслідування наші команди безпеки використовували ChatGPT для аналізу, класифікації, перекладу й узагальнення взаємодій з облікових записів зловмисників. Це дало нам змогу швидко отримувати аналітичні висновки з великих наборів даних, мінімізуючи витрати ресурсів на цю роботу. Ми очікуємо, що з удосконаленням наших моделей зможемо також використовувати ChatGPT для зворотного проєктування та аналізу шкідливих вкладень, надісланих працівникам.
Вплив
Як і у випадках, описаних у нашому першому звіті про загрози, використання наших моделей, схоже, не дало зловмисникам нових можливостей чи вказівок, які вони не могли б отримати з численних загальнодоступних джерел. Наші механізми захисту заблокували шкідливі листи зловмисників, перш ніж ті потрапили до поштових скриньок працівників.