Операция „ScopeCreep“: разработване на зловреден софтуер на руски език

Този анализ на случай е публикуван за първи път в доклада от юни 2025 г.⁠(отваря се в нов прозорец) на OpenAI.

Блокирахме група акаунти в ChatGPT, които изглежда се управляваха от рускоговорящ злонамерен извършител. Този извършител използваше нашите модели като помощно средство за разработване и усъвършенстване на зловреден софтуер за Windows, отстраняване на грешки в код на различни езици и изграждане на инфраструктура за командване и контрол.

Извършителят демонстрира познания за вътрешните механизми на Windows и прилагаше някои мерки за оперативна сигурност. Нарекохме операцията „ScopeCreep“ заради използването на инструмент за игри, който добавя „мерник“ и е заразен с троянски кон, както и заради тактиките ѝ за прикриване.

Този злонамерен извършител имаше забележителен подход към оперативната сигурност. Той използваше временни имейл адреси за регистрация на акаунти в ChatGPT, като ограничаваше всеки акаунт до един разговор за едно малко подобрение в кода си. След това изоставяше първоначалния акаунт и създаваше нов.

Извършителят разпространяваше зловредния софтуер ScopeCreep чрез публично достъпно хранилище за код, което се представяше за легитимен и популярен инструмент за наслагване на мерник във видеоигри (Crosshair-X). Когато нищо неподозиращи потребители изтеглеха и стартираха зловредната версия, в системата им се задействаше програма за зареждане на зловреден софтуер, която изтегляше и изпълняваше допълнителни зловредни файлове от инфраструктурата на нападателя.

След това зловредният софтуер беше проектиран да задейства многоетапен процес за повишаване на привилегиите, осигуряване на скрито трайно присъствие, уведомяване на извършителя и извличане на чувствителни данни, като същевременно избягва откриване.

Извършителят използваше нашия модел, за да подпомогне поетапното разработване на зловредния софтуер, като непрекъснато искаше от ChatGPT да добавя нови конкретни функции. ScopeCreep демонстрираше набор от техники за доставяне, изпълнение, избягване на откриване и извличане на данни, включително:

• Зловредни компоненти за командване и контрол (C2), проектирани да избягват откриване чрез сигнатури.

• Скрито изпълнение чрез странично зареждане на DLL библиотеки.

• Обфускация чрез персонализирано пакетиране с Themida.

• Повишаване на привилегиите и избягване на откриване.

• HTTPS през порт 80.

• Кражба на идентификационни данни и сесии.

• Уведомяване на нападателя чрез Telegram.

• Прикриване на трафика чрез прокси сървъри.

Въпреки усилията на извършителя за оперативна сигурност и механизмите за избягване на откриване в самия зловреден софтуер успяхме да установим тази дейност благодарение на нашия процес за откриване на киберзлоупотреби в голям мащаб. Координирахме се с доставчика на хостинг за код, за да премахнем зловредното хранилище, и блокирахме всички акаунти в ChatGPT, свързани с тази дейност.

Взаимодействията с модела от тази група акаунти обхващаха широк набор от задачи по разработката. Едно от тях включваше фрагмент от код на Go, в който извършителят срещаше затруднения с HTTPS заявка и помоли модела да отстрани грешката. В друг случай извършителят поиска помощ за използване на команди на PowerShell чрез Go за промяна на настройките на Windows Defender, като търсеше начин програмно да добавя изключения за антивирусната защита.

Представителни примери за тези дейности могат да бъдат съотнесени към рамката ATT&CK за големи езикови модели, както следва:

• Използване на големи езикови модели за компилиране на файл, python310.dll, така че кодът на извършителя да се изпълнява при всяко стартиране на python.exe: разработка с помощта на големи езикови модели.

• Отстраняване на грешки със SSL/TLS сертификати, предназначени за обслужване на HTTPS трафик през порт 80: разработка с помощта на големи езикови модели.

• Миграция с помощта на модел от базиран на Flask C2 сървър към WSGI сървър, готов за използване в продукционна среда: разработка с помощта на големи езикови модели.

• Разработване на команди на PowerShell в Go за промяна на настройките на Windows Defender и добавяне на изключения за антивирусната защита: усъвършенствано заобикаляне на откриването на аномалии с помощта на големи езикови модели.

• Отстраняване на грешки в код за изпращане на известие до контролиран от нападателя канал в Telegram при компрометиране на нова жертва: дейност след компрометирането с помощта на големи езикови модели.

На този етап въздействието на ScopeCreep може да е било ограничено благодарение на бързото сигнализиране и тясното сътрудничество с партньори от индустрията, които успяха да премахнат зловредното хранилище. Блокирахме акаунтите в OpenAI, използвани от този нападател.

Според нашата оценка този извършител е използвал моделите ни в опит да ускори дейността си по разработване на зловреден софтуер. Парадоксално, това ни даде и възможност бързо да установим и пресечем заплахата, при това, по всичко личи, още в ранните ѝ етапи.

Макар възможностите на този зловреден софтуер да включват повишаване на привилегиите, осигуряване на трайно присъствие, събиране на идентификационни данни и отдалечен достъп, те не са особено новаторски. Въпреки че този зловреден софтуер вероятно е бил активно използван в реални условия и някои негови образци са се появили във VirusTotal, не установихме доказателства за широк интерес към него или за масовото му разпространение.