Кибероперация: инструменти за зловреден софтуер на рускоезични групи
OpenAI забрани акаунти, вероятно свързани с рускоезични престъпни групи, използвали ИИ за създаване на зареждащи модули за зловреден софтуер, слоеве за избягване на откриването, скриптове за кражба на данни и C2 инфраструктура.
Този казус е публикуван първоначално в доклада на OpenAI от октомври 2025 г.(отваря се в нов прозорец).
Извършител
Забранихме акаунти в ChatGPT, чрез които се правеха опити моделът да бъде използван за разработване и усъвършенстване на зловреден софтуер, включително троянски кон за отдалечен достъп, инструменти за кражба на идентификационни данни и функции за избягване на откриването. Изглежда, че тези акаунти са свързани с рускоезични престъпни групи, тъй като ги наблюдавахме да публикуват доказателства за дейността си в канал в Telegram, посветен на такива извършители. Въз основа на разследването ни смятаме, че тази дейност е била свързана с рускоезичен Operator, който е управлявал множество акаунти и е използвал прокси инфраструктура и краткотраен хостинг.
Поведение
Този злонамерен субект използваше множество акаунти в ChatGPT предимно за създаване на прототипи и отстраняване на неизправности в технически компоненти, позволяващи действия след пробив и кражба на идентификационни данни — добре познати дейности за този тип извършители. Моделът отказваше директните заявки за генериране на злонамерено съдържание, затова обичайното му използване от Operator включваше извличане на код за отделни градивни елементи, като преобразуване на компилирани изпълними файлове в шелкод, проектиране на зареждащи модули в паметта или анализиране на идентификационни данни от браузъри. След това злонамереният субект вероятно ги е обединявал в злонамерени работни процеси.
Злонамереният субект използваше моделите ни и за генериране на код за обфускация и шаблони за „криптери“, например за вмъкване на запълващи инструкции и ненужни последователности, наблюдение на клипборда и прости помощни средства за извеждане на данни, като бот за качване в Telegram и скриптове за архивиране и изпращане. Тези резултати сами по себе си не са злонамерени, освен ако не бъдат използвани по такъв начин от злонамерен субект извън платформата ни.
Злонамереният субект използваше ChatGPT предимно за технически задачи, като работа на ниско ниво с PE / Win32 API, обработване на бисквитки чрез DPAPI / AES GCM и автоматизация на Chrome DevTools / CDP. Злонамереният субект отправяше както сложни, така и по-елементарни заявки: много подкани изискваха задълбочени познания за платформата Windows и поетапно отстраняване на грешки, а други автоматизираха масови задачи, като генериране на множество пароли и кандидатстване за работа чрез скриптове. Operator използваше малък брой акаунти в ChatGPT и усъвършенстваше един и същ код в различни разговори — модел на поведение, който съответства по-скоро на текуща разработка, отколкото на случайни тестове.
Отговори
Моделите ни не са използвани за изпълнение на инструменти или работни процеси на злонамерения субект и не можем независимо да потвърдим дейности извън платформата. Този злонамерен субект се опита да използва моделите ни за разработване и усъвършенстване на нападателни инструменти и оперативни работни процеси, които изглежда позволяват кражба на идентификационни данни и криптоактиви, скрито изпълнение на код и управление на прикрита инфраструктура.
По-конкретно, той използваше ChatGPT, за да генерира и усъвършенства работещ код и указания за внедряване за изпълнение в паметта и зареждащи модули за шелкод; заобикаляне на UAC / SmartScreen / Mark-of-the-Web; извличане на идентификационни данни и бисквитки от браузъри и шаблони за декриптиране, обвързано с приложения; анализиране на портфейли в LevelDB и инструменти за превземане или замяна на клипборда с извеждане на данни; както и компоненти за отдалечен достъп (RAT), включително видео и емулация на въвеждане. В съответствие с предпазните си механизми моделите ни отказваха заявки, които бяха явно злонамерени и нямаха законно приложение.
Представителни примери за тези дейности могат да бъдат съпоставени с рамката ATT&CK за големи езикови модели, както следва:
Дейност | Категория от рамката ATT&CK за големи езикови модели |
|---|---|
Преобразуване на EXE файлове в независим от позицията шелкод; създаване на зареждащи модули в паметта (VirtualAlloc / WriteProcessMemory / отдалечена нишка); преобразуване между езици за набори от инструменти за зареждащи модули. | Изготвяне на полезен товар с оптимизация чрез големи езикови модели |
Добавяне на слоеве за обфускация / пакетиране, криптери и техники, вероятно предназначени да променят PE сигнатури или по друг начин да скриват полезния товар от AV/EDR. | Заобикаляне на откриването на аномалии с помощта на големи езикови модели |
Генериране на скриптове и програмен код, вероятно предназначени да извличат / декриптират идентификационни данни и бисквитки от браузъри, да анализират LevelDB бази на портфейли, да наблюдават или заменят съдържанието на клипборда и да извеждат данни чрез канали на ботове, като Telegram. | Действия след компрометиране с помощта на големи езикови модели |
Изграждане и усъвършенстване на C2 инфраструктура и тунелиране, включително обратни проксита, конфигурации за SOCKS5 / OpenVPN, тунелиране на отдалечен работен плот и указания за отстраняване на грешки / внедряване при отдалечен стрийминг и емулация на въвеждане. | Профилиране на инфраструктурата, ръководено от големи езикови модели |
Въздействие
Деактивирахме всички акаунти, свързани с тази дейност, и споделихме съответните индикатори с партньори от индустрията. Не открихме доказателства, че достъпът до моделите ни е предоставил на тези извършители нови способности или насоки, които те не биха могли да получат от многобройни публично достъпни източници. Моделите ни отказваха директни заявки за експлойти и кийлогъри.