Сајбер-операција: алатки за злонамерен софтвер на руски јазик
OpenAI блокираше сметки веројатно поврзани со криминални групи што зборуваат руски, кои користеле ВИ за создавање вчитувачи на злонамерен софтвер, слоеви за избегнување откривање, скрипти за кражба на акредитиви и C2-инфраструктура.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од октомври 2025 година(се отвора во нов прозорец).
Актер
Блокиравме сметки на ChatGPT преку кои се правеа обиди моделот да се користи за развој и усовршување злонамерен софтвер, вклучувајќи тројанец за далечински пристап, алатки за кражба на акредитиви и функции за избегнување откривање. Се чини дека овие сметки се поврзани со криминални групи што зборуваат руски, бидејќи забележавме дека објавуваат докази за своите активности на канал на Telegram посветен на такви актери. Врз основа на нашата истрага, проценуваме дека оваа активност била поврзана со оператор што зборува руски, управувал со повеќе сметки и користел прокси-инфраструктура и привремена хостинг-инфраструктура.
Однесување
Овој заканувачки актер користел повеќе сметки на ChatGPT, првенствено за изработка на прототипови и отстранување проблеми кај технички компоненти што овозможуваат активности по пробивањето и кражба на акредитиви — добро познати активности за ваков тип заканувачки актер. Моделот одбивал директни барања за создавање злонамерна содржина, па вообичаената употреба на моделот од страна на операторот опфаќала добивање основни делови од код, како претворање компајлирани извршни датотеки во shellcode, проектирање вчитувачи во меморија или анализирање акредитиви од прелистувачи. Потоа, заканувачкиот актер веројатно ги составувал овие делови во злонамерни работни текови.
Заканувачкиот актер ги користел и нашите модели за генерирање код за замаглување и обрасци за „криптери“, како што се вметнување инструкции за дополнување и непотребни секвенци, следење на таблата со исечоци и едноставни помошни алатки за извлекување податоци, меѓу кои прикачувач преку бот на Telegram и скрипти за архивирање и испраќање. Овие резултати сами по себе не се злонамерни, освен ако заканувачки актер не ги употреби на таков начин надвор од нашата платформа.
Заканувачкиот актер го користел ChatGPT претежно за технички задачи, како нисконивоовска работа со PE / Win32 API, обработка на колачиња со DPAPI / AES GCM и автоматизација со Chrome DevTools / CDP. Заканувачкиот актер упатувал барања со различни нивоа на сложеност: за многу од инструкциите биле потребни темелни познавања на платформата Windows и повторливо отстранување грешки, додека други автоматизирале вообичаени задачи, како масовно генерирање лозинки и пријавување за работни места преку скрипти. Операторот користел мал број сметки на ChatGPT и го доработувал истиот код низ повеќе разговори, што е образец својствен за тековен развој, а не за повремено тестирање.
Резултати
Нашите модели не биле користени за извршување на алатките и работните текови на заканувачкиот актер, а ние не можеме независно да потврдиме никакви активности надвор од платформата. Овој заканувачки актер се обидел да ги користи нашите модели за развој и усовршување нападни алатки и оперативни работни текови што, по сè изгледа, овозможуваат кражба на акредитиви и криптосредства, прикриено извршување код и управување со тајна инфраструктура.
Поточно, го користеле ChatGPT за генерирање и постојано доработување функционален код и упатства за распоредување за извршување во меморија и вчитувачи на shellcode; заобиколување на UAC / SmartScreen / Mark-of-the-Web; извлекување акредитиви / колачиња од прелистувачи и основни компоненти за дешифрирање врзано за апликација; анализирање паричници во LevelDB и алатки за преземање / заменување на таблата со исечоци со извлекување податоци; како и компоненти за далечински пристап (RAT), вклучувајќи емулација на видео и внес. Согласно вградените заштитни мерки, нашите модели одбивале барања што биле очигледно злонамерни и немале никаква легитимна примена.
Репрезентативните примери за овие активности може да се распоредат во рамката ATT&CK за големи јазични модели (LLM) на следниов начин:
Активност | Категорија од рамката ATT&CK за големи јазични модели (LLM) |
|---|---|
Претворање EXE-датотеки во позициони независен shellcode; создавање вчитувачи во меморија (VirtualAlloc / WriteProcessMemory / далечинска нишка); конверзија меѓу програмски јазици за синџири од алатки за вчитување. | Изработка на корисен товар оптимизирана со големи јазични модели (LLM) |
Вметнување слоеви за замаглување / пакување, криптери и техники веројатно наменети за менување на PE-потписите или за друг начин на криење на корисниот товар од AV/EDR. | Избегнување откривање аномалии подобрено со големи јазични модели (LLM) |
Генерирање скрипти и програмски код веројатно наменети за извлекување / дешифрирање акредитиви и колачиња од прелистувачи, анализирање LevelDB-бази на паричници, следење или заменување на содржината на таблата со исечоци и извлекување податоци преку канали со ботови, како Telegram. | Активност по пробивањето потпомогната од големи јазични модели (LLM) |
Создавање и усовршување инфраструктура за C2 и тунелирање, вклучувајќи обратни прокси-сервери, конфигурации за SOCKS5 / OpenVPN, тунелирање далечинска работна површина и упатства за отстранување грешки / распоредување за далечински пренос и емулација на внес. | Профилирање инфраструктура со помош на големи јазични модели (LLM) |
Влијание
Ги оневозможивме сите сметки поврзани со оваа активност и ги споделивме релевантните показатели со партнерите од индустријата. Не најдовме докази дека пристапот до нашите модели им овозможил на овие актери нови способности или насоки до кои инаку не би можеле да дојдат преку повеќе јавно достапни извори. Нашите модели одбивале директни барања за експлоити и keylogger-алатки.