Операција „ScopeCreep“: развој на злонамерен софтвер од актер што зборува руски

Оваа студија на случај првично беше објавена во извештајот на OpenAI од јуни 2025 година⁠(се отвора во нов прозорец).

Блокиравме група сметки на ChatGPT со кои, според нашите сознанија, управувал злонамерен актер што зборува руски. Овој актер ги користел нашите модели како помош при развој и усовршување на злонамерен софтвер за Windows, отстранување грешки во код на повеќе програмски јазици и поставување инфраструктура за командување и контрола.

Актерот покажал познавање на внатрешните механизми на Windows и применувал одредени мерки за оперативна безбедност. Бидејќи операцијата била насочена кон користење алатка за „нишан“ во видеоигри со вграден тројанец и тактики за прикривање, ја нарековме „ScopeCreep“.

Овој злонамерен актер имал впечатлив пристап кон оперативната безбедност. Користел привремени адреси за е-пошта за да регистрира сметки на ChatGPT, при што секоја сметка ја ограничувал на еден разговор за едно мало подобрување на својот код. Потоа ја напуштал првичната сметка и создавал нова.

Актерот го дистрибуирал злонамерниот софтвер ScopeCreep преку јавно достапен репозиториум за код што се претставувал како легитимната и популарна алатка за прикажување нишан врз видеоигри Crosshair-X. Корисниците што, не сомневајќи се во ништо, ја преземале и ја стартувале злонамерната верзија, ја активирале програмата за вчитување на злонамерниот софтвер во својот систем. Со тоа се преземале и се извршувале дополнителни злонамерни датотеки од инфраструктурата на напаѓачот.

Потоа злонамерниот софтвер бил дизајниран да започне повеќефазен процес за зголемување на привилегиите, воспоставување прикриено трајно присуство, известување на злонамерниот актер и извлекување чувствителни податоци, притоа избегнувајќи откривање.

Злонамерниот актер го користел нашиот модел како помош при постепен развој на злонамерниот софтвер, постојано барајќи од ChatGPT да додаде нови, конкретни функции. ScopeCreep користел низа техники за испорака, извршување, избегнување откривање и извлекување податоци, меѓу кои:

• Злонамерни пакети од инфраструктурата за командување и контрола (C2), дизајнирани да избегнат откривање врз основа на сигнатури.

• Прикриено извршување преку странично вчитување DLL-датотеки.

• Замаглување на кодот преку приспособено пакување со Themida.

• Зголемување на привилегиите и избегнување откривање.

• HTTPS преку порта 80.

• Кражба на податоци за најава и сесии.

• Известувања до напаѓачот преку Telegram.

• Прикривање на сообраќајот преку прокси-сервери.

И покрај мерките на злонамерниот актер за оперативна безбедност и механизмите за избегнување откривање во самиот злонамерен софтвер, успеавме да ја откриеме активноста благодарение на нашиот процес за откривање сајберзлоупотреби во голем обем. Во координација со давателот на услугата за хостирање код, го отстранивме злонамерниот репозиториум и ги блокиравме сите сметки на ChatGPT поврзани со оваа активност.

Интеракциите со моделот од оваа група сметки опфаќале широк спектар задачи за развој на софтвер. Една од нив вклучувала фрагмент код на Go во кој злонамерниот актер имал проблем со HTTPS-барање и побарал од моделот да ја отстрани грешката. Во друг случај, злонамерниот актер побарал помош за користење команди на PowerShell преку Go за менување на поставките на Windows Defender, барајќи начин програмски да додава исклучоци од антивирусното скенирање.

Репрезентативни примери за овие активности може да се поврзат со рамката ATT&CK за големи јазични модели (LLM) на следниов начин:

• Користење големи јазични модели (LLM) за компајлирање на датотеката python310.dll, така што кодот на актерот да се извршува секогаш кога ќе се стартува python.exe: развој со помош на големи јазични модели (LLM).

• Отстранување грешки со SSL/TLS-сертификати наменети за опслужување HTTPS-сообраќај на порта 80: развој со помош на големи јазични модели (LLM).

• Миграција, со помош на модел, од C2-сервер базиран на Flask кон WSGI-сервер подготвен за продукциска употреба: развој со помош на големи јазични модели (LLM).

• Развој на команди на PowerShell во Go за менување на поставките на Windows Defender и додавање исклучоци од антивирусното скенирање: усовршено избегнување на детекцијата на аномалии со помош на големи јазични модели (LLM).

• Отстранување грешки во код за известување канал на Telegram под контрола на напаѓачот кога ќе биде компромитирана нова жртва: активности по компромитирањето со помош на големи јазични модели (LLM).

Во оваа фаза, влијанието на ScopeCreep можеби е ублажено благодарение на брзото пријавување и тесната соработка со партнерите од индустријата, кои успеаја да го отстранат злонамерниот репозиториум. Ги блокиравме сметките на OpenAI што ги користел овој напаѓач.

Проценуваме дека овој злонамерен актер ги користел нашите модели во обид да го забрза развојот на својот злонамерен софтвер. Парадоксално, тоа ни даде и можност брзо да ја препознаеме и да ја попречиме заканата, според сè, уште во нејзината рана фаза.

Иако можностите на овој злонамерен софтвер вклучуваат зголемување на привилегиите, трајно присуство, собирање податоци за најава и далечински пристап, тие не претставуваат особена новина. Иако овој злонамерен софтвер веројатно бил активен надвор од тестни средини, а некои примероци се појавиле на VirusTotal, не забележавме докази за поширок интерес или распространета дистрибуција.