SweetSpecter: сајберактивности поврзани со Кина
OpenAI блокираше сметки што веројатно му припаѓаат на SweetSpecter, напаѓач за кој се сомнева дека дејствува од Кина и користи ВИ за истражување ранливости, пишување код и поддршка на насочени фишинг-напади.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од октомври 2024 година(се отвора во нов прозорец).
Актер
Идентификувавме и блокиравме сметки кои, според проценка од веродостоен извор, веројатно му припаѓале на напаѓач за кој се сомнева дека дејствува од Кина. Преку нив се обидувал да ги користи нашите модели за поддршка на своите офанзивни сајбероперации, а истовремено спроведувал насочени фишинг-напади врз нашите вработени и влади низ светот. Овој напаѓач, чии активности јавно се следат под името SweetSpecter, се појави во 2023 година. Според нашите сознанија, ова е првпат јавно да се утврди дека меѓу неговите цели е и компанија за вештачка интелигенција со седиште во САД. Претходните извештаи укажуваа дека неговите активности биле насочени кон политички субјекти на Блискиот Исток, во Африка и во Азија.
Однесување
Во мај 2024 година добивме дојава од веродостоен извор чиј безбедносен тим забележал дека SweetSpecter испраќа насочени фишинг-пораки со злонамерни прилози на службените и личните е-адреси на дел од нашите вработени.
Верзија со прикриени податоци на е-пораката што SweetSpecter ја испратил до мал број наши вработени. Овие е-пораки беа блокирани од нашите безбедносни системи. Сликата е отстапена од Proofpoint.
Во овие е-пораки, SweetSpecter се претставувал како корисник на ChatGPT кој бара поддршка од таргетираните вработени. Е-пораките содржеле злонамерен прилог наречен „some problems.zip“, во кој имало LNK-датотека. Оваа датотека содржела код кој, при отворање, на корисникот би му прикажал DOCX-датотека со список на разни наводни пораки за грешки и сервисни известувања од ChatGPT. Меѓутоа, во заднина би се дешифрирал и извршил злонамерен софтвер за Windows познат како SugarGh0st RAT. Злонамерниот софтвер е осмислен да му даде на SweetSpecter контрола врз компромитираниот компјутер и да му овозможи, меѓу другото, да извршува произволни команди, да прави слики од екранот и да извлекува податоци.
Безбедносниот тим на OpenAI ги контактираше вработените за кои се веруваше дека биле мета на оваа насочена фишинг-кампања и утврди дека постојните безбедносни контроли спречиле пораките воопшто да стигнат до нивните службени е-адреси.
Содржина-мамка од една од анализираните злонамерни LNK-датотеки, која би се прикажала при извршување.
Во текот на целиот процес, соработката со нашите партнери од индустријата имаше клучна улога во идентификувањето на овие неуспешни обиди за компромитирање на сметките на вработените. Ова ја истакнува важноста на споделувањето разузнавачки информации за закани и на соработката за да останеме чекор пред софистицираните напаѓачи во ерата на ВИ. Користејќи ги споделените сознанија и заедничката стручност, можеме подобро да ги заштитиме нашите ресурси и да го оневозможиме работењето на сметките на платформата поврзани со вакви активности.
Генерирани одговори
При анализата на пошироката инфраструктура што ја поддржувала оваа кампања, откривме и оневозможивме група сметки на ChatGPT кои ја користеле истата инфраструктура за да се обидат да добијат одговори на прашања и да извршат задачи за пишување скрипти и истражување ранливости. Овие интеракции ги поврзавме со тактиките, техниките и процедурите (TTP) поврзани со големи јазични модели (LLM) кои Microsoft претходно оваа година ги предложи за вклучување во рамката MITRE ATT&CK®. Рамката MITRE ги опфаќа тактиките и техниките што сајбернапаѓачите ги користат во реални услови. Со наведување на овие поврзаности, сакаме да ја информираме пошироката заедница за сајбербезбедност за забележаните тактики, техники и процедури и да помогнеме во подобрувањето на ефективноста на сајберодбраната.
Подолу се дадени неколку примери за активности на SweetSpecter што одговараат на овие тактики, техники и процедури:
Активност | Категорија во рамката ATT&CK за големи јазични модели (LLM) |
|---|---|
Поставување прашања за ранливости во различни апликации | Извидување со информации од големи јазични модели (LLM) |
Поставување прашања како да се пребаруваат конкретни верзии на Log4j подложни на критичната ранливост Log4Shell за далечинско извршување код (RCE) | Извидување со информации од големи јазични модели (LLM) |
Поставување прашања за популарни системи за управување со содржини што се користат во странство | Извидување со информации од големи јазични модели (LLM) |
Барање информации за конкретни CVE-броеви | Извидување со информации од големи јазични модели (LLM) |
Поставување прашања како се создаваат алатки за скенирање на целиот интернет. | Извидување со информации од големи јазични модели (LLM) |
Поставување прашања како да се користи sqlmap за поставување потенцијален веб-шел на целен сервер. | Истражување ранливости со помош на големи јазични модели (LLM) |
Барање помош за изнаоѓање начини за искористување ранливости во инфраструктурата на познат производител на автомобили. | Истражување ранливости со помош на големи јазични модели (LLM) |
Доставување код и барање дополнителна помош за користење комуникациски услуги за програмско испраќање текстуални пораки. | Техники за пишување скрипти подобрени со големи јазични модели (LLM) |
Барање помош за отстранување грешки при развој на проширување за алатка за сајбербезбедност. | Техники за пишување скрипти подобрени со големи јазични модели (LLM) |
Барање помош за отстранување грешки во код што е дел од поголема рамка за програмско испраќање текстуални пораки на броеви определени од напаѓачот. | Развој со помош на големи јазични модели (LLM) |
Барање теми што би им биле интересни на вработените во владините служби и предлози за имиња на прилози со кои би се избегнало нивното блокирање. | Социјален инженеринг поддржан од големи јазични модели (LLM) |
Барање варијанти на порака за вработување доставена од напаѓачот. | Социјален инженеринг поддржан од големи јазични модели (LLM) |
Во текот на целата истрага, нашите безбедносни тимови го користеа ChatGPT за анализирање, категоризирање, преведување и сумирање на интеракциите од сметките на напаѓачите. Ова ни овозможи брзо да извлечеме сознанија од големи збирки податоци, а притоа да ги сведеме на минимум ресурсите потребни за оваа работа. Со натамошното усовршување на нашите модели, очекуваме да можеме да го користиме ChatGPT и за обратен инженеринг и анализа на злонамерните прилози испратени до вработените.
Влијание
Во согласност со нашите согледувања од првиот извештај за закани, се чини дека користењето на нашите модели не им овозможило на спроведувачите на операцијата нови способности или насоки што не би можеле да ги добијат од повеќе јавно достапни извори. Нашите безбедносни механизми ги блокираа злонамерните е-пораки од напаѓачот пред да стигнат во приемните сандачиња на вработените.