Операција „Нејасен фокус“: социјален инженеринг и активности за влијание

Оваа студија на случај првично беше објавена во извештајот на OpenAI од јуни 2025 година⁠(се отвора во нов прозорец).

Блокиравме мала мрежа од сметки на ChatGPT што ги користеа нашите модели за генерирање објави за социјалните мрежи, анализа на збирки податоци и превод од кинески на англиски на е-пораки и пораки што наликуваа на обиди за социјален инженеринг. Сметките им задаваа барања на нашите модели на кинески и беа активни главно во текот на работното време во континентална Кина.

Генерираа пораки наводно испратени од вработени во три организации насочени кон геополитиката: „Вести во фокус“, „Светол бран — медиуми Европа“ и „Визионерска советодавна група“ (VAG). Покрај тоа, сметките на ChatGPT генерираа текст што се совпаѓаше со објавите и описите на профилите на сметки на X поврзани со овие три организации. Во одделни наврати, злонамерните актери ги опишуваа овие организации како параван за собирање и анализа на разузнавачки податоци. Врз основа на овие имиња, ја нарековме операцијата „Нејасен фокус“.

Операцијата го користеше ChatGPT за поддршка на четири главни текови на работа. Прво, сметките ги користеа нашите модели главно за генерирање објави за социјалните мрежи и биографии за онлајн идентитети што изгледаа како дел од прикриена операција за влијание. Објавите ги ширеа сметки на X што се претставуваа како новинари и геополитички аналитичари.

Второ, сметките доработуваа и преведуваа преписка упатена до американски сенатор во врска со номинацијата на функционер во администрацијата. Не можеме независно да потврдиме дали нешто од таа преписка било испратено.

Трето, сметките поставуваа низа основни прашања за алатки за напади врз компјутерски мрежи и искористување на нивните ранливости, на кои нашите модели даваа само општи објаснувања за нивната употреба и можности. Овие прашања не го одразуваа напредното знаење на сајберактерите што ги опишуваме подоцна во овој извештај и укажуваат на ниско ниво на стручност.

На крај, корисниците редовно бараа превод од кинески на англиски на пораки што изгледаа наменети за воспоставување контакт со непознати соговорници и, во крајна линија, за извлекување информации од нив. Некои од овие пораки беа објавени на социјалните мрежи како одговори до новинари и истражувачи. Други наликуваа на директни пораки што не се појавуваа при пребарување на интернет.

Се чинеше дека главната цел на оваа мрежа е да собира разузнавачки податоци преку лажно претставување како професионалци со седиште во Европа или Турција. Во содржините што ги генерираа и ги објавуваа на интернет, операторите ја опишуваа „Вести во фокус“ како независна организација со седиште во Европа, специјализирана за анализа и известување. Меѓутоа, операторите тврдеа и дека ваквото претставување всушност служело како параван за полесно собирање, анализа и ширење разузнавачки податоци.

Според веб-страницата наведена во описите на профилите на социјалните мрежи, Визионерската советодавна група се наоѓа во Турција и е специјализирана за професионални геополитички консултантски услуги. Операторите ги користеа нашите модели за превод од кинески на англиски на упатства во кои се тврдеше дека групата VAG бара информации за економските и финансиските политики на САД и дека е подготвена да плати 2.000 долари за час интервју. Преведуваа и понуди за плаќање за класифицирани документи.

Веб-страницата на групата VAG има турска и англиска верзија, а во менито на страницата „Контактирајте нѐ“ во англиската верзија се гледаат кинеските знаци за „контактирајте нѐ“ (聯絡). Ова беше единствениот кинески текст на целиот домен.

Дел од содржините на оваа мрежа наликуваа на маркетиншки материјали за пошироки операции за влијание. Според тврдењата, кои не можеме независно да ги потврдиме, операцијата користела машинско учење, обработка на природен јазик и автоматизирано извлекување податоци за да идентификува влијателни поединци и теми на социјалните мрежи.

Сметките на социјалните мрежи поврзани со оваа активност не привлекоа значајна автентична интеракција на интернет. Само сметката на „Вести во фокус“ на X имаше значителен број следбеници — 17.000. Сепак, сметката била создадена во ноември 2014 година под друго име, објавувала твитови три дена, а потоа не објавувала ништо до средината на 2024 година. Ова е типично за сметки што биле компромитирани и пренаменети, па бројот на нејзините следбеници треба да се толкува со претпазливост.

Според Скалата на пробив⁠(се отвора во нов прозорец) за мерење на влијанието на операциите за влијание, јавно видливиот дел од оваа операција би го оцениле како дел од долниот опсег на категорија 2: активност на повеќе платформи, но со малку докази дека вистински луѓе ја презеле или масовно ја споделувале нивната содржина. Нема доволно достапни докази за да се оцени влијанието на социјалниот инженеринг и другите прикриени активности на операцијата.