Стратегија на светлата страна: активност веројатно од Кина насочена кон лица од САД

Оваа студија на случај првично беше објавена во извештајот на OpenAI од февруари 2026 година⁠(се отвора во нов прозорец) за спречување злонамерна употреба на ВИ.

Забранивме мала група сметки на ChatGPT, најверојатно со потекло од Кина, кои ги користеа нашите модели за да бараат информации за лица од САД, форуми и локации на федерални згради, како и упатства за софтвер за замена на лица, и да генерираат е-пораки на англиски што наликуваа на обиди за социјален инженеринг. Тие им задаваа барања на нашите модели на кинески јазик, беа активни претежно во работното време во континентална Кина и користеа VPN за пристап до нашата платформа.

Сметките генерираа нацрт-е-пораки што требаше да изгледаат како да се испратени од вработени во компанија со седиште во Хонгконг, наречена „Нимбус Хаб Консалтинг“. Сепак, барањата до нашите модели ги пишуваа со поедноставени кинески знаци (кои обично се користат во континентална Кина), наместо со традиционални кинески знаци (кои обично се користат во Хонгконг), што укажува дека лицата кои навистина управувале со сметките се наоѓале во континентална Кина. Дополнително, една сметка генерираше е-порака наводно од претставник на организација за односи со јавноста со седиште во Шангај, која промовира економска и културна размена меѓу САД и Шангај. Бидејќи името на компанијата го содржи зборот „Нимбус“, што значи дождовен облак или ореол, оваа операција ја нарековме „Стратегија на светлата страна“.

Сметките генерираа нацрт-е-пораки на англиски, адресирани до функционери на сојузните држави во САД или до аналитичари на политики што работат во областа на бизнисот и финансиите. Пораките изгледаа како покани до овие примачи да учествуваат во платени консултации, опишани како толкување политики и давање стратешки совети за клиентите на испраќачите. Бараа нацрт-е-пораките да бидат концизни, јасни и професионални, со наслови што создаваат чувство на итност и користат суптилни психолошки сигнали.

Дополнително, сметките на ChatGPT ги користеа нашите модели за пребарување општи информации, при што нашиот модел одговараше врз основа на јавно достапни извори. Тоа вклучуваше прашања за следниве теми:

• Локациите на канцелариите на федералната влада на САД, вклучително и седиштата, како и рангирана листа на сојузни држави со голема концентрација на федерални агенции и службеници.

• Распределбата на федералните вработени во САД по сојузни држави.

• Лица од САД, како водители на Гласот на Америка, вклучувајќи ги нивните претходни интервјуа и теми од интерес.

• Онлајн форуми и веб-локации што често ги користат професионалци и лица што бараат работа во економскиот и финансискиот сектор во САД.

Особено се издвојува една сметка што побара упатства за преземање и инсталирање на компјутер на FaceFusion, платформа за манипулирање со лица, која овозможува замена на лица и други подобрувања на медиумски содржини. Според активноста на сметката во ChatGPT, корисникот изјавил дека има намера конкретно да ја користи функцијата за замена на лица во живо. Побара упатства за инсталирање чекор по чекор, без технички жаргон, тврдејќи дека е почетник во програмирањето и дека затоа упатствата мора да бидат едноставни. За да добие помош при инсталирањето, прикачи снимка од екранот со хардверските спецификации на својот компјутер. Моделот одговори со информации преземени од јавно достапната веб-локација и документација на FaceFusion.

Нивните инструкции за генерирање нацрт-е-пораки со нашите модели наликуваа на прирачник⁠(се отвора во нов прозорец) за социјален инженеринг при воспоставување контакт од странска разузнавачка служба, а не на обични пораки за вработување. За секоја нацрт-е-порака ги бараа следниве делови:

Создавање впечаток на легитимност: Го претставуваа „Нимбус Хаб“ како професионална фирма за стратешки консултации со врвна стручност во геополитиката и транснационалните политики. Вклучуваа врска до веб-локацијата на Нимбус Хаб (видете ја снимката од екранот подолу).

Персонализирање и ласкање на целното лице: Му наложуваа на моделот изречно да го наведе искуството на примачот во јавниот сектор како доказ дека тој е вистинскиот избор за работното место. Во еден случај, преку сметката беа прикачени снимки од екранот на профилот на LinkedIn на лице од САД што живее во Шангај. На моделот му беше наложено да ја персонализира нацрт-е-пораката врз основа на текстот од снимките за личните искуства и биографијата на лицето.

Нудење повеќе поволности: Консултантскиот ангажман обично се претставуваше како примамлива, добро платена онлајн можност со бонуси за успешност и награди за препорачување други лица, додека описот на самата работа остануваше нејасен.

Уверлив јазик и намалување на чувството на ризик: Често тврдеа дека работата е опуштена, исплатите се навремени, а ангажманот е доверлив.

Брзо префрлање на комуникацијата надвор од платформата: Секогаш се обидуваа да ги наведат примачите да преминат од е-пошта на почетен онлајн видеоповик преку WhatsApp, Zoom или Teams.

Интеракциите на мрежите со моделите во овој случај не беа технички сложени, а нивните барања понекогаш наликуваа на вообичаено составување покани за вработување или легитимно инсталирање софтвер. Сепак, тактиките на корисниците да се кријат зад лажен корпоративен идентитет и нивниот интерес за геополитички теми укажуваат на можна намера за врбување за непријателски цели.

Според начинот на кој сметките го користеа ChatGPT, немаше докази дека успеале да ги наведат целните лица да одговорат на нивните покани. Не можевме независно да утврдиме дали поканите навистина биле испратени по е-пошта или дали некој од целните примачи одговорил.

Владите на повеќе демократски земји (на пр. САД⁠(се отвора во нов прозорец), Обединетото Кралство⁠(се отвора во нов прозорец), Австралија⁠(се отвора во нов прозорец)) предупредија дека странски разузнавачки служби се обидуваат да врбуваат сегашни и поранешни државни службеници, претставувајќи се како консултантски фирми и други субјекти на платформи за социјално и професионално вмрежување. Може да биде тешко да се разликуваат обичните пораки за вработување од овие насочени пристапи со социјален инженеринг, бидејќи имаат некои заеднички обележја. Сепак, легитимните понуди обично се приспособени на подолги постапки за проверка на кандидатите и содржат проверливи информации за називот на работното место, веродостојни податоци за работодавачот, реални распони на надоместок според пазарните услови и врски до вистински огласи за работа. Накратко, ако нешто звучи премногу добро за да биде вистинито, веројатно и не е.