„Наръчник за светлата страна“: Дейност с вероятен произход от Китай, насочена към лица от САЩ

Този анализ на случай беше публикуван първоначално в доклада на OpenAI от февруари 2026 г.⁠(отваря се в нов прозорец) за противодействие на злонамереното използване на ИИ.

Блокирахме малка група акаунти в ChatGPT, вероятно с произход от Китай, които използваха нашите модели, за да търсят информация за лица от САЩ, форуми и местоположения на федерални сгради, да получават насоки за софтуер за подмяна на лица и да генерират имейли на английски, наподобяващи опити за социално инженерство. Те подаваха заявки към нашите модели на китайски, бяха активни предимно през работното време в континентален Китай и използваха VPN за достъп до платформата ни.

Акаунтите генерираха чернови на имейли, представяни като изпратени от служители на базирана в Хонконг компания с името „Nimbus Hub Consulting“. Те обаче подаваха заявките си към нашите модели с опростени китайски йероглифи (обичайни за континентален Китай), а не с традиционни китайски йероглифи (обичайни за Хонконг), което подсказва, че действителните оператори са се намирали в континентален Китай. Освен това един акаунт генерира имейл от името на предполагаем представител на шанхайска организация за връзки с обществеността, която насърчава икономическия и културния обмен между САЩ и Шанхай. Тъй като името на компанията съдържа „Nimbus“, което означава дъждовен облак или ореол, нарекохме тази операция „Наръчник за светлата страна“.

Акаунтите генерираха чернови на имейли на английски, адресирани до щатски служители в САЩ или анализатори на политики, работещи в сферата на бизнеса и финансите. Имейлите изглежда приканваха получателите да участват в платени консултации, описвани като тълкуване на политики и предоставяне на стратегически съвети за клиентите на подателите. Те искаха черновите на имейлите да бъдат кратки, ясни и професионални, с теми на съобщенията, които създават усещане за спешност и въздействат психологически по ненатрапчив начин.

Освен това акаунтите в ChatGPT използваха нашите модели за търсене на обща информация, като моделът ни отговаряше въз основа на публично достъпни източници. Това включваше запитвания по следните теми:

• Местоположението на службите на федералното правителство на САЩ, включително на централните им офиси, и класация на щатите с висока концентрация на федерални агенции и служители.

• Разпределението на федералните служители в САЩ по щати.

• Лица от САЩ, като водещи от „Гласът на Америка“, включително техни предишни интервюта и теми, които ги интересуват.

• Онлайн форуми и сайтове, често използвани от специалисти и търсещи работа в сферата на икономиката и финансите в САЩ.

Особено показателно е, че един акаунт поиска насоки за изтегляне и инсталиране на компютър на FaceFusion — платформа за манипулиране и подмяна на лица, както и за други подобрения на медийно съдържание. В разговорите си в ChatGPT потребителите заявиха намерение да използват конкретно функцията ѝ за подмяна на лица в реално време. Те поискаха насоки за инсталиране стъпка по стъпка без технически жаргон и заявиха, че са начинаещи програмисти, затова инструкциите трябва да са прости. Качиха екранна снимка с хардуерните характеристики на компютъра си, за да улеснят инсталирането. Моделът отговори с информация от публично достъпните сайт и документация на FaceFusion.

Инструкциите им за генериране на чернови на имейли с нашите модели наподобяваха наръчник⁠(отваря се в нов прозорец) за социално инженерство при установяване на контакт от чуждестранна разузнавателна служба, а не обичайни предложения за работа. За всяка чернова на имейл те искаха следните раздели:

Създаване на впечатление за легитимност: Представяха „Nimbus Hub“ като професионална фирма за стратегическо консултиране с авторитетна експертиза в геополитиката и транснационалните политики. Включваха връзка към сайта на Nimbus Hub (вижте екранната снимка по-долу).

Персонализиране и ласкаене на набелязаното лице: Указваха на модела изрично да посочи опита на получателя в публичния сектор като доказателство, че той е идеалният кандидат за ролята. В един случай акаунтът качи екранни снимки на профила в LinkedIn на лице от САЩ, пребиваващо в Шанхай, и инструктира модела да персонализира черновата на имейла въз основа на текста в снимките за личния и професионалния опит на това лице.

Натрупване на стимули: Предложението за консултантска работа обикновено се представяше примамливо като доходоносна възможност за онлайн работа с бонуси за постигнати резултати и възнаграждения за препоръчване на други хора, но без яснота за същинската работа.

Успокояващ език и намаляване на усещането за риск: Често твърдяха, че работата е спокойна и поверителна, а плащанията са навременни.

Бързо прехвърляне на комуникацията извън платформата: Винаги се опитваха да прехвърлят получателите от имейл към първоначален онлайн видеоразговор чрез WhatsApp, Zoom или Teams.

В този случай взаимодействията на мрежите с моделите не бяха технически сложни, а заявките им понякога приличаха на обичайни искания за изготвяне на покани за работа или за инсталиране на софтуер за законни цели. Тактиката на потребителите да се крият зад фалшива корпоративна самоличност и интересът им към геополитически теми обаче подсказват възможно намерение за вербуване с враждебни цели.

Използването на ChatGPT от тези акаунти не предостави доказателства, че са успели да накарат набелязаните лица да отговорят на поканите им. Не успяхме да установим независимо дали поканите по имейл действително са били изпратени и дали някой от набелязаните получатели е отговорил.

Правителствата на редица демократични държави (напр. САЩ⁠(отваря се в нов прозорец), Обединеното кралство⁠(отваря се в нов прозорец), Австралия⁠(отваря се в нов прозорец)) предупреждават, че чуждестранни разузнавателни служби се опитват да вербуват настоящи и бивши държавни служители, като се представят за консултантски фирми и други организации в социални мрежи и платформи за професионални контакти. Може да е трудно да се разграничат обичайните предложения за работа от тези целенасочени подходи за социално инженерство, тъй като имат някои общи черти. Легитимните предложения обаче обикновено предвиждат по-продължителен процес на подбор и съдържат проверима информация за длъжността, достоверни данни за работодателя, реалистични пазарни диапазони на заплащане и връзки към действителни обяви за работа. Накратко, ако нещо изглежда твърде хубаво, за да е истина, вероятно не е.