Приручник „Сребрна постава“: Активност вероватно пореклом из Кине усмерена на особе из САД

Ова студија случаја првобитно је објављена у извештају OpenAI-а из фебруара 2026.⁠(отвара се у новом прозору) о спречавању злонамерне употребе вештачке интелигенције.

Блокирали смо мањи број ChatGPT налога, вероватно пореклом из Кине, који су помоћу наших модела тражили информације о особама из САД, форумима и локацијама федералних зграда, упутства за софтвер за замену лица и генерисали поруке е-поште на енглеском које су личиле на покушаје социјалног инжењеринга. Моделима су задавали упите на кинеском, били су активни углавном током радног времена у континенталној Кини и користили су VPN за приступ нашој платформи.

Налози су генерисали нацрте порука е-поште који су наводно слати у име запослених у хонгконшкој компанији „Nimbus Hub Consulting“. Међутим, моделима су задавали упите поједностављеним кинеским писмом, које се обично користи у континенталној Кини, а не традиционалним кинеским писмом, уобичајеним у Хонгконгу, што указује на то да су стварни оператери били у континенталној Кини. Поред тога, један налог је генерисао поруку е-поште чији се пошиљалац представљао као представник шангајске организације за односе с јавношћу која промовише економску и културну размену између САД и Шангаја. Пошто назив компаније садржи реч „Nimbus“, која означава кишни облак или ореол, ову операцију назвали смо „Приручник: Сребрна постава“.

Налози су генерисали нацрте порука е-поште на енглеском намењене званичницима америчких савезних држава или аналитичарима јавних политика који раде у области пословања и финансија. Изгледало је да те примаоце позивају да учествују у плаћеним консултацијама, које су описивали као тумачење јавних политика и пружање стратешких савета клијентима. Тражили су да нацрти порука буду сажети, јасни и професионални, с насловима који стварају осећај хитности и користе суптилне психолошке сигнале.

Поред тога, ChatGPT налози користили су наше моделе за проналажење општих информација, на шта је наш модел одговарао ослањајући се на јавно доступне изворе. То је обухватало упите о следећим темама:

• Локације канцеларија федералне владе САД, укључујући седишта, као и рангирана листа савезних држава с великом концентрацијом федералних агенција и званичника.

• Распоређеност федералног особља САД по савезним државама.

• Особе из САД, попут водитеља Гласа Америке, укључујући њихове раније интервјуе и теме које их занимају.

• Интернет форуми и веб-сајтови које обично користе стручњаци и особе које траже посао у америчком сектору економије и финансија.

Посебно је значајно што је један налог затражио упутства за преузимање и инсталирање платформе FaceFusion на рачунар, намењене манипулацији лицима ради замене лица и других побољшања медијског садржаја. Према њиховој активности на ChatGPT‑у, навели су да намеравају да користе баш његову функцију замене лица уживо. Тражили су једноставна, нетехничка упутства за инсталацију корак по корак и тврдили да су програмери почетници, па су упутства морала бити лака за праћење. Отпремили су снимак екрана са хардверским спецификацијама свог рачунара ради помоћи при инсталацији. Модел је одговорио информацијама преузетим са јавно доступног веб-сајта и из документације платформе FaceFusion.

Њихова упутства нашим моделима за генерисање нацрта порука е-поште личила су на приручник⁠(отвара се у новом прозору) за приступ стране обавештајне службе путем социјалног инжењеринга, а не на обичне поруке о запошљавању. За сваки нацрт поруке тражили су следеће одељке:

Успостављање веродостојности: Представљали су „Nimbus Hub“ као професионалну фирму за стратешки консалтинг с признатом стручношћу у геополитици и транснационалним јавним политикама. Наводили су линк ка веб-сајту компаније Nimbus Hub (погледајте снимак екрана у наставку).

Персонализовање поруке и ласкање мети: Тражили су од модела да изричито наведе искуство примаоца у јавном сектору као доказ да је он савршен избор за ту улогу. У једном случају, налог је отпремио снимке LinkedIn профила особе из САД која живи у Шангају и наложио моделу да прилагоди нацрт поруке на основу текста са снимака о личним искуствима и биографији те особе.

Низање подстицаја: Понуда за консултантски ангажман обично је представљана као уносна прилика за рад преко интернета, уз бонусе за учинак и награде за препоруке, док је опис стварног посла остајао неодређен.

Умирујући језик и умањивање уочених ризика: Често су тврдили да је посао опуштен, да су исплате редовне и да је све поверљиво.

Брзо премештање комуникације ван платформе: Увек су покушавали да примаоце преусмере са е-поште на први видео-позив преко сервиса WhatsApp, Zoom или Teams.

Интеракције ових мрежа с моделима у овом случају нису биле технички напредне, а њихови захтеви су понекад личили на састављање уверљивих позива за ангажовање или на легитимно инсталирање софтвера. Међутим, то што су се корисници скривали иза лажног корпоративног идентитета и занимали за геополитичке теме указује на могућу намеру врбовања у непријатељске сврхе.

На основу начина на који су ови налози користили ChatGPT, није било доказа да су успели да наведу мете да одговоре на њихове позиве. Нисмо могли независно да утврдимо да ли су позиви путем е-поште заиста послати нити да ли је ико од циљаних прималаца одговорио.

Више демократских влада (нпр. САД⁠(отвара се у новом прозору), Уједињено Краљевство⁠(отвара се у новом прозору), Аустралија⁠(отвара се у новом прозору)) упозорило је да стране обавештајне службе покушавају да врбују садашње и бивше државне службенике тако што се на друштвеним и професионалним мрежама представљају као консултантске фирме и други субјекти. Обичне поруке о запошљавању може бити тешко разликовати од ових циљаних приступа заснованих на социјалном инжењерингу јер имају неке сличне одлике. Међутим, легитимне понуде су обично прилагођене споријим поступцима провере и садрже проверљиве информације о називу радног места, веродостојне податке о послодавцу, разумне распоне накнаде на тржишту и линкове ка стварним огласима за посао. Укратко, ако звучи сувише добро да би било истинито, вероватно и није истинито.