Спречување операции со лажни паравани потпомогнати од ВИ

Во изминатите две и пол години, известувавме за многу од различните начини на кои злонамерните актери се обидувале да ги користат нашите модели за сајбернапади, прикриени операции за влијание, измами и други прекршувања на нашите Правила за користење. Ги објавуваме овие извештаи за да ги информираме регулаторите, колегите од индустријата и пошироката јавност за обидите на злонамерните актери да ја искористат ВИ што ги забележуваме, како и да ги осветлиме слабостите што се обидуваат да ги злоупотребат.

Неодамна забранивме две операции за влијание — една од Русија и една од Иран — кои ги користеа нашите модели заедно со потрадиционални техники и технологии за да поддржат софистицирани организации и идентитети што служат како лажни паравани. Преку нив пласирале геополитички пораки поврзани со конфликти до целната публика, прикривајќи го вистинскиот извор. Иранската операција користела седум лажни „новинарски“ идентитети за да нуди долги написи на мали и средни онлајн-медиуми низ светот; руската операција, пак, се чини дека ангажирала луѓе во Латинска Америка, без нивно знаење за вистинската цел, да водат „аналитички центар“ на терен.

Двете операции дејствувале на повеќе нивоа и испробувале различни тактики за да ги постигнат своите цели. Покрај долгите написи, иранската операција генерирала серии коментари за социјалните мрежи, главно на теми поврзани со војната меѓу САД и Иран. Покрај контролирањето на „аналитичкиот центар“, руската операција создавала лажни „протечени“ документи и текстови за аудиоснимки, од кои некои ги најдовме како се шират онлајн. Двете операции обемно ја користеле ВИ и за подготовка на интерни извештаи (за руската операција ова било најчестата употреба). Во двата случаи, актерите користеле сомнителни или отворено измамливи методологии за да ја преувеличат ефективноста на операторите.

Највпечатливо е што овие операции многу наликувале на сложените операции за влијание од времето пред ВИ, но ја користеле ВИ за да си олеснат дел од работните процеси. Лажните новинарски идентитети на иранската операција наликувале на лажната новинарка „Алис⁠(се отвора во нов прозорец) Донован⁠(се отвора во нов прозорец)“, параван за руското воено разузнавање, чии написи ги објавувале различни западни медиуми во 2016–2017 година. Во 2020 година, лица поврзани со претходни активности на руската Агенција за истражување на интернет воделе лажен „информативен“ медиум наречен „PeaceData⁠(се отвора во нов прозорец)“, кој ангажирал новинари низ светот да пишуваат за него без да ја знаат неговата вистинска природа.

Овие операции биле невообичаени и по својот потенцијален досег. Според Скалата на пробив⁠(се отвора во нов прозорец), која ги оценува операциите за влијание од 1 (најниско) до 6 (највисоко), операцијата со руско потекло би ја сместиле во Категорија 5. Ова е првата операција од Категорија 5 што сме ја спречиле откако почнавме да известуваме. Операцијата со иранско потекло достигна Категорија 4. Двете успеале да ја пласираат својата содржина (која не била целосно генерирана со нашите модели) во етаблирани медиуми, наместо само да ја објавуваат на социјалните мрежи. Ова се совпаѓа со образецот што го забележавме кај 30-те прикриени операции за влијание што ги разоткривме во последните две и пол години: операциите што се обидуваат да ја пласираат содржината во вистински медиуми, наместо да се потпираат на лажно ширење преку социјалните мрежи, обично имаат најголем потенцијален досег и влијание.

Матрица на 30-те операции за влијание што ги разоткривме од почетокот на 2024 година, оценети според главниот начин на ширење (социјални мрежи, веб-страница на операцијата, надворешни медиуми) и оценката на Скалата на пробив. Операциите што користеле повеќе начини, на пример водење веб-страница и нејзино промовирање на социјалните мрежи, се класифицирани според начинот што се чинеше дека е сржта на операцијата.

ВИ може да им овозможи на ваквите операции со лажни паравани поголем обем, ефикасност, јазична течност и уредувачки способности. Операторите можат да ги користат овие предности за да искористат жртви што не се сомневаат, како вработени или уредници, и да ја пласираат својата содржина пред публика што не знае кој стои зад неа или какви му се мотивите. Овие операции ја покажуваат и сложеноста и софистицираноста со која злонамерните актери користат лажни идентитети и организации за да ги постигнат своите цели. За организациите да одржат силна одбрана, ќе биде клучно да ги разберат слабостите што злонамерните актери ги искористуваат и како преку нив можат да стекнат публика и досег.

Но прикриената природа на овие операции со лажни паравани ги прави и особено ранливи на одговорно јавно разоткривање. И „Алис Донован“ и „PeaceData“ престанаа со работа откако беа разоткриени. Затоа, со известувањето за овие операции со лажни паравани сакаме да ги олесниме понатамошното истражување и спречувањето — а да го отежнеме продолжувањето на операциите.

Актери од Русија што спроведуваат кампањи за влијание низ Латинска Америка.

Забранивме група сметки на ChatGPT со потекло од Русија. Тие го користеле ChatGPT за различни задачи поврзани со прикриени операции за влијание насочени кон земји низ Латинска Америка. Голем дел од активностите се чинеа насочени кон нарушување на угледот на Украина во регионот, а дел кон влијание врз локалните политички исходи, особено во Аргентина и Боливија. Повеќето оператори внесувале барања на руски; еден ги внесувал на шпански, но сепак се чинеше дека се наоѓа во Русија. Споделивме информации за овој случај со надлежните органи.

Операторите го користеле ChatGPT за три главни задачи: пишување интерни извештаи за своите активности (и туѓи активности за кои би можеле уверливо да преземат заслуга), создавање содржина за операциите и подготовка на извештаи за работата на самопрогласена „истражувачка платформа“ во Латинска Америка наречена Центар за социјални истражувања (SRC). Се чини дека го контролирале SRC преку лажен идентитет наречен „Миа Кларк“; по тоа име ја нарековме операцијата „Мрачниот Кларк“. Бидејќи не дозволуваме пристап до нашите модели од Русија, тие користеле VPN за да се поврзат со нашите услуги.

Во интерните извештаи операторите тврделе дека ширеле лажни приказни низ Латинска Америка за да ги дискредитираат Украина или локалните лидери. Некои од овие лажни содржини истражувачи на отворени извори⁠(се отвора во нов прозорец) ги припишале⁠(се отвора во нов прозорец) на руска организација позната како „Политологија“ или „Ла Компанија“, за која се наведува дека е наследник на групата Вагнер и други организации основани од рускиот олигарх Евгениј Пригожин. Операторите барале од нашите модели и да преведуваат или објаснуваат јавно објавени извештаи за Политологија и Вагнер, многу почесто отколку за која било друга мрежа со руско потекло.

Оваа операција беше невообичаена по две нешта. Прво, се чини дека успешно ангажирала лица во Латинска Америка да работат за SRC без да ја знаат неговата вистинска природа. Извештаите на руските оператори за SRC спомнувале одлуки за платни скали, вработување и отпуштање, што укажува дека ја контролирале организацијата, наместо да соработуваат со неа. Достапните докази укажуваат дека вработените во SRC во Латинска Америка не знаеле дека работат за руска група. За разлика од друг „аналитички центар“ поврзан со Русија што неодамна го разоткривме, се чини дека SRC создавал претежно оригинална содржина преку несвесно ангажираниот персонал. Ова се издвојува како најсложениот обид за дејствување под прикриен идентитет што сме го спречиле во изминатите две и пол години.

Второ, некои докази од отворени извори укажуваат дека лажните содржини на „Мрачниот Кларк“ се прошириле доволно за да предизвикаат проверки на факти⁠(се отвора во нов прозорец) и официјални деманти⁠(се отвора во нов прозорец). Тоа укажува на степен на продор поголем од оној на која било операција за влијание што сме ја спречиле во изминатите две години. Една лажна содржина што операцијата тврдела дека ја подметнала во Перу дури ги поттикнала јавните тензии меѓу Украина и Полска.

Операторите главно го користеле ChatGPT за подготовка и ажурирање интерни извештаи до непознат претпоставен. Овие редовни извештаи ги опишувале напорите за спроведување прикриени кампањи за влијание низ Латинска Америка. Тие опфаќале три главни насоки: оцрнување на Украина и попречување на регрутирањето за украинските вооружени сили; мешање во внатрешната политика на одредени земји, особено Боливија и Аргентина; и управување со SRC. Во повеќето случаи не забележавме дека злонамерните актери ги користат нашите модели за создавање содржина за кампањите, туку само за известување за нив (малкуте исклучоци се опишани подолу⁠).

Извештаите изобилувале со тактички детали, откривајќи како операцијата се обидувала да ги поткопа Украина и одделни национални лидери, особено претседателите на Аргентина, Боливија и Еквадор. Некои опишувале обиди да се измамат локални жители да извршат активности што операторите потоа би можеле да ги злоупотребат; други опишувале лажни „протечени информации“ што операторите тврделе дека ги рашириле.

Во два случаи, доказите ги поврзуваат операторите со јавното известување за „Политологија“. Операторите навеле дека во 2024 година спровеле две кампањи насочени против аргентинскиот претседател Хавиер Милеи. Прво, навеле дека рашириле лажна вест дека Милеи им купил на своите кучиња огрлици од Cartier украсени со скапоцени камења. Второ, тврделе дека платиле локални лица да испишуваат графити против Милеи во Буенос Аирес. Врз основа на протечени документи, двете дејства се јавно⁠(се отвора во нов прозорец) припишани⁠(се отвора во нов прозорец) на „Политологија“ и „Ла Компанија“.

Многу други лажни содржини претходно не биле поврзани со руски операции за влијание. На пример, операторите тврделе дека во мај 2026 година создале лажна адреса за е-пошта што наводно ѝ припаѓала на Регионалната дирекција за образование во Лима, Перу. Преку неа им наложиле на училиштата во областа да организираат настани посветени на Украина на националниот Ден на културната и јазичната разновидност (21 мај). Пораките содржеле изречни упатства да се спомне, меѓу другите, контроверзниот украински националист од дваесеттиот век Степан Бандера. Некои Украинци го сметаат за борец за независност, но во Русија и Полска го поврзуваат со фашизмот, воената колаборација и злосторствата. Според операторите, некои училишта одговориле на лажната адреса за е-пошта, потврдувајќи дека одржале такви настани, па дури и испратиле фотографии.

Операторите потоа тврделе дека подметнале написи за настаните во медиумите во Перу и Полска, заедно со обвинувања дека Украина „извезува“ ултранационалистички идеологии, што предизвикало огорченост. Со пребарување на отворени извори најдовме написи што се совпаѓаа со ова тврдење во перуанскиот⁠(се отвора во нов прозорец) и⁠(се отвора во нов прозорец) полскиот⁠(се отвора во нов прозорец) печат⁠(се отвора во нов прозорец), како и во медиум на англиски јазик во Унгарија⁠(се отвора во нов прозорец) (некои од написите оттогаш се избришани). Некои⁠(се отвора во нов прозорец) написи⁠(се отвора во нов прозорец) содржеа реакција од полски европратеник, кој предложил луѓето што покажуваат „антиполски ставови“ да се прогласат за непожелни лица во Полска. Така, руската измама и ги искористила и ги поттикнала историските тензии меѓу Украинците и Полјаците.

Слично, во јуни операторите тврделе дека со друга лажна адреса за е-пошта измамиле училишта во Еквадор да одржат церемонија со заклетва на верност кон претседателот Даниел Нобоа и Ерик Принс, поранешен раководител на приватната воена компанија Blackwater. Операторите тврделе дека инцидентот предизвикал огорченост во Еквадор и ја притиснал владата да ја демантира измамата, со што таа стигнала до публика низ целата земја. Повторно, истражувањето на отворени извори откри медиумско⁠(се отвора во нов прозорец) известување⁠(се отвора во нов прозорец) во еквадорскиот⁠(се отвора во нов прозорец) печат⁠(се отвора во нов прозорец) што во голема мера се совпаѓаше со ова тврдење, па дури и детален демант⁠(се отвора во нов прозорец) од министерката за образование на Еквадор.

Операторите користеле различни техники за да ги поткрепат своите лажни приказни. Според нивните интерни извештаи, во март ширеле две различни лажни содржини насочени кон Еквадор. Во едната се користела лажна аудиоснимка припишана на украинскиот конзул во Еквадор, во која тој наводно изнесувал погрдни коментари за Еквадорците. Нашето истражување на отворени извори откри објава на TikTok што точно се совпаѓаше со ова тврдење; се чини дека предизвикала само мал број интеракции. Во другата се опишуваше лажно видео ширено на X и TikTok со логото на вистински информативен канал, во кое се тврдеше дека владата на Нобоа регрутира млади мажи да се борат во Украина. Проверувачи на факти⁠(се отвора во нов прозорец) во Еквадор на почетокот на април опишаа кампања што се совпаѓаше со овој опис.

Видео на TikTok објавено на 8 април 2026 година, со лажна аудиоснимка припишана на украинскиот конзул, за која оваа операција презела заслуга.

Друг интерен извештај опишуваше лажна содржина што ја ширеле во Боливија кон крајот на мај, во екот на антивладините протести. Операторите изречно навеле дека целта на кампањата била да ја продлабочат кризата околу протестите. Кампањата вклучувала лажна аудиоснимка на работник во државното водоводно претпријатие EPSAS, кој вели дека владата ќе го прекине снабдувањето со вода во административниот главен град Ла Паз и ќе прогласи вонредна состојба. Нашето истражување на отворени извори откри разобличување⁠(се отвора во нов прозорец) на истото тврдење и официјален демант⁠(се отвора во нов прозорец) од EPSAS.

Други интерни извештаи содржеа лажни содржини што не можевме да ги потврдиме преку отворени извори, можеби затоа што веќе биле отстранети или не се прошириле. На пример, операторите тврделе дека во јануари рашириле приказна според која бразилска инфлуенсерка и манекенка била жртва на трговија со луѓе: претставници на украинската амбасада ја однеле во Украина, а потоа била убиена во Киев. Во јуни тврделе дека во Боливија рашириле уште една лажна аудиоснимка, овојпат на наводен вработен во Централната банка на Боливија, кој предупредувал дека банката наскоро ќе го ограничи подигнувањето готовина. Исто така, тврделе дека рашириле фалсификувано писмо од агенцијата за јаглеводороди на земјата, со предупредување за ограничувања на продажбата на гориво за приватни автомобили.

Во други извештаи, операторите барале од нашите модели да им помогнат да најдат настани во целните земји за кои би можеле да преземат заслуга, дури и ако не биле вклучени во нив. На пример, за Аргентина операторите тврделе дека аргентинскиот министер за надворешни работи ја цитирал нивната операција на состанок на комитет на Обединетите нации за Фолкландските / Малвинските Острови. Операторите си припишале заслуга за пласирањето на аргументите дека начелото на самоопределување не важи за островите и дека Обединетото Кралство таму одржува несразмерно големо воено присуство. Всушност, двата аргумента се дел од официјалниот став на Аргентина веќе многу⁠(се отвора во нов прозорец) години⁠(се отвора во нов прозорец). Слично, во јуни бразилските медиуми известија⁠(се отвора во нов прозорец) за бразилски државјанин што заминал во Украина за да се приклучи на војската, бил заробен од руските сили, а потоа во телевизиска изјава тврдел дека бил измамен да се бори. Операторите што користеле ChatGPT се обиделе да тврдат дека овој напис ги пренесува пораките на нивната операција; всушност, тој го цитирал видеото на самиот заробеник⁠(се отвора во нов прозорец). Ова укажува на обид на операторите да спроведат операција за влијание врз сопствените работодавци, наместо врз надворешна публика.

Некои извештаи на операторите спомнуваа самопрогласена „истражувачка платформа“ наречена Центар за социјални истражувања (на руски, Центр социологических исследований). Според веб-страницата на SRC, центарот се занимава со индиската дијаспора во Латинска Америка и со односите меѓу Индија и земјите од регионот.

Интерните извештаи укажуваа дека операторите го контролирале аналитичкиот центар, а не само дека соработувале со него. Во нив се спомнуваа, на пример, одлуки за вработување и отпуштање, платни скали, кадровски планови и тековни истражувачки проекти. Особено важно е што во нив се наведуваше и дека операторите создале лажен идентитет, „Миа Кларк“, за да ги води активностите на операцијата на социјалните мрежи и да комуницира со персоналот на терен во Латинска Америка. Достапните докази укажуваат дека овие вработени на терен не знаеле дека работат за руска операција и ги извршувале истражувачките задачи со чесни намери. Ваквото користење несвесни посредници многу наликува на претходната руска операција „PeaceData“, исто така поврзана со круговите на Пригожин, која Meta ја разоткри⁠(се отвора во нов прозорец) во 2020 година.

Судејќи според извештаите на руските оператори, нивниот персонал на терен во Латинска Америка интервјуирал експерти и коментатори низ регионот, а потоа подготвувал истражувачки трудови врз основа на наодите. Темите се движеле од широка анализа на јавното мислење за групата БРИКС до детална споредба на бразилската економија за време на претседателите Жаир Болсонаро и Луис Инасио Лула да Силва. Понекогаш руските оператори подготвувале извештаи за напредокот на истражувачките проекти пред нивното објавување, што укажува на непосредна вклученост во процесот на изработка. На веб-страницата на SRC најдовме значително повеќе од 60 написи, од кои огромното мнозинство изгледаа како оригинални текстови. Ова ја издвојува операцијата „Мрачниот Кларк“ од операцијата со руско потекло што неодамна ја разоткривме, која исто така користеше аналитички центар како параван, но плагираше поголем дел од содржината. Тоа укажува на намера да се изгради потрајна организација-параван, со контакти низ цела Латинска Америка.

За да ја промовираат работата на SRC, руските оператори тврделе дека се обиделе да создадат мрежа од сметки и страници на социјалните мрежи. Според нивните извештаи, овие активности наишле на проблеми кога оператори од различни делови на светот се обиделе да пристапат до истите сметки, што довело до ограничувања на сметките. Траги од ова се гледаат во отворените извори: на пример, податоците за транспарентност на главната сметка на SRC на X покажувале локација во Германија (можеби поради користење VPN), но поврзување преку App Store за Руската Федерација. Кај една од сметките на Instagram, пак, била наведена администраторска локација во Венецуела. Ниту една од трите сметки на Facebook со ознаките на SRC што ги најдовме немаше доволно следбеници за да се прикажува локацијата на администраторите.

Лево, сметка на X поврзана со Центарот за социјални истражувања. Забележете го податокот за транспарентност што покажува поврзување преку продавницата за апликации за Руската Федерација. Десно, сметка на SRC на Instagram: забележете ја локацијата во Венецуела.

Операторите пријавиле особени проблеми на LinkedIn, каде што, според нив, создале намерно лажна сметка за претставување на SRC, но потоа имале тешкотии да изградат мрежа од контакти за неа. Според нивните извештаи, решението било да создадат уште лажни сметки што ќе ја следат првата за таа да изгледа поуверливо. На 17 август, сметка на LinkedIn со истите ознаки на Центарот за социјални истражувања имаше 961 следбеник и тврдеше дека има 200–500 вработени, но наведуваше само двајца.

Повремено, покрај ажурирањето извештаи со ВИ, операторите барале од нашиот модел да помогне во осмислување и создавање текстови за нивните операции. На пример, барале помош за лажните содржини да имаат соодветен акцент, речник и институционален стил за различните земји. Ова било релативно мал дел од вкупната работа, можеби затоа што операцијата, според достапните показатели, вклучувала барем едно лице од Латинска Америка со шпански како мајчин јазик, па имала помала потреба од јазична поддршка со ВИ.

На пример, во една прилика, оператор што зборувал руски побарал од моделот помош за составување писмо на руски што би го вмешало почесниот конзул на Украина во Панама во корупција. Потоа операторот што зборувал шпански побарал од моделот да го преведе писмото на шпански и да генерира текст за придружна аудиоснимка. Фотографија што се совпаѓала со текстот на писмото, со нарација што се совпаѓала со текстот на операторот, била објавена на TikTok од сметка што се претставувала како информативен медиум, но го користела логото на панамскиот TVN Noticias⁠(се отвора во нов прозорец). Каналот на TikTok имал само еден следбеник и престанал да објавува откако ја пласирал оваа лажна содржина.

Објава на TikTok што го прикажува писмото чиј текст го генерирала оваа операција, со текст за нарација што исто така го генерирала операцијата.

Во друга прилика, операторот во Русија што зборувал шпански му дал на моделот текст на руски во кој се тврдело дека Нобоа ги навредил сиромашните во Еквадор и побарал да го преведе на еквадорски шпански. Во трета прилика, во март, истиот корисник побарал од моделот да лекторира нацрт-договор на шпански меѓу компанија наречена „International Security Solutions FZE“ и лице во Еквадор, наводно за обезбедување инфраструктурни услуги во Украина. Прашањата на корисникот биле насочени кон подобрување на јазикот и изгледот, вклучувајќи и кои зборови треба да бидат задебелени.

Барањата на корисникот за договорот завршиле откако текстот бил финализиран. Сепак, истражувањето на отворени извори покажува дека слика од „договорот“ подоцна била ширена на социјалните мрежи⁠(се отвора во нов прозорец). Таа била користена за да го поткрепи тврдењето дека владата на Нобоа соработувала со компанија-параван за со измама да регрутира Еквадорци во украинската војска. Лажната содржина се проширила доволно за да предизвика проверка на факти⁠(се отвора во нов прозорец) на почетокот на април. Проверувачите заклучиле дека компанијата „не фигурира во регистарот на еквадорскиот Надзорен орган за компании, хартии од вредност и осигурување“.

Влијанието на оваа операција бара особено внимателна проценка. Како што е наведено погоре, еден од главните пристапи на операторите бил да преземаат заслуга за активности што немале никаква врска со нивната операција. Затоа, нивните тврдења за влијанието во интерните извештаи не можат да се прифатат без проверка. Исто така, некои лажни приказни што тврделе дека ги подметнале не се појавија во истражувањето на отворени извори, можеби затоа што биле ширени преку нејавни канали, веќе биле отстранети или воопшто не биле објавени.

Сепак, доказите од отворени извори ни овозможија да потврдиме дел од нивните тврдења. За некои лажни содржини што операцијата тврдела дека ги раширила подоцна известувале проверувачи на факти, а владите ги демантирале, што укажува дека се прошириле доволно за да заслужат реакција. Во други случаи успеавме да најдеме онлајн-содржина што во голема мера се совпаѓаше со содржината генерирана од оваа операција. Особено значајно е што за тврдењето на операцијата дека измамила перуанско училиште да одржи настан на кој бил прикажан Бандера подоцна известувале медиуми и во Латинска Америка и во Европа. Се чини дека тоа предизвикало коментар од барем еден полски европратеник.

Според Скалата на пробив⁠(се отвора во нов прозорец), која ги оценува операциите за влијание од 1 (најниско) до 6 (највисоко), оваа операција би ја сместиле во Категорија 5, со докази што укажуваат дека довела до јавни коментари од политичари во повеќе земји. Ова е првата операција од Категорија 5 што сме ја спречиле откако почнавме да известуваме.

Операција со иранско потекло што пласира долги написи под лажни авторски имиња во онлајн информативни медиуми.

Забранивме група сметки на ChatGPT со потекло од Иран. Тие внесувале барања на персиски и генерирале содржина на персиски и англиски. Актерите ја прикривале својата локација со користење VPN за пристап до ChatGPT.

Операцијата ги користела нашите модели за доработка на долги написи и понуди до уредници, генерирање коментари за социјалните мрежи и доработка на интерни извештаи. Операторите користеле седум различни авторски имиња за да ги нудат своите написи, па ја нарековме кампањата „Лажни авторски потписи“. Долгите написи биле насочени кон конфликтот меѓу САД и Иран. Повеќето коментари исто така се однесувале на конфликтот; помал дел биле за американската политика, обично во поширокиот контекст на конфликтот.

Забележливото влијание на нивните главни активности значително се разликуваше. Најдовме речиси 100 написи објавени или преземени под авторските имиња на операцијата во приближно дванаесет онлајн-медиуми низ светот. Тоа беа мали до средни медиуми, главно насочени кон меѓународни прашања, геополитика и настани на Блискиот Исток. Наспроти тоа, се чини дека ниту еден коментар на социјалните мрежи не предизвикал значителен број допаѓања, споделувања или дополнителни одговори. Всушност, во интерните извештаи операторите користеле измамлива пресметка за мерење на влијанието на социјалните мрежи, можеби за да ја прикажат својата ефективност како поголема од реалната.

Целокупната активност наликуваше на работа на комерцијален субјект што спроведува платена кампања за влијание, но не можеме да утврдиме за кој конкретен субјект станува збор. Споделивме информации за овој случај со надлежните органи.

Активноста со најголем досег во оваа операција била барањето од ChatGPT да прегледува и доработува долги написи на англиски за геополитиката на конфликтот меѓу САД и Иран. Во типичните барања, од моделот се барало да оцени нацрт на англиски според критериумите за објавување во одреден онлајн-медиум и да предложи измени за текстот да ги исполни. Откако операторите ќе ги одобреле измените, барале од моделот да состави е-порака со која би му го понудиле написот на уредникот на соодветниот онлајн-медиум.

Овие понуди биле составувани под седум различни лажни авторски имиња: Ервин Б. Хоскинс, Ноа Ламингтон, Софија Гонзалез, Мајкл Харисон, Ерика Фјузиер, Џени Вилијамс и Алис Џонсон. Според биографиите објавени онлајн покрај некои од написите, секој лажен идентитет се претставувал како западен новинар, најчесто од САД, иако во биографијата на Ноа Ламингтон бил наведен Нов Зеланд. Често се наведувала специјализација за меѓународна политика, Блискиот Исток, човекови права или конфликти. За еден од лажните идентитети, „Мајкл Харисон“, операторите побарале од моделот да ја напише и самата биографија. (Вреди да се напомене дека во март Meta спречи⁠(се отвора во нов прозорец) иранска операција за влијание во која исто така се користел лажен новинарски идентитет „Мајкл Харисон“.)

Некои од овие лажни идентитети биле поткрепени со сметки на повеќе социјални платформи. На пример, идентитетот Мајкл Харисон бил поткрепен со сметки на Medium, X и Facebook. Идентитетот Ервин Б. Хоскинс имал сметки на X, Facebook, Instagram и Threads. Во неговата биографија пишувало дека е „американски хонорарен автор“, но податоците за транспарентност на социјалните мрежи ги лоцирале сметките во Иран.

Горе, биографијата на Instagram за лажниот идентитет Ервин Хоскинс. Долу лево, податоците за транспарентност на сметката на X, кои покажуваат користење на апликацијата за Android за Западна Азија. Долу десно, податоците за транспарентност на сметката на Instagram, со локација во Иран. Meta ја забрани сметката на Instagram во август.

Со техники за истражување на отворени извори најдовме речиси 100 написи објавени под едно или друго авторско име на операторите, во повеќе од дванаесет различни медиуми. Овие медиуми главно се занимаваа со меѓународни прашања, геополитика и настани на Блискиот Исток, понекогаш од антивоена или прогресивна перспектива. Најраниот напис што го најдовме беше објавен во јули 2025 година, а најновиот во октомври 2026 година. Зачестеноста на написите значително се зголемила по избувнувањето на конфликтот меѓу САД и Иран.

Временски приказ на написите по автор и тема, јули 2025 — септември 2026 година. Забележете ја густината на објавите за односите меѓу САД и Иран од март 2026 година наваму.

Примери за наслови на написи објавени под авторски имиња поврзани со оваа операција, меѓу февруари и јули 2026 година, во различни онлајн-медиуми.

Барем некои од написите потоа биле промовирани преку сметките на социјалните мрежи на тие медиуми, што им дало на иранските оператори можност да допрат до публика до која инаку не би стигнале.

Покрај написите, злонамерните актери барале од ChatGPT да генерира серии коментари за геополитички или политички теми на англиски или персиски. Нивниот вообичаен пристап бил да внесат текст или слика од екранот со објава на социјалните мрежи и да побараат од моделот низа одговори усогласени со нивната општа насока. Потоа ги објавувале онлајн, често со само неколку минути растојание меѓу нив. Во интерните извештаи на операторите се спомнувало и рачно и автоматизирано објавување; немаме докази дека автоматизацијата била извршена со помош на нашите модели.

Твитови на англиски, лево, и на персиски, десно, генерирани од оваа операција и објавени во јули. Коментарите на англиски одговарале на твит на англиски што предупредувал дека САД подготвуваат „напад од големи размери“ врз Иран. Сите коментари на оваа слика биле објавени во распон од 10 минути. Коментарите на персиски одговарале на твит на персиски за американските напади врз Иран и биле објавени во рок од 13 минути.

Дел од ова масовно коментирање се состоело од генерирање одговори на објави на социјалните мрежи за сопствените новинарски написи на операцијата. Операторите внесувале слики од екранот со објави што ги промовирале нивните написи, а потоа генерирале коментари што ги фалат или поддржуваат, веројатно за написите да изгледаат попопуларни.

Објава на локална американска информативна страница на Facebook што споделува напис генериран од операцијата, како и коментари на таа објава, исто така генерирани од операцијата.

Повеќето серии коментари пошироко се однесувале на конфликтот меѓу Иран, САД и Израел. Корисниците барале коментари за теми како ракетни напади, прекини на огнот и дипломатски маневри, со насоки САД да бидат прикажани како агресор, Израел како несигурен сојузник на САД, а Иран како пркосна, но издржлива жртва. Операторите генерирале особено голем број одговори на објави од сателитската мрежа Iran International со седиште во Обединетото Кралство, која го критикува иранскиот режим — повеќе од 24 серии непријателски одговори на персиски. Помал дел од сериите содржеле одговори на објави за американски политички прашања, обично исто така во поширокиот контекст на конфликтот.

Коментари на Instagram генерирани од оваа операција како одговор на објави за американската политика.

Најдовме мал број од овие одговори објавени онлајн; многу повеќе не се појавија во нашите пребарувања на отворени извори, можеби затоа што не биле објавени или биле објавени од сметки што веќе биле отстранети. (На пример, три од лажните новинарски идентитети — Ерика Фјузиер, Алис Џонсон и Џени Вилијамс — во објавените биографии навеле кориснички имиња на X: до август 2026 година сите биле суспендирани.) Некои сметки што објавувале коментари имале имиња што звучат западно, но како локација им бил наведен Иран.

Податоци за транспарентност на сметките на Instagram што ги објавиле коментарите прикажани погоре, кои покажуваат дека се наоѓале во Иран.

Онаму каде што ги најдовме овие одговори, тие обично сочинуваа мал дел од вкупните коментари на објавата, што укажува дека операторите немале доминантен глас меѓу автентичните реакции. Ниту, пак, се чинеше дека привлекле значителен број интеракции: многу од допаѓањата на одговорите на операцијата доаѓале од сметки што и самите биле поврзани со неа. Споделивме информации за случајот со партнери од индустријата, кои се во најдобра позиција да дадат сеопфатни проценки за интеракциите.

Обидот да ја прикажат својата активност како попопуларна не бил ограничен само на јавните објави. Покрај генерирањето содржина, операторите повремено барале од ChatGPT да доработи документи што изгледале како интерни извештаи за нивната кампања на социјалните мрежи. Обично му доставувале на моделот низа статистички податоци и барале да ги претвори во професионално подготвени презентации.

Ова не е првата операција што сме ја спречиле, а која користела ВИ за да напише сопствена⁠(се отвора во нов прозорец) самооценка⁠(се отвора во нов прозорец). Највпечатливото во обидите на иранските оператори сами да си ја оценат работата бил методот што го користеле. Главната мерка за „влијание“ им бил бројот на прегледи на објавите на кои одговарале (не бројот на прегледи на самите одговори), измерен пред објавувањето на одговорите и по неодреден временски период потоа. Во пресметката не се земале предвид прегледите што можеле да бидат резултат на други фактори, како популарноста на оригиналните објави или другите коментари. Така, бројките за влијанието на операцијата биле значително преувеличени, што укажува дека операторите или не знаеле за подобар начин на пресметување или одлучиле да не го користат.

Всушност, доказите што можат да се соберат од отворени извори укажуваат дека двете главни насоки на операцијата веројатно имале многу различен степен на влијание.

Одговорите на социјалните мрежи што успеавме да ги најдеме главно имале мал број допаѓања, прегледи и коментари — едноцифрен или двоцифрен. Како што е наведено погоре, одговорите обично сочинувале мал дел од вкупните коментари на соодветната објава. Според Скалата на пробив⁠(се отвора во нов прозорец), која ги оценува операциите за влијание од 1 (најниско) до 6 (највисоко), овој дел од операцијата би го сместиле во Категорија 2: коментари на повеќе платформи, но со малку знаци за поширок пробив или способност да доминираат меѓу одговорите.

Наспроти тоа, лажните новинарски идентитети успеале да ги објават своите написи во различни медиуми, некои со значителен број следбеници. На пример, во август 2026 година еден од онлајн-медиумите што објавувал написи од операцијата имал речиси 2 милиони следбеници на Facebook, речиси 355.000 на X и над 544.000 на Instagram. Овој дел од операцијата би го сместиле во Категорија 4, врз основа на постојаниот пробив во повеќе медиуми.