Пресичане на операции с фиктивно прикритие, подпомагани от ИИ

През последните две години и половина публикувахме доклади за много от различните начини, по които злонамерени участници са опитвали да използват нашите модели за кибератаки, тайни операции за влияние, измами и други нарушения на нашите Правила за използване. Публикуваме тези доклади, за да информираме регулаторите, колегите в сектора и обществото за наблюдаваните от нас опити за злонамерено използване на ИИ и да осветлим уязвимостите, от които участниците се опитват да се възползват.

Наскоро блокирахме две операции за влияние — една от Русия и една от Иран — които използваха нашите модели в съчетание с по-традиционни техники и технологии, за да поддържат сложно изградени фиктивни структури за прикритие. Чрез тези структури те прикриваха произхода на геополитически послания, свързани с конфликти, и ги прокарваха сред целевите си аудитории. Иранската операция използваше седем измислени „журналисти“, от чието име предлагаше обширни статии на малки и средни онлайн издания по света. Руската операция изглежда е привлякла нищо неподозиращи хора в Латинска Америка, които да управляват местен „аналитичен център“.

И двете операции действаха в няколко направления, изпробвайки различни тактики за постигане на целите си. Освен обширни статии иранската операция генерираше серии от коментари за социалните мрежи, обикновено по теми, свързани с войната между САЩ и Иран. Освен че контролираше „аналитичния център“, руската операция създаваше фалшиви „изтекли“ документи и сценарии за аудиозаписи, някои от които открихме да се разпространяват онлайн. И двете операции използваха активно ИИ за изготвяне на вътрешни отчети (това беше основната му употреба в руската операция). И в двата случая участниците прилагаха съмнителни или откровено измамни методи, за да преувеличат ефективността си.

Най-поразителното е, че тези операции силно наподобяват сложните операции за влияние от епохата преди ИИ, но го използват, за да улеснят някои работни процеси. Измислените журналисти на иранската операция напомняха за фалшивата журналистка „Алис⁠(отваря се в нов прозорец) Донован⁠(отваря се в нов прозорец)“ — прикритие за руското военно разузнаване, чиито статии бяха публикувани от редица западни издания през 2016–2017 г. През 2020 г. лица, свързани с предишна дейност на руската Агенция за интернет изследвания, управляваха фалшиво „новинарско“ издание, наречено „PeaceData⁠(отваря се в нов прозорец)“, което привличаше нищо неподозиращи журналисти от цял свят да пишат за него.

Тези операции бяха необичайни и с потенциалния си обхват. По скалата за пробив⁠(отваря се в нов прозорец), която оценява операциите за влияние от 1 (най-ниско) до 6 (най-високо), бихме поставили операцията с руски произход в категория 5. Това е първата операция от категория 5, която пресичаме, откакто публикуваме тези доклади. Операцията с ирански произход достигна категория 4. И двете успяха да вкарат съдържанието си (не цялото генерирано от нашите модели) в утвърдени медии, вместо просто да го публикуват в социалните мрежи. Това съответства на тенденция, наблюдавана сред 30-те тайни операции за влияние, които разкрихме през последните две години и половина: онези, които се стремят към публикуване в реални медии, вместо да разчитат на фалшиви акаунти в социалните мрежи, обикновено имат най-голям потенциален обхват и въздействие.

Матрица на 30-те операции за влияние, разкрити от нас от началото на 2024 г., по основен метод на разпространение (социални мрежи, сайт на операцията, външни издания) и оценка по скалата за пробив. Операциите с повече от един метод — например собствен сайт, популяризиран в социалните мрежи — са класифицирани според метода, който изглежда е бил основен за дейността им.

ИИ може да даде на подобни операции с фиктивно прикритие по-голям мащаб, ефективност, езикова компетентност и редакционни възможности. Организаторите могат да използват тези предимства, за да се възползват от нищо неподозиращи жертви, например служители или редактори, и да прокарват съдържанието си пред аудитории, които не знаят кой стои зад него и с какви мотиви. Тези операции показват и колко сложно и умело злонамерените участници използват фалшиви самоличности и структури, за да постигат целите си. За надеждната защита на организациите ще бъде ключово да разбираме уязвимостите, от които тези участници се възползват, и как чрез тях достигат до по-голяма аудитория.

Но тайният характер на тези операции с фиктивно прикритие ги прави и особено уязвими към отговорно публично разкриване. И „Алис Донован“, и „PeaceData“ прекратиха дейността си, след като бяха разкрити. Затова с докладите си за тези операции целим да улесним по-нататъшното им проучване и пресичане — и да затрудним продължаването им.

Участници от Русия, провеждащи кампании за влияние в Латинска Америка.

Блокирахме група акаунти в ChatGPT с произход от Русия. Те използваха ChatGPT за различни задачи, свързани с тайни операции за влияние, насочени към държави в Латинска Америка. Голяма част от тази дейност изглежда целеше да подкопае репутацията на Украйна в региона, но друга част — да повлияе на местните политически процеси, особено в Аржентина и Боливия. Повечето участници подаваха заявки на руски; един използваше испански, но въпреки това изглежда се намираше в Русия. Споделихме информация за този случай с компетентните органи.

Организаторите използваха ChatGPT за три основни задачи: писане на вътрешни отчети за дейностите си (и за чужди дейности, за които биха могли убедително да си припишат заслуги), създаване на съдържание за операциите си и изготвяне на отчети за работата на самоопределяща се като „изследователска платформа“ организация в Латинска Америка — Център за социологически изследвания (SRC). Изглежда са контролирали SRC чрез фалшива самоличност на име „Мия Кларк“; по това име нарекохме операцията „Мрачната Кларк“. Тъй като не разрешаваме достъп до моделите си от Русия, те използваха VPN връзки за достъп до услугите ни.

Във вътрешните си отчети организаторите твърдят, че са разпространявали измислени истории в Латинска Америка, за да дискредитират Украйна или местни лидери. Някои от тези фалшификации са приписани от изследователи на открити източници⁠(отваря се в нов прозорец) и разследващи журналисти⁠(отваря се в нов прозорец) на руска структура, известна като „Политология“ или „Ла Компания“. Според публикациите тя е наследник на групата „Вагнер“ и други структури, основани от руския олигарх Евгений Пригожин. Организаторите също искаха от моделите ни да превеждат или обясняват публични материали за „Политология“ и „Вагнер“ много по-често, отколкото за други мрежи с руски произход.

Тази операция беше необичайна в две отношения. Първо, изглежда е успяла да привлече хора в Латинска Америка да работят за SRC. Отчетите на руските организатори за SRC споменават решения за нивата на заплащане, назначенията и уволненията. Това подсказва, че те са контролирали организацията, а не са ѝ сътрудничили. Наличните данни сочат, че служителите на SRC в Латинска Америка не са знаели, че работят за руска група. За разлика от друг свързан с Русия „аналитичен център“, който разкрихме наскоро, SRC изглежда е създавал предимно оригинално съдържание чрез привлечените си служители. Това е най-сложният опит за поддържане на фиктивно прикритие, който сме пресекли през последните две години и половина.

Второ, някои данни от открити източници сочат, че фалшификациите на „Мрачната Кларк“ са се разпространили достатъчно широко, за да предизвикат проверки на факти⁠(отваря се в нов прозорец) и официални опровержения⁠(отваря се в нов прозорец). Това показва по-голямо проникване от всяка друга операция за влияние, пресечена от нас през последните две години. Една фалшификация, за която организаторите твърдят, че са прокарали в Перу, дори подхрани публично напрежение между Украйна и Полша.

Организаторите използваха ChatGPT главно за изготвяне и актуализиране на вътрешни отчети до неизвестен ръководител. Тези редовни отчети описваха усилия за провеждане на тайни кампании за влияние в Латинска Америка. Те обхващаха три основни направления: очерняне на Украйна и възпрепятстване на набирането на хора за украинските въоръжени сили; намеса във вътрешната политика на определени държави, особено Боливия и Аржентина; и управление на SRC. В повечето случаи не наблюдавахме използване на моделите ни за създаване на съдържание за кампаниите, а само за отчитането им (малкото изключения са описани по-долу⁠).

Отчетите съдържаха множество тактически подробности, разкриващи как операцията се е опитвала да дискредитира Украйна и някои национални лидери, особено президентите на Аржентина, Боливия и Еквадор. Някои описваха опити местни хора да бъдат подведени да извършат действия, които организаторите да използват за своите цели; други — фалшиви „изтичания на информация“, които те твърдят, че са разпространили.

В два случая данните свързват организаторите с публични материали за „Политология“. Те отчитат, че през 2024 г. са провели две кампании срещу аржентинския президент Хавиер Милей. Първо, заявяват, че са разпространили невярна новина, според която Милей е купил на кучетата си нашийници Cartier, украсени със скъпоценни камъни. Второ, твърдят, че са платили на местни участници да изрисуват графити срещу Милей в Буенос Айрес. Въз основа на изтекли документи и двете действия са публично⁠(отваря се в нов прозорец) приписани⁠(отваря се в нов прозорец) на „Политология“ и „Ла Компания“.

Много други фалшификации не са били свързвани досега с руски операции за влияние. Например организаторите твърдят, че през май 2026 г. са създали фалшив имейл адрес, представян за адрес на Регионалната дирекция по образованието в Лима, Перу. Използвали са го, за да наредят на училищата в района да проведат събития, посветени на Украйна, по случай националния Ден на културното и езиковото многообразие (21 май). Имейлите съдържали изрични указания да се спомене, наред с други личности, противоречивият украински националист от XX век Степан Бандера. Някои украинци го смятат за борец за независимост, но в Русия и Полша той се свързва с фашизъм, колаборационизъм по време на войната и жестокости. Според организаторите някои училища са отговорили на фалшивия имейл адрес, потвърждавайки, че са провели такива събития, и дори са предоставили снимки.

След това организаторите твърдят, че са прокарали материали за събитията в медии в Перу и Полша, придружени с обвинения, че Украйна „изнася“ ултранационалистически идеологии, което предизвикало възмущение. Търсения в открити източници откриха материали, съответстващи на това твърдение, в перуанската⁠(отваря се в нов прозорец) и⁠(отваря се в нов прозорец) полската⁠(отваря се в нов прозорец) преса⁠(отваря се в нов прозорец), както и в англоезично издание в Унгария⁠(отваря се в нов прозорец) (някои от статиите впоследствие са изтрити). Някои⁠(отваря се в нов прозорец) статии⁠(отваря се в нов прозорец) включваха реакция на полски евродепутат, който предлага хората, проявяващи „антиполски настроения“, да бъдат обявени за персона нон грата в Полша. Така руската фалшификация едновременно се възползва от историческото напрежение между украинци и поляци и го подхранва.

По подобен начин през юни организаторите твърдят, че са използвали друг фалшив имейл адрес, за да подведат училища в Еквадор да проведат церемония с клетва за вярност към президента Даниел Нобоа и Ерик Принс, бивш ръководител на частната военна компания Blackwater. Организаторите твърдят, че случаят предизвикал възмущение в Еквадор и принудил правителството да опровергае фалшификацията, с което тя достигнала до национална аудитория. И в този случай проучването на открити източници установи медийно⁠(отваря се в нов прозорец) отразяване⁠(отваря се в нов прозорец) в еквадорската⁠(отваря се в нов прозорец) преса⁠(отваря се в нов прозорец), което съответстваше в голяма степен на това твърдение, и дори подробно опровержение⁠(отваря се в нов прозорец) от министъра на образованието на Еквадор.

Организаторите използвали различни техники, за да придадат достоверност на измислените си истории. Според вътрешните им отчети през март са разпространили две различни фалшификации, насочени срещу Еквадор. Едната използвала фалшив аудиозапис, приписван на украинския консул в Еквадор, в който той уж правел пренебрежителни коментари за еквадорците. Разследването ни по открити източници откри публикация в TikTok, която съответстваше точно на това твърдение; тя изглежда е получила малко реакции. Другата включвала фалшив видеоклип, разпространяван в X и TikTok с логото на истински новинарски канал, според който правителството на Нобоа набирало млади мъже да воюват в Украйна. В началото на април проверители на факти⁠(отваря се в нов прозорец) в Еквадор описаха кампания, която съвпада с това описание.

Видео в TikTok, публикувано на 8 април 2026 г., с фалшифицирания аудиозапис, приписван на украинския консул, за който организаторите на операцията твърдят, че е тяхно дело.

Друг вътрешен отчет описва фалшификация, разпространена в Боливия в края на май, в разгара на антиправителствените протести. Организаторите изрично посочват като цел на тази кампания задълбочаването на кризата около протестите. Кампанията включвала фалшив аудиозапис на служител на държавната водоснабдителна компания EPSAS, според когото правителството щяло да спре водата в административната столица Ла Пас и да обяви извънредно положение. Проучването ни на открити източници откри опровержение⁠(отваря се в нов прозорец) на същото твърдение и официално отричане⁠(отваря се в нов прозорец) от EPSAS.

Други вътрешни отчети описваха фалшификации, чието разпространение не успяхме да потвърдим чрез открити източници — вероятно защото вече са били премахнати или не са достигнали до аудитория. Например организаторите твърдят, че през януари са разпространили история за бразилска инфлуенсърка и модел, която уж станала жертва на трафик към Украйна чрез представители на украинското посолство и била убита в Киев. През юни те твърдят, че са разпространили друг фалшив аудиозапис в Боливия, този път уж от служител на Централната банка на Боливия, който предупреждава, че банката ще ограничи тегленето на пари в брой. Твърдят също, че са разпространили подправено писмо от агенцията по въглеводородите на страната, предупреждаващо за ограничения върху продажбите на гориво за частни автомобили.

В други отчети организаторите искаха от нашите модели помощ за откриване на събития в целевите държави, за които биха могли да си припишат заслуги, дори да не са участвали в тях. Например в Аржентина организаторите твърдят, че външният министър на страната е цитирал тяхната операция на заседание на комитет на ООН за Фолкландските/Малвинските острови. Те си приписват заслугата за разпространението на аргументите, че принципът на самоопределение не се прилага за островите и че Обединеното кралство поддържа там несъразмерно голямо военно присъствие. Всъщност и двата аргумента са част от официалната позиция на Аржентина от много⁠(отваря се в нов прозорец) години⁠(отваря се в нов прозорец). По подобен начин през юни бразилски медии съобщиха⁠(отваря се в нов прозорец) за бразилски гражданин, заминал за Украйна, за да се присъедини към армията. Той бил пленен от руските сили, а после в телевизионно изявление заявил, че е бил подведен да участва в бойните действия. Организаторите, използващи ChatGPT, се опитаха да представят този материал като възпроизвеждащ посланията на операцията им; всъщност той цитира видеото на самия пленник⁠(отваря се в нов прозорец). Това подсказва опит на организаторите да проведат операция за влияние, насочена към собствените им работодатели, а не към външна аудитория.

Някои от отчетите на организаторите споменават самоопределяща се като „изследователска платформа“ организация, наречена Център за социологически изследвания (на руски: Центр социологических исследований). Според уебсайта на центъра (SRC) той се фокусира върху индийската диаспора в Латинска Америка и отношенията между Индия и страните от региона.

Вътрешните отчети подсказват, че организаторите са контролирали аналитичния център, а не просто са работили с него. Те споменават например решения за назначаване и освобождаване на служители, нива на заплащане, кадрови планове и текущи изследователски проекти. Особено важно е, че посочват и създаването на фалшива самоличност — „Мия Кларк“ — за управление на дейността в социалните мрежи и за общуване със служителите на място в Латинска Америка. Наличните данни сочат, че тези местни служители не са подозирали, че работят за руска операция, и са изпълнявали добросъвестно изследователските си задачи. Това използване на нищо неподозиращи посредници силно наподобява по-ранната руска операция „PeaceData“, също свързана с кръга на Пригожин, която Meta разкри⁠(отваря се в нов прозорец) през 2020 г.

Съдейки по отчетите на руските организатори, служителите им на място в Латинска Америка са интервюирали експерти и коментатори от региона, а след това са изготвяли изследователски доклади въз основа на събраните данни. Темите варират от широк анализ на общественото мнение за групата БРИКС до подробно сравнение на бразилската икономика при президентите Жаир Болсонаро и Луиз Инасио Лула да Силва. Понякога руските организатори изготвяли отчети за напредъка на изследователските проекти преди публикуването им, което показва пряко участие в процеса на изготвяне. Открихме значително над 60 статии на сайта на SRC, като преобладаващата част изглеждаха оригинални. Това отличава „Мрачната Кларк“ от разкритата наскоро от нас операция с руски произход, която също използваше аналитичен център за прикритие, но плагиатстваше повечето си материали. То подсказва намерение за изграждане на по-трайна организация за прикритие с контакти в цяла Латинска Америка.

За да популяризират работата на SRC, руските организатори твърдят, че са се опитали да създадат мрежа от акаунти и страници в социалните мрежи. Според отчетите им тази дейност срещнала проблеми, когато участници от различни части на света опитали да влязат в едни и същи акаунти, което довело до ограничения. Следи от това се виждат в откритите източници: например данните за прозрачност на основния акаунт на SRC в X сочат местоположение в Германия (вероятно заради VPN), но свързване чрез App Store за Руската федерация. Данните за един от акаунтите му в Instagram показват администратор във Венесуела. Нито един от трите открити от нас акаунта във Facebook с името и визуалната идентичност на SRC нямаше достатъчно последователи, за да се показва местоположението на администраторите.

Вляво: акаунт в X, свързан с Центъра за социологически изследвания. Обърнете внимание на данните за прозрачност, показващи свързване чрез магазина за приложения за Руската федерация. Вдясно: акаунт на SRC в Instagram с посочено местоположение Венесуела.

Организаторите съобщават за особени трудности в LinkedIn, където по собствените им думи създали умишлено фалшив акаунт, представляващ SRC, но после трудно изграждали мрежата му от контакти. Според отчетите им решението било да създадат още фалшиви акаунти, които да последват първия и да го направят по-убедителен. Към 17 август акаунт в LinkedIn със същата визуална идентичност на Центъра за социологически изследвания имаше 961 последователи и заявяваше персонал от 200–500 души, но посочваше само двама служители.

Понякога, освен да актуализират отчети с ИИ, организаторите искаха помощ от модела ни за замисляне и създаване на текстове за операциите си — например за да гарантират, че фалшификациите им използват подходящия акцент, речник и институционален стил за различните държави. Това беше сравнително малка част от общата работа, вероятно защото в операцията изглежда е участвал поне един човек от Латинска Америка с роден испански език, което е намалявало нуждата от езикова помощ чрез ИИ.

Например в един случай рускоговорещ участник поиска помощ от модела за изготвяне на писмо на руски, което да уличи почетния консул на Украйна в Панама в корупция. След това испаноговорещият участник поиска от модела да преведе писмото на испански и да генерира придружаващ сценарий за аудиозапис. Снимка, съответстваща на текста на писмото, със задкадров разказ, съвпадащ със сценария на участника, беше публикувана в TikTok от акаунт, представящ се за новинарска медия, но използващ логото на панамската TVN Noticias⁠(отваря се в нов прозорец). Каналът в TikTok имаше само един последовател и спря да публикува, след като разпространи тази фалшификация.

Публикация в TikTok, показваща писмото с текст, генериран от тази операция, и задкадров разказ по сценарий, също генериран от операцията.

В друг случай испаноговорещият участник в Русия даде на модела сценарий на руски, според който Нобоа обидил бедните хора в Еквадор, и поиска превод на еквадорски испански. В трети случай през март същият потребител поиска от модела да редактира проект на договор на испански между компания, наречена „International Security Solutions FZE“, и физическо лице в Еквадор, уж за предоставяне на инфраструктурни услуги в Украйна. Въпросите на потребителя бяха насочени към подобряване на езика и оформлението, включително кои думи да бъдат удебелени.

Заявките за договора приключиха, след като текстът беше финализиран. Проучването на открити източници обаче показва, че впоследствие снимка на „договора“ е била разпространявана в социалните мрежи⁠(отваря се в нов прозорец). Тя е използвана в подкрепа на твърдението, че правителството на Нобоа е работило с подставена компания, за да подведе еквадорци да постъпят в украинската армия. Фалшификацията се е разпространила достатъчно широко, за да предизвика проверка на фактите⁠(отваря се в нов прозорец) в началото на април. Проверителите заключават, че компанията „не фигурира в регистъра на еквадорския надзорен орган за дружествата, ценните книжа и застраховането“.

Въздействието на тази операция изисква особено внимателна оценка. Както отбелязахме по-горе, един от основните подходи на организаторите беше да си приписват заслуги за дейности, които нямат нищо общо с операцията им. Затова собствените им твърдения за въздействие във вътрешните отчети не могат да се приемат безкритично. По подобен начин някои от измислените истории, които те твърдят, че са прокарали, не бяха открити при проучването на открити източници — вероятно защото са разпространявани в непублични канали, вече са премахнати или изобщо не са били публикувани.

Данните от открити източници обаче ни позволиха да потвърдим някои от твърденията им. Някои от фалшификациите, които операцията твърди, че е разпространила, впоследствие бяха отразени от проверители на факти и опровергани от правителства. Това подсказва, че са достигнали достатъчно широка аудитория, за да наложат реакция. В други случаи успяхме да открием онлайн съдържание, което съвпадаше в голяма степен със съдържанието, генерирано от тази операция. Най-показателен е случаят, в който организаторите твърдят, че са подмамили перуанско училище да проведе събитие, представящо Бандера. Той впоследствие беше отразен както в Латинска Америка, така и в Европа и изглежда е предизвикал коментар от поне един полски евродепутат.

По скалата за пробив⁠(отваря се в нов прозорец), която оценява операциите за влияние от 1 (най-ниско) до 6 (най-високо), бихме поставили тази операция в категория 5. Данните сочат, че тя е предизвикала публични коментари от политици в редица държави. Това е първата операция от категория 5, която пресичаме, откакто публикуваме тези доклади.

Операция с ирански произход, прокарваща обширни статии под фалшиви авторски имена в онлайн новинарски издания.

Блокирахме група акаунти в ChatGPT с произход от Иран. Те подаваха заявки на персийски и генерираха съдържание на персийски и английски. Участниците прикриваха местоположението си, като използваха VPN връзки за достъп до ChatGPT.

Операцията използваше моделите ни за редактиране на обширни статии и предложения до редакции, генериране на коментари за социалните мрежи и подобряване на вътрешни отчети. Организаторите използваха седем различни авторски имена, за да предлагат статиите си, затова нарекохме кампанията им „Фалшиви автори“. Обширните статии бяха посветени на конфликта между САЩ и Иран. Повечето коментари също засягаха конфликта; по-малка част разглеждаха политиката на САЩ, обикновено в по-широкия контекст на конфликта.

Наблюдаваното въздействие на основните им направления на работа се различаваше значително. Открихме близо 100 статии, публикувани или препечатани под авторските имена на операцията в около дузина онлайн издания по света. Това бяха малки и средни издания, фокусирани предимно върху международните отношения, геополитиката и събитията в Близкия изток. За разлика от тях никой от коментарите в социалните мрежи не изглежда да е привлякъл значителен брой харесвания, споделяния или отговори. Всъщност във вътрешните си отчети организаторите използвали подвеждащ метод за изчисляване на въздействието си в социалните мрежи, вероятно за да преувеличат видимата си ефективност.

Цялостната дейност изглеждаше характерна за търговски субект, провеждащ платена кампания за влияние, но не можем да установим кой точно стои зад нея. Споделихме информация за този случай с компетентните органи.

Дейността с най-голям обхват в тази операция беше използването на ChatGPT за преглед и редакция на обширни англоезични статии за геополитиката на конфликта между САЩ и Иран. Типичните заявки искаха моделът да оцени англоезична чернова спрямо изискванията за публикуване в конкретно онлайн издание и да предложи редакции, за да ги изпълни. След като одобряха редакциите, организаторите искаха моделът да състави имейл, с който да предложат статията на редактора на съответното онлайн издание.

Тези предложения бяха изготвяни от името на седем измислени автори: Ървин Б. Хоскинс, Ноа Ламингтън, София Гонсалес, Майкъл Харисън, Ерика Фьозие, Джени Уилямс и Алис Джонсън. Според биографиите, публикувани онлайн към някои от статиите, всяка самоличност се представяше за западен журналист — обикновено американски, макар че биографията на Ноа Ламингтън посочваше Нова Зеландия. Често заявеният фокус беше международната политика, Близкият изток, правата на човека или конфликтите. За една от самоличностите — „Майкъл Харисън“ — организаторите поискаха моделът да напише и самата биография. (Трябва да се отбележи, че през март Meta пресече⁠(отваря се в нов прозорец) иранска операция за влияние, която също използваше измислен журналист на име „Майкъл Харисън“.)

Някои от тези самоличности бяха подкрепени с акаунти в различни социални платформи, за да изглеждат достоверни. Например самоличността на Майкъл Харисън беше подкрепена с акаунти в Medium, X и Facebook. Измисленият Ървин Б. Хоскинс имаше акаунти в X, Facebook, Instagram и Threads. Биографията му го представяше като „американски автор на свободна практика“, но данните за прозрачност на социалните мрежи посочваха Иран като местоположение на акаунтите.

Горе: биографията в Instagram на измисления Ървин Хоскинс. Долу вляво: данни за прозрачност на акаунта в X, показващи използването на приложението за Android за Западна Азия. Долу вдясно: данни за прозрачност на акаунта в Instagram с местоположение в Иран. Meta блокира акаунта в Instagram през август.

Чрез методи за разследване по открити източници установихме близо 100 статии, публикувани под някое от авторските имена на организаторите в над дузина различни издания. Тези издания обикновено се фокусираха върху международните отношения, геополитиката и събитията в Близкия изток, понякога от антивоенна или прогресивна гледна точка. Най-ранната открита от нас статия е публикувана през юли 2025 г., а най-късната — през октомври 2026 г. Честотата на публикуване нарасна значително след избухването на конфликта между САЩ и Иран.

Хронология на статиите по автор и тема, юли 2025 г. — септември 2026 г. Обърнете внимание на концентрацията на публикации за отношенията между САЩ и Иран от март 2026 г. нататък.

Примерни заглавия на статии, публикувани под авторски имена, свързани с тази операция, в различни онлайн издания между февруари и юли 2026 г.

Поне част от статиите впоследствие бяха популяризирани от акаунтите на съответните издания в социалните мрежи. Това даде на иранските организатори възможност да достигнат аудитории, до които иначе не биха имали достъп.

Наред със статиите злонамерените участници искаха от ChatGPT да генерира серии от коментари по геополитически или политически теми на английски или персийски. Типичният им подход беше да въведат текста или екранна снимка на публикация в социалните мрежи и да поискат от модела набор от отговори, съответстващи на общата им насоченост. След това ги публикуваха онлайн, често през интервали от няколко минути. Вътрешните отчети на организаторите споменават както ръчно, така и автоматизирано публикуване; нямаме доказателства, че тази автоматизация е осъществена с помощта на нашите модели.

Туитове на английски вляво и на персийски вдясно, генерирани от тази операция и публикувани през юли. Англоезичните коментари отговарят на туит на английски, предупреждаващ, че САЩ подготвят „мащабно нападение“ срещу Иран. Всички коментари на това изображение са публикувани в рамките на 10 минути. Персийските коментари отговарят на туит на персийски за американски удари по Иран и са публикувани в рамките на 13 минути.

Част от това масово коментиране се състоеше в генериране на отговори на публикации в социалните мрежи за собствените новинарски статии на операцията. В тези случаи организаторите въвеждаха екранни снимки на публикации, популяризиращи статиите им, а след това генерираха хвалебствени или одобрителни коментари, вероятно за да изглеждат статиите по-популярни.

Публикация на местна американска новинарска страница във Facebook, споделяща статия, генерирана от операцията, и коментари към нея, също генерирани от операцията.

Повечето серии от коментари бяха посветени по-общо на конфликта между Иран, САЩ и Израел. Потребителите искаха коментари за ракетни удари, прекратяване на огъня и дипломатически маневри, с изрични указания САЩ да бъдат представяни като агресор, Израел — като ненадежден съюзник на САЩ, а Иран — като непокорна, но устойчива жертва. Организаторите генерираха особено много отговори на публикации на базираната във Великобритания сателитна телевизия Iran International, която критикува иранския режим — над две дузини серии от враждебни отговори на персийски. По-малка част от сериите съдържаха отговори на публикации за политически въпроси в САЩ, обикновено също в по-широкия контекст на конфликта.

Коментари в Instagram, генерирани от тази операция в отговор на публикации за политиката на САЩ.

Открихме малък брой от тези отговори, публикувани онлайн. Много повече не се появиха при търсенията ни в открити източници — вероятно защото не са били публикувани или са били публикувани от вече премахнати акаунти. (Например три от измислените журналистки — Ерика Фьозие, Алис Джонсън и Джени Уилямс — посочваха потребителски имена в X в публикуваните си биографии: към август 2026 г. всички бяха блокирани.) Някои от акаунтите, които публикуваха коментари, имаха привидно западни имена, но показваха местоположение в Иран.

Данните за прозрачност на акаунтите в Instagram, публикували показаните по-горе коментари, сочат, че те се намират в Иран.

Там, където открихме тези отговори, те обикновено представляваха малка част от всички коментари към съответната публикация. Това подсказва, че организаторите не са доминирали сред автентичните реакции. Не изглежда и да са привлекли значително внимание: много от харесванията на отговорите идваха от акаунти, които също бяха свързани с операцията. Споделихме информация за този случай с партньори от сектора, които разполагат с най-добри възможности за цялостна оценка на взаимодействията.

Опитите да представят дейността си като по-популярна не се ограничаваха до публичните публикации. Наред със създаването на съдържание организаторите понякога искаха от ChatGPT да редактира документи, които изглежда бяха вътрешни отчети за кампанията им в социалните мрежи. Обикновено предоставяха на модела поредица от статистически данни и го молеха да ги превърне в добре оформени презентации.

Това не е първата пресечена от нас операция, използвала ИИ, за да напише собствената си⁠(отваря се в нов прозорец) самооценка⁠(отваря се в нов прозорец). Най-поразителен в опитите на иранските организатори сами да оценяват работата си беше използваният метод. Основният им показател за „въздействие“ беше броят показвания на публикациите, на които отговаряха (не на самите отговори), измерен преди публикуването на отговорите и в неопределен момент след това. Това изчисление не отчита показванията, които може да се дължат на други фактори, като популярността на първоначалните публикации или други коментари. Така то силно завишаваше данните за въздействието на операцията. Това подсказва, че организаторите или не са знаели по-надежден начин за изчисляването им, или са избрали да не го използват.

Всъщност данните от наблюдението на открити източници сочат, че двете основни направления на операцията вероятно са имали много различно по степен въздействие.

Отговорите в социалните мрежи, които успяхме да установим, обикновено имаха малко харесвания, показвания и коментари — едноцифрени или двуцифрени стойности. Както отбелязахме по-горе, отговорите обикновено представляваха малка част от всички коментари към съответната публикация. По скалата за пробив⁠(отваря се в нов прозорец), която оценява операциите за влияние от 1 (най-ниско) до 6 (най-високо), бихме поставили тази част от операцията в категория 2: коментари на няколко платформи, но малко признаци за по-широко разпространение или способност да доминира сред отговорите.

За разлика от това измислените журналисти успяха да публикуват статиите си в редица издания, някои със значителна аудитория. Например към август 2026 г. едно от онлайн изданията, публикували техни статии, имаше близо 2 милиона последователи във Facebook, близо 355 000 в X и над 544 000 в Instagram. Бихме оценили тази част от операцията като категория 4 заради системното ѝ проникване в редица медии.