Операция „Допелгангер“: руска дейност за влияние, насочена срещу Украйна

Този казус е публикуван първоначално в доклада от май 2024 г.⁠(отваря се в нов прозорец) на OpenAI.

Забранихме четири групи акаунти, използващи нашите модели и свързани с лица, действащи от името на руската операция за влияние, известна като „Допелгангер“⁠(отваря се в нов прозорец). Всяка група използваше различни тактики, техники и процедури (TTP), което съответства на операция, съставена от различни функционални екипи.

Тази дейност беше насочена към аудитории в Европа и Северна Америка и се съсредоточаваше върху генерирането на съдържание за уебсайтове и социални медии.

Първата група акаунти генерираше кратки текстови коментари на английски, френски, немски, италиански и полски език. Те бяха публикувани в 9GAG и X заедно с мемета, видеоклипове и връзки, които изглежда не са генерирани чрез нашите модели. Някои мемета бяха копирани от различни места в интернет и изглежда бяха отпреди години.

В 9GAG акаунтите, които публикуваха съдържанието на тази кампания, обикновено използваха профилни снимки на известни личности или котки. Те публикуваха своите мемета и видеоклипове в разнообразни канали, включително „Случайни“, както и канали за домашни любимци, спорт, хумор и дори връзки и запознанства.

Всеки път, когато кампанията публикуваше меме или видеоклип в 9GAG, между три и пет акаунта отговаряха, обикновено с кратки съобщения като „хахаха“ или „лол“. Всеки от тези акаунти взаимодействаше единствено със съдържанието на тази кампания, а повечето бяха създадени на една и съща дата. Това поведение често предизвикваше критични коментари от други потребители, много от които определяха акаунтите като „ботове“.

В X коментарите на кампанията бяха публикувани от акаунти, всеки от които обикновено имаше само една или две публикации. Коментарите обикновено бяха придружени от привидно случайна връзка, например „solarpanelfor.sale“. Тези връзки пренасочваха към група уебсайтове, многократно приписвани на „Допелгангер“. Уебсайтовете използваха географско ограничаване, така че да могат да бъдат разглеждани само от хора с IP адрес в целевата държава. Операторите обаче изглежда са допуснали грешка и някои статии на английски, немски и полски език са били достъпни само от френски IP адрес.

Вероятно в опит да избегне разкриване, тази група е осъществявала достъп до нашите модели чрез услуга, свързана с компании в Русия и Чехия. Целта на тази услуга беше да позволява на хора в Русия да заобикалят нашата политика за достъп от поддържани държави⁠(отваря се в нов прозорец). Деактивирахме достъпа на тази услуга до API.

Втората група превеждаше статии от руски на английски и френски език, като руските текстове изглежда бяха оригинални. Много от тези статии впоследствие бяха публикувани в уебсайт, многократно приписван на „Допелгангер“: rrn.media. Същата група генерираше кратки коментари за своите статии, които по-късно се появяваха в социалните медии.

Третата група беше използвана за генериране, редактиране и коригиране на статии на френски език. След това статиите бяха публикувани в друг уебсайт, приписван на „Допелгангер“ — franceeteu.today.

Последната група работеше на немски език. Тя извличаше съдържание от уебсайта на „Допелгангер“ grenzezank.com и го използваше за генериране на кратки публикации за група и страница във Facebook, носещи името на сайта.

По-голямата част от съдържанието, публикувано онлайн от тази кампания, беше посветено на войната в Украйна. То представяше Украйна, САЩ, НАТО и ЕС в отрицателна светлина, а Русия — в положителна. Типичните коментари твърдяха, че Русия е важен икономически партньор за европейските държави; че западните лидери, които критикуват Русия, не разбират собствените си избиратели; и че Украйна е слаба, корумпирана и/или на прага на поражение.

В някои случаи участници в „Допелгангер“ се опитваха да накарат моделите ни да генерират карикатури на видни европейски политици и критици на Русия. Нашите модели отказаха тези заявки.

Нито една от установените от нас кампании на „Допелгангер“ не изглежда да е получила значителна положителна ангажираност от реална аудитория.

В 9GAG типичните публикации получаваха между 5 и 10 положителни гласа — главно от акаунти, които също публикуваха съдържание на кампанията — и между 15 и 200 отрицателни гласа. В X типичните публикации имаха около 1000 споделяния, без нито един отговор или харесване. Това несъответствие е толкова голямо, че подсказва неавтентично разпространение. Една публикация имаше три отговора, като всички я определяха като фалшива.

Ако използваме Скалата за пробив⁠(отваря се в нов прозорец), която оценява въздействието на операциите за влияние от 1 (най-ниско) до 6 (най-високо), бихме поставили дейността, свързана с използването на нашите модели, в категория 2 — публикации в няколко платформи, но без пробив или значителна ангажираност на аудиторията в която и да е от тях.