Перейти до основного вмісту
OpenAI

1 лютого 2025 р.

Безпека

Операція «Спонсороване невдоволення»: діяльність із впливу

OpenAI заблокувала облікові записи ймовірно китайського походження, які використовували ШІ для створення дописів у соцмережах англійською та статей іспанською.

Завантаження…

Цей аналіз випадку вперше опубліковано у звіті OpenAI за лютий 2025⁠(відкривається у новому вікні) року.

Суб’єкт діяльності

Ми заблокували облікові записи ChatGPT, які використовували наші моделі для створення коротких коментарів англійською та розгорнутих новинних статей іспанською. Час цієї активності відповідав робочим годинам у материковому Китаї. Іспаномовні статті публікували новинні сайти Латинської Америки. Майже всі сайти вказували автором статей певну особу; у деяких випадках у підписі автора зазначали її зв’язок із китайською компанією Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Поведінка

Ці облікові записи надсилали запити до ChatGPT китайською мовою та були активні переважно в робочі години материкового Китаю. Частина активності відповідала прихованій операції впливу, відомій як «Спамуфляж⁠», про яку ми повідомляли в травні: у її межах генерували короткі англомовні коментарі та зображення з критикою Цай Ся — дисидентки й колишньої професорки Центральної партійної школи Комуністичної партії Китаю. Потім ці матеріали публікували в X облікові записи, що видавали себе за людей зі США або Індії.

Твіти, згенеровані обліковими записами операції «Спонсороване невдоволення».

Твіти, згенеровані цими обліковими записами за допомогою наших моделей і опубліковані чотирма різними обліковими записами в X.

Якби діяльність обмежувалася цим, ми могли б дійти висновку про її ймовірний зв’язок зі «Спамуфляжем». Однак поряд із короткими коментарями ці облікові записи генерували й розгорнуті статті іспанською з критикою США. Ця діяльність особливо активізувалася напередодні форуму АТЕС 2024 року в Перу. Суб’єкт створював ці статті, просячи наші моделі перекласти й розширити загальнодоступні китайськомовні статті.

Потім ці статті публікували латиноамериканські новинні сайти, насамперед у Перу, а також у Мексиці та Еквадорі. Новинні сайти часто публікували статті того самого дня, коли ці облікові записи генерували матеріали за допомогою ChatGPT. Майже в усіх публікаціях автором зазначали ту саму особу. У деяких її називали законним представником компанії, яку ми вважаємо китайською.

Ми вперше спостерігали, як імовірно китайському суб’єкту діяльності з впливу вдалося опублікувати статті в провідних медіа Латинської Америки. Деякі публікації могли з’явитися за фінансовою домовленістю: одну зі статей, виявлених нами під час дослідження відкритих джерел, було позначено як «спонсоровану». Крім того, суб’єкт використовував ChatGPT для перекладу згадок про іспаномовні квитанції від латиноамериканської новинної організації, що узгоджується з версією про платне розміщення.

Спонсорована стаття, згенерована в межах операції «Спонсороване невдоволення».

Знімок екрана зі статтею, яку згенерував цей суб’єкт і опублікував сайт wapa[.]pe. Зверніть увагу на позначку «спонсоровано», що вказує на спонсорований матеріал.

З огляду на ймовірне використання спонсорованих матеріалів і негативну позицію кампанії щодо політичного життя та державного курсу США ми назвали її «Спонсороване невдоволення».

Згенеровані відповіді

Цей суб’єкт генерував два основні типи матеріалів: короткі критичні коментарі про Цай Ся англійською й китайською та розгорнуті статті іспанською.

Створюючи критичні коментарі про Цай Ся, оператор зазвичай просив ChatGPT відповісти на її твіти чи відео або на згадки про неї в медіа. Деякі коментарі ставили під сумнів її обізнаність у таких темах, як Тайвань, інтернет, китайська література та історія. В інших її звинувачували в порушенні візових правил.

Розгорнуті статті іспанською зосереджувалися на соціальних і політичних розколах у США та зазвичай спиралися на поточні події й найсвіжіші новини. Серед тем були нерівність, політичне насильство, дискримінація та сексизм, а також повідомлення про злочини й критика зовнішньої політики США. Значне місце посідали й соціальні кризи, зокрема вживання наркотиків і бездомність. Оператор часто подавав ці кризи чи проблеми як ознаку неспроможності американського керівництва або суспільства. Критика загалом була спрямована проти обох основних партій США.

Вплив

Ми не виявили доказів того, що спрямовані проти Цай Ся матеріали в соцмережах отримали значний відгук від справжніх користувачів. Облікові записи в соцмережах, які їх публікували, зазвичай мали мало підписників і мінімальну взаємодію з аудиторією.

Водночас ми вперше спостерігали, як у межах операції впливу китайського походження вдалося розмістити в латиноамериканських медіа розгорнуті статті з критикою США. Хоча цього могли досягти принаймні частково завдяки оплаті публікацій, ідеться про раніше не описаний, наскільки нам відомо, напрям діяльності. Він розвивався паралельно з більш типовою активністю в соцмережах і міг охопити значно ширшу аудиторію, хоча ми не можемо незалежно перевірити рівень її залученості.

За шкалою поширення⁠(відкривається у новому вікні), яка оцінює вплив таких операцій від 1 (найнижчий рівень) до 6 (найвищий), ми віднесли б цю операцію до категорії 4 (вихід у провідні медіа) завдяки широкій читацькій аудиторії латиноамериканських новинних сайтів.

Заголовки опублікованих статей, пов’язаних із цією діяльністю

Ми встановили, що ці статті відповідають матеріалам, які цей суб’єкт згенерував за допомогою наших моделей.

  • Неприваблива правда про те, як США отримують вигоду від допомоги Україні у війні (La Republica, Перу).

  • Трагічна реальність проблеми бездомності у США (Wapa, Перу).

  • Божевільна логіка американських санкцій проти палестинського активіста (El Popular, Перу).

  • Абсурдний сценарій маскулінності (Libero, Перу).

  • Всюдисущі тіні (El Popular, Перу).

  • Зневага партійних верхівок до демократії у США (El Popular, Перу).

  • Брак прозорості у передвиборчих промовах і маніпулювання громадською думкою (Libero, Перу).

  • Страйк і боротьба працівників готелів (La Republica, Перу).

  • Безсилля санкцій США та обмеження, які вони накладають на самі Сполучені Штати (El Universal, Мексика).

  • Безмовні крики під ярмом фентанілу (La Republica, Перу).

  • Ураган «Гелен»: неправдиві заяви й теорії змови американських політиків (Wapa, Перу).

  • Туман мит: короткозора політика Трампа й майбутнє американської економіки (La Republica, Перу).

  • Проблема продовольчої безпеки в американському суспільстві та її вплив на школи (Extra, Еквадор).

  • Трагедія США: коли правду приховують (Expreso, Еквадор).

  • Криза безпеки дітей у США (La Republica, Перу).

  • Тінь насильства у Брукліні (El Plural, Іспанія).

  • Розкіш для вбивці: операція коштом платників податків (El Universal, Мексика).

  • Підтримка Ізраїлю та нехтування гуманітарною кризою (La Republica, Перу).

  • Руйнівна конкуренція на виборах у США (Wapa, Перу).