Операція «Дядько Спам»: вплив задля поляризації у США
OpenAI заблокувала облікові записи китайського походження, які використовували ШІ для створення політичного контенту про США та дослідження людей, рухів і онлайн-спільнот.
Це дослідження було вперше опубліковано у звіті OpenAI за червень 2025 року(відкривається у новому вікні).
Суб’єкт
Отримавши інформацію від колег із Meta, ми заблокували низку облікових записів ChatGPT, пов’язаних з операцією впливу китайського походження(відкривається у новому вікні). У межах операції створювали поляризаційний контент для соціальних мереж, який підтримував обидві сторони суперечливих тем у політичному дискурсі США, зокрема тексти й згенеровані ШІ зображення профілів для таких платформ, як X і Bluesky.
Поведінка
Мережа використовувала наші моделі для різних завдань, насамперед для створення коментарів у соціальних мережах на підтримку мит або з їх критикою. Власники облікових записів запитували в наших моделей, коли найкраще публікувати дописи для максимального залучення аудиторії, що свідчить про застосування продуманої тактики посилення охоплення.
Два дописи у Twitter, тексти яких цей зловмисник створив за допомогою наших моделей, просуваючи протилежні позиції в дискусії про мита.
Крім того, вони використовували наші можливості генерації зображень для створення стилізованих логотипів, які потім ставили як зображення профілів вигаданих осіб у різних соціальних мережах. Зокрема, вони зосередилися на створенні образів американських ветеранів, які критикували чинну адміністрацію США.
Обліковий запис у Bluesky, де публікували створений цією мережею контент. Логотип «Ветерани за справедливість» було створено за допомогою наших моделей.
Нарешті, власники облікових записів систематично запитували код і методи для отримання із соціальних платформ на кшталт X і Bluesky персональних даних, як-от профілі користувачів, списки підписників та інші відомості, за допомогою таких інструментів, як Tweepy, Nitter і загальнодоступний API Bluesky. Також вони зверталися до наших моделей по рекомендації щодо аналізу даних профілів для визначення особистих характеристик і зв’язків з організаціями — потенційно для класифікації людей або встановлення їхніх зв’язків і ознак.
Результати
Облікові записи створювали поляризаційний контент на теми політичного дискурсу США, часто навіть у межах одних і тих самих робочих сеансів. Це узгоджується з відомими методами операцій впливу й, імовірно, було спрямовано на використання наявних політичних розбіжностей, а не на просування конкретної ідеологічної позиції. Через обсяг контенту й зосередженість на повідомленнях для американської аудиторії ми назвали цю операцію «Дядько Спам».
Опубліковані вигаданими особами дописи у Twitter із текстами, створеними нашими моделями.
Вплив
За шкалою поширення(відкривається у новому вікні) для оцінювання впливу інформаційних операцій ми віднесли б це до категорії 2: активність на кількох платформах без проривного поширення або з мінімальним залученням. Облікові записи в соціальних мережах, які публікували створений нашими моделями контент, майже не отримували органічного залучення. Більшість опублікованих цією мережею дописів у X отримали мало вподобань і репостів або не отримали їх узагалі; лише кілька дописів привернули певну увагу. Деякі облікові записи в соціальних мережах мали тисячі підписників, але ми не змогли оцінити їхню автентичність, а така кількість підписників, схоже, не забезпечувала залучення до дописів.