Operace „Strýček Spam“: vlivová aktivita zaměřená na polarizaci v USA
OpenAI zablokovala účty pocházející z Číny, které pomocí AI vytvářely americký politický obsah a zkoumaly osoby, hnutí a online komunity.
Tato případová studie byla původně zveřejněna ve zprávě OpenAI z června 2025(otevře se v novém okně).
Aktér
Na základě upozornění od kolegů ze společnosti Meta jsme zablokovali několik účtů ChatGPT napojených na vlivovou operaci pocházející z Číny(otevře se v novém okně). Operace vytvářela polarizující obsah pro sociální sítě, který podporoval obě strany rozdělujících témat americké politické diskuse. Na platformách jako X a Bluesky zveřejňovala texty i profilové obrázky vygenerované pomocí AI.
Chování
Síť využívala naše modely k několika úkolům, především k vytváření komentářů na sociální sítě, které cla podporovaly nebo kritizovaly. Účty se našich modelů dotazovaly na optimální časy zveřejňování příspěvků, aby maximalizovaly zapojení publika, což svědčí o promyšlené taktice zesilování dosahu.
Dva tweety s texty, které tento aktér hrozby vytvořil pomocí našich modelů a které prosazovaly opačné postoje v debatě o clech.
Účty dále využívaly naše funkce generování obrázků k tvorbě stylizovaných log, která poté sloužila jako profilové obrázky falešných identit na různých sociálních platformách. Účty se zaměřovaly zejména na vytváření falešných identit amerických veteránů kritizujících současnou vládu USA.
Účet na Bluesky, který zveřejňoval obsah vytvořený touto sítí. Logo „Veteráni za spravedlnost“ bylo vygenerováno pomocí našich modelů.
Účty také opakovaně žádaly o kód a postupy pro získávání osobních údajů ze sociálních platforem, jako jsou X a Bluesky, včetně uživatelských profilů, seznamů sledujících a dalších podrobností, a to pomocí nástrojů Tweepy, Nitter a veřejného API služby Bluesky. Účty navíc využívaly naše modely k získávání pokynů pro analýzu profilových údajů z hlediska osobních charakteristik a vazeb na organizace, potenciálně za účelem kategorizace osob či odvozování jejich vztahů a vlastností.
Výstupy
Účty vytvářely polarizující obsah z celé škály americké politické diskuse, často i během stejné pracovní relace. V souladu se známými metodami vlivových operací se zdá, že cílem bylo spíše využít stávající politické rozpory než prosazovat konkrétní ideologický postoj. Kvůli množství obsahu a zaměření sdělení na americká témata jsme tuto operaci nazvali „Strýček Spam“.
Tweety s textem vytvořeným našimi modely, které zveřejnily falešné identity.
Dopad
Podle škály Breakout Scale(otevře se v novém okně) pro hodnocení dopadu vlivových operací bychom tuto aktivitu zařadili do kategorie 2: aktivita na více platformách bez průniku k širšímu publiku nebo jen s minimální odezvou. Účty na sociálních sítích, které zveřejňovaly obsah vytvořený našimi modely, zaznamenaly jen malou autentickou odezvu. Většina příspěvků této sítě na platformě X nezískala žádná nebo téměř žádná označení „To se mi líbí“ ani sdílení; určitou odezvu zaznamenalo jen několik příspěvků. Některé účty na sociálních sítích měly tisíce sledujících, jejich pravost jsme však nedokázali posoudit a jejich počet se zjevně nepromítal do odezvy na příspěvky.