„Spam bácsi” művelet: az amerikai polarizációt célzó befolyásolási tevékenység
Az OpenAI letiltotta azokat a kínai eredetű fiókokat, amelyek MI-vel készítettek amerikai politikai tartalmakat, valamint embereket, mozgalmakat és online közösségeket kutattak.
Ez az esettanulmány eredetileg az OpenAI 2025. júniusi(új ablakban nyílik meg) jelentésében jelent meg.
Elkövető
A Meta munkatársaitól kapott információ alapján letiltottunk több ChatGPT‑fiókot, amelyek egy Kínából eredő befolyásolási művelethez(új ablakban nyílik meg) kapcsolódtak. A művelet az amerikai politikai közbeszéd megosztó témáinak mindkét oldalát támogató, polarizáló közösségimédia-tartalmakat hozott létre. Ezek között szövegek és MI-vel generált profilképek is voltak, amelyeket többek között az X és a Bluesky platformján használtak.
Tevékenység
A hálózat többféle feladatra használta modelljeinket, elsősorban a vámokat támogató vagy bíráló közösségimédia-hozzászólások készítésére. A fiókok az elérés maximalizálása érdekében az optimális közzétételi időpontokról kérdezték modelljeinket, ami tudatos felerősítési taktikára utal.
Két tweet, amelyek szövegét ez a fenyegető szereplő készítette modelljeinkkel, a vámokról szóló vita ellentétes oldalait támogatva.
Másodsorban a fiókok képgenerálási képességeinkkel stilizált logókat készítettek, majd ezeket profilképként használták fiktív személyazonosságok felépítéséhez a közösségi platformokon. A fiókok különösen olyan amerikai veteránok személyiségének megalkotására összpontosítottak, akik bírálták az Egyesült Államok jelenlegi kormányzatát.
Bluesky-fiók, amely a hálózat által generált tartalmakat tett közzé. A „Veterans for Justice” logója modelljeinkkel készült.
Végül a fiókok rendszeresen kértek kódokat és módszereket személyes adatok – például felhasználói profilok, követőlisták és egyéb információk – kinyerésére az X-hez és a Blueskyhoz hasonló közösségi platformokról, olyan eszközökkel, mint a Tweepy, a Nitter és a Bluesky nyilvános API-ja. A fiókok emellett útmutatást kértek modelljeinktől a profiladatok elemzéséhez, hogy feltárják a személyes jellemzőket és szervezeti kötődéseket, feltehetően személyek kategorizálása, illetve kapcsolataik és tulajdonságaik kikövetkeztetése céljából.
Eredmények
A fiókok az amerikai politikai közbeszéd számos témájában készítettek polarizáló tartalmakat, gyakran ugyanazon műveleti munkameneteken belül. Az ismert befolyásolási műveletek módszertanához igazodva ennek célja feltehetően a meglévő politikai megosztottság kihasználása volt, nem pedig egy konkrét ideológiai álláspont népszerűsítése. A tartalmak mennyisége és az amerikai közönséget célzó üzenetek miatt a műveletet „Spam bácsinak” neveztük el.
Fiktív személyiségek által közzétett tweetek, amelyek szövegét modelljeink generálták.
Hatás
A befolyásolási műveletek hatását mérő áttörési skála(új ablakban nyílik meg) alapján ezt a 2. kategóriába sorolnánk: több platformon folytatott tevékenység, áttörés nélkül vagy minimális aktivitással. A modelljeink által generált tartalmakat közzétevő közösségimédia-fiókok kevés valódi aktivitást váltottak ki. A hálózat által az X-en közzétett bejegyzések többsége alig vagy egyáltalán nem kapott kedvelést vagy megosztást; csak néhány bejegyzés váltott ki némi aktivitást. Néhány közösségimédia-fióknak több ezer követője volt, de nem tudtuk megállapítani, hogy valódiak voltak-e, és a követők nagy száma láthatóan nem eredményezett nagyobb aktivitást a bejegyzéseknél.