Операција „Чичко Спам“: влијание врз поларизацијата во САД
OpenAI забрани сметки со потекло од Кина што користеа ВИ за создавање политички содржини за САД и истражување луѓе, движења и онлајн-заедници.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од јуни 2025 година(се отвора во нов прозорец).
Извршител
По дојава од нашите колеги во Meta, забранивме повеќе сметки на ChatGPT поврзани со операција за влијание со потекло од Кина(се отвора во нов прозорец). Операцијата создаваше поларизирачки содржини за социјалните мрежи што ги поддржуваа двете страни на спорни теми во политичкиот дискурс во САД, вклучувајќи текстови и профилни слики генерирани со ВИ за платформи како X и Bluesky.
Однесување
Мрежата ги користеше нашите модели за повеќе задачи, првенствено за создавање коментари на социјалните мрежи во кои се поддржуваа или критикуваа царините. Сметките бараа од нашите модели да ги одредат најдобрите термини за објавување за да се зголеми ангажманот на публиката, што укажува на осмислени тактики за засилување на досегот.
Две објави на X со текстови што овој злонамерен актер ги создал со нашите модели, застапувајќи ги двете страни во дебатата за царините.
Понатаму, сметките ги користеа нашите можности за генерирање слики за да создаваат стилизирани логоа, кои потоа се користеа како профилни слики за лажни идентитети на социјалните платформи. Сметките особено се насочуваа кон создавање лажни идентитети на американски ветерани што ја критикуваат актуелната администрација на САД.
Сметка на Bluesky што објавувала содржини создадени од оваа мрежа. Логото „Ветерани за правда“ е создадено со нашите модели.
На крај, сметките постојано бараа код и методи за извлекување лични податоци од социјални платформи како X и Bluesky — меѓу кои кориснички профили, списоци на следбеници и други податоци — користејќи алатки како Tweepy, Nitter и јавниот API на Bluesky. Дополнително, сметките ги користеа нашите модели за насоки при анализирање профилни податоци за лични карактеристики и организациска припадност, потенцијално за категоризирање лица или изведување заклучоци за нивните врски и особини.
Резултати
Сметките создаваа поларизирачки содржини од различни области на политичкиот дискурс во САД, честопати во рамките на истите оперативни сесии. Во согласност со познатите методологии на операциите за влијание, ова најверојатно било осмислено за искористување на постојните политички поделби, а не за промовирање конкретен идеолошки став. Поради обемот на содржините и насоченоста кон пораки за американската публика, оваа операција ја нарековме „Чичко Спам“.
Објави на X со текст создаден од нашите модели, објавени од лажни идентитети.
Влијание
Според Скалата на пробив(се отвора во нов прозорец) за мерење на влијанието на операциите за влијание, ова го оценуваме како категорија 2: активност на повеќе платформи, без пробив или со минимален ангажман. Сметките на социјалните мрежи што објавуваа содржини создадени од нашите модели добија малку автентичен ангажман. Повеќето објави на X од оваа мрежа добија малку или воопшто не добија допаѓања и споделувања, а само неколку објави привлекоа одреден ангажман. Некои од сметките на социјалните мрежи имаа илјадници следбеници, но не можевме да ја утврдиме нивната автентичност, а нивниот број не резултираше со соодветен ангажман на објавите.