Операција „Ујка Спам“: активност утицаја усмерена на поларизацију у САД
OpenAI је забранио налоге из Кине који су помоћу вештачке интелигенције стварали политички садржај о САД и истраживали људе, покрете и онлајн заједнице.
Ова студија случаја првобитно је објављена у извештају компаније OpenAI из јуна 2025.(отвара се у новом прозору) године.
Актер
Забранили смо више ChatGPT налога повезаних са операцијом утицаја пореклом из Кине(отвара се у новом прозору), након дојаве колега из компаније Meta. Операција је стварала поларизујући садржај за друштвене мреже којим су подржаване обе стране у спорним темама америчког политичког дискурса, укључујући текстове и профилне слике генерисане вештачком интелигенцијом на платформама као што су X и Bluesky.
Понашање
Мрежа је користила наше моделе за више задатака, пре свега за генерисање коментара на друштвеним мрежама који су подржавали или критиковали царине. Налози су од наших модела тражили оптимално време објављивања ради што већег ангажовања публике, што указује на планске тактике повећања досега.
Две објаве на мрежи X чији је текст овај актер претње генерисао помоћу наших модела, заступајући обе стране у расправи о царинама.
Као друго, налози су користили наше могућности генерисања слика за израду стилизованих логотипа, који су затим служили као профилне слике фиктивних идентитета на различитим друштвеним платформама. Налози су се нарочито усредсредили на осмишљавање идентитета америчких ветерана који критикују актуелну америчку администрацију.
Налог на платформи BlueSky који је објављивао садржај генерисан од стране ове мреже. Логотип „Ветерани за правду“ генерисан је помоћу наших модела.
На крају, налози су редовно тражили код и поступке за издвајање личних података са друштвених платформи као што су X и Bluesky, укључујући корисничке профиле, листе пратилаца и друге детаље, помоћу алата као што су Tweepy и Nitter, као и јавног API-ја платформе Bluesky. Поред тога, налози су од наших модела тражили смернице за анализу података са профила ради утврђивања личних особина и припадности организацијама, потенцијално ради категоризације појединаца или извођења закључака о њиховим везама и особинама.
Резултати
Налози су стварали поларизујући садржај о различитим темама америчког политичког дискурса, често током истих оперативних сесија. У складу са познатим методама операција утицаја, чини се да је ово вероватно било осмишљено ради искоришћавања постојећих политичких подела, а не промовисања одређеног идеолошког става. Велики обим садржаја и усредсређеност на поруке намењене америчкој публици навели су нас да ову операцију назовемо „Ујка Спам“.
Објаве на мрежи X с текстом који су генерисали наши модели, а које су поставили фиктивни идентитети.
Утицај
Према скали продора(отвара се у новом прозору) за мерење утицаја операција утицаја, ово бисмо оценили као категорију 2: активност на више платформи, без продора или уз минимално ангажовање. Налози на друштвеним мрежама који су објављивали садржај генерисан нашим моделима остварили су мало аутентичних интеракција. Већина објава ове мреже на платформи X добила је мало или нимало лајкова и поновних објава, док је само неколико објава остварило извесно ангажовање. Неки налози на друштвеним мрежама имали су више хиљада пратилаца, али нисмо могли да проценимо њихову аутентичност, а тај број није довео до већег ангажовања на објавама.