Operasyong “Uncle Spam”: Impluwensiyang nagpapalalim sa polarisasyon sa US
Ipinagbawal ng OpenAI ang mga account mula sa China na gumagamit ng AI para gumawa ng nilalamang pampolitika tungkol sa US at magsaliksik tungkol sa mga tao, kilusan, at online na komunidad.
Ang case study na ito ay orihinal na inilathala sa ulat ng OpenAI noong Hunyo 2025(magbubukas sa bagong window).
Aktor
Ipinagbawal namin ang ilang ChatGPT account na nauugnay sa isang operasyong pang-impluwensiya mula sa China(magbubukas sa bagong window), batay sa impormasyong ibinahagi ng aming mga katuwang sa Meta. Gumawa ang operasyon ng mapanghating nilalaman sa social media na sumusuporta sa magkabilang panig ng mga kontrobersiyal na usapin sa diskursong pampolitika ng U.S., kabilang ang teksto at mga larawang profile na ginawa ng AI sa mga platform gaya ng X at Bluesky.
Gawi
Ginamit ng network ang aming mga modelo para sa maraming gawain, pangunahin na sa paggawa ng mga komento sa social media na sumusuporta o tumututol sa mga taripa. Tinanong ng mga account ang aming mga modelo tungkol sa pinakamainam na oras ng pag-post upang mapataas ang pakikipag-ugnayan ng audience, na nagpapahiwatig ng planadong mga taktika sa pagpapalaganap.
Dalawang tweet na ang teksto ay ginawa ng banta gamit ang aming mga modelo upang isulong ang magkabilang panig ng debate tungkol sa mga taripa.
Ikalawa, ginamit ng mga account ang aming mga kakayahan sa pag-generate ng larawan upang gumawa ng mga estilong logo na ginamit bilang mga larawang profile ng mga kathang-isip na persona sa iba't ibang social platform. Partikular na nakatuon ang mga account sa pagbuo ng mga persona ng mga beterano ng US na kritikal sa kasalukuyang administrasyon ng US.
Account sa BlueSky na nag-post ng nilalamang ginawa ng network na ito. Ginawa ang logo ng “Veterans for Justice” gamit ang aming mga modelo.
Panghuli, palaging humihingi ang mga account ng code at mga paraan upang kumuha ng personal na data—gaya ng mga profile ng user, listahan ng mga follower, at iba pang detalye—mula sa mga social platform tulad ng X at Bluesky gamit ang mga tool na gaya ng Tweepy, Nitter, at pampublikong API ng Bluesky. Bukod dito, humingi ang mga account ng gabay mula sa aming mga modelo upang masuri ang data ng profile para sa mga personal na katangian at kaugnayan sa mga organisasyon, na posibleng gamitin upang ikategorya ang mga indibidwal o tukuyin ang kanilang mga ugnayan at katangian.
Mga output
Gumawa ang mga account ng mapanghating nilalaman tungkol sa iba't ibang usapin sa diskursong pampolitika ng U.S., na kadalasa'y ginagawa sa iisang operational session. Alinsunod sa mga kilalang pamamaraang ginagamit sa mga operasyong pang-impluwensiya, malamang na dinisenyo ito upang samantalahin ang umiiral na pagkakahating pampolitika sa halip na magsulong ng isang partikular na paninindigang ideolohikal. Dahil sa dami ng nilalaman at pagtutok sa mensaheng para sa mga Amerikano, tinawag namin ang operasyong ito na “Uncle Spam.”
Mga tweet na may tekstong ginawa ng aming mga modelo at ipinost ng mga kathang-isip na persona.
Epekto
Gamit ang Breakout Scale(magbubukas sa bagong window) para sa epekto ng IO, tinataya namin ito bilang Kategorya 2: aktibidad sa maraming platform, walang malawakang paglaganap o kakaunti lamang ang pakikipag-ugnayan. Kakaunti ang tunay na pakikipag-ugnayang natanggap ng mga social media account na nag-post ng nilalamang ginawa ng aming mga modelo. Karamihan sa mga post sa X na inilathala ng network na ito ay nakatanggap ng kakaunti o walang like o repost, at iilang post lamang ang nakatanggap ng pakikipag-ugnayan. May ilang social media account na may libo-libong follower, ngunit hindi namin mataya kung tunay ang mga ito, at tila hindi nagbunga ng pakikipag-ugnayan sa mga post ang dami ng follower.