Operazzjoni “Iz-Ziju Spam”: attività ta’ influwenza polarizzanti fl-Istati Uniti
OpenAI pprojbiet kontijiet li joriġinaw miċ-Ċina u li użaw l-IA biex joħolqu kontenut politiku dwar l-Istati Uniti u jagħmlu riċerka dwar persuni, movimenti u komunitajiet online.
Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Ġunju 2025(jinfetaħ f’tieqa ġdida).
Attur
Ipprojbejna għadd ta’ kontijiet ta’ ChatGPT marbuta ma’ operazzjoni ta’ influwenza li oriġinat miċ-Ċina(jinfetaħ f’tieqa ġdida), wara informazzjoni li rċevejna mingħand il-kollegi tagħna f’Meta. L-operazzjoni ħolqot kontenut polarizzanti għall-midja soċjali li appoġġa ż-żewġ naħat ta’ suġġetti diviżivi fid-diskors politiku tal-Istati Uniti, inkluż test u immaġnijiet tal-profili ġġenerati bl-IA fuq pjattaformi bħal X u Bluesky.
Imġiba
In-netwerk uża l-mudelli tagħna għal diversi kompiti, l-aktar biex joħloq kummenti għall-midja soċjali favur jew kontra t-tariffi. Il-kontijiet staqsew lill-mudelli tagħna dwar l-aħjar ħinijiet għall-pubblikazzjoni biex jimmassimizzaw l-interazzjoni tal-udjenza, u dan jindika l-użu ta’ tattiċi ta’ amplifikazzjoni maħsuba bir-reqqa.
Żewġ tweets li t-testi tagħhom inħolqu minn dan l-attur ta’ theddid permezz tal-mudelli tagħna, wieħed favur u l-ieħor kontra t-tariffi.
It-tieni, il-kontijiet użaw il-kapaċitajiet tagħna tal-ġenerazzjoni tal-immaġnijiet biex joħolqu logos stilizzati, li mbagħad intużaw bħala ritratti tal-profil għal identitajiet fittizji fuq diversi pjattaformi soċjali. B’mod partikolari, il-kontijiet iffukaw fuq il-ħolqien ta’ identitajiet ta’ veterani Amerikani li jikkritikaw lill-amministrazzjoni attwali tal-Istati Uniti.
Kont fuq Bluesky li ppubblika kontenut maħluq minn dan in-netwerk. Il-logo “Veterani għall-Ġustizzja” nħoloq permezz tal-mudelli tagħna.
Fl-aħħar nett, il-kontijiet talbu b’mod ripetut kodiċi u metodi biex jiġbdu data personali—bħal profili tal-utenti, listi ta’ segwaċi u dettalji oħra—minn pjattaformi soċjali bħal X u Bluesky, permezz ta’ għodod bħal Tweepy, Nitter u l-API pubblika ta’ Bluesky. Barra minn hekk, il-kontijiet użaw il-mudelli tagħna għal gwida dwar kif janalizzaw id-data tal-profili biex jidentifikaw karatteristiċi personali u affiljazzjonijiet organizzattivi, potenzjalment biex jikklassifikaw lill-individwi jew jiddeduċu r-rabtiet u l-karatteristiċi tagħhom.
Riżultati
Il-kontijiet ħolqu kontenut polarizzanti dwar id-diskors politiku tal-Istati Uniti, spiss fl-istess sessjonijiet operattivi. B’mod konsistenti mal-metodoloġiji magħrufa tal-operazzjonijiet ta’ influwenza, jidher li dan x’aktarx kien maħsub biex jisfrutta l-firdiet politiċi eżistenti aktar milli jippromwovi pożizzjoni ideoloġika speċifika. Minħabba l-volum tal-kontenut u l-enfasi fuq messaġġi indirizzati lill-Amerikani, tajna lil din l-operazzjoni l-laqam “Iz-Ziju Spam”.
Tweets b’test maħluq mill-mudelli tagħna u ppubblikati minn identitajiet fittizji.
Impatt
Bl-użu tal-Iskala tal-Firxa(jinfetaħ f’tieqa ġdida) għall-impatt tal-operazzjonijiet ta’ influwenza, nikklassifikaw dan bħala Kategorija 2: attività fuq diversi pjattaformi, mingħajr firxa usa’ jew b’interazzjoni minima. Il-kontijiet tal-midja soċjali li ppubblikaw kontenut maħluq mill-mudelli tagħna rċevew ftit interazzjoni awtentika. Il-biċċa l-kbira tal-posts fuq X ippubblikati minn dan in-netwerk irċevew ftit għoġbiet jew ripubblikazzjonijiet, jew xejn, filwaqt li ftit posts biss kisbu xi interazzjoni. Uħud mill-kontijiet tal-midja soċjali kellhom eluf ta’ segwaċi, iżda ma stajniex nivvalutaw l-awtentiċità tagħhom, u l-għadd ta’ segwaċi ma deherx li ssarraf f’interazzjonijiet mal-posts.