Operacioni «Xhaxhi Spam»: veprimtari ndikimi për polarizimin në SHBA
OpenAI bllokoi llogari me origjinë nga Kina që përdornin IA-në për të krijuar përmbajtje politike për SHBA-në dhe për të hulumtuar njerëz, lëvizje dhe komunitete në internet.
Ky studim rasti u botua fillimisht në raportin e OpenAI për qershorin 2025(hapet në një dritare të re).
Aktori
Bllokuam disa llogari ChatGPT të lidhura me një operacion ndikimi me origjinë nga Kina(hapet në një dritare të re), pas një informacioni nga homologët tanë në Meta. Operacioni krijoi përmbajtje polarizuese për rrjetet sociale, e cila mbështeste të dyja palët e temave përçarëse në debatin politik amerikan, duke përfshirë tekste dhe imazhe profili të krijuara me IA në platforma si X dhe Bluesky.
Sjellja
Rrjeti i përdori modelet tona për disa detyra, kryesisht për të krijuar komente në rrjetet sociale që mbështesnin ose kritikonin tarifat. Llogaritë u kërkuan modeleve tona oraret më të përshtatshme të publikimit për të maksimizuar angazhimin e audiencës, çka tregon përdorimin e taktikave të planifikuara të amplifikimit.
Dy postime, tekstet e të cilave u krijuan nga ky aktor kërcënues me modelet tona, duke mbështetur secilën palë të debatit mbi tarifat.
Së dyti, llogaritë përdorën aftësitë tona për gjenerim imazhi për të krijuar logo të stilizuara, të cilat më pas u përdorën si fotografi profili për persona të sajuara nëpër platformat sociale. Në veçanti, llogaritë u përqendruan në krijimin e personazheve të veteranëve amerikanë që kritikonin administratën aktuale të SHBA-së.
Llogari në Bluesky që publikoi përmbajtje të krijuar nga ky rrjet. Logoja «Veteranët për Drejtësi» u krijua duke përdorur modelet tona.
Së fundi, llogaritë kërkuan vazhdimisht kod dhe metoda për nxjerrjen e të dhënave personale nga platforma si X dhe Bluesky, përfshirë profile përdoruesish, lista ndjekësish dhe hollësi të tjera, duke përdorur mjete si Tweepy, Nitter dhe API-në publike të Bluesky. Gjithashtu, llogaritë përdorën modelet tona për udhëzime mbi analizimin e të dhënave të profileve për karakteristika personale dhe lidhje organizative, potencialisht për të kategorizuar individë ose për të nxjerrë përfundime rreth lidhjeve dhe tipareve të tyre.
Rezultatet
Llogaritë prodhuan përmbajtje polarizuese që mbulonte debatin politik amerikan, shpesh brenda të njëjtave sesione operative. Në përputhje me metodologjitë e njohura të operacioneve të ndikimit, kjo duket se ishte projektuar për të shfrytëzuar ndarjet ekzistuese politike, jo për të promovuar një qëndrim të caktuar ideologjik. Vëllimi i përmbajtjes dhe përqendrimi te mesazhet për publikun amerikan na shtynë ta quanim këtë operacion «Xhaxhi Spam».
Postime me tekst të krijuar nga modelet tona dhe të publikuara nga persona të sajuara.
Ndikimi
Sipas Shkallës së depërtimit(hapet në një dritare të re) për ndikimin e operacioneve të ndikimit, do ta vlerësonim si Kategoria 2: veprimtari në disa platforma, pa depërtim ose me angazhim minimal. Llogaritë e rrjeteve sociale që publikonin përmbajtje të krijuar nga modelet tona patën pak angazhim autentik. Shumica e postimeve në X të publikuara nga ky rrjet morën pak ose aspak pëlqime apo ripostime; vetëm disa postime patën njëfarë angazhimi. Disa nga llogaritë e rrjeteve sociale kishin mijëra ndjekës, por nuk mundëm të vlerësonim autenticitetin e tyre dhe numri i ndjekësve nuk dukej se sillte angazhim në postime.