Operațiunea „Unchiul Spam”: activitate de influență pentru polarizarea SUA
OpenAI a blocat conturi provenite din China care foloseau IA pentru a genera conținut politic despre SUA și a cerceta persoane, mișcări și comunități online.
Acest studiu de caz a fost publicat inițial în raportul OpenAI din iunie 2025(se deschide într-o fereastră nouă).
Actor
Am blocat mai multe conturi ChatGPT asociate unei operațiuni de influență provenite din China(se deschide într-o fereastră nouă), în urma unei informații primite de la colegii noștri de la Meta. Operațiunea a generat conținut polarizant pentru rețelele sociale, care susținea ambele tabere în privința unor subiecte controversate din discursul politic american, inclusiv texte și imagini de profil generate cu IA, pe platforme precum X și Bluesky.
Comportament
Rețeaua a folosit modelele noastre pentru mai multe sarcini, în principal pentru a genera comentarii pe rețelele sociale care susțineau sau criticau taxele vamale. Conturile au solicitat modelelor noastre orele optime de publicare pentru a maximiza interacțiunile publicului, ceea ce indică folosirea unor tactici calculate de amplificare.
Două tweeturi ale căror texte au fost generate de acest actor folosind modelele noastre, fiecare promovând câte o tabără a dezbaterii privind taxele vamale.
În al doilea rând, conturile au folosit capacitățile noastre de generare de imagini pentru a crea sigle stilizate, utilizate apoi ca imagini de profil pentru a susține identități fictive pe diverse platforme sociale. Conturile s-au concentrat în special pe crearea unor identități de veterani americani care criticau actuala administrație a SUA.
Cont Bluesky care a publicat conținut generat de această rețea. Sigla „Veterani pentru justiție” a fost generată folosind modelele noastre.
În cele din urmă, conturile au solicitat în mod repetat cod și metode pentru extragerea datelor cu caracter personal de pe platforme precum X și Bluesky — inclusiv profiluri de utilizator, liste de urmăritori și alte detalii — folosind instrumente precum Tweepy, Nitter și API-ul public Bluesky. În plus, conturile au folosit modelele noastre pentru a obține îndrumări privind analizarea datelor din profiluri în vederea identificării caracteristicilor personale și a afilierilor organizaționale, posibil pentru a clasifica persoane sau a deduce asocieri și atribute.
Răspunsuri generate
Conturile au produs conținut polarizant pe teme din discursul politic american, adesea în cadrul acelorași sesiuni operaționale. În concordanță cu metodologiile cunoscute ale operațiunilor de influență, aceasta pare să fi fost concepută pentru a exploata diviziunile politice existente, nu pentru a promova o anumită poziție ideologică. Volumul conținutului și accentul pus pe mesajele adresate publicului american ne-au determinat să numim această operațiune „Unchiul Spam”.
Tweeturi cu texte generate de modelele noastre, publicate de identități fictive.
Impact
Folosind Scala de propagare(se deschide într-o fereastră nouă) pentru impactul operațiunilor de influență, am evalua această activitate drept Categoria 2: activitate pe mai multe platforme, fără propagare sau cu interacțiuni minime. Conturile de pe rețelele sociale care publicau conținut generat de modelele noastre au atras puține interacțiuni autentice. Majoritatea postărilor pe X publicate de această rețea au primit puține aprecieri sau redistribuiri ori chiar deloc; doar câteva postări au atras unele interacțiuni. Unele conturi de pe rețelele sociale aveau mii de urmăritori, dar nu am putut evalua autenticitatea acestora, iar numărul lor nu părea să se reflecte în interacțiunile cu postările.