Remećenje prikrivene iranske operacije uticaja
Zabranili smo naloge povezane sa iranskom operacijom uticaja koja je koristila ChatGPT za generisanje sadržaja o više tema, uključujući predsedničku kampanju u SAD. Nismo videli naznake da je ovaj sadržaj dosegao značajnu publiku.
OpenAI je posvećen sprečavanju zloupotrebe i unapređenju transparentnosti u vezi sa sadržajem generisanim veštačkom inteligencijom. To uključuje naš rad na otkrivanju i zaustavljanju prikrivenih operacija uticaja (IO), koje pokušavaju da manipulišu javnim mnjenjem ili utiču na političke ishode dok skrivaju pravi identitet ili namere aktera koji stoje iza njih. Ovo je posebno važno u kontekstu mnogih izbora koji se održavaju 2024. godine. Tokom godine proširili smo svoj rad u ovoj oblasti, uključujući korišćenje sopstvenih AI modela radi boljeg otkrivanja i razumevanja zloupotrebe.
Ove nedelje identifikovali smo i uklonili grupu ChatGPT naloga koji su generisali sadržaj za prikrivenu iransku operaciju uticaja identifikovanu kao Storm-2035(отвара се у новом прозору). Ovim nalozima smo zabranili korišćenje naših usluga i nastavljamo da pratimo eventualne dalje pokušaje kršenja naših politika. Operacija je koristila ChatGPT za generisanje sadržaja fokusiranog na više tema — uključujući komentare o kandidatima sa obe strane na predsedničkim izborima u SAD — koji je zatim delila preko naloga na društvenim mrežama i veb-sajtova.
Slično prikrivenim operacijama uticaja koje smo prijavili u maju, izgleda da ova operacija nije ostvarila značajnu angažovanost publike. Većina objava na društvenim mrežama koje smo identifikovali dobila je malo ili nimalo lajkova, deljenja ili komentara. Takođe nismo pronašli naznake da su veb članci deljeni na društvenim mrežama. Koristeći Brookingsovu Breakout Scale(отвара се у новом прозору), koja procenjuje uticaj prikrivenih IO na skali od 1 (najniže) do 6 (najviše), ova operacija bila je na donjem kraju Kategorije 2 (aktivnost na više platformi, ali bez dokaza da su stvarni ljudi preuzeli ili široko delili njihov sadržaj). Naša istraga imala je koristi od informacija o operaciji koje je Microsoft objavio prošle nedelje.(отвара се у новом прозору)
Naša istraga je otkrila da je ova operacija koristila ChatGPT u dve svrhe: za generisanje dugih članaka i kraćih komentara za društvene mreže. Prvi tok rada proizvodio je članke o politici u SAD i globalnim događajima, objavljene na pet veb-sajtova koji su se predstavljali i kao progresivni i kao konzervativni mediji. Drugi tok rada kreirao je kratke komentare na engleskom i španskom, koji su objavljivani na društvenim mrežama. Identifikovali smo desetak naloga na X-u i jedan na Instagramu koji su bili uključeni u ovu operaciju. Neki od naloga na X-u predstavljali su se kao progresivni, a drugi kao konzervativni. Neke od tih komentara generisali su tako što su od naših modela tražili da preprave komentare koje su objavili drugi korisnici društvenih mreža.
Operacija je generisala sadržaj o nekoliko tema: pre svega o sukobu u Gazi, prisustvu Izraela na Olimpijskim igrama i predsedničkim izborima u SAD — a u manjoj meri i o politici u Venecueli, pravima latinskih zajednica u SAD (i na španskom i na engleskom) i škotskoj nezavisnosti. Svoj politički sadržaj mešali su sa komentarima o modi i lepoti, verovatno da bi delovali autentičnije ili u pokušaju da izgrade publiku.
Bez obzira na to što ova operacija nije dovela do značajne angažovanosti publike, ozbiljno shvatamo svaki pokušaj korišćenja naših usluga u stranim operacijama uticaja. Shodno tome, kao deo našeg rada na podršci široj zajednici u ometanju ove aktivnosti nakon uklanjanja naloga sa naših usluga, podelili smo obaveštajne podatke o pretnjama sa akterima iz vlade, kampanja i industrije. OpenAI ostaje posvećen otkrivanju i ublažavanju ove vrste zloupotrebe u velikom obimu kroz partnerstva sa industrijom, civilnim društvom i državnim institucijama, kao i korišćenjem snage generativne AI kao multiplikatora u našem radu. Nastavićemo da objavljujemo ovakve nalaze kako bismo podstakli razmenu informacija i najbolje prakse.
Naslovi dva članka koje je generisala ova operacija i objavila na dva svoja veb-sajta. Nismo videli dokaze da su ovi članci bili široko deljeni na društvenim mrežama.
Objave o kandidatima na izborima u SAD koje je generisala ova operacija, a objavljena su ih dva različita naloga na X-u. Ove objave su imale malo ili nimalo angažovanja.
Objave o lepoti koje je ova operacija generisala na engleskom i španskom, a objavljena su ih dva različita naloga na X-u. Ove slike smo proverili нашим DALL·E 3 klasifikatorom, koji je utvrdio da nisu generisane našim uslugama. Ove objave su imale malo ili nimalo angažovanja.
Domeni povezani sa ovom aktivnošću:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com