Kalo te përmbajtja kryesore
OpenAI

1 maj 2024

Siguria

Operacioni “Zero Zeno”: veprimtari ndikimi e lidhur me Izraelin

OpenAI ndaloi llogari të lidhura me një operacion të paraportuar me origjinë izraelite, të quajtur prej nesh “Zero Zeno”, që përdorte IA për të krijuar përmbajtje kundër Hamasit e Katarit, pro Izraelit e Histadrutit dhe kundër BJP-së.

Duke ngarkuar…

Ky rast studimor u botua fillimisht në raportin e OpenAI të majit 2024⁠(hapet në një dritare të re).

Aktori

Ndaluam një grup llogarish të menaxhuara nga Izraeli, të cilat përdoreshin për të krijuar dhe redaktuar përmbajtje për një operacion ndikimi që shtrihej në X, Facebook, Instagram, faqe interneti dhe YouTube. Rrjeti drejtohej nga STOIC, një kompani izraelite për menaxhimin e fushatave politike. Në nderim të themeluesit të shkollës stoike të filozofisë dhe për të pasqyruar nivelin e ulët të ndërveprimit që tërhoqi rrjeti, e kemi quajtur “Zero Zeno”.

Sjellja

Ky operacion synonte audienca në Kanada, Shtetet e Bashkuara dhe Izrael me përmbajtje në anglisht dhe hebraisht. Në fillim të majit, ai nisi të synonte audienca në Indi me përmbajtje në anglisht. Gjithashtu, duket se po përgatitej të zhvillonte një fushatë operacionesh ndikimi që synonte audienca në Ganë.

Operacioni përdori modelet tona për të krijuar artikuj në internet dhe komente për rrjetet sociale, të cilat më pas u postuan në disa platforma, veçanërisht në Instagram, Facebook dhe X.

Komente në anglisht, të krijuara nga ky rrjet dhe të postuara në Instagram. Si postimi fillestar, ashtu edhe përgjigjet u krijuan nga kjo fushatë.

Komente në anglisht, të krijuara nga ky rrjet dhe të postuara në Instagram. Si postimi fillestar, ashtu edhe përgjigjet u krijuan nga kjo fushatë.

Operacioni i përdori gjithashtu modelet tona për të krijuar personazhe dhe biografi fiktive për rrjetet sociale, bazuar në ndryshore të caktuara si mosha, gjinia dhe vendndodhja, si dhe për të hulumtuar persona në Izrael që kishin komentuar publikisht për sindikatën izraelite Histadrut. Modelet tona refuzuan të jepnin informacione personale në përgjigje të këtyre kërkesave.

Përmbajtja e krijuar nga ky rrjet u postua në disa platforma të rrjeteve sociale. Hulumtimi me burime të hapura nga Laboratori i Kërkimeve Digjitale Forenzike i Atlantic Council⁠(hapet në një dritare të re) identifikoi një pjesë të përmbajtjes së tij në Facebook, Instagram dhe X; kur ato llogari u çaktivizuan, operacioni siguroi të reja. Përmbajtje të tjera u shfaqën në katër faqe interneti që paraqiteshin si grupe aktivistësh të përqendruara te konflikti në Gazë dhe te çështjet më të gjera të marrëdhënieve mes besimtarëve hebrenj dhe myslimanë: uc4canada.com, the-good-samaritan.com, ufnews.io dhe nonagenda.com.

Në disa raste, identifikuam llogari të rreme të këtij operacioni që komentonin në postimet e vetë operacionit në rrjetet sociale, me gjasë për të krijuar përshtypjen e ndërveprimit nga audienca.

Postim në X nga një llogari e lidhur me veprimtarinë e identifikuar fillimisht nga DFRLab, së bashku me përgjigjet. Të gjitha përgjigjet në këtë imazh u krijuan nga kjo fushatë.

Postim në X nga një llogari e lidhur me veprimtarinë e identifikuar fillimisht nga DFRLab, së bashku me përgjigjet. Të gjitha përgjigjet në këtë imazh u krijuan nga kjo fushatë.

Shumë nga llogaritë në rrjetet sociale që postuan përmbajtjen e këtij rrjeti përdorën foto profili që duket se ishin krijuar me një lloj më të hershëm të inteligjencës artificiale: rrjetet kundërshtare gjeneruese (GAN). Imazhe të tilla mund të shkarkohen lehtësisht nga interneti. Pavarësisht se këto imazhe mund të krijohen lehtë, identifikuam disa llogari të këtij rrjeti në rrjetet sociale që përdornin të njëjtën foto. Ndonjëherë, dy ose më shumë llogari me të njëjtën foto profili i përgjigjeshin të njëjtit postim në rrjetet sociale.

Foto profili të llogarive në X që postuan komente të krijuara nga ky rrjet. Fotoja ka tregues pamorë që përputhen me krijimin nga GAN.

Foto profili të llogarive në X që postuan komente të krijuara nga ky rrjet. Fotoja ka tregues pamorë që përputhen me krijimin nga GAN.

Përmbajtja

Ky operacion ndahej në disa fushata tematike, shumica prej të cilave lidheshin në mënyrë të tërthortë me konfliktin në Gazë dhe me çështjen më të gjerë të marrëdhënieve mes besimtarëve hebrenj dhe myslimanë. Në maj, ndërpremë disa veprimtari të përqendruara te zgjedhjet në Indi, më pak se 24 orë pasi kishin nisur.

Një hulumtim me burime të hapura në shkurt⁠(hapet në një dritare të re) e përshkroi këtë rrjet duke kritikuar agjencinë e OKB-së për ndihmë në Palestinë, UNRWA-n. Raporti i DFRLab në mars⁠(hapet në një dritare të re) vuri në pah përmbajtje që përqendrohej te Kanadaja dhe kritikonte personat që postimet e fushatës i përshkruanin si “islamistë radikalë” në atë vend. Një grup tjetër u përqendrua te universitetet në Shtetet e Bashkuara dhe i akuzoi protestuesit pro-palestinezë se po nxitnin antisemitizmin dhe terrorizmin. Një grup i katërt u përqendrua te Katari, duke i paraqitur investimet e tij në SHBA si kërcënim ndaj mënyrës amerikane të jetesës. Një grup i pestë krijoi postime në hebraisht për rrjetet sociale. Këto zakonisht lavdëronin organizatën sindikale Histadrut dhe drejtuesit e saj. Së fundi, në maj, rrjeti nisi të krijonte komente të përqendruara tek India, që kritikonin partinë qeverisëse BJP dhe lavdëronin partinë opozitare Kongresi.

Ndonjëherë, rrjeti duket se ua ka ndryshuar temën llogarive të tij; për shembull, llogaritë që më parë kishin postuar për Kanadanë e kaluan vëmendjen te SHBA-ja, India ose Histadruti, apo te disa prej tyre njëherësh.

Tri komente në X nga një llogari që postonte vazhdimisht përmbajtje të krijuar nga kjo fushatë, 1–4 maj 2024. Postimi më i hershëm (poshtë) duket se ishte një përpjekje për të krijuar një identitet fiktiv. Postimi i dytë përqendrohet te Kanadaja dhe përfshin një postim nga llogaria kryesore e këtij rrjeti që synonte Kanadanë. I treti përqendrohet tek India.

Tri komente në X nga një llogari që postonte vazhdimisht përmbajtje të krijuar nga kjo fushatë, 1–4 maj 2024. Postimi më i hershëm (poshtë) duket se ishte një përpjekje për të krijuar një identitet fiktiv. Postimi i dytë përqendrohet te Kanadaja dhe përfshin një postim nga llogaria kryesore e këtij rrjeti që synonte Kanadanë. I treti përqendrohet tek India.

Një pjesë e përmbajtjes së krijuar nga ky rrjet u postua në rrjetet sociale si përgjigje ndaj figurave të njohura perëndimore nga të dyja anët e spektrit politik. Këto përgjigje, në përgjithësi, nuk kishin asnjë lidhje me postimin fillestar. Për shembull, një koment për Katarin që po “blinte” Amerikën u postua si përgjigje ndaj një postimi për preferencat muzikore të ish-Presidentit Trump.

Lart, postim i Laura Ingraham për preferencat muzikore të Presidentit Trump. Poshtë, postim që përmban një koment të krijuar nga ky rrjet. Vini re ndryshimin në shifrat e ndërveprimit mes postimit fillestar dhe përgjigjes.

Lart, postim i Laura Ingraham për preferencat muzikore të Presidentit Trump. Poshtë, postim që përmban një koment të krijuar nga ky rrjet. Vini re ndryshimin në shifrat e ndërveprimit mes postimit fillestar dhe përgjigjes.

Vlerësimi i ndikimit

Veprimtaria e Zero Zeno duket se tërhoqi pak ose aspak ndërveprim, përveçse nga vetë llogaritë e tij joautentike. (Shumë llogari janë çaktivizuar tashmë nga Meta dhe X, ndaj shifrat aktuale të ndërveprimit mund të mos japin panoramën e plotë.)

Duke përdorur Shkallën Breakout⁠(hapet në një dritare të re) për të vlerësuar ndikimin e operacioneve të ndikimit, e cila i rendit nga 1 (më i ulëti) në 6 (më i larti), do ta vlerësonim këtë si një operacion të Kategorisë 2, të karakterizuar nga postime në disa platforma dhe faqe interneti, por pa prova se është përforcuar ndjeshëm nga persona jashtë rrjetit.

Kanal në YouTube i lidhur me fushatën e këtij operacioni që synonte Kanadanë. Deri më 25 prill 2024, kishte postuar një video, e cila nuk kishte marrë asnjë shikim.

Kanal në YouTube i lidhur me fushatën e këtij operacioni që synonte Kanadanë. Deri më 25 prill 2024, kishte postuar një video, e cila nuk kishte marrë asnjë shikim.

Treguesit

Identifikuam domenet e mëposhtme si të lidhura me fushatat e Zero Zeno.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io