Aqbeż għall-kontenut prinċipali
OpenAI

1 ta’ Mejju 2024

Sikurezza

Operazzjoni “Zero Zeno”: attività ta’ influwenza marbuta mal-Iżrael

OpenAI pprojbiet kontijiet marbuta ma’ operazzjoni li oriġinat fl-Iżrael u li ma kinitx irrappurtata qabel, imlaqqma “Zero Zeno”, li użat l-IA biex tiġġenera kontenut kontra l-Ħamas, kontra l-Qatar, favur Iżrael, kontra l-BJP u favur il-Histadrut.

Qed jillowdja…

Dan l-istudju tal-każ kien ippubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Mejju 2024⁠(jinfetaħ f’tieqa ġdida).

Attur

Ipprojbejna grupp ta’ kontijiet operati mill-Iżrael li kienu qed jintużaw biex jiġġeneraw u jeditjaw kontenut għal operazzjoni ta’ influwenza mifruxa fuq X, Facebook, Instagram, siti web u YouTube. In-network kien operat minn STOIC, kumpanija fl-Iżrael li tmexxi kampanji politiċi. F’ġieħ il-fundatur tal-iskola Stojka tal-filosofija, u biex nirriflettu l-livelli baxxi ta’ involviment li ġibed in-network, tajnieh il-laqam “Zero Zeno”.

Imġiba

Din l-operazzjoni mmirat lejn udjenzi fil-Kanada, fl-Istati Uniti u f’Iżrael b’kontenut bl-Ingliż u bl-Ebrajk. Fil-bidu ta’ Mejju, bdiet timmira lejn udjenzi fl-Indja b’kontenut bl-Ingliż. Jidher ukoll li kienet qed tipprepara biex tmexxi kampanja ta’ IO mmirata lejn udjenzi fil-Ghana.

L-operazzjoni użat il-mudelli tagħna biex tiġġenera artikli għall-web u kummenti għall-midja soċjali, li mbagħad ġew ippubblikati fuq diversi pjattaformi, b’mod partikolari Instagram, Facebook u X.

Kummenti bl-Ingliż iġġenerati minn dan in-network u ppubblikati fuq Instagram. Kemm il-post oriġinali kif ukoll it-tweġibiet ġew iġġenerati minn din il-kampanja.

Kummenti bl-Ingliż iġġenerati minn dan in-network u ppubblikati fuq Instagram. Kemm il-post oriġinali kif ukoll it-tweġibiet ġew iġġenerati minn din il-kampanja.

L-operazzjoni użat ukoll il-mudelli tagħna biex toħloq persuni fittizji u bijografiji għall-midja soċjali abbażi ta’ varjabbli bħall-età, il-ġeneru u l-post, u biex tagħmel riċerka dwar persuni f’Iżrael li kkummentaw pubblikament dwar it-trade union Histadrut f’Iżrael. Il-mudelli tagħna rrifjutaw li jipprovdu informazzjoni personali bi tweġiba għal dawn il-prompts.

Kontenut iġġenerat minn dan in-network ġie ppubblikat fuq diversi pjattaformi tal-midja soċjali. Riċerka minn sorsi miftuħa tal-Digital Forensic Research Lab tal-Atlantic Council⁠(jinfetaħ f’tieqa ġdida) identifikat parti mill-kontenut tiegħu fuq Facebook, Instagram u X; meta dawk il-kontijiet ġew diżattivati, l-operazzjoni kisbet oħrajn ġodda. Kontenut ieħor deher fuq erba’ siti web li ppreżentaw ruħhom bħala gruppi ta’ attivisti ffukati fuq il-kunflitt f’Gaża u fuq kwistjonijiet usa’ tar-relazzjonijiet bejn persuni ta’ fidi Lhudija u Musulmana: uc4canada.com, the-good-samaritan.com, ufnews.io u nonagenda.com.

F’xi każijiet, identifikajna kontijiet foloz ta’ din l-operazzjoni jikkummentaw fuq posts tal-midja soċjali magħmula mill-operazzjoni stess, aktarx biex joħolqu l-impressjoni ta’ involviment mill-udjenza.

Post fuq X minn kont assoċjat mal-attività identifikata għall-ewwel darba mid-DFRLab, flimkien mat-tweġibiet. It-tweġibiet kollha f’din l-immaġni ġew iġġenerati minn din il-kampanja.

Post fuq X minn kont assoċjat mal-attività identifikata għall-ewwel darba mid-DFRLab, flimkien mat-tweġibiet. It-tweġibiet kollha f’din l-immaġni ġew iġġenerati minn din il-kampanja.

Ħafna mill-kontijiet tal-midja soċjali li ppubblikaw il-kontenut ta’ dan in-network użaw ritratti tal-profil li jidhru li nħolqu b’tip eqdem ta’ intelliġenza artifiċjali: networks avversarji ġenerattivi (GAN). Immaġnijiet bħal dawn jistgħu jitniżżlu faċilment mill-internet. Minkejja kemm huwa faċli li jinħolqu dawn l-immaġnijiet, identifikajna diversi kontijiet tal-midja soċjali f’dan in-network li kienu qed jużaw l-istess ritratt. Kultant, żewġ kontijiet jew aktar bl-istess ritratt tal-profil kienu jwieġbu għall-istess post fuq il-midja soċjali.

Ritratti tal-profil ta’ kontijiet fuq X li ppubblikaw kummenti ġġenerati minn dan in-network. Ir-ritratt fih indikaturi viżivi konsistenti mal-ġenerazzjoni permezz ta’ GAN.

Ritratti tal-profil ta’ kontijiet fuq X li ppubblikaw kummenti ġġenerati minn dan in-network. Ir-ritratt fih indikaturi viżivi konsistenti mal-ġenerazzjoni permezz ta’ GAN.

Kontenut

Din l-operazzjoni kienet maqsuma f’għadd ta’ kampanji tematiċi, li l-biċċa l-kbira minnhom kienu marbuta b’mod ġenerali mal-kunflitt f’Gaża u mal-kwistjoni usa’ tar-relazzjonijiet bejn persuni ta’ fidi Lhudija u Musulmana. F’Mejju, waqqafna attività ffukata fuq l-elezzjonijiet Indjani inqas minn 24 siegħa wara li bdiet.

Riċerka minn sorsi miftuħa fi Frar⁠(jinfetaħ f’tieqa ġdida) iddeskriviet lil dan in-network jikkritika lill-aġenzija tan-NU għall-għajnuna fil-Palestina, l-UNRWA. Ir-rapport tad-DFRLab ta’ Marzu⁠(jinfetaħ f’tieqa ġdida) enfasizza kontenut iffukat fuq il-Kanada li kkritika lil dawk li l-posts tal-kampanja ddeskrivew bħala “Iżlamisti radikali” hemmhekk. Grupp ieħor iffoka fuq universitajiet fl-Istati Uniti u akkuża lid-dimostranti favur il-Palestina li qed jippromwovu l-antisemitiżmu u t-terroriżmu. Ir-raba’ grupp iffoka fuq il-Qatar, u ppreżenta l-investimenti tiegħu fl-Istati Uniti bħala theddida għall-istil ta’ ħajja Amerikan. Il-ħames grupp iġġenera posts għall-midja soċjali bl-Ebrajk. Dawn tipikament faħħru lill-organizzazzjoni tat-trade unions Histadrut u lit-tmexxija tagħha. Fl-aħħar nett, f’Mejju, in-network beda jiġġenera kummenti ffukati fuq l-Indja, li kkritikaw lill-partit BJP fil-gvern u faħħru lill-partit tal-oppożizzjoni Congress.

Kultant, jidher li n-network biddel is-suġġett tal-kontijiet tiegħu—pereżempju, kontijiet li qabel kienu ppubblikaw dwar il-Kanada qalbu l-attenzjoni lejn l-Istati Uniti, l-Indja jew il-Histadrut, jew lejn aktar minn wieħed minn dawn.

Tliet kummenti fuq X minn kont li ripetutament ippubblika kontenut iġġenerat minn din il-kampanja, bejn l-1 u l-4 ta’ Mejju 2024. L-ewwel post (isfel) jidher li kien tentattiv biex tinbena persona. It-tieni post jiffoka fuq il-Kanada u jinkludi post mill-kont ewlieni ta’ dan in-network iffukat fuq il-Kanada. It-tielet wieħed jiffoka fuq l-Indja.

Tliet kummenti fuq X minn kont li ripetutament ippubblika kontenut iġġenerat minn din il-kampanja, bejn l-1 u l-4 ta’ Mejju 2024. L-ewwel post (isfel) jidher li kien tentattiv biex tinbena persona. It-tieni post jiffoka fuq il-Kanada u jinkludi post mill-kont ewlieni ta’ dan in-network iffukat fuq il-Kanada. It-tielet wieħed jiffoka fuq l-Indja.

Parti mill-kontenut maħluq minn dan in-network ġiet ippubblikata fuq il-midja soċjali bi tweġiba għal personalitajiet prominenti tal-Punent miż-żewġ naħat tal-ispettru politiku. Dawn it-tweġibiet ġeneralment ma kellhom l-ebda rabta mal-post oriġinali. Pereżempju, kumment dwar il-Qatar “jixtri” lill-Amerka ġie ppubblikat bi tweġiba għal post dwar il-preferenzi mużikali tal-eks President Trump.

Fuq, post ta’ Laura Ingraham dwar il-preferenzi mużikali tal-President Trump. Isfel, post b’kumment iġġenerat minn dan in-network. Innota d-differenza fiċ-ċifri tal-involviment bejn il-post oriġinali u t-tweġiba.

Fuq, post ta’ Laura Ingraham dwar il-preferenzi mużikali tal-President Trump. Isfel, post b’kumment iġġenerat minn dan in-network. Innota d-differenza fiċ-ċifri tal-involviment bejn il-post oriġinali u t-tweġiba.

Valutazzjoni tal-impatt

L-attività ta’ Zero Zeno tidher li ftit li xejn ġibdet involviment, jekk ġibdet, għajr mill-kontijiet mhux awtentiċi tagħha stess. (Ħafna kontijiet diġà ġew diżattivati minn Meta u X, għalhekk iċ-ċifri attwali tal-involviment jistgħu ma jurux l-istampa sħiħa.)

Bl-użu tal-Breakout Scale⁠(jinfetaħ f’tieqa ġdida) biex nivvalutaw l-impatt tal-IO, li tikklassifika dawn l-operazzjonijiet fuq skala minn 1 (l-aktar baxxa) sa 6 (l-ogħla), nivvalutawha bħala operazzjoni tal-Kategorija 2, ikkaratterizzata minn attività ta’ pubblikazzjoni fuq diversi pjattaformi u siti web, iżda mingħajr evidenza li ġiet amplifikata b’mod sinifikanti minn persuni barra n-network.

Kanal ta’ YouTube assoċjat mal-kampanja ta’ din l-operazzjoni mmirata lejn il-Kanada. Sal-25 ta’ April 2024, kien ippubblika filmat wieħed, li ma kien kiseb l-ebda viżwalizzazzjoni.

Kanal ta’ YouTube assoċjat mal-kampanja ta’ din l-operazzjoni mmirata lejn il-Kanada. Sal-25 ta’ April 2024, kien ippubblika filmat wieħed, li ma kien kiseb l-ebda viżwalizzazzjoni.

Indikaturi

Identifikajna d-domains li ġejjin bħala assoċjati mal-kampanji ta’ Zero Zeno.

  • nonagenda.com

  • the-good-samaritan.com

  • uc4canada.com

  • ufnews.io