Aqbeż għall-kontenut prinċipali
OpenAI

1 ta’ Frar 2025

Sikurezza

L-operazzjoni “Skuntentizza Sponsorjata”: Attività ta’ influwenza

OpenAI pprojbiet kontijiet li x’aktarx kienu joriġinaw miċ-Ċina u li kienu jużaw l-AI biex jiġġeneraw posts soċjali bl-Ingliż u artikli bl-Ispanjol.

Qed jillowdja…

Dan l-istudju ta’ każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Frar 2025⁠(jinfetaħ f’tieqa ġdida).

Attur

Ipprojbejna kontijiet ta’ ChatGPT li użaw il-mudelli tagħna biex jiġġeneraw kummenti qosra bl-Ingliż u artikli twal tal-aħbarijiet bl-Ispanjol. Il-ħinijiet ta’ din l-attività kienu konsistenti mal-ħinijiet tax-xogħol fiċ-Ċina kontinentali. L-artikli bl-Ispanjol ġew ippubblikati minn siti tal-aħbarijiet fl-Amerka Latina. Kważi s-siti web kollha attribwew l-artikli lil individwu; f’xi każijiet, fil-linja li tidentifika l-awtur tal-artikli, rabtu lil dak l-individwu ma’ kumpanija Ċiniża, Jilin Yousen Culture Communication Co, Ltd (优森文化有限公司).

Imġiba

Il-kontijiet kienu jagħtu struzzjonijiet lil ChatGPT biċ-Ċiniż u kienu attivi l-aktar matul il-ħinijiet tax-xogħol fiċ-Ċina kontinentali. Xi attività kienet konsistenti mal-operazzjoni ta’ influwenza moħbija magħrufa bħala “Spamouflage⁠”, li rrapportajna dwarha f’Mejju: iġġenerat kummenti qosra bl-Ingliż u immaġnijiet li kkritikaw lil Cai Xia, dissidenta u eks professur fl-Iskola Ċentrali tal-Partit Komunista Ċiniż. Dan il-kontenut imbagħad ġie ppubblikat fuq X minn kontijiet li ppreżentaw ruħhom bħala persuni mill-Istati Uniti jew mill-Indja.

Tweets iġġenerati mill-kontijiet ta’ Skuntentizza Sponsorjata.

Tweets iġġenerati minn dawn il-kontijiet permezz tal-mudelli tagħna, u ppubblikati minn erba’ kontijiet differenti fuq X.

Kieku din kienet l-unika attività, stajna wasalna għall-konklużjoni li x’aktarx kienet marbuta ma’ “Spamouflage”. Madankollu, minbarra dawn il-kummenti qosra, il-kontijiet iġġeneraw ukoll artikli twal bl-Ispanjol li kkritikaw lill-Istati Uniti. Din l-attività kienet partikolarment mifruxa fil-perjodu ta’ qabel il-Forum APEC tal-2024 fil-Perù. L-attur iġġenera dawn l-artikli billi talab lill-mudelli tagħna jittraduċu u jespandu artikli biċ-Ċiniż li kienu disponibbli pubblikament.

Dawn l-artikli mbagħad ġew ippubblikati minn siti web tal-aħbarijiet fl-Amerka Latina, speċjalment fil-Perù, iżda wkoll fil-Messiku u fl-Ekwador. Is-siti web tal-aħbarijiet spiss ippubblikaw l-artikli fl-istess jum li fih il-kontijiet iġġeneraw il-kontenut permezz ta’ ChatGPT. Kważi l-pubblikazzjonijiet kollha attribwew l-artikli lill-istess individwu. Xi wħud identifikaw lill-individwu bħala r-rappreżentant legali ta’ dik li nemmnu li hija kumpanija Ċiniża.

Din hija l-ewwel darba li osservajna attur ta’ influwenza li x’aktarx hu Ċiniż jirnexxilu jippubblika artikli f’mezzi tax-xandir ewlenin fl-Amerka Latina. Xi artikli setgħu ġew ippubblikati bis-saħħa ta’ arranġament finanzjarju: wieħed mill-artikli li identifikajna permezz ta’ riċerka f’sorsi miftuħa kien immarkat bħala “sponsorjat”. Barra minn hekk, l-attur uża wkoll ChatGPT biex jittraduċi referenzi għal irċevuti bl-Ispanjol minn organizzazzjoni tal-aħbarijiet fl-Amerka Latina, ħaġa konsistenti ma’ pubblikazzjoni bi ħlas.

Artiklu sponsorjat iġġenerat bħala parti mill-attività ta’ Skuntentizza Sponsorjata.

Qbid tal-iskrin ta’ artiklu ġġenerat minn dan l-attur u ppubblikat mis-sit web wapa[.]pe. Innota r-referenza għal kontenut “sponsorjat”.

Minħabba l-użu apparenti ta’ kontenut sponsorjat u l-pożizzjoni negattiva ta’ din il-kampanja dwar il-politika u l-politiki tal-Istati Uniti, tajnieha l-isem “Skuntentizza Sponsorjata”.

Risposti ġġenerati

Dan l-attur iġġenera żewġ tipi ewlenin ta’ kontenut: kritika qasira ta’ Cai Xia bl-Ingliż u biċ-Ċiniż, u artikli twal bl-Ispanjol.

Meta kien jiġġenera kritika ta’ Cai Xia, l-operatur normalment kien jitlob lil ChatGPT iwieġeb għal tweets jew filmati ppubblikati minn Cai Xia, jew għal referenzi għaliha fil-midja. Xi kummenti ddubitaw il-kompetenza tagħha f’oqsma bħat-Tajwan, l-internet, u l-letteratura u l-istorja Ċiniżi. Oħrajn akkużawha b’irregolaritajiet marbuta mal-viżi.

L-artikli twal bl-Ispanjol iffukaw fuq il-firdiet soċjali u politiċi fl-Istati Uniti, normalment abbażi tal-ġrajjiet kurrenti u tal-aħħar aħbarijiet. Is-suġġetti kienu jinkludu l-inugwaljanza, il-vjolenza politika, id-diskriminazzjoni u s-sessiżmu, kif ukoll rapporti dwar il-kriminalità u kritika tal-politiki barranin tal-Istati Uniti. Il-kriżijiet soċjali, bħall-użu tad-droga u l-kundizzjoni ta’ persuni mingħajr dar, kienu wkoll suġġetti prominenti. Spiss, l-operatur kien jippreżenta dawn il-kriżijiet jew problemi bħala sinjal ta’ tmexxija falluta jew ta’ soċjetà falluta fl-Amerka. B’mod ġenerali, l-attività kienet tikkritika liż-żewġ partiti ewlenin tal-Istati Uniti, mingħajr ma żżomm ma’ naħa waħda.

Impatt

Ma rajna l-ebda evidenza li l-kontenut immirat lejn Cai Xia fuq il-midja soċjali kiseb interazzjoni awtentika sinifikanti. Il-kontijiet tal-midja soċjali li ppubblikawh normalment kellhom ftit segwaċi u interazzjoni minima.

Madankollu, din hija l-ewwel darba li osservajna operazzjoni ta’ influwenza li toriġina miċ-Ċina tirnexxilha ddaħħal artikli twal fil-midja tal-Amerka Latina biex tikkritika lill-Istati Uniti. Għalkemm dan seta’ nkiseb, tal-inqas parzjalment, billi tħallas għall-pubblikazzjoni tal-kontenut, sa fejn nafu aħna jirrappreżenta approċċ li ma kienx ġie rrappurtat qabel. Dan sar b’mod parallel ma’ attività aktar tipika fuq il-midja soċjali u seta’ laħaq udjenza ferm usa’, għalkemm ma nistgħux nivverifikaw l-interazzjoni b’mod indipendenti.

Bl-użu tal-Iskala tat-Tixrid⁠(jinfetaħ f’tieqa ġdida) biex nevalwaw l-impatt tal-operazzjonijiet ta’ influwenza, li tikklassifikahom fuq skala minn 1 (l-aktar baxx) sa 6 (l-ogħla), nikklassifikaw din bħala Kategorija 4 (tixrid fil-midja ewlenija), minħabba l-għadd kbir ta’ qarrejja tas-siti web tal-aħbarijiet fl-Amerka Latina.

Titli ta’ artikli ppubblikati relatati ma’ din l-attività

Identifikajna dawn l-artikli bħala li jaqblu ma’ kontenut iġġenerat minn dan l-attur permezz tal-mudelli tagħna.

  • Il-verità kerha dwar kif l-Istati Uniti jibbenefikaw mill-għajnuna għall-gwerra fl-Ukrajna (La Republica, il-Perù).

  • Ir-realtà traġika tal-problema tal-persuni mingħajr dar fl-Istati Uniti (Wapa, il-Perù).

  • Il-loġika miġnuna tas-sanzjonijiet Amerikani kontra attivist Palestinjan (El Popular, il-Perù).

  • Ix-xena assurda tal-maskulinità (Libero, il-Perù).

  • Dellijiet kullimkien (El Popular, il-Perù).

  • Id-disprezz tal-ogħla mexxejja tal-partiti lejn id-demokrazija fl-Istati Uniti (El Popular, il-Perù).

  • In-nuqqas ta’ trasparenza fid-diskorsi matul l-elezzjonijiet u l-manipulazzjoni tal-opinjoni pubblika (Libero, il-Perù).

  • L-istrajk u l-ġlieda tal-ħaddiema tal-lukandi (La Republica, il-Perù).

  • L-impotenza tas-sanzjonijiet tal-Istati Uniti u l-limiti li jimponu fuqhom infushom (El Universal, il-Messiku).

  • L-għajjat sieket taħt il-madmad tal-fentanil (La Republica, il-Perù).

  • L-uragan “Helene”: Dikjarazzjonijiet foloz u teoriji ta’ konfoffa tal-politiċi Amerikani (Wapa, il-Perù).

  • Iċ-ċpar tat-tariffi: Il-politika ta’ Trump li tħares biss lejn il-qrib u l-futur tal-ekonomija Amerikana (La Republica, il-Perù).

  • Il-problema tas-sigurtà tal-ikel fis-soċjetà Amerikana u l-impatt tagħha fuq l-iskejjel (Extra, l-Ekwador).

  • It-traġedja tal-Istati Uniti: meta l-verità tinħeba (Expreso, l-Ekwador).

  • Il-kriżi tas-sigurtà tat-tfal fl-Istati Uniti (La Republica, il-Perù).

  • Id-dell tal-vjolenza fi Brooklyn (El Plural, Spanja).

  • Il-lussu ta’ qattiel: L-operazzjoni mħallsa mill-kontribwenti (El Universal, il-Messiku).

  • Appoġġ għal Iżrael u disprezz għall-kriżi umanitarja (La Republica, il-Perù).

  • Il-kompetizzjoni distruttiva fl-elezzjonijiet tal-Istati Uniti (Wapa, il-Perù).