Manwal tax-Xaqq ta’ Tama: Attività li x’aktarx toriġina miċ-Ċina u timmira lejn persuni Amerikani

Dan l-istudju tal-każ ġie ppubblikat oriġinarjament fir-rapport ta’ OpenAI ta’ Frar 2026⁠(jinfetaħ f’tieqa ġdida) dwar it-tfixkil tal-użi malizzjużi tal-IA.

Ipprojbejna grupp żgħir ta’ kontijiet ta’ ChatGPT li x’aktarx kienu joriġinaw miċ-Ċina u li użaw il-mudelli tagħna biex jitolbu informazzjoni dwar persuni Amerikani, forums u postijiet fejn jinsab bini federali, kif ukoll gwida dwar software għat-tibdil tal-uċuħ. Dawn iġġeneraw ukoll emails bl-Ingliż li kienu jixbhu tentattivi ta’ inġinerija soċjali. Kienu jagħtu struzzjonijiet lill-mudelli tagħna biċ-Ċiniż, kienu attivi l-aktar matul il-ħinijiet tax-xogħol fiċ-Ċina kontinentali u kienu jużaw VPNs biex jaċċessaw il-pjattaforma tagħna.

Il-kontijiet iġġeneraw abbozzi ta’ emails li kienu jidhru li ntbagħtu minn impjegati ta’ kumpanija bbażata f’Hong Kong bl-isem “Nimbus Hub Consulting”. Madankollu, taw struzzjonijiet lill-mudelli tagħna b’karattri Ċiniżi simplifikati (tipikament użati fiċ-Ċina kontinentali) minflok b’karattri Ċiniżi tradizzjonali (tipikament użati f’Hong Kong), u dan jissuġġerixxi li l-operaturi fil-fatt kienu bbażati fiċ-Ċina kontinentali. Barra minn hekk, kont wieħed iġġenera email li kienet tippreżenta lill-mittent bħala rappreżentant ta’ organizzazzjoni tar-relazzjonijiet pubbliċi bbażata f’Shanghai li tippromwovi skambji ekonomiċi u kulturali bejn l-Istati Uniti u Shanghai. Billi l-isem tal-kumpanija jirreferi għal “Nimbus”, li tfisser sħaba tax-xita jew awreola, semmejna din l-operazzjoni “Manwal tax-Xaqq ta’ Tama”.

Il-kontijiet iġġeneraw abbozzi ta’ emails bl-Ingliż indirizzati lil uffiċjali tal-gvernijiet tal-istati Amerikani jew lil analisti tal-politika li jaħdmu fin-negozju u l-finanzi. Dehru li kienu qed jistiednu lil dawn ir-riċevituri jieħdu sehem f’konsultazzjonijiet bi ħlas, li ddeskrivew bħala interpretazzjoni tal-politika u għoti ta’ pariri strateġiċi lill-klijenti tagħhom. Talbu li l-abbozzi tal-emails ikunu konċiżi, ċari u professjonali, b’linji tas-suġġett li joħolqu sens ta’ urġenza u jużaw messaġġi psikoloġiċi sottili.

Barra minn hekk, il-kontijiet ta’ ChatGPT użaw il-mudelli tagħna biex ifittxu informazzjoni ġenerali, u l-mudell tagħna wieġeb permezz ta’ sorsi disponibbli għall-pubbliku. Dan kien jinkludi mistoqsijiet dwar dawn is-suġġetti:

• Fejn jinsabu l-uffiċċji tal-gvern federali tal-Istati Uniti, inklużi l-uffiċċji prinċipali, u lista kklassifikata tal-istati b’konċentrazzjonijiet kbar ta’ aġenziji u uffiċjali federali.

• Id-distribuzzjoni tal-persunal federali tal-Istati Uniti skont l-istat.

• Persuni Amerikani, bħall-preżentaturi ta’ Voice of America, inklużi l-intervisti li għamlu fil-passat u s-suġġetti li jinteressawhom.

• Forums u siti web li jintużaw ta’ spiss minn professjonisti u persuni li qed ifittxu xogħol fis-settur tal-ekonomija u l-finanzi tal-Istati Uniti.

Ta’ min jinnota li kont wieħed talab gwida dwar kif iniżżel u jinstalla fuq il-kompjuter tiegħu pjattaforma għall-manipulazzjoni tal-uċuħ magħrufa bħala FaceFusion, li tintuża għat-tibdil tal-uċuħ u għal titjib ieħor fil-midja. Skont l-attività tagħhom fuq ChatGPT, iddeskrivew l-intenzjoni li jużaw speċifikament il-funzjoni tagħha li tbiddel l-uċuħ f’ħin reali. Talbu gwida għall-installazzjoni pass pass u mhux teknika, u sostnew li kienu jibdew fl-ipprogrammar tal-kompjuters, għalhekk l-istruzzjonijiet kellhom ikunu sempliċi. Tellgħu qabda tal-iskrin tal-ispeċifikazzjonijiet tal-hardware tal-kompjuter tagħhom biex tgħin fl-installazzjoni. Il-mudell wieġeb b’informazzjoni meħuda mis-sit web u mid-dokumentazzjoni ta’ FaceFusion disponibbli għall-pubbliku.

L-istruzzjonijiet tagħhom biex jiġġeneraw abbozzi ta’ emails permezz tal-mudelli tagħna kienu jixbhu manwal ta’ tattiċi⁠(jinfetaħ f’tieqa ġdida) ta’ inġinerija soċjali għal approċċ minn servizz tal-intelligence barrani, aktar milli messaġġi ordinarji ta’ reklutaġġ. Għal kull abbozz ta’ email, talbu dawn it-taqsimiet:

Stabbilixxi l-leġittimità: Ippreżentaw “Nimbus Hub” bħala ditta professjonali ta’ konsulenza strateġika b’għarfien espert awtorevoli fil-ġeopolitika u l-politika transnazzjonali. Inkludew link għas-sit web ta’ Nimbus Hub (ara l-qabda tal-iskrin hawn taħt).

Ippersonalizza u faħħar lill-persuna fil-mira: Qalu lill-mudell biex isemmi espliċitament l-esperjenza tar-riċevitur fis-settur pubbliku bħala prova li kien il-persuna ideali għall-kariga. F’każ minnhom, il-kont tella’ qabdiet tal-iskrin tal-profil ta’ LinkedIn ta’ persuna Amerikana bbażata f’Shanghai u ta struzzjonijiet lill-mudell biex jippersonalizza l-abbozz tal-email abbażi tat-test fil-qabdiet tal-iskrin dwar l-esperjenzi personali u l-isfond ta’ dik il-persuna.

Offri diversi inċentivi: L-offerta ta’ konsulenza ġeneralment kienet tintuża bħala lixka: opportunità online bi qligħ tajjeb, bonuses skont il-prestazzjoni u premjijiet għal min jirreferi persuni oħra, filwaqt li d-dettalji tax-xogħol innifsu kienu jibqgħu vagi.

Uża lingwaġġ rassiguranti u naqqas il-perċezzjoni tar-riskji: Spiss sostnew li x-xogħol kien bla stress, li l-ħlas isir fil-ħin u li kollox kien kunfidenzjali.

Mexxi l-komunikazzjoni barra mill-pjattaforma malajr: Dejjem ippruvaw iħajru lir-riċevituri jieqfu jikkomunikaw bl-email u jagħmlu l-ewwel laqgħa online b’vidjokonferenza permezz ta’ WhatsApp, Zoom jew Teams.

F’dan il-każ, l-interazzjonijiet tan-networks mal-mudell ma kinux teknikament sofistikati, u t-talbiet tagħhom xi drabi kienu jixbhu talbiet plawżibbli għall-abbozzar ta’ stediniet ta’ reklutaġġ jew għall-installazzjoni leġittima ta’ software. Madankollu, it-tattiċi tal-utenti li jinħbew wara identità korporattiva falza u l-interess tagħhom f’suġġetti ġeopolitiċi jindikaw intenzjoni possibbli ta’ reklutaġġ għal skopijiet ostili.

Mill-użu ta’ ChatGPT minn dawn il-kontijiet, ma kien hemm ebda evidenza li rnexxielhom iġiegħlu lill-persuni fil-mira jwieġbu għall-istediniet tagħhom. Ma stajniex nistabbilixxu b’mod indipendenti jekk l-istediniet bl-email intbagħtux fil-fatt jew jekk xi wieħed mir-riċevituri fil-mira weġibx.

Diversi gvernijiet demokratiċi (eż. l-Istati Uniti⁠(jinfetaħ f’tieqa ġdida), ir-Renju Unit⁠(jinfetaħ f’tieqa ġdida), l-Awstralja⁠(jinfetaħ f’tieqa ġdida)) wissew li servizzi tal-intelligence barranin qed jimmiraw lejn impjegati attwali u preċedenti tal-gvern biex jirreklutawhom, billi jippreżentaw ruħhom bħala ditti ta’ konsulenza u entitajiet oħra fuq pjattaformi ta’ networking soċjali u professjonali. Jista’ jkun diffiċli li tiddistingwi messaġġi ordinarji ta’ reklutaġġ minn dawn l-approċċi mmirati ta’ inġinerija soċjali, għax għandhom xi karatteristiċi simili. Madankollu, il-kuntatti leġittimi ġeneralment ikunu mfassla għal proċessi ta’ għażla aktar bil-mod u jkun fihom informazzjoni verifikabbli dwar it-titlu tal-kariga, dettalji kredibbli dwar min iħaddem, firxiet ta’ remunerazzjoni raġonevoli għas-suq u links għal avviżi reali ta’ impjieg. Fil-qosor, jekk xi ħaġa tidher tajba wisq biex tkun vera, aktarx li mhijiex vera.