Manuali i anës së mirë: Veprimtari me gjasë nga Kina që synon persona në SHBA

Ky rast studimor u botua fillimisht në raportin e OpenAI të shkurtit 2026⁠(hapet në një dritare të re) për pengimin e përdorimeve keqdashëse të IA-së.

Bllokuam një grup të vogël llogarish ChatGPT, me gjasë me origjinë nga Kina, që përdorën modelet tona për të kërkuar informacion rreth personave në SHBA, forumeve dhe vendndodhjeve të ndërtesave federale, udhëzime për softuerë të ndërrimit të fytyrave, si dhe për të krijuar në anglisht emaile që ngjanin me përpjekje për inxhinieri sociale. Ata u dërgonin modeleve tona kërkesa në gjuhën kineze, ishin kryesisht aktivë gjatë orarit të punës në Kinën kontinentale dhe përdornin VPN për të hyrë në platformën tonë.

Llogaritë krijuan variante emailesh që pretendonin se dërgoheshin nga punonjësit e një kompanie me seli në Hong-Kong, të quajtur «Nimbus Hub Consulting». Megjithatë, ata u dërgonin modeleve tona kërkesa me shkronja të kinezishtes së thjeshtuar (që përdoren zakonisht në Kinën kontinentale), jo me shkronja të kinezishtes tradicionale (që përdoren zakonisht në Hong-Kong), çka sugjeronte se operatorët e vërtetë ndodheshin në Kinën kontinentale. Gjithashtu, një llogari krijoi një email që pretendonte se vinte nga një përfaqësues i një organizate të marrëdhënieve me publikun me seli në Shangai, e cila promovon shkëmbimet ekonomike dhe kulturore mes SHBA-së dhe Shangait. Meqë emri i kompanisë përmbante fjalën «Nimbus», që do të thotë re shiu ose aureolë, këtë operacion e quajtëm «Manuali i anës së mirë».

Llogaritë krijuan në anglisht variante emailesh drejtuar zyrtarëve shtetërorë në SHBA ose analistëve të politikave që punonin në fushën e biznesit dhe financave. Me sa dukej, ata i ftonin këta marrës të merrnin pjesë në konsulta me pagesë, të cilat i përshkruanin si interpretim politikash dhe këshillim strategjik për klientët e tyre. Kërkonin që variantet e emaileve të ishin të përmbledhura, të qarta dhe profesionale, me subjekte që krijonin ndjesi urgjence dhe përdornin nxitje të tërthorta psikologjike.

Gjithashtu, llogaritë ChatGPT i përdorën modelet tona për të gjetur informacione të përgjithshme, të cilave modeli ynë iu përgjigj duke përdorur burime të disponueshme publikisht. Këtu përfshiheshin pyetje për temat e mëposhtme:

• Vendndodhjet e zyrave të qeverisë federale të SHBA-së, përfshirë selitë kryesore, dhe një renditje e shteteve me përqendrim të lartë agjencish dhe zyrtarësh federalë.

• Shpërndarja e personelit federal të SHBA-së sipas shteteve.

• Persona në SHBA, si prezantuesit e Zërit të Amerikës, përfshirë intervistat e tyre të mëparshme dhe temat e interesit.

• Forumet dhe sajtet që përdoren zakonisht nga profesionistët dhe punëkërkuesit në sektorin e ekonomisë dhe financave në SHBA.

Veçanërisht, një llogari kërkoi udhëzime se si të shkarkonte dhe instalonte në kompjuter një platformë për manipulimin e fytyrave, të quajtur FaceFusion, e cila përdoret për ndërrimin e fytyrave dhe përmirësime të tjera të materialeve mediatike. Sipas aktivitetit të tyre në ChatGPT, ata pohuan se synonin të përdornin posaçërisht funksionin e saj për ndërrimin e fytyrave drejtpërdrejt. Kërkuan udhëzime joteknike hap pas hapi për instalimin dhe pohuan se ishin programues fillestarë, ndaj udhëzimet duhej të ishin të thjeshta. Për të ndihmuar me instalimin, ata ngarkuan një pamje ekrani me specifikimet harduerike të kompjuterit të tyre. Modeli u përgjigj me informacione të marra nga sajti dhe dokumentacioni publik i FaceFusion.

Udhëzimet e tyre për krijimin e varianteve të emaileve me modelet tona ngjanin me një manual⁠(hapet në një dritare të re) inxhinierie sociale për afrimin e objektivave nga një shërbim i huaj inteligjence, jo me mesazhe të zakonshme punësimi. Për çdo variant emaili, kërkonin pjesët e mëposhtme:

Të krijohet besueshmëri: «Nimbus Hub» paraqitej si një firmë profesionale konsulence strategjike, me ekspertizë të spikatur në gjeopolitikë dhe politikat ndërkombëtare. Ata përfshinin një lidhje drejt sajtit të Nimbus Hub (shihni pamjen e ekranit më poshtë).

Të personalizohet mesazhi dhe të miklohet objektivi: Ata e udhëzuan modelin të përmendte shprehimisht përvojën e marrësit në sektorin publik si provë se ai ishte pikërisht personi i duhur për rolin. Në një rast, llogaria ngarkoi pamje ekrani të profilit në LinkedIn të një personi nga SHBA-ja me banim në Shangai dhe e udhëzoi modelin ta personalizonte variantin e emailit sipas tekstit në pamjet e ekranit për përvojat personale dhe formimin e tij.

Të ofrohen disa stimuj: Oferta për konsulencë zakonisht paraqitej si një mundësi fitimprurëse në internet, me shpërblime për performancën dhe rekomandimet, ndërsa puna konkrete mbetej e paqartë.

Gjuhë qetësuese dhe zvogëlim i rreziqeve të perceptuara: Ata shpesh pohonin se puna ishte e qetë, pagesat bëheshin në kohë dhe gjithçka ishte konfidenciale.

Të zhvendoset shpejt komunikimi jashtë platformës: Ata përpiqeshin gjithmonë t’i largonin marrësit nga emaili dhe t’i kalonin në një videotelefonatë fillestare përmes WhatsApp, Zoom ose Teams.

Ndërveprimet e këtyre rrjeteve me modelin nuk ishin teknikisht të sofistikuara dhe kërkesat e tyre ndonjëherë ngjanin me hartimin e ftesave të besueshme për rekrutim ose me instalimin legjitim të softuerëve. Megjithatë, taktikat e përdoruesve për t’u fshehur pas një identiteti të rremë korporativ dhe interesi i tyre për tema gjeopolitike tregojnë një synim të mundshëm për rekrutim keqdashës.

Nga përdorimi i ChatGPT prej këtyre llogarive, nuk gjetëm prova se kishin arritur t’i bindnin personat e synuar t’u përgjigjeshin ftesave. Nuk mundëm të përcaktonim në mënyrë të pavarur nëse ftesat me email ishin dërguar vërtet apo nëse ishte përgjigjur ndonjë prej marrësve të synuar.

Disa qeveri demokratike (p.sh. SHBA-ja⁠(hapet në një dritare të re), Mbretëria e Bashkuar⁠(hapet në një dritare të re), Australia⁠(hapet në një dritare të re)) kanë paralajmëruar se shërbimet e huaja të inteligjencës po synojnë punonjës aktualë dhe të mëparshëm të administratës për rekrutim, duke u paraqitur si firma konsulence dhe subjekte të tjera në platformat e rrjeteve sociale dhe profesionale. Mund të jetë e vështirë të dallohen mesazhet e zakonshme të punësimit nga këto përpjekje të synuara të inxhinierisë sociale, sepse kanë disa tipare të ngjashme. Megjithatë, kontaktet legjitime zakonisht parashikojnë procese më të ngadalta përzgjedhjeje dhe përmbajnë informacion të verifikueshëm për pozicionin, të dhëna të besueshme për punëdhënësin, intervale të arsyeshme page sipas tregut dhe lidhje drejt njoftimeve reale të punës. Me pak fjalë, nëse duket tepër e mirë për të qenë e vërtetë, ka të ngjarë të mos jetë.