Operacioni “Numër i gabuar”: mashtrim me detyra i asistuar nga IA
OpenAI bllokoi llogari që ka të ngjarë ta kishin origjinën në Kamboxhia dhe përdornin IA-në për të mbështetur procese mashtrimi që synonin njerëz në Mbretërinë e Bashkuar.
Ky rast studimor u botua fillimisht në raportin e OpenAI për qershorin 2025(hapet në një dritare të re).
Aktori
Bllokuam llogari të ChatGPT që krijonin mesazhe të shkurtra rekrutimi në anglisht, spanjisht, suahilisht, kinjaruandisht, gjermanisht dhe kreolishten e Haitit. Këto mesazhe u ofronin marrësve paga të larta për detyra të parëndësishme, si pëlqimi i postimeve në rrjetet sociale, dhe i nxitnin të rekrutonin të tjerë. Operacioni dukej shumë i centralizuar dhe ka të ngjarë ta kishte origjinën në Kamboxhia.
Duke përdorur mjete përkthimi të fuqizuara nga IA-ja, mundëm të hetonim dhe të ndërprisnim me shpejtësi përdorimin e shërbimeve të OpenAI nga kjo fushatë.
Sjellja
Shumica e bisedave të rrjetit lidheshin me detyra përkthimi. Ata përdornin ChatGPT për të përkthyer fjali bisedore mes kinezishtes dhe disa gjuhëve të tjera, veçanërisht anglishtes, spanjishtes, kinjaruandishtes, suahilishtes, gjermanishtes dhe kreolishtes së Haitit. Këto detyra zakonisht alternoheshin mes përkthimit të një mesazhi hyrës në kinezisht dhe përkthimit të përgjigjes nga kinezishtja sërish në gjuhën origjinale.
Një pjesë e këtyre mesazheve u ngjante njoftimeve të pakërkuara për punë, që ofronin pagesë të lartë për orë me fare pak punë. Një mesazh i tillë iu dërgua me SMS një grupi në dukje të rastësishëm numrash celularë në Mbretërinë e Bashkuar, njëri prej të cilëve i përkiste një hetuesi të OpenAI. Këtë operacion e kemi quajtur “Numër i gabuar”, sipas SMS-së fillestare.
SMS i dërguar rastësisht një hetuesi të OpenAI, i krijuar me ChatGPT.
Aktorët keqdashës dukej se mbështeteshin në disa platforma mesazhesh. SMS-ja fillestare i udhëzonte marrësit të komunikonin në WhatsApp, ku ata që përgjigjeshin më pas drejtoheshin te një “mentor” në Telegram. Në disa aktivitete përmendej edhe aplikacioni i mesazheve BonChat. Mesazhet e para hyrëse në këto kanale nuk dukej se ishin krijuar me modelet tona. Ato përbëheshin nga mesazhe standarde që ka të ngjarë të përdoreshin në çdo bisedë.
Mesazh në WhatsApp i dërguar pas SMS-së. Ky mesazh nuk duket se është krijuar nga modelet tona.
Shumë nga detyrat e përkthimit përfshinin komunikime që pretendonin se vinin nga përfaqësues të kompanive të supozuara “punëdhënëse”. Të njëjtët emra kompanish shfaqeshin vazhdimisht në shumë biseda në ChatGPT të përfshira në këtë hetim. Mes tyre ishin Hyesung Advertising(hapet në një dritare të re) dhe Lightning Shared Scooter Co (LSSC)(hapet në një dritare të re). Raportimet publike i kanë identifikuar Hyesung dhe LSSC si skema të dyshuara mashtrimi me detyra. Ndonëse nuk e kemi verifikuar në mënyrë të pavarur natyrën e këtyre subjekteve, hetimi ynë zbuloi se mesazhet që pretendohej se vinin prej tyre krijoheshin nga përdorues kinezishtfolës të ChatGPT, të cilët ka të ngjarë të vepronin nga Kamboxhia.
Përgjigjet e gjeneruara
Kompanitë që ky rrjet pretendonte se përfaqësonte përfshinin një gamë të gjerë sektorësh, nga tregtimi i aksioneve dhe dhënia me qira e skuterëve deri te shitja e pëlqimeve në rrjetet sociale. Një sinjal i qartë alarmi ishte oferta për të paguar më shumë se 5 $ për një pëlqim të vetëm në TikTok; për krahasim, shqyrtimi ynë manual i tregjeve në internet tregoi se disa shitës pëlqimesh në rrjetet sociale kërkojnë më pak se 10 $ për 1 000 pëlqime.
Duke ndërthurur treguesit jashtë platformës me vëzhgimet e brendshme, identifikuam një model të përsëritur të procesit të punës. Për ta bërë këtë taktikë më të kuptueshme dhe klasifikimin e saj më të thjeshtë, e përshkruajmë modelin kështu: kontakti (qasja e pakërkuar), entuziazmi (ngjallja e interesit) dhe goditja (zhvatja e parave):
Kontakti (qasja e pakërkuar): Rrjeti krijon përmbajtje për të kontaktuar persona pa komunikim paraprak, zakonisht duke ofruar paga jashtëzakonisht të larta për fare pak punë ose duke premtuar fitime të mëdha nga investimet në bursë. Këto oferta përfshijnë pagesa të larta për detyra të thjeshta, si pëlqimi i postimeve në rrjetet sociale, ose mundësi fitimprurëse investimi.
Entuziazmi (ngjallja e interesit): Rrjeti përkthen biseda, me gjasë mes operatorit dhe “punonjësve” të tij. Këto shkëmbime përfshijnë hollësi logjistike për detyrat, por shpesh ndërthuren me mesazhe motivuese për fitimet dhe shpërblimet e mundshme.
Goditja (zhvatja e parave): Rrjeti krijon dhe/ose dërgon përmbajtje që i ushtron presion “punonjësit” ose “investitorit” të japë para për të përfituar shpërblime më të mëdha. Kjo merr disa forma, përfshirë një “depozitë” fillestare, blerje kriptomonedhash dhe “tarifa shërbimi”.
Shembull i një mesazhi kontakti të pakërkuar, të krijuar me ChatGPT dhe të shpërndarë nga ky rrjet. Mesazhi iu dërgua njëkohësisht tetë numrave të telefonit, asnjëri prej të cilëve nuk ishte në listën e kontakteve të marrësit. Një marrës u largua menjëherë nga grupi.
Mesazh në Telegram nga rrjeti drejtuar një viktime të mundshme, ku i kërkohet të blejë kriptomonedhë me vlerë 20 £ dhe t’ia transferojë një tregtari të paidentifikuar.
Raportimet publike(hapet në një dritare të re) sugjerojnë se disa prej këtyre kompanive vepronin duke u kërkuar të rekrutuarve të rinj tarifa të konsiderueshme anëtarësimi dhe më pas përdornin një pjesë të këtyre fondeve për t’i paguar “punonjësit” ekzistues aq sa të ruanin angazhimin e tyre. Kjo strukturë është karakteristike për mashtrimet me detyra(hapet në një dritare të re).
Ndikimi
Për shkak të dukshmërisë sonë të kufizuar, është e vështirë të përcaktohet shtrirja reale e këtij rrjeti. Megjithatë, raportimet jashtë platformës(hapet në një dritare të re) dhe bisedat ku “punonjësit” kërkonin kthimin e parave tregojnë se të paktën disa persona i kishin paguar këta punëdhënës të dyshuar. Gjithashtu vërejtëm përdorues të vërtetë që i mbronin kompanitë në rrjetet sociale, çka sugjeron njëfarë angazhimi në botën reale.