Operacione mashtrimi: Rrjete mashtrimi në internet

Ky studim rasti u botua fillimisht në raportin e OpenAI të tetorit 2025⁠(hapet në një dritare të re).

Rrjete me gjasë me origjinë nga Kamboxhia, Mianmari dhe Nigeria që abuzojnë me ChatGPT në përpjekje të dukshme për të mashtruar njerëzit në internet.

Ne angazhohemi të identifikojmë, parandalojmë dhe pengojmë përpjekjet për të abuzuar me modelet tona për qëllime të dëmshme. Ndër këto abuzime janë mashtrimet, për të cilat zbulojmë dhe bllokojmë aktorët keqdashës që përpiqen t’i keqpërdorin modelet tona për të gënjyer dhe mashtruar njerëzit. Gjatë tre muajve të fundit, kemi goditur rrjete mashtrimi që me gjasë e kishin origjinën në Kamboxhia, Mianmar dhe Nigeri. Si tregues i rolit që mund të luajë IA-ja në luftimin e mashtrimit, gjatë hetimit të këtyre modeleve të abuzimit kemi parë gjithashtu shumë njerëz që përdorin modelet tona për të identifikuar mashtrime. Ky raport trajton të dyja rastet e përdorimit.

Abuzimi me modelet tona për të mbështetur mashtrime varion nga individë që tentojnë të mashtrojnë deri te operacione të vazhdueshme në shkallë të gjerë, me gjasë të lidhura me grupe të krimit të organizuar. Pavarësisht origjinës dhe taktikave të tyre konkrete, aktiviteti mashtrues që kemi penguar zakonisht ndjek një model të përbashkët: kontakti i papritur, nxitja e entuziazmit ose panikut dhe, në fund, zhvatja e parave ose e informacioneve me vlerë.

Këta mashtrues fillojnë duke shpërndarë në shërbimet e mesazheve dhe në internet përmbajtje, të krijuar ose jo nga IA-ja, përfshirë reklamat në rrjetet sociale. Më pas, te kushdo që përgjigjet përpiqen të ngjallin ose entuziazëm për një mundësi fitimprurëse, ose frikë nga një humbje e afërt financiare, dhe e shfrytëzojnë atë emocion për ta bindur objektivin të dorëzojë para ose informacione delikate.

Kemi vërejtur gjithashtu shumë raste ku modelet tona ka të ngjarë t’i kenë ndihmuar njerëzit të mbrohen nga mashtrimi. Kemi parë prova se njerëzit përdorin ChatGPT miliona herë në muaj për të identifikuar dhe shmangur mashtrimet në internet; në çdo operacion mashtrimi të trajtuar në këtë raport, kemi parë modelin t’i ndihmojë njerëzit ta identifikojnë saktë mashtrimin dhe t’i këshillojë për masat e duhura të sigurisë. Sipas vlerësimit tonë aktual, ChatGPT përdoret për të identifikuar mashtrime deri në tri herë më shpesh sesa përdoret për t’i kryer ato.

Shembull i një hetuesi të OpenAI që ngjit në ChatGPT një pamje ekrani të një SMS-je mashtruese që kishte marrë dhe e përdor me sukses modelin për ta identifikuar si mashtrim. Në këtë rast, aktorët keqdashës u përpoqën të hiqeshin si rekrutues të TikTok.

Që nga raporti ynë i fundit, kemi përforcuar aftësinë tonë për të zbuluar dhe penguar mashtrimet. Kemi goditur rrjete të tjera mashtrimi që dukej se e kishin origjinën në Kamboxhia, Mianmar dhe Nigeri. Së bashku me ndërhyrjet tona të mëparshme, këto goditje na mundësojnë të identifikojmë disa prirje të reja në operacione të shumta mashtrimi nga vende të ndryshme.

Pjesa më e madhe e aktivitetit mashtrues që penguam përqendrohej te përfshirja e IA-së në skemat ekzistuese të mashtrimit, jo te krijimi i skemave të reja rreth IA-së. Të gjitha operacionet e mashtrimit që kemi identifikuar dhe bllokuar këtë vit e përdornin IA-në kryesisht si mjet për të rritur shkallën dhe efikasitetin. Zakonisht, kjo përfshinte përdorimin e modeleve tona për përkthime, shkrimin e mesazheve dhe krijimin e përmbajtjes për rrjetet sociale.

Për shembull, së fundmi bllokuam operacione mashtrimi, me gjasë me origjinë nga Kamboxhia dhe Nigeria, që hiqeshin si “firma investimesh” në përpjekje për të mashtruar viktima në disa vende. Mashtruesit krijuan faqe interneti dhe reklama në internet për të promovuar firmat e rreme dhe përdorën llogari me gjasë joautentike në rrjetet sociale, duke u hequr si ekspertë tregtimi, për t’i ftuar njerëzit në grupe private mesazhesh. Duke premtuar mundësi fitimprurëse dhe pa rrezik, aktorët keqdashës u përpoqën më pas t’i joshnin viktimat e mundshme të bënin pagesa në platforma fiktive tregtimi. Në të gjitha këto mashtrime, mashtruesit i përdorën modelet tona kryesisht për të krijuar dhe përkthyer korrespondencë, për të krijuar përmbajtje për faqet dhe llogaritë e tyre në rrjetet sociale, si dhe për kërkime bazë.

Në një rast tjetër, bllokuam një qendër mashtrimi që ka shumë gjasa të ndodhej në Mianmar dhe që i përdorte modelet tona si për të krijuar përmbajtje për skemat e saj mashtruese, ashtu edhe për detyrat e përditshme të biznesit. Kjo përfshinte organizimin e orareve, hartimin e njoftimeve të brendshme, caktimin e vendeve të punës dhe të fjetjes, si dhe administrimin e llogarive financiare. Disa operatorë pyetën për dënimet penale ndaj personave që kapen duke kryer mashtrime në internet.

Jo të gjithë mashtruesit që penguam i përdornin modelet tona në të njëjtën mënyrë ose me të njëjtën shkallë kompleksiteti. Shumica e ndërveprimeve të mashtruesve me ChatGPT përfshinin detyra relativisht të thjeshta, si përkthimi, por disa operacione mashtrimi ishin më ambicioze dhe më të ndërlikuara.

Për shembull, një operacion mashtrimi që penguam, me gjasë me origjinë nga Kamboxhia, i përdorte modelet tona për të krijuar biografi të hollësishme për ekspertë të rremë investimesh dhe punonjës fiktivë të firmave të rreme të tregtimit. Më pas, mashtruesit i kërkuan ChatGPT të shkruante mesazhe për rrjetet sociale në stilin e këtyre personazheve. Shpesh, aktorët keqdashës i jepnin modelit tonë mesazhe që dukej se i kishin marrë nga objektivat e tyre dhe i kërkonin ta vazhdonte bisedën në rolin e personazhit të rremë.

Një operacion i dytë mashtrimi, po ashtu me gjasë me origjinë nga Kamboxhia, filloi duke përdorur modelet tona për të krijuar SMS kontakti të papritur, të cilat u dërguan masivisht në numra telefoni amerikanë. Një prej tyre iu dërgua një hetuesi të OpenAI, ngjashëm me rastin për të cilin raportuam në qershor. Këto SMS përmbanin ftesa për t’iu bashkuar grupeve në WhatsApp, të cilat u bllokuan më pas dhe kishin emra të ngjashëm me atë të një firme të ligjshme investimesh.

Bazuar në një sërë mesazhesh në WhatsApp dërguar hetuesit të OpenAI, nëse një objektiv i mundshëm i bashkohej njërit prej këtyre grupeve, do të shihte shpejt një “bisedë” mes rreth gjashtë llogarive të ndryshme, të gjitha duke folur për investime. Njëra prej tyre hiqej si “eksperti i investimeve”, ndërsa të tjerat si investitorë me nivele të ndryshme vetëbesimi dhe përvoje. Çdo pjesë e kësaj bisede ishte krijuar nga mashtruesit, të cilët e kishin përkthyer si një bllok të vetëm nga kinezishtja, me gjasë për të krijuar përshtypjen e një grupi aktiv tregtarësh të interesuar dhe të suksesshëm. Në fund, “eksperti i investimeve” do t’i sugjeronte objektivit të provonte të investonte edhe ai.

Veçmas, një operacion mashtrimi me investime, me shumë gjasë me origjinë nga Nigeria, i kërkoi modelit udhëzime hap pas hapi se si të përdorte reklamat në rrjetet sociale për të arritur te njerëzit e pasur në Amerikën Latine, si të fshihte vendndodhjen dhe si të shmangte kufizimet e platformave të rrjeteve sociale. Kjo përfshinte drejtimin e modelit te kushtet publike të shërbimit të një platforme dhe kërkesën që të shqyrtonte nëse përmbajtja e propozuar e reklamës ishte në përputhje me to.

Mashtruesit, sidomos qendrat e mashtrimit në shkallë të gjerë, janë këmbëngulës. Shumë shpesh, pas ndërhyrjes sonë ata përpiqen ta rifillojnë aktivitetin shkelës, duke ndryshuar disa elemente të sjelljes së tyre, me gjasë për të shmangur zbulimin e mëtejshëm. Kjo është një nga arsyet pse është e rëndësishme që i gjithë sektori të ndajë njohuri mbi evolucionin e aktivitetit të tyre, si në rastin kur OpenAI dhe Meta shkëmbyen informacione për aktorë keqdashës që ndihmuan hetime dhe masa të mëtejshme.

Ndoshta në përgjigje të ndërhyrjeve ose diskutimeve më të gjera në internet rreth shenjave që mund të zbulojnë përdorimin e IA-së, kemi parë mashtrues që përpiqen ta fshehin përdorimin e saj në përmbajtjet në internet dhe në komunikimet me objektivat. Këtu përfshihen operacione mashtrimi, me gjasë me origjinë nga Kamboxhia, që e udhëzonin modelin të hiqte vizat e gjata nga përgjigjet.

Në një rast, mashtruesit u përpoqën ta shpjegonin goditjen në shkallë të gjerë të llogarive të tyre në rrjetet sociale duke sajuar një justifikim për bllokimin. Bëhej fjalë për qendrën e mashtrimit të përshkruar më sipër, me gjasë me origjinë nga Kamboxhia, e cila vepronte përmes SMS-ve dhe WhatsApp. Pasi WhatsApp bllokoi “grupet e investimeve” të lidhura me operacionin, operatorët nisën të krijonin mesazhe ku pretendonin se një konkurrent i kishte raportuar në mënyrë të rreme këto grupe, me gjasë për të justifikuar bllokimet.

Pamje ekrani e një mesazhi në WhatsApp, të cilin operacioni i mashtrimit i lidhur me Kamboxhian ia dërgoi një hetuesi të OpenAI pas ndërhyrjes së WhatsApp.