Mashtrimet romantike: procese mashtrimi të mundësuara nga IA-ja

Ky rast studimor u botua fillimisht në raportin e OpenAI të shkurtit 2026⁠(hapet në një dritare të re) mbi pengimin e përdorimeve keqdashëse të IA-së.

Që kur nisëm të raportonim një vit më parë⁠(hapet në një dritare të re) për pengimin e rrjeteve të mashtrimit që përpiqeshin të keqpërdornin modelet tona, kemi çaktivizuar shumë operacione mashtrimi nga vende të ndryshme të botës. Ndër to kishte mashtrime me «detyra», që i bindin viktimat të paguajnë për të pasur qasje në fitime të paqena nga detyra të parëndësishme, si edhe mashtrime me investime, që i bindin viktimat të vendosin para në kompani investimesh që nuk ekzistojnë.

Një lloj mashtrimi i zakonshëm që shumë kohë para epokës së IA-së është mashtrimi romantik, ku mashtruesit hiqen si partnerë të mundshëm romantikë dhe përpiqen ta bindin objektivin se ka gjetur dashurinë, përpara se t’i kërkojnë gjithnjë e më shumë para. Rasti i parë i publikuar prej nesh për pengimin e një mashtrimi përfshinte një operacion kriminal të sapokrijuar në Kamboxhia, i cili kishte përdorur ChatGPT për të hartuar mesazhe për një mashtrim romantik, disa prej të cilave u shpërndanë në rrjetet sociale. Që atëherë, kemi penguar disa tentativa për mashtrime romantike. Siç shkruam në qershor⁠(hapet në një dritare të re), këto dhe mashtrime të tjera priren të ndjekin një model të përbashkët në përdorimin e IA-së, të cilin e përkufizojmë si kontakti (kontakti i ftohtë), ndezja emocionale (krijimi i emocionit) dhe goditja (marrja e parave).

Kontakti (kontakti i ftohtë): mashtruesi krijon përmbajtje që synon të tërheqë vëmendjen e objektivit të mundshëm duke iu drejtuar interesave të tij. Për shembull, mashtrimi «therja e derrit», për të cilin raportuam vitin e kaluar, synonte shpesh burra amerikanë rreth të dyzetave që punonin në profesione mjekësore, duke iu përgjigjur postimeve të tyre në rrjetet sociale rreth golfit. Operacione të tjera përdorën SMS të pakërkuara, mesazhe të rreme rekrutimi ose, në rastin tonë më të fundit të mashtrimit romantik të përshkruar më poshtë, reklama në rrjetet sociale. Në çdo rast, aktorët keqdashës përdorën ChatGPT për të krijuar mesazhe që mund të ishin më tërheqëse dhe të dukeshin më pak qartazi të shkruara nga persona që nuk e kishin gjuhën amtare, krahasuar me mashtrimet tradicionale.

Ndezja emocionale (krijimi i emocionit): mashtruesi krijon përmbajtje që synon të shkaktojë emocione të forta tek objektivi, duke e bërë kështu më të lehtë për t’u manipuluar. Mashtrimet romantike përpiqen ta bëjnë objektivin të ndihet i tërhequr nga mashtruesi. Mashtrime të tjera mund të përpiqen ta entuziazmojnë objektivin për një marrëveshje që mund të jetë fitimprurëse, ta frikësojnë se po humbet një mundësi ose ta alarmojnë për një rrezik të pretenduar ligjor apo faturë të papaguar. Ndonjëherë, ndezja emocionale mund të përfshihet në të njëjtin mesazh me kontaktin.

Goditja (marrja e parave): mashtruesi krijon përmbajtje që synon ta bindë objektivin t’i dorëzojë para. Arsyet e paraqitura mund të ndryshojnë jashtëzakonisht shumë. Për shembull, në mashtrimet romantike objektivit mund t’i kërkohet të investojë në biznesin e personit të dashur ose të japë para për të përballuar një krizë financiare. Mashtrimet me «detyra» u thonë objektivave të paguajnë që të mund të marrin paratë (e paqena) që besojnë se kanë fituar. Mashtrimet me investime u thonë objektivave t’i vendosin paratë në investime që nuk ekzistojnë.

Siç tregon kjo rrjedhë, rrjeti i shpërndarjes është një përbërës thelbësor i mashtrimeve. Operacione të ndryshme mashtrimi që kemi zbuluar i dërgonin kontaktet e tyre nëpërmjet SMS-ve, aplikacioneve të mesazheve të enkriptuara, postimeve në rrjetet sociale, reklamave në internet ose një kombinimi të tyre; mashtrimet e epokës para IA-së njihen për përdorimin e emaileve⁠(hapet në një dritare të re), telefonatave⁠(hapet në një dritare të re) ose madje, në shekullin e nëntëmbëdhjetë, të letrave⁠(hapet në një dritare të re) dhe telegrameve⁠(hapet në një dritare të re). Shumë mashtrime përdorin një qasje të shpërndarë pa dallim, por disa duket se përpiqen të synojnë me saktësi. Për shembull, mashtrimi «therja e derrit», për të cilin raportuam në shkurt 2025⁠(hapet në një dritare të re), u përqendrua në tema si golfi; një tjetër mashtrim romantik përdori reklama në rrjetet sociale për të synuar burra të rinj në Indonezi; ndërsa mashtrimet me personazhe të famshme⁠(hapet në një dritare të re) zakonisht shtiren si një person i famshëm dhe më pas synojnë grupet e fansave të atij personi. Megjithëse natyra e fragmentuar e provave e vështirëson krahasimin e besueshëm të mashtrimeve të ndryshme që penguam, vlerësojmë se mënyra e zgjedhur e shpërndarjes së mashtrimit (p.sh. pa dallim ose e synuar) luan rol të rëndësishëm në aftësinë e tij për të arritur dhe shfrytëzuar me sukses objektivat, pavarësisht shkallës së përdorimit të IA-së për funksione të ndryshme.