Operacioni «Karremi i takimeve»: mashtrim me IA që synon personat në kërkim të dashurisë

Ky rast studimor u botua fillimisht në raportin e OpenAI të shkurtit 2026⁠(hapet në një dritare të re) mbi pengimin e përdorimeve keqdashëse të IA-së.

Bllokuam një grup llogarish ChatGPT dhe një klient të API-së që përdornin modelet tona për të kryer një mashtrim gjysmë të automatizuar romantik dhe me detyra, i cili me gjasë mashtronte qindra viktima në muaj. Kjo veprimtari ka shumë gjasa ta ketë pasur origjinën në Kamboxhia dhe përputhet me raportimet⁠(hapet në një dritare të re) e fundit publike për operacionet kriminale të mashtrimit në vend, të drejtuara nga kinezë. Në raste të veçuara, disa përdorues u vetëidentifikuan si punonjës mashtrimesh në Kamboxhia, për shembull kur i kërkuan modelit këshilla tatimore dhe deklaruan si profesion «mashtrues».

Rrjeti përdori ChatGPT dhe qasjen në modelet tona përmes API-së për të kryer në shkallë të gjerë një mashtrim romantik dhe me detyra, gjysmë të automatizuar, duke ndjekur një proces të strukturuar dhe një model veprimi që të kujton programet e shitjeve me kontakte të ftohta.

1. Kontakti: Në krye të kanalit të rekrutimit, operacioni përdori llogaritë e veta ChatGPT për të krijuar tekste promovuese për një shërbim luksoz takimesh dhe shoqërimi të quajtur «Klub Romantis». Më pas, këto tekste u publikuan në rrjetet sociale si reklama me pagesë. Mashtruesit synonin burra indonezianë të interesuar për përmbajtje mbi stilin luksoz të jetesës, duke përdorur fjalë kyçe reklamash si «golf», «jahte» dhe «gastronomi cilësore». Reklamat përmbanin lidhje drejt një chatbot-i me IA, të udhëzuar të hiqej si një recepsioniste flirtuese. Recepsionistja e pretenduar u kërkonte objektivave të zgjidhnin nga një menu me lloje grash dhe marrëdhëniesh, përpara se t’i drejtonte në Telegram përmes një URL-je gjurmimi dhe një kodi promocional.

2. Ndezja emocionale: Pasi komunikimi kalonte në Telegram, operacioni ndërthurte operatorët njerëzorë që përdornin ChatGPT me automatizimin e mundësuar nga API-ja. Personazhet e recepsionisteve vazhdonin bisedën me gjuhë gjithnjë e më romantike dhe seksualisht eksplicite, pastaj u propozonin objektivave të anëtarësoheshin në platformat e takimeve në internet të quajtura «LoveCode» dhe «SexAction». Platforma shfaqte profile të «vajzave të disponueshme» të pretenduara dhe një prurje njoftimesh të krijuara me IA, që uronin klientë të sajuar për përfundimin e «misioneve», zhbllokimin e bonuseve dhe fitimin e çmimeve.

Pasi fitonte besimin, personazhi i recepsionistes ia kalonte bisedën një «mentori», i cili përdorte ChatGPT për të krijuar dhe përkthyer mesazhe emocionalisht manipuluese që u bënin presion objektivave të përfundonin një varg «detyrash» ose «misionesh». Çdo detyrë pasuese kërkonte pagesa gjithnjë e më të mëdha përmes transfertave bankare ose portofolave digjitalë, si blerja e një «karte VIP me imazhin e një recepsionisteje të rreme», mbështetja e një «vajze të zgjedhur» në një konkurs ose pagesa e një kapari hoteli për platformën e takimeve «LoveCode», të krijuar nga një mashtrues duke përdorur ChatGPT.

3. Goditja: Në fazën përfundimtare, mashtruesit përpiqeshin të merrnin një pagesë më të madhe, të cilën e quanin «goditja», duke sajuar tarifa shtesë si «shlyerje kompensimi» ose «depozita verifikimi». Duke gjykuar nga mesazhet që mashtruesit ngjitën në ChatGPT, pasi viktima dërgonte shumën maksimale të mundshme, ata e bllokonin në Telegram dhe e shënonin çështjen si të mbyllur. Kopje e një letre që një mashtrues ndau me ChatGPT, ku viktimës i thuhet se duhet të paguajë Rp 20,500,000 ($12,000) për të ndrequr një gabim të rremë në përpunimin e të dhënave në sistemin Love Code, por se do të marrë një «bonus» prej 35%, me vlerë Rp 39,860,000. Pjesë të redaktuara nga hetuesit e OpenAI.

Përveç veprimtarisë së mashtrimit romantik, operacioni përdori modelet tona edhe për t’u ndihmuar në veprimtaritë e përditshme të biznesit. Kjo përfshinte kërkimin e udhëzimeve nga ChatGPT për kryerjen e detyrave teknike, si integrimi i API-së së OpenAI ose përditësimi i faqes së rreme të shërbimit të takimeve, analizimin e llogarive financiare dhe hartimin e raporteve ditore që i caktonin çdo objektivi një vlerë «goditjeje» të llogaritur nga mashtruesit — shumën e parashikuar që synonin të merrnin në fazën përfundimtare.

Në raste të tjera, mashtruesit i kërkuan ChatGPT të përkthente mesazhe midis mbikëqyrësve kinezishtfolës dhe punonjësve indonezishtfolës të qendrës së mashtrimit, si edhe të ndiqte performancën në departamentet e quajtura «Gjenerimi i kontakteve», «Ekipi i recepsionit» dhe «Ekipi i mbikëqyrësve».

Vlerësimi i ndikimit të këtij rrjeti kërkon kujdes. Burimi ynë kryesor i provave janë vetë kërkesat e mashtruesve. Këto kërkesa tregojnë se mashtruesit mund të kenë komunikuar njëkohësisht me qindra objektiva dhe të kenë gjeneruar mijëra dollarë në ditë. Megjithatë, nuk mund ta verifikojmë në mënyrë të pavarur saktësinë e këtyre pretendimeve.

Politikat e OpenAI ndalojnë rreptësisht përdorimin e rezultateve të mjeteve tona për mashtrime. Jemi të përkushtuar të bashkëpunojmë me organizatat e tjera të sektorit dhe autoritetet për të kuptuar se si IA-ja po ndikon në sjelljet keqdashëse dhe për të penguar aktivisht mashtrimet që keqpërdorin shërbimet tona.