Operacioni “Dëshmitari i rremë”: Shërbim i rremë rikuperimi që shtirej si autoritetet

Ky studim rasti u botua fillimisht në raportin e OpenAI të shkurtit 2026⁠(hapet në një dritare të re) për pengimin e përdorimeve keqdashëse të IA-së.

Bllokuam një grup llogarish ChatGPT që përdornin modelet tona për t’u shtirur si firma juridike fiktive, si dhe për të imituar avokatë të vërtetë dhe agjenci ligjzbatuese amerikane, në kuadër të një mashtrimi që u premtonte viktimave të mashtrimit rikuperimin e fondeve. Kjo veprimtari ka shumë të ngjarë ta ketë pasur origjinën në Kamboxhia dhe përputhet me raportimet e fundit publike për operacionet kriminale të mashtrimit në vend, të drejtuara nga shtetas kinezë.

Llogaritë përdorën ChatGPT për të mbështetur një skemë mashtruese për rikuperimin e humbjeve nga mashtrimet, të ngritur mbi firma juridike të rreme dhe imitimin e subjekteve të besuara, si avokatë të vërtetë dhe Qendra e FBI-së për Ankesat lidhur me Krimet në Internet (IC3).

1. Kontakti: Mashtruesit përdorën ChatGPT për të krijuar përmbajtje që pretendohej se vinte nga të paktën gjashtë firma juridike të rreme. Një pjesë e kësaj përmbajtjeje u publikua më pas nga llogari në rrjetet sociale dhe në reklama në internet që promovonin shërbime fiktive për rikuperimin e humbjeve nga mashtrimet. Disa tregues nga burime të hapura sugjeronin se firmat ishin mashtruese, përfshirë mungesën e provave për licencim nga dhomat e avokatisë të shteteve, përdorimin e domeneve të papërshtatshme, të dhëna kontakti me adresa që dukej se nuk ekzistonin dhe udhëzime për të kontaktuar avokatët përmes aplikacioneve të mesazheve.

2. Joshja: Mashtruesit u përpoqën të fitonin besimin e objektivave duke krijuar komente që imitonin tonin dhe profesionalizmin e avokatëve të specializuar për t’i ndihmuar viktimat e mashtrimeve të rikuperonin humbjet financiare. Ata krijuan përmbajtje që pretendohej se vinte nga profile avokatësh. Disa prej këtyre profileve i identifikuam në faqe të ndryshme interneti, ku fotografitë e profilit dukej se ishin marrë nga rrjetet sociale ose ishin krijuar me IA. Në disa raste, mashtruesi ripërdorte të njëjtat identitete “avokatësh” në disa firma juridike të supozuara. Një nga faqet e internetit që identifikuam shtirej si IC3.

Të dhënat e kontaktit të publikuara në këto faqe të ndryshme mashtruese i drejtonin vizitorët drejt aplikacioneve private të mesazheve, si Telegram. Në mesazhet për objektivat, të hartuara me ChatGPT, mashtruesit pretendonin në mënyrë të rreme se vepronin nën mbikëqyrjen e Gjykatës Penale Ndërkombëtare dhe se nuk do të kërkonin tarifa derisa të rikuperoheshin me sukses të gjitha fondet e viktimës.

3. Goditja: Mashtruesit u përpoqën t’u merrnin para objektivave duke u kërkuar tarifa dhe depozita përpara çdo “rikuperimi”. Kjo përfshinte udhëzimin e objektivave që të paguanin një “tarifë shërbimi” prej 15% para se të merrnin fondet e pretenduara si të rikuperuara, kërkesa për depozita për aktivizimin e një llogarie dhe vendosjen e “tarifave të konsultimit”. Mesazhet e mashtruesve për objektivat, të hartuara me ChatGPT, përfshinin udhëzime për të kryer pagesa me kriptomonedha dhe për të dërguar pamje të konfirmimeve të transaksioneve si dëshmi pagese.

Operacioni përdori modelet tona për të mbështetur disa pjesë të procesit të punës, si krijimi i përmbajtjes promovuese për rrjetet sociale dhe i mesazheve të pakërkuara për të kontaktuar objektivat. Megjithatë, mashtruesit e përdornin ChatGPT kryesisht për të përkthyer mesazhet që u dërgonin ose merrnin nga objektivat në aplikacionet private të mesazheve, përfshirë kërkesa për të shkruar një përgjigje në “anglishten amerikane” ose në stilin e një avokati.

Disa nga llogaritë mashtruese përdorën gjithashtu modelet tona për të krijuar materiale çorientuese që synonin të rritnin besueshmërinë e tyre. Këtu përfshiheshin regjistra të rremë të licencimit të avokatëve dhe karta të rreme anëtarësie në dhomën e avokatisë, si dhe marrëveshje të rreme konfidencialiteti për t’i dekurajuar viktimat që të kërkonin ndihmë nga të tjerët.

Vlerësimi i ndikimit kërkon kujdes, sepse një burim kryesor provash janë të dhënat e futura nga vetë mashtruesit. Këto të dhëna sugjerojnë se mashtruesit mund t’u kenë marrë viktimave individuale mijëra dollarë, por ne nuk mund t’i verifikojmë në mënyrë të pavarur këto pretendime. FBI-ja dhe të paktën një firmë juridike e imituar kanë publikuar paralajmërime për këtë mashtrim. Zyrtarët e FBI-së paralajmëruan se operacioni synon grupe të cenueshme, veçanërisht të moshuarit, duke shfrytëzuar gjendjen emocionale të viktimave të mashtrimit dhe dëshirën e tyre për të rikuperuar shpejt fondet e humbura.

Politikat e OpenAI ndalojnë rreptësisht përdorimin e rezultateve të mjeteve tona për mashtrime dhe ne jemi të përkushtuar të bashkëpunojmë me organizatat e tjera të sektorit dhe autoritetet për të kuptuar se si IA po ndikon në sjelljet keqdashëse dhe për të penguar në mënyrë aktive veprimtaritë mashtruese që abuzojnë me shërbimet tona.