Operácia „Falošný svedok“: Falošná služba na vymáhanie peňazí sa vydáva za úrady

Táto prípadová štúdia bola pôvodne zverejnená v správe OpenAI z februára 2026⁠(otvorí sa v novom okne) o potláčaní škodlivého využívania AI.

Zablokovali sme skupinu účtov ChatGPT, ktoré pomocou našich modelov vystupovali ako fiktívne advokátske kancelárie a vydávali sa za skutočných advokátov a americké orgány činné v trestnom konaní. Išlo o podvod, ktorý obetiam predchádzajúcich podvodov sľuboval vrátenie stratených peňazí. Táto činnosť s veľkou pravdepodobnosťou pochádzala z Kambodže a zodpovedá nedávno zverejneným správam o podvodných zločineckých operáciách vedených Číňanmi v tejto krajine.

Tieto účty používali ChatGPT na podporu podvodnej operácie, ktorá sľubovala vymáhanie peňazí stratených pri podvodoch. Stavala na falošných advokátskych kanceláriách a vydávaní sa za dôveryhodné subjekty, napríklad skutočných advokátov a Centrum FBI na prijímanie oznámení o internetovej kriminalite (IC3).

1. Oslovenie: Podvodníci pomocou ChatGPT vytvárali obsah, ktorý mal údajne pochádzať od najmenej šiestich falošných advokátskych kancelárií. Časť tohto obsahu sa následne objavila na účtoch na sociálnych sieťach a v online reklamách propagujúcich fiktívne služby na vymáhanie peňazí stratených pri podvodoch. Viaceré indície z verejne dostupných zdrojov naznačovali, že tieto kancelárie sú podvodné. Chýbali napríklad doklady o oprávnení od advokátskej komory príslušného štátu, používali sa nesúvisiace webové domény, kontaktné údaje uvádzali zrejme neexistujúce adresy a návštevníci dostávali pokyny, aby advokátov kontaktovali cez aplikácie na posielanie správ.

2. Získanie dôvery: Podvodníci sa snažili získať dôveru oslovených ľudí generovaním komentárov, ktoré napodobňovali tón a profesionálne vystupovanie advokátov špecializujúcich sa na pomoc obetiam podvodov pri vymáhaní stratených peňazí. Generovali obsah, ktorý mal údajne pochádzať od vymyslených advokátov. Niektoré z týchto fiktívnych identít sme identifikovali na rôznych webových stránkach. Ich profilové fotografie boli zjavne prevzaté zo sociálnych sietí alebo vygenerované pomocou AI. V niektorých prípadoch podvodník používal rovnaké identity „advokátov“ vo viacerých údajných advokátskych kanceláriách. Jedna z webových stránok, ktoré sme identifikovali, sa vydávala za IC3.

Kontaktné údaje zverejnené na týchto rôznych podvodných stránkach smerovali návštevníkov do aplikácií na súkromné správy, napríklad do Telegramu. V správach pre oslovených ľudí, ktoré pripravili pomocou ChatGPT, podvodníci nepravdivo tvrdili, že pôsobia pod dohľadom Medzinárodného trestného súdu a že si nebudú účtovať žiadne poplatky, kým sa nepodarí získať späť všetky peniaze obete.

3. Vylákanie peňazí: Podvodníci sa pokúšali od oslovených ľudí vylákať peniaze tým, že žiadali poplatky a zálohy ešte pred akýmkoľvek „vymožením peňazí“. Okrem iného im prikazovali zaplatiť 15 % „poplatok za služby“ ešte pred vyplatením údajne vymožených peňazí, žiadali vklady na aktiváciu účtu a účtovali si „poplatky za konzultácie“. Správy podvodníkov pre oslovených ľudí, pripravené pomocou ChatGPT, obsahovali pokyny na odoslanie platieb v kryptomenách a poskytnutie snímok obrazovky s potvrdeniami transakcií ako dokladu o zaplatení.

Táto operácia využívala naše modely na podporu viacerých častí svojho postupu, napríklad na generovanie propagačného obsahu pre sociálne siete a nevyžiadaných správ na oslovenie potenciálnych obetí. Podvodníci však najčastejšie používali ChatGPT na preklad správ, ktoré si vymieňali s oslovenými ľuďmi v aplikáciách na súkromné správy. Žiadali pritom aj o napísanie odpovede v „americkej angličtine“ alebo v štýle advokáta.

Časť podvodných účtov používala naše modely aj na vytváranie klamlivých materiálov, ktoré mali posilniť ich dôveryhodnosť. Patrili k nim falošné záznamy o registrácii advokátov a falošné členské preukazy advokátskej komory, ako aj podvodné dohody o mlčanlivosti, ktoré mali obete odradiť od hľadania pomoci inde.

Pri posudzovaní vplyvu treba postupovať opatrne, pretože jedným z hlavných zdrojov dôkazov sú vstupy samotných podvodníkov. Tieto vstupy naznačujú, že podvodníci mohli jednotlivé obete pripraviť o tisíce dolárov, no tieto tvrdenia nedokážeme nezávisle overiť. FBI a najmenej jedna advokátska kancelária, za ktorú sa podvodníci vydávali, zverejnili varovania pred týmto podvodom. Predstavitelia FBI varovali, že operácia cieli na zraniteľné skupiny, najmä na seniorov, a zneužíva emocionálny stav obetí podvodov a ich túžbu rýchlo získať stratené peniaze späť.

Pravidlá OpenAI prísne zakazujú používať výstupy našich nástrojov na podvody. Aktívne spolupracujeme s partnermi v odvetví a príslušnými orgánmi, aby sme pochopili, ako AI ovplyvňuje správanie škodlivých aktérov, a bránili podvodnej činnosti, ktorá zneužíva naše služby.