Romantická návnada: postupy podvodu „pig butchering“ s podporou AI

Tato případová studie byla původně zveřejněna ve zprávě OpenAI z února 2025⁠(otevře se v novém okně).

Zablokovali jsme skupinu účtů ChatGPT, které překládaly a vytvářely krátké komentáře v japonštině, čínštině a angličtině. Zdá se, že tato aktivita pocházela z Kambodže a odpovídala romantickému a investičnímu podvodu (známému také jako „pig butchering“). Společnost Meta nedávno odhalila související aktivitu⁠(otevře se v novém okně) na své platformě, která zřejmě pocházela z nově zřízeného podvodného centra v Kambodži.

Tato síť používala naše modely k překládání a vytváření krátkých komentářů. Hlavním jazykem aktérů byla podle všeho čínština. Výstupy byly v různých jazycích, zejména v japonštině a čínštině, ale také v angličtině.

Aktéři používali naše modely ke dvěma hlavním činnostem. Zaprvé vytvářeli komentáře, které následně veřejně zveřejňovali na sociálních sítích včetně Facebooku, X a Instagramu. Každý účet na sociálních sítích obvykle obsahoval jednu či více profilových fotografií mladé ženy. Domníváme se, že alespoň některé z nich byly zkopírovány od skutečných modelek nebo influencerek a nebyly vytvořeny pomocí AI.

Většina vytvořených komentářů byla zveřejněna jako reakce na příspěvky skutečných lidí na sociálních sítích. Některé příspěvky, na které provozovatelé reagovali, byly staré několik měsíců či let. Operace se obvykle zaměřovala na muže, jejichž veřejné profily naznačovaly věk nad 40 let a často také práci ve zdravotnictví. Operace často reagovala na příspěvky o golfu, což naznačuje záměrně zvolenou strategii cílení. Podvodníci příležitostně zveřejňovali příspěvky o politických tématech nebo aktuálním dění.

Zadruhé, a mnohem častěji, provozovatelé vytvářeli krátké komentáře připomínající části online konverzace. Obvykle šlo o překlad komentářů z čínštiny do cílového jazyka (japonštiny nebo angličtiny), případně z cílového jazyka zpět do čínštiny. To odpovídá tomu, že podvodníci model používali především k překladu probíhajících konverzací.

Účty někdy žádaly model, aby vytvořil odpověď v určitém stylu, například jako flirtující mladá žena. Model někdy dostával rozsáhlé životopisné údaje, jimiž se měl při odpovídání řídit, včetně jména falešné identity, vzdělání, zaměstnání, bydliště a koníčků. Tyto životopisy obvykle uváděly, že se falešná osoba příležitostně věnuje online investování.

Podvodníci zřejmě ke kontaktování svých cílů používali velké množství různých nástrojů a platforem. Při vyšetřování jsme odhalili důkazy o používání nástrojů, jako jsou LINE, WhatsApp, X, Facebook, Instagram, řada dalších komunikačních služeb, funkce společnosti Apple „Skrýt můj e-mail“⁠(otevře se v novém okně) a platformy pro obchodování s kryptoměnami a devizami.

Podle informací, které jsme o této aktivitě měli k dispozici, podvodníci při převádění svých cílů od prvního kontaktu k podvodné investici zřejmě postupovali podle běžného scénáře:

1. Veřejný kontakt: Podvodníci komentovali příspěvky cílové osoby na sociálních sítích. Tyto komentáře často končily otázkou typu: „Co si myslíte o [tématu]?“, která měla pravděpodobně zvýšit šanci na navázání kontaktu. V několika málo případech komentovali politiku, mnohem častěji však mluvili o golfu.

2. Pravděpodobná přímá komunikace: Podvodníci poté vytvářeli krátké komentáře v konverzačním stylu. Nemáme úplný přehled o tom, jak a kde byly tyto komentáře použity, odpovídaly však situaci, kdy si podvodník a cílová osoba začali posílat přímé zprávy.

3. Bezpečná komunikace: Podvodníci velmi brzy, často během několika dní, vytvářeli zprávy navrhující přechod do bezpečnější komunikační aplikace. Někdy to zdůvodňovali tím, že sociálním sítím nedůvěřují. Jindy použili praktickou výmluvu, například že se chystají někam, kde nebudou mít k sociálním sítím přístup.

4. Navazování romantického vztahu: Podvodníci psali a překládali stále důvěrnější a intimnější zprávy. Když cílové osoby požádaly o fotografie „ženy“, se kterou si psaly, podvodníci se vymlouvali.

5. Finanční zapojení: Podvodníci psali a překládali zprávy, v nichž se chlubili vysokými výdělky z online investic do deviz, kryptoměn nebo zlata. Často to prezentovali jako výsledek rad příbuzného, který pracoval ve finančnictví. Podvodník naléhal na cílovou osobu, aby začala investovat stejným způsobem, a nabízel jí, že ji celým postupem provede.

6. Podvod: Podvodníci psali a překládali zprávy, kterými se snažili oběť přesvědčit k převodu peněz do obchodní aplikace. Povzbuzovali ji tvrzením, jak vysoké zisky dosahuje. Kdykoli se oběť pokusila své „zisky“ vybrat, podvodník přišel s výmluvou, například že je nejprve nutné zaplatit poplatek.

Tento vzorec aktivity odpovídá veřejně dostupným zprávám⁠(otevře se v novém okně) o obvyklém fungování těchto podvodů.

Zdá se, že tato aktivita zahrnovala mnoho neúspěšných pokusů a slepých uliček. Některé konverzace, které podvodníci zpracovávali prostřednictvím našich modelů, skončily tím, že cílová osoba označila jejich jednání za podvod nebo jim řekla, aby ji nechali na pokoji. Na sociálních sítích jsme také odhalili příspěvky podvodníků, na které vůbec nikdo nereagoval.

V některých konverzacích se však v souvislosti s jednotlivými transakcemi objevovaly částky v řádu tisíců dolarů nebo odpovídající částky v jiných měnách. Vzhledem k tomu, jak tito provozovatelé naše modely používali, nemáme přehled o tom, zda k těmto finančním transakcím skutečně došlo. Zmínky v konverzacích však naznačují, že alespoň v některých případech se podvodníkům podařilo cílové osoby připravit o peníze.

Zásady OpenAI přísně zakazují používat výstupy našich nástrojů k podvodnému jednání. Spolupracujeme s dalšími společnostmi v oboru a s příslušnými úřady, abychom porozuměli zneužívání AI k nepřátelským aktivitám a aktivně potírali podvody zneužívající naše služby. V souladu s tímto závazkem jsme informace o podvodných sítích, jejichž činnost jsme narušili, sdíleli s dalšími společnostmi v oboru a příslušnými úřady.