Шахрайство з романтичною приманкою: схеми «забою свиней» за допомогою ШІ
OpenAI заблокувала облікові записи, імовірно пов’язані з Камбоджею, які використовували ШІ для перекладу й створення розмов для романтичного та інвестиційного шахрайства.
Це дослідження випадку вперше опубліковано у звіті OpenAI за лютий 2025 року(відкривається у новому вікні).
Зловмисник
Ми заблокували групу облікових записів ChatGPT, які перекладали й генерували короткі коментарі японською, китайською та англійською мовами. Схоже, ця діяльність походила з Камбоджі й відповідала ознакам романтичного та інвестиційного шахрайства (також відомого як «забій свиней»). Нещодавно Meta виявила пов’язану діяльність(відкривається у новому вікні) на своїй платформі, яка, схоже, походила з нещодавно створеного шахрайського центру в Камбоджі.
Поведінка
Ця мережа використовувала наші моделі для перекладу й генерування коротких коментарів. Основною мовою зловмисників, схоже, була китайська. Результати створювалися різними мовами, насамперед японською та китайською, але також англійською.
Зловмисники використовували наші моделі переважно для двох видів діяльності. По-перше, вони генерували коментарі, які публікували у відкритому доступі в соціальних мережах, зокрема Facebook, X та Instagram. Кожен обліковий запис у соціальних мережах зазвичай містив одне або кілька фото молодої жінки. За нашою оцінкою, принаймні частину цих фото профілю скопіювали в реальних моделей чи інфлюенсерок, а не згенерували за допомогою ШІ.
Більшість згенерованих коментарів публікували у відповідь на дописи реальних людей у соціальних мережах. Деякі дописи, на які відповідали оператори, були опубліковані кілька місяців або навіть років тому. Ця операція зазвичай була націлена на чоловіків, яким, судячи з відкритих профілів, було понад 40 років і які часто працювали в медицині. У межах операції часто відповідали на дописи про гольф, що свідчить про цілеспрямовану стратегію вибору жертв. Іноді шахраї публікували дописи про політику або поточні події.
Коментар у Facebook, згенерований цим зловмисником за допомогою наших моделей і опублікований у відповідь на коментар про гольф від людини, яка, схоже, не була пов’язана із цією операцією. Зображення профілю шахрайського облікового запису скопійовано в американської інфлюенсерки у сфері моди та краси. На момент публікації коментаря шахрайським обліковим записом оригінальному допису було понад місяць.
Коментар, згенерований нашими моделями й опублікований верифікованим обліковим записом у X у відповідь на допис облікового запису, який, схоже, не був пов’язаний із цим шахрайством. Зображення профілю скопійовано в тієї самої американської інфлюенсерки у сфері моди та краси. Оригінальний допис було опубліковано майже пів року тому.
По-друге, і значно частіше, оператори генерували короткі коментарі, схожі на уривки онлайн-розмови. Зазвичай вони перекладали коментарі з китайської цільовою мовою — японською чи англійською — або із цільової мови китайською. Це узгоджується з тим, що шахраї використовували модель переважно для перекладу поточних листувань.
Іноді власники облікових записів просили модель згенерувати відповідь у певному тоні, наприклад від імені кокетливої молодої жінки. Щоб спрямувати відповіді моделі, іноді надавали докладну біографію вигаданої особи, зокрема її ім’я, освіту, професію, місце проживання та захоплення. У таких біографіях зазвичай зазначалося, що вигадана особа час від часу інвестує онлайн.
Схоже, шахраї використовували багато різних інструментів і платформ для взаємодії зі своїми цілями. Наше розслідування виявило докази використання ними LINE, WhatsApp, X, Facebook, Instagram, низки інших месенджерів, функції Apple «Сховати мою е‑адресу»(відкривається у новому вікні), а також криптовалютних і валютних платформ.
Відповіді моделі
З огляду на доступний нам фрагмент цієї діяльності, шахраї, схоже, дотримувалися типової схеми, поступово переводячи цілі від першого контакту до шахрайського інвестування:
Публічна взаємодія: шахраї коментували дописи цілі в соціальних мережах. Ці коментарі часто закінчувалися запитанням на кшталт: «Що ви думаєте про [тему]?» — імовірно, щоб підвищити ймовірність відповіді. У кількох випадках вони коментували політику, але значно частіше говорили про гольф.
Імовірне особисте листування: далі шахраї генерували короткі репліки в розмовному стилі. Ми не маємо повної інформації про те, як і де їх використовували, однак ці коментарі відповідали ситуації, у якій шахрай і ціль починали обмінюватися особистими повідомленнями.
Захищене листування: дуже швидко, часто протягом кількох днів, шахраї генерували повідомлення з пропозицією перейти до захищенішого месенджера. Іноді це пояснювали недовірою шахрая до соціальних мереж, а в інших випадках — побутовою причиною, наприклад майбутньою поїздкою туди, де не буде доступу до соціальних мереж.
Романтичне зближення: шахраї писали й перекладали дедалі ніжніші та інтимніші повідомлення. Якщо цілі просили фотографії «жінки», з якою листувалися, шахраї знаходили відмовки.
Фінансове залучення: шахраї писали й перекладали повідомлення, у яких вихвалялися великими прибутками від онлайн-інвестицій у валюту, криптовалюту чи золото. Часто це подавали як результат дотримання порад родича, який працював у фінансовій сфері. Шахрай переконував ціль почати інвестувати так само й пропонував провести її через увесь процес.
Шахрайство: зловмисники писали й перекладали повідомлення, намагаючись переконати жертву переказати гроші в торговельний застосунок, і підбадьорювали її розповідями про нібито отримані великі прибутки. Щоразу, коли жертва намагалася вивести свій «прибуток», шахрай знаходив відмовку, наприклад заявляв про необхідність сплатити комісію.
Ця схема діяльності відповідає загальнодоступним публікаціям(відкривається у новому вікні) про типовий перебіг такого шахрайства.
Вплив
Схоже, ця діяльність включала багато невдалих спроб і провалів. Деякі розмови, які шахраї опрацьовували за допомогою наших моделей, завершувалися тим, що ціль викривала шахрайство або вимагала залишити її в спокої. Ми також виявили дописи шахраїв у соціальних мережах, які взагалі не отримали відгуку.
Однак у деяких розмовах згадувалися суми в тисячі доларів або еквівалентні суми в інших валютах як розмір окремих транзакцій. З огляду на те, як ці оператори використовували наші моделі, ми не бачимо, чи відбулися ці фінансові транзакції. Однак згадки в розмовах свідчать, що принаймні в деяких випадках шахраям вдалося ошукати свої цілі.
Політики OpenAI суворо забороняють використовувати результати роботи наших інструментів для шахрайства або обману. Ми прагнемо співпрацювати з партнерами в галузі та органами влади, щоб розуміти, як ШІ використовують у зловмисній діяльності, і активно протидіяти шахрайству із застосуванням наших сервісів. Відповідно до цього зобов’язання ми передали партнерам у галузі та компетентним органам інформацію про шахрайські мережі, діяльність яких ми припинили.