Припинення злочинної шахрайської операції з Камбоджі
OpenAI припинила діяльність шахрайської операції з Камбоджі, учасники якої використовували ChatGPT для інвестиційних, романтичних і гральних схем та видавання себе за інших осіб.
Вступ
На початку цього року ми припинили діяльність шахрайської операції з Камбоджі, учасники якої використовували ChatGPT для інвестиційних, романтичних і гральних схем, а також видавали себе за представників правоохоронних органів. Ми почали розслідувати цю діяльність після повідомлення від колег із WhatsApp, а згодом передали додаткові індикатори загроз партнерам у галузі та відповідним органам влади.
Ця операція ілюструє важливу реалію сучасних шахрайських мереж: організовані злочинні угруповання рідко обмежуються одним видом шахрайства. Натомість вони ситуативно використовують будь-які легенди, образи й тактики, які вважають найефективнішими для обману жертв. Під час розслідувань ми регулярно спостерігаємо, як зловмисники переходять від одного виду шахрайства до іншого або поєднують кілька шахрайських методів у межах однієї операції.
Деякі користувачі мережі також створювали контент, що вказував на можливі зв’язки з торгівлею людьми та примусом до злочинної діяльності. Ці спостереження узгоджуються з численними публічними матеріалами(відкривається у новому вікні), у яких описано(відкривається у новому вікні), як організовані злочинні угруповання в Південно-Східній Азії заманюють працівників обіцянками законного працевлаштування, а потім утримують їх у борговій залежності та примушують до роботи. Хоча ми не можемо самостійно встановити обставини кожної залученої особи, ця діяльність нагадує, що люди, які здійснюють шахрайство, самі можуть бути жертвами експлуатації.
Зловмисник
Ми заблокували скоординовану мережу облікових записів ChatGPT, яка, найімовірніше, походила з Камбоджі та, ймовірно, діяла в місті Пойпет або поблизу нього. Це місто в провінції Бантеймеантьєй, яке в публічних матеріалах(відкривається у новому вікні) неодноразово(відкривається у новому вікні) пов’язували(відкривається у новому вікні) із центрами онлайн-шахрайства та торгівлею людьми.
Мережа використовувала наші моделі для створення фальшивих образів в інтернеті та керування ними, генерування й перекладу повідомлень для потенційних жертв, створення рекламного контенту для шахрайських схем і виконання повсякденних операційних завдань.
Як і у випадку попередніх(відкривається у новому вікні) припинених нами шахрайських мереж, частина користувачів також застосовувала ChatGPT для адміністративної роботи: складала внутрішні оголошення, перекладала повідомлення між працівниками та документувала питання, які, ймовірно, стосувалися наймання, імміграційного статусу, умов праці й дисципліни працівників.
Поведінка
Мережа одночасно застосовувала кілька видів шахрайства, часто поєднуючи елементи різних схем. Наприклад, оператори використовували вигадані образи на сайтах знайомств, щоб здобути довіру, а потім пропонували шахрайські інвестиції в криптовалюти та спотову торгівлю золотом. Інші користувачі під вигаданими іменами вели тривалі романтичні розмови з потенційними жертвами, видавали себе за представників платформ онлайн-гемблінгу, що нібито пропонували бонуси й виграші, або за правоохоронців, які вимагали сплатити штрафи за начебто скоєні тяжкі злочини.
Хоча легенди відрізнялися, користувачі всієї мережі послідовно демонстрували однакову модель оманливої поведінки. Наприклад, вони створювали фальшиві профілі для знайомств і вигадані образи інвестиційних експертів та правоохоронців і керували ними. Вони також генерували зображення підроблених документів, зокрема паспортів, юридичних повідомлень, підтверджень купівлі акцій та інтерфейсів гральних платформ.
Як ми вже зазначали у(відкривається у новому вікні) попередніх(відкривається у новому вікні) звітах(відкривається у новому вікні), у взаємодії з потенційними жертвами шахраї дотримувалися поширеної схеми, яку ми називаємо контактом (початкове звернення), емоційним впливом (викликання емоцій) і виманюванням (отримання грошей).
Контакт: мережа використовувала ChatGPT для перекладу й генерування розмов із потенційними жертвами на платформах обміну повідомленнями, як-от WhatsApp і Telegram. Шахраї також створювали контент для соцмереж і шукали матеріали для профілів знайомств, щоб підтримувати свої вигадані образи.
Емоційний вплив: у повідомленнях шахраї часто вдавалися до емоційного тиску й методів завоювання довіри. Серед прикладів — обіцянки гарантованого прибутку й «безризикових» інвестицій, романтичні висловлювання, вказівки зберігати розмови в таємниці та термінові заклики діяти, доки не сплив строк дії вигаданих бонусів.
Виманювання: шахраї наказували жертвам внести кошти, щоб розблокувати нібито належні їм винагороди, сплатити комісії за активацію чи вигадані штрафи, а потім надати знімки екрана з переказами або дані рахунків як підтвердження оплати.

Фальшивий інтерфейс для торгівлі криптовалютою, створений за допомогою ChatGPT шахраєм із цієї мережі.

Згенероване ШІ зображення, створене шахраєм із цієї мережі для просування фальшивої інвестиційної схеми.
Ознаки торгівлі людьми
Окрім шахрайства, деякі користувачі створювали контент, що вказував на можливу причетність до інших видів забороненої діяльності, які ми виявляємо та припиняємо, зокрема до торгівлі людьми чи примусової праці. Зокрема, вони створювали для соцмереж оголошення про роботу «оператором чатів» у Пойпеті, обіцяючи авіапереліт, житло, харчування, візи й дозволи на роботу.
Інша діяльність, імовірно, стосувалася адміністрування працівників усередині операції. Користувачі вели облік боргів працівників, утримань із зарплати, дисциплінарних штрафів і виплат за позиками, а також перекладали обговорення імміграційного статусу, дозволів на роботу, прострочених віз і заохочень за наймання.
У деяких розмовах також згадувалися ймовірне утримання людей, спроби втечі та можлива кримінальна відповідальність осіб, які стали жертвами торгівлі людьми й були примушені працювати в шахрайських операціях. Хоча ці розмови не дають змоги встановити обставини конкретної людини, вони узгоджуються з численними публічними матеріалами(відкривається у новому вікні), у яких описано(відкривається у новому вікні) діяльність організованих злочинних угруповань у Південно-Східній Азії.


Згенеровані ШІ зображення, які шахраї з цієї мережі використовували в соцмережах для реклами роботи в Камбоджі. Редагування виконано OpenAI.
Вплив
Ми заблокували пов’язані з цією операцією облікові записи ChatGPT, передали відповідні індикатори партнерам у галузі та компетентним органам і вжили заходів, щоб ускладнити цим зловмисникам повторний доступ до наших продуктів і послуг.
Повний обсяг фінансових втрат, пов’язаних із мережею, невідомий, однак із повідомлень самих шахраїв випливає, що в межах різних схем вони могли взаємодіяти із сотнями потенційних жертв. У розмовах користувачів згадувалося, що окремі жертви втратили тисячі доларів, хоча ми не можемо незалежно підтвердити ці твердження.
У ширшому контексті цей випадок підтверджує дві тенденції. По-перше, організовані шахрайські мережі можуть бути дуже диверсифікованими й одночасно реалізовувати кілька схем, а не обмежуватися одним видом шахрайства. По-друге, межі між онлайн-шахрайством, організованою злочинністю й торгівлею людьми часто розмиті. Тому для ефективної протидії необхідно боротися не лише із шахрайською діяльністю, спрямованою безпосередньо на жертв, а й зі злочинними організаціями, які керують нею та отримують від неї прибуток.