Шахрайські операції: мережі онлайн-шахрайства

Це дослідження вперше опубліковано у звіті OpenAI за жовтень 2025 року⁠(відкривається у новому вікні).

Мережі, що, ймовірно, походять із Камбоджі, М’янми та Нігерії, зловживають ChatGPT, імовірно намагаючись ошукувати людей в інтернеті.

Ми прагнемо виявляти, запобігати й протидіяти спробам використовувати наші моделі зі шкідливою метою. Одним із таких зловживань є шахрайство: ми виявляємо й блокуємо зловмисників, які намагаються використовувати наші моделі, щоб обманювати та ошукувати людей. За останні три місяці ми припинили діяльність шахрайських мереж, які, ймовірно, походили з Камбоджі, М’янми та Нігерії. Про роль ШІ в боротьбі з шахрайством свідчить і те, що під час розслідування таких випадків зловживання ми також бачили, як багато людей використовують наші моделі, щоб розпізнавати шахрайські схеми. У цьому звіті розглянуто обидва сценарії використання.

Нашими моделями зловживають для різних видів шахрайства — від спроб окремих осіб до масштабних і тривалих операцій, імовірно пов’язаних з організованими злочинними угрупованнями. Незалежно від походження й конкретної тактики, припинена нами шахрайська діяльність зазвичай відбувається за спільною схемою: перший контакт (неочікуване звернення), емоційний поштовх (спроба викликати захоплення або паніку) і пастка (виманювання грошей або цінної інформації).

Спочатку ці шахраї масово поширюють контент — створений за допомогою ШІ або без нього — у месенджерах та інтернеті, зокрема через рекламу в соціальних мережах. Потім вони намагаються викликати в тих, хто відповів, захоплення вигідною можливістю або страх неминучих фінансових втрат і, скориставшись цією емоцією, переконати жертву віддати гроші чи конфіденційну інформацію.

Ми також спостерігали багато випадків, коли наші моделі, ймовірно, допомагали захистити людей від шахрайства. Ми бачимо свідчення того, що люди мільйони разів на місяць використовують ChatGPT, щоб розпізнавати й уникати онлайн-шахрайства. У кожній описаній у цьому звіті шахрайській операції модель допомагала людям правильно розпізнати обман і радила належні заходи безпеки. За нашою поточною оцінкою, ChatGPT використовують для виявлення шахрайства до трьох разів частіше, ніж для його здійснення.

Приклад того, як фахівець OpenAI завантажив у ChatGPT знімок екрана з отриманим шахрайським SMS-повідомленням і за допомогою моделі успішно визначив, що це шахрайство. У цьому випадку зловмисники видавали себе за рекрутерів TikTok.

Після попереднього звіту ми посилили власні можливості виявляти шахрайство та протидіяти йому. Ми припинили діяльність іще кількох шахрайських мереж, які, імовірно, походили з Камбоджі, М’янми та Нігерії. Разом із попередніми заходами ці блокування дають змогу виявити нові тенденції, спільні для численних шахрайських операцій із різних країн.

У більшості припинених нами шахрайських операцій ШІ вбудовували в уже наявні схеми, а не створювали навколо нього нові. Усі шахрайські операції, які ми виявили й заблокували цього року, використовували ШІ передусім для масштабування та підвищення ефективності. Зазвичай наші моделі використовували для перекладу, написання повідомлень і створення контенту для соціальних мереж.

Наприклад, нещодавно ми заблокували шахрайські операції, що, ймовірно, походили з Камбоджі та Нігерії й видавали себе за «інвестиційні компанії», намагаючись ошукати людей у різних країнах. Шахраї створювали сайти й онлайн-рекламу для просування фіктивних компаній, а через, імовірно, несправжні облікові записи в соціальних мережах, що видавали себе за експертів із трейдингу, запрошували людей до приватних груп у месенджерах. Обіцяючи високі прибутки без жодного ризику, зловмисники намагалися спонукати потенційних жертв переказувати кошти на фіктивні торговельні платформи. У всіх цих схемах шахраї переважно використовували наші моделі для створення й перекладу листування, підготовки контенту для сайтів і облікових записів у соціальних мережах, а також для базового пошуку інформації.

В іншому випадку ми заблокували шахрайський центр, який майже напевно розташований у М’янмі й використовував наші моделі як для створення контенту для своїх шахрайських схем, так і для виконання повсякденних робочих завдань. Зокрема, для складання розкладів, підготовки внутрішніх оголошень, розподілу робочих місць і кімнат у гуртожитках, а також ведення фінансових рахунків. Деякі оператори запитували про кримінальне покарання для викритих учасників онлайн-шахрайства.

Не всі шахраї, діяльність яких ми припинили, використовували наші моделі однаково або з однаковим рівнем складності. Більшість звернень шахраїв до ChatGPT стосувалася порівняно простих завдань, як-от переклад, але деякі шахрайські операції були амбітнішими й складнішими.

Наприклад, одна припинена нами шахрайська операція, що, ймовірно, походила з Камбоджі, використовувала наші моделі для створення докладних біографій вигаданих інвестиційних експертів і працівників фіктивних торговельних компаній. Потім шахраї просили ChatGPT писати повідомлення для соціальних мереж від імені цих персонажів. Зловмисники часто вводили в нашу модель повідомлення, які, схоже, отримували від своїх жертв, і просили її продовжити розмову від імені вигаданої особи.

Інша шахрайська операція, яка також, імовірно, походила з Камбоджі, спочатку використовувала наші моделі для створення SMS-повідомлень для неочікуваних звернень, які масово надсилали на номери у США. Одне з них надіслали фахівцю OpenAI — це нагадувало випадок, про який ми повідомляли в червні. Ці SMS-повідомлення містили запрошення приєднатися до груп у WhatsApp, які згодом заблокували. Їхні назви нагадували назву справжньої інвестиційної компанії.

Як свідчить серія повідомлень у WhatsApp, надісланих фахівцю OpenAI, потенційна жертва після приєднання до однієї з таких груп одразу бачила «розмову» між приблизно шістьма різними обліковими записами, присвячену інвестиціям. Один з облікових записів видавав себе за «інвестиційного експерта», а решта — за інвесторів із різним рівнем упевненості й досвіду. Усю цю розмову створили шахраї, переклавши її одним блоком із китайської, — імовірно, щоб справити враження активної групи завзятих і успішних трейдерів. Зрештою «інвестиційний експерт» пропонував жертві також спробувати інвестувати.

Окремо учасники інвестиційної шахрайської операції, що майже напевно походила з Нігерії, просили модель надати покрокові поради про те, як за допомогою реклами в соціальних мережах охопити заможних людей у Латинській Америці, приховати своє місцеперебування та обійти обмеження платформ. Для цього моделі надавали публічні умови використання платформи й просили перевірити, чи відповідає їм запропонований рекламний контент.

Шахраї, особливо великі шахрайські центри, дуже наполегливі. Після припинення їхньої діяльності вони дуже часто намагаються відновити порушення, змінивши деякі елементи своєї поведінки, імовірно щоб уникнути подальшого виявлення. Це одна з причин, чому важливо обмінюватися в галузі даними про зміни в їхній діяльності. Наприклад, OpenAI і Meta ділилися інформацією про зловмисників, що сприяло подальшим розслідуванням і застосуванню заходів.

Можливо, у відповідь на блокування або ширші онлайн-обговорення ознак використання ШІ ми спостерігали, як шахраї намагалися приховати застосування ШІ в онлайн-контенті та спілкуванні з жертвами. Зокрема, учасники шахрайських операцій, що, ймовірно, походили з Камбоджі, просили модель вилучати з відповідей довгі тире.

В одному випадку шахраї намагалися пояснити масштабне блокування своїх ресурсів у соціальних мережах, вигадавши причину такого рішення. Ідеться про описаний вище шахрайський центр, який, імовірно, походив із Камбоджі та діяв через SMS і WhatsApp. Після того як WhatsApp заблокував пов’язані з операцією «інвестиційні групи», її учасники почали створювати повідомлення, у яких стверджували, що конкурент подав на ці групи неправдиві скарги, — імовірно, щоб пояснити блокування.

Знімок екрана з повідомленням у WhatsApp, яке пов’язана з Камбоджею шахрайська група надіслала фахівцю OpenAI після блокування з боку WhatsApp.