Операција „Љубовна мамка“: Измама со помош на ВИ насочена кон луѓе што бараат љубов

Оваа студија на случај првично беше објавена во извештајот на OpenAI од февруари 2026 година⁠(се отвора во нов прозорец) за спречување злонамерна употреба на ВИ.

Блокиравме група сметки на ChatGPT и еден клиент на API што ги користеа нашите модели за спроведување полуавтоматизирана измама со љубовни врски и задачи, со која веројатно мамеле стотици жртви месечно. Оваа активност многу веројатно потекнувала од Камбоџа и се совпаѓа со неодамнешните јавни извештаи⁠(се отвора во нов прозорец) за криминални измамнички операции во земјата водени од Кинези. Во поединечни случаи, корисниците самите се идентификувале како работници во измамнички центри во Камбоџа, на пример кога барале даночни совети од моделот и како занимање навеле „измамник“.

Мрежата користеше ChatGPT и пристап до нашите модели преку API за спроведување полуавтоматизирана љубовна измама со задачи од голем обем, со структуриран работен тек и начин на работа што потсетува на продажни програми со директно контактирање непознати потенцијални клиенти.

1. Прв контакт: Во почетната фаза на привлекување жртви, операцијата ги користеше своите сметки на ChatGPT за генерирање промотивни текстови за луксузна услуга за запознавање и ескорт наречена „Романтичен клуб“. Овие текстови потоа се објавуваа на социјалните мрежи како платени реклами. Измамниците таргетираа мажи од Индонезија заинтересирани за содржини за луксузен живот, користејќи клучни зборови во рекламите како „голф“, „јахти“ и „гурмански оброци“. Рекламите содржеа врски до четбот со ВИ, кој имаше инструкции да се претставува како рецепционерка склона кон флертување. Наводната рецепционерка бараше од потенцијалните жртви да изберат од менито типови жени и врски, а потоа ги насочуваше кон Telegram преку URL за следење и промотивен код.

2. Емоционално вовлекување: Откако комуникацијата ќе се префрлеше на Telegram, операцијата комбинираше човечки оператори што користеа ChatGPT со автоматизација преку API. Лажните рецепционерки го продолжуваа разговорот со сѐ поромантичен и сексуално поексплицитен јазик, а потоа им нудеа на потенцијалните жртви да се приклучат на онлајн платформи за запознавање наречени „Љубовен код“ и „Сексуална акција“. Платформата прикажуваше профили на наводни „достапни девојки“ и низа објави генерирани со ВИ, во кои им се честиташе на измислени клиенти за завршени „мисии“, отклучени бонуси и освоени награди.

Откако ќе стекнеше доверба, лажната рецепционерка го предаваше разговорот на „ментор“, кој користеше ChatGPT за генерирање и преведување емоционално манипулативни пораки со кои ги притискаше жртвите да завршат низа „задачи“ или „мисии“. Секоја следна задача бараше сѐ поголеми уплати преку банкарски трансфери или дигитални паричници, на пример за купување „ВИП-картичка“, поддршка на „избраната девојка“ во натпревар или плаќање хотелски депозит. Слика на лажна рецепционерка за платформата за запознавање „Љубовен код“, создадена од измамник со помош на ChatGPT.

3. Извлекување пари: Во последната фаза, измамниците се обидуваа да наплатат поголема сума, што ја нарекуваа „колење“, измислувајќи дополнителни трошоци како „исплати за обесштетување“ или „депозити за проверка“. Судејќи според пораките што измамниците ги вметнувале во ChatGPT, откако жртвата ќе го испратела најголемиот можен износ, тие ја блокирале на Telegram и го означувале случајот како затворен. Копија од писмо што измамник го споделил со ChatGPT, во кое ѝ вели на жртвата дека мора да плати 20.500.000 Rp (12.000 долари) за да се исправи измислена грешка при обработка на податоци во системот Љубовен код, но дека ќе добие „бонус“ од 35 % во износ од 39.860.000 Rp. Чувствителните податоци се прикриени од истражителите на OpenAI.

Покрај љубовните измами, операцијата ги користеше нашите модели и како помош во секојдневното работење. Ова вклучуваше барање насоки од ChatGPT за извршување технички задачи, како интегрирање на API на OpenAI или ажурирање на веб-страницата на лажната услуга за запознавање, анализа на финансиски сметки и генерирање дневни извештаи во кои на секоја жртва ѝ се доделуваше износ за „колење“ пресметан од измамниците — проценетата сума што планирале да ја извлечат во последната фаза.

Во други случаи, измамниците бараа од ChatGPT да преведува пораки меѓу раководителите што зборуваат кинески и работниците во измамничкиот центар што зборуваат индонезиски, како и да го следи учинокот на одделите наречени „Привлекување потенцијални клиенти“, „Тим за прием“ и „Раководен тим“.

Влијанието на оваа мрежа мора внимателно да се процени. Наш главен извор на докази се содржините што ги внесувале самите измамници. Тие содржини укажуваат дека измамниците можеби комуницирале со стотици потенцијални жртви истовремено и заработувале илјадници долари дневно. Сепак, не можеме независно да потврдиме дали овие тврдења биле точни.

Правилата на OpenAI строго ја забрануваат употребата на содржините генерирани со нашите алатки за какви било измами. Посветени сме на соработка со други компании од индустријата и со надлежните органи за да разбереме како ВИ влијае врз однесувањето на злонамерните актери и активно да ги спречуваме измамничките активности што ги злоупотребуваат нашите услуги.