Љубовни измами: Како се спроведуваат љубовни измами со помош на ВИ
OpenAI блокираше сметки што користеа ВИ за спроведување љубовни измами, вклучувајќи воспоставување контакт, превод, комуникација со жртвите и мамки за инвестициски измами.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од февруари 2026 година(се отвора во нов прозорец) за спречување злонамерна употреба на ВИ.
Откако пред една година(се отвора во нов прозорец) почнавме да известуваме за нашите интервенции против измамнички мрежи што се обидувале да ги злоупотребат нашите модели, оневозможивме многу измамнички операции од различни делови на светот. Меѓу нив имаше измами со „задачи“, во кои жртвите се убедуваат да уплатат пари за да добијат пристап до непостоечка заработка од едноставни задачи, и инвестициски измами, во кои жртвите се убедуваат да вложат пари во непостоечки инвестициски компании.
Еден чест вид измама што постои долго пред појавата на ВИ е љубовната измама. Во неа измамниците се претставуваат како потенцијален љубовен партнер и се обидуваат да ја убедат жртвата дека ја пронашла вистинската љубов, а потоа почнуваат да бараат сѐ повеќе пари. Нашиот прв објавен случај на спречена измама се однесуваше на новоформирана криминална операција во Камбоџа, која користела ChatGPT за генерирање пораки за љубовна измама. Дел од пораките се ширеле на социјалните мрежи. Оттогаш спречивме разни обиди за љубовни измами. Како што напишавме во јуни(се отвора во нов прозорец), овие и други измами обично следат заедничка шема во употребата на ВИ, која ја делиме на три фази: прв контакт (без претходно познанство), емоционално вовлекување (предизвикување емоции) и извлекување пари.
Прв контакт (без претходно познанство): измамникот генерира содржина наменета да го привлече вниманието на потенцијалната жртва преку нејзините интереси. На пример, измамата со „колење свињи“ за која известивме минатата година често таргетираше Американци на возраст од 40 до 49 години што работат во медицински професии, одговарајќи на нивните објави за голф на социјалните мрежи. Други операции користеа непобарани СМС-пораки, лажни пораки за вработување или, во нашиот најнов случај на љубовна измама (опишан подолу), реклами на социјалните мрежи. Во секој случај, злонамерните актери користеа ChatGPT за генерирање пораки што би можеле да бидат попривлечни и помалку очигледно напишани од некој кому јазикот не му е мајчин, во споредба со традиционалните измами.
Прв контакт на тема голф од мрежата за измами со „колење свињи“ за која известивме во 2025 година, како одговор на објава на Facebook од корисник што не е поврзан со операцијата.
Емоционално вовлекување (предизвикување емоции): измамникот генерира содржина наменета да предизвика силни емоции кај жртвата и со тоа да ја направи поподложна на манипулација. Кај љубовните измами, целта е жртвата да почувствува привлечност кон измамникот. Други измами може да се обидат да предизвикаат возбуда кај жртвата за потенцијално профитабилна зделка, страв дека ќе пропушти можност или загриженост поради наводен правен ризик или неплатена сметка. Понекогаш емоционалното вовлекување може да биде дел од истата порака со која се воспоставува првиот контакт.
Непобарана СМС-порака од измамничката операција „Погрешен број“, која ја разоткривме во јуни 2025 година. Пораката содржи детали за неверојатно висока заработка со малку работа, веројатно со цел емоционално да ја вовлече жртвата.
Извлекување пари: измамникот генерира содржина наменета да ја убеди жртвата да даде пари. Наведените причини може многу да се разликуваат. На пример, кај љубовните измами може да се бара жртвата да вложи во бизнисот на саканата личност или да даде пари за да ѝ помогне да преброди финансиска криза. Кај измамите со „задачи“, на жртвите им се вели да уплатат пари за да добијат пристап до (фиктивните) пари што веруваат дека ги заработиле. Кај инвестициските измами, жртвите се наведуваат да вложат пари во непостоечки инвестиции.
Непобарана СМС-порака од измамничката операција „Погрешен број“, која ја разоткривме во јуни 2025 година. Пораката содржи детали за неверојатно висока заработка со малку работа, веројатно со цел емоционално да ја вовлече жртвата.
Како што покажува овој тек, мрежата за дистрибуција е суштински дел од измамите. Различните измамнички операции што ги разоткривме ги испраќаа пораките за прв контакт преку СМС, апликации за шифрирани пораки, објави на социјалните мрежи, онлајн реклами или комбинација од сите нив. Измамите од времето пред ВИ се познати по употребата на е-пошта(се отвора во нов прозорец), телефонски повици(се отвора во нов прозорец), па дури и, во деветнаесеттиот век, писма(се отвора во нов прозорец) и телеграми(се отвора во нов прозорец). Многу измами ги дистрибуираат пораките масовно и без јасно избрана целна група, но некои, се чини, се обидуваат прецизно да ги таргетираат жртвите. На пример, измамата со „колење свињи“ за која известивме во февруари 2025 година(се отвора во нов прозорец) се фокусираше на теми како голф; друга љубовна измама користеше реклами на социјалните мрежи за да таргетира млади мажи во Индонезија; а кај измамите со познати личности(се отвора во нов прозорец), измамниците обично се претставуваат како позната личност, а потоа ги таргетираат нејзините групи обожаватели. Иако нецелосните докази ја отежнуваат веродостојната споредба на различните измами што ги спречивме, проценуваме дека избраниот метод на дистрибуција (на пример, масовен или насочен) има значајна улога во способноста на секоја измама успешно да допре до жртвите и да ги искористи, без оглед на тоа во колкава мера операцијата користела ВИ за различни функции.
