Измамни операции: мрежи за онлайн измами

Този казус първоначално е публикуван в доклада на OpenAI от октомври 2025 г.⁠(отваря се в нов прозорец)

Мрежи, които вероятно произхождат от Камбоджа, Мианмар и Нигерия, злоупотребяват с ChatGPT в очевидни опити да мамят хора онлайн.

Работим усилено, за да откриваме, предотвратяваме и пресичаме опитите за злоупотреба с нашите модели с вредоносни цели. Сред тези злоупотреби са измамите — откриваме и блокираме злонамерени лица, които се опитват да използват неправомерно нашите модели, за да подвеждат и мамят хора. През последните три месеца пресякохме дейността на измамни мрежи, които вероятно произхождат от Камбоджа, Мианмар и Нигерия. Като пример за ролята на ИИ в борбата с измамите, при разследването на тези модели на злоупотреба видяхме и много хора, които използват нашите модели, за да разпознават измами. Този доклад разглежда и двата вида употреба.

Злоупотребата с нашите модели в подкрепа на измами варира от отделни извършители до мащабни и трайни операции, вероятно свързани с организирани престъпни групи. Независимо от произхода и конкретните им тактики, пресечената от нас дейност обикновено следва общ модел, който наричаме първи контакт (непоискано обръщение), емоционална кукичка (опит за предизвикване на ентусиазъм или паника) и ужилване (измъкване на пари или ценна информация).

Измамниците започват, като разпространяват съдържание — генерирано с ИИ или не — в приложения за съобщения и из интернет, включително чрез реклами в социалните мрежи. След това се опитват да предизвикат у отговорилите или ентусиазъм за доходоносна възможност, или страх от предстояща финансова загуба, и използват тази емоция, за да ги убедят да предадат пари или чувствителна информация.

Наблюдавахме и много случаи, в които нашите модели вероятно са помогнали на хората да се предпазят от измами. Всеки месец виждаме милиони случаи, в които хора използват ChatGPT, за да разпознават и избягват онлайн измами. При всяка измамна операция в този доклад сме виждали как моделът помага на хората правилно да разпознаят измамата и ги съветва за подходящи мерки за безопасност. Според настоящата ни оценка ChatGPT се използва за разпознаване на измами до три пъти по-често, отколкото за извършването им.

Пример как разследващ от OpenAI поставя в ChatGPT екранна снимка на получено измамно SMS съобщение и с помощта на модела успешно го разпознава като измама. В този случай злонамерените лица са се представяли за служители по подбор на персонал за TikTok.

След последния ни доклад подобрихме собствените си възможности за откриване и пресичане на измами. Пресякохме дейността на още измамни мрежи, които изглежда произхождат от Камбоджа, Мианмар и Нигерия. Заедно с предишните ни действия тези пресичания ни позволяват да откроим някои нововъзникващи тенденции сред множество измамни операции от различни държави.

При повечето от пресечените измамни дейности ИИ е бил вграден в съществуващи измамни схеми, вместо около него да се създават нови. Всички измамни операции, които установихме и блокирахме тази година, използваха ИИ предимно като инструмент за разрастване и повишаване на ефективността. Обикновено това включваше използване на нашите модели за превод, писане на съобщения и създаване на съдържание за социалните мрежи.

Например наскоро блокирахме измамни операции, вероятно произхождащи от Камбоджа и Нигерия, които се представяха за „инвестиционни дружества“, за да мамят жертви в различни държави. Измамниците създаваха уебсайтове и онлайн реклами за популяризиране на фиктивните дружества и чрез вероятно неавтентични профили в социалните мрежи, представящи се за експерти по търговия, канеха хора в частни групи за съобщения. Обещавайки доходоносни възможности за печалба без риск, злонамерените лица се опитваха да подмамят потенциалните жертви да внасят пари във фиктивни платформи за търговия. Във всички тези схеми измамниците използваха нашите модели предимно за генериране и превод на кореспонденция, създаване на съдържание за уебсайтовете и профилите си в социалните мрежи и извършване на основни проучвания.

В друг случай блокирахме измамен център, който с голяма вероятност се намира в Мианмар и използваше нашите модели както за генериране на съдържание за измамните си схеми, така и за изпълнение на ежедневни служебни задачи. Това включваше организиране на графици, изготвяне на вътрешни съобщения, разпределяне на работни места и легла в общежития, както и управление на финансови сметки. Някои оператори питаха какви наказателни санкции грозят заловените извършители на онлайн измами.

Не всички пресечени от нас измамници използваха моделите ни по един и същ начин или с еднаква степен на сложност. Повечето взаимодействия на измамниците с ChatGPT включваха сравнително прости задачи като превод, но някои измамни операции бяха по-амбициозни и сложни.

Например една пресечена от нас измамна операция, вероятно произхождаща от Камбоджа, използваше моделите ни, за да генерира подробни биографии на мними инвестиционни експерти и фиктивни служители на фалшиви дружества за търговия. След това измамниците възлагаха на ChatGPT да пише съобщения за социалните мрежи от името и в стила на тези персонажи. Злонамерените лица често въвеждаха в модела ни съобщения, които изглежда са получили от набелязаните хора, и го караха да продължи разговора от името на измисления персонаж.

Друга измамна операция, също вероятно произхождаща от Камбоджа, започнала с използването на нашите модели за генериране на непоискани SMS съобщения, изпращани масово до телефонни номера в САЩ. Едно от тях е изпратено до разследващ от OpenAI — случай, подобен на описания от нас през юни. Тези SMS съобщения съдържали покани за присъединяване към групи в WhatsApp, които впоследствие бяха блокирани и чиито имена наподобявали името на легитимно инвестиционно дружество.

Съдейки по поредица от съобщения в WhatsApp, изпратени до разследващия от OpenAI, ако потенциална жертва се присъединяла към някоя от тези групи, бързо ставала свидетел на „разговор“ между шест различни профила, всички обсъждащи инвестиции. Един от профилите се представял за „инвестиционния експерт“, а останалите — за инвеститори с различна степен на увереност и опит. Всяка част от този разговор била генерирана от измамниците, които го превели наведнъж от китайски — вероятно за да създадат впечатление за активна група от ентусиазирани и успешни търговци. Накрая „инвестиционният експерт“ предлагал и набелязаният човек да опита да инвестира.

Отделно от това инвестиционна измамна операция, която с голяма вероятност произхожда от Нигерия, поискала от модела подробни указания как чрез реклами в социалните мрежи да достига до заможни хора в Латинска Америка, как да прикрива местоположението си и как да заобикаля ограниченията на платформите. За целта операторите насочвали модела към публичните условия за ползване на дадена платформа и го молели да провери дали предложеното рекламно съдържание ги спазва.

Измамниците, особено големите измамни центрове, са упорити. Много често след пресичане на дейността им те се опитват да възобновят нарушенията, като променят някои елементи от поведението си — вероятно за да избегнат повторно разкриване. Това е една от причините да е важно в целия сектор да се споделя информация за променящата се дейност на тези лица. Например OpenAI и Meta поотделно споделиха данни за злонамерени лица, които допринесоха за допълнителни разследвания и мерки.

Вероятно в отговор на пресичането на дейността им или на по-широките онлайн дискусии за признаците, издаващи употреба на ИИ, наблюдавахме опити на измамници да прикрият използването на ИИ в онлайн съдържанието и комуникацията с набелязаните хора. Това включва измамни операции, вероятно произхождащи от Камбоджа, които указвали на модела да премахва дългите тирета от отговорите.

В един случай измамниците се опитали да обяснят мащабното премахване на профилите и страниците си в социалните мрежи, като измислили оправдание за блокирането им. Става дума за описания по-горе измамен център, вероятно произхождащ от Камбоджа, който действал чрез SMS и WhatsApp. След като WhatsApp блокирал свързаните с операцията „инвестиционни групи“, операторите започнали да генерират съобщения, според които групите били несправедливо докладвани от конкурент — вероятно за да оправдаят блокирането.

Екранна снимка на съобщение в WhatsApp, изпратено до разследващ от OpenAI от свързаната с Камбоджа измамна операция, след като WhatsApp я премахва.