Измамнички операции: мрежи за онлајн измами

Оваа студија на случај првично беше објавена во извештајот на OpenAI за октомври 2025 година⁠(се отвора во нов прозорец).

Мрежи што најверојатно потекнуваат од Камбоџа, Мјанмар и Нигерија го злоупотребуваат ChatGPT во навидум измамнички обиди преку интернет.

Посветени сме на откривање, спречување и попречување на обидите за злоупотреба на нашите модели за штетни цели. Меѓу овие злоупотреби се и измамите, при што откриваме и блокираме злонамерни актери кои се обидуваат да ги злоупотребат нашите модели за да мамат луѓе и да им земаат пари. Во последните три месеци попречивме измамнички мрежи што најверојатно потекнуваат од Камбоџа, Мјанмар и Нигерија. Како показател за улогата што ВИ може да ја има во борбата против измамите, при истражувањето на овие обрасци на злоупотреба забележавме и многу луѓе кои ги користат нашите модели за полесно да препознаат измами. Во овој извештај се разгледуваат двата начина на употреба.

Злоупотребата на нашите модели за поддршка на измами се движи од самостојни измамници до обемни и долготрајни операции, најверојатно поврзани со организирани криминални групи. Без оглед на нивното потекло и конкретните тактики, активностите поврзани со измами што ги попречивме обично следат заеднички образец: повик (несакано првично контактирање), возбуда (обид да се предизвика воодушевување или паника) и удар (извлекување пари или вредни информации).

Овие измамници најпрво шират содржини, создадени со ВИ или не, низ услугите за пораки и интернетот, вклучително и преку реклами на социјалните мрежи. Потоа се обидуваат кај секој што ќе одговори да разбудат воодушевување за профитабилна можност или страв од непосредна финансиска загуба и ја користат таа емоција за да ја убедат целта да им предаде пари или чувствителни информации.

Забележавме и многу случаи во кои нашите модели најверојатно помогнале луѓето да се заштитат од измами. Милиони пати месечно гледаме докази дека луѓето го користат ChatGPT за да препознаат и избегнат онлајн измами. Во секоја измамничка операција од овој извештај видовме како моделот им помага правилно да ја препознаат измамата и ги советува за соодветни безбедносни мерки. Според нашата тековна процена, ChatGPT се користи за препознавање измами до трипати почесто отколку за вршење измами.

Пример во кој истражувач на OpenAI вметнува во ChatGPT слика од екранот на примена измамничка SMS-порака и со помош на моделот успешно утврдува дека станува збор за измама. Во овој случај, злонамерните актери се претставувале како регрутери на TikTok.

По последниот извештај ја зајакнавме сопствената способност за откривање и попречување измами. Попречивме и други измамнички мрежи што навидум потекнуваа од Камбоџа, Мјанмар и Нигерија. Заедно со нашите претходни интервенции, овие отстранувања ни овозможуваат да препознаеме нови трендови во повеќе измамнички операции од различни земји.

Повеќето измамнички активности што ги попречивме се сведуваа на вклопување на ВИ во постојните измамнички сценарија, наместо на создавање нови сценарија засновани врз ВИ. Сите измамнички операции што ги откривме и блокиравме годинава првенствено ја користеа ВИ како алатка за зголемување на обемот и ефикасноста. Тоа обично подразбираше користење на нашите модели за преведување, пишување пораки и создавање содржини за социјалните мрежи.

На пример, неодамна блокиравме измамнички операции, најверојатно од Камбоџа и Нигерија, кои се претставуваа како „инвестициски фирми“ во обид да измамат жртви во повеќе земји. Измамниците создавале веб-локации и онлајн реклами за да ги промовираат лажните фирми и користеле најверојатно неавтентични профили на социјалните мрежи, претставувајќи се како експерти за тргување, за да ги канат луѓето во приватни групи за пораки. Ветувајќи профитабилни можности за заработка без ризик, злонамерните актери потоа се обидувале да ги наведат потенцијалните жртви да уплаќаат пари на фиктивни платформи за тргување. Во сите измами, измамниците првенствено ги користеле нашите модели за создавање и преведување преписки, изработка на содржини за своите веб-локации и профили на социјалните мрежи и спроведување основни истражувања.

Во друг случај блокиравме измамнички центар, кој речиси сигурно се наоѓал во Мјанмар и ги користел нашите модели и за создавање содржини за своите измамнички шеми и за извршување секојдневни деловни задачи. Тоа опфаќало организирање распореди, подготвување интерни известувања, распределување работни места и легла во сместувачки капацитети, како и управување со финансиски сметки. Некои оператори прашувале за кривичните казни за лицата фатени при вршење онлајн измами.

Не сите измамници што ги спречивме ги користеа нашите модели на ист начин или со исто ниво на сложеност. Повеќето интеракции на измамниците со ChatGPT опфаќаа релативно едноставни задачи, како преведување, но некои измамнички операции беа поамбициозни и посложени.

На пример, една попречена измамничка операција, најверојатно од Камбоџа, ги користела нашите модели за создавање детални биографии на лажни инвестициски експерти и фиктивни вработени во лажни трговски фирми. Потоа измамниците барале од ChatGPT да пишува пораки за социјалните мрежи во стилот на тие ликови. Злонамерните актери честопати внесувале во нашиот модел пораки што навидум ги добиле од своите цели и барале моделот да го продолжи разговорот претставувајќи се како лажниот лик.

Друга измамничка операција, исто така најверојатно од Камбоџа, најпрво ги користела нашите модели за создавање несакани SMS-пораки што масовно се испраќале до телефонски броеви во САД. Една од нив била испратена до истражувач на OpenAI, слично како во случајот за кој известивме во јуни. Овие SMS-пораки содржеле покани за приклучување кон групи на WhatsApp, кои подоцна биле блокирани, а чии имиња наликувале на легитимна инвестициска фирма.

Според низа пораки на WhatsApp испратени до истражувачот на OpenAI, ако потенцијалната цел се приклучела на една од овие групи, набргу ќе видела „разговор“ меѓу шест различни профили, сите на тема инвестиции. Еден од профилите се претставувал како „инвестициски експерт“, а другите како инвеститори со различно ниво на самодоверба и искуство. Секој дел од овој разговор бил создаден од измамниците, кои го превеле како единствен блок од кинески, најверојатно за да создадат впечаток на активна група од ентузијасти и успешни трговци. На крајот, „инвестицискиот експерт“ би ѝ предложил на целта и таа да се обиде да инвестира.

Одделно, една инвестициска измамничка операција, речиси сигурно од Нигерија, побарала од моделот детални совети како преку реклами на социјалните мрежи да стигне до богати луѓе во Латинска Америка, како да ја прикрие својата локација и како да ги избегне ограничувањата на платформите за социјални мрежи. За таа цел го упатувале моделот до јавно објавените услови за користење на платформата и барале да провери дали предложената рекламна содржина е усогласена со нив.

Измамниците, особено големите измамнички центри, се упорни. Многу често, по попречувањето тие се обидуваат повторно да ги започнат активностите што ги прекршуваат правилата, менувајќи некои елементи од своето однесување, најверојатно за да избегнат повторно откривање. Ова е една од причините зошто е важно низ целата индустрија да се споделуваат сознанија за нивните активности што постојано се менуваат. На пример, OpenAI и Meta споделија информации за злонамерни актери што придонесоа за дополнителни истраги и преземање мерки.

Можеби како одговор на попречувањата или на пошироките онлајн дискусии за знаците што можат да ја откријат употребата на ВИ, забележавме дека измамниците се обидуваат да ја прикријат употребата на ВИ во онлајн содржините и комуникацијата со целите. Меѓу нив има и измамнички операции, најверојатно од Камбоџа, кои му наложувале на моделот да ги отстранува долгите црти од одговорите.

Во еден случај, измамниците се обиделе да објаснат зошто голем дел од нивните ресурси на социјалните мрежи биле отстранети, измислувајќи изговор за блокирањето. Станува збор за погоре опишаниот измамнички центар, најверојатно од Камбоџа, кој работел преку SMS и WhatsApp. Откако WhatsApp ги блокирал „инвестициските групи“ поврзани со операцијата, операторите почнале да создаваат пораки во кои тврделе дека конкурент лажно ги пријавил групите, најверојатно за да ги оправдаат блокирањата.

Слика од екранот на порака на WhatsApp што измамничката операција поврзана со Камбоџа му ја испратила на истражувач на OpenAI откако WhatsApp ја отстранил.