Операција „Лажен сведок“: Лажна служба за враќање пари што се претставува како надлежен орган

Оваа студија на случај првично беше објавена во извештајот на OpenAI од февруари 2026 година⁠(се отвора во нов прозорец) за спречување на злонамерната употреба на ВИ.

Забранивме група сметки на ChatGPT што ги користеле нашите модели за да се претставуваат како измислени адвокатски канцеларии, но и како вистински адвокати и американски органи за спроведување на законот, во измама со наводно враќање пари насочена кон жртви на измама. Оваа активност најверојатно потекнувала од Камбоџа и се совпаѓа со неодамнешните јавни извештаи за криминални измамнички операции во земјата предводени од Кинези.

Сметките користеле ChatGPT за поддршка на измамничка операција за наводно враќање пари изгубени во измами, заснована на лажни адвокатски канцеларии и лажно претставување како доверливи субјекти, меѓу кои вистински адвокати и Центарот за пријавување интернет-криминал на ФБИ (IC3).

1. Прв контакт: Измамниците користеле ChatGPT за да создаваат содржини што наводно потекнувале од најмалку шест лажни адвокатски канцеларии. Дел од овие содржини потоа биле објавувани преку сметки на социјалните мрежи и онлајн реклами што промовирале непостоечки услуги за враќање пари изгубени во измами. Повеќе показатели од јавно достапни извори укажувале дека канцелариите биле лажни: немало докази за лиценци од адвокатските комори на сојузните држави, се користеле несоодветни веб-домени, во податоците за контакт биле наведени адреси што по сè изгледа не постојат, а се давале и упатства за контактирање со адвокатите преку апликации за пораки.

2. Стекнување доверба: Измамниците се обидувале да ја стекнат довербата на целните лица така што генерирале коментари со кои го имитирале тонот и професионалноста на адвокати специјализирани за помагање на жртви на измама да си ги вратат изгубените пари. Тие генерирале содржини што наводно потекнувале од лица претставени како адвокати. Идентификувавме дел од овие лажни адвокатски профили на повеќе веб-страници, каде што нивните профилни фотографии очигледно биле преземени од социјалните мрежи или генерирани со ВИ. Во некои случаи, измамникот ги користел истите „адвокатски“ идентитети во повеќе наводни адвокатски канцеларии. Една од веб-страниците што ги идентификувавме се претставувала како веб-страница на IC3.

Податоците за контакт објавени на овие измамнички веб-страници ги упатувале посетителите кон апликации за приватни пораки, како Telegram. Во пораките до целните лица, составени со ChatGPT, измамниците лажно тврделе дека работат под надзор на Меѓународниот кривичен суд и велеле дека нема да наплатат никакви надоместоци сè додека не бидат успешно вратени сите средства на жртвата.

3. Извлекување пари: Измамниците се обидувале да извлечат пари од целните лица барајќи надоместоци и депозити пред какво било „враќање“ на парите. Притоа, од целните лица барале да платат „надоместок за услугата“ од 15 % пред да ги добијат наводно вратените средства, барале депозити за активирање сметка и наплаќале „надоместоци за консултации“. Пораките што измамниците ги составувале со ChatGPT за целните лица содржеле упатства за плаќање во криптовалути и за испраќање слики од екранот со потврди за трансакциите како доказ за уплатата.

Во операцијата се користеле нашите модели за поддршка на повеќе делови од работниот процес, како што се генерирање промотивни содржини за социјалните мрежи и пораки за првично обраќање до целните лица без претходен контакт. Сепак, измамниците најчесто користеле ChatGPT за преведување пораки што ги разменувале со целните лица преку апликации за приватни пораки, при што барале и одговори на „американски англиски“ или во стил на адвокат.

Дел од измамничките сметки ги користеле нашите модели и за создавање лажни материјали со цел да ја зајакнат својата веродостојност. Меѓу нив имало лажни документи за регистрација на адвокати и лажни членски картички од адвокатски комори, како и лажни договори за доверливост со кои ги одвраќале жртвите од барање надворешна помош.

Влијанието мора внимателно да се процени, бидејќи еден од главните извори на докази се податоците што ги внесувале самите измамници. Овие податоци укажуваат дека измамниците можеби извлекле илјадници долари од поединечни жртви, но не можеме независно да ги потврдиме тие тврдења. ФБИ и најмалку една адвокатска канцеларија чиј идентитет бил злоупотребен објавиле јавни предупредувања за оваа измама. Претставници на ФБИ предупредиле дека операцијата е насочена кон ранливи групи, особено кон постари лица, и ја искористува емоционалната состојба на жртвите на измама и нивната желба брзо да си ги вратат изгубените средства.

Политиките на OpenAI строго забрануваат користење на содржините генерирани со нашите алатки за измами. Посветени сме на соработка со други компании од индустријата и со надлежните органи за да разбереме како ВИ влијае врз однесувањето на злонамерните актери и активно да ги спречуваме измамничките активности што ги злоупотребуваат нашите услуги.