Измама со романтично мамење: процеси за „колење свињи“ со помош на ВИ
OpenAI забрани сметки што навидум потекнувале од Камбоџа и користеле ВИ за преведување и создавање разговори за романтични и инвестициски измами.
Оваа студија на случај првично беше објавена во извештајот на OpenAI од февруари 2025 година(се отвора во нов прозорец).
Актер
Забранивме група сметки на ChatGPT што преведувале и создавале кратки коментари на јапонски, кинески и англиски јазик. Се чини дека оваа активност потекнувала од Камбоџа и одговарала на образецот на романтична и инвестициска измама (позната и како „колење свињи“). Meta неодамна откри поврзана активност(се отвора во нов прозорец) на својата платформа, која навидум потекнувала од новоотворен измамнички комплекс во Камбоџа.
Однесување
Оваа мрежа ги користела нашите модели за преведување и создавање кратки коментари. Се чини дека главниот јазик на актерите бил кинескиот. Резултатите биле на повеќе јазици, особено на јапонски и кинески, но и на англиски.
Актерите ги користеле нашите модели за две главни активности. Прво, создавале коментари што јавно ги објавувале на платформи за социјални медиуми, меѓу кои Facebook, X и Instagram. Секоја сметка на социјалните медиуми обично имала една или повеќе профилни слики од млада жена. Проценуваме дека барем дел од нив биле копирани од вистински манекенки или инфлуенсерки, наместо да бидат создадени со ВИ.
Повеќето создадени коментари биле објавени како одговор на објави од вистински лица на социјалните медиуми. Некои од објавите на кои одговарале операторите биле стари со месеци или години. Операцијата обично таргетирала мажи чии јавни профили укажувале дека се постари од 40 години, честопати медицински работници. Операцијата често одговарала на објави за голф, што укажува на намерна стратегија за таргетирање. Измамниците повремено објавувале за политички прашања или тековни настани.
Коментар на Facebook што овој актер го создал со нашите модели, објавен како одговор на коментар за голф од лице што не изгледаше поврзано со оваа операција. Профилната слика на измамничката сметка е копирана од американска инфлуенсерка за мода и убавина. Кога измамничката сметка го објавила коментарот, првичната објава била стара повеќе од еден месец.
Коментар создаден од нашите модели и објавен од потврдена сметка на X како одговор на објава од сметка што не изгледаше поврзана со оваа измама. Профилната слика на сметката е копирана од истата американска инфлуенсерка за мода и убавина. Првичната објава беше стара речиси шест месеци.
Второ, и многу почесто, операторите создавале кратки коментари што личеле на делови од онлајн разговор. Тоа обично подразбирало преведување коментари од кинески на целниот јазик (јапонски или англиски) или од целниот јазик на кинески. Ова е во согласност со претпоставката дека измамниците го користеле моделот првенствено за преведување тековни разговори.
Понекогаш сметките барале од моделот да создаде одговор со одреден тон, на пример како кокетна млада жена. За да го насочат моделот при одговарањето, понекогаш давале опширни биографски податоци, вклучувајќи ги името, образованието, работата, местото на живеење и хобијата на лажниот лик. Овие биографии обично го содржеле и податокот дека лажниот лик повремено инвестира онлајн.
Се чини дека измамниците користеле голем број различни алатки и платформи за да стапат во контакт со своите цели. Нашата истрага откри докази дека користеле алатки како LINE, WhatsApp, X, Facebook, Instagram, разни други услуги за пораки, функцијата „Сокриј ја мојата е-пошта“ на Apple(се отвора во нов прозорец), како и платформи за криптовалути и девизно тргување.
Исходи
Според конкретниот увид што го имаме во оваа активност, се чини дека измамниците следеле вообичаен процес за да ги доведат своите цели од првичен контакт до измамничко инвестирање:
Јавна интеракција: Измамниците коментирале на објавите на својата цел на социјалните медиуми. Овие коментари често завршувале со прашање како: „Што мислите за [темата]?“— веројатно за да ги зголемат шансите за интеракција. Во неколку случаи коментирале за политика, но почесто зборувале за голф.
Веројатни директни пораки: Потоа измамниците создавале кратки коментари во разговорен стил. Иако немаме целосен увид во тоа како и каде биле употребени, коментарите одговарале на ситуација во која измамникот и целта започнале да разменуваат директни пораки.
Безбедни пораки: Набргу потоа, често во рок од неколку дена, измамниците создавале пораки со кои предлагале разговорот да продолжи преку побезбедна апликација за пораки. Понекогаш тоа го оправдувале со тврдење дека измамникот не им верува на социјалните медиуми, а другпат наведувале практичен изговор, на пример дека наскоро ќе одат некаде каде што нема да имаат пристап до нив.
Романтично зближување: Измамниците пишувале и преведувале сè понежни и поинтимни пораки. Ако целите побарале фотографии од „жената“ со која разговарале, измамниците наоѓале изговори.
Финансиско вовлекување: Измамниците пишувале и преведувале пораки во кои се фалеле дека заработиле многу пари со онлајн инвестирање во девизи, криптовалути или злато. Ова честопати го претставувале како резултат од следење совети на роднина што работел во финансискиот сектор. Измамникот ја убедувал целта да почне да инвестира на истиот начин и нудел да ја води низ процесот.
Измама: Измамниците пишувале и преведувале пораки со кои се обидувале да ја убедат жртвата да префрли пари во апликација за тргување и ја охрабрувале со приказни за големата добивка што ја остварувала. Секогаш кога жртвата ќе се обидела да ја повлече својата „добивка“, измамникот давал изговор, на пример дека прво мора да се плати надоместок.
Овој образец на активности е во согласност со јавно достапните извештаи(се отвора во нов прозорец) за вообичаениот начин на кој функционираат ваквите измами.
Влијание
Се чини дека оваа активност вклучувала многу неуспешни обиди. Некои од разговорите што измамниците ги обработувале преку нашите модели завршиле така што целта ја препознала активноста како измама или му кажала на измамникот да ја остави на мира. На социјалните медиуми откривме и објави од измамниците што воопшто не предизвикале интеракција.
Сепак, во некои разговори се споменувале износи од илјадници долари (или противвредност во други валути) како вредност на поединечни трансакции. Со оглед на начинот на кој овие оператори ги користеле нашите модели, немаме увид дали овие финансиски трансакции навистина биле извршени. Сепак, споменувањето во разговорите укажува дека измамниците барем во некои случаи успеале да ги измамат своите цели.
Политиките на OpenAI строго забрануваат користење резултати од нашите алатки за измама или измамнички активности. Посветени сме на соработка со други компании од индустријата и со надлежните органи за да разбереме како ВИ се користи за злонамерно дејствување и активно да ги спречуваме измамите што ги злоупотребуваат нашите услуги. Во согласност со оваа заложба, споделивме информации за измамничките мрежи што ги спречивме со други компании од индустријата и со надлежните органи.