Операција „Погрешан број“: превара са задацима уз помоћ ВИ
OpenAI је забранио налоге који су вероватно потицали из Камбоџе и користили вештачку интелигенцију у процесима преваре усмереним на људе у Уједињеном Краљевству.
Ова студија случаја првобитно је објављена у извештају компаније OpenAI из јуна 2025.(отвара се у новом прозору)
Актер
Забранили смо ChatGPT налоге који су генерисали кратке поруке налик онима за регрутовање на енглеском, шпанском, свахилију, кинјаруанди, немачком и хаићанском креолском. У тим порукама примаоцима су нуђене високе зараде за безначајне задатке, попут означавања објава на друштвеним мрежама са „свиђа ми се“, а подстицани су и да регрутују друге. Деловање је било изразито централизовано и вероватно је потицало из Камбоџе.
Помоћу преводилачких алата заснованих на вештачкој интелигенцији успели смо брзо да истражимо и ометемо коришћење услуга компаније OpenAI у овој кампањи.
Понашање
Већина коментара ове мреже односила се на преводилачке задатке. Користили су ChatGPT за превођење реченица из разговора између кинеског и неколико других језика, пре свега енглеског, шпанског, кинјаруанде, свахилија, немачког и хаићанског креолског. Ти задаци су се обично смењивали између превођења примљене поруке на кинески и превођења одговора са кинеског назад на изворни језик.
Део тих порука подсећао је на нежељене огласе за посао који су нудили високу сатницу за минималан рад. Једна таква порука послата је SMS-ом на наизглед насумичан скуп бројева мобилних телефона у Уједињеном Краљевству, од којих је један припадао истражитељу компаније OpenAI. Ову операцију смо назвали „Погрешан број“, у част првобитног SMS-а.
SMS који је насумично послат истражитељу компаније OpenAI, а генерисан је помоћу ChatGPT‑а.
По свему судећи, актери претње ослањали су се на више платформи за размену порука. Првобитни SMS упућивао је примаоце да наставе комуникацију преко WhatsApp-а, након чега су они који су одговорили усмеравани на „ментора“ на Telegram-у. У појединим активностима помињана је и апликација за размену порука BonChat. По свему судећи, ране уводне поруке на тим каналима нису биле генерисане помоћу наших модела. Састојале су се од уобичајених порука које би вероватно могле да се користе у сваком разговору.
Порука преко WhatsApp-а послата након SMS-а. По свему судећи, ова порука није генерисана помоћу наших модела.
Многи преводилачки задаци односили су се на комуникацију која је наводно потицала од представника компанија представљених као „послодавци“. Иста имена компанија више пута су се појављивала у бројним ChatGPT разговорима обухваћеним овом истрагом. Међу њима су били Hyesung Advertising(отвара се у новом прозору) и Lightning Shared Scooter Co (LSSC)(отвара се у новом прозору). У јавним извештајима Hyesung и LSSC су означени као наводне шеме са задацима. Иако нисмо независно потврдили природу тих субјеката, наша истрага је показала да су поруке које су наводно потицале од њих генерисали корисници ChatGPT‑а који говоре кинески и вероватно делују из Камбоџе.
Резултати
Компаније за које је ова мрежа тврдила да их представља обухватале су широк спектар делатности, од трговања акцијама и изнајмљивања скутера до продаје ознака „свиђа ми се“ на друштвеним мрежама. Јасан знак за узбуну била је понуда више од 5 долара за једну ознаку „свиђа ми се“ на TikTok-у. Поређења ради, ручним прегледом интернет тржишта утврдили смо да неки продавци наплаћују мање од 10 долара за 1.000 таквих ознака.
Комбиновањем показатеља изван платформе са интерним запажањима утврдили смо образац процеса који се понавља. Да бисмо допринели бољем разумевању ове тактике и поједноставили њену класификацију, образац описујемо као: пинг (нежељени контакт), занос (стварање одушевљења) и убод (извлачење новца):
Пинг (нежељени контакт): Мрежа генерише садржај намењен нежељеном обраћању, обично нудећи неуобичајено високе зараде за минималан рад или обећавајући високе приносе од улагања на берзи. Те понуде обухватају високу накнаду за једноставне задатке, попут означавања објава на друштвеним мрежама са „свиђа ми се“, или уносне прилике за улагање.
Занос (стварање одушевљења): Мрежа преводи разговоре, вероватно између оператера и њихових „запослених“. Та комуникација садржи логистичке детаље о задацима, али је често испрекидана мотивационим порукама о заради и могућим бонусима.
Убод (извлачење новца): Мрежа генерише и/или шаље садржај којим врши притисак на „запосленог“ или „улагача“ да уплати новац како би откључао веће награде. То се јавља у више облика, укључујући почетни „депозит“, куповину криптовалута и „накнаде за обраду“.
Пример поруке за нежељени контакт која је генерисана помоћу ChatGPT‑а и коју је ова мрежа дистрибуирала. Порука је истовремено послата на осам бројева телефона, од којих ниједан није био у листи контаката примаоца. Један прималац је одмах напустио групу.
Порука коју је мрежа послала преко Telegram-а потенцијалној жртви, уз упутство да купи криптовалуту у вредности од 20 фунти и пребаци је неименованом трговцу.
Јавни извештаји(отвара се у новом прозору) указују на то да су неке од тих компанија наплаћивале новим члановима знатне приступне накнаде, а затим део тог новца користиле да постојећим „запосленима“ исплате тек толико да остану ангажовани. Оваква структура карактеристична је за преваре са задацима(отвара се у новом прозору).
Утицај
Због нашег ограниченог увида тешко је проценити стварни домет ове мреже. Међутим, извештаји изван платформе(отвара се у новом прозору) и разговори у којима су „запослени“ захтевали повраћај новца указују на то да су бар неки људи платили тим наводним послодавцима. Такође смо приметили стварне кориснике који су бранили те компаније на друштвеним мрежама, што указује на известан степен ангажовања у стварном свету.