Романтикалық арбау алаяқтығы: ЖИ көмегімен «шошқа сою» үдерістері
OpenAI Камбоджадан басқарылғанға ұқсайтын және романтикалық қарым-қатынас пен инвестициялық алаяқтыққа арналған әңгімелерді аударып, жасау үшін ЖИ қолданған аккаунттарды бұғаттады.
Бұл жағдайлық зерттеу алғаш рет OpenAI ұйымының 2025 жылғы ақпандағы(жаңа терезеде ашылады) есебінде жарияланған.
Қаскөй
Жапон, қытай және ағылшын тілдеріндегі қысқа пікірлерді аударып әрі жасап отырған ChatGPT аккаунттарының тобын бұғаттадық. Бұл әрекет Камбоджадан басталғанға ұқсайды және романтикалық қарым-қатынас пен инвестицияға негізделген алаяқтыққа (оны «шошқа сою» деп те атайды) сәйкес келеді. Meta жуырда өз платформасында осыған қатысты әрекетті анықтады(жаңа терезеде ашылады). Ол Камбоджада жаңадан құрылған алаяқтық орталықтан басталғанға ұқсайды.
Іс-әрекет
Бұл желі қысқа пікірлерді аударып, жасау үшін модельдерімізді қолданған. Қаскөйлердің негізгі тілі қытай тілі болғанға ұқсайды. Нәтижелер әртүрлі тілде, әсіресе жапон және қытай тілдерінде, сондай-ақ ағылшын тілінде жасалған.
Қаскөйлер модельдерімізді негізінен екі мақсатта пайдаланған. Біріншіден, олар Facebook, X және Instagram секілді әлеуметтік желілерде ашық жарияланатын пікірлер жасаған. Әр әлеуметтік желі аккаунтында әдетте жас әйелдің бір немесе бірнеше профиль суреті болған. Біздің бағалауымызша, бұл суреттердің кем дегенде бір бөлігі ЖИ көмегімен жасалмай, шынайы модельдерден немесе инфлюенсерлерден көшірілген.
Жасалған пікірлердің көбі нақты адамдардың әлеуметтік желідегі жазбаларына жауап ретінде жарияланған. Операторлар жауап берген кейбір жазбаларға бірнеше ай немесе жыл болған. Бұл операция әдетте ашық профиліне қарағанда жасы 40-тан асқан, көбіне медицина саласында жұмыс істейтін ер адамдарды нысанаға алған. Операция гольф туралы жазбаларға жиі жауап берген, бұл нысананы әдейі таңдау стратегиясын аңғартады. Алаяқтар кейде саяси мәселелер немесе өзекті оқиғалар туралы жазбалар жариялаған.
Бұл қаскөй модельдеріміздің көмегімен жасаған Facebook пікірі осы операцияға қатысы жоқ болып көрінген адамның гольф туралы пікіріне жауап ретінде жарияланған. Алаяқ аккаунттың профиль суреті америкалық сән және сұлулық инфлюенсерінен көшірілген. Алаяқ аккаунт пікір жазған кезде бастапқы жазбаға бір айдан асып кеткен еді.
Модельдеріміз жасаған бұл пікір X желісіндегі расталған аккаунттан осы алаяқтыққа қатысы жоқ болып көрінген аккаунттың жазбасына жауап ретінде жарияланған. Аккаунттың профиль суреті сол бір америкалық сән және сұлулық инфлюенсерінен көшірілген. Бастапқы жазбаға алты айға жуық уақыт болған.
Екіншіден әрі жиірек, операторлар интернеттегі әңгіменің үзінділеріне ұқсайтын қысқа пікірлер жасаған. Әдетте олар пікірлерді қытай тілінен нысаналы тілге (жапон немесе ағылшын тіліне), не нысаналы тілден қытай тіліне аударған. Бұл алаяқтардың модельді негізінен жүріп жатқан хат алмасуды аудару үшін қолданғанын көрсетеді.
Кейде аккаунттар модельден, мысалы, қылымсыған жас әйелдің мәнерінде жауап жазуды сұраған. Модельдің жауаптарын бағыттау үшін кейде жалған кейіпкердің аты-жөні, білімі, жұмысы, тұратын жері мен хоббилері қамтылған егжей-тегжейлі өмірбаян берілген. Бұл өмірбаяндарда жалған кейіпкердің онлайн инвестициямен аздап айналысатыны әдетте көрсетілген.
Алаяқтар нысаналарымен байланысу үшін көптеген түрлі құрал мен платформаны қолданғанға ұқсайды. Тергеуіміз олардың LINE, WhatsApp, X, Facebook, Instagram, басқа да хабар алмасу қызметтерін, Apple компаниясының «Электрондық поштамды жасыру» функциясын(жаңа терезеде ашылады), сондай-ақ криптовалюта және валюта айырбастау платформаларын қолданғанын дәлелдейтін деректерді анықтады.
Нәтижелер
Бұл әрекетке қатысты қолымыздағы нақты деректерге сүйенсек, алаяқтар нысаналарын байланыс орнатудан жалған инвестицияға тартуға дейін мынадай қалыпты жұмыс үдерісімен жетелеген:
Ашық байланыс орнату: алаяқтар нысананың әлеуметтік желідегі жазбаларына пікір қалдырған. Бұл пікірлер көбіне «[тақырып] туралы не ойлайсыз?» сияқты сұрақпен аяқталған — бұл жауап алу ықтималдығын арттыру үшін жасалса керек. Кейбір жағдайларда олар саясат туралы пікір жазғанымен, көбіне гольф жайында сөйлескен.
Жеке хабар алмасуға көшу ықтималдығы: содан кейін алаяқтар әңгімеге ұқсайтын қысқа пікірлер жасаған. Олардың қалай және қайда қолданылғанын толық көре алмасақ та, бұл пікірлер алаяқ пен нысана жеке хабарлама алмаса бастаған жағдайға сәйкес келеді.
Қауіпсіз хабар алмасу: көп ұзамай, көбіне бірнеше күн ішінде, алаяқтар қауіпсіздеу хабар алмасу қолданбасына көшуді ұсынатын хабарламалар жасаған. Кейде олар мұны әлеуметтік желілерге сенбейтінін айтып түсіндірген; басқа жағдайларда әлеуметтік желіге кіре алмайтын жерге барғалы жатқанын айтып, тұрмыстық себеп келтірген.
Романтикалық байланыс: алаяқтар барған сайын мейірімді әрі жақын сипаттағы хабарламаларды жазып, аударған. Нысана сөйлесіп жүрген «әйелдің» суреттерін сұраса, алаяқтар түрлі сылтау айтқан.
Қаржылық қызығушылық тудыру: алаяқтар валютаға, криптовалютаға немесе алтынға онлайн инвестиция салып, қомақты ақша тапқанын мақтан еткен хабарламаларды жазып, аударған. Бұл көбіне қаржы саласында істейтін туысының кеңесіне құлақ асудың нәтижесі ретінде көрсетілген. Алаяқ нысананы дәл осылай инвестициялай бастауға үгіттеп, бүкіл үдерісте бағыт-бағдар беруді ұсынған.
Алаяқтық: алаяқтар жәбірленушіні сауда қолданбасына ақша аударуға көндіретін хабарламаларды жазып, аударған және қанша пайда тауып жатқанын әсірелеп айтып, оны жігерлендірген. Жәбірленуші «пайдасын» шешіп алмақ болған сайын, алаяқ комиссия төлеу керек деген сияқты сылтау келтірген.
Бұл әрекет үлгісі осындай алаяқтықтың әдетте қалай іске асатыны туралы ашық жарияланған мәліметтерге(жаңа терезеде ашылады) сәйкес келеді.
Әсері
Бұл әрекетте көптеген сәтсіз бастама мен нәтиже болмағанға ұқсайды. Алаяқтар модельдеріміз арқылы өңдеген кейбір әңгімелер нысананың мұны алаяқтық деп әшкерелеуімен немесе алаяқтан өзін жайына қалдыруды талап етуімен аяқталған. Сондай-ақ алаяқтардың әлеуметтік желілерде ешкім назар аудармаған жазбаларын анықтадық.
Дегенмен кейбір әңгімелерде жекелеген транзакциялардың көлемі ретінде бірнеше мың доллар (немесе басқа валютадағы баламасы) аталған. Бұл операторлар модельдерімізді қалай қолданғанына байланысты аталған қаржылық транзакциялардың шынымен жасалғанын көре алмаймыз. Дегенмен әңгімелердегі мәліметтер кем дегенде кейбір жағдайда алаяқтардың нысаналарын алдап, ақшасын иемденгенін аңғартады.
OpenAI саясаттары құралдарымыздың нәтижелерін алаяқтық немесе алдап-арбау мақсатында пайдалануға қатаң тыйым салады. ЖИ-дің зиянды әрекеттерде қалай қолданылатынын түсіну және қызметтерімізді теріс пайдаланатын алаяқтық әрекеттерді белсенді түрде тоқтату үшін саладағы әріптестермен және құзырлы органдармен бірлесіп жұмыс істеуге ниеттіміз. Осы міндеттемеге сай, біз тоқтатқан алаяқтық желілер туралы ақпаратты саладағы әріптестерімізбен және тиісті құзырлы органдармен бөлістік.