«Қате нөмір» операциясы: ЖИ көмегімен жасалған тапсырма алаяқтығы
OpenAI Камбоджадан шыққан болуы ықтимал және Ұлыбритания тұрғындарына бағытталған алаяқтық үдерістерде ЖИ қолданған аккаунттарды бұғаттады.
Бұл жағдайлық зерттеу алғаш рет OpenAI компаниясының 2025 жылғы маусымдағы(жаңа терезеде ашылады) есебінде жарияланды.
Қатысушы
Ағылшын, испан, суахили, киньяруанда, неміс және гаити креол тілдерінде жұмысқа шақыру сипатындағы қысқа хабарламалар жасаған ChatGPT аккаунттарын бұғаттадық. Бұл хабарламаларда әлеуметтік желідегі жазбаларға лүпіл басу сияқты қарапайым тапсырмалар үшін жоғары жалақы ұсынылып, алушыларға басқа адамдарды тарту ұсынылған. Операция қатаң орталықтандырылған және Камбоджадан шыққан болуы ықтимал.
ЖИ негізіндегі аударма құралдарының көмегімен науқанның OpenAI қызметтерін пайдалануын жылдам зерттеп, тоқтата алдық.
Әрекет
Желі пікірлерінің басым бөлігі аударма тапсырмаларына қатысты болды. Олар ChatGPT көмегімен қытай тілі мен бірнеше басқа тіл, әсіресе ағылшын, испан, киньяруанда, суахили, неміс және гаити креол тілдері арасында ауызекі сөйлемдерді аударған. Әдетте олар келген хабарламаны қытай тіліне аударып, одан кейін қытай тіліндегі жауапты бастапқы тілге қайта аударып отырған.
Бұл хабарламалардың кейбірі аз жұмыс үшін сағатына жоғары ақы ұсынатын, бейтаныс адамдарға жіберілген жұмыс жарнамаларына ұқсайтын. Осындай хабарламалардың бірі Ұлыбританиядағы кездейсоқ таңдалғандай көрінетін ұялы телефон нөмірлеріне SMS арқылы жіберілген. Олардың біреуі OpenAI зерттеушісіне тиесілі еді. Алғашқы SMS-тің құрметіне бұл операцияны «Қате нөмір» деп атадық.
ChatGPT көмегімен жасалып, OpenAI зерттеушісіне кездейсоқ жіберілген SMS.
Қауіп төндірушілер бірнеше хабар алмасу платформасын пайдаланған сияқты. Алғашқы SMS алушыларды WhatsApp арқылы байланысуға бағыттаған, ал жауап бергендер кейін Telegram желісіндегі «тәлімгерге» жіберілген. Кейбір әрекеттерде BonChat хабар алмасу қолданбасы да аталған. Бұл арналардағы алғашқы таныстыру хабарламалары біздің модельдерімізбен жасалмаған сияқты. Олар кез келген әңгімеге жарайтын қалыпты хабарламалардан тұрған.
SMS-тен кейін жіберілген WhatsApp хабары. Бұл хабарлама біздің модельдерімізбен жасалмаған сияқты.
Аударма тапсырмаларының көбі өзін «жұмыс беруші» компаниялардың өкілі ретінде таныстырған адамдардың хабарларына қатысты болды. Осы зерттеу аясындағы көптеген ChatGPT әңгімесінде бір компаниялардың атаулары қайта-қайта кездескен. Олардың арасында Hyesung Advertising(жаңа терезеде ашылады) және Lightning Shared Scooter Co (LSSC)(жаңа терезеде ашылады) болды. Ашық дереккөздердегі есептерде Hyesung және LSSC ықтимал тапсырма алаяқтығы ретінде сипатталған. Бұл ұйымдардың сипатын өзіміз тәуелсіз тексермегенімізбен, зерттеуіміз олардан келді делінген хабарламаларды Камбоджада жұмыс істеген болуы ықтимал қытайтілді ChatGPT пайдаланушылары жасағанын анықтады.
Нәтижелер
Бұл желі өкіліміз деп мәлімдеген компаниялар биржалық саудадан бастап самокат жалға беру мен әлеуметтік желідегі лүпілдерді сатуға дейінгі көптеген саланы қамтыған. Күмән туғызған айқын белгі — TikTok-та бір лүпіл басқаны үшін $5-тан астам төлем ұсынуы. Салыстыру үшін, онлайн сауда алаңдарын қолмен тексергенде кейбір сатушылар әлеуметтік желідегі 1 000 лүпілді $10-дан төмен бағаға ұсынатынын көрдік.
Платформадан тыс белгілерді ішкі бақылаулармен біріктіру арқылы біз қайталанатын жұмыс тәртібін анықтадық. Бұл тәсілді кеңірек түсінуге және оны жіктеуді жеңілдетуге көмектесу үшін осы үлгіні былай сипаттаймыз: байланыс орнату (бейтаныс адамға жазу), қызықтыру (ынта ояту) және қармау (ақша алу):
Байланыс орнату (бейтаныс адамға жазу): Желі бейтаныс адамдарға таратуға арналған контент жасайды. Онда әдетте аз жұмыс үшін әдеттен тыс жоғары жалақы ұсынылады немесе қор нарығындағы инвестициядан мол табыс уәде етіледі. Мұндай ұсыныстарға әлеуметтік желідегі жазбаларға лүпіл басу сияқты қарапайым тапсырмалар үшін жоғары ақы немесе табысты инвестициялық мүмкіндіктер кіреді.
Қызықтыру (ынта ояту): Желі оператор мен оның «қызметкерлері» арасындағы болуы ықтимал әңгімелерді аударады. Бұл хат алмасуларда тапсырмалардың ұйымдастырылуына қатысты мәліметтер беріледі, бірақ олардың арасында табыс пен ықтимал бонустар туралы ынталандыру хабарламалары жиі кездеседі.
Қармау (ақша алу): Желі «қызметкерді» немесе «инвесторды» үлкенірек сыйақыға қол жеткізу үшін ақша салуға мәжбүрлейтін контент жасайды және/немесе жібереді. Бұл бастапқы «депозит», криптовалюта сатып алу және «қызмет көрсету алымы» сияқты бірнеше түрде жүзеге асады.
ChatGPT көмегімен жасалып, осы желі таратқан бейтаныс адамдарға арналған хабарлама үлгісі. Хабарлама бір уақытта сегіз телефон нөміріне жіберілген, олардың ешқайсысы алушының контактілерінде болмаған. Бір алушы топтан бірден шыққан.
Желінің ықтимал жәбірленушіге жіберген Telegram хабары: онда £20 сомасына криптовалюта сатып алып, аты аталмаған сатушыға аудару нұсқалған.
Ашық дереккөздердегі есептерге(жаңа терезеде ашылады) сәйкес, бұл компаниялардың кейбірі жаңадан келгендерден қомақты кіру жарнасын алып, сол қаражаттың бір бөлігін қазіргі «қызметкерлердің» қызығушылығын сақтауға жететіндей мөлшерде төлеуге пайдаланған. Мұндай құрылым тапсырма алаяқтығына(жаңа терезеде ашылады) тән.
Әсері
Қолымыздағы ақпарат шектеулі болғандықтан, бұл желінің нақты ауқымын анықтау қиын. Алайда платформадан тыс есептер(жаңа терезеде ашылады) және «қызметкерлер» ақшасын қайтаруды талап еткен әңгімелер кемінде кейбір адамдардың осы болжамды жұмыс берушілерге ақша төлегенін көрсетеді. Сондай-ақ әлеуметтік желілерде бұл компанияларды қорғаған шынайы пайдаланушыларды байқадық. Бұл нақты өмірде белгілі бір деңгейде қатысу болғанын көрсетеді.