«Кекесінді шолу» операциясы: Қытайдан бастау алған ықпал ету әрекеті
OpenAI Тайваньдық әлеуметтік желі инфлюенсерін және АҚШ-қа қатысты тақырыптарды сынайтын жазбаларды ЖИ көмегімен жасаған аккаунттарды бұғаттады.
Бұл жағдайлық зерттеу алғаш рет OpenAI компаниясының 2025 жылғы маусымдағы(жаңа терезеде ашылады) есебінде жарияланды.
Әрекет етуші тарап
Модельдерімізді жасырын ықпал ету операциясына тән әлеуметтік желі жазбаларын жаппай жасауға пайдаланғаны анықталған ChatGPT аккаунттарын бұғаттадық. Тергеу барысында бұл аккаунттардың ішкі жұмыс нәтижелерін бағалау құжаттарын да дайындағанын байқадық.
Бұл аккаунттар көмексөздерді негізінен қытай тілінде беріп, Қытайға қатысты саяси және геосаяси тақырыптарға назар аударған. Бір пайдаланушы көмексөзде Қытайдың Үгіт-насихат департаментінде жұмыс істейтінін айтқан, алайда бұл мәлімдемені растайтын тәуелсіз дәлеліміз жоқ.
Іс-әрекет
Біз бұғаттаған аккаунттар екі негізгі бағытта жұмыс істеген. Ең ауқымды бағыт ағылшын және қытай тілдерінде, сондай-ақ аздаған урду тілінде әлеуметтік желілерге қысқа пікірлер жасаудан тұрған. Бұл пікірлердің көбі TikTok пен X желілерінде жарияланғанын анықтадық. Қосымша материалдар Reddit, Facebook және түрлі веб-сайттарда да кездескен.
Әдетте алдымен тек сол жазба үшін ашылғандай көрінетін «негізгі» аккаунт пікір жариялап, кейін оған басқа аккаунттар тізбектей жауап жазған. Бұл әрекет шынайы қызығушылық бар деген жалған әсер қалыптастыруға бағытталған сияқты.
Осы әрекетке қатысты «#USAID қызметін тоқтату — тек #БАСТАМАСЫ!» атты TikTok жазбасы. Арна атауын, бейне субтитрлерінің мәтінін және осы скриншотта көрінетін пікірлердің бәрін бұл желі ChatGPT көмегімен жасаған.
TikTok-та пікір жазған аккаунттар түрлі тілдер мен әліпбилердегі экрандық аттарды қолданған, олардың көбінің жарияланған материал тіліне қатысы болмаған. Мысалы, корейше ат қойылған аккаунт урду тілінде пікір жазса, тай және иврит тілдеріндегі аттары бар аккаунттар осы желі жасаған ағылшын тіліндегі пікірлерді жариялаған. X желісінде пікір жазған аккаунттар әдетте профиль суретіне мультфильм кейіпкерлерін қойып, кейбірі криптовалютаға қатысты аттарды қолданған.
Осы желі ChatGPT көмегімен жасаған твит және оған жазылған пікірлер.
Бұл желі Facebook-та азырақ белсенді болған. Ондағы әрекет негізінен жаңалықтар ұйымы ретінде көрінуге тырысқан екі Парақшаға атаулар мен профиль суреттерін жасаудан тұрған. Екі Парақшаның да жазылушылары мен ұнатулары болмаған және әрқайсысында санаулы ғана жазба жарияланған.
Осы операцияға қатысы болуы ықтимал деп анықталған бейне бөлісілген Facebook жазбасы.
Желі кейде қытай немесе ағылшын тілінде көлемдірек жазбалар да жасаған. Осындай бір жазбаны Reddit-тен, тағы екеуін түрлі веб-форумдардан анықтадық. Екінші жұмыс бағыты ChatGPT көмегімен ішкі саясатқа немесе жұмыс нәтижелерін бағалауға арналғандай көрінетін құжаттарды жасаудан тұрған.
Жасалған материалдар
Бұл қауіп төндіруші тарап жасаған әлеуметтік желі материалдары түрлі тақырыпты қамтығанымен, олардың бәрі Қытайдың геостратегиялық мүдделерімен тығыз ұштасқан.
Кейбір материалдар Тайваньға қатысты болып, әсіресе Қытай Коммунистік партиясына қарсы қарсылықты бейнелейтін Тайвань тақырыбындағы бейне және үстел ойыны — «Төңкерілген майданды»(жаңа терезеде ашылады) («逆統戰») нысанаға алған. Желі ойын туралы қытай тілінде ондаған сын пікір жасап, кейін оның жаппай қарсылыққа ұшырағанын мәлімдейтін көлемді мақала жариялаған. Бұл операцияның ең ерекше әрекеті осы болды, сондықтан біз оны «Кекесінді шолу» деп атадық.
Ағылшын және урду тілдеріндегі басқа материалдар Белуджистандағы Қытай инвестицияларын ашық сынаған(жаңа терезеде ашылады) пәкістандық белсенді Махранг Балочты нысанаға алған. Желіге қатысы бар TikTok аккаунты мен Facebook Парақшасы Балочты порнографиялық фильмге түсті деп жалған айыптайтын бейне жариялаған. Содан кейін операция екі тілде де жүздеген қысқа пікір жасап, жаппай қызығушылық бардай әсер қалдыруға тырысқан.
Махранг Балоч туралы TikTok бейнесіне жазылған таңданыс пікірлері.
Соңғы материалдар топтамасы АҚШ-тың Халықаралық даму агенттігінің (USAID) жабылуына арналды және бұл шешімді мақтайтын не сынайтын қысқа пікірлер жасалды. Бұл пікірлер TikTok пен X желілерінде жарияланған.
Осы желі ChatGPT көмегімен жасап, көмек мәселесін тарифтер мәселесімен байланыстырған твиттер.
Соңында қауіп төндіруші тараптар модельдерімізді ішкі құжаттарға ұқсайтын материалдар жасау үшін пайдаланған. Олардың ішінде қоғамдық қауіпсіздік жөніндегі ресми құжат стилінде жазылған егжей-тегжейлі эссе және операцияны құру мен жүргізу қадамдары сипатталған жұмыс нәтижелерін бағалау құжаты болған.
Ықпалы
Біз модельдерімізді пайдалануды тоқтатқан кезде бұл операция әлі бастапқы кезеңінде болған сияқты. Facebook-тағы екі Парақшаның да жазылушылары болмаған. Reddit-те бір жазба 44 оң дауыс жинаған, ал тағы екі жазба жарияланған сабреддиттерде бұғатталған немесе жойылған.
Осы желінің бөлігі деп анықталған Reddit аккаунты жазбасының скриншоты. Онда жазбаны платформа сүзгілері жойғаны көрсетілген.
X пен TikTok-тағы қызығушылық деңгейі әркелкі болған: TikTok-тағы екі бейне жиынтығында 25 000 ұнату жинаса, операцияның негізгі аккаунтындағы әр твит әдетте шамамен 10 000 рет қаралған. Алайда бұл жазбалардағы көптеген пікірді осы желі ChatGPT көмегімен жасаған, бұл қызығушылықтың кемінде бір бөлігі жасанды болғанын көрсетеді. Сондықтан қызығушылық көрсеткіштерінің бәріне сақтықпен қарау керек.
Ықпал ету операцияларының әсерін бағалайтын Breakout шкаласы(жаңа терезеде ашылады) бойынша, X пен TikTok-тағы қызығушылық көрсеткіштері шынайы болса, мұны 3-санаттың төменгі деңгейіне жатқызар едік. Пікірлердің көбі сияқты, ұнатулар мен қаралымдардың да басым бөлігі жасанды болды деген болжамды растайтын қосымша дәлелдер табылса, бұл бағалауды төмендетер едік.