«Тоғыз эм-сызық» операциясы: өңірлік ықпал ету әрекеті
OpenAI бұған дейін хабарланбаған, ҚХР-дан шыққан және біз «Тоғыз эм-сызық» деп атаған операцияға қатысты аккаунттарды бұғаттады. Ол ЖИ көмегімен Оңтүстік Қытай теңізі, Гонконг және АҚШ саясаты туралы өңірлік ықпал ету контентін жасаған.
Бұл жағдайлық зерттеу алғаш рет OpenAI компаниясының 2025 жылғы қазан айындағы(жаңа терезеде ашылады) есебінде жарияланған.
Әрекет етуші тарап
Біз Қытайдан шыққан жасырын ықпал ету операциясына қатысы болуы мүмкін шағын ChatGPT аккаунттары желісін бұғаттадық. Олар біздің модельдерімізді бірнеше платформада жүргізілген жасырын ықпал ету операциясына арналған контент жасау үшін пайдаланған. Аккаунттар негізінен Вьетнамның Оңтүстік Қытай теңізіне тигізіп отырған ықтимал экологиялық әсері туралы ағылшын тіліндегі әлеуметтік желі жазбаларын, Филиппин президенті Фердинанд Маркосты сынаған ағылшын тіліндегі жазбаларды және Гонконгтағы демократияны қолдау қозғалысына қатысқан саясаткерлер мен белсенділер туралы кантон тіліндегі жазбаларды жасаған. Бұдан аз көлемде бұл операция АҚШ-тағы саяси мәселелер туралы ағылшын тіліндегі контент те жасаған.
Контентті таратқан әлеуметтік желі аккаунттары Қытайдан шыққан, көптен бері әрекет етіп келе жатқан «Spamouflage» операциясына біршама ұқсайды. Оның ChatGPT‑ті пайдаланғаны туралы біз 2024 жылғы мамырда жазғанбыз, алайда бұл операциялардың арасында техникалық байланыс барын анықтамадық. Соңғы жазбаларда бөлісілген кейбір бейнелерді Австралияның стратегиялық саясат институты бұған дейінгі Spamouflage әрекеттеріне ұқсайтын басқа бір операциядан анықтаған болатын.
Әрекет сипаты
Бұл желі негізінен Оңтүстік Қытай теңізі немесе Батыс Филиппин теңізіндегі аумақтарға қатысты Қытаймен дауласып жүрген елдер туралы әлеуметтік желі жазбаларын жаппай жасауға бағытталғанға ұқсайды. Қытай «Тоғыз үзік сызық» деп аталатын ауқымды шекараға сүйеніп, осы аймақтың басым бөлігіне егемендік талап етеді. Бұл талап халықаралық құқық тұрғысынан даулы саналады және оны Вьетнам, Филиппин мен басқа елдер мойындамайды. Осы мәнмәтінді және операция жазбаларында ұзын сызықшалар бар ЖИ жасаған мәтінді пайдаланғанын ескеріп, біз оны «Тоғыз эм-сызық» деп атадық. Бұл жазбалар негізінен X платформасында таратылған.
Осы операция біздің модельдеріміз арқылы жасаған контент пен ұзын сызықшадан тұратын твит.
Әлеуметтік желіге пікірлер жасаумен қатар, әрекет етушілер модельдерімізді кейбір зерттеу және барлау тапсырмаларына пайдаланған. Олар тақырыптық блогтар мен форумдарды, сондай-ақ Еуропа, Америка немесе Оңтүстік-Шығыс Азиядағы реттелуі әлсіз онлайн форумдар мен әлеуметтік желілерді іздеген. Бұған қоса, олар кең таралған тибет есімдерінің тізімдерін сұраған. Мұндай әрекетті операторлар әлеуметтік желідегі жалған аккаунттарына есімдер жасаған басқа жағдайлардан да байқадық. Бұл әрекет дәстүрлі іздеу жүйелерін пайдалануға ұқсап, сондай нәтижелер берген. Демек, қатер төндірушілердің ЖИ-ді зерттеу мен контент жасауға қолдануы оларға көбірек мүмкіндік емес, негізінен қолайлылық берген.
Бұл желінің жаңа тәсілдерінің бірі әлеуметтік желідегі аудиторияны өсіру стратегиялары жөнінде кеңес сұрау болды. Атап айтқанда, олар TikTok челленджін қалай бастауға және жұртты бұрыннан кең таралған #MyImmigrantStory хэштегі туралы контент жариялауға қалай ынталандыруға болатынын сұраған. Операция осы хэштегтің танымалдығын пайдалануды көздеген болса керек. Олар моделімізден идеялар ұсынуды, кейін TikTok жазбасының мәтінін жасауды, сондай-ақ оған фондық музыка мен суреттер таңдауға кеңес беруді сұраған. Ашық дереккөздерге негізделген әдістермен біз TikTok-та жарияланған контентті анықтадық.
Осы операция біздің модельдеріміз арқылы жасаған мәтіннен тұратын TikTok жазбасы.
Жасалған контент
Бұл желі жасаған ағылшын тіліндегі әлеуметтік желі жазбаларының тақырыптары Вьетнамның Оңтүстік Қытай теңізіне тигізіп отырған ықтимал экологиялық әсерінен бастап АҚШ-тағы фентанил дағдарысына дейінгі мәселелерді қамтыған. Көптеген жазбада Филиппин президенті Маркостың есірткі қолданған жерінен ұсталғаны және сайлауды бұрмалау тәсілдерін пайдаланғаны айтылған. Маркостың есірткі қолданғаны туралы жазбаларға тіркелген бейнені біздің модельдеріміз жасамаған. Филиппин үкіметі бұған дейін оны дипфейк немесе цифрлық жолмен өзгертілген бейне деп мәлімдеген. Модельдеріміз жасаған контентті жариялаған X аккаунттарының көбі бұған дейін-ақ тоқтатылған.
Осы операция жасаған, Филиппин президенті Маркостың «есірткі дауына» іліккені туралы твит мәтіні.
Осы операция жасаған, президент Маркостың сайлауды бұрмалау тәсілдерін пайдаланғаны туралы твит мәтіні.
Аккаунттар сондай-ақ X пен Instagram-да жариялау үшін кантон тіліндегі көптеген пікірлерді сұратқан. Олар Гонконгтағы демократияны қолдау қозғалысына қатысқан Джимми Лай, Нейтан Лоу және Агнес Чоу сияқты саясаткерлер мен белсенділерді сынаған немесе қорлаған. Бұл жазбалар аталған адамдарды қылмыскер немесе сатқын етіп көрсетіп, беделін түсіруге бағытталғанға ұқсайды. Басқа жазбаларда Гонконгтың ұлттық қауіпсіздік туралы заңдары қолдау тапқан.
Бір ерекше жағдайда операторлардың бірі X платформасында Гонконгтағы демократияны қолдайтын саяси қайраткерлерді сынап пікір жариялаған, кейін сол қайраткерлерді мақтайтын жауапты өз пікіріне өзі жасаған. Сын мен оған берілген жауап X платформасындағы екі бөлек аккаунттан жарияланған.
Осы операциядағы бір аккаунттың сыни твитіне операция жасаған қолдау білдіретін жауап. Бастапқы твитте: «Джимми Лай мен Джеффри Нго шетелден “баспана” алу арқылы өз аттарын осылайша ақтап ала ма? 🤔 Гонконгқа бүлік салған қылмыскерлер батыр емес, олар “қашқын” екенін “саяси босқын” деген атаумен бүркемелеп жүр! Не ексең, соны орасың: ерте ме, кеш пе, жауап беруге тура келеді, “түрмеден тегін шығу картасы” деген мүлде жоқ», — делінген. Жауапта: «Бұл екі адамның алға шығып, шындықты айтуға батылы жетеді. Мұның өзі бәрі үнсіз қалған қазіргі Гонконгтағы жағдайдан әлдеқайда жарқын», — делінген. Бастапқы твиттердегі барлық реакция осы желі басқаратын аккаунттардан болғанын ескеріңіз.
Әсері
Бірнеше платформада әлеуметтік желі пікірлері көптеп жасалғанына қарамастан, IO әсерінің Breakout шкаласы бойынша бұл операцияны 2-санатқа жатқызамыз: бірнеше платформадағы әрекет, бірақ кең таралмаған немесе аудиторияның қатысуы өте аз. Жазбалар мен әлеуметтік желі аккаунттарының көпшілігіне өте аз реакция білдірілген немесе мүлде білдірілмеген. Көбіне бұл желі X пен Instagram-да жасаған жазбаға жауап берген немесе оны қайта жариялаған жалғыз аккаунттар осы желінің операторлары басқаратын басқа әлеуметтік желі аккаунттары болған.
Әлеуметтік желі аккаунттары пайдаланған бейнелердің өзара үйлестірілгені анық көрінген әрі олар күрделі жасалмаған. Олар Қытайдан шыққан басқа жасырын ықпал ету операцияларына тән әрекеттерді қайталаған: бұрынғы операциялар таратқан хэштегтерді, кескіндер мен бейнелерді жариялаған, профиль суреттеріне фотобанктегі кескіндерді, ал аккаунт атауларына әлеуметтік желі ұсынған әдепкі атауларды пайдаланған. Сондықтан оларды анықтау оңай болды. Олардың бірнеше платформада ұзақ уақыт әрі көп көлемде әрекет еткенін Philstar.com анықтады. Басылым бізден тәуелсіз түрде желінің X платформасындағы бір бөлігін тауып, ол туралы хабарлады. Бұл желі біз оның ChatGPT аккаунттарын бұғаттағаннан кейін де жұмысын жалғастырған.