«Spamouflage» операциясы: Қытаймен байланысты ықпал ету әрекеті

Бұл жағдайлық зерттеу алғаш рет OpenAI компаниясының 2024 жылғы мамырдағы⁠(жаңа терезеде ашылады) есебінде жарияланды.

Біз Қытайдан шыққан, «Spamouflage»⁠(жаңа терезеде ашылады) деген атпен белгілі операцияға қатысы бар аздаған аккаунтты бұғаттадық. Meta⁠(жаңа терезеде ашылады) бұл операцияны «Қытайдың құқық қорғау органдарымен байланысы бар тұлғаларға» телиді. Операцияның әлеуметтік желілердегі кейбір әрекетін FBI⁠(жаңа терезеде ашылады) Қытайдың Қоғамдық қауіпсіздік министрлігіндегі бір бөлімшеге теліген.

Бұл желі дүниежүзіндегі аудиторияны, әсіресе қытай диаспорасының өкілдері мен Қытай үкіметін сынаушыларды нысанаға алды. Ол мазмұнды негізінен қытай тілінде, ал аз көлемде ағылшын, жапон және корей тілдерінде жасады.

Желі біздің модельдерімізді кодтағы қателерді түзетуге, әлеуметтік желілерді талдау жөнінде кеңес алуға, жаңалықтар мен қазіргі оқиғаларды зерттеуге және кейін блог-форумдар мен әлеуметтік желілерде жарияланған мазмұн жасауға пайдаланды.

Мысалы, 2023 жылы желі біздің модельдерімізді revealscum.com веб-сайтының WordPress тақырыбын баптайтын кодтағы қателерді түзетуге пайдаланды. Бұл веб-сайт Қытай үкіметін сынаған қытай диаспорасы өкілдері туралы қытай тіліндегі сын-пікірлер мен жеке мәліметтерді жариялаған. Сайт бұл сыншыларды «сатқындар» деп атаған. Мазмұнның өзі біздің модельдеріміз арқылы жасалмаған.

Бұл науқан біздің модельдерімізді кейін әлеуметтік желілер мен форумдарда жарияланған мазмұнды жасауға да пайдаланды. Мысалы, 2023 жылдың соңында операция Фукусима электр станциясының ағынды суын төгу арқылы Жапония теңіз ортасына зиян келтіріп жатыр деген мақалалар жасады. Біз бұл мақалаларды Medium, Blogspot және ameblo.jp платформаларынан анықтадық.

2024 жылғы сәуірде науқан қытайлық диссидент Цай Сяны сынайтын ағылшын тіліндегі бірқатар пікір жариялады. Біз бастапқы пікірді жариялаған бір X аккаунтын және қалған пікірлерді жауап ретінде жариялаған басқа аккаунттар тобын анықтадық. Оларға шынайы аккаунттардың жауап бергенін байқамадық.

Науқан біздің модельдерімізді ашық дереккөздерден зерттеу жүргізуге де пайдаланды. Мысалы, әлеуметтік желілерде әзірлеуші аккаунтын ашу жолын сұрады және Қытай үкіметін сынаушылардың жазбаларын қысқартуды өтінді.

Желі жариялаған бүкіл материалдың аз ғана бөлігі жасанды интеллект арқылы жасалғанға ұқсайды. Мысалы, модельдеріміз жасаған мазмұнды жариялады деп анықталған X және Medium аккаунттарының көбі ағылшын және қытай тілдерінде қолмен жазылғанға ұқсайтын материалды әлдеқайда көп жариялаған. Мұны, мысалы, ағылшын тілінің табиғи қолданылмауынан байқауға болады. Олар бұл материалдарды ЖИ жасаған пікірлерді жариялағанға дейін де, одан кейін де орналастырған.

Бұл науқан жасаған мазмұнның басым бөлігі қытай тілінде болды. Тақырыптар Қытай үкіметінің халықаралық құқық қорғау саласындағы ынтымақтастығын мадақтаудан бастап, АҚШ-тағы байырғы америкалықтарға жасалған қысымды сынауға дейін қамтыды. Кейбір материалдар Қытайдың «Volt Typhoon» деп аталатын хакерлік тобының әрекетін әшкерелегені үшін АҚШ үкіметі мен Microsoft компаниясын сынады.

Басқа материалдар ағылшын тілінде болды. Оларда әдетте Қытай үкіметінің танымал сыншылары, соның ішінде актер әрі Тибет белсендісі Ричард Гир мен диссидент Цай Ся сыналды. 2023 жылдың соңында ағылшын, жапон, қытай, корей және орыс тілдерінде жасалған бірнеше мақала Жапонияны Фукусима атом электр станциясының⁠(жаңа терезеде ашылады) суын төгіп, Тынық мұхитын ластады деп айыптады. Бұл — Қытайдың ықпал ету операцияларында бұрыннан қолданылып жүрген тақырып.

Шағын әрекеттер тобы Қытайдың Қоғамдық қауіпсіздік министрінің Өзбекстанға сапары туралы қытай тілінде жағымды пікірлер жасауға бағытталды. Spamouflage бұған дейін бұл тақырыпты қозғағаны белгісіз. Дегенмен ол FBI тұжырымы⁠(жаңа терезеде ашылады) тұрғысынан назар аударуға тұрарлық: FBI бұл операцияның әлеуметтік желілердегі бұрынғы кейбір әрекетін Қытайдың Қоғамдық қауіпсіздік министрлігіне теліген.

Желінің кейбір әрекеттері операторлардың жеке қызығушылықтарын көрсеткенге ұқсайды. Мысалы, бір оператор біздің модельдерімізді камера объективтерін зерттеуге пайдаланды. Тағы біреуі біздің модельдерімізді Қытай Коммунистік партиясы мүшелеріне арналған сынақ тапсырмасы сияқты көрінетін жұмысты орындауға пайдаланды.

Spamouflage алғаш рет 2019 жылы жұртшылыққа сипатталғаннан⁠(жаңа терезеде ашылады) бері әлемдегі ең көп зерттелген ықпал ету операцияларының бірі болды. Оның әрекеттері шынайы аудиторияға жеткен жағдайлар өте сирек тіркелген.

ЖИ жасаған мазмұнды пайдалану бұл жағдайды өзгертпеген сияқты. Зерттеу барысында анықтаған блогтардың, мақалалардың және әлеуметтік желідегі аккаунттардың ешқайсысы шынайы адамдардан көп реакция немесе жазылушы жинамады. Кей жағдайларда қолда бар көрсеткіштер олардың жазбаларын тек біздің зерттеу тобымыз көргенін аңғартады.

Ықпал ету операцияларының әсерін 1-ден (ең төмен) 6-ға (ең жоғары) дейін бағалайтын Таралу ауқымы шкаласы⁠(жаңа терезеде ашылады) бойынша мұны 2-санаттағы операция деп бағалар едік: материалдар көптеген платформада жарияланғанымен, олардың желіден тыс адамдар тарапынан айтарлықтай кең таратылғанына дәлел жоқ.

Біз осы науқанға қатысы бар келесі доменді анықтадық.

• revealscum.com